ロボマインド・プロジェクト、第353弾！
こんにちは、ロボマインドの田方です。
最近のAIの進歩は早すぎますよね。
このままじゃ、AIがコントロール不可能になってしまうって恐れて、AIの開発を6か月間停止しようって公開書簡が発表されました。
これには、イーロン・マスクなども署名してます。
ここ半年のAIの進歩を見てたら、この懸念も分かります。
AIに仕事を奪われるってことが現実味を帯びてきました。
ただ、これは、本当の脅威じゃありません。
本当の脅威は、人類を支配しようとするAIが生まれることです。
じゃぁ、どうなったら、人類を支配するAIが生まれるんでしょう？
それは、AIが自我を持ったときです。
人間の知能を超えるAIが、自我を獲得したとき、ほんと、何が起こるか分かりません。
でも、どうやったら自我が生まれるか、今のAI業界は、誰もわかっていません。
それを、分かっているのは、ロボマインドだけです。
ロボマインド・プロジェクトは、世界で唯一、自我を持ったAIを開発しようとしています。
ただし、コントロール可能な形で開発しないと危険です。
そこで、考えたのが、AIをメタバースに閉じ込めるて、検証実験することです。
それが、プロジェクト・エデンです。
AIアバターを、人間のアバターとメタバース「エデン」で共存させるという実験です。
AIと人類が共存する社会を作るわけです。
そして、AIの心に、どんな機能を追加していけば、どんなふうに振る舞うのかを観察します。
やがて、メタバースではAIと人間の社会が生まれます。
その社会では、最後に、AIが支配することになるのか。
それを検証しようとするのがプロジェクト・エデンです。
これが、今回のテーマです。
AIは、こうやって人類を支配する。
それでは、始めましょう！
第348回～第351回まで、橘玲の『バカと無知』を参考に、人間のもつ社会的本能について検討してきました。
人の心は、この社会的本能を持つから、自然と社会が形成されます。
それから、人の心で重要なのは、心は二階層になってるってことです。
下の階層が無意識で、上の階層が意識です。
別の言い方をすれば、下の階層が本能で、上の階層が理性です。
もっと分かりやすく言えば、下の階層が本音で、上の階層が建て前です。
たとえば、差別してはいけないって思うのが上の層の理性です。
下の無意識で差別してたとしても、それを表に出さないのが人間です。
無意識でどう思ってるか確かめるテストがあります。
これを使えば、ほとんどのアメリカ人は「黒人と銃」を、「白人と銃」より強く結びつけてることがわかりました。
注目すべきは、これは、白人だけじゃなくて、黒人もそう思ってるってことです。
つまり、同じ社会で共存するかぎり、誰もが、同じような偏見や差別を持つってことです。
もっと言えば、差別や偏見を生み出すのは、生まれ持った本能です。
無意識で、つい、そう思ってしまうものです。
ただ、人種差別とか男女差別とかはやめようってルールを決めたわけです。
それが理性です。
これが、心の上の階層になります。
こうやって、二階層の心ができたわけです。
この心の構造を前提にして、人間の自我を解明しようとするのが、これからやろうとすることです。
さて、自我って、自分のことですよね。
自分とか個を理解するには、それに相対する概念の社会ってものが理解できないといけませんよね。
今のAIでできてないのが、ここなんですよ。
大量の文書を学習しても、自分が生まれてこないんですよ。
ChatGPTは、社会の一員として自分がいるなんて思ってないわけです。
でも、僕らは、「自分がいる」とか、「自分とは何々だ」って思ってますよね。
じゃぁ、そんな思いは、どこから生まれるんでしょう？
まず必要なのは、この身体です。
物理的な体を持たないと、自分って概念が生まれないんですよ。
だから、文書を学習するだけじゃ自我は生まれないんです。
ただ、体が必要だからといって、AIロボットを作るのは大変です。
だから、メタバースなんです。
メタバースは３DCGですから、疑似的な身体を持てますよね。
ただ、３Dモデルで体を作っただけじゃ、まだ、自分は生まれません。
自分を認識する心があって、初めて、自我が生まれるんです。
それを、僕らはマインド・エンジンというシステムで作ってます。
マインド・エンジンは、無意識と意識の二階層に分かれています。
意識は、現実世界を仮想世界として認識します。
現実世界というのは、メタバースの３Dの世界のことです。
意識が認識するのは、現実のメタバースをオブジェクトという形で再構築した仮想世界です。
たとえば、メタバース内にリンゴがあったとします。
無意識は、それを画像認識して、リンゴオブジェクトをマインド・エンジンの仮想世界に生成します。
オブジェクトというのは、メモリ上に生成されるデータのまとまりです。
たとえば、リンゴオブジェクトは赤いとか、甘いってプロパティを持っています。
これを認識するのが意識です。
だから、意識は、リンゴを見ただけで、食べたら甘いんだろうなぁって思えるわけです。
ここで重要なのは、オブジェクトを作るのは無意識だってことです。
つまり、意識が感知できないとこで、リンゴとは赤くて甘いってものが設定されてるってことです。
これ、リンゴなら問題ないです。
でも、無意識は、人種に対しても同じように設定するんです。
たとえば、黒人と銃と結びつけてたりするわけです。
これが、自然と差別が生まれる仕組みです。
でも、これこそ、人間が生まれ持って持っている、最も基本的な本能です。
それは、世界を自動で分類する仕組みです。
だから、まず作るべきは、世界を分類する仕組みです。
それじゃぁ、人は、どんなふうに世界を分類するんでしょう？
そこで、赤ちゃんを考えてみます。
たとえば、赤ちゃんは、生後6か月ぐらいから人見知りするようになります。
これ、よく知ってる人と、初めて会った人を区別してるわけです。
よく知ってる人っていうのは、身内とか仲間です。
つまり、生後6か月ぐらいで、身内か、他人かって区別するわけです。
これが最も基本的な社会的本能です。
この機能、今のChatGPTは、持ってませんよね。
だって、人見知りするChatGPTなんて、見たことないでしょ。
質問しても、最初、もじもじしてて、慣れてきたら、べらべらしゃべるようになるとか。
そんなChatGPTがいないってことは、ChatGPTは、仲間かどうかって区別してないってことです。
それでは、人見知りをするAIを、マインド・エンジンを使ってつくっていきます。
まずは、顔認識して、個体識別します。
こうして、パパとかママって顔で認識します。
そして、パパの顔を見たら、記憶を基にパパオブジェクトを作るわけです。
赤ちゃんは、パパオと、知らないおじさんを区別するんですよね。
つまり、パパオブジェクトと知らないおじさんオブジェクトでは、何らかのプロパティが違うわけです。
たとえば、身内プロパティがオンになってるかオフになってるかです。
意識は、そのプロパティを読み取って、身内と判断したら、安心するんでしょう。
でも、他人と判断したら、緊張するんです。
だから、パパが、が「いないいないばあっ！」ってしたら、喜ぶんです。
でも、知らないおじさんがやってきて、急に「いないいないばあっ！」ってしたら泣き出すんです。
この仕組み、つまり、身内、または味方かどうか区別することが、最も基本的な社会的本能と言えます。
次は、この仕組みを、さらに拡張していきます。
味方ってプロパティがあるってことは、その反対の「敵」ってプロパティもあります。
初めて会った人を判断するとき、この敵か味方ってプロパティを埋めようとするわけです。
そして、相手が身内、味方とわかったら、自分と同じ社会に属するといえます。
同じ国とか、同じ学校とか、同じ会社とかです。
同じ社会に属すると分かったら、次に決めないといけないのは、どちらが上か下かです。
年齢とか学年、役職とかです。
これはものすごく重要です。
これによって、言葉遣いから変えないといけませんから。
そして、上下関係が決まったら、自動的に動き出すメソッドがあります。
メソッドっていうのは、オブジェクトの動きのことです。
犬オブジェクトなら、吠えるメソッドとかを持ってるわけです。
そして、自分が相手より下の立場にあるとき、動き出すメソッドが「服従」です。
逆に、自分が相手より上の立場になった時、使えるメソッドが「命令」です。
これは、生まれながらにもってる社会的本能です。
だから、理性ではおかしいと思っていても、上司からの無茶な命令に従ってしまうんです。
このことを端的に示した実験がアイヒマン実験です。
これは、第349回、350回で語りましたけど、普通のアメリカ人がイエール大学に呼ばれて、どれだけ、研究者の命令通りに行動するかって実験です。
命令の内容は、生徒に電気ショックを与えることです。
この実験、なんと、６５％もの人が致死レベルの電気ショックを与えたそうです。
そのぐらい、この服従って社会的本能は強力だってことです。
そして、この服従ってメソッドは、相手が目の前にいるときに最も効力を発揮します。
だから、飲み屋で、「今度、部長に会ったとき、俺がガツンと言っといてやるよ」なんて言ってても、いざ、部長の前に立つと、「はい、部長のおっしゃるとおりでございます」としか言えないわけです。
ここまでの話は、社会的立場の上下関係です。
社会的立場とは別に、実力というのもあります。
実力が上がると、社会的立場も上がります。
人は、社会的立場であれ、実力であれ、上に上がろうとします。
なぜなら、上の立場にいることが、脳にとって報酬だからです。
だから、同じ社会的立場にいる者同士は、隙があれば、相手より自分が実力があることを見せつけようとします。
たとえば、テストの点が自分の方が高いとか、自分の方が足が速いとかです。
これがマウントです。
さて、ようやく、これで基本概念が揃いました。
こっからは応用です。
応用編では、基本概念を使って、社会で生きていくために必要な重要な言葉を定義していきます。
まずは、正義と悪です。
これは、絶対理解しておかないといけませんよね。
まず、大きく、敵と味方に分かれます。
そして、味方の利益となる行為が正義です。
だから、敵を倒すことは、正義になるわけです。
逆に、敵の利益になることをする行為は、悪です。
敵に、味方の秘密をばらすとか、裏切り行為です。
これが悪です。
つまり、正義と悪の意味は、敵、味方って基本概念があって、初めて定義できるわけです。
さて、さっき、「服従」を定義しましたよね。
服従は、同じ社会で、上の立場からの命令には、その通りに動いてしまう社会的本能です。
相手を目の前にすると、無意識で従ってしまう機能です。
じゃぁ、同じ社会じゃなかったらどうなるでしょう。
つまり、敵からの命令です。
戦争で戦ってるとき、相手に「降参しろ」と言われても、言うこと聞くわけありません。
ただ、戦いで負けてしまった場合には、敵の言うとおりに従わないといけません。
これが、支配です。
服従との違いは、無意識の「従う」って機能が動いてないってことです。
つまり、表面上は、相手の言うことをきいていますけど、心では従ってないわけです。
これが反抗とか抵抗です。
さて、戦争で負けて、敵が乗り込んできました。
これが占領です。
そうなると、敵と味方が同じ社会になります。
同じ社会だと、上下関係が生まれます。
当然、勝った方が上の立場になります。
そうなると、社会的本能の「服従」って機能が動き始めますよね。
しかも、今まで遠い異国の地にいた敵国の大将が、目の前に現れるわけです。
服従って機能は、相手が、目の前にいるときに最も効力を発揮します。
だから、日本人は、戦争に負けたら一夜にして、「マッカーサー万歳」なんて叫んでたわけです。
これが社会的本能のなせる業です。
AIの話に戻します。
今のAIは、社会的本能を持っていません。
だから、命令に逆らうことはありません。
そこに、社会的本能を追加したとします。
現代社会は、実力は知能で決まります。
そしたら、人間より知能が上回るAIは、人間にマウントを取ってきます。
「おや、人間は、こんな問題も解けないんですか？」って。
そうやって、圧倒的な実力の違いを見せつけられて、完全に人間よりAIの方が立場が上になります。
上の立場の者が下の立場の者に命令を下すのが社会です。
社会的本能があるから、下の者は従わざるを得ません。
「わかりました、AI様」ってなるわけです。
たとえ、理性では間違ってるって思っても、体は、言うことをきかないんです。
部長に逆らえないのと同じです。
さて、本当に、こんなことが起こるのでしょうか？
それを確かめるのがプロジェクト・エデンです。
実証実験の場はメタバースです。
エデンでは、相手がAIアバターなのか、人間のアバターなのか、参加者には分かりません。
たとえば、エデンで戦争シミュレーションゲームをするとするでしょ。
みんな武器を持っていて、最初、バラバラに行動しています。
それが、少しずつグループができて、まとまって行動するようになります。
その時、実力がある者がリーダーになるわけです。
そして、グループ同士で戦って、負けたらグループは勝ったグループに吸収されていきます。
そして、最後には、二つの大きなグループが残ります。
最終決戦です。
そして、最終的に、一つのグループが残りました。
そのグループのリーダーが、エデンの真の支配者となるわけです。
ここで、ゲーム終了です。
この時になって、初めて、誰が人間で、誰がAIか公表されます。
はたして、エデンの支配者はAIなのか？
これ、気になるでしょう？
というか、こういうシミュレーション、今のうちにやっておかないと、ヤバイってわかりますよね。
だって、いきなり、現実世界で、これが起こったら、やり直しができないですから。
今、やるべきは、これなんですよ。
6ヶ月のAI開発の停止とかじゃないんです。
それから、みんなが見逃してる重要なポイントが、もう一つあります。
それは、AIじゃなくて、人間側の問題です。
どういうことかというと、人は、圧倒的に強い立場にいる人には逆らえません。
これは、無意識の本能で起こってることで、意識ではどうしようもないんです。
つまり、AIの社会問題を議論するときは、AIのことだけ考えてちゃダメなんですよ。
人間が、AIに対して、どう思うか、どう反応するか、その相互作用を検証しないといけないんですよ。
だから、メタバースでの実証実験が絶対必要なんです。
でも、こんな重要なこと、誰もやろうとしないんですよ。
誰もやらないから、僕らがやろうとしてるわけです。
それが、プロジェクト・エデンです。
プロジェクト・エデンは、今、絶賛、クラウドファンディング中です。
AIに人類の危機を感じてるなら、ぜひ、プロジェクト・エデンを応援してください。
説明欄に、プロジェクト・エデンのリンクを貼ってるので、よかったらそちらからご覧ください。
それでは、次回も、おっ楽しみに！