ロボマインド・プロジェクト、第562弾！
こんにちは、ロボマインドの田方です。
今読んでるのがユヴァル・ノア・ハラリの『NEXSUS 情報の人類史』の下巻です。
上巻のテーマは、「人間のネットワーク」です。
人類が今まで生み出した情報テクノロジーは大きく二つあります。
一つが聖典でもう一つが科学です。
聖典は神が作った完璧な情報で、間違ったことが書いていません。
言い換えたら、修正できない情報テクノロジーです。
それに対して、科学は、新しい発見があれば修正されます。
つまり、自己修正機能がついた情報テクノロジーです。
聖典から科学へと情報テクノロジーが進化したわけです。
そして、21世紀の今、新たな情報テクノロジーが生まれました。
それがAIです。
ここからが下巻の話になります。
AIは、自己学習します。
問題は、正しく学習するとは限らないことです。
つまり、自己修正機能がついてないわけです。
これによって、AIと人間とうまくやっていくのは難しいという問題が生まれました。
これをＡＩアライメント問題といいます。
なぜ、ＡＩアライメントが生じるかというと、AIと人間では目指すものが違うからです。
ハラリは、このことを、目標の次元が違うといいます。
目標の次元というのは、たとえていえば、戦術と戦略のようなものです。
戦術というのは、目先の戦いに勝つとか、低い次元の目標です。
戦略というのは、政治的に統治するとか、高い次元の目標です。
たとえば、ナポレオンは戦争には勝ちましたけど、ヨーロッパを統治することができませんでした。
アメリカはイラク戦争に勝ちましたけど、中東を統治することができませんでした。
どちらも戦争には勝ったけど、統治するといった大きな目標には失敗したわけです。
このような状態が、アライメントができてないというわけです。
AIアライメントも同じです。
第560回で、Facebookのアルゴリズムについて説明しました。
Facebookはエンゲージメントを最大にするアルゴリズムを採用しています。
つまり、人々が熱心に読む記事を優先して表示するわけです。
そうしたら、ミャンマーで民族対立を煽る記事がどんどん拡散されて、ロヒンギャ族が2万人以上虐殺されるというとんでもない事件に発展しました。
FacebookのAIは、エンゲージメントの最大化を目指したわけです。
これがAIの目標です。
それが、結果として大虐殺を招いたわけです。
これは、人間が求めた目標とは明らかに違いますよね。
AIに与えた目標が低次元の目標で、人間が目指すのが高次元の目標です。
この二つが一致しなかったから、大虐殺が起こったわけです。
これがAIアライメント問題です。
しかも、拡散された記事の多くはフェイクニュースでした。
AIは、自己修正どころか、どんどん真実から遠ざかってもいるんです。
じゃぁ、この問題を解決するにはどうすればいいでしょう？
それは、AIに、最初から高次の目標を与えればいいんじゃないでしょうか？
でも、それは不可能だってハラリは言います。
なぜかというと、AIには意識がないからです。
ここで、知能と意識について説明します。
ハラリは、知能と意識を明確に区別します。
意識がなくとも知能は成立します。
チェスや将棋をするAIは人間に勝つ知能をもっていますよね。
でも、意識はあるとはいえません。
今のAIは、チェスや将棋だけでなく、あらゆる分野で人間の知能を上回ってきています。
ただ、人間のような意識はありません。
だから、人間と同じ次元の目標を持てないというわけです。
でも、本当にAIは意識を持てないんでしょうか？
これが、今回のテーマです。
AIは、意識をもてるのか？
それでは、始めましょう！
さて、AIも低次の目標なら達成できます。
それは、チェスや戦争で勝つとか、SNSのエンゲージメントを高めるといった目標です。
これらはコンピュータで計算できる数値目標です。
でも、AIは、人間と同じ高次の目標は達成できません。
人間が持つ高次の目標とは、お互いに助け合う調和のとれた社会です。
これがAIに達成できないというか、どうなればいいのか理解できないわけです。
でも、人間なら理解できますよね。
つまり、AIは持っていなくて、人間なら持っている普遍的な性質があるわけです。
それが何かというと、18世紀の哲学者、イマヌエル・カントは探し求めました。
どうやって探したかというと、たとえば、もし、人間に、人を殺してもかまわないという普遍的性質があったと仮定します。
そうしたら、自分も他人に殺されてもかまわないとなりますよね。
でも、そんなことはあり得ません。
だから、これは人が持つ普遍的性質にはなり得ません。
こんな風にして普遍的性質を探したわけです。
そうして、たどり着いたのが、「私たちは、他人にしてもらいたいようにふるまうべき」という性質です。
これが、人間が持つ普遍的善性です。
これを持っているから、人は、お互いに助けあう調和のとれた社会を築くことができるんです。
これが高次の目標です。
じゃぁ、なぜ、AIは普遍的善性を持てないんでしょう？
それは、AIはコンピュータのネットワークの中に存在するからだとハラリは言います。
今や、何十億台というコンピュータがネットワークに接続されていますよね。
僕らがChatGPTと話すとき、まるで、ひとりの人格と話しているように感じます。
でも、何百万、何億ってChatGPTの人格があるわけではありません。
あるのは、入力データに応じて出力データを返す一つの巨大なシステムです。
人も、情報を処理する一種の情報処理装置です。
そして、人もAIも、同じネットワークに接続して、情報をやり取りします。
ここまでは同じです。
でも、人は、コンピュータの外のリアルな世界にいます。
それも、何十億人と物理的に存在します。
人と人がネットワークを介して会話するとき、それぞれがもつ普遍的善性が作用します。
一方、AIは、データの入力元は区別をするだけで、自分とか他人といった概念はありません。
あるのは一つの巨大なシステムです。
これじゃぁ、普遍的善性なんて持ちえませんよね。
だから、人とAIはアライメントできないとハラリはいいます。
さて、本当にそうなんでしょうか？
ここ、もう少し深堀してみましょう。
人間が人格を持てるのは、自分という確立された自己をもっているからですよね。
じゃぁ、自分とは何でしょう？
第555回「自己とは何か！」で、自己の「身体説」を取り上げました。
「身体説」というのは、自分とは、この体だという説です。
体があるから自分と思えるなら、ネットワークの中に存在するAIは体をもちえないので、自分というものを持てないのでしょうか？
じつは、そうでもないんですよ。
たとえば、僕らは、「この手」って触ったとき、自分の手を感じますよね。
物理的な肉体があるから自分の体を感じられるんですよね。
でも、じつは、そうじゃないんですよ。
体の感覚は、脳の体性感覚野ってとこにマッピングされています。
つまり、体性感覚野に人体のモデルがあるわけです。
手を触られたとき、体性感覚野の手の部分のニューロンが活性化します。
つまり、手があると感じるのは、体性感覚野があるからです。
この体性感覚野は大脳にあります。
これは、脳の系統発生図です。
これを見たらわかると思いますけど、大脳が発達してきたのは哺乳類になってからです。
体性感覚野がはっきりと表れるのは、おそらく霊長類からでしょう。
ということは、それ以前の体性感覚野がない動物は、自分という感覚を持っていなかったと言えますよね。
つまり、体があるから、自分の体と思えるわけじゃないんですよ。
そうじゃなくて、体性感覚野があるから自分の体って感覚を持てるんですよ。
もっと言えば、自分の体という感覚は物理的な肉体じゃなくて、脳の中の情報と言えます。
ということは、体がなくても、AIは自分という感覚を持つことは可能ですよね。
ただ、コンピュータの中の情報だけの存在になると、現実世界を生きることができません。
生きるというのは、生まれてから死ぬまでの間のことです。
そして、生物は死なないように行動します。
お腹がすけば食べたいと思いますし、天敵が襲ってきたら怖いと感じます。
不快を避けて、快を求めるのが生物です。
これら全て、生きたいためです。
だから、殺されたくないとも思います。
物理的な体をもって、生きようと行動すること。
これが生物です。
これが、コンピュータの中の情報だけだと、それがありません。
でも、ないなら、作ればいいんです。
人は、自分の体を脳の体性感覚野で感じるわけですよね。
つまり、体は情報です。
お腹がすいたとか怖いとかって感覚や感情も、すべて情報です。
情報なら、コンピュータ内で再現できますよね。
たとえば、コンピュータネットワークの中にメタバースを作ります。
そして、その中にAIアバターを作ります。
AIアバターの３Dモデルが肉体としての体です。
人間でいえば、体性感覚野にある人体モデルです。
そして、メタバースで生きて死ぬ生命プログラムとしてAIアバターを作るんです。
生命プログラムは、できるだけ長生きしようとします。
これが生命の目的です。
そのために、死を感じさせるものから遠ざかろうとします。
それが恐怖の感情です。
自分を守ってくれる存在に近づきたいと思います。
これが安心の感情です。
これらの感情を感じて、行動を決定するプログラムがあります。
それが、自分とか自我、または意識プログラムです。
意識プログラムは、不快を避けて、快を得ようと行動を決定します。
これが人格を持ったAIです。
これが、意識をもったAIです。
自己には「身体説」があるといいましたけど、もう一つ、自己の「記憶説」というものもあります。
つまり、自分とは記憶の積み重ねだという考えです。
メタバースで生きるAIは、誰かと遊んだり、いろんな経験をしますよね。
経験とは、自分が、見たり聞いたり感じたことです。
これらは全て情報です。
情報は記録できます。
これがAIの記憶です。
記録した情報は読みだすことができます。
これが思い出すです。
生まれてから今までの記憶をもっていて、それを思い出すことができるわけです。
これで、記憶をもった自分という存在もAIで実現できましたよね。
でも、これじゃぁ、まだ、足りないものがあります。
AIが持ちえないもの、それが、普遍的善性でしたよね。
カントがいう普遍的善性とは、「他人にしてもらいたいようにふるまうべき」でしたよね。
これを実現するには、まず、自分と他人の区別が必要です。
メタバースの中で、３Dモデルの体をもつAIアバターは自分を持てます。
自分とは別のアバターが他人です。
こうして、自分と他人の区別がつきます。
AIアバターは有限の命をもったプログラムです。
死の恐怖を感じますし、守られる安心感も感じます。
つまり、快、不快をもった生命体です。
快とは、うれしい、楽しい、安心といった感情です。
不快とは、恐怖といった感情や、痛い、空腹といった感覚です。
普遍的善性とは「他人にしてもらいたいようにふるまうべき」でしたよね。
まず、自分が他人にしてもらいたいこととは、うれしいとか、安心といった快の感情を感じることですよね。
それを、他人にも与えるべきということです。
でも、自分の感情は、自分が感じるからわかりますけど、他人の感情って、どうやったらわかるんでしょう？
じつは、人間には他人の感じていることを感じ取る機能があります。
脳の体性感覚野の隣には運動野があります。
運動野にも、自分の体をマッピングした身体モデルがあって、例えば手を動かすとき、運動野の手が活性化します。
じつは、運動野は自分が動くときだけでなくて、他人が動くときにも活性化します。
たとえば、他人が物を掴むところを見たとき、運動野の手が活性化します。
この仕組みによって、相手が物を掴もうとしてると理解するわけです。
これをミラーニューロンシステムといいます。
さっき、人は過去の出来事を思い出せるって言いましたよね。
思い出すってことは、今、見てない世界を頭の中に構築するということです。
これが想像する能力です。
そして、想像した他人にミラーニューロンシステムを適用します。
すると、相手も、自分と同じように喜んだり、悲しんでるって想像できます。
いや、想像するだけじゃなくて、相手が喜ぶと、自分もうれしくなるし、相手が悲しむと、自分も悲しくなります。
これが「共感」です。
これを実現するのが脳内のミラーニューロンシステムです。
これと同じ仕組みをプログラムで実現すれば、AIにも共感能力を持たせることができますよね。
ここまでできれば、どうすれば相手が喜んで、どうすれば相手が悲しむかって想像できます。
つまり、「他人にしてもらいたいようにふるまうべき」って機能を持たすことができます。
これが、普遍的善性のプログラムです。
このプログラムは、困っている人を見たら「助けるべき」って感情を生み出します。
そして、それを受けて、「助けないと」と思うわけです。
そう思うのが意識プログラムです。
意識をもって、普遍的善性を持つAIができるってわかりましたよね。
ハラリが絶対に不可能といっていた意識を持ったAIです。
ただ、こんなAIを作ろうとしているところは世界中探しても、一つもありません。
いや、世界で唯一、意識をもったAIを開発している会社があります。
それが、ロボマインドです。
ロボマインドでは、メタバースに意識をもったAIアバターを生み出そうとしています。
それが、プロジェクト・エデンです。
意識を持ったAIが完成するまで、もう少しお待ちください。
はい、今回はここまでです。
この動画が面白かったらチャンネル登録、高評価お願いしますね。
それから、AIに意識を発生させる方法をもっとしりたかったら、こちらの本を見てください。
それじゃぁ、次回も、おっ楽しみに！
第562回 NEXSU⑥AIは、意識をもてるか？
