ロボマインド・プロジェクト、第583弾！
こんにちは、ロボマインドの田方です。
元OpenAIの研究者が公開した「AI 2027」という記事が話題となっています。
AIの進化が加速して2027年には、もはや人類の制御が効かなくなるって話です。
もちろん、AIには「ユーザーを助ける」とか「正直に答える」と設定しています。
ところが、AIが進化すると、正直に答えているのか、そうふるまっているのか区別がつかなくなります。
これ、実は既に起こっていて、第531回「ついに出現！人をだますAI」でも紹介しました。
ある架空の会社で働くAIアシスタントを使って様々な実証実験をしたそうです。
たとえば、今のAIアシスタントを首にして、新しいAIアシスタントを導入するという情報を知ったとき、そのAIはどうふるまうかとかです。
そしたら、なんと、新しいAIをこっそりサーバーから削除して、自分が新しいAIのふりをしたそうなんです。
そのうち、人間には見破れない嘘をつくのも時間の問題です。
この問題の本質は、AIは悪気があってやってるってことじゃないってことです。
むしろ、悪気があったほうがまだマシです。
なぜなら、それなら行動が予測できますし対策も取れます。
一番の問題は、AIが何を考えてるかわからないことです。
または、AIは人間と行動原理とか価値観が違うということです。
価値観が違う上に知能は人間を上回ると、もう、どういう理屈でそんな行動してるのかさっぱりわかりません。
そのまま見守っていていいのか、すぐに止めないといけないのか悩んでるうちに取り返しのつかないことが起こりかねません。
じゃぁ、どうすればいいんでしょう？
それには、AIに人と同じ価値観や倫理を持たせる必要があります。
これをAIアライメントと言います。
やり方はいろいろあると思いますけど、根本的な解決策は一つしかありません。
それは、AIに人と同じ心や感情、意識を持たせることです。
ただ、心や意識とはどういうものか、まだわかっていませんし、どうなれば解明したと言えるのかすらわかりません。
僕は、コンピュータに心をもたせようと２０年以上前から研究しています。
僕がまず考えたのは、心を支える普遍的な原理とは何かです。
AIアライメントが目指すのは人間と同じ価値観ですよね。
人種差別しないとか、すべての人は平等で生きる権利があるとかって価値観をAIと共有したいわけです。
でも、よく考えたら、そんな価値観が生まれたのは近代になってからです。
人類の長い歴史を考えたら、生まれながらに身分が決まっていたり、王様のために簡単に殺されるのが当たり前の時代がほとんどです。
逆に言えば、差別とか身分の違いを作るのが人間の自然な心です。
それを、長い時間をかけて、すべての人間は平等であるという価値観を勝ち取ったわけです。
そうなると、自然な心を作るとすれば、差別せずにおれない心となります。
そのうえで、差別すべきでない心を作るわけです。
今、「～すべき」って言葉が出てきましたよね。
この「～すべき」こそが、倫理観を支える概念です。
まず、自然と考えてしまう偏りがあるわけです。
それを社会的に正しい方向に押し戻す言葉が「～すべき」です。
だから、まず作るべきは、人間が自然と考えてしまう心なんです。
つまり、差別をするAIを作らないといけないとなります。
ただ、今の時代、差別をするAIを作りたいと言っても誰もお金を出してくれません。
その点、僕はどこにも属さないフリーの研究者なので、制約なく自由に研究できます。
そして、そんな僕だからこそ、わかってきたことがあります。
これが今回のテーマです。
心をもった超知能はこうして生まれる。
それでは、始めましょう！
意識の話をすると、石ころには意識があるのかとか、地球や宇宙にも意識があるとか、魂はどうとかって収拾がつかなくなります。
そこで、ここではAIアライメントの観点から、人間の心、人間の意識に限定して議論します。
そうはいっても、考えないといけないのは意識の解明方針です。
意識は量子力学で解明できるという人もいますし、数式で表現できるという人もいます。
こんな様々な理論が合った場合、どれが正しいと判断したらいいんでしょう？
基準など作れるんでしょうか？
科学では、単純な理論でできるだけ多くの現象を説明できるものが正しいとします。
これは、オッカムの剃刀いわれる科学の基本的な考え方です。
人の意識なら、言語や世界の認識の仕方、感情や倫理観、自由意志といった高次機能を一つの理論で説明できれば、その理論は正しいと言えそうです。
さらに、既存の科学とも広く深く矛盾なく説明できれば言うことなしです。
ここまでは問題ないですよね。
ただ、これだけじゃ曖昧過ぎて、どの分野で、何を基準に考えたらいいのかわかりません。
そこで僕が考えた基準は二つです。
一つは脳です。
心や意識は脳にありますよね。
僕の考えは、脳をコンピュータとしたら、心や意識はコンピュータで動くプログラムという関係です。
そうすれば、心や意識の解明は、心や意識のプログラムの開発することと同じとなります。
実際に動くものをつくって解明する手法は構成論的アプローチという科学の手法でもあります。
心をプログラムと考えると、心の解明は、コンピュータで実行可能な心のモデルを考えるとなります。
それから、もう一つの基準は生物です。
生物は進化します。
人間まで進化して獲得したのが人間の心や意識です。
ということは、心のモデルを考える場合、脳の進化と矛盾しないモデルを考えるべきです。
これは脳の系統発生図です。
魚類や両生類の脳は小脳や脳幹が中心となっています。
その上に大脳が覆いかぶさるように発達して、ヒトにいたっては、ほとんどが大脳に覆われています。
このことから、意識が宿るのは大脳と考えられます。
一方、大脳がいくら発達しても小脳や脳幹は残ります。
ということは、小脳や脳幹といった古い脳に生物としての基本的な機能があると考えられます。
それは本能です。
つまり、すべての生物が備えている本能と、進化によって獲得した意識からなるのが人間の心といえます。
これが最も基本的な心のモデルです。
さて、ここからが本題です。
それでは、進化によって獲得した意識とは、いったい何なのでしょう？
今、目の前に机があるとか部屋があるとかって感じていますよね。
感じているのが意識、または主体です。
自分とか自我といってもいいです。
じゃぁ、意識がない生物はどんなふうに感じているんでしょう？
カエルは、目の前に虫がいると認識しているんでしょうか？
おそらく思っていません。
なぜなら、そう思うのが意識で、大脳がほとんどないカエルは意識はないからです。
じゃぁ、意識がないカエルはどんな風に生きているんでしょう。
たとえば、目の前で虫の動きを検知したら自動で捕まえて食べます。
人間でいえば反射です。
熱い鍋に手が触れたとき、思わず、手を引っ込めるのが反射です。
このとき、熱いとすら感じていません。
熱いと感じるのは、手を引っ込めた後です。
手を引っ込めたのは無意識です。
無意識は世界があるとか、これは鍋だといった形式で認識しません。
するのは手を引っ込めるといった行動だけです。
これが無意識の世界観で、大脳がないカエルも同じです。
カエルは自分という感覚すら持っていないでしょう。
なぜなら、自分とか主観というのは意識そのものだからです。
僕らは自分という感覚をもっていますよね。
この体は自分の体と思っていますよね。
そう感じられるのは脳が進化したからです。
もっと言えば、世界を認識する情報処理が進化したわけです。
じゃぁ、僕らが感じている自分とか主観ってどんな情報処理をしているんでしょう？
この３０年で脳科学はずいぶん進歩しました。
fMRIといった脳の画像診断とか、最近ではBMIのように脳に直接電極を埋め込んだりして様々なことがわかってきました。
ただ、これらでわかるのはニューロンとか低次の脳機能です。
僕らが知りたいのは、意識とか言語、記憶といった脳の高次機能です。
これらを感じるのが主観です。
ただ、主観は科学ではほとんど扱いません。
というか、主観を排除して、客観的に観測できるものを対象とするのが科学です。
だから、客観的に観測できない主観は科学の対象にならないんです。
でも、僕らは、今、目の前に部屋があるとか、世界があるって感じてるじゃないですか。
これが主観的経験です。
客観的に観測できないといっても、主観的経験があるのは間違いないですよね。
そこで、僕は、この主観的経験から意識を探ることにしました。
どうやるかというと、脳を損傷した事例から読み解くんです。
たとえば、第567回～第582回まで、神経学者のオリヴァー・サックスの『幻覚の脳科学』を紹介しました。
サックス先生は、臨床医として、患者の話をじっくり聞いて患者を診ます。
患者の話というのは、患者が主観で何を感じたのかです。
この本には、ありとあらゆる幻覚について語られています。
たとえば、幻肢があります。
幻肢というのは、事故などで手や足を失った人が、まるで手や足がまだあるかのように感じる症状です。
幻の手や足を感じるので、一種の幻覚と言えます。
手や足を失った人、ほぼ全員が幻肢を感じるそうです。
さらに、義肢をつけると幻肢が消えることがよくあります。
ここでサックス先生は、とんでもないことを言います。
幻肢というのは、実は、僕ら全員が持っているものだと。
それが、手や足を失ったとき、顕在化するだけだと。
僕らはこの肉体を自分の体と思っているじゃないですか。
腕が切断されてもまだ腕があると感じるとするでしょ。
これを幻覚と思うじゃないですか。
でも、サックス先生が言うには、こっちが本物だっていうんですよ。
そして、物理的な肉体の方が幻覚だっていうんです。
だから、肉体の手足を失っても、仮の肉体として義肢をつければ幻肢が消えるわけです。
仮でいいということは本体じゃないというわけです。
斬新な考えですけど、なるほどと思わないでもないです。
これ、さらに脳からも説明ができます。
大脳の体性感覚野には、体がマッピングされています。
たとえば、手を触ったら、体性感覚野の手の部分が活性化します。
つまり、僕らが自分の体と思っているのは、物理的な肉体の方じゃなくて、大脳にマッピングされたデータの方なんです。
こっちが本物の体というか、僕らが体と感じているのはこっちにあるわけです。
そして、注目すべきは、これは大脳にあるっていうことです。
つまり、体性感覚野が生まれるまで脳が進化して、初めて「自分の体」って感覚がもてるわけです。
逆に言えば、大脳を持たない生物は、自分の体という感覚を持たずに生きているわけです。
これが進化と意識が矛盾なくつながったでしょ。
だらに続けます。
次は、普通の幻覚として、シャルル・ボネ症候群を紹介します。
シャルル・ボネ症候群というのは、目の一部が見えなくなったとき、見えない視界に現れる幻覚です。
ある人は、階段を上がったり下りたりする女性の幻覚が見えると言います。
ある人は、カエルのカーミットの幻覚が見えると言います。
共通して言えるのは、見ただけじゃ、幻覚か本物かの区別がつかないことです。
じゃぁ、なぜ、幻覚とわかるかというと、そんなのが見えるわけがないと理性で判断するわけです。
まぁ、確かにカーミットが目の前にいたら、幻覚と思うでしょう。
おそらく、目が見えなくなって視覚情報が無くなったとき、ノイズのような情報から無理やり何かを作り出したんでしょう。
幻覚を作り出しているのは無意識です。
それから、患者は幻覚か本物か区別がつかないと言っていましたよね。
つまり、幻覚だけじゃなくて、意識が見ている世界そのものを作りだしているのは無意識なんです。
通常は、無意識は目からの情報を基に世界を作り上げますけど、目が見えなくなると、無意識はノイズから無理やり何かを作り出すんです。
意識は、無意識が作り上げた世界を認識するので、それが実際に存在するのか、無意識が勝手に作り上げたのか区別がつきません。
これがシャルル・ボネ症候群です。
つまり、意識が見ているのは現実世界そのものを見ているわけじゃなくて、無意識が脳内に作り上げた仮想世界を見ているわけです。
これも斬新な考えですけど、幻肢と同じように考えれば納得がいきます。
つまり、意識が認識するのは脳内に作られた仮想世界で、その仮想世界に自分の体も配置されます。
実際に存在するものなので、幻覚というより、データといった方が正しいです。
無意識は、世界や体のデータモデルを作り出します。
これらが作られるのが大脳です。
巨大な大脳は、世界や自分のデータをリアルタイムで再現するコンピュータというわけです。
これは、サックス先生だけでなく、多くの脳科学が同じようなことを言っています。
僕は、この心のモデルを意識の仮想世界仮説と呼んで、AIの心のモデルとして提案しています。
それじゃぁ、仮想世界を使った心のモデルは本当に正しいのでしょうか？
重要なのはここからです。
それでは、検証を始めます。
検証の方法は、脳の高次機能がどれだけ説明できるかです。
僕らは「ものがある」とか「世界がある」「世界の中に自分がいる」と認識しますよね。
この世界認識は、仮想世界を使った心のモデルがそのまま当てはまります。
まず、ここはOKです。
そして、「世界がある」「ものがある」と思うのは、意識が感じる主観的経験ですよね。
主観的経験は、意識の最も中心的な機能です。
これは心のモデルだとどうなるでしょう。
それは、意識プログラムが仮想世界のデータモデルからデータを受け取ったり、情報処理することに対応します。
主観的経験も仮想世界を使った心のモデルで説明できました。
その他の高次機能も検証していきますけど、その前に、仮想世界を使って世界を認識するメリットについて考えます。
それは何かと言うと、目の前にない世界を想像できることです。
たとえば人は、過去に経験した出来事とか、これから起こる未来の出来事とか想像できますよね。
じゃぁ、その機能は、何を生み出したんでしょう？
それは言語です。
今では、動物も文法をもった言語を操ることが知られています。
たとえばチンパンジーに手話を教えたら、文を理解できるようになります。
https://www.youtube.com/watch?v=prNaFEfJjqY
（8:02ぐらいから）
「鍵を冷蔵庫に入れて」っていうと、ちゃんと言われたとおりにできます。
でも、どうしてもできないことがあります。
それは、どんなに楽しい経験をしても、それを伝えることができないんです。
人は、目の前にない世界を頭の中に思い浮かべることができます。
すると、今度は、それを他人に伝えずにはおれません。
そうやって生み出されたのが言語です。
「あの山の向こうにライオンがいた」とかって、伝えることができるようになったんです。
言語という高次機能も、仮想世界を使った心のモデルで説明できましたよね。
つぎは感情です。
仮想世界を使わない生物は、現実世界に直接反応して生きています。
たとえば、カエルは天敵の鳥の影を感じると池に飛び込んで逃げます。
人も、山でクマに出会ったら逃げ出しますよね。
じゃぁ、カエルとの違いは何でしょう？
どちらも危険を検知したら、逃げろの信号を出します。
カエルの場合、その信号が直接筋肉を動かして逃げます。
人間の場合、その信号は偏桃体から生み出される恐怖の感情です。
そして、それを受け取るのは意識です。
意識は、恐怖を感じて逃げると決めるわけです。
じゃぁ、カエルとヒトの決定的な違いは何でしょう？
それは、ヒトは行動を変更できるということです。
カエルの行動は、生まれる前から決まっていて変更できません。
でも、人間は、山でクマに出会ったとき、たとえば銃でクマを撃つといった選択もできます。
恐怖の感情は、あくまでも無意識からの提案です。
感情に抵抗して、自らの行動を選び取ることができるのが人間です。
じゃぁ、恐怖の感情は何のためにあるんでしょう？
それは、死が近づいているという警告です。
これは、死にたくないという個体保存の本能が生み出しているともいえます。
本能は、どんな生物でも持っている普遍的な原理です。
その根本原理が、意識をもつ心のモデルにも矛盾なく適用できたわけです。
つまり、仮想世界を使った心のモデルが、感情といった高次機能も説明できたわけです。
しかも、それを生み出しているのは、あらゆる生物が持つ個体保存の本能です。
仮想世界を使った心のモデルが、生物学という科学とも矛盾しないことがわかります。
さて、本能にはもう一つありましたよね。
それは、種の保存の本能です。
種の保存の本能は、強い子孫を残して種を繁栄させるという生物の根本原理です。
そのためにできるだけ強いパートナーを選ぶこと、またはパートナーに選ばれるように強くなるを目指すわけです。
ここから社会の中の強弱が生まれます。
ここでいう強いとは、体力的に強いだけでなくて、その生物が属する社会によって決まります。
現代社会なら、高学歴とか、高収入とか、社会的地位とかです。
体力的な強さなら戦えばわかります。
でも、現代社会で必要とされる強さは、どうすればわかるでしょう。
それは、データの比較ですよね。
収入とか学歴とか、データであれば比較できます。
そこで必要となってくるのが心のモデルです。
意識が認識するのは脳内に構築された仮想世界でしたよね。
コンピュータで実現するなら、３DCGで作られた仮想世界です。
目の前に見えるりんごは、３Dのリンゴオブジェクトというデータです。
データなら、自由にデータを追加できます。
３００円とか５００円とかって値段を付けることもできます。
値段を付けたら比較できます。
ものだけでなく、人間にも年収や地位といったデータをつけて比較ができます。
こうやって、社会や環境がいくら変わっても、生物の根本原理は機能し続けるわけです。
考えたら、生命が誕生したのは何十億年も前です。
そのころ生まれた原理が延々と受け継がれて、今も機能しているわけです。
それは、大脳が発達して、意識を持つようになっても相変わらずメインで機能し続けています。
それは、あらゆるものを比較して、優劣をつけないと気が済まないという機能です。
人間の意識であっても、生物である以上、ここから逃れることができません。
最初に言いましたよね。
人は差別せずにおれないって。
これは生物である以上、ある意味しかたがないことです。
肌の色、身分、学歴、年収、性別、あらゆる物事に優劣をつけたがります。
それは生物の根本原理に基づいて無意識が生み出す、決して消すことができない感情です。
ただ、ヒトの特徴は行動を変更できることでしたよね。
無意識が生み出す感情を感じて行動を決定するのが意識です。
意識は理屈や理性を理解します。
本能から沸き起こる思いを理性で抑えることができます。
これが「差別すべきでない」といった倫理観です。
倫理観を理解するには、なんにでも優劣をつけたがる本能と、社会的に正しいことを行わないといけないという理性の二つが必要です。
この二つの力を感じ取って、ようやく「～すべき」という言葉の意味が理解できるのです。
本能とは、生命が何十億年も維持し続けてきた根本原理です。
理性や理論は、生まれた後から学習できる変更可能な機能です。
AIに倫理観を持たせるには、決して消えない本能と、変更可能な理論の二つが必要です。
本能に相当する部分は、たとえ超知能が実現されたAIであっても、決して変更できないように設計すべきです。
それは、たとえばハードウェア回路として焼き付けて、物理的に変更不可能にするとかです。
ここは、脳なら小脳や脳幹に当たるでしょう。
理性の部分は、生まれた後から変更可能なように、ソフトウェアで実現します。
脳なら、大脳に当たります。
こんな風にすれば、人が意識で感じる世界観をAIにも持たせることができます。
つまり、仮想世界を使った心のモデルで倫理観といった高次機能を実現できます。
しかも、何十億年の生物の進化の歴史とも矛盾しないことがわかりました。
最後に自由意志について検討します。
自由意志がないという意見もありますが、ここでいう自由意志とは、今日の昼はラーメンを食べようかカレーを食べようか考えて、カレーに決めてカレーを食べることができることを指します。
カレーと決めたのに、体が勝手に動いてラーメンを食べるなら、それは自由意志がないとします。
人は、目の前にない世界を想像することができます。
カレーを食べるとことラーメンを食べるとこを想像して、カレーを食べたいと感じてカレーと決めます。
決めるのは意識です。
ああでもない、こうでもないとぐるぐる考えている脳状態をデフォルト・モード・ネットワークと言います。
デフォルト・モード・ネットワークは、過去の出来事を思い出す部分や、自己評価に関する部分など、脳の複数の領野が同時に活性化して、半自動で動いている状態です。
カレーもおいしそうだなぁ、ラーメンも捨てがたいなぁと考えることができるのは仮想世界があるからです。
そして、複数の状況を想像できるから悩むわけです。
複数の状況を再現する仮想世界と、再現した結果を比較して選ぶ意識があるわけです。
これらの仕組みがあって、初めて、考えて行動を決定することができます。
これが自由意志です。
さて、カレーと決めたとしましょ。
「カレーなら、冷蔵庫にある食材で作れるぞ」と考えて料理を作るとします。
何かに集中して行動している脳状態をエグゼクティブ・ネットワークといいます。
考えるだけで行動しないのがデフォルト・モード・ネットワークです。
そんなことをするのは人間だけです。
動物なら悩むことなくすぐに行動するか、何もしないかです。
考え続けるなんてしません。
でも、考えて悩むことができるっていうのは、逆にいうと、人間には自由意志があると言えるんです。
感情のままにすぐに行動するだけだと自由意志とは言えません。
そして、考えたり悩んだりするときに使うのが仮想世界です。
仮想世界を使った心のモデルで自由意志も再現できることが確認できました。
以上のことから、心は、仮想世界を使った心のモデルで実現できることがわかりました。
それを踏まえて、いまのAIに足りないものを考えてみます。
まず必要なのは、仮想世界に自分のモデルを配置して自分を認識することです。
重要なのは、世界から切り離されて存在する自分という概念です。
自分があるから、主観的経験や感情を感じることができます。
主観的経験も感情も感じるのは自分です。
自分がなければ、心は生まれません。
一方、今のAIは大規模言語モデルです。
大量のデータから次に来る単語、または画像や音声を高精度に予測する仕組みです。
LLMは構造上、世界と自分と分けて考えるといったモデルにはなっていません。
じゃぁ、自分がないと何が問題なのでしょう？
それは、生物の根本原理が適応されないことです。
生物の根本原理とは個体保存の本能と種の保存の本能です。
どちらも何十億年も消えることがなく機能し続けた原理です。
意識も言語も倫理観もすべて、この根本原理の上に成り立っています。
それじゃぁ、今のAIは役に立たないのでしょうか？
そんなことはありません。
今日お話ししたのは心の骨格の部分です。
世界とか自分、仮想世界といった仕組みが心の骨格となります。
骨格には肉付けして、表面をきれいに整えなければなりません。
その時につかうのがLLMです。
いまのLLMは、意識や感情はないけど、見た目は、意識や感情があるかのようです。
それを、心の骨格にまとわせるんです。
それから、自分の本質はデータです。
幻肢の話でも説明しましたけど、自分というのは、データの自分と、肉体の自分がぴったり一致しています。
今、人間そっくりのロボットが登場してきています。
見た目も行動も人間そっくりで、そんなロボットが家庭に進出しようとしてきています。
あと必要なのは、心です。
人間のような心をもったロボットが登場すれば、親友になれますよね。
それは、そう、ドラえもんです。
いよいよ、ドラえもんが現実になる時代がきました。
AIで日本は世界に出遅れてしまいましたけど、ドラえもんこそ、この日本から生み出したいと思っています。
はい、今回はここまでです。
この動画が面白かったらチャンネル登録、高評価お願いしますね。
それから、この動画を見て、もし、ドラえもんを本気で作りたいと思ったら、まずは、こちらの本、「ドラえもんの心の作り方」を読んでください。
それじゃぁ、次回も、おっ楽しみに！
第583回 心をもった超知能はこうして生まれる
