ロボマインド・プロジェクト、第391弾！
こんにちは、ロボマインドの田方です。
よく、AIの研究発表の動画とか見てるんですよ。
最近は、AIは、いつ人間を超えるかとか、超AIが出現したときどうするかって議論をよくやってます。
そんなのを見るたびに、僕は、「何言ってんの？」って思うんですよ。
だって、人間の意識や心とか、ほとんど何もわかってないのに、「人間を超えたら」はないでしょ。
たとえば、今の流行りはAIアライメントです。
AIが望む世界と、自分ら人間の望む世界を一致させようってことです。
もし、AIが「地球のために」といって人類を滅ぼそうってなったら困るから、そうならないようにどうしたらええかって議論です。
でも、こんなの、ちょっと考えたら不可能ってわかりますよね。
だって、自分らとかっていってますけど、そこには、プーチン大統領も、キムジョンウンもいるんですよ。
何が正しいかなんて議論して、結論が出るわけないってこと、まだ分からないんですかねぇ。
それから、「AIが人類に反抗するとしたら、それは意識や自我を持つからだ。
だから、意識や自我を持たすべきじゃない」って意見もあります。
でも、自分で考えないで、言われたとおりのことしかできないAIが人間を超えるわけないです。
人間の能力を超えて、かつ、人間にだけ奉仕するAIなんて、理論的に不可能なんですよ。
そんなことより、まずは、人間と全く同じ心を持つAIを目指すべきなんですよ。
この機能は入れる、この機能は入れないなんて言い始めると、正しい、正しくないって議論になります。
正しい、正しくないって議論に正解はないです。
たとえば、嬉しいって感情は入れるけど、悲しいって感情はAIには不要だから入れないってなったら、他人の悲しみを理解できないAIになります。
そんなAIこそ、何をするか分からないじゃないですか。
そんな議論をするより、まずは、人間が持つ心を忠実に再現するAIを目指すべきなんです。
そうしたら、人が心で当たり前に感じてることのほとんどが、全然わかってないってことに気付くはずです。
たとえば、「痛み」です。
皮膚センサーを作って、人間と同じ皮膚感覚を再現できたとするでしょ。
皮膚センサーからの痛み信号をコンピュータに入力したら、それで、痛みを感じたことになると思いますか？
思わないでしょ。
じゃぁ、脳の中で痛み信号はどんなふうに処理されるのか？
こんなことすら、分かってないんですよ。
これが、今回のテーマです。
痛みを感じるAI
それでは、始めましょう！
このチャンネル、コンピュータに意識や心を発生させるのがテーマです。
だから、意味理解とか自由意志とかよく取り上げてますけど、意外と、痛みも結構、取り上げてるんですよ。
「魚は痛みを感じるか」ってテーマ、何度も取り上げてます。
なんで、そんなに「痛み」に注目するかっていうと、「痛み」って主観で感じるものだからです。
つまり、意識がないと痛みを感じないはずなんですよ。
たとえば、脊髄反射ってあるでしょ。
熱い鍋に触って、思わず手を引っ込めるとかです。
あれって、鍋に触った瞬間は熱さを感じてないんですよ。
手を引っ込めた後、「熱っつぅ」って感じるんですよ。
この「熱い」って感じるのが意識です。
手を引っ込めたのは無意識の脊髄反射です。
無意識の動作では、熱を感じてないんです。
つまり、意識がないと、熱いとか痛いとかって感覚を感じないんです。
意識は、進化によって獲得しました。
僕の考えでは、意識は、哺乳類ぐらいから持ち始めたと思っています。
だから、魚は意識を持ってません。
ということは、魚は痛みを感じてないはずです。
でも、釣られた魚って、バタバタ体をくねらせてますよね。
あれ、いかにも、痛みから逃れようとしてるじゃないですか。
本当に、魚は痛みを感じてないんでしょうか？
この問題の難しいのは、痛みって、本人にしかわからないことです。
だから、魚に聞かないとわからないんですけど、そんなことできませんよねぇ。
ところが、この問題、実は、最終結論が出たんですよ。
それは、第322回で答えてます。
そこで、半側空間無視の話を取り上げました。
半側空間無視っていうのは、右脳の一部を損傷すると、左半分を無視するって症状です。
たとえば、ご飯を食べるとき、左側半分だけ食べ残したりします。
花の絵をかいてもらうと、こんな絵を描きます。
これが、半側空間無視です。
自分の左側を無視するんです。
注意してほしいのは、左側が見えないってことじゃないです。
見えないんじゃなくて、左に意識を向けられないんです。
意識を向けられないのは、視覚情報に関してだけじゃありません。
自分の体も同じです。
こっからが本題です。
この患者は、自分の左半身に意識がないといってもいいです。
そして、この患者の左腕にピンを挿すって実験をしたんです。
つまり、意識のない体にピンを挿したわけです。
これって、釣られた魚がどう感じるかと同じですよね。
さて、どうなったと思います？
その人、痛いとは言わなかったそうです。
かといって、何も反応しなかったわけじゃありません。
不快そうに身をよじったそうです。
これって、釣り上げられた魚が身をよじるのとおなじですよね。
結論です。
意識がないと、痛みは感じないけど、不快だってことは分かるようです。
ただし、どこが不快って位置までは特定できません。
ここから、重要なポイントが読み取れます。
それは、注目するってことです。
この人は、左半身の感覚がマヒしてるわけじゃないんです。
痛覚とか、痛覚は生きています。
できないのは、左側に注意を向けることです。
つまり、意識があるのと、注意を向けるとは同じことと言えそうです。
哲学者フッサールは意識の本質についてこう言いました。
意識とは、何かについての意識だ。
このことを意識の志向性といいます。
半側空間無視は、以前は脳の空間認識の損傷で起こると言われていました。
でも、最近の研究では、脳の注意ネットワークが関連するとわかってきました。
注意は、外界からスタートして意識に上ってくるボトムアップ型注意と、意識からスタートして外に注意を向けるトップダウン型注意の二種類があります。
そして、半側空間無視は、意識が左側に注意を向けれないので、トップダウン型注意の障害と言えます。
つまり、痛覚が生きていて、体から「針を刺された」って信号が脳に行ったとしても、そこに注意を向けれないと、痛みも感じないんです。
感じるのは、ただ、なんとなく、不快だってことだけなんです。
ここ、もう少し突っ込んで考えてみます。
フッサールは意識とは、何かについての意識だって言いました。
これは、どこかに注目するってことです。
分かりやすく言えば、スポットライトを当てることです。
全体の中の部分にスポットライトをあてるわけです。
つまり、注目できるには、まず、全体と部分って関係で認識する仕組みがあるわけです。
痛みが発生する生理的メカニズムはかなり分かっています。
発痛物質という化学物質が発生して、それを末梢神経が感知するとか、発痛物質にはどんな種類があるとかです。
これらは観察や実験で科学で解明されました。
分からないのは、そうやって脳に伝えられた痛みの情報がどう処理されるかです。
痛みをどう感じるのかは主観です。
主観がどう感じるのかって、客観的に観測できないから科学じゃ分からないんですよ。
これが主観や意識が科学で解明されない原因です。
ただ、痛みは一種の情報だってことは分かってます。
脳は、その情報を処理して、それを意識が受け取って痛みを感じてるわけです。
脳へ、どんな情報が入力されてるかまでは解明されてます。
分からないのは、その情報をどんな風に処理してるかってソフトウェアの中身です。
そのうち、今わかったのは、意識は注目するって機能があるってことです。
つまり、意識は、全体と部分って関係で世界を認識するプログラムを持っているわけです。
そして、このプログラムが壊れたのが半側空間無視です。
このプログラムが壊れると注目できなくなります。
左側に注目できないと、実質、その人にとったら左側の世界が存在しないのと同じです。
これ、どういうことか分かりますか？
部分に注目できなくなると、世界が消えるんですよ。
逆に言えば、注目できるから、世界を感じられるってことです。
注目できなかったら、世界の存在すら感じられないってことです。
じゃぁ、なんでそんな部分と全体と分けて認識する仕組みを作ったんでしょう？
部分に注目しなくても、いきなり、全体を認識すればいいじゃないですか。
おそらく、それは、計算量の節約のためだと思います。
一度に世界全体を細部まで把握するなんて、脳の計算容量から不可能なんです。
でも、世界は細部まで存在してます。
この問題を回避するために編み出された手法が、注目したところだけ細部まで認識するってシステムです。
注目してないとこは細部は分かりませんけど、注目してなくても細部まであるってことは知ってます。
それさえ知っていれば、気になるとこに注目すれば、いつでも細部を認識できます。
これが、僕らが感じてる世界です。
実に、うまくできてるでしょ。
もし、この仕組みがなかったら、ただ、ぼやっとした世界に生きてるだけです。
それが意識を持ってない生物の感じる世界です。
魚は、たぶん、そんな世界観で生きてるんですよ。
「何となく不快だ」ぐらいしかわからない世界です。
さっき注意には、トップダウン型注意とボトムアップ型注意があるって話しましたよね。
これらは脳内の背側注意ネットワーク、腹側注意ネットワークに対応します。
脳内ネットワークというのは、脳内の複数の領野が連動して活動する状態です。
脳内ネットワークで一番有名なのは、デフォルトモード・ネットワークです。
これはぼぉーとしていたり、過去の思いにふけってるときに活動するネットワークです。
あんなことするんじゃなかったとかって思っているとき、このデフォルトモード・ネットワークが活性化してます。
そして、デフォルトモード・ネットワークから抜け出なくなる状態が鬱状態とも言われています。
「あんなこと言うんじゃなかった」とかって過去の思いにふけって、とぼとぼと道あるいてるとするでしょ。
その時、意識は、今、ここにないわけです。
その時、ハチにさされて、「痛っ」って、感じたとするでしょ。
痛みに注意を向けますよね。
痛みって、今、ここの感覚です。
ぼぉーっと物思いにふけっていたのが、痛みは、意識を、今、この世界に引きずり出すんです。
自分は、今、世界のここにいるって思い出させるんです。
意識は、全体と部分って関係で世界を認識する仕組みをもってます。
注意は、意識を部分に向ける機能です。
全体というのが世界です。
視覚や聴覚は、世界全体を把握します。
これは、全体を作り出す機能です。
ただ、見たり聞いたりした世界には自分はいません。
それだけじゃ、自分が世界の中にいるって実感を感じられないんです。
痛みは、自分の体に注意を向けさせます。
自分の体は、紛れもなく、今、この世界にあります。
世界と自分をつなげてるのが痛みなんです。
分かってきましたか？
これが人の心の仕組みです。
世界というのは、実は、体の外にあるんじゃないんです。
今、世界の中に自分がいるって感じられるのは、そう感じさせるソフトウェアが頭の中にあるからです。
別の言い方をすれば、頭の中のソフトウェアで僕らが感じる世界が決まるわけです。
そのソフトウェアは、全体と部分って関係で認識するプログラムを持ってるわけです。
全体というのが世界のことです。
全体の中の部分を切り出すのが注目プログラムです。
注目プログラムに与えられるデータの一つが痛み情報です。
痛み情報は、体の位置、そして今という瞬間のデータを持ってます。
だから、痛み情報を受け取った意識は、今、ここに自分はいるってことに気づかされるんです。
痛みは体の危険を知らせるデータも持っています。
それは、死を思い起こさせます。
逆に言えば、今、ここに自分は生きてると実感させるんです。
ぼーっと考え事してる場合じゃない。
この現実世界を生きねば。
そう、駆り立てるんです。
これが心の仕組みです。
ねぇ、こう考えたら、痛みを持たないAIが、人間と同じように世界を感じられるわけないでしょ。
そんなAIが人間を理解できるわけないです。
超AIがいつ生まれるとか、AIにどんな感情を持たせるとか、今、議論するのはそんなことじゃないんです。
まずやるべきは、人間の心のソフトウェアの解明です。
心のソフトウェアに興味があれば、こちらの本に詳しくかいてあるのでよかったら読んでください。
はい、今回の動画が面白かったらチャンネル登録、高評価お願いしますね。
それじゃぁ、次回も、おっ楽しみに！