ロボマインド・プロジェクト、第611弾！
こんにちは、ロボマインドの田方です。
この間、OpenAIのサム・アルトマンが「AIは既にAGIに到達したから、次を目指しましょう」って言ってました。
AGIっていうのは、人間並みの知能を備えたAI、汎用人工知能のことです。
サム・アルトマンの主張は、AIのIQが気が付いたら140とか150を超えたので、もう、AGIに到達したと言ってもいいんじゃないかってことのようです。
それで納得する人もいると思いますけど、いや、ちょっと待てよっていう人もいますよね。
だった、IQより重要なものがありますよね。
たとえば意識です。
たしかに、今のAIは、十分にまともな会話ができます。
でも、これをAIに意識が宿っているといってもいいのでしょうか？
これが今回のテーマです。
AI意識論争に終止符を打つ！
それでは、始めましょう！
前回で、ドゥアンヌの『脳はこうして学ぶ』を読み終えました。
この本、めちゃくちゃ面白かったです。
それで、次に読むのはこれだと決めていました。
それが、この本ドゥアンヌの『意識と脳』です。
現在、主流の意識理論として、「統合情報理論」と「グローバルワークスペース理論」があります。
このグローバルワークスペース理論をさらに発展させたグローバル・ニューロナル・ワークスペース理論を提唱しているのがドゥアンヌです。
ドゥアンヌはガチの科学者なので、ものすごく厳密に意識を定義していくんです。
意識の話をすると、すぐに、魂とか、フワッとした話が出てきますけど、ドゥアンヌは絶対にそっちにはいきません。
何から始めるかというと、最小限の意識とは何かを、科学で定義するんです。
最低限の意識の定義ができたら、それを今のAIに当てはめたら、AIに意識があるかないかわかりますよね。
じゃぁ、その最低限の意識って、どうやって探すんでしょう？
それは、意識できるものと、意識できないもののギリギリを探すんです。
それがわかれば、その間に意識の境界があるはずです。
たとえば、この図を見てください。
縦横斜めにグレーの直線があって、交点に黒丸があります。
黒丸は満遍なく、全部で12個あるんですけど、全部見えますか？
上の方をみたら下が消えますし、下の方をみたら上が消えますよね。
これ、考えたらおかしいんですよ。
だって、この図は変わっていなにのに、黒丸が見えたり消えたりするんです。
ということは、変わったのは、この図でなくて脳の中です。
言い換えると、見ているのは目の前の図じゃなくて、脳の中の図です。
じゃぁ、その見ているのは誰かというと、それは自分ですよね。
もっといえば、自分の意識ですよね。
つまり、まず、目で見た現実世界を脳内に仮想世界として構築します。
そして、意識は、その仮想世界を見ているわけです。
僕は、これを意識の仮想世界仮説として提唱しています。
ほぼ同じことをは、ドゥアンヌも言っています。
さて、今、脳内の図から黒丸が見えたり消えたりしましたよね。
見えるというのは、意識が脳内の黒丸にアクセスしたということです。
消えたということは、意識のアクセスがはずれたということです。
つまり、ここに、意識がアクセスするギリギリの境界があるようです。
これが、意識がアクセスする最低限の意識、アクセス意識です。
ドゥアンヌは、ここから出発します。
さて、まだおかしな点があります。
消えるとき、黒丸だけきれいに消えましたよね。
黒丸があった場所にはグレーの線が引かれています。
ここから何がわかるかというと、アクセス意識が扱う最低限の単位です。
その一つが黒丸です。
つまり、脳内の仮想世界は部品単位で組み立てられているわけです。
この意識をコンピュータシステムで作るとします。
まず、カメラでさっきの図を撮影して、画像解析してグレーの直線と黒丸に分解します。
そして、それを二次元画像として再構成します。
これが脳内の仮想世界に相当します。
そして、その図を認識する意識プログラムを作ります。
プログラムは、関数でできています。
関数というのは、データを与えると何らかの情報処理をします。
データとして与えられるのが、世界を構成する部品で、この場合だと、黒丸です。
こう考えると、意識とはどういうものか、具体的に見えてきます。
まず、意識は世界の一部にしかアクセスできません。
だから、上の黒丸をみたとき、下の黒丸が消えるんです。
意識がアクセスするとは、意識関数にデータを渡すということです。
これを、別の言い方をすると、「注目」です。
関数は、データが渡されると何らかの情報処理をします。
たとえば、黒丸を見て、直径は何ミリぐらいだろうと考えることができます。
さらに、黒でなくて赤だったらどうだろうとか考えることもできます。
つまり、意識は、仮想世界を構成する部品を渡されると、その部品を使って、仮想世界を自由に操作できます。
別の言い方をすると「考える」です。
これが意識関数が行うことです。
それじゃあ、今度は意識がないシステムを考えてみます。
たとえば、的を自動で撃つエアガンのシステムです。
ターゲットがランダムで出現して、それをカメラで画像認識してエアガンで撃つとします。
弾が右にずれたら照準を左に自動調整します。
意識は仮想世界を認識しますけど、このシステムは仮想世界を認識するでしょうか？
まず、カメラが撮影して、画像認識していますよね。
その画像はコンピュータ内にあります。
ということは、これは仮想世界といえるんじゃないでしょうか。
仮想世界かどうかは、世界を部品で組み立てなおしているかいないかで決まります。
そう考えると、このシステムは画像解析はしていますけど、部品にわけて組み立てなおしをしてるかというとちょっと微妙です。
意識は仮想世界の部品を使って考えることができましたよね。
エアガンシステムは画像解析した結果を受けて的を撃ったり照準を調整したりします。
情報処理はしていますけど、考えているわけではありません。
「考える」とは、頭の中で仮想世界を操作することで、行動する前です。
そして、考えによって行動が変わります。
エアガンシステムは情報処理の結果、必ず行動を伴います。
これは「考える」でなく、反応です。
つまり、このシステムにあるのは仮想世界でなく、ただの画像解析です。
そして、画像解析の結果を受けて、決められた行動をする情報処理は「考える」とは言えません。
つまり、このシステムには意識は内と言えます。
これは、僕がいつも例で出すカエルと同じです。
カエルは、虫を認識すると、反射的に反応して虫を捕まえます。
反射的に反応するだけなので、意識があるとは言えません。
ただ、意識という言葉には、いろんな意味があります。
たとえば、眠っているときは意識がなくて、起きているときには意識があるとも言います。
その意味では、カエルも寝たり起きたりするので意識があると言えます。
でも、注目したものについて考えるアクセス意識はありません。
アクセス意識というのが、人間の持つ意識です。
おそらく、犬とかサルとか哺乳類も持っていると思われます。
アクセス意識について、もう少し探ってみます。
イギリスの科学者チャールズ・ホイーストンは、1838年に、左右の目に同時に別の映像を見せたらどうなるかとういう実験をしました。
鏡を使って、左の目に顔、右の目に建物を見せます。
当初、顔と建物が重なった映像が見えると思われました。
ところが結果は、意外でした。
なんと、建物と顔が数秒おきに交互に見えたんです。
これを、両眼視野闘争と言います。
これの意味するのは、アクセス意識は、同時に一つのものしか認識できないということです。
プログラムで言えば、意識関数は、同時に一つのデータしか受け取れないということです。
アクセス意識にデータを渡すのは無意識です。
アクセス意識が同時に一つのデータしか受け取れないから、無意識は意識に交互にがぞうを見せるんです。
この両眼視野闘争はサルでも起こることがわかっています。
そこで、サルにどちらの画像が見えたかレバーで教える訓練をして、その時の脳を観察しました。
目からの情報は最初、後頭部のV1、V2野で処理され、さらにV4野、MT,MST野、STS,IT野と順に処理されていきます。
V1野には、網膜からの映像がそのまま投影されますけど、そこには、二つの画像が両方投影されていました。
つまり、V1野は左右両方の画像を同時に見ていたわけです。
それが、高次に進んで最後のSTS野とIT野になると、画像が交互に処理されていました。
このことから、アクセス意識は高次の視覚処理を行ったものを認識していることがわかります。
見たままが投影されるV1野というのは、先のエアガンシステムでカメラで撮影した画像と同じです。
ここからも、このレベルには、アクセス意識はないと言えそうです。
視覚処理は、たとえば色が黒で、形が丸くてと徐々に分析して、最終的に黒丸といひとまとまりのデータにまとめて仮想世界に配置します。
両眼視野闘争だと、顔とか家というひとまとまりのデータです。
これが意識が認識するデータです。
意識が認識するデータのことをクオリアといいます。
たとえば赤色は、波長約700nmの可視光ですけど、これは脳の外側の客観的な現象です。
それに対してクオリアは、主観が感じる「赤色」のことで、脳の内側の現象です。
脳内に作られた仮想世界の部品がクオリアとも言えます。
さて、今、決めようとしているのはアクセス意識の最低限の仕組みです。
まず、意識は同時に一つのデータしか認識できないということがわかりました。
つぎは、意識が認識する最小の時間について考えます。
これはマスキングという手法で確認できます。
何らかのイメージを先行マスクとして表示して、一瞬、「radio」という単語を差し込んで後、後続マスクを表示します。
このとき表示する時間が短いと意識は認識できません。
これは、後続マスクで単語が上書きされるからです。
じゃぁ、どのくらい表示すれば認識できるかというと、およそ0.5秒です。
これが、意識が気付くのに必要な最小時間と言えます。
ここ、正確に説明すると、まず、網膜からの映像を基に無意識が脳内で仮想世界を構築します。
現実世界は動いているので仮想世界もそれに合わせてリアルタイムで更新します。
このとき、現実世界で0.5秒以上出現しないと、無意識は仮想世界として作り出さないというわけです。
なぜかというと、意識関数は、データを受け取って、それが何かと認識するのに0.5秒かかるからです。
意識が気付いた時、「顔」とか「文字」って認識していますよね。
つまり、「誰？」とか「なんて書いてある？」といった意味を持った重量級のデータです。
一方、無意識が作り出す仮想世界は、見た目だけの軽いデータでできています。
両眼視野闘争では、顔か建物か、意識して選べなかったですよね。
ただ、注目せず、ぼぅ～と眺めているときには両眼視野闘争は起こりません。
このぼぅ～っと眺めているというのが、軽いデータで作られた仮想世界を眺めているだけの状態です。
これらを整理すると、無意識は、まず軽いデータで仮想世界を作って、つぎに意識に注目させるデータを決めて、意味をもった重いデータを作って、それを意識に渡します。
この軽いデータから重いデータを作るのに0.5秒かかるんです。
だから、0.5秒以上表示されないと、次のイメージで上書きされて、意識には登ってこないんです。
無意識は見た目のデータで仮想世界を作ると言いましたけど、直線と黒丸と言った分割はしています。
これは、見た目で分類できる単純なルールで行っています。
たとえば、こんな図が一瞬見えたとします。
丸と四角がランダムに配置されていて、そのうち一つが四つの点で囲まれています。
それじゃぁ、次の動画で、四つの点で囲まれた図形が何かを当ててください。
それじゃぁ、始めますよ。
https://www.youtube.com/watch?v=NKLj8aOOw2Q
0:06～0:13ぐらい
これはできましたよね。
問題は次です。
さっきと同じですけど、四つの点だけ残します。
今度も分かりますか？
0:32～0:45ぐらい
どうでしたか？
四つの点の中の図形が見えなかったでしょ。
見えないというか、消えるんです。
さっきはできたのに、不思議ですよね。
この錯視のポイントは、四つの点がどこに現れるかわからないことです。
それがわかって、その部分に注目してたら、ちゃんと見えます。
それができないということは、注目して見ていないってことです。
つまり、アクセス意識を使わず、ぼぅ～っと見ているタイプの見方です。
または、両眼視野闘争が起こらない見方です。
これは、無意識が作った単純パターンを眺めている状態です。
この場合だと、黒い画面全体に丸や四角の図形があって、そのうち一つが点で囲まれているってパターンです。
そんなパターンが現れたり消えたりする仮想世界です。
そのとき、四つの点だけ残ったとしたら、黒い画面全体に四つの点だけがあるって世界を作ります。
そしたら、四つの点の中に図形があったとしてもそれが消えるんです。
もっと言えば、無意識は、周りを囲む点と、中の図形が別だと思っていなかったわけです。
それが、四つの点だけ残るって、想定していないパターンが起こったので、それに対応できなかったってことです。
そして、想定していないパターンが起こったとき対応するのがアクセス意識です。
アクセス意識はその図形の細かい変化まで観察できます。
これが注目です。
最後に自分とか自意識について考えます。
自分を認識するには、自分を客観的に認識できないといけません。
一種のメタ認知です。
これができるのは人間だけだとドゥアンヌは言います。
そして、その時使うのもアクセス意識です。
アクセス意識は、対象が何であっても意味のあるデータとして扱うことができます。
そして、その一つが自分という概念というわけです。
自意識をもっているかどうか判定するミラーテストというテストがあります。
それは、額に白いペンキでマークを付けて、鏡に映った自分を見たとき、自分の額のペンキを取ろうとすれば、自分を認識しているというものです。
このテスト、サルや象といった動物が成功しています。
これに対してドゥアンヌは、そんなの、訓練したら動物ならできることで、その行動をしたことと自分という概念を持つこととは別だって批判します。
まぁ、たしかに、その理屈が成り立つならマンデラエフェクトも存在します。
マンデラエフェクトというのは、南アフリカのマンデラ大統領が亡くなったとき、「あれ、マンデラ大統領って、とっくの昔に獄中に死んだんじゃなかった？」って思ってた人がいっぱいいました。
あまりにも多くの人が勘違いしてたものだから、マンデラ大統領が獄中死したパラレルワールドがあるんじゃないかってなったんです。
そして、マンデラ大統領が死んだと思っていた人は、そのパラレルワールドからやってきたんだってことです。
「んな、あほな。ただの記憶違いでしょっ」って普通はなりますよね。
それと同じです。
ミラーテストに合格したから自意識を持っているというのは、ちょっと言い過ぎじゃないかってことです。
それじゃぁ、最後に、人間がもつアクセス意識について整理します。
まず、無意識が軽いデータで仮想世界を作ります。
さらに、注目するデータを決めて、意識に渡します。
意識は、渡されたデータを分析したり、考えたりすることができます。
これが注目です。
それじゃぁ、AIはこのアクセス意識を持っているでしょうか？
たとえば、LLMは、大量の文書を学習します。
そして、入力文に対して、学習データを使って回答します。
この入力文が、言ってみれば現実世界です。
つまり、LLMの回答は、現実世界に直接応答しているといえます。
これは、現実世界の的に反応して撃つエアガンシステムに近いです。
AIは数多く学習することで、より最適な回答が出せるようになります。
いまでは、かなり難しい問題にも正しく答えられるようになりました。
でも、だからといって意識があるとは言えません。
マンデラエフェクトと同じです。
人間と同じ意識があるかどうかは、アクセス意識を持っているかどうかです。
それと同じものをAIで作ろうとしているのがロボマインド・プロジェクトです。
はい、今回はここまでです。
この動画がおもしろかったらチャンネル登録、高評価お願いしますね。
それから、意識の仮想世界仮説についてはよかったらこちらの本を読んでください。
それじゃぁ、次回も、おっ楽しみに！
第611回 意識と脳 AI意識論争に終止符を打つ！
