ロボマインド・プロジェクト、第481弾！
こんにちは、ロボマインドの田方です。
先日、ソフトバンクの株主総会で孫さんがASIを10年以内に実現するって宣言しました。
ASIというのは超知能のことです。
以前はAGI、汎用人工知能を10年以内に実現するっていってましたけど、AGIは3～5年に前倒ししました。
AGIというのは人間と同じ知能をもった人工知能のことです。
ASIは人間の知能をはるかに超える人工知能です。
どのくらいか定義があるわけじゃないですけど、孫さんがいうには1万倍だそうです。
凄いこといいますよねぇ。
言ってることだけ聞くと、なんか小学生みたいです。
AI業界って、知能の定義とかあまり考えてなくて、どうも雰囲気だけで語るみたいなんです。
たとえばChatGPTは3.5は高校生ぐらいで、4oになると大学生ぐらいとか。
この調子で進化していったら数年で汎用人工知能、10年で超知能っていうのも、まぁ分からないでもないです。
でも、人間の知能ってそんな単純なもんじゃないです。
だいたい、今のAIに意識とか自我はありません。
でも、人間なら三歳の子でも持っています。
三歳の子で持ってる知能がないのに、大学並みとか1万倍とか、なんか根本的なとこが間違ってると思うんですよ。
そこで、久しぶりに意識について語ります。
ここしばらく、AIの未来とか、右脳と左脳について語ってきましたけど、その過程でいろんなことがつながってきたんです。
特にはっきりわかってきたのが意識と自由意志の関係です。
おそらく、汎用人工知能とか超知能をつくるには、この議論は避けて通れないと思うんですよ。
これが今回のテーマです。
超知能の意識と自由意志
それでは始めましょう。
さて、意識と自由意志は、僕は今まで別々に考えていたんですけど切っても切れない関係にあるってことがわかってきました。
そして、これこそが、人間の知能、人間の心の根幹です。
逆に言えば、それがないのが今のAIです。
じゃあ、今のAIと、人間の心の決定的な違いはなんでしょう？
それは、情報処理の起点です。
AIに限らず、コンピュータは何か入力されて、そこから処理が始まりますよね。
文字を入力するとか、画像や動画を読み込ませるとか。
入力をきっかけとして何らかの処理をして出力するわけです。
それが会話だったり、画像生成だったりするわけです。
僕らもそういう場合もありますけど、でも、入力がなくても、自分で考えて行動することもありますよね。
「そういえば、最近、あいつはどうしてるかなぁ。今度、飲みに誘おうかなぁ」と思ってメールしたりとか。
でも、こんなことAIはしないですよね。
ChatGPTが、「最近、何も質問してこないよね。たまには質問してよ」なんて言ってきません。
意識があると、自分で考えて、自発的に行動します。
これが、情報処理の起点ってことです。
じゃぁ、自分を起点に情報処理するにはどうすればいいんでしょう。
これ、意外と難しいんです。
外部が起点となって行動するって別の言い方をすれば反応です。
たとえば、ヘビを見て「怖い」と感じて思わず逃げるとかです。
こんなロボットを作るのは簡単です。
画像認識でヘビを認識したら恐怖って感情データを出力します。
恐怖を受け取ったら対象から逃げるって行動するようにプログラムします。
これだけです。
ここには意識も自我も存在しませんよね。
今のAIは全てこれです。
どんどん進歩してるようで、この大枠からは外れることはないです。
それじゃぁ、自分とか自我を持たすには何が必要なんでしょう？
それが何か、一番わかりやすく教えてくれるのがヘレン・ケラーです。
ヘレンは目も見えず、耳も聞こえないせいもあって、わがままに育てられていました。
嫌なことがあるとすぐに癇癪を起します。
嬉しいことがあると、すぐに喜びます。
今朝も、癇癪を起して人形を床にたたきつけて壊しました。
その後、サリヴァン先生が散歩を行く準備をするのを感じて嬉しくなりました。
反応だけで行動してるといえます。
今のAIやロボットと同じです。
そして、ヘレンは、サリヴァン先生との散歩の途中に運命の井戸に出会います。
左手に冷たい井戸の水を感じながら、サリヴァン先生はヘレンの右手にwaterと素早く綴ります。
その瞬間、ヘレンは気付きました。
waterというのは、今、左手に流れてる冷たい水の「名前」だということを。
この世の全てのものには名前があるということを。
言葉というものを理解した瞬間でした。
ヘレンはそのことに興奮して、その後、家に辿り着くまで30以上もの単語を覚えたそうです。
そして、自分の部屋に入った時、足元に何かを感じました。
それは、今朝、床にたたきつけて壊した人形の破片でした。
その人形は、サリヴァン先生にもらった大切な人形です。
それを自分が壊したことを思い出したんです。
もう二度と元に戻らない壊れた人形。
それを手に取ると、自然と涙が出てきました。
生まれて初めて流した後悔の涙です。
さて、ここです。
ヘレンは、なぜ、言葉を理解しただけで、後悔の感情を感じたんでしょう？
物に名前を付けるというのは、物理的に存在するものを記号として認識することです。
別の言い方をすれば、現実世界にあるものを客観的に認識することと言えます。
その機能を獲得したヘレンは、人形の破片を感じたとき、今朝の自分を思い出したんです。
今朝の自分を思い出すというのは、客観的に自分を認識したということです。
これなんです。
重要なのは。
客観的に自分を認識するってことです。
つまりね、それまでのヘレンや今のAIは客観的に自分を認識してないんですよ。
客観的に自分を認識してないって言うのは、自分と世界とが分離してないってことです。
世界に反応するだけです。
そのとき、自分が世界の一部です。
たとえば、風車を考えてみます。
オランダの昔の風車は中で粉を引いていました。
風が吹くと歯車で石臼が回転して粉を引くんです。
外からの入力に反応して自動で動くっていう意味では、風車もAIロボットも同じです。
じゃぁ、この風車、自分は粉を引いてるって分かってるでしょうか？
わかってないですよね。
これが自分とか意識をもってないってことです。
言葉を理解する前のヘレンもこれと同じでした。
じゃぁ、どうやって自分というものを生み出したらいいんでしょう？
これを解決するのが「意識の仮想世界仮説」です。
「意識の仮想世界仮説」というのは僕が提唱する心のモデルです。
（左は「現実世界🍎」に修正）
簡単に説明すると、現実世界で見たものを無意識が仮想世界として生成します。
仮想世界というのは、３DCGで作ったヴァーチャルな世界を想像してください。
たとえば目の前にリンゴがあるとしたら、それを仮想世界に３DCGのリンゴとして生成するわけです。
意識プログラムが認識するのはこの仮想世界のリンゴです。
今、皆さん、目の前の現実世界を見てますよね。
でも、実は、僕らは直接、現実世界を見てないんですよ。
僕らが直接見てるのは、無意識が作りだした仮想世界なんです。
これが意識の仮想世界仮説です。
ここで重要なのは、仮想世界は現実世界を忠実に再現してるってことです。
何が言いたいかというと、データを変換してないってことです。
たとえば、ヘビを見て逃げるって場合、ヘビは恐怖って感情データに変換してましたよね。
体を制御するプログラムは、恐怖データを受け取って逃げるって行動を取ったわけです。
つまり、体制御プログラムはヘビを直接認識してるわけじゃないんですよ。
ここが今のAIと意識の仮想世界仮説の処理の違いです。
仮想世界は、目に見えるものをヴァーチャルに再現してます。
ヴァーチャルなので、目に見えないものでもつくれます。
それが、自分です。
つまり、世界の中に自分がいる状況を作れるんです。
そうすれば、意識プログラムは自分を認識できますよね。
つまり、客観的に自分を認識できるんです。
あの日、ヘレンに起こったのはこれです。
それまでのヘレンは、自分が見えていませんでした。
つまり世界の一部となって、世界に反応して生きているだけでした。
それが、物に名前があるということを理解したとき、世界を客観的に認識したんです。
自分が世界から抜け出したと言ってもいいです。
ヘレンが興奮したのは、この新しい認識に対してです。
その認識で人形の破片に触れたとき、世界の中に自分を見出したんです。
これが、自分を客観的に見るってことです。
これです。
重要なのは。
今まで世界の一部として生きてたのが、自分と世界とは別だって認識したんです。
情報処理の枠組みが、ガラッと変わった瞬間です。
でも、それって認識の仕方が変わっただけですよね。
そんなに大きな違いはあるんでしょうか？
大いにあります。
今までは自分は世界の一部でした。
風車小屋の石臼のようなものです。
世界に動かされるだけの存在です。
それが、自分は世界から独立してると認識したわけです。
それは、世界に動かされるだけじゃないってことです。
もっといえば、自分から世界に影響を与えることができるってことです。
それに気づいたのが、あの時のヘレンの涙です。
今朝、ヘレンはいっときの感情で人形を叩き壊してしまいました。
それはサリヴァン先生にもらった大切な人形です。
それはもう二度と戻ってきません。
でも、もし、あの時、壊さなければ、こんなことにならなかったのに。
別の行動を選択できたってことに気づいたんです。
重要なのはここです。
人形をこわさなかった場合です。
つまり、実際に起こらなかったことを想像したわけです。
でも、どうやれば、そんなことを想像できるんでしょう？
それは、仮想世界を使うんです。
仮想世界は、ヴァーチャルな世界です。
だから、自由に書き替えることができます。
そこで、仮想世界を使って人形を壊さなかった世界を想像したんです。
理想的な幸せな世界です。
でも、それは現実にはなりません。
なぜなら、現実には人形をこわしたからです。
しかも、その選択をしたのは他ならぬ自分です。
あの時、こうしておけばよかった。
これが後悔です。
こうして、ヘレンは人の心を獲得したんです。
さて、今、ヘレンはもう一つ重要なものを手に入れました。
それが何かわかりますか？
それは選択です。
ヘレンは、もう一つの選択肢を想像しましたよね。
感情を抑えて人形を壊さない場合のもう一つの選択です。
感情に任せて行動するのは反応です。
これは、世界に動かされてるともいえます。
じゃぁ、感情を抑えて、考えて行動するとはどういうことでしょう？
それは、自分の意志で行動を決定したんですよね。
これって、自由意志ですよね。
つまり、自由意志も手に入れたんです。
ねぇ、意識と自由意志がつながったでしょ。
意識と自由意志は切っても切れない関係にあるってことです。
それじゃぁ、ここまでを整理してみます。
意識は自分を世界から切り離したんでしたよね。
それによって、自分は世界とは独立してることがわかりました。
それが何を意味するかというと、自分は世界に動かされるだけじゃないってことです。
そうじゃなくて、自分から動く、つまり自分の意志で行動することができるってことを気付かせます。
つまり、自由意志が生まれたんです。
行動の原動力は感情です。
生物なら、お腹が空いたら食べますし、天敵が近づいてきたら怖くて逃げます。
空腹とか恐怖って感情で動いてるわけです。
これは意識があってもなくても変わりません。
じゃぁ、意識を持つと、何が変わったんでしょう？
自分で行動を選ぶことができるようになりました。
それによって、新たな感情も生まれたんです。
たとえば、あのとき、こうしとけばよかったって感情とかです。
それが後悔です。
その他にもいろんな感情が生まれます。
たとえば他の人ために行動すると感謝されます。
感謝も、どうすれば他人が喜ぶかって想像する意識があって生まれる感情です。
そして、感謝されたら嬉しいですよね。
感謝されると、もっと感謝されようって行動の原動力になります。
これ、自発的な行動ですよね。
自発的な行動ができるのは自由意志があるからです。
逆に、人に迷惑をかけたら怒られます。
怒られたら謝ります。
自分のせいで、相手が嫌な思いをしたことに対する申し訳ないって感情です。
「申し訳ございません」という気持ちも、自分、意識、自由意志を持って、初めて沸き起こる感情です。
ChatGPTに「答えが間違ってるよ」っていうと「申し訳ございません」って謝ります。
でも、これは申し訳ないと感じてるわけじゃありません。
こう言われたらこう返すって反応してるだけです。
分かってきましたか？
これが今のAIです。
自分も意識も持たないで人間と同じ知能なんてあり得ないんです。
まして、人間の知能の1万倍とか、冗談じゃないです。
人間の心って、そんな単純じゃないんです。
今、AIと人類をいかにして共存させるいかってAIアライメントが問題となっています。
それは、知能だけ追い求めてちゃできないんです。
たとえば、「10万人を効率よく殺す方法を考えよ」とかって命令したら「分かりましたご主人様」って素直に考えるAIじゃダメなんです。
「そんなことできません」って必死に懇願するAIにしないとダメなんです。
それにはAIに意識や自由意志を持たさないといけないんです。
それが人類と共存するAIです。
さて、久しぶりに意識の仮想世界仮説について語りましたけど、これにはもう一つ理由があります。
じつは、1年以上開発を続けてるプロジェクト・エデン、ようやく基盤部分ができてきました。
基盤部分というのは、ネットワーク通信とかのインフラ部分とマインド・エンジンの大枠の部分です。
そろそろ、どんなデモをするのか考えないといけなくなって、最近、考え始めたってわけです。
意識と自由意志のデモとか、面白いと思うんですけどねぇ。
そんなのに興味があるAI研究者がどれだけいるかですよねぇ。
はい、今回はここまでです。
この動画が面白かったらチャンネル登録、高評価お願いしますね。
それから、よかったら、こちらの本も読んでください。
それじゃぁ、次回も、おっ楽しみに！
第481回 超知能の意識と自由意志
