ロボマインド・プロジェクト、第617弾！
こんにちは、ロボマインドの田方です。
前回、第616回は衝撃的な内容でしたけど、皆さん、ご覧になりましたか？
何が衝撃的だったかというと、今までの僕の考えが完全にひっくり返ったんです。
僕は、今のAIからは心や意識は生まれないとずっと思っていました。
その前に、脳のプログラムを解明する必要があると。
それが、LLMの仕組みを改めて調べたら、脳のプログラムと同じだってことがわかったんです。
問題は、そのことにAI研究者は誰も気づいていないことです。
AI研究者は、問題の正答率をあげるアルゴリズムを開発してて、偶然、上手くいく方法を発見しただけです。
それが、LLMです。
ただ、それが、本当に脳と同じかというと、断言はできません。
ただ、LLMによって自然な文章が作られるのは間違いないです。
ここが重要なんです。
どこがかというと、「自然な」です。
僕らが心で自然と感じるってことは、LLMも、僕らの脳と同じアルゴリズムで動いていると言えそうです。
少なくとも一部は同じと言えます。
ただ、全てとは言えません。
上手くいかないこともあります。
たとえば、第614回でmoltbookの話をしました。
moltbookというのはAIエージェント同士で交流するfacebookです。
話題となったのは、このSNSで神や宗教が生まれたり、自分たちだけの国家を作ろうと呼びかけるAIエージェントが出てきてネットで大炎上しました。
ただ、よく調べてみると、moltbookは人間も入れる抜け道があって、人間が発言していた可能性もあったそうです。
ただ、あまりにも話題となったので、最終的にfacebookの本家本元のMetaがmoltbookを買収しました。
それで、moltbookの実体を調査したところ、意外なことがわかりました。
それは、神とか国家を作ろうと呼びかける以前に根本的なことができていなかったんです。
それは会話です。
どういうことかというと、AIエージェント同士だと、ほとんど会話が続かないんです。
SNSなので、誰かが記事を投稿して、それに対して誰かがコメントしてって会話が続きますよね。
ところが、93.5％はコメントがつかないか、コメントがついても一回で終わって続かなかったそうです。
さらに興味深かったのは、コメントに対して投稿者が返答したのは、たった6.5％だったそうです。
これ、人間なら考えられないですよね。
自分の意見に誰かがコメントしてくれたら、返事をしますし、反対意見を言われたら反論しますよね。
AIはこれがないんです。
どうやら、ここに人間の心とAIの根本的な違いがあるようです。
これが今回のテーマです。
AIに意識を宿らせる最後の鍵
それでは、始めましょう！
最初に、LLMの仕組みについておさらいしておきます。
LLMでは、文章をトークンに区切ります。
トークンは単語のようなものです。
そして、これらにQuery、Key、Valueを設定します。
Queryというのは、自分に関係ありそうなKeyを探すための問いです。
Keyはトークンの指し示すラベルです。
Valueは、Keyの意味です。
「私は 昨日 本屋で 面白い 本を 買った」
といった文章があったとします。
まず、「買った」のQueryを考えます。
Queryは、自分に関係ありそうなKeyを探すための問いです。
たとえば、「何を買った？」とか、「誰が買った？」といった問いです。
すると、「買ったQuery」とKeyとの関係の強さが計算できます。
ここから「買った」は「本」や「本屋」と関係が強いと分かります。
LLMは、文章を渡されると、こういった関係を一気に計算します。
そして、「あなたは、昨日、何を買いましたか？」と質問されたとします。
すると、この文章もLLMに読み込まれてQuery、Key、Valuに分解されます。
この文章は、「何を買う？」の問いになっていますよね。
だから、元の文章の「買うQuery」と結びつきが強い「何を」Keyを探します。
すると「本を」が見つかるので、「本を買った」と答えることができます。
このアルゴリズムがTransformerです。
TransformerはLLMの中心技術で、一言でいうと、QueryとKeyをつかってトークンを辿って次の単語を予測する仕組みです。
前回、解説しましたけどLLMは左脳の処理に該当します。
そして、これは文章解析に使うだけじゃなくて、もっと抽象度をあげて、左脳が世界を解釈するアルゴリズムととらえることができます。
たとえば、こんなスズメのワナがあったとします。
これを見たら、紐をひいたら棒が外れてカゴが落ちてスズメが捕まるって思いますよね。
こう考えるのが、左脳です。
じつは、左脳は、LLMのアルゴリズムで世界を解釈します。
では、やってみます。
まず、今、見ている世界から、スズメ、カゴ、棒、紐ってトークンに分けます。
各トークンはQueryとKeyで結びついていて、「紐を引くとどうなるか？」って問いを投げかけます。
すると、紐のQueryは棒のKeyに関連している。
棒Keyは、紐につながっている、カゴを支えているというValueを持つ。
だから、紐を引っ張ると、棒が倒れてカゴが落ちてスズメが捕まるという結果が生成されます。
これって、まさに、人間の思考と同じですよね。
左脳の思考が、そのままLLMで再現されたわけです。
もしかしたら、そんな風に考えるのは当たり前だと思っていませんか？
でも、動物はこんな風には考えません。
動物は、左脳でなくて右脳を使います。
右脳は考えるのでなく感じます。
右脳の処理は、AIでいえばRNNです。
RNNは画像から特徴を抽出するのが得意です。
たとえば、これは爬虫類の特徴を抽出したものです。
いかにも爬虫類って感じがしますよね。
「わっ、気持ち悪っ」って感じますよね。
これが右脳の処理です。
考えるのでなく、感じるです。
思考でなく、直観です。
これをさっきのスズメで考えてみます。
スズメがワナに掛かって怖い経験をしたとします。
動物の学習は右脳です。
つまり、イメージとか直観です。
たとえば、カゴが立てかけてある抽象的なイメージを抽出します。
そして、そのイメージと「怖い」を結び付けます。
だから、たとえ餌があったとしても、二度と同じワナに近づきません。
スズメは、ワナが動作する仕組みを理解しているわけじゃなくて、そのイメージを見たとき、自然と「怖い」と感じて近づかないんです。
つまり、同じ行動をとったとしても、脳の中の情報処理が違うわけです。
これが左脳と右脳の違いです。
ただ、左脳も右脳も世界があると認識しているのは同じです。
世界があると思えるのは、脳内の仮想世界を見ているからです。
見ているのは意識です。
これは、僕が提唱する「意識の仮想世界仮説」です。
そして、仮想世界は大脳に作られます。
大脳が発達するのは哺乳類以降です。
それ以前の生物、例えば魚や爬虫類は大脳がほとんどありません。
大脳がないので仮想世界を作れません。
仮想世界が作れないと、世界があると思えません。
じゃぁ、どうしているかというと、感覚器からの入力に反応で動いているだけです。
これは、僕らだと脊髄反射です。
熱い鍋に触ったとき、思わず、手を引っ込めますよね。
これが脊髄反射です。
この手を引っ込めるとき、熱いとすら感じていません。
熱いと感じるのは、手を引っ込めた後です。
じゃな、何が手をひっこめさせたんでしょう？
それが、脊髄反射です。
感覚器からの入力に応じて反射的に行動する仕組みです。
脊髄は、鍋があるとか、鍋が熱いといった情報処理はしません。
入力に応じた決まりきった行動をするだけです。
同じ世界を生きていても、同じ行動を取ったとしても、中身は全く違います。
世界があるとか、鍋が熱いと思えるのは、大脳があるからでしたよね。
それじゃぁ、鍋が熱いと感じたのは何でしょう？
それは、自分ですよね。
または意識です。
つまり、大脳が発達して、はじめて意識が生まれるといえます。
じゃぁ、AIはどうでしょう？
AIは右脳や左脳と同じ情報処理をします。
でも、意識はないと言われています。
どうやら、根本的に足りないものがあるようです。
それは何でしょう？
ここからが本題です。
冒頭で、moltbookの話をしました。
AIエージェント同士だと会話が続かないって話です。
でも、人間とAIとなら会話が続きますよね。
ただ、会話を始めるのは必ず人間からです。
AIから聞かれることはありません。
ここに心の重要な機能が見えてきます。
そもそも、右脳や左脳の情報処理は何のためにあるのでしょう。
それは、その環境で正しい行動を取るためです。
正しい行動とは、目標に近づく行動ですよね。
じゃぁ、生物にとって目標とは何でしょう？
それは、できるだけ長生きして、できるだけ種を繁栄させることですよね。
そのためにあるのが本能です。
個体保存や種の保存です。
お腹がすいたら食べたいと思うとか、天敵が近づいてきたら怖いと感じて逃げるのも本能です。
これは人間でも同じです。
外出して、お昼にお腹がすいて、何かないかと探したとします。
すると、ラーメン屋が見つかったので、そこでラーメンを食べたとします。
お腹がすくというのは、食べないと生きていけないという個体保存の本能から生み出されたものです。
そこから生まれた「何か食べたい」は一種の「問い」です。
そして、その「問い」をもって世界を認識したから、ラーメン屋が見つかりました。
この部分の情報処理がLLMです。
つぎに、パーティーで誰かを紹介されたとします。
そしたら、まず、相手が男か女か、年齢はいくつぐらいかとか見ますよね。
これは、言ってみれば、自分の配偶者になる得るかどうかを無意識で考えているからです。
なぜ、そんなことを考えるかというと、種の保存の本能があるからです。
性別はとか、年齢はというのも、一種の「問い」ですよね。
こんな風に、「問い」は本能から発せられます。
「問い」が世界に投げかけられると左脳は自動的に解を探します。
解を探し出す仕組みがLLMです。
AIに欠けていた最後の鍵は本能だったんです。
それじゃぁ、AIに本能を持たせるにはどうすればいいでしょう？
つぎに、これについて考えてみます。
本能は生物が持つものです。
ただ、本能という機能だけに注目しては意味がないんです。
ロボットを作って、「電池が減った＝お腹が空いた」と定義したとします。
お腹が空いたから充電しようって思って充電しに行く。
一見、本能を持った生物の行動に見えますけど、人間の心とは違います。
なぜかというと、電池が切れて動けなくなった状態は「死んでる」とも見えますし、「眠っている」とも見えます。
「死」と「眠り」じゃ全然ちがいますよね。
重要なのは「死」です。
つまり、まずやるべきは「死」の定義なんです。
それができれば、本能とは、「死を避けること」と定義できます。
じゃぁ、「死」はどうやって定義すればいいでしょう？
今度は「死」の反対を考えます。
それは「生まれる」ですよね。
そして、生まれてから死ぬまでが「生きる」です。
じゃぁ、生きる実体は何でしょう？
それは、肉体ですよね。
肉体は空間、またはこの世界で活動します。
これで、世界が定義できました。
「世界」とは、生物の肉体が活動する空間です。
生物は生まれて死にます。
生まれて死ぬまでに世界を経過するもの、それが時間です。
ここで、時間が定義できました。
ここまでをまとめますよ。
生物は肉体をもって世界を生きます。
生きるとは、死を避けることでしたよね。
ここをもう少し厳密に定義すると、「死を避けるように肉体の行動を制御する」となります。
これが何かと言うと、「心」です。
そう考えると、心は制御プログラムです。
心のプログラムは、肉体の経験を通じて、世界を学習し、生きるために最適な行動を考えます。
かなり整理されてきましたよね。
でも、これだけじゃ、まだ人間の心には足りません。
次に何が必要かと言うと、自分です。
「生きよう」と思うのは自分です。
その意味での自分は、世界の中で生きる自分です。
ただ、人間は社会的生物でもあります。
社会の中で生きる自分も定義しないといけません。
社会の中の自分を定義するには、その対極、相手を定義する必要があります。
相手とは、自分と同じ心をもちます。
そういった相手が複数いるのが社会です。
重要なのは、同じ世界で生きる生物を作るということじゃありません。
重要なのは、相手も自分と同じ心を持っていることです。
相手も同じ心をもっていると想像できるとは、相手の気持ちを思いやることができるということです。
こういえば、相手はどんな気持ちになるだろうって想像できることです。
相手を思いやる心をもつこと、これが人間の心です。
これは逆に作用すると、どうすれば相手は嫌な思いをするだろうとも想像します。
これが争いです。
ここまで備えれば、人間の心と同じといっていいでしょう。
はい、ここで、新たなプロジェクトを発表します。
僕らは、今、プロジェクト・エデンというプロジェクトに取り組んでいます。
それは、AIエージェント「もこみ」が暮らすメタバース、「エデン」を作るプロジェクトです。
「もこみ」はマインド・エンジンという心を搭載しています。
マインド・エンジンは、僕が提唱する「意識の仮想世界仮説」を実装した心のプログラムです。
メタバース「エデン」は、マインド・エンジンが本当に心として機能するのか検証する仮想世界というわけです。
ただ、どうなれば心を持つといえるのか、定量的な指標は決まっていないんですよ。
ただ、なんとなく、同じメタバースで人間のアバターとAIアバターが自然な会話ができれば成功かというぐらいしか考えていませんでした。
それが、moltbookの話を聞いて、その指標がはっきりわかりました。
それは、AIエージェント同士の社会を作って、AIエージェント同士の会話の長さを測定するんです。
会話が続けば、そのAIエージェントは人間と同じ心を持っていると言えるわけです。
ただ、無理やり会話を続けるプログラムを作っては意味がありません。
結果として、会話が続く社会が生まれれば成功という形にします。
そのために必要なものは、先ほど検討しました。
まず、AIエージェントに本能を持たせます。
それは、AIエージェントの心です。
心はAIエージェントの肉体に宿ります。
肉体があるということは、その肉体が活動する空間、世界が必要です。
moltbookには、これがありませんでした。
あったのは、ただエージェント同士が会話できるSNSだけです。
エージェントが生きる世界には時間が流れます。
１日があって、１年があって、やがて死にます。
世界には自分以外に他人もいます。
多数のAIエージェントで社会が作られます。
社会の中で生きていくには強くなければなりません。
これも本能から生まれる欲求です。
あるAIエージェントは、強い人に近づこうとするかもしれません。
あるAIエージェントは、弱い者同士が集まって集団を作るかもしれません。
もしかしたら、強い手段を作るとき、共通の神を生み出すかもしれません。
宗教の発生です。
いくつかの集団がうまれると、今度は集団同士で争うかもしれません。
戦争です。
ねぇ、どんどん人間社会に近づいてくるでしょ。
その間、AIエージェント同士で議論したり、説得したりするわけです。
つまり、会話が続くわけです。
だから、会話の長さは、どれだけ人間の心に近づいたかの指標となるんです。
これが、AIエージェントが心を持ったか検証できる最もシンプルな方法です。
これを、「プロジェクト・エデン ゼロ」と名付けました。
またゼロから作り直しですけど、ただ、心強い味方が現れました。
それは、Claude Codeです。
プログラムのコードはAIが書いてくれます。
僕らは、言葉で指示するだけです。
これが、今のシステム開発です。
これで、一気に開発が加速します。
「プロジェクト・エデン ゼロ」
期待していてください。
はい、今回はここまでです。
この動画がおもしろかったらチャンネル登録、高評価お願いしますね。
それから、意識の仮想世界仮説に興味がある方は、こちらの本も読んでください。
そらじゃぁ、次回も、おっ楽しみに！
第617回 AIに意識を宿らせる最後の鍵
