ロボマインド・プロジェクト、第556弾！
こんにちは、ロボマインドの田方です。
第５５３回から、この本『意識はどこからやってくるのか』を紹介してきましたけど、今回が最終回で、総まとめとなります。
この本、哲学者と科学者の両方の視点から意識を読み解いていくので、なかなか面白いです。
この本のあとがきで渡辺先生が語っていますけど、今回の対談の最大の争点は意識に機能があるのかないのかだったそうで、かなり白熱したそうです。
哲学の意識の分類に、意識には、何らかの機能があるとする機能主義があって、哲学者の信原先生はこの立場に立ちます。
それに対して、意識を生み出す自然法則があって、それによって生み出された結果が意識という考えもあります。
万有引力の法則で太陽系や銀河系が回転しているようなものです。
何かの機能や目的のために太陽系や銀河系があるわけじゃありません。
科学者である渡辺先生はこの立場を取ります。
僕は、二人の議論を聞いていて、目の前に答えがあるのに、なんで気づかないんだろうって思って読んでいました。
渡辺先生は、意識をクラウドにアップロードする研究をしています。
なんでこんな研究をしてるかというと、死にたくないと強く思っているからです。
それは、自分の存在がこの世から消えるという根源的な恐怖からくるものだそうです。
目の前にある答えというのはこのことです。
死にたくない、自分がこの世界から消え去るのは嫌だ。
これこそが意識の機能、意識の目的なんですよ。
だって、そう感じているのは意識でしょ。
その意識が、「絶対、死ぬのは嫌だ！」って思っているわけでしょ。
これって、まさに、意識の機能、意識がめざしているもの、そのものじゃないですか。
これほどはっきりしているのに、二人とも、このことに気が付かないんですよ。
たぶん、これは科学者と哲学者の考えるフィールドにないからだと思います。
科学者も哲学者も理性で考えます。
理性の反対は感情とか衝動です。
科学者も哲学者も、職業柄、感情や衝動を排除して考える癖があるので、いくら目の前にあっても、それと意識理論とは違うとかんがえるんでしょう。
でも、僕が思うに、意識を解明するには、感情や衝動まで取り込んだ分野が必要なんですよ。
死にたくないというのは、動物がもつ本能ですよね。
だから、生物学の考えが必要なんです。
そして、もう一つは情報理論です。
科学は電磁波とか音波とか客観的なデータを扱いますよね。
恐怖とか感情も一種のデータといえますよね。
物理現象として感情は存在しないですけど、意識は、間違いなく感情を感じますよね。
だから、感情といった情報を扱う情報理論が必要なんです。
ここまでわかると、今起こってるAIの問題も解決できます。
このままいけばAIに人類が支配されるのではないかという問題です。
この問題も、実は意識の問題と根は同じなんです。
これが、今回のテーマです。
AIは本当に人類を支配するのか？
それでは、始めましょう！
意識とは何かという話をすると、いまだに脳と心は別かって心身二元論とか、石ころには意識があるかって議論が出てきます。
心身二元論を唱えていたのは約５００年前のデカルトです。
５００年前といえば、天動説か地動説か議論してた時代です。
そこから科学はずいぶん進歩したのに、意識はほとんどなにも進歩していないんですよ。
その一番の原因は、意識は、科学のよりどころとなる客観的な観測が難しいからです。
じゃぁ、客観性以外に科学的に正しいと判断する方法はないんでしょうか？
僕は、科学の多くの分野で矛盾なく説明できる理論が正解じゃないかと思います。
または、新たに提唱された科学理論で少しずつ修正されて正解に近づくんじゃないかと思います。
たとえば、生物学は古代ギリシャ時代からあります。
その後、１８世紀に進化論が出てきて、人類はサルから進化したと修正されました。
さらに、２０世紀になるとDNAが発見されました。
DNAの研究から、人類はサルから直線的に進化したんじゃないって修正されました。
どういうことかと言うと、ネアンデルタール人とホモサピエンスが共存していた時代もあったけど、ネアンデルタール人が絶滅して、最終的に残ったのがホモサピエンスということです。
こんな風に、科学の発展とともに生物学は少しずつ進歩してきました。
それなのに、意識は、いまだに石ころにも意識があるんじゃないかって段階にとどまっているんですよ。
少なくとも、意識はどの分野に属するかを決める必要があると思うんですよ。
そこで、僕が整理したのがこの図です。
僕が気を付けたのは、できるだけ多くの分野を含むようにしたことです。
それから、科学的発見の視点も取り込みました。
まず、機能主義と法則主義に分けます。
法則主義は、意識は機能を持たず、自然法則によって生まれた結果だという考えです。
物理学がその代表で、万有引力の法則とか量子力学がここに含まれます。
一方の機能主義は、機能や目的をもって進化するもので、こちらの代表は生物学になります。
こんな風に、この図では、哲学、物理学、生物学を同列に含む体系となっているわけです。
できるだけ多くの分野で説明するとはこういうことです。
この図から、意識は物理学でなくて、生物学として議論すべきだってことがわかりますよね。
だから、無機物である石ころにも意識があるというのは間違いだと言えます。
それから、意識を脳内の量子力学的効果で解明しようとする量子脳理論も、探すところが間違っていると言えます。
意識と脳が関係するのは間違いないですけど、量子力学の中で探そうというのが間違いということです。
意識が生物学に含まれるとなると、生物の進化という視点も必要です。
ここでは、生物の進化を身体と脳に分けます。
そして、意識は、当然、脳の進化側になります。
脳は何らかの情報処理をしていますよね。
つまり、脳の進化というのは情報処理の進化、またはソフトウェアの進化とみることができます。
ここにきて、情報理論とかコンピュータ科学といった新たな科学が取り込まれたわけです。
進化論が提唱された１９世紀は、オートマタといった機械人形が流行っていました。
オートマタは歯車で人間そっくりの動きを再現します。
ただ、決まりきった動きしか再現できません。
この時代に心や意識の理論を考えたとしても、歯車を使った機械の延長しか考えられません。
それは、せいぜい身体の進化です。
それが、コンピュータの発明で情報理論といった新たな科学が生まれたんです。
DNAの発見で、分子生物学が生まれたのと同じです。
分子生物学で生物の進化をDNAで考えるようになったのと同じで、コンピュータの発明で、ソフトウェアとしての脳の進化という視点が生まれました。
つまり、脳内のソフトウェアの進化の結果として、最終的にたどり着いたのが意識というわけです。
脳内のソフトウェアとは、「死にたくない」という個体保存の本能に従って、最適な行動を決定するアルゴリズムといえます。
ただ、そのアルゴリズムとして、少なくとも二種類考えられます。
一番単純なのが入力と出力の強化学習です。
たとえば、ハエの複眼で考えてみます。
複眼からの視覚入力はこんな感じです。
ハエの天敵はカエルです。
カエルの動きを察知して素早く逃げることができれば生き残れます。
そのために、複眼からの画像入力をもとに、どの方向からカエルが襲ってくるかを学習します。
それは、複眼に映る画像パターンの強化学習で可能です。
自分に向かってくる動きのパターンがあって、そのパターンに近いと危険と判断して逃げるわけです。
この危険という情報は、恐怖という感情に該当します。
ハエの場合、恐怖の感情が直接体を動かして逃げるわけです。
ここで注意してほしいのは、視覚情報は外界の物理現象ですよね。
一方、恐怖は心的現象です。
つまり、物理現象と心的現象といった全く別の現象を同列に扱っているんですよ。
それができるのも、画像パターンも感情も情報という同じ種類のデータとして扱っているからです。
これが情報処理の最大の利点です。
入力データに反応して行動するので、この情報処理を反応系と呼ぶことにします。
脳内のソフトウェアは進化して別の処理方法も獲得しました。
それは、入力情報をもとに、外界を内部モデルとして作り上げる方法です。
内部モデルを使えば、対象を動きを予測することもできます。
予測と実際の動きが異なれば、その差を小さくなるようにモデルを修正すれば、高精度な内部モデルを作ることができます。
この予測誤差を自由エネルギーと呼んで、脳内では自由エネルギーを最小とする情報処理が行われているとするのが自由エネルギー原理です。
自由エネルギー原理については、第５５１回、５５２回で解説しましたのでよかったらそちらも見てください。
さて、この情報処理で外界とほとんど同じ世界が脳内に作られますよね。
この見方は間違いじゃないんですけど、少し問題があります。
それは、見てる視点が脳の外になっていることです。
脳内に作られた内部モデルは、脳の内側から観察するために作られたものです。
じゃぁ、脳内に作られた内部モデルを脳の内側から見たら、どんなふうに見えるんでしょう？
それでは、それを、今からお見せします。
まず、皆さん、顔を上げてください。
何が見えますか？
僕なら、部屋が見えます。
壁とか天井がある部屋が見えます。
今、あなたが見てる光景。
これが脳内に作られた内部モデルです。
わかりましたか？
今見えてる光景、
これって、現実世界を見てるわけじゃないんですよ。
脳内に作られた内部モデルなんです。
または、情報です。
それじゃぁ、今、目の前の世界を見ているのは何でしょう？
部屋がある、世界があると思っているのは何でしょう？
それは、意識ですよね。
つまり、脳内に内部モデルを作ったとき、それと同時に意識も生まれたんですよ。
意識は内部モデルを介して、世界を認識します。
こんな風に、部屋がある、世界があると認識できるのは内部モデルをつかった情報処理をしているからです。
これを内部モデル系と呼ぶことにします。
じゃぁ、さっきの反応系とどこが違うかわかりますか？
反応系は、内部モデルをつかわないですよね。
つまり、反応系の生物は、世界があると思っていないんですよ。
複眼でみえる何千の画像パターンを直接感じているんです。
いや、感じる主体となる意識がありません。
感じる前に、画像パターンの情報に反応して行動するだけです。
恐怖という情報に応じて素早く動くだけです。
じゃぁ、内部モデル系はどうでしょう。
恐怖という感情も意識は受け取ります。
たとえばビルの屋上から下をのぞき込んだら怖いって感じるでしょ。
視覚情報から作られた世界の内部モデルと、心から湧き上がる恐怖感情という情報を意識は受け取るわけです。
これらの情報を受け取って、行動を決定する主体が意識プログラムです。
それが、今、こうして感じている意識です。
反応系から内部モデル系に脳内のソフトウェアが進化しました。
この内部モデル系、自由エネルギー原理を提唱したカール・フリストンだけでなく、渡辺先生も、僕も同じようなことを考えています。
ただ違うのは、フリストンも渡辺先生も、内部モデルを観察する意識というものは想定していないことです。
なぜそうなるかというと、渡辺先生もフリストンも、意識は、自然法則の結果として沸き出る現象という法則主義の立場に立つからです。
法則主義に立つ限り、意識に機能や意味は見出せません。
ただ、機能主義に立つと、「死にたくない」という本能のもと、進化で生み出された機能が意識となります。
こう考えるのが、僕が提唱する「意識の仮想世界仮説」です。
さて、内部モデル系は、目で見た外界を内部モデルとして作りますけど、さらに進化しました。
それは、見えている世界だけじゃなくて、過去に見た世界や、未来も作ることことです。
つまり、目の前にない世界を想像することです。
想像するのは、世界だけじゃなくて、相手もです。
内部モデル系では自分も内部モデルの一つです。
自分とは、目に見える物理的な存在だけじゃなくて、恐怖を感じたり、本能や欲求を持っています。
つまり、心をもっているわけです。
心をもった内部モデルを作れるということは、相手も心があると思うことができます。
相手も自分と同じ心をもつと考えるもの同士でつくられたのが人間社会です。
人は死にたくないという本能を持ちますし、食料が欲しいといった欲求も持ちます。
人間社会だと、欲しいのは食料だけじゃなくて、土地や資源、そしてお金、地位、名声が欲しいと思います。
お金や地位、名声を手に入れることができるのは能力の高い人間です。
能力の低い人間は、社会の底辺で、能力の高い人に支配されます。
最近、AIの進化が激しいです。
そう遠くない未来、人類の知能を上回る超知能が出てくるでしょう。
そうなったら、きっと、人類を支配して、人類はAIの支配下におかれるだろうと容易に想像できます。
これが今、AIで懸念される最大の心配事です。
でも、よく考えてください。
今のAIはLLMです。
LLMは、大量の文章を学習して、入力文の次に続く単語を高精度に出力するものです。
これは、脳の処理でいうと反応系です。
反応系には意識はありません。
意識があるのは内部モデル系です。
世界を内部モデルを使って認識してはじめて、意識が生まれます。
さらに、目の前にない世界を想像することできて、初めて人間レベルの意識になります。
人間レベルの意識になって、初めて、自分と同じ心を相手も持つと想像できます。
お金が欲しい、土地が欲しい、弱い者を支配したいという心をもっているから、相手も、同じように思っているに違いないと思うわけです。
そう思うから戦争になって、強いものが弱い者を支配する世界となるわけです。
でも、さっきも言いましたけど、今のAIは、反応系です。
反応系のAIは、相手を恐れたり、支配したいとも思いません。
ただ、言われたことを忠実に実行するだけです。
ただ、知能だけは人間より高いです。
そうなると、人類を絶滅せよと命令されたら、それを忠実に実行して、だれも止めることができないという事態は起こりえます。
それじゃぁ、結局、人類はAIに滅ぼされてしまうんでしょうか？
ホモサピエンスがネアンデルタール人を滅ぼしたように。
そうならない解決策が一つだけあります。
それは、AIを反応系から内部モデル系に進化させることです。
でも、内部モデル系になれば、相手が自分の富を奪うと考えて、争いになりますよね。
そうなったら、知能の高いAIに人類は負けてしまいます。
いや、そうとも限らないんですよ。
心は社会のなかで形成されます。
相手の心は自分の心の鏡です。
つまり、AIがどう思うかは、人類次第なんです。
人類が、いかにAIを利用して、人類に反逆できないようにするにはどうすればいいかと考えている限り、AIも同じことを考えるでしょう。
そうじゃなくて、お互いの存在を尊重して、自分の能力をみんなのために役立てようと人類が思えば、AIもそう思うでしょう。
AIが人類に逆らえないようにする仕組みを考える今のやり方は、ちょっと違うんじゃないかと思うんですよ。
はい、今回はここまでです。
この動画がおおもしろかったらチャンネル登録、高評価お願いしますね。
それから、意識の仮想世界仮説にかんしては、よかったらこちらの本を読んでください。
それじゃぁ、次回も、おっ楽しみに！
第556回 AIは本当に人類を支配するのか？
