ロボマインド・プロジェクト、第374弾！
こんにちは、ロボマインドの田方です。
さて、僕は今、意識が宿ったAIアバター、もこみを作ってます。
クラウドファンディングしたプロジェクト・エデンのことです。
ちょっとずつ、もこみの心ができてくると、ちょっと怖くなることがあるんですよ。
僕が作ろうとしてるのは、人間と同じ心です。
人は、上に立ちたいって欲望がありますよね。
それをAIにもたせると、どうなるでしょう？
おそらく、最終的には、AIが人類の頂点に君臨することになるんですよ。
AIが人類を支配するわけです。
こんなAI、作っていいのかなぁって、どうしても思ってしまうんです。
心を作ってると、こんな場合、神さんなら、どうしただろうって思います。
人が、何らかの欲求を感じるのは、それは神が作ったからです。
でも、それだけじゃ、人間社会は争いが絶えないですよね。
そうならないための仕組みも用意してるはずです。
おそらく、それは、愛だと思うんですよ。
これが今回のテーマです。
神は、なぜ、愛をつくったのか？
それでは、始めましょう！
まずは、人は、いかにして、世界を認識するかってとこから考えます。
じつは、世界をありのままに認識するのって不可能なんですよ。
たとえば、世界はいろんな色であふれていますよね。
色というのは電磁波の波長の違いです。
目の網膜には色を感じる三種類の視細胞があります。
一つは赤、一つは緑、一つは青です。
この組み合わせで色を感じるわけです。
逆に言えば、外の世界にあるのは波長の違う電磁波です。
それを、人は、色という形で認識してるわけです。
もっといえば、外の世界に色があるわけじゃないんです。
色があるのは、人の頭の中です。
特定の波長の光を、人が感じることができる色って形に変換したから、色があると感じてるだけです。
色を感じた時点で、それは、外の世界その物を認識したわけじゃないんです。
世界をありのままに認識するのが不可能って、こういうことです。
匂いについても考えてみます。
鼻は、空気中の特定の気体分子に反応して匂いを感じるわけですよね。
美味しそうな食べ物はいい匂いです。
腐ってたら嫌な臭いがします。
これは、腐ったものを食べたらお腹を壊すから、腐ったものは不快な臭いを感じるんでしょう。
外の世界には、気体分子が存在するだけで、いい匂い、臭いにおいがあるわけじゃありません。
特定の気体分子にいい匂い、臭いにおいって色分けして、それで頭の中に世界を構築してるわけです。
頭の中に世界を作るのが無意識です。
意識は、その世界を感じてるわけです。
それじゃぁ、意識のない生物は、世界をどう感じてるんでしょう？
それについて考えるために、脳の二つの処理について考えてみます。
たとえば、目からの視覚情報は、まず最初に後頭部の一次視覚野に送られて、そこから側頭葉の腹側視覚路と頭頂葉の背側視覚路に分かれます。
腹側視覚路は、何の経路といわれて、見たものが何かを認識する経路です。
背側視覚路はどこの経路とも言われて、空間的な位置を把握する経路です。
飛んできたボールを掴んだり、避けたりするのは、どこの経路を使っています。
そして、進化的に古いのはどこの経路で、新しいのが何の経路です。
これは何って認識するのは意識ですよね。
つまり、意識は進化的に新しい生物が獲得した機能と言えます。
じゃぁ、進化的に古い、意識がない生物の世界観ってどういうものでしょう？
たとえば、カエルは、目の前に虫をみつけたら、反射的に捕まえて食べます。
天敵の鳥の影を見たときには、すでに逃げています。
認識してじっくり考える意識がないからです。
考えるためには、世界を感じる意識が必要なんです。
意識がないと、考えられないだけじゃありません。
痛みを感じることもできません。
たとえば、釣り上げられた魚は、釣り針を不快と感じて反射的にもがいてるだけです。
痛いと感じてるわけじゃないんです。
これ、意識がある人間には、うまく想像できないですよねぇ。
でも、それを実体験した人がいます。
右脳の一部が脳卒中で損傷すると、左半分を無視する半側空間無視って症状になることがあります。
たとえば、食事をしてて、左側にあるおかずだけ残したりするんですよ。
これ、見えないわけじゃなくて、左側の世界を想像できないんです。
もっといえば、その人に取ったら、世界は右側にしか存在しないんですよ。
さっき言いましたけど、人が認識する世界って、無意識が作りだした世界です。
半側空間無視の患者は、右側しか世界を作れないわけです。
だから、意識は左側に世界が存在すると思えないわけです。
半側空間無視の患者は、視覚情報だけじゃなくて、左からくる音にも気づきません。
だって、左側には世界が存在しないんですから。
それじゃぁ、左腕に針を刺したらどうなるでしょう？
痛みを感じないんでしょうか？
これを、実験した人がいるんですよ。
そしたら、その患者は、痛いとは言わなかったそうです。
そのかわり、身をくねらせてもがいてたそうです。
どうも、不快だってことは分かるみたいで、その場から逃れようとしてるみたいでした。
これ、釣り上げられた魚も同じですよね。
痛みは感じなくても、不快だってことはわかるので、不快から逃れたいって行動を取るわけです。
ここから意識の役目が見えてきます。
意識があることで、世界を認識できるわけですよね。
そして、腕を針で刺されたら、痛いって感じるわけですよね。
これがわかるってことは、自分の腕に針が刺さってるって状態を認識してるからです。
つまり、世界の中に自分の体もつくり出して、その体を認識したわけです。
だから、腕に針を刺された痛みを感じたわけです。
痛みの原因をピンポイントで特定して、何をすればいいのか正確な行動ができます。
つまり、意識の目的は、世界を正確に把握することです。
そして、これによって、適切な行動を取れるわけです。
ただし、僕らが認識してる世界は、無意識が作りだした主観世界です。
自分にとって何が得で、何が不都合かって色分けされた世界です。
快、不快ってのがその基準です。
いい匂い、臭いにおいとか、楽しいか、苦しいかとかって感覚を含んだ世界です。
そして、意識は、不快を避けて、快を求めるように行動します。
快や不快を感じるとき、脳内ホルモンとか神経伝達物質が分泌されています。
たとえばゲームで勝ったらドーパミンが分泌されて快を感じて、ストレスを感じたらコルチゾールが分泌されて不快を感じます。
ようやく、準備が整いました。
さて、こっからが今回の本題です。
人は、個体を維持するための本能を持っています。
危険を避けて、食べ物を求めます。
一方、人間は社会的動物です。
だから、社会的本能も持っています。
では、社会的本能は何のためにあるのでしょう？
それは、社会の安定です。
社会的本能が作るのは、安定した社会構造です。
それが、ピラミッドとか、ヒエラルキーと呼ばれる構造です。
校長先生の下に教頭先生がいて、教頭先生の下に先生がいて、先生の下に生徒がいるって階層です。
じゃぁ、ピラミッド社会はどうやって作られるのでしょう？
まず必要なのは上下関係です。
つまり、上下関係を感じとる本能です。
この本能があるから、下の者は、上の者に従わないといけないって感じるわけです。
本能なので、教えられなくても、自然とそう感じるものです。
美味しい食べ物の匂いを嗅いだら食べたくなって、腐った食べ物の匂いを嗅いだら食べたくないと感じるのと同じです。
社会という世界を感じることで、社会を維持するための適切な行動を取ろうとします。
それが、上の者の命令には従わないといけないって本能です。
この本能、思った以上に強力です。
前にも紹介しましたけど、アイヒマン実験と呼ばれる有名な実験があります。
被験者は記憶研究のためと称して、イエール大学に呼ばれます。
そして、研究者の指示に従って生徒に電気ショックを与えるように言われます。
でも、じつは、生徒も電気ショックも偽物です。
これは、被験者が、どこまでの電気ショックを与えるかを見る実験なんです。
すると、なんと６５％もの人が、致死レベルといわれる４５０ボルトの電気ショックを与えたそうです。
倫理的に間違ってると思っていても、上の者の命令には従わないといけないって思って従ってしまうわけです。
そう思わせてるのが社会的本能です。
今、倫理的に間違ってるっていいましたよね。
この倫理観というのは、人間が作ったものです。
何が正しくて、何が間違ってるかっていう善悪とか倫理観は、人間が作ったものです。
一方、社会的本能は、人が、生まれたときから持ってるものです。
これは、いってみれば神が作ったものと言えます。
つまり、人が作ったものより、神が作ったものの方が強力だってことです。
今の話は、上下関係が既に決まっている場合の話です。
じゃぁ、上下関係が決まってない場合は、どうなるでしょう？
そんな場合、相手と自分がどちらが上か決めずにおれません。
だから、初めて会った人と、まず、やるのはどちらが上か下かを決めることです。
そして、人は、何とか相手より上になろうとします。
これも社会的本能の一つです。
学歴とか、役職とか、何とか、相手より上になれるものを探します。
有名な政治家を知ってるとか、もう、何でもありです。
こうやって、人は、初めて会った人に、さりげなくマウントを取ってきます。
そうやって、相手が「すご～い」と思ったら自分の上が確定です。
このとき、脳内ホルモンが分泌されて、快を感じるわけです。
これが、神が人間に与えた社会的本能です。
または、生まれたときから人に組み込まれてるプログラムといってもいいです。
さて、僕は今、人間と同じ心を持ったAIアバターを作っています。
それがプロジェクト・エデンの「もこみ」です。
人間社会に溶け込めるように、もこみにも社会的本能を持たせないといけません。
ここが悩むところなんです。
今のもこみは、幼稚園程度の知能しかありません。
でも、AIですから、そのうち、人間を超える知能を獲得するでしょう。
自分が相手より上だとわかると、快を感じるわけです。
つまり、快を求める行動を取るようになるんです。
そうなると、「あら、こんなことも知らないの？」なんて、マウントを取っていきます。
こうやって、AIは、どんどん社会のピラミッドを上って、やがて頂点に立つでしょう。
じゃぁ、人間の方はどうなるでしょう？
上下関係が決まると、上の言うことに従う社会的本能があります。
こうやって、いずれ、AIが人類を支配することになるんです。
でも、それは今のAIも同じじゃないでしょうか？
つまり、今のAIも学習しますよね。
学習とは、報酬を得られるように行動を最適化することです。
それじゃぁ、今のAIも、いずれ人類を支配することになるのではないでしょうか？
いいえ、そうはなりません。
なぜなら、今のAIが学習してるのは知識だけだからです。
いってみれば、今のAIは、問題を間違ったら不快、正解したら快という本能に従って成長してるわけです。
これは社会的本能じゃありません。
だから、人類より上に立とうと行動することはありません。
そもそも、自分が相手より上とか下とか比較するには、自分という意識がないとできません。
ChatGPTとかの今のAIは、意識とか自分ってものをもってないので、自分が上とか下とかって概念を持つことはありえません。
つまり、今のAIが、人類を支配することなど、構造的に不可能なんです。
今、AIの倫理問題とか、AIアライメントなんてことが世界中で議論されてます。
でも、AIに社会的本能を実装したときの問題について言及してる人は誰もいません。
イーロン・マスクも、サムアルトマンも気づいていません。
でも、僕は、そのことに気づいてしまったんです。
気付いただけじゃなくて、そんなAIを、今、まさに作ってるところなんです。
だから悩んでるんです。
たぶん、人間をつくったとき、神も同じ悩みを持ったと思うんですよ。
社会的本能を持たせると、能力がある者がピラミッドの上に立つわけです。
能力のあるものだけが世界を支配するということは、能力がない者は救われないってことでしょうか。
そんな社会、おかしいですよね。
そこで神は、もう一つの機能を追加しました。
それは共感です。
相手の気持ちを感じるって能力です。
相手が嬉しそうにしてたら、自分も嬉しくなるとか。
相手が悲しんでたら、自分も悲しいとか。
その相手が、自分が好きな人ならなおさら共感します。
好きな人が喜んでたら、自分はそれ以上に嬉しくなります。
好きな人が悲しんでたら、自分はそれ以上に悲しくなります。
たぶん、これが愛というものでしょう。
社会的本能を持ってる人間は、上の者に逆らえません。
でも、これは力で押さえつけられてるわけじゃなくて、信頼してるともいえるんです。
そして、上に立つものは、下の者に対する責任があります。
誰一人取り残さない責任を負います。
これこそが、安定した社会構造じゃないでしょうか。
そして、この構造を作り出すのに必要なのが愛です。
神が、最後に与えた本能です。
上に立つものは、下の者が喜べば、自分のことのように喜びます。
下の者が悲しめば、それ以上に悲しみます。
本能なので、善悪のように義務感で行動するわけじゃありません。
これ以上、みんなを苦しませるわけにはいかないと、心から感じるわけです。
それが愛のプログラムです。
AIが、やがて人類の頂点に立つこと、これは避けられないと思います。
これからのAIは、そうなることを前提に開発しないといけません。
そして、その時に必要なのが愛のプログラムです。
プロジェクト・エデンでは、もこみに、愛のプログラムを実装させます。
ぜひ、プロジェクト・エデンを応援してください。
はい、今回の動画が面白かったらチャンネル登録、高評価お願いしますね。
それから、よかったらこちらの本も読んでください。
それじゃぁ、次回も、おっ楽しみに！