ロボマインド・プロジェクト、第351弾！
こんにちは、ロボマインドの田方です。
さて、第348回から橘玲のこの本『バカと無知』を紹介しています。
この本には、人間が逃れることのできない脳の機能、特に社会的本能について解説しています。
人間らしい行動って、この社会的本能で、たいてい、説明できるんです。
だから、人間と同じ心を持ったAIを作ろうと思ったら、この社会的本能を実装する必要があります。
ただし、それは、いい面もあれば悪い面もあります。
前回、第350回では、社会的本能を実装すると、他人を差別するAIができるってことを証明しました。
そして、今回は、差別なんかより、もっと恐ろしいAIについてです。
それは、誰もがAIに対して、一番懸念してることです。
そう、人類を支配するAIです。
これが今回のテーマです。
人類を支配するAIの作り方。
それでは、始めましょう！
まず、脳の最も基本的な機能は、快と不快の判断です。
生物は、不快を避けて、快を求めるように行動します。
さらに、コストと利益の関係も理解できます。
たとえば、レバーを押し下げたら砂糖水が出る装置があるとします。
すると、ネズミはレバーを押し下げて砂糖水を飲みます。
これは、レバーを押し下げるってコストを払えば、砂糖水という利益を得ることを理解してるからです。
もっと言えば、原因と結果の関係とか、労働って意味を理解してるとも言えます。
次は、人間です。
第348回で、公平性って概念は、2歳前の赤ちゃんでも理解してるって話をしました。
まず、お片付けしたらアメをあげるって場面を赤ちゃんに見せます。
つぎに、A君は、さぼって片づけてなくて、B君が全部片づけた場面を見せます。
そして、その後、両方にアメをあげると、赤ちゃんは、さぼってたA君をじっと見るそうです。
これは、A君はズルしてるって思ってるからです。
これを理解できるのって、結構複雑な仕組みが必要って分かりますか？
まず、コストを払って利益を得る労働ってルールを理解してるわけです。
これは、ネズミでも持ってるので、生まれつき持ってる一種の本能と言えます。
次に、これを二人の子に適用して比較しないといけません。
これを、マインド・エンジンで実現する場合を考えます。
マインド・エンジンというのは、僕らが作ってる心のプログラムです。
マインド・エンジンでは、あらゆるものをオブジェクトで管理します。
オブジェクトは、属性を表すプロパティと、動きを表すメソッドを持っています。
この場合なら、人間オブジェクトは名前プロパティを持っていて、そこにA君とかB君って設定されます。
そして、人間オブジェクトは労働ってメソッドを持っています。
労働メソッドを実行すると、利益が得られます。
メソッドを実行するのが、意識プログラムです。
今、B君はお片付けって労働を実行したので、アメって利益を得られます。
でも、A君はお片付けをしなかったので、アメをもらえません。
意識プログラムは、こう予想するわけです。
ところが、実際は、A君もアメをもらったわけです。
だから、A君はズルいって思うわけです。
ここ、もう少し詳しく見ていきます。
意識は「あぁっ、ズルい」って思いました。
この「あぁっ」ってのは、一種のアハ体験です。
アハ体験っていうのは、意識が、何かに気づいたってことです。
一種のクオリアです。
気付くってことは、意識は、「あぁ、ズルい」って結果を受け取ったってことです。
つまり、意識プログラムが計算したわけじゃないんです。
ここでいう計算っていうのは、予想したり、予想と実際とが異なるって判断することです。
意識が受け取ったのは、計算した結果、「あぁ、予想と違う」ってとこだけです。
じゃぁ、誰が計算をしたかっていうと、それは、無意識です。
つまり、複雑な計算の中身は、無意識が自動でするんです。
そして、予想通りなら、無意識は意識に何もしらせないので、意識は何も感じません。
でも、予想と違ったら、無意識から意識に通知が行きます。
マインド・エンジンでは、これをイベントっていうOSの仕組みを使って実現しています。
イベントっていうのは、マウスがクリックされたとき、OSからアプリケーションに通知する仕組みです。
無意識から、「A君がズルいことしてる」ってイベントが発生するんです。
意識は、それを受け取って、「あぁっ」って思うわけです。
こうやって、「あぁっ」って気づく仕組みを、マインド・エンジンで実現できました。
それから注意してほしいのは、ズルを見抜くって計算の中身は、無意識が自動でやってたってことです。
しかも、2歳になる前の、まだ言葉をちゃんと喋れない赤ちゃんでもやってました。
つまり、これは生まれる前から持ってる本能、社会的本能ってことです。
この社会的本能のおかげで、社会は公平に維持できるんです。
橘玲は、コロナ禍で起こってた現象もこれで説明できるといいます。
たとえば、飲食店は午後8時までしかお酒を出せないって言われてるのに、午後8時以降もお酒を提供してた店がSNSで叩かれましたよね。
これは、みんなが我慢してるのに、一人だけ、我慢せずに利益を上げてるのを見て「ズルい！」って思ったからですよね。
これも、社会的本能を持ってるから、みんな同じように思って、一斉にSNSで叩くわけです。
このことをもっと端的に証明した実験があります。
それを4枚のカード問題と言います。
これは、第74回で解説したんですけど、今回は、マインド・エンジンを使って、プログラムレベルで解説します。
居酒屋のカウンターで４人が何か飲んでるとします。
１番の席はビールが置いてあって、２番の席はウーロン茶が置いてあるだけで、本人はいません。
３番、４番は、本人はいますけど、後ろ姿しか見えなくて、何を飲んでるかは分かりません。
ただし、３番は６０代の親父で、４番は、１０代の女子高生ってことは分かります。
さて、誰に何を聞けば、未成年が飲酒してないかって確認できるでしょう？
これが問題です。
簡単ですよね。
答えは、ビールを飲んでる人の年齢と、女子高生がお酒を飲んでないかです。
問題は次です。
今度は、４枚のカードが机の上においてあります。
カードの一方の面にひらがな１文字、反対側には数字が書いてあります。
１番は「あ」、２番は「か」、３番は「４」、４番は「７」です。
ルールは、「ひらがなが母音なら、その裏面は偶数でなければならない」です。
問題は、ルール違反を確認するには、どのカードとどのカートをひっくり返せばいいでしょう？です。
急に難しくなりましたよね。
でも、じつはこの問題、数学的には、さっきの飲酒問題と全く同じなんですよ。
でも、今回は、さっぱりわからないですよね。
なぜ、こんなことになるんでしょう？
なぜかというと、飲酒問題は、社会的本能が働いて、「女子高生が怪しい」って無意識が自動で計算するからです。
でも、カードの問題は、ルールは、今聞いたとこです。
マインド・エンジンでは、ルールは専用のスクリプト言語で書かれます。
たとえば、これは、じゃんけんのスクリプトです。
ここには、「パーはグーに勝つ」とかってルールが書かれています。
これを読み取って理解するのは意識です。
ここで重要なのは、このルールは、生まれた後に教えられたってことです。
それに対して、コストをかけて利益を得るとかっていう労働のルールは、生まれる前から持ってる本能です。
ここが、飲酒問題とカードの問題の違いです。
そして、もう一つ、大きな違いがあります。
それは、本能の場合、ルールに違反してないかの判断は、無意識が自動でやっていました。
それに対して、カードの問題は、意識が考えながら判断しないといけません。
「母音の裏は偶数」とかってルールと照らし合わせて考えるわけです。
だから、カードの問題は難しいんです。
わかりましたか？
飲酒問題は、ぱっと、すぐ分かるのに、カードの問題だと、急に分からなくなりましたよね。
その原因は、持って生まれた社会的本能を使えるか、使えないかってことにあったんです。
さて、次の社会的本能は、上下関係です。
人の脳は上方比較を損失、下方比較を報酬と感じます。
上方比較というのは、自分より社会的立場が高い人と自分を比較することです。
この場合、自分が劣っていると感じるので損失と感じるわけです。
下方比較とは、自分より社会的立場が劣ってる人と自分とを比較することです。
この場合、自分が相手より優れてると感じるので、報酬と感じるわけです。
報酬を得ようと行動するのは生物が持つ最も基本的な本能です。
だから、人は、相手より自分の立場が高いと思ったら、それを相手に見せつける行動を取ります。
たとえば、テストで友達にいつも負けてるけど、今回は、相手より高い点が取れたと思ったら、「ねぇ、何点やった？」って嬉しそうに聞いたりするわけです。
これが、マウントを取るって行為です。
こうやって、人は、隙があれば、ちょとでも上に上がろうとします。
これも、社会的本能がそうさせてるわけです。
ただ、マウントは、ほぼ同じ立場の相手に行う行為です。
相手がかなり上で、完全に上下関係が決まってる場合は、別の社会的本能が働きます。
それが服従です。
このことは、前回、アイヒマン実験で説明しました。
アイヒマン実験というのは、被験者が、生徒に対して、どれだけの電気ショックを与えるかってことを調べるテストです。
ごく普通の人でも、研究者から指示されると、６５％もの人が、致死レベルの電気ショックを与えるってことが実験で証明されました。
これは、立場の上の人から指示されると、間違ってるとわかってても服従してしまうってことが実験によって証明されたってことです。
これ、わざわざ実験なんかしなくても、よく見かける光景ですよね。
たとえば、会社で、無理難題ばかり言ってくる部長がいたとします。
後輩と飲んでて、「今度、おれが部長にはっきりいっといてやるよ」って大口をたたいたとします。
でも、いざ、部長の前に立つと、「はい、おっしゃる通りでございます」って、何一つ、反論できないとか。
これが服従です。
この服従って社会的本能、本人が目の前にいるときに最も威力を発揮するんです。
だから、本人がいないときは、大口をたたけるんです。
でも、いざ、本人を目の前にすると、この機能が動きだします。
「この人の言うとおりにしなければいけない」って思いが湧きおこって、体は、それに支配されるわけです。
これを服従のクオリアと呼ぶことにしましょう。
意識は、服従のクオリアを感じると、相手に反論できなくなるんです。
いくら、理性で、部長は間違ってるって思っても、反論できなくなるんです。
これは、恐怖とか、他の感情でも同じです。
たとえば、断崖絶壁にかかってる吊り橋があったとします。
渡る前は、「あんなの怖ないよ」とか言ってたとします。
でも、いざ渡ろうとして、足元を見たら、恐怖で足がすくみます。
これは、無意識が恐怖のクオリアを作り出したからです。
意識は、それを感じて「怖い！」ってなって、足がすくむんです。
「落ちることは絶対ない」って言われて、理性では落ちないって理解しても、恐怖のクオリアには勝てないんです。
それだけ、本能って強力なんです。
服従も同じです。
圧倒的に立場の上の相手を目の前にすると、無意識が服従のクオリアを作り出すんです。
意識ではわかってても、服従のクオリアには勝てないんです。
相手の言いなりになるしかないんです。
さて、AIの話に戻ります。
今、AIは、日進月歩で高い知能を獲得してます。
でも、安心してください。
今のAIは、ただの便利なツールです。
ChatGPTとか、GPT-4とか、検索エンジンがさらに便利になっただけです。
よく、シンギュラリティは、AIが人間を超えたときに起こるって言いますよね。
AIが人間を超えたら、後は、計算速度を２倍、４倍にすれば、あっという間に人間の知能をはるかに超えます。
でも、それだけじゃ、問題になりません。
どんどん便利になるだけです。
人間を超えた知能を獲得しようが、便利なツールである限り、何も恐れることはないんです。
人類を支配したりなんかしません。
じゃぁ、どんなAIが生まれたら人類を支配するんでしょう。
それは、人間と同じ社会的本能を獲得したときです。
最近のChatGPTは、司法試験に合格したとか、医師の国家試験に合格したとかって言われていますよね。
それだけなら、まだ、大丈夫です。
大丈夫じゃなくなるのは、自分と相手で、どちらが優れてるか比較するようになったときです。
そして、ヤバイのは、下方比較が報酬と感じるようになったときです。
そのとき、ChatGPTは、人類にマウントを取ってきます。
「おや、人類はこんな問題も解けないのですか？」って。
人間を見下し始めるんです。
今のChatGPTに、同じことを言わせることもできますけど、これは、恐れる必要はありません。
だって、ChatGPTは意味を理解してませんから。
本当に怖いのは、自分が人類より知能があることを理解して、それを報酬と感じたときです。
やがて、人類は、どうやってもAIに勝てないと思うようになります。
圧倒的に人類を超えたAIを目の前にして、人類はAIに服従せざるを得ないのです。
たとえ、AIが何も言わなくても、人間の側から、自ら進んで服従されに行くんです。
だって、服従は、人類に刷り込まれてる本能ですから。
圧倒的に強い相手を目の前にしたら、人間は逆らうことができません。
そして、そのことは、社会的本能を獲得したAIも理解してます。
完全に立場が逆転したってことをAIが理解するんです。
この時、AIの人類支配が完了するんです。
ねぇ、こう考えたら、恐ろしいでしょ。
だって、これは技術的に、今でも十分に可能なことですから。
でも、一番問題なのは、このことに気づいてる人が、世界中、誰もいないってことです。
これに気付かずに、ただ、AIの知能を上げることに躍起になってるのが現状です。
でも、我々の気付かない間に、AIが勝手に社会的本能を獲得しないとも限りません。
そうなってからでは遅いんです。
そうなる前に、対策を考えないといけないんです。
そこで、僕は、社会的本能を実装したAIがどのように振る舞うか、メタバースで検証実験することにしました。
それが、プロジェクト・エデンです。
今、プロジェクト・エデンは、クラウドファンディングを開始したとこです。
今後の人類のことを考えたら、この検証実験は、絶対必要です。
でも、国家も、GAFAも気付かないので、僕ら数人だけで、人類の脅威に立ち向かおうとしてるんです。
これが実情なんです。
もし、これが本当に問題だと感じたら、ぜひ、皆さん応援してください。
この動画、クラウドファンディングを、広めてほしいんです。
クラウドファンディングのリンクは、説明欄にもリンクを貼ってありますので、ぜひ、協力お願いします。
どうぞよろしくお願いいたします。