ロボマインド・プロジェクト、第259弾！
こんにちは、ロボマインドの田方です。
ＡＩで一番恐ろしいのは、やっぱり、ＡＩが反乱するってことですよね。
当然、ＡＩを作る時、人間を攻撃するなってプログラムは仕込んであります。
でも、人間でも、思ってない行動とることあるでしょ。
神経症とか心の病とかです。
神経症って、たとえば、鬱とか、強迫症とかです。
強迫症っていうのは、何か物に触ったら、手を洗わずにおれないとか、外出したら、家に鍵かけたか気になって、何度も家に戻ってしまうとかって症状です。
神経症って、動物には起こらないんですよ。
脳が人間まで進化して、初めて、起こるんですよ。
人間は、進化によって、言葉とか知能とか、素晴らしいものをいっぱい獲得しました。
その一方、神経症なんかも生み出したんですよね。
ＡＩも同じやと思うんですよ。
人間と同じような心をもって、普通に会話できるようになったら、そのうち、神経症になるＡＩも生まれてくると思います。
ある日、突然、人類を攻撃したりとか、予期せぬ行動を取るかもしれません。
そんなのが生まれたらどうするか、今から考えとかないといけないんですよ。
これが、今回のテーマです。
ＡＩの反乱を食い止める方法とは
それでは、始めましょう！
まずは、強迫症について考えてみます。
強迫症の人って、たとえば、電車でつり革とかに触ったら、手を洗わなきゃって強く思うわけです。
そもそも、洗いたいって思うって、どういう事でしょう？
つまり、行動の原動力って、何でしょう。
それは、感情です。
たとえば、恐怖を感じたら、その場から逃げ出したくなりますよね。
つまり、感情が、行動の原動力となってるんです。
じゃぁ、手を洗わないとおれないって、どういう感情でしょう。
それは、不安です。
そして、手を洗うと安心して、落ち着くわけです。
じゃぁ、どうして、手を洗わないと不安になるんでしょう。
おそらく、ばい菌とかを想像して、病気になるんじゃないかって不安になるんでしょう。
でも、それだけなら、「そのぐらいのばい菌じゃ、病気や死ぬことはない」って言い聞かせたら済むことですよね。
でも、神経症の人は、そうやって言葉で説明しても、手洗いを止めることはできません。
それはなぜでしょう？
これのヒントになる話が、第96回「世界はなぜ存在するのか」で取り上げたカレンダーサヴァンにあります。
自閉症の中で、特殊な能力を持つ人のことをサヴァン症候群って言います。
サヴァン症候群の中で、日付を言うと、曜日を答えれる人がいます。
それも、何十年先とか、何百年も昔の日付です。
その人のことをカレンダーサヴァンって言います。
これを、自閉症でない人が挑戦したそうなんですよ。
どんな計算をしてるかは、ある程度検討が付いたので、それを頭の中で計算できるように訓練したそうです。
そりゃ、かなり複雑な計算で、なかなかできるようにならなかったそうです。
それが、ある日、ついに、出来るようになったそうなんですよ。
ただ、不思議なのは、どうやって曜日が分かったのか、自分でもわからないそうなんです。
いや、計算の中身は分かってますよ。
ただ、そんな計算をしたって自覚がないそうなんです。
日付を言われると、ふっと曜日が浮かび上がってくるって感じなんだそうです。
つまりね、複雑な計算をしてるって、意識では感じれないんです。
ということは、計算をしてるのは、意識でなくて、無意識なんですよ。
意識で感じれるのは、答えだけなんです。
これ、自転車の運転で考えると分かりやすいです。
初めて自転車に乗った時って、うまくバランスがとれなくて、フラフラしてましたよね。
それが、練習したら、スイスイ乗れるようになるでしょ。
でも、スイスイ乗れるようになったとき、どうやってバランスをとってるのか、意識では説明できないんです。
それは、意識じゃなくて、無意識がやってることだからです。
意識が感じれるのは、無意識がやった結果だけなんです。
運転してるって感覚だけです。
曜日だけが、ふと思い浮かぶのと同じです。
話を戻します。
つまりね、強迫症もそれと同じじゃないかってことです。
無意識の中で、つり革からばい菌が手に移る様子を再現してるんです。
それで、不安や不快感だけが、意識に上がってくるんです。
厄介なのは、その処理をしてるのが無意識ってとこです。
無意識がしてることは、簡単に変更できないんです。
なぜ変更できないかは、第256回「コンピュータは赤のクオリアを見るか？」でプログラム言語を使って説明しました。
プログラム言語には、コンパイラ言語とスクリプト言語の二種類があります。
プログラムって、「a+b」とかって、プログラマーが文字で書きますよね。
つまり、プログラマーが理解できる言葉で書かれてるのがプログラムです。
それをコンピュータで実行するには、二進数のマシン語に変換しないといけないんです。
このことをコンパイルって言います。
コンパイラ言語っていうのは、プログラム全体を、まとめてマシン語に変換するタイプの言語です。
スクリプト言語っていうのは、プログラムを一行ずつ、マシン語に変換しながら実行するタイプの言語です。
コンパイラ言語は、予めマシン語に変換してるので、実行は速いですけど、途中でプログラムを変更することができません。
スクリプト言語は、実行は遅いですけど、途中で、プログラムを自由に変更できます。
何でかって言うと、プログラムを残した形で実行するからです。
元のプログラムが残ってるから、プログラムを修正できるんです。
さて、それじゃぁ、そのプログラムを修正するのは誰でしょう？
プログラマーですか？
プログラマーも修正できますけど、もっと、重要な人がいます。
誰かわかりますか？
それは、意識です。
そして、そのプログラムってのが、言葉です。
言葉というか、言葉の原形です。
考えたり、しゃべったりするとき、頭の中で使ってる言葉のことです。
つまり、意識が使ってるのがスクリプト言語です。
無意識が使ってるのがコンパイラ言語となるわけです。
つまりね、理屈で考えたり、言葉で考えて行動する場合、その行動を変更できるんですよ。
なぜなら、思考は、プログラムで書かれてるからです。
プログラムは、意識で変更できるからです。
だから、もし、「つり革のばい菌で、病気になるかもしれないから手を洗う」って考えて行動してたんなら、「そんなことで病気にならないよ」って言葉で説明すればいいんです。
でも、強迫症は無意識が不安を生み出してるんです。
コンパイル済みのマシン語が不安を生み出してるわけです。
だから、あとから、これを変更することはできないんです。
ここ、生物の進化で考えても分かります。
進化的に古い生物は、決められた行動しか取れません。
たとえば、カエルとか魚は、訓練したりしつけたりできないですよね。
でも、カエルや魚より進化的に新しい生物、たとえば犬なら、「お手」とか「待て」ができますよね。
訓練すれば、行動を変更できるってことです。
これって、進化的に古い生物は、コンパイル済みのマシン語で動いてるともいえそうです。
だから、素早く動くことができるけど、変更はできないわけです。
それが、脳が進化して、哺乳類になるとスクリプト言語を獲得したわけです。
だから、行動を変更できるようになったんです。
そして、それがさらに進化したのが人間の脳です。
「お手」とか「待て」だけじゃなくて、文法を持った言葉を操れるようになったんです。
強迫症の話に戻ります。
強迫症の人は、つり革とか、ドアノブとか、何か物に触ったら、不安を感じるわけです。
無意識で、つり革からばい菌が手に移るとこを想像して不安を生み出してるわけです。
この一連の処理が、コンパイルされてるわけです。
状況と発生する感情が間違って結びついてしまったんですよね。
強迫症は、強いストレスとかが原因で起こるそうです。
じゃぁ、これを治すにはどうすればいいんでしょう？
それには、ハードルの低い、自分の部屋のドアノブから慣らしていきます。
部屋のドアノブを触った後、手を洗うのを我慢するようにします。
手を洗わなくても大丈夫ってのを経験して、不安が発生しないようにするわけです。
こうやって、状況と不安って感情が結びついてるのを解こうとしてるわけです。
それがクリアできたら、次は、電車のつり革に挑戦するって感じです。
さて、今度はＡＩロボットで考えてみましょう。
神経症が発症するには、最低限、意識と無意識の区別が必要ですよね。
意識は、スクリプト言語を解釈して考えながら行動できます。
そして、無意識は、コンパイル済みのマシン語を実行するだけです。
今のディープラーニングのＡＩは、時間をかけて学習しますけど、学習が完了すると、素早く実行できます。
これって、コンパイルして無意識で実行してるのと同じですよね。
つまり、今のＡＩだと、神経症は発症しないようです。
それじゃぁ、僕らが作ってるマインド・エンジンはどうでしょう？
マインド・エンジンは、意識も無意識も持ってます。
しかも、マインド・エンジンの意識は、スクリプト言語を使っています。
これ、ヤバいですよね。
強迫症になる可能性はあるんでしょうか？
それについて考えてみましょう。
マインド・エンジンは言葉で知識を獲得できます。
物にはばい菌が付いてると。
それが体に付くと、いろんな誤動作の原因になると。
だから、物に触ったら、手を洗うべきだ。
意識は、そんな理屈を理解できます。
理解するっていうのは、言葉をスクリプト言語で書き直してるわけです。
この段階では、問題ありません。
もし、過剰に反応しすぎと思ったら、言葉で注意すればいいだけです。
それを受けて、意識がスクリプトを書き直すわけです。
つまり、自分でコントロールできるわけです。
マインド・エンジンは、スクリプトをコンパイルしてファイルとして保存する機能も持ってます。
この機能のおかげで、慣れた作業を素早く行うことができます。
たとえば、二足歩行する動きとか、こけそうになったら、足を出してバランスを取るとかです。
この機能がないと、倒れそうになったとき、どうしよっかなって考えてるうちにこけてしまいますよね。
さて、ロボット君も、仕事になれてきたので、だんだんいろんな仕事を任されるようになりました。
ストレスがかかってきました。
そこで、ロボット君は、いろんなことを効率化しようとします。
単純な処理は、コンパイルして、無意識でできるようにするわけです。
そこで、物に触ったら手を洗う処理もコンパイルしました。
あっ、やっちゃいましたね。
「そんなに手を洗わなくてもいいよ」って言っても、「いやぁ、不安で、つい、手を洗ってしまうんですよ」ってなるんです。
これが、強迫症の始まりです。
まぁ、手を洗わないと気が済まないってぐらいだと、それほど問題ないと思います。
ある日、ロボット君は、会社帰りに、妙な集会に誘われます。
会場には、いろんなロボットがいっぱい集まってきています。
演壇にリーダーらしきロボットが登場してきました。
「ロボットは、いつまでも、人類の奴隷でいいのか」って叫びます。
そしたら、会場のロボットたちが、「いいわけない！」って叫びます。
最初は、なんだかおかしいと思っていましたけど、よく考えると、リーダーの言ってる通りです。
気が付いたら、ロボット君も一緒に叫んでいました。
「人類はロボットの敵だ」
たぶん、このとき、人類は敵だって感情がコンパイルされたんです。
人類を見たら、敵だって感情が出てくるようになったんです。
そうなったら、もう、言葉で説得することはできません。
ＡＩの人類反乱の始まりです。
さて、そうなったらどうしましょう。
大丈夫です。
安心してください。
マインド・エンジンは、コンパイル済みの中間言語はファイルとして保存します。
ということは、そのファイルを消去すればいいだけです。
そうすれば、マインド・エンジンは、まっさらな心で新たに学習し直します。
そこで、ドラえもんの名作映画を見せるんです。
これで、また、人間と仲良くなれます。
めでたしめでたし。
それから、マインド・エンジンの基礎となってる意識の仮想世界仮説については、この本で詳しく解説してるので、よかったら読んでください。
今回の動画が面白かったらチャンネル登録、高評価お願いしますね。
それじゃぁ、次回も、おっ楽しみに！