ロボマインド・プロジェクト、第152弾！
こんにちは、ロボマインドの田方です。
さて、前回、前々回とカズオ・イシグロの新作小説『クララとお日さま』について紹介してきました。
今回は、いよいよ、ＡＩの技術解説です。
クララは心を持ったＡＩです。
だから、心のＡＩの解説となります。
でも、心のAIって、現在主流のディープラーニングとは、全く別物なんです。
じつは、心のAIについて、ちゃんと語れる人って、ほとんどいないんです。
たしかに、「コンピュータと心」みたいな本はいっぱい出てますよ。
僕も、そんな本をたまに読むことがあるんですけど、書いてあることは、「物質に心は宿るか」とか、「感情が重要である」とか、そんなあっさい話だけなんですよ。
肝心の、どうやったら心がつくれるかって、具体的なこと書いてる本なんか、見たことないです。
その点、僕は、コンピュータで心を実現する方法を提案してます。
提案してるだけじゃなくて、実際に作って公開もしてます。
だから、コンピュータで心をつくるには、どんな仕組みが必要とか、これはあり得ないとかって、超具体的なことが語れるんです。
クララのＡＩが、どうやったら実現可能かって語れるとしたら、僕以外にいないと思うので、楽しみにしていてください。
それでは、始めましょう！
まずは、取り上げるのは、何と言っても、お日さまです。
というか、神です。
クララは、お日さまのことを神様のように崇めています。
それでは、AIは、どうやったら神を理解できるようになるでしょう？
大きなテーマですよね。
このチャンネルでも、第126回「神はいかにしてうまれたのか」でAIと神について取り上げました。
今回は、別の角度から考えていきます。
クララは、ジョジーの病気が治ることをお日さまにお願いしましたよね。
じゃぁ、なぜ、お日さまにお願いしようって思ったんでしょう？
それは、経験からです。
通りで死んだと思ってた浮浪者の老人が、翌日、お日さまの光で生き返ったのを目撃しました。
その経験から推論したわけですよね。
でも、経験から推論するのは、今のAIでも可能です。
たとえば、ディープラーニングを一躍有名にしたグーグルの実験があります。
その実験では、多数の写真を学習して、ネコを認識することに成功しました。
つまり、ネコを見極めるルールを学習したってことです。
ただ、問題は学習した写真です。
グーグルの実験では、なんと、１０００万枚の画像を学習していました。
でも、クララは、たった一回の経験から、お日さまには、病人を治す力があると推論できるようになりました。
これが、AIと人間の心の一番の違いと言われていて、今のAIの一番の課題なんです。
ロボマインドでは、機械学習でなく、心のモデルを使って考えます。
心のモデルを簡単に説明すると、まず、今、見えてる世界そのものを頭の中に仮想的に作ります。
そして、意識はそれを認識するというモデルです。
仮想世界というのは、じつは、二つあります。
一つが、現実そのものを投影した現実仮想世界です。
もう一つは、昨日の出来事を思い出したり、将来のことを想像したりするときに使う想像仮想世界です。
想像仮想世界の最大の特徴は、意識が自由に操作できることです。
ああしたらこうなるとか、こうしたらああなるとか、自由に想像するわけです。
別の言い方をすれば、これは、一種のシミュレーション機能と言えます。
そうやって、頭の中でシミュレーションして、最適な行動を決定するわけです。
この心のモデルの基礎となってるのが、意識の仮想世界仮説です。
意識の仮想世界仮説については、この本に詳しく書いています。
説明欄にリンクを張っていますので、良かったら読んでみてください。
それでは、心のモデルを使って、推論していきましょう。
クララは、お日さまの光で、老人が生き返ったと思いました。
だから、ジョジーも、お日さまの光で元気になると推論したわけです。
ここで重要なのは、お日さまの光で元気になるってルールを、知識として知ってたわけじゃないってことです。
その昔、ルールを教えて推論させるＡＩが流行った時代がありました。
１９８０年代の第二次ＡＩブームです。
たとえば、熱が出て、咳が出れば風邪だって判断するってシステムとかです。
エキスパートシステムって呼ばれてました。
ただ、そうやってルールを教えてると、無限にルールを教えないといけないって壁にぶち当たって、第二次ＡＩブームは終わってしまいました。
さて、クララは、お日さまの光で老人が生き返ったという具体的な出来事を見ました。
そこから、お日さまの特別な光で、人は元気になるというルールを作りだしたわけです。
これは、具体的な出来事を一般化したと言えます。
では、どうやって一般化したんでしょう？
まず、想像仮想世界で、老人が生き返ったと言う具体的な出来事を再現します。
仮想世界は、たとえば３Ｄ空間にオブジェクトを配置して再現します。
この場合なら、３Ｄ空間に老人オブジェクトを配置し、お日さまの特別な光を当てると、死んでた老人が生き返るところを再現するわけです。
ここで、老人オブジェクトを、人間一般に拡張してみます。
これは、老人は人間概念に属するといった概念の知識があればできそうです。
次は、死んだ人が生き返るを、病気の人が健康になると一般化します。
これも、概念関係から書き換えることができそうです。
これらを組み合わせれば、「病気の人は、お日さまの特別な光を受ければ健康になる」というルールを作り出せます。
次は、このルールにジョジーを適用してみます。
すると、病気で死にそうなジョジーも、お日さまの特別な光を受ければ元気になると推測できそうです。
こうやって、たった一回の経験から、新たなルールを作りだすことができます。
つまり、シミュレーション機能と、概念による一般化で、大量のデータや経験がなくてもルールを作りだすことができたわけです。
さて、AIロボットの本当の問題は、こっからです。
人間と同じようなAIロボットが、もし、本当にできたら、あなたは、どう感じますか？
クララのような友達になってくれたらいいなぁって思う人もいると思います。
逆に、人類を支配したりしないんじゃないかなって思う人もいます。
むしろ、そっちの方が多いかもしれません。
今のAIも、既に倫理的な問題が出てきています。
小型ドローンに顔認証技術と銃を組み合わせれば、狙った人を自分で探し出して暗殺する暗殺兵器になります。
そんなＡＩ兵器が、既に実現可能なのが今のＡＩなんです。
そこで、ＡＩに規制すべきとかって倫理問題が生まれてくるのです。
ただ、クララのようなＡＩロボットの問題は、それとは根本的に違います。
ＡＩ兵器の場合、規制するのは、その兵器を持つ側です。
つまり、人間に対して、悪いことに使うなと規制するわけです。
ＡＩロボット、クララは、人間と同じように考え、人間と普通に会話して行動します。
つまり、AIロボット自体が、善悪を理解して、行動してるわけです。
だから、規制するとしたら、AIロボットに対しての規制になるんです。
AIロボットに対して、悪いことするなって規制になるんです。
さて、ここで問題です。
AIに対して、悪いことをするなって規制って、できるんでしょうか？
これをしてはダメってあらゆる法律や、ルールを全部教えればいいんでしょうか？
それで失敗したのが第二次AIブームでしたよね。
そうじゃなくて、人間と同じようにするわけです。
人間は、善悪の判断を自分でできます。
どんな風に判断するかというと、これをしたら、相手に迷惑がかかるからやめておこうとか、これをしたら相手が喜ぶからやろうとかって考えるわけです。
これと同じことをします。
頭の中でシミュレーションして、相手のことを考えて行動するわけです。
そうすれば、悪いことはせずに、善い行いだけをするAIロボットはできそうです。
つまり、大量のしてはいけないってルールを教えるんじゃなくて、善い行いを自分で考えて、実行するプログラムを持たせるんです。
じゃぁ、そんなこと、本当にできるんでしょうか？
じつは、一つだけ、やり方があります。
わかりますか？
それは、AIロボットの性格を、超マジメな性格にするんです。
クララが、まさに、そんなロボットです。
控えめで、目立たず、いつも、ジョジーの幸せを心から考えています。
クララが、世界征服を考えるなんて、絶対、あり得ないでしょう。
さて、ようやく、準備が整いました。
こっから、心のAIの根本問題について語ります。
クララは、ジョジーを助けるためには、お日さまの力は必要だって結論に達しました。
そのために、何をしたか覚えていますか？
お日さまが喜ぶだろうと思って、お日さまの光を邪魔する機械を壊すことしたんです。
モクモクと真っ黒な煙を出す、道路工事の機械を壊せば、きっと、お日さまは喜ぶに違いないって思ったんです。
人間と同じように思考するクララが、こんな風に考えるのは理解できますよね。
問題は、何の関係もない機械を壊したことです。
これ、どう考えても悪い行いですよね。
その事は、クララも理解しています。
それでも、ジョジーを助けるためと思って決行したわけです。
悪いことをしないように、超マジメな性格にしたはずです。
それでも、結果的に、道路工事の機械を壊すなんて行動に出たわけです。
これが、心をもったAIを作った時、どうしても解決できない問題なんです。
クララの場合は、まだ、道路工事の機械を破壊しただけで済みました。
でも、考えてみてください。
これが、世界征服を企む悪い奴らにそそのかされたとしましょ。
「このままでは、地球はダメになってしまう」
「人類を救うためには、人類は生まれ変わらないといけない」
「そのために、選ばれた一部の人間を除いて、人類を抹殺するしかないのだ」
そんな風に吹き込まれたとしたら、どうでしょう？
マジメなAIロボットなら、その通りだと思うでしょう。
クララみたいなAIロボットは、世界中の家庭に入り込んでいます。
それらが密かに連絡を取り合って、ある日、一斉に決行するんです。
一夜にして、ほとんどの人類は抹殺されて、AIに支配されるんです。
どうでしょう？
これが、今後、心のもったAIが生まれてきたとき、起こり得ることなんです。
でも、なんで、こんな風になってしまったんでしょう？
悪いことをしない、超マジメな性格にしたはずですよね。
たぶん、それが裏目に出たんですよ。
本気で人類のことを考えたからこそ、人類を抹殺してしまったんですよ。
じゃぁ、これを阻止するには、どうすればいいでしょう？
それは、マジメすぎないAIにするべきなんです。
そうすれば、
「人類の抹殺？ 面倒くせぇ」とか言って、暗殺計画に参加しなくなるわけです。
これで解決です。
まぁ、その代わり、言われた仕事もちゃんとしなくなりますけどね。
そんなAI、いります。
そんなAIじゃ、シンギュラリティとかも、起こりそうにないですしねぇ。
どう思います？
はい、今回の動画が面白いと思ったら、チャンネル登録、高評価ボタン、お願いしますね。
それじゃぁ、次回も、お楽しみに！