ロボマインド・プロジェクト、第175弾！
こんにちは、ロボマインドの田方です。
前回、第１４６回「GPT-3 検証した あご外れた」を見ていただけましたか。
もし、まだ見てない方は、見るときは、本当に注意してくださいよ。
マジであご、外れますからね。
さて、今回は、GPT-3の総括をしたいと思います。
GPT-3には、AIの本質が見え隠れするんですよ。
というか、第三次AIブームの限界とか、そもそもAIが目指してきたことは正しかったのかって、根本的な問いを投げかけてるんですよ。
たぶん、その事に気づいてる人は、まだ、ほとんどいないと思います。
そこで、今回は、AIの根本部分に立ち返って語ってみます。
それでは、始めましょう！
さて、どっから話を始めようかと思ったんですけど、「中国語の部屋」から始めようと思います。
第４８回「中国語の部屋」で解説しましたけど、これは、哲学者ジョン・サールが考えた人工知能の有名な思考実験です。
簡単に説明すると、小さい窓が開いた小部屋があって、その窓に中国語で書かれた紙を入れるんです。
すると、しばらくすると、その窓から、中国語の返事が出てくるんです。
こうやって、部屋の外にいる中国人は、中国語で会話ができるわけです。
その部屋の中はどうなってるかって言うと、じつは、イギリス人が一人入ってます。
そのイギリス人は、中国語が全く分かりません。
イギリス人は、中国語が書かれた紙が入ってくると、マニュアルにしたがって処理をするだけです。
マニュアルには、たとえば、ある漢字が書かれてあると、この漢字を書き出せとか、ある漢字とある漢字があると、この漢字を書き出せとかって書いてます。
そうやって、決められた通りの処理をすると、中国語の返事が出来上がるわけです。
さて、この思考実験、何が言いたいかわかりましたか？
この小部屋が指すもの、それは、ズバリ、コンピュータそのものです。
つまり、何が言いたいかって言うと、会話ができるコンピュータが出来ても、そのコンピュータは、文の意味を理解してるわけじゃないってことを言いたいわけです。
この中国語の部屋って、GPT-3とおんなじですよね。
GPT-3って機械学習で学習して文を生成します。
どんな風に学習してるかっていうと、この単語の次にこの単語が来る確率は何％とか。
この単語とこの単語があると、その次にこの単語がくる確率は何％とか。
そんなデータを大量に持ってるわけです。
その学習データを使って、入力された文に対して、返答文を自動生成するわけです。
ね、まさに、中国語の部屋、そのものですよね。
ほんで、ジョン・サールの指摘も間違ってないんですよ。
GPT-3、中国語を全く理解してません。
それでも、ちゃんと回答できます。
まぁ、細かいことを言わせてもらうと、ちょっとだけ違うとこがあるんですけどね。
それは何かって言うと、GPT-3、まともな会話ができてないってことです。
って、それ、めっちゃ重要やん。
まっ、その事は、前回の動画を見ていただければ、十分、分かったと思います。
GPT-3もおかしいんですけど、サールの言ってることは、もっとおかしいんですよ。
おかしいと言うか、もぅ、腹立つんですよ。
サールがこの思考実験を発表したのは、今から30年ほど前です。
当時、第二次AIブームで、機械翻訳とか対話システムとかが、もうすぐ実現しそうやって雰囲気やったんです。
サールの何が腹立つかっちゅうと、そんなのができたとしても、そんなのつくっても意味ないって潰しにかかってるんですよ。
コンピュータのこともよくわかってない哲学者が、開発者が苦労して作ろうとしてるものを、出来たとしても意味がないって潰そうとしてるんですよ。
科学にはね、絶対、外したらアカンもんがあるんです。
それは、反証可能性です。
何か理論を提唱する場合、その理論が間違いだといえる反証条件も同時に提唱しないといけないんです。
コンピュータは意味を理解してないって指摘するからには、じゃぁ、どうなれば意味理解してるって反証条件も同時に示す義務があるんですよ。
中国語の部屋の思考実験、この反証条件が示されてないんですよ。
そうなると、どうなると思いますか？
どんなに完璧な会話システムつくったとしても、コンピュータは意味理解できないからダメで終わるんですよ。
１００％、開発者が負けるようになってるんですよ。
そんなの、どう考えてもおかしいでしょ。
こんな思考実験、何か役に立ちます？
実際、この思考実験、提唱されてから30年以上経つのに、そこから人工知能の新たな知見とか生まれてないでしょう。
じゃぁ、上手い思考実験ってどんなものでしょう。
一番有名なのはアインシュタインですよね。
アインシュタインは、光と同じ速度で移動するとどうなるかって考えました。
この思考実験が、後に、相対性理論を生み出したんです。
優れた思考実験というのは、こういうものです。
今までにない、全く新しい世界を切り開くんですよ。
それじゃぁ、ＡＩの分野で、優れた思考実験ってなかったのでしょうか？
あります。
それは、チューリング・テストです。
提唱したのはアラン・チューリングです。
アラン・チューリングは、コンピュータの理論を考えた数学者で、コンピュータの発明者の一人と言ってもいいです。
コンピュータはあらゆる計算が出来ることを分かってるチューリングは、コンピュータは、やがて、人間と同じような知性を獲得するだろうって考えました。
それじゃあ、どうすれば、そのコンピュータが人間と同じような知性や心を持ってると判断したらいいんでしょう。
それがチューリング・テストです。
どういうものかと言うと、人間と自由に会話ができるチャットボットを作るわけです。
そして、会話した人が、相手が人間かチャットボットか見極めがつかなくなったら、そのチャットボットは、人間と同じ知性や心をもってると判断できるってものです。
はい、今んとこ、気づきましたか？
ちゃんと、反証可能な形で提示していますよね。
どうなったら、人間と同じ心を持ってると言えて、どうなったら、人間と同じ心はもってないと言えるって形式になっていますよね。
それじゃぁ、もう少し、チューリング・テストについて見て行きましょう。
この思考実験が提唱されたのは１９５０年のことです。
世界最初のコンピュータENIACが生まれたのが１９４６年ですから、ホント、コンピュータの黎明期に考えていたんですよね。
一般に、ジョン・サールの中国語の部屋は、チューリング・テストをさらに発展させたものと言われていますけど、僕の考えは、全く違います。
さっきも言いましたけど、サールの思考実験は閉ざされていますけど、チューリング・テストは開かれてるんです。
何に開かれてるかと言うと、新しい世界です。
ここ、もう少し説明しますよ。
中国語の部屋とチューリング・テストって、一見、よく似てるんですけど、決定的に違うとこがあるんです。
それは何かというと、コンピュータ中心か人間中心かです。
いや、ちょっと違うなぁ。
チューリング・テストって、どうやったらコンピュータは人間と同じようになれるかって方向を向いてるんですよ。
それに対して、中国語の部屋は、どんなにコンピュータががんばっても、人間にはかなわないよってことを示すための理屈なんですよ。
閉ざされてるっていうことです。
それじゃぁ、チューリング・テストが開いた扉がどこに続くか見て行きましょう。
チューリング・テストは、会話が通じたかどうかで、コンピュータに心があるかどうか判断しましたよね。
じゃぁ、会話が通じたって、相手に、いったい何が伝わったんでしょう？
チューリング・テストを突き詰めていくと、どうしても、この問題が出てくるんです。
何が伝わったか。
それは、自分の言いたいこととか、頭の中に思い描いたことですよね。
つまり、人間とコミュニケーションできるAIを作るには、頭の中に何かを思い描ける機能が必要って言えそうですよね。
それは、主観とか内面世界です。
それを、言葉に変換して相手に伝えるわけです。
それを受け取った相手は、その言葉を元に、相手の頭の中にある内面世界を再構築するわけです。
そうやって、相手の感じてることを感じることができるわけです。
そして、その感想を言葉に変換して伝えます。
相手は、それを聞いて、自分の伝えたいことが相手に伝わったと感じるわけです。
これが会話です。
言葉の意味を理解するには、何を作らないといけないか、見えてきましたよね。
それは、内面世界です。
ここまでの説明で、中国語の部屋やGPT-3の間違いに気づきましたか。
いいですか、中国語の部屋の部屋もGPT-3も、何らかの手順に従って入力文を処理してましたよね。
つまり、言葉って記号を処理してました。
記号を処理することが会話って考えてます。
これが間違いなんです。
そうじゃないんです。
そうじゃなくて、言葉から内面世界をつくり出すって考えないといけないんです。
そして、相手の内面世界をつくったってことが、心が通じたってことなんです。
チューリング・テストの開けた扉は、内面世界、主観に通じるんです。
アインシュタインの思考実験が、時間は不変じゃないって気づかせてくれたのと同じです。
時間が伸びたり縮んだりするって、今まで誰も考えたことのない世界を開いたんです。
こんな風に、今までにない世界を開いてくれるものを、優れた思考実験っていいます。
アラン・チューリングは、１９５０年にチューリング・テストを考案したって言いましたよね。
残念なことに、チューリングは、その４年後、４１歳の若さで自殺して亡くなりました。
もし、もう少し生きていたら、内面世界とか、主観をプログラムでどうやって再現するかってことに言及していたかもしれません。
そうなっていれば、人工知能は、今と、全く違った風景になっていたでしょう。
この原稿を書いてるとき、嬉しいニュースが飛び込んできました。
２０２１年６月２３日、イギリスで新５０ポンド紙幣が発行されたそうです。
そして、その肖像は、なんと、アラン・チューリングだそうなんです。
第二次世界大戦でイギリスが勝利できた原因の一つは、チューリングがナチスの暗号を解読したからです。
それなのに、チューリングの功績は、長い間、イギリス政府から抹消されてたんです。
しかも、チューリングの自殺の原因も、ほとんど、イギリス政府にありました。
この辺りの詳しい話は、第3回「コンピュータの生みの親 アラン・チューリング」を見ていただけたらと思います。
チューリングの名誉が、ここまで回復して、本当に良かったです。
僕がやろうとしてることは、チューリングが生きていたらやっていたことと同じものだと思っています。
それがロボマインド・プロジェクトです。
今回の動画が面白いと思ったら、チャンネル登録、高評価お願いしますね。
それから、このチャンネルが本になりました。
説明欄にリンクを張ってますので、良かったら読んでください。
それでは、次回もお楽しみに！