ロボマインド・プロジェクト、第４８弾！
こんにちは、ロボマインドの田方です。
今回の、「意識のハードプロブレム」シリーズでは、心の哲学の有名な思考実験を紹介しています。
そして、今回、紹介するのは、ツッコミどころ満載の思考実験、「中国語の部屋」です。
この思考実験は、１９８０年に、哲学者「ジョン・サール」が提案したものです。
（哲学者 ジョン・サール １９３２～）
それでは、さっそく中身を紹介しましょう。
ある小部屋に、英語しか理解できない人を閉じ込めておきます。
部屋の中には、分厚いマニュアルとメモ用紙とペンがあって、壁には小さい穴があいてます。
ほんで、その穴から、中国語が書いてある紙切れが差し入れられるんです。
中の人は、中国語はさっぱりわからないんですけど、マニュアルは英語で書いてあるんですよ。
そやから、紙に書いてある漢字をマニュアルで探して、そこに指示されたことをするわけです。メモを使って、なんか計算とかしたり、マニュアルの何ページに飛んで、そこの指示通りメモに漢字を書いたりとか。
そうやって、最後に、漢字を並べた中国文が完成するんですわ。
それを、穴から出すわけです。
そしたら、しばらくしたら、また、穴から中国語が書かれた紙が差し入れられるんです。
ほんで、また、さっきと同じことをするわけです。
部屋の外にいて、穴に紙を入れるのは中国人です。
その中国人は、中国語で何か文を書いて穴にいれたら、その返事が、紙に書いて出てくると思ってるわけです。
つまり、その中国人は、部屋の中の人と、中国語で会話してると思ってるんです。
でも、中の人は中国語なんか全く理解してないってわけです。
これが、「中国語の部屋」の思考実験です。
この思考実験、何が言いたいかというと、会話ができる人工知能システムができたとするでしょ。
でも、中で処理してる人は、意味を理解してるわけじゃないっていいたいわけです。
つまり、そんな対話システムができたとしても、意味理解してるわけじゃないってことがいいたいわけです。
それから、サールの思想的立場も説明しときます。
人間みたいな知性をもったＡＩのことを「強いＡＩ」っていいます。
将棋とか、画像認識とか、特定のことしかできないＡＩのことを「弱いＡＩ」っていいます。
この「強いＡＩ」、「弱いＡＩ」って言葉も、サールが作った用語です。
ほんで、サールは、「強いＡＩ」はできないって立場なんですよ。
つまり、「中国語の部屋」で言いたいのは、人間のように会話ができるシステムができたとしても、それは、本当に意味を理解してるわけじゃないってことをいいたいわけです。
さて、これ、どう思います？
一見、なるほどと思いますよね。
でも、よく考えたら、ツッコミどころ満載なんですよ。
どっからツッコんでいいか悩むぐらいなんですけど、まずは、一般的な反論から紹介しましょ。
まず、この小部屋が表してるのは、コンピュータ・システムです。
それじゃぁ、中の人はなんでしょう？
それは、ＣＰＵになります。
メモ用紙はメモリで、ペンを使ってメモリを書き換えてるわけですね。
小部屋全体がコンピュータ・システムというわけです。
そう考えたら、ＣＰＵが意味を理解してないって指摘は、あながち間違いじゃないです。
たしかに、中の人は中国語を理解してないかもしれません。
でも、中国語の文を入力したら、それに応答する正しい中国語の文を出力するわけですから、システム全体としては、中国語を理解してると言ってもいいんじゃないでしょうか？
つまり、中の人が理解してなくても、システムとしては理解してるじゃないかってことです。
これが、一般的な反論です。
まぁ、これはわかりますよね。
さて、ここからが面白くなります。
どんどんツッコんでいきますよ。
まずは、じゃぁ、このシステムで、意味を理解してるのは、いったい何ってとこから始めましょう。
中の人は、マニュアルに従って、操作してるだけですよね。
中の人がＣＰＵなら、マニュアルは何に当たるでしょう？
それは、ズバリ、プログラムです。
ＣＰＵは、プログラムに従って動いて、中国語の応答文を作ってるわけです。
ということは、中国語の意味を解釈して、応答文を作ってるのはプログラムとなりますよね。
つまり、このシステムで意味を理解してるのはマニュアルとなるわけなんです。
さて、ここで「思考実験」というものについて考えてみましょう
優れた思考実験って、本質を浮き彫りにします。
アインシュタインが、光と同じ速度で移動するって思考実験から相対性理論を導き出したみたいに。
Wikipediaによると、「中国語の部屋」の思考実験は、チューリング・テストを発展させた思考実験だって書かれています。
本当にそうでしょうか？
チューリング・テストについては、第４回「こんなＡＩは嫌だ！」で詳しく説明しているのそちらを参考にしてほしいんですけど、簡単に説明すると、ＡＩに人間と同じ知性があるかを判定するテストです。
テキストのやり取りで人間と会話できるＡＩのチャット・ボットができたとします。
チューリング・テストは、人間が、チャットを使って質問します。ただし、相手が、ＡＩチャット・ボットか人間かは知らされていません。
そして、会話して、相手が人間かチャット・ボットか区別がつかなくなったら、そのＡＩチャット・ボットは、人間と同じ知能を持ってるといえるわけです。
たしかに、一見、「中国語の部屋」とよく似てますよね。
でも、この二つは全然違うんです。
チューリング・テストは、本当に、優れた思考実験と言えます。
チューリング・テストが秀逸なのは、テストの中に、人間を組み込んでいることなんです。
人間と同じ知能があるかどうかは、人間にしか判断できない。
これが、チューリングが指摘してることなんです。
この方法でしか、人間と同じ知性を持つかどうかは、判定できないってことです。
たとえば、ある数学の問題を用意しておいて、この問題が解ければ、人間と同じ知能があるって形式では判断できないってわけです。
それから、もう一つ注目して欲しいのは、チューリング・テストを考えたのは、他でもない、天才、アラン・チューリングですよ。
（数学者 アラン・チューリング １９１２～１９５４）
コンピュータの基本原理を考えたチューリング本人ですよ。
これ以上、コンピュータのことを知り尽くした人は、他にはいません。
そのチューリングが、人間の知性のことを考え尽くして、出した結論がチューリング・テストです。
人間と同じ知性を持つか持たないかを判定するのは人間しかできないって言ってるわけです。
翻って、中国語の部屋を見てみましょう。
サールが指摘したかったのは、中の人は中国語を理解してないから、意味理解したことにならないということです。
でも、さっきも言いましたけど、本当に意味理解してるのは、中の人でなく、マニュアルでした。
つまり、プログラムです。
これだけ見ても、サールが、コンピュータのことをよくわかってないって、わかりますよね。
チューリング・テストに比べて、「中国語の部屋」の思考実験が、いかに浅いかってことです。
哲学者とはいっても、少しは、コンピュータの勉強、しておいてほしいものですよね。
それだけじゃないんですよ。
この思考実験、そもそもの前提からおかしいんですよ。
「中国語の部屋」って、人間と普通に会話できるシステムが完成したことが前提になってるじゃないですか。
そこに、ものすごく違和感を感じるんですよ。
人間と普通に会話ができるシステムですよ。
ドラえもんや鉄腕アトムみたいなロボットができたってことですよ。
それって、人類が目指す、究極のＡＩです。
それが、そんなＡＩができたとしても、そのＡＩは、本当に言葉の意味を理解してるわけじゃないって、文句をいってるんです。
えっ？
ってなりますよね。
何言ってんの、このオッサン。
そんな、スゴイもんができて、何をいちゃもんつけてんのよ。
それを作るの、どんだけ大変かわかってんの？って。
さっきも言いましたけど、サールは、コンピュータの仕組みをあまり理解してないようです。
哲学者なんで、どうやって実現するかってことには興味がなかったんやと思います。
でも、当たり前ですけど、どうやって実現するかが一番重要なんですよ。
それにしても、サールは、なんで、こんなバカな思考実験を考えたんでしょう。
それはですね、サールの思想的立場が関係あるんですよ。
最初にも言いましたけど、サールは、「強いＡＩ」は実現できないって立場にたってる人です。
「強いＡＩ」ってのは、人間と同じ知性をもっていて、人間と普通に会話できるようなＡＩです。
そんなものは、できっこないってのが、サールの考えです。
それを踏まえて「中国語の部屋」を見てみると、サールが、なんで、こんなことを言い出したのか、見えてきます。
万一、普通にしゃべれるＡＩができたとしましょ。
そしたら、「サールは間違ってた」って絶対言われるでしょ。
そのとき、「中国語の部屋」の理論を使えば、「会話ができたからって、言葉の意味を理解してるって証拠にならない」
「強いＡＩは実現できてない」
って言えるじゃないですか。
いや、もう、何なんでしょう。
「小学生か」って言いたくなりますよね。
なんちゅうかね、哲学者って、すごいと思うじゃないですか。
難しい、高尚なこと考えてたりして。
でね、それに比べてね、エンジニアなんかね、手を動かして、汗水流して、物を作ったりするわけですよ。
どう考えても、哲学者の方が、上ですよね。
でも、よう考えてみてください。
現代社会を支えてるのは、科学技術ですよ。
２０年前には、スマホもＳＮＳもありません。
インターネット元年は１９９５年です。
ほんの、３０年も遡ったら、今と全然違う風景になるんですよ。
世の中を、実際に変えてるのは科学技術です。
人とすぐに繋がりたいとか、宇宙に行きたいとか、
人間の希望を叶えるのは、科学技術ですよ。
逆に、哲学や政治でなにか、変わったことってあります？
たしかに、民主主義は素晴らしい制度だと思いますよ。
でも、民主主義も、選挙制度も、古代ギリシャからありましたよ。
時代を作って、理想的な世の中を作るのはエンジニアです。
エンジニアの皆さん、もっと、自信を持ちましょう。
ロボマインドも、新しい時代を作ろうと思っています。
それでは、次回も、お楽しみに！