ロボマインド・プロジェクト、第153弾！
こんにちは、ロボマインドの田方です。
『クララとお日さま』シリーズ、最終回です。
今回は、前半、後半に分けて、二つの大きなテーマについて語ります。
前半は、この本で、表向き、押さえるべきポイントです。
読書感想文とか書くとき、押さえないといけないってことです。
一つは、「心」とは何かといったことです。
もう一つは、現在のAIの課題についてです。
でも、本当に重要なのは、後半です。
それは、ラストシーンに現れます。
カズオ・イシグロ自身も気付かずに触れてる重要なテーマです。
意識とは何かという核心となる話です。
それでは、前半から始めましょう！
まずは、カズオ・イシグロが考える「心」についてです。
ジョジーの肖像を描く画家の話は覚えていますか？
その人が、実際に作ってたのは、肖像画じゃなくて、ジョジーそっくりの人形というか人体模型みたいなものでした。
その人は、クララにジョジーを完璧に学習させて、そのクララの人工知能をジョジーの模型に移植しようとした科学者だったんです。
その科学者は、人間の心を完全に人工知能に置き換えるのは可能だって考えていました。
そして、それに対してのカズオ・イシグロの考えが、クララを通して語られています。
それは、心というものは、本人の中にあるだけじゃないって話です。
その人と関わった人の思い出の中にもあって、そこまではコピーできないってことです。
じつは、このことは、僕も同じように考えています。
たとえば、第103回「それ、ちゃいまっせ！チューリングテスト」で解説しています。
チューリングテストって、人工知能に人間と同じ知能を持ってるかどうかを確認するテストです。
チャットボットみたいな会話AIを想定して、人間との会話が続けばテストに合格です。
つまり、そのAIは人間と同じ心があると言えるわけです。
これを考えたのが、アラン・チューリングなのでチューリングテストって呼ばれてます。
問題は、テストの形式です。
つまり、何か問題を解かせて、それが解けるかどうかってテストじゃないってことです。
チューリングテストのポイントは、テストの中に、人間が含まれてるってことです。
おそらく、チューリングは、心があるかどうかを判定できるとしたら、人間だけだって考えたようなんです。
これを別の見方をすれば、心って、単独で存在しないってことです。
コミュニケーションって、相手がいて、始めた成り立つものですよね。
コミュニケーションが成立するってことは、相手の気持ちを理解できるってことです。
お互いに、相手の気持ちを理解できるってことは、お互いに同じ心の仕組みをもっているわけです。
同じ心の仕組みを持った人がコミュニケーションしながら成り立つのが社会です。
これを逆に言えば、人とうまくコミュニケーションして、社会が成り立つなら、それは、人間と同じ心を持っていると言えるわけです。
人間と普通に会話ができれば、人間と同じ心を持ってると言えるってわけです。
これが、チューリングテストの本当の意味なんです。
それをもっと拡張して考えれば、その人の心は、その人だけがもってるだけじゃないって言えるわけです。
つまり、ジョジーの心は、ジョジーの中にあるだけじゃないってことです。
お母さんや、お父さんや、リックとか、ジョジーと関わった人、みんなの記憶の中にもあるんです。
そして、それらが合わさって、ジョジーの心はつくられているんです。
そんな、心の複雑さをカズオ・イシグロは伝えたかったんだと思います。
次は、現在のＡＩの課題です。
それは、ジョジーの人体模型を作ってた科学者が、最後の方で語っています。
現代のＡＩは、ＡＩがどのようにして判断したのかがブラックボックスになっている。
だから、クララを分解させてほしいって、お母さんに頼みます。
じつは、これ、ちょっと違うんですよ。
たとえば、クララは、道路工事の機械を破壊しましたよね。
これだけ見ると、なぜ、そんなことをしたのか分かりませんよね。
でも、クララの中では、ジョジーを助けるために、お日さまが喜ぶことを考えたわけです。
そして、その結果、真っ黒な煙を出す道路工事の機械を破壊すれば、お日さまが喜ぶんじゃないかと判断したわけです。
ちゃんと、理屈は通っています。
本人が言うかどうかは別にして、説明しようとおもえば説明できます。
ただし、これは、今のＡＩじゃできないんです。
ブラックボックスになって説明できないっていうのは、あくまでも、今のAIの問題です。
今のＡＩっていうのは、ディープラーニングとか、機械学習のことです。
今のAIは、大量のデータから何を学習して、自分で推論できるようになります。
でも、どのように推論したのかは、分かりません。
でも、クララは、人間と言葉を使って会話できます。
だから、言葉で推論の過程を説明できます。
逆に言えば、説明不可能という今のＡＩの課題も、言葉を使えるようになると、説明可能になるんです。
言葉を使えるか、使えないかってのが、今のＡＩが、次へ進む一番のポイントになるわけです。
さて、こっからが、問題の後半です。
カズオ・イシグロ本人が気づいていないけれど、ＡＩの心の根本に迫る問題です。
まずは、意識システムの設計についてです。
クララは、新しい場所や状況になると、見えている画面が6つとか8つに分割されます。
それぞれの画面で、少しずつ違う処理をしてるようです。
人間も、初めての場所に行くと、いろんな物が気になったりしますよね。
たぶん、この状態を表現してるんだと思います。
ただ、決定的に違うのは、人間の場合、画面が分割されないことです。
これは、あきらかにクララの設計ミスですね。
意識が、処理の中身まで見えるように設計させちゃ、ダメなんですよね。
ロボマインドでは、「意識の仮想世界仮説」に基づいて設計しています。
意識の仮想世界仮説では、カメラなどで撮影した現実世界の情報を基に、頭の中に現実世界を仮想的に再現します。
そして、意識は、再現された現実世界を、本当の現実世界として認識します。
だから、現実世界を再現するとき、忠実に再現しないといけないんです。
現実世界がいくつもの画面に分割されたら、混乱しますよね。
たしかに、初めての状況だと、いろんなことを処理するのは分かります。
でも、だからといって、現実世界でそれをやる必要はないんです。
現実世界は、あくまでも、目の前に存在する世界です。
目の前の世界が、突然バラバラに分解されたら、誰だってびっくりします。
そんな処理は、バックグラウンドで処理すればいいのです。
いわゆる、マルチタスク、マルチスレッドで処理するわけです。
まぁ、カズオ・イシグロは文学者なんで、そんなコンピュータの仕組みのことは知らなくて当然ですけどね。
それから、さっき説明した「意識の仮想世界仮説」に関しては、この本で詳しく説明してます。
説明欄にリンクを張っておきますので、興味がある人は、よかったら読んでみてください。
さて、次は、いよいよ問題のラストシーンです。
用がなくなったクララが、スクラップ置き場に捨てられました。
自分では動けなくなったけど、大好きな太陽の光を受けながら、昔を思い出してるってシーンです。
ネットでレビューを読んでると、幸せなラストだって意見もありました。
さて、このシーン、じつは、意識を考えるうえで、ものすごく重要な問題を提示してるんです。
それが、何かと言うと、自由意志です。
現代科学では、人間には自由意志が存在しないというのが主流です。
それに対して、僕は、意識と自由意志は同時に生まれたという考えです。
このことに関しては、第１２０回「えっ！ まだ、魚は傷みを感じてるって思ってるの？」で詳しく説明しています。
簡単に説明すると、意識は世界を認識します。
世界を認識するとは、目や耳で知覚するだけじゃなくて、痛みや快楽といった感覚、悲しみや楽しさといった感情を感じることです。
さて、自由意志がない場合を考えてみます。
たとえば、足の膝下を叩いたとき、膝が上がる脊髄反射反応があります。
これは意識せずに勝手に足が上がるので、自由意志がないわけです。
環境からの刺激に対して、自動で動いているだけです。
僕は、魚やカエルも環境からの刺激で反応してるだけと考えています。
つまり、魚やカエルは意識がないという考えです。
これは、僕が定義してる意識です。
意識の定義は、まだ決まったものがないので、僕なりに定義してるわけです。
さて、生物がさらに進化すると、意識が生まれました。
すると、意識の役割は、世界を認識して、行動を決定することです。
さて、行動を決定するとき、何を基準に決めるでしょうか？
それは、感覚です。
痛みや苦しみを感じたら、それを避けるように行動するわけです。
逆に、あえて我慢することもできます。
たとえば、しんどくても我慢して、走る練習をするとかです。
重要なのは、痛みを感じて、それを基に行動を選択できるってことです。
この、行動を選択できるってのが、自由意志です。
膝の下を叩いたとき、勝手に足が動きましたよね。
これは、叩かれたって感覚なしに、行動してるわけです。
つまり、叩かれたって感覚と、それを感じる意識、それから行動の選択の余地がないわけです。
つまり、自由意志がないわけです。
自由意志が生まれたってことは、意識が、自分の行動を選択できるようにシステムの構成をガラッと変わったわけです。
進化の過程で、そんな大胆なシステムの変更が起ったわけです。
そして、行動を選択する基準として、痛みとかって感覚も生み出したわけです。
つまり、「痛み」は、本来存在しないけれど、あたかも存在するかのように作り出された幻想っていえるんですよ。
意識－感覚－自由意志
この三つは、切っても切れない関係にあるんです。
それじゃぁ、この三つがそろわない場合を考えてみましょう。
たとえば、痛みを感じても、自分で行動できない場合です。
じつは、僕は、それを経験したことがあります。
第105回「開腹手術中に全身麻酔から目覚めた話」で話しました。
麻酔が切れて、痛みを感じるけど、手足が全く動かせなかったって話です。
この時、嫌と言うほど思い知らされました。
痛みと自由意志とは、絶対、ペアで存在しないと困るって。
これって、逆に言えば、意識や自由意志がない生物は、痛みも感じてないってことなんですよ。
意識や自由意志がないってことは、環境からの刺激だけで、行動が決まるわけです。
最初っから行動が決まってるなら、わざわざ痛みなんて幻想を生み出す必要がないわけです。
魚は刺激に反応して動いてるだけなので、痛みも感じてないわけです。
釣られた魚が、体をくねらせてるのは、痛みでもがいてるんじゃなくて、刺激に反応して動いてるだけです。
反射反応で動いてるわけです。
わかってきましたか？
意識と感覚と自由意志の関係。
この3つは、必ず3つ同時にそろわないとといけないんです。
意識と感覚があるのに、自由意志だけ存在しないって、地獄なんですよ。
さて、ここで、もう一回、本のラストシーンに戻ります。
クララは、動けないのに、意識だけがある状態です。
太陽光を受ける限り、いつまでも生き続けます。
これって、地獄以外の何物でもないですよね。
スクラップ置き場でも、たぶん、いろんなことが起ります。
動物に襲われるかもしれません。
そんな場合でも、逃げるって選択ができないんです。
どう考えても、幸せとは思えませんよね。
意識があるのに動けないってラストシーン。
カズオ・イシグロが意図したかどうかは分かりませんけど、意識の根源的な意味を浮き出させるシーンになっています。
でも、そんなことより、誰か、クララの電源、切ってあげたらいいって思いますよね。
そうすれば、意識がなくなるので、苦しみも何も感じなくて済みます。
まぁ、でも、それじゃぁ、文学にはならないですけどね。
文学って、難しいですよねぇ。
さて、今回の動画がためになったと思ったら、チャンネル登録、高評価ボタンお願いしますね。
それじゃぁ、次回も、お楽しみに！