ロボマインド・プロジェクト、第350弾！
こんにちは、ロボマインドの田方です。
対話AIのChatGPTが話題になってますよね。
早くも、次のバージョンのGPT-4も出てきました。
学習内容がさらに増えて、どんどん高精度になってきてるそうです。
それから、人種差別とか、倫理的に問題がある発言をしないようにもなってます。
これは、問題のある単語を言わないように規制してるそうです。
ただ、単語を言わないようにするだけじゃ、本質の解決にならないですよね。
本質っていうのは、差別とは何なのかをAIに理解させることです。
僕らは、無意識の内に、つい、差別してしまいます。
それがあるから、差別すべきでないって決められてるんです。
つまり、AIに倫理問題を理解させるには、無意識で、差別する心をもたせないといけないんです。
これが今回のテーマです。
心から差別するAIの作り方
それでは、始めましょう！
第348回から紹介してるのがこの本、橘玲の『バカと無知』です。
この本、人間の心理を解き明かす様々な実験が紹介されています。
たとえば、差別意識は、何歳ぐらいから生まれるのかって実験があります。
どうやって調べるかって言うと、黒人と白人の人形を使って、「どっちの人形が欲しい？」とか「どっちが悪い人かな？」って質問をします。
すると、3歳を過ぎるころから、ほとんどの白人が黒人を「悪い」と感じるようです。
これは、まぁ、分かります。
分からないのは、4歳～7歳の黒人の子供に聞いても、黒人より白人を好むようなんです。
それから、クレヨンで好きに人物の絵を描かすと、黒人の子で黒人を描いたのは４人に一人だったそうで、最も多く描かれたのは白人だったそうです。
もっと分からないのは、黒人差別をなくそうって活動に熱心な黒人家庭の子供ほど、白人に強い好意を示したそうです。
さて、これはどう解釈したらいいんでしょう。
これは、子供は本能により忠実だと考えたら理解できます。
ここでいう本能というのは、社会的本能のことです。
つまり、社会で生きていくために生まれ持った本能のことです。
それがどういうものか具体的に見ていきます。
子供って弱いですよね。
弱いものは、強いものに守ってもらわないと生きていけません。
だから、誰が強いかって見抜くのに長けているです。
これが社会的本能の一つです。
その機能があるから、普段の生活の中で、白人と黒人のどっちが強いかって、自然と見抜いてるんです。
それじゃぁ、黒人差別反対の家庭の子供の方が、より白人を好むのはなぜでしょう？
それは、黒人が下に見られてるって家庭で熱心に教えてるからです。
そんなことを教えれば教えるほど、子供は、黒人は下で、白人は上だって思うようになりますよね。
そうなったら、強い立場の白人に憧れるのは当たり前です。
仮面ライダーを見て、ショッカーに憧れる子供がいないのと同じです。
強いものに憧れる社会的本能で全て説明がつくんです。
これが人間の心です。
僕は、そんな心をマインド・エンジンというシステムで実現しようとしています。
それでは、この社会的本能を、マインド・エンジンを使ってもう少し探っていきます。
赤ちゃんは、この世に生れ落ちてから、この世界を理解しようとします。
目で見て、手で触って、時には口に入れて、世界とはどういうものか認識します。
なにもない空間があって、その中に物があるって理解します。
世界に存在する物のことを、マインド・エンジンではオブジェクトと呼びます。
オブジェクトというのは、一種のデータ構造で、属性としてプロパティを持ちます。
たとえば、リンゴなら赤とかって色プロパティと、丸いって形プロパティを持っています。
そして、オブジェクトは、親子関係の概念も持ちます。
たとえば、リンゴオブジェクトは、果物概念の子どもで、果物概念の親は植物概念とかです。
こうやって、あらゆる物をカテゴリーに分けて整理します。
さらに、カテゴリーもプロパティを持ちます。
たとえば、果物カテゴリーの味プロパティは甘いとかです。
さて、こうやって、人は、あらゆるものをカテゴリーで分類します。
これは、人が持って生まれた機能です。
つまり、人は、見たものをカテゴリーで分類するって本能を持ってると言えます。
そして、たとえば、人を見たとき、自然と、肌の色で分類するわけです。
それが黒人、白人って分類です。
そうやってカテゴリーに分けたら、そのカテゴリーには、何らかのプロパティを設定できるようになります。
それが、黒人とはこうだ、白人とはこうだって偏見です。
これが人種差別が生まれる仕組みです。
こうしてみると、人種差別って、人が持つ本能によって必然的に生み出されたものだってわかりますよね。
それじゃぁ、人は、人種ごとにどんなプロパティ、つまり偏見をもっているのでしょう？
ただ、これは無意識に思ってることなので、調べるのは難しいです。
ところが、それを調べるテストがあるんです。
それは、潜在意識連合テストといいます。
それは、二つの組み合わせを示して、どっちに速く反応するかをテストするものです。
たとえば、黒人の顔写真と銃の写真を同時に示したときの反応速度が、「白人と銃」や「黒人と花」より速かったら、その人の潜在意識で、黒人と銃が結びついてるといえるわけです。
そして、これをアメリカ人にテストしてもらうと、ほとんどのアメリカ人は、黒人にネガティブな偏見を持ってることが分かりました。
注意してほしいのは、これは白人だけがそう思ってるわけじゃないってことです。
黒人も、黒人と銃を強く結び付けていたんです。
つまり、黒人をネガティブに思うのは、その社会で誰もが無意識に思ってるわけです。
これは、カテゴリー分けの本能が行ってることです。
無意識で行ってるってことは、意識では変えられません。
これが、意識的に行ってるなら変えることができます。
さて、ここで、重要なキーワードがでてきました。
それは、変えられるものと、変えれないものです。
ここ、ものすごく重要なので、しっかり説明します。
まず、心のシステムがあります。
心のシステムは、無意識と意識に大きく二つの層に分けられます。
僕らが、感じて、こうして体を動かしてるもの、これが意識です。
これが上のレイヤーです。
そして、その下に無意識のレイヤーがあります。
無意識は、いろんな処理を行っています。
本能も無意識の一種です。
見たものをカテゴリーに分類するのも無意識ですよね。
大量のデータを分類するのって、今のAI、機械学習が得意なことです。
つまり、今のAIがやってるのは、無意識レイヤーと言えます。
それから、感情とかを生み出すのも無意識レイヤーです。
無意識で分類した物事や、発生した感情を感じるのが、その上にある意識です。
意識のレイヤーには、言葉とか、理性があります。
これが心のシステムの全体像です。
それでは、心のシステムがこの二層の中でどう動くのか見てみます。
たとえば、つり橋を渡ろうとします。
でも、下を見ると怖くて足がすくみます。
まず、恐怖って感情が無意識のレイヤーから生まれてるわけです。
意識はそれを感じます。
さて、このつり橋から落ちる確率は交通事故にあう確率よりはるかに低いってことを聞きました。
この意味を理解するのが理性です。
理性は、意識レイヤーにあります。
でも、そのことを聞いたからと言って、つり橋を渡るのが怖いのは変わらないですよね。
理性で落ちないとわかっても、無意識から生まれる恐怖が消えることはありません。
せいぜいできるのは、怖くないふりをして渡ることぐらいです。
これが心のシステムです。
差別の話に戻ります。
人は肌の色で分けられるとか、黒人は犯罪率が高いとかって、経験によって無意識が自動で整理してることです。
意識は、分類された物事を認識するだけで、分類自体を変更することはできないんです。
ただ、幸いなことに、意識は行動の最終決定権があります。
「人種差別すべきでない」って言われたら、たとえ、無意識で思っても、表には出さないようにできます。
別の言い方をすれば、本音と建て前です。
心が二層になってるってのは、こういうことです。
さて、「人種差別すべきでない」っていうのはルールですよね。
人は、ルールを決めて、ルールに従って行動できます。
マインド・エンジンでは、ルールは専用のスクリプト言語で記述されます。
たとえば、これは、ジャンケンのルールのスクリプトです。
ここでは、細かい話はしませんけど、重要なのは、ルールっていうのは、後から学ぶことができるってことです。
後からって言うのは、生まれた後からってことです。
逆に、本能って生まれる前からありますよね。
そして、変更できません。
これが無意識レイヤーの特徴です。
意識レイヤーの最大の特徴は、生まれた後から、自由に追加・変更できるルールを持てるってことです。
そして、その一つが、「～すべき」って社会が決めたルールです。
このことを踏まえて、もう少し説明します。
橘玲の本で繰り返し出てくるのは、上方比較と下方比較の話です。
上方比較というのは、自分より社会的に上の人との比較です。
すると、自分が劣ってることを実感しますよね。
だから、脳は、上方比較を損失と感じます。
逆に、社会的に下の人と自分を比較すると、自分が優れてるって感じますよね。
つまり、下方比較は報酬と感じるわけです。
そして、これも、一種の社会的本能です。
つまり、生まれ持った機能で、無意識で行うものです。
こうして、人を見たとき、まず、白人と黒人ってカテゴリー分けして、そして、上か下かって判定するんです。
これは無意識レイヤーで行ってることなので、止めることはできません。
変えれるのは、その上の意識レイヤーのルールだけです。
だから、人を肌の色で差別すべきでないってルールを作ったわけです。
差別や倫理を理解するAIを作るには、これだけの仕組みが必要というわけです。
ただ単に、この単語を言ってはいけないって、延々と教え続けるのはあまり意味がないんです。
最後に、以上の話を踏まえて教育とは何かについて考えます。
前回、アイヒマン実験の話をしました。
アイヒマンって、ナチスドイツでユダヤ人を強制収容所に送る責任者でした。
ただ、特別残酷な人格を持ってたわけでなくて、家庭では、奥さんに花束を贈る優しい夫でもありました。
そんな普通の人でも、状況によっては、どれだけ残酷なことができるかを調べるのがアイヒマン実験です。
実験は、「記憶と学習に関する科学研究」との名目で、被験者がイエール大学に集められます。
そこで、研究者の指示に従って、記憶できなかった生徒に電気ショックを与えるというものです。
ただし、電気ショックも偽物で、生徒は演技してるだけです。
実験の目的は、被験者が、どれほどの電気ショックを与えるかを調べることです。
ここでのポイントは、被験者が呼ばれたのがイエール大学ということです。
つまり、アカデミズムの権威で、一般のアメリカ人である被験者のはるか上になります。
実験結果は、驚くべきものでした。
なんと、６５％もの人が、致死レベルといわれる４５０ボルトの電気ショックを与えたんです。
ボランティア活動を熱心にしてる普通の主婦は、実験中「ごめんなさい、もうできません」とずっと自分に言い聞かせてたそうです。
そう言いながら、450ボルトの電気ショックを３回も与えたそうです。
さて、この主婦は、「もう無理」って思いながらも、研究者の指示に従ったわけですよね。
ここで注意してほしいのは、彼女は、強制的にやらされてるわけじゃないんですよ。
断ろうと思ったら断れたわけです。
実際、３５％の人は、断ってたわけですから。
彼女は強制されたわけじゃなくて、服従してたってことです。
じゃぁ、服従ってどういうものでしょう。
彼女は、意識では、「やるべきでない」って思ってますよね。
これが理性です。
理性ではわかっていながら、それができないわけです。
これ、つり橋から落ちないとわかっていながら、足がすくんで動けないのと同じですよね。
つまり、上の者の命令に従ってしまうのは、無意識レイヤーで生じる本能です。
社会的本能の一種です。
おなじ社会に属していて、その社会で、上の立場の者からの命令に従うのが服従って本能です。
これは人間だけでなく、サルとか、社会を作る動物なら持ってる社会的本能です。
人は、目上の者に従うって社会的本能を持ってるから、安定した社会を維持できるんです。
それじゃぁ、服従と強制はどうちがうのでしょう。
どちらも、上からの命令ですよね。
強制との違いは、命令するのが同じ社会のものか、外の社会のものかってことです。
ここが理解できると、最近の学校で起こってる現象が理解できます。
最近、学校で子供たちが言うことを聞かなくなったと言われます。
学級崩壊とかです。
最近は、昔と違って、先生は生徒を叱ったりできなくなりました。
そうなると、上下関係があいまいになってきます。
上下関係がなくなれば、上の者に従うって社会的本能が機能しません。
そりゃ、先生の言うことを聞かなくなりますよね。
だからといって、鞭でたたいて無理やり言うことをきかすのも間違いです。
無理やりやらすのは強制です。
それじゃぁ、強制でなくて、従わせるにはどうすればいいんでしょう？
まず、強制と服従の違いは何でしたか？
それは、同じ社会に属するか、属さないかですよね。
つまり、まずやるべきは、同じ社会に属することです。
もちろん、先生と生徒は同じクラスなので同じ社会に属しています。
ただ、クラスってのは、社会で決めたルールです。
つまり、意識レイヤーです。
でも、社会的本能が機能するには、無意識レイヤーですよね。
つまり、無意識レイヤーで同じ仲間と思ってないと機能しないんですよ。
同じ仲間っていうのは、信頼関係があるってことです。
まず必要なのは、信頼関係を築くことです。
信頼関係がある上で、上下関係が固まると、生徒は先生の言うことを聞くって関係ができるんです。
教育が機能するには、こうやって、社会的本能を機能させる必要があるんです。
逆に言えば、学級崩壊が起こるのは、信頼関係が築けてないか、上下関係が崩れてるとも言えそうです。
さて、どうなんでしょうねぇ。
はい、今回の動画がおもしろかったらチャンネル登録、高評価お願いしますね。
それから、ただいま、絶賛、クラウドファンディング中です。
こちらも、ぜひ、応援お願いします。
それじゃぁ、次回も、おっ楽しみに！