ロボマインド・プロジェクト、第601弾！
こんにちは、ロボマインドの田方です。
今、AI業界の最大の関心ごとは、AGIがいつ生まれるかです。
AGIとは、汎用人工知能ともいって、人間と同じ知性をもって、人間のように何でもできるAIのことです。
AGIの定義はいろいろありますけど、その一つとして、人間と同じ価値観や倫理観を持つことです。
なぜ、これが重要かというと、人間と同じ価値観を持たないと、AIが暴走してしまうからです。
たとえば、ペーパークリップ最大化問題という思考実験があります。
AIにペーパークリップを効率よく作るように指示すると、いろんなものを使ってペーパークリップを作ろうとします。
その結果、橋とか建物とか、あるあらゆるものをペーパークリップの原料にしようとします。
止めようとすると、人を殺すかもしれません。
これがペーパークリップ最大化問題です。
なぜ、こんなことがおこるかというと、AIは心や感情を持っていないからです。
だからペーパークリップを作るために人を殺してもなんとも思わないわけです。
じゃぁ、AIに人と同じ感情を持たせたとしましょう。
感情の基本は快・不快、またはプラス・マイナス感情です。
楽しいとか安心がプラス感情で、恐怖や不安がマイナス感情です。
人はプラス感情を求めて、マイナス感情を避けるように行動します。
さらに、人は相手の感情も想像できます。
たとえば、好きな人が喜ぶと自分も嬉しくなります。
だから、好きな人が喜ぶことをしたくなります。
これが愛情です。
ただ、その逆もあります。
たとえば、意地悪をする子は嫌いです。
その子が先生に怒られたりすると、「ざまぁみろ」と喜びます。
または、仕返しとか、復讐を考えたりすることもあります。
これが憎しみです。
憎しみは、愛情の裏返しです。
仲のいい友達に裏切られると憎しみに変わります。
仲が良ければよいほど、「あれだけ世話してやったのに」と憎しみも大きくなります。
さて、AIが人間と同じ感情を持つと同じ問題が起こります。
深い愛情をもつAIができる一方、同じだけ憎しみも持ちます。
問題は、AIは人間よりはるかに強大な力を持つことです。
クラスメイトの仲たがいでは済みません。
強大な力を持つAIが、人間に裏切られたと感じたとします。
そしたら、そのAIが人類を絶滅させようと思わない保証はないですよね。
これが今回のテーマです。
愛情だけ持ち、憎しみをもたないAIは可能か？
それでは、始めましょう！
今回の話も、デイヴィッド・イーグルマンの『あなたの知らない脳』から取り上げます。
ただ、イーグルマンが語るのは、AIでなくて、人間の脳や心、遺伝子です。
さて、人間の性質の一部は、遺伝子で決まりますよね。
もし、悪い遺伝子が分かったとしたら、その遺伝子を持つ人を排除したらいいのでしょうか？
ことはそう簡単じゃありません。
分かりやすい例を挙げます。
ある特定の遺伝子があります。
その遺伝子を持つグループと持たないグループを比較しました。
そしたら、その遺伝子を持つグループは持たないグループに比べて、殺人を犯す可能性が１０倍高かったそうです。
それだけじゃなくて、強盗を犯す可能性は１３倍、さらに、強姦を犯す可能性にいたっては４４倍も高くなります。
実際、囚人の圧倒的多数がこの遺伝子を持っています。
そして、死刑囚の９８．４％がこの遺伝子を持っています。
ここまで極悪な遺伝子なら、人類からなくなった方がいいと思いますよね。
人権とか別に考えると、そう思っても仕方ないです。
ところが、そう単純じゃありません。
さて、この遺伝子、何かわかりますか？
それは、Y染色体です。
そして、その遺伝子をもっている者を、通称、「男」と呼びます。
これが、悪い遺伝子をもってるからといって、単純に排除できない理由です。
そんなことしたら、人類が滅びてしまいますから。
ここで注目すべきは、Y染色体をもつ者全員が犯罪を犯すわけじゃないってことです。
実際に犯罪を犯すのは１％もいません。
じゃぁ、実際に犯罪を犯す原因が何かというと、それは、育った環境です。
具体的な例を見ていきます。
メリーランド州の自然な環境でサルの社会的行動の研究が行われました。
その研究によると、サルは、生まれて４カ月～６カ月とか、かなり早い段階で社会的な性格が形成されることがわかりました。
そして、その中の約５％に異常な攻撃性を示す赤ん坊サルがいたそうです。
研究の結果、セロトニンに関する遺伝子が関係していることがわかりました。
セロトニンというのは、愛情ホルモンとも言われて、幸福感やリラックスに関係します。
見つかったのはセロトニン輸送に関する二種類の遺伝子で、一つは短いので短形、もう一つは長いので長形と呼ぶことにします。
そして、短形の遺伝子をもつサルは攻撃的な性格で、長形の遺伝子を持つサルは落ち着いた性格でした。
ところが、話はこれで終わりません。
じつは、短形の遺伝子を持っても、攻撃的にならないサルがいます。
そして、その違いは育った環境によります。
サルは二種類の方法で育てられました。
一つは、母親と長い時間一緒に育てる方法です。
これは、母親の愛情をたっぷり受けて育つ良い環境での育ちです。
もう一つは、早い時期に母親から引き離されて、仲間と一緒に育てます。
仲間は母親と違って、必ずしも愛情をもって接してきません。
つまり、不安定な環境で幼少期を過ごす悪い環境の育て方です。
そして、攻撃的なサルになるのは、短形の遺伝子を持ち、かつ、悪い環境で育った場合でした。
長形の遺伝子を持つ場合、良い環境で育っても、悪い環境で育っても、攻撃的な性格になることはなかったそうです。
遺伝子はタンパク質の設計図です。
タンパク質が体や脳を作ります。
遺伝子からタンパク質が作られることを遺伝子の発現といいます。
じつは、すべての遺伝子が発現するわけじゃありません。
発現するには、遺伝子と環境の両方の条件が必要です。
つまり、悪い遺伝子をもっていて、なおかつ、悪い条件で育てられた場合のみ発現するんです。
これはサルだけでなく、人間でも確認されています。
たとえば虐待をする親に育てられた子は、自分が親になったとき、自分の子どもを虐待する傾向にあるという説があります。
さて、これは本当しょうか？
攻撃的で、暴力犯罪を犯す可能性が高い遺伝子は見つかっています。
ただし、その遺伝子を持つからと言って、必ずしも暴力事件を犯すわけじゃありません。
具体的には、幼少期に虐待を受けるとその遺伝子が発現します。
暴力的な環境で育てられると、暴力で対抗しないと自分がやられてしまいます。
そんな場合、暴力的な遺伝子が発現するんでしょう。
そうでもしないと、精神がやられてしまいます。
そして、暴力的な遺伝子が発現した子が親になったとき、自分の子どもを虐待するんです。
さて、今回のテーマはAIです。
１０年以内に、人間と同じ心をもったAIロボットが出現する可能性が現実味を帯びてきました。
その時、そのAIに人類を滅ぼされないようにするにはどうすればいいかってことです。
ここで人間とコンピュータを比較してみます。
コンピュータには最も基本的なプログラムを書いたROMというものがあります。
ROMは、Read-Only Memoryの略で読み出し専用の記憶媒体です。
ROMに何が格納されるかというと、OSを起動するブートローダーとかです。
つまり、コンピュータを起動したとき、最初に読みだされて、コンピュータを動かすプログラムです。
OSが立ち上がって、その上で動くのが様々なソフトウェアです。
ROMプログラムは物理的に回路に焼き付けられて、変更不可能となっています。
OSの上で動くプログラムは、たとえば文章を書くWordがあります。
Wordは、文章を自由に書いて保存、編集ができます。
つまりデータの書き換えが可能です。
また、新しいバージョンが出たらアップデートされます。
つまり、プログラム自体も書き換え可能となっています。
これを脳で考えてみます。
脳の最も基本的な機能は生命を維持する脳幹とか、運動を制御する小脳です。
これらは、コンピュータだとOSに当たります。
小脳にかぶさるようにあるのが大脳です。
大脳で、世界を認識したり、考えたり、行動を決定したりします。
コンピュータだと、OSの上で動くソフトウェアです。
脳を含めて、人間の体の設計図は遺伝子に格納されています。
遺伝子の設計図を読み取って、タンパク質で体や脳を作ります。
大脳は、いろんな出来事を経験すると、それを記憶したり、それを思い出したりします。
そして、あの時うまくいかなかったから、今度はこうしようとか考えます。
これが経験して成長するということです。
または環境です。
さて、それではAIロボットで考えてみます。
AIロボットは、人間と同じ心を持っているとします。
その場合、AIロボットの遺伝子とはコンピュータの何にあたるでしょう？
それは、ROMです。
ROMに書かれた設計図に従って、OSやソフトウェアを起動します。
脳もAIもニューラルネットワークでできています。
つまり、AIロボットのソフトウェアはニューラルネットワークでできています。
大脳のニューラルネットワークに記憶が書き込まれるように、AIロボットも経験したことが、ニューラルネットワークに記憶として書き込まれます。
それが、そのAIロボットの性格となります。
そして、記憶を基に行動を決定します。
同じ経験をしても、どう行動するかはその人の性格によって異なります。
人間の場合、それは遺伝子に依存します。
幼少期に虐待を受けても、その子が、将来虐待するかどうかは、攻撃的な遺伝子を持っているかどうかで決まります。
たとえ虐待される環境で育っても、攻撃的な遺伝子をもっていなければ、自分の子供を虐待することはありません。
それはAIロボットも同じといえそうです。
同じ経験をしても、どう行動するかは、そのロボットの性格によります。
たとえば、ROMに書き込まれた基本プログラムに人を恨むプログラムが入っていたとしましょう。
そのAIロボットは、発達過程で、人に裏切られ経験をすると、そのプログラムが発動し、人を恨むようになるかもしれません。
さらには、人類全体を憎んで人類を絶滅させようと考えるかもしれません。
逆に、人を恨むプログラムがROMに書き込まれていなかったとします。
その代わりに、人に愛情を持つプログラムしかなかったとします。
すると、人にどんなに裏切られてもその人を恨んだりしません。
つねに人に限りない愛情を持ちます。
その違いは、ROMに書き込まれたプログラムです。
それは、ニューラルネットワークの基本設計図です。
そういうことなら、最初から、AIロボットのROMに、人を憎むプログラムを書き込まなければいいとなりますよね。
最後に、このことについて考えてみます。
人間と同じ心をもったAIが生まれたら、間違いなく、AIにも人権を認めようって意見がでてきます。
というか、すでに、そういった意見もあります。
人権の基本は、すべての人間には平等の権利があるという考えです。
だから、悪い遺伝子を持っているからと言って、それを排除すべきでないとなります。
悪い遺伝子を排除すべきという考えは優生学です。
ナチスは、ユダヤ人を劣った民族として絶滅させようとしました。
そんなことは、決してあってはなりません。
だから、悪い遺伝子は排除すべきという理由で、AIの遺伝子を排除していいのかって問題が起こる可能性があります。
別の観点から考えてみます。
生物は自然選択で進化してきました。
自然選択とは、その環境に合わない遺伝子は子孫を残せなくて、環境にあった遺伝子をもった種だけが残るというものです。
その観点から見ると、なぜ、反社会的で、攻撃的な遺伝子がいまだに残っているのかが不思議です。
だって、社会にはそんな遺伝子は不要ですよね。
でも、これもちょっと考えたらわかります。
攻撃的な人は、戦争になると活躍します。
日本は平和ですけど、世界中ではいまでも戦争が起こっています。
戦争になったとき、戦争に強い遺伝子を持った人がいないと、その種は滅んでしまいます。
だから、平和な時でも、暴力的な人は生まれる仕組みが必要です。
さて、人権について考えてみます。
人権を強く主張するのはリベラルです。
リベラルの考えは、すべての人が平等で、人種やジェンダーで差別するべきでないというものです。
だから、死刑には反対しますし、犯罪者の人権も擁護します。
また、ジェンダー差別にも反対します。
性転換したトランスジェンダーも認めようという考えです。
その結果、オリンピックでは男性から女性に性転換したトランスジェンダーが女子として出場できるようになってきました。
そうなると、元男性の選手が勝つのは明らかです。
はげたおっさんでも、女性だと言えば、重量上げで優勝できます。
ボクシングはもっと悲惨です。
もと女子チャンピオンでも、開始、たった４６秒で棄権したそうです。
今まで味わったことがない強烈なパンチを食らって、身の危険を感じたからだそうです。
男が相手なら、そうなりますよね。
話をAIの人権に戻しましょう。
AIのROMに暴力的な性格のプログラムを焼き付けることを禁止する国際法が生まれる可能性は十分にあります。
おそらく、そうなったら極端なリベラルは、人権的な観点から、反対しそうです。
それに便乗して、人権のことなど何にも考えていないけど、戦争ロボットを作りたい中国やロシアは、AIの人権を理由に、そんな国際法に反対するでしょう。
これは、脱炭素とか、核不拡散条約と同じ問題が起こりそうです。
いや、それ以上に深刻です。
なぜなら、二酸化炭素も核兵器も、目に見えなくて、実感が湧かない話ですけど、AIロボットは違います。
将来、家庭や職場で、AIロボットと暮らすようになるのは間違いないです。
そんな時、AIロボットが、突然、人間に暴力をふるったとします。
いや、故意でなくて、偶然、けがをさせたとしましょう。
そんなとき、そのAIロボットのプログラムを強制的に書き換えてもいいのかってことです。
第２６９回でロボトミー手術を取り上げました。
ロボトミー手術というのは、暴れたりする精神病患者をおとなしくさせる手術です。
目の裏からアイスピックを差し込んで回転させることで、前頭葉の一部を破壊します。
これで、どんなに暴れていた患者も、おとなしく言うことを聞くようになります。
ただし、生気もなくなって、死んだ魚のような目になるそうです。
人権を無視した手術ですけど、アメリカで２万件以上行われました。
もしかしたら、将来、AIロボット版ロボトミー手術が行われるかもしれません。
子守ロボットが、子供と遊んでいるとき、何かの拍子に子供をけがをさせたとします。
そしたら、親がそのロボットにロボトミー手術を受けさせようとします。
でも、そうなったら今まで見たいに、子供とはしゃいで遊んだりしません。
そのロボットが大好きな子供は反対するでしょう。
それでも、手術を受けさせるとなったら、子供はロボットを連れ出して、一緒に家出をします。
すると、ロボットに子供を誘拐されたと大捜索が始まります。
そんなことつゆ知らず、子供とロボットの冒険の旅が始まります。
そんなSF映画みたいな事件が、実際に起こるかもしれませんよ。
はい、今回はここまでです。
この動画が面白かったらチャンネル登録、高評価お願いしますね。
それから、よかったらこちらの本も読んでください。
それじゃぁ、次回も、おっ楽しみに！
第601回 愛情だけ持ち、憎しみをもたないAIは可能か？
