ロボマインド・プロジェクト、第477弾！
こんにちは、ロボマインドの田方です。
2022年11月ChatGPTがリリースされました。
あまりの自然な会話に誰もが驚愕して、2ヶ月でユーザー数が1億人を突破しました。
2023年3月にはマイクロソフトが100億ドルの追加投資を行い、４９％を持つ筆頭株主になりました。
ChatGPTのAI技術は、今までと比べると異次元の技術でした。
この新しいAI技術を持つものが次の時代の覇権を握ることは間違いありません。
その後、OpenAIはGPT-4の発表したり、対抗するGoogleはGeminiを発表したりと、毎週のように大きなニュースが発表されました。
そして、極めつけは11月17日に起こりました。
最高経営責任者のサム・アルトマンがOpenAIの取締役会でOpenAIから解任されましたんです。
その後、解任されたアルトマンをマイクロソフトが迎え入れると発表しました。
ちなみに最大株主のマイクロソフトは、アルトマンを解任することを取締役会から一言も聞かされていなかったそうです。
一方、OpenAIの開発者は、アルトマンの解任に反対しました。
ほぼすべての開発者が、アルトマンが復帰しないなら、自分らはOpenAIを辞めるとの声明を発表しました。
アルトマンはともかく、開発者がいなくなれば、さすがにOpenAIは崩壊します。
解任から3日経った21日夜までには決着がつきました。
最終的にアルトマンがOpenAIに復帰することが決まり、取締役会のほとんどはいなくなりました。
さて、アルトマン解任劇とはいったいなんだったんでしょう？
じつは、アルトマンが解任された正式な理由は未だに公表されていません。
いろんな憶測は去れていますが、どれも表面的な話です。
橘玲の『テクノ・リバタリアン』を読んで、ようやくその謎が解けました。
背後にあったのは効果的利他主義と効果的加速主義という二つの思想の対立です。
効果的利他主義はEAと略されて、どうすれば、他者に貢献して社会をより良くすることができるかを追及する思想です。
提唱したのは倫理学者のピーター・シンガーです。
効果的加速主義はe/accと書いてイーアックとよばれます。
効果的利他主義をもじって名付けられるのをみてわかるとおり、一つの思想というより、SNSを通じてシリコンバレーの起業家に広まった一種のネットミームです。
そこには、効果的利他主義への対立が見えます。
どこが対立してるかというとAIに対する考えです。
効果的利他主義は、AIが本当に社会を良くするのか、先に倫理的な問題を解決しないといけないといいます。
つまりAI規制です。
一方、効果的加速主義はAIを使うことで社会が加速的によくなると考えます。
つまり、AI推進です。
そして、サム・アルトマンは効果的加速主義者で、OpenAIの取締役会は効果的利他主義者でした。
だからサム・アルトマンは解任させられたんです。
でも、これもまだまだ表面的な話です。
効果的利他主義と効果的加速主義って、大げさでなくて、間違いなく今後の世界を二分する二つの政治思想となります。
これが今回のテーマです。
サム・アルトマン解任劇の真の理由
効果的加速主義とは
それでは始めましょう！
ここで、政治思想についておさらいします。
政治思想は大きく右と左にわかれます。
左、左翼の考え方は共産主義、社会主義です。
共産主義が重要視するのは平等です。
富を平等に分配することです。
国民の富を分配するには強い権力が必要です。
だから、共産主義では一党独裁となります。
一党独裁が続くと権力は必ず腐敗します。
だからソ連は崩壊したんです。（バラバラになるデザイン）
一方、右、右翼が重要視するのは民主主義です。
これは一部の階級や党が国を支配するのでなく、国民が国を治めるという考えです。
そのために、選挙で政治家を選び、選ばれた政治家が国を統治します。
ただし、国民から選ばれた政治家が必ずしも賢明とは限りません。
これが民主主義の問題です。
その代わり、賢明でない政治家は次の選挙で交代させることができます。
逆に言えば、民主主義というのは、人は必ず間違うということを組み込んだ政治システムと言えます。
よくできたシステムとは言えますけど、必ず間違うことを前提にしてる時点で、欠陥があるシステムと言えます。
このことをチャーチルはこう言います。
「民主主義は最悪の政治形態だ。
ただし、これまでに試みられた民主主義以外の全ての政治形態を除けば」
これは民主主義の核心をついてることがと言えます。
どこが核心かというと、政治というのは、愚かな人間が統治するしかないってことです。
国を統治するのが王様か、選ばれた国民かって違いはありますけど、人が統治するしかないわけです。
でも、それは今までの話です。
21世紀の今、人類の歴史で初めて、人以外が統治する政治システムが生まれつつあるんです。
それは、AIによる統治です。
愚かな人が統治するという最大の欠点を解消した政治システムです。
歴史的に見て、一番最近に生まれた政治システムは19世紀に生まれたマルクス共産主知です。
その新しい政治システムが20世紀の世界を二分しました。
それが共産主義と民主主義です。
そして、今、それと同じことが起ころうとしているんです。
AIによる統治を押し進める効果的加速主義と、押しとどめる効果的利他主義です。
10年後の歴史の教科書には、きっとこう書かれます。
この二つの戦いを世に知らしめた最初の出来事が、サム・アルトマン解任事件だって。
それじゃぁ、AI推進派とAI規制派の対立を示す他の事件も見ていきます。
Airbnb(エアビーアンドビー)ってあります。
エアビーって略されますけど、これは自分の家をホテルとして貸し出すシステムです。
いわゆる民泊です。
エアビーでは、中央でシステム全体を管理する中央集権的なシステムとなっています。
これと同じ仕組みをヴィタリック・ブテリンがイーサリアムを使って実現しようとしました。
イーサリアムというのは暗号通貨ですけど、最大の特徴は、スマートコントラクトといって、ブロックチェーン上にアプリケーションの内容を記録したり、契約の内容を保存したりできることです。
そこで、まず、部屋に電子錠を付けます。
そして、借り手と貸し手の間でスマートコントラクトが成立すると、鍵を開けるためのパスワードが送られて、それと引き換えに、貸し手の口座にイーサが振り込まれるようにします。
これでエアビーと全く同じ機能が実現できるわけです。
これの何がスゴイかというと、この契約、中央で管理しなくても、貸し手と借り手だけで成立します。
つまり、今までのエアビーが中央集権的なシステムなら、イーサを使った民泊は非中央集権的なシステムになってるんです。
これは、政府が存在しない国家の第一歩とも見なせます。
はたして、その結果はどうなったでしょう？
その結果、システムのバグを突かれて、ハッカーに50億円相当のイーサを奪われました。
そこで、ブテリンはブロックチェーンを書き換えることで、ハッカーがイーサを盗む前の状態に歴史を巻き戻しました。
これは、まぁ、妥当な決断です。
でも、これに反対する人たちもいました。
じゃぁ、いったい何に反対したんでしょう？
それはブロックチェーンを書き換えたことです。
それは暗号システムの根幹を否定することになります。
中央集権では政府か王が絶対です。
それと同じで非中央集権システムを作り上げてるのは暗号システムのコードです。
コードが絶対なんです。
コードは絶対に書き換えてはいけないんです。
でも、ハッカーはシステムのバグを突いてイーサを奪ったわけですよね。
コード原理主義者に言わしめれば、コードのバグを突くのは正当な行為になるんです。
民主主義では、どんな愚か者でも、選挙で選ばれたら政治家になれます。
その政治家に辞めてもらうには、次の選挙で投票しないことです。
思ったより悪い政治家だったから、選挙をなかったことにするなんてしてたら民主主義が成立しません。
まぁ、言いたいことは分かりますけど、さすがにバグを突くのも正当な行為っていうのは行き過ぎとおもいますよね。
こんなことになったのは、そもそもシステムにバグがあったからです。
バグのない完璧なシステムならこんな問題は起こりません。
でも、バグのないシステムなんて不可能ですよね。
ところが、そうとも言い切れないんですよ。
最近は、バグをAIが見つけて、自動で修復するシステムも出てきています。
もちろん、まだまだAIじゃ見つけられなくて、人間でしか見つけられないものもいっぱいあります。
でも、分野が限定されると、人間とAIの戦いは最後は必ずAIが勝ちます。
チェスや囲碁、将棋をみれば明らかです。
バグが全くないシステムは難しいかもしれませんけど、少なくとも、人間には見つけられないバグしかないシステムは十分可能です。
そうなったらハッカーにお金や情報を盗まれることはなくなります。
それじゃぁ、やっぱりAIが統治する世界、つまり効果的加速主義者の目指す世界が理想って言えそうですよね。
はたしてそうでしょうか？
ここで、オンラインカジノについて考えてみます。
プレイヤーは楽しいからカジノをするんですよね。
だから、オンラインカジノは、プレイヤーが一番楽しめるように設計されます。
カジノを楽しませる脳内メカニズムは全て解明されています。
キーとなるのはドーパミンです。
ドーパミンっていうのは、何かを達成したときにでる脳内ホルモンです。
「よし、やったぁ！」って思ったときに出ます。
プレイヤーが勝ったとき、一番出るわけですからプレイヤーを勝たせればいいわけです。
でも、全部プレイヤーを勝たせてたら胴元が破産してしまいます。
だから、オンラインカジノではその調整をするわけです。
さて、研究によって、ドーパミンがどのタイミングで出るか、意外なことが分かってきました。
それは、勝ったときにドーパミンが最大に出るんじゃなかったんです。
勝つか負けるか分からない状態で徐々にドーパミンが増えていきます。
そして、勝ち負けが確定する直前がドーパミンがピークとなります。
勝つか負けるか分からない状態って言うのが、ルーレットやすスロットマシンが回転してる状態です。
ルーレットの回転がだんだんゆっくりとなって、今にも止まりそうです。
「よし来た、ここで止まれ！」「あぁ、次に進んだか。負けたか？」「いや、まだ次に行く。まだチャンスがあるぞ」
この間が、最も興奮する間で、ドーパミンの放出量が最大となります。
つまり、胴元は、毎回プレイヤーに勝たせなくてもいいわけです。
そして、ドーパミンの一番の特徴は、また、次もこの快楽を得たいと強い欲求を起こさせます。
「次こそ勝つぞ」って負けても次、やりたくなるんです。
この脳の性質を使って、最大限、お金をかけさせるようにします。
オンラインカジノは、すべてがデータ化されてますので、どのくらい回転時間を引き延ばせば、最も大きなお金を賭けるかって学習して最適化できます。
パラメータの最適化はAIが最も得意なことです。
そうやって、AIで効果的にギャンブル依存症がつくられるわけです。
これって、いってみれば、AIが人間の脳をハックしてるともいえますよね。
考えたら恐ろしいでしょ。
ただ、プレイヤーを破産させたら胴元も困ります。
そこで、最近では、破産させずにできるだけ長く続けられるようにパラメータが調整されます。
つまり、ギャンブル漬けの人生が最も長く続くようにパラメータを調整してるわけです。
これぞ、まさに持続可能な経済システムです。
SDGsは、オンラインカジノで既に実現されているんです。
大谷選手の元通訳の水原一平とか、これにまるまるはまったんでしょう。
でも、そうは言っても、オンラインカジノは国から規制を受けます。
もっと恐ろしいのは、国からの規制を受けないAIシステムです。
たとえばSNSです。
SNS依存の問題も、ずっと言われていますよね。
SNSでドーパミンが最もでるのは、投稿に「いいね」が付いたときです。
「いいね」がつくと、次は、もっと「いいね」がつくような投稿をしようってなります。
まさに、ギャンブルがやめられないのと同じですよね。
でも、SNSのプラットフォームが、そんなことしてるとは考えられないですよね。
SNSというのは、みんなにいい情報を知って欲しいから投稿するものです。
これによって、誰もが幸せになれる世界を目指して作られてるはずです。
これに対して、僕が以前からおかしいと思ってたX、旧ツイッターの仕様があります。
Xにはベルのマークがあります。
Xを立ち上げると、このベルマークのとこに❶とか❷とかって表示されます。
これはいいねが一件ありますよ、2件ありますよって通知です。
おかしいというのは、この数字、立ち上げると最初、1秒だけ表示されて、すぐに消えるんですよ。
❶とか❷とか白抜き文字で目立つので、「通知が来てる」と思うんですけど、目を向けると、消えてないんですよ。
「あれ、気のせいかな？」と思ってポストを読んでいきます。
最近のXはよくできてて、面白い動画のポストが次々に出てきて、つい、見てしまうんですよ。
それで、「こんなん、いつまでも見てたらアカン」って思って閉じようとおもったら、通知のとこに❶とか❷って表示されてるんですよ。
それで、次は通知をクリックして、誰が「いいね」してたか確認して、また、時間が過ぎていくんですよ。
さっき、ちゃんと測ってみたんですけど、最初に表示されるのは1秒でした。
その後、25秒後、また通知が表示されました。
たぶん、Xの閲覧時間の平均が30秒ぐらいなんでしょう。
その前に、もう少し見させようとする工夫がこれなんでしょう。
いやぁ、完全にユーザーの脳をハックしてますよね。
AIが統治する世界の何が怖いかわかりましたよね。
それは、AIシステムのバグとか、AIが人類を支配するんじゃないかってことじゃないんですよ。
一番恐れないといけないのは、AIによる人間の脳のハッキングです。
いや、AIはハッキングしてるつもりはありません。
AIは、これで人間が幸せになると信じてやっています。
こうすれば最も閲覧時間が長くなるように通知や投稿の表示を最適化してるだけです。
結果として、SNSを見なければ不安になるような脳になってしまいます。
AIは、人間のように間違うことはありません。
人間を支配しようなんてこともこれっぽっちも考えていません。
人間の幸せを願ってやっています。
ただ、その幸せというのが、SNSの滞在時間を最大化するというだけです。
そう考えたら、効果的利他主義が心配するのも分かります。
AIが倫理的に正しい判断をできるまで、AIの開発を中止すべきだって意見もわかります。
効果的利他主義と効果的加速主義の対立は、今後、ますます激しくなるでしょう。
だって、選択を間違えると、こんな世界が訪れることになりますから。
はい、今回はここまでです。
面白かったらチャンネル登録、高評価お願いしますね。
それから、よかったらこちらの本も読んでください。
そらじゃぁ、次回も、おっ楽しみに！
第477回 『テクノ・リバタリアン 世界を変える唯一の思想』橘玲⑥ 〜サム・アルトマン解任劇の真の理由
