ロボマインド・プロジェクト、第561弾！
こんにちは、ロボマインドの田方です。
ユヴァル・ノア・ハラリの『NEXSU 情報の人類史』を読み続けていますけど、前回から下巻「AI革命」に入りました。
今回は、いよいよ、本題です。
何が本題かというと、人類はAIに支配されるのか、されないのかってことです。
ただ、支配って言葉は、悪いことにしか使われないので、質問の仕方に問題がありますよね。
人は神に守られたいと、ずっと思っていましたよね。
絶対的な神が統治したら正しい世界となると信じているわけです。
というか、そういう存在があると信じたいわけです。
だから、問うべきは、AIがそういう存在になれるのかどうかです。
こういう議論をすると、必ず「AIは間違うことがある」とか、「人類を滅ぼすんじゃないか」って反論が出てきます。
それはもっともな意見です。
ただ、それを言ってたら、「だからやめよう」って結論しか出てきません。
だから、そこをあえて「絶対に間違わないAI」ができたと仮定します。
宗教が、絶対間違わない神を想定しているのと同じです。
そして、「絶対間違わず、正しいことしかしないAI」に社会を統治してもらうんです。
もし、そんなAIができたら理想の社会になるんじゃないでしょうか？
それとも、まだ、何か問題があるんでしょうか？
ここまで考えたとき、人間とは何か、幸せとは何か、そういった本質が見えてきます。
これが今回のテーマです。
NEXSU⑤
AI統治は本当に悪か？
それでは始めましょう！
まず、社会をまとめるにはルールが必要ですよね。
誰もが好き勝手していては、社会は成立しませんから。
そこで必要となってくるのが警察とか監視です。
今や、全世界で１０億台以上の監視カメラが稼働していて、これは8人に１台の割合になります。
世界の多くの都市部は１平方キロメートルあたり１００台を超える監視カメラがあります。
たとえば2021年のトランプ支持者による連邦議事堂襲撃事件では、監視カメラだけでなく、ナンバープレート読み取り機、SNSの投稿、携帯電話の位置記録などが総動員されました。
襲撃した一人は、「歴史を目撃するためにワシントンに行く」とFacebookに投稿しました。
それに対してFacebookはその男のクレジットカード情報と電話番号をFBIに提供しました。
FBIは、そのおかげで自動車免許証の写真と、議事堂の監視カメラの映像を照合して男を特定することができました。
さらに、グーグルからは、男のスマホの位置情報を得て、侵入地点から議事堂まで男が歩いて移動した経路がすべて明らかになりました。
さらに、ナンバープレートの映像から自宅からの移動経路も明らかになりました。
道路の監視カメラには、トランプ支持の帽子がダッシュボードに載っている写真も撮られていました。
こんな風に、顔認識アルゴリズムによる検索は、今や、世界中の警察で日常的に使われています。
まぁ、これで事件が解決できるのは、AIが進歩したここ数年の事件だけと思ったら、そうでもないんです。
今から15年以上前の2009年、中国の四川省で3歳の男の子が犯罪組織に誘拐されました。
当時は、まだ、AIが今ほど発達していません。
それから10年後の2019年、AIの顔認識アルゴリズムは、三歳の男の子の顔写真から10年後の13歳になったときの顔写真を生成できるようになりました。
しかも、かなり高精度にです。
そのおかげで、男の子を無事発見して、家族のもとに戻ることができたんです。
親でも、13歳になった本人の顔なんか、わからないですよね。
今や、AIはここまでできるんです。
AIでなんでもできるようになると、次は、どこまでAIでやるかの話になります。
たとえば、イランではイスラムの教えが厳しくて、女性はヒジャブの着用が義務付けられています。
ヒジャブとはスカーフで頭髪を覆って、さらに体の線が明らかにならないようなゆったりした衣服のことです。
イランの警察は長年、この規則を守らせることに苦労しましたけど、AIのおかげで完璧に守らせることができるようになりました。
どうやったかというと、監視カメラでヒジャブを着用していない女性を見つけると、自動で、その人にショートメッセージを送ります。
さらに、それが繰り返されると自動車を一定期間運転できなくなるペナルティもあるそうです。
2023年にこのシステムが導入されると、2カ月で100万通の警告ショートメッセージを送られたそうです。
つまり、顔写真から本人の携帯電話を特的できるデータベースがすでに構築されているわけです。
ショートメッセージが実際に送られた女性がいうには、交差点を通過したときカメラにとらえられたそうで、その直後にショートメッセージが届いたそうです。
二度目は、買い物を終えて袋を車に積み込もうとするとき、スカーフが脱げてしまったそうで、その瞬間をカメラに取られたそうです。
その直後、携帯に「15日間、車が没収されます」とメッセージが届いて車を運転できなくされたそうです。
注意してほしいのは、違反から罰則までの一連の処理に一切人間が携わっていないことです。
AIが発見して、AIが処罰しているんです。
すでに、AIによる統治はここまで行われているんです。
これはちょっとやりすぎじゃないかと思わないでもないですけど、まぁ、イランにとっては、ヒジャブの着用はそれだけ重要なんでしょう。
ルール違反の罰則に適用するより、もっと社会をよくするための仕組みはないんでしょうか？
あります。
それは、アメリカのオンラインの旅行会社が世界中のホテルやレストランを評価するトリップアドバイザーという仕組みです。
ここで評価するのはAIでなくユーザー自身です。
ホテルやレストランを利用すると、１から５で評価することができます。
ただ、それだけだと、評価しない人もいるので、評価するとポイントがもらえるようになっています。
口コミ投稿すると100ポイント、写真が動画をアップロードすると30ポイントもらえます。
ホテルやレストランだけでなく、ユーザーを評価してもポイントがもらえます。
不当に低い評価や人種差別的なコメントをすると罰せられたりアカウント停止されたりします。
これにより、質の高い評価が集まるようになりました。
ホテルやレストランは、高い評価を得ようと、より質の高いサービスを提供しようとします。
いまやトリップアドバイザーは、世界中で延べ4億人以上の旅行者が利用し、8億件以上のレビューが集まり、86億回の閲覧数にもなっています。
この仕組みで、実際、旅行業界の質が向上してきています。
ユーザーは獲得したポイントによってレベル１からレベル６までランク付けされます。
ユーザーはランクに応じて特典がもらえますし、何より、ランクは公開されます。
つまり、ランクが、どれだけ貢献したかの社会的信用を示すことになるんです。
人類がこのポイント制を前回、思いついたのは5000年前のメソポタミアだとハラリは指摘します。
5000年前に思いついたポイント、それはお金です。
人類は、あらゆるものを相対的に比較できる尺度としてお金を発明しました。
お金を発明することで、人類がどれだけ進歩したか計り知れないですよね。
トリップアドバイザーのユーザーランクは、それと同じくらい重要なわけです。
じゃぁ、お金とユーザーランクは何が違うのでしょう？
それは、お金が決める価値は「もの」なのに対し、ユーザーランクは「人」です。
人の価値を数値で表せるようになったってことです。
多くのレビューをするとポイントをいっぱいもらえるんですよね。
多くのレビューをするというのは、みんなの役立つ情報をいっぱい提供して、その社会に貢献したわけです。
この仕組みによって、業界全体が良くなって、社会をよくする人が目に見えるようになったわけです。
これって、悪くない仕組みですよね。
いまは旅行業界のネットワークですけど、いずれ、これがAIと統合されて、社会の隅々までいきわたることになるでしょう。
それじゃぁ、AIと監視ネットワークが統合して人をランク付けするシステムができると、どうなるでしょう？
たとえば、そのシステムは、いいことをした人にポイントを与えます。
監視カメラで、道に落ちてるゴミを拾っている人を見つけたら、その人を特定して、その人に1ポイント追加します。
逆に、道にゴミを捨てたら1ポイント減点されます。
電車でおばあさんに席を譲ると2ポイント獲得です。
そうやって、ポイントが溜まると、進学や就職で優位に働きます。
家を借りやすくなったりします。
マッチングアプリにも使われますので、見た目ではわからないその人の本当の良さを見てもらえます。
なんか、悪くないですよね。
もちろん、AIが判断を間違ったり、ポイントの不正取引とか起こることが考えられますけど、最初にもいいましたけど、仮に、それが完全に起こらないシステムができたと考えます。
それだったら、悪くないんじゃないでしょうか？
よく、「誰も見ていなくても神様が見ている」っていいますよね。
まさに、AIは神と同じなわけです。
人類が長年夢見ていた神を、テクノロジーでついに実現できるんです。
これほど素晴らしいことはないんじゃないでしょうか？
ただ、違和感を感じないわけでもないです。
それはどこかというと、評価の仕方です。
今、評価しようとしているのはその人がいい人か悪い人かですよね。
みんなに親切で、人の悪口を言わないような人が評価されますよね。
今のテレビとか見てると、すでに、そうなりつつありますよね。
コンプライアンスとか気にして、言えないことが多すぎて、無難なことしか言えません。
いや、それは悪くないとは思いますけど、世の中を変えるものって、そんな簡単に評価できないと思うんですよ。
僕はお笑いが好きなので、ダウンタウンは大阪時代からずっと見ていました。
松ちゃんが全く新し笑いを次々に作り出してるのをリアルタイムに見ていて、松ちゃん、マジ、天才って思っていました。
ただ、当時、松ちゃんの笑いはほとんど理解されなくて、それは本人もずっと言っていました。
でも、お笑いをずっと見ていた人ならわかると思いますけど、ダウンタウン以前とダウンタウン以降で、はっきりとお笑いは分かれるんです。
そのぐらいの革命を起こしたんです。
松ちゃんも30代後半になってきて、世間でもダウンタウンの笑いが主流になってから、僕はだんだんダウンタウンを見なくなりましたけど。
いや、それでも面白いんですけど、20代の頃とはキレが全然違うんですよ。
当時は、そんなボケが成立するのかって、毎週、新しいタイプのボケを生み出してました。
まぁ、当時はテレビのコンプライアンスもゆるゆるで、なんでもできたってのもありますけどね。
これは、笑いだけじゃなくて、アートとか音楽とか、あらゆる分野で起こり得ることだと思います。
つまりね、本当に世の中を変える才能なんて、今の評価基準じゃ見抜けないってことです。
隠れたいい人を評価して、社会を良くしようっていうのも悪くないんですけど、それだけじゃ、とがった才能とか評価できません。
それじゃぁ、どうすればいいかって話です。
僕が思うに、何がいい人かって評価が先にあるのが問題だと思うんですよ。
こういう人になってほしいって具体的な結果を決めて、そういう人になるように仕向けると、その人が本来持っている才能とか良さが消えると思うんですよ。
じゃぁどうすればいいかっていうと、その人本来の良さとか、才能を伸ばすようにするんです。
たとえば、その人が好きなこと、夢中になれることに取り組める社会を目指すんです。
僕がよく取り上げるのが障害者福祉施設の「やまなみ工房」です。
やまなみ工房では、絵を描いたり、粘土で人形を作ったり、好きなことをしてもらいます。
そしたらみんな夢中で絵を描きます。
さらに、その作品をプリントした服がパリコレに出品されたりして世界中で評価されています。
たいていの福祉施設って、パンやクッキーを焼いたりしています。
障害者でも働ける仕事って視点からだとどうしてもこのぐらいしか見つかりません。
これがお金って評価を目標にした社会設計です。
それを、その人らしさとか、夢中になれること、やる気といって視点で設計すると「やまなみ工房」みたいに世界で認められるんです。
そこまでいかなくても、自分の絵が褒められたら自己肯定感を持てるし、自信や安定した心をもてます。
一人ひとりが、その人の得意なこと、個性を発揮できる社会、それが理想だと思うんですよ。
でも、そんな社会がAIで実現できるのでしょうか？
難しいですけど、できないわけじゃありません。
「やる気」とかいうのは、非認知能力といわれるものです。
非認知能力については、第510回で取り上げましたけど、簡単に説明します。
非認知能力の反対は認知能力です。
認知能力というのは、記憶力とか計算力、言語力です。
これらは測定可能な能力です。
学校で習うのは全て認知能力です。
それに対して非認知能力は、やる気とか、自己肯定感とか、主体性とかです。
これらは測定しにくいものです。
でも、それも脳科学やAIの発展で少しずつ測定できるようになってきています。
たとえば、今のAIは顔認識だけでなくて、視線の動きなども測定できるので、その人がどれだけ集中してるかってことぐらいは測定できます。
そういったデータから、人それぞれが、どれだけ夢中になれることに取り組んでいるとか、その人らしさを発揮できてるとかを測定するんです。
そして、その人らしさの社会的総量を最大にするように社会監視システムを設計するんです。
すべての人が自分らしく生きられる社会、それが最も幸せな社会と定義して、それをめざすんです。
もし、そんな社会が実現されるなら、AIに統治されるのも、まんざら悪くないかと思いませんか。
はい、今回はここまでです。
この動画が面白かったらチャットチャネル登録、高評価お願いしますね。
それから、よかったらこちらの本も読んでください。
そらじゃぁ、次回も、おっ楽しみに！
第561回 NEXSU⑤AI統治は本当に悪か？
