テロリストがAIで世界を壊滅させる…歴史学者ハラリが示す人類の「危険シナリオ」

私たちの社会的な絆を損なう物語のような、社会的な大量破壊兵器によっても、人類の文明は崩壊しうる。ある国で開発されたAIが、他の多くの国々で人々が何一つ、誰一人信じられなくなるようにするために、フェイクニュースや偽造貨幣や偽造人間の洪水を引き起こすのに使われる可能性がある。

多くの社会――民主社会と独裁社会の両方――は、適切な行動を取ってAIのそのような使い方を規制したり、悪人を取り締まったり、自分たちの支配者や狂信者の危険な野心を抑えたりするかもしれない。だが、ほんの一部の社会がそうしそこねただけで、人類全体が危機に陥りかねない。気候変動は素晴らしい環境規制を採用している国々さえ荒廃させうる。なぜなら、気候変動は一国家の問題ではなく地球全体の問題だからだ。AIも世界的な問題だ。国境の内側でAIを賢く規制しているかぎり、その規制のおかげでAI革命の最悪の結果から守られるだろうなどと思うのは、考えが甘い。

したがって、新しいコンピューター政治を理解するには、個々の社会がAIにどう反応するかを考察するだけでは足りない。AIがグローバルな次元で社会間の関係をどう変える可能性があるかも考える必要があるのだ。

植民地をデータで支配する21世紀

スペインとポルトガルとオランダの征服者たちが史上初の世界帝国を築いていた16世紀には、それらの帝国は帆船やウマや火薬とともに登場した。イギリスやロシアや日本が覇権の獲得を目指していた19世紀と20世紀には、これらの国々は蒸気船や蒸気機関車や機関銃を頼みとした。21世紀に植民地を支配するには、もう軍艦を派遣する必要はない。その代わり、データを取り出す必要がある。世界中のデータを集めているいくつかの企業あるいは政府は、地球上の残りの部分をデータ植民地――あからさまな軍事力ではなく情報で支配する領土――に変えることができるだろう。

例として、次のような状況を想像してほしい。たとえば20年後に、北京かサンフランシスコにいる誰かが、あなたの国の政治家やジャーナリスト、軍幹部、CEO全員の個人情報を漏れなく把握している。彼らが送ったメールも、行なったウェブ検索も、かかった病気も、楽しんだ性的な経験も、口にしたジョークも、受け取った賄賂も一つ残らず知っている。

その場合には、あなたは依然として独立国に住んでいるのだろうか？ それとも、今やデータ植民地に暮らしていることになるのだろうか？ あなたの国が、デジタルインフラとAIを活用したシステムに完全に依存しながら、それらを実質的に支配できない状態に陥ったら、どうなるのか？