歴史学者ハラリがAI時代「世界は複数のデジタル帝国」に分割されると危惧する事情

このような不確実性によって、相互確証破壊の原則が損なわれてしまう。正しいか間違っているかは別にして、一方の側が、首尾良く先制攻撃を仕掛け、大規模な報復を避けることができると独り合点するかもしれない。もし一方の側が、そのような機会があると考えていたら、その機会がいつまで続くかは誰にもわからないので、先制攻撃を仕掛ける誘惑は抗い難いものになりうるから、なお悪い。ゲーム理論によると、軍拡競争中の最も危険な状況は、一方の側が優位に立っていると感じているものの、その優位が失われつつあるとも感じているときだという。

人類が世界戦争という最悪の筋書きを避けることができたとしてさえ、新しいデジタル帝国の台頭は依然として何十億もの人の自由と繁栄を危うくしうる。19世紀と20世紀の工業帝国は、植民地を搾取し、抑圧した。だから、新しいデジタル帝国がそれよりもずっとましな振る舞いをするだろうなどと見込むのは無謀だ。しかも、世界が競合する帝国に分裂したなら、人類が効果的に協力して生態系の危機を克服したり、AIや、生物工学のような他の破壊的テクノロジーを規制したりする可能性は低い。

AIの恰好の餌食となる

『NEXUS 情報の人類史 上: 人間のネットワーク』（河出書房新社）。書影をクリックするとAmazonのサイトにジャンプします

世界が競合するデジタル帝国に分かれるというのは、世界はジャングルだと信じている多くの指導者の政治的ビジョンとぴったり一致する。ここ数十年間の比較的平和な時代は錯覚だった、唯一の現実的な選択肢は、捕食者と被食者のどちらかの役を演じることだ、と彼らは信じているのだ。

たいていの指導者は、そのような選択を迫られたら、捕食者として歴史に名を残し、不運な生徒たちが歴史の試験のために暗記を強いられる征服者のリストに加わることを選ぶだろう。とはいえ、これらの指導者は、ジャングルには新しい最上位の捕食者がいることを肝に銘じるべきだ。もし人類が協力して共通の利益を守る方法を見つけなければ、私たちはみな、AIの恰好の餌食となるだろう。

著者フォローすると、ユヴァル・ノア・ハラリさんの最新記事をメールでお知らせします。