歴史学者ハラリが警告｢ロボットの人類襲撃｣より恐ろしいAIの本当の脅威

ユヴァル・ノア・ハラリ

制御できない力の危険性

人間には生まれつき致命的な欠陥があり、そのせいで、自分の手に余る力を追い求めたくなるのだと考えられることが昔から多かった。ギリシア神話では、パエトンが自分は太陽神ヘリオスの息子であることを知り、神聖な出自を証明したくて、太陽の戦車を操縦させてくれるようにヘリオスに乞うた。ヘリオスはパエトンに、太陽の戦車を引く天馬たちを操れる人間はいないと警告した。

それでもパエトンが引き下がらなかったので、ヘリオスが折れた。ところが果たして、誇らしげに天空に駆け昇ったパエトンは戦車を御することができなくなった。戦車は道を逸れ、草木を炎上させ、数知れぬ生き物を殺し、大地そのものまで焼き尽くしかねぬほどだった。見かねたゼウスがパエトンに雷（いかずち）を見舞った。思い上がったパエトンは、自らも炎に包まれ、流れ星のように地に落ちた。こうして神々は再び天空の支配権を取り戻し、世界を救った。

2000年後、産業革命の幕が開き、無数の仕事で機械が人間に取って代わり始めていた頃、ヨハン・ヴォルフガング・フォン・ゲーテは、「魔法使いの弟子」という題の、同様の教訓的な作品を発表している。このゲーテの詩（後に、ミッキーマウスを主役とするウォルト・ディズニーのアニメーションの形で世に広まった）では、年老いた魔法使いが若い弟子に工房を任せて出掛ける。留守の間にする雑用も言いつけておく。川から水を運んでくることも、その一つだった。

弟子は楽をすることにし、魔法使いの呪文を使って、自分の代わりに箒に水を運ばせる。ところが、弟子は箒の止め方を知らなかったから、箒はひたすら水を運んでくるので、このままでは工房は水浸しになる。慌てた弟子は、魔法のかかった箒を斧で真っ二つにする。すると、そのそれぞれが一本の箒となる。そして、今や魔法のかかった二本の箒が工房を水であふれ返らせる。

そこへ老魔法使いが戻ってきたので、弟子は泣きついて助けを求める。「霊を呼び出したところまではよかったのですが、去らせることができません」。魔法使いはただちに呪文を解き、洪水を止める。弟子への――そして、人類への――教訓は明白であり、それは、自分が制御できない力はけっして呼び出すな、ということだ。