歴史学者ハラリが警告｢ロボットの人類襲撃｣より恐ろしいAIの本当の脅威

この弟子やパエトンの教訓的な寓話は、21世紀の私たちに何を語っているのだろう？ 私たち人間は、彼らの警告に耳を傾けることを明らかに拒んだ。そして、すでに地球の気候のバランスを崩し、魔法をかけられた箒ならぬドローンやチャットボット、その他のアルゴリズムの霊を何十億も呼び出してしまった。それらは私たちの手に負えなくなって、意図せざる結果の大洪水をもたらしかねない。

個人の欠陥か、協力の仕組みの問題か

だとすれば、私たちはどうするべきなのか？ この二つの寓話は、神か魔法使いに救ってもらうのを待つ以外、何の答えも示してくれない。

パエトンの神話とゲーテの詩が有益な助言を提供できないのは、人間がどのようにして力を獲得するかを両者が取り違えているからだ。どちらの寓話でも単一の人間が並外れた力を獲得するものの、その後、傲慢と強欲のせいで道を誤る。私たちはみな心理に欠陥を抱えているために力を濫用するというのが、両者の結論だ。これはまた粗雑な分析であり、人間の力がけっして個人の取り組みの成果ではないことを見落としている。力はつねに、大勢の人間の協力に由来するのだ。

したがって、私たちが力を濫用するのは、各自の心理のせいではない。なにしろ人間は、傲慢さや強欲や残虐さだけでなく、愛や思いやり、謙虚さ、喜びもまた持ちうるのだから。最悪の部類の人間は、たしかに強欲と残虐性に支配され、力の濫用へと導かれる。だが、人間社会はなぜ、よりによって最悪の者たちに権力を託したりするのか？ たとえば、1933年のドイツ人のほとんどは、サイコパス（精神病質者）ではなかった。それなのに、なぜ彼らはヒトラーに票を投じたのか？

自分の手に余る力を呼び出す傾向は、個人の心理ではなく、私たちの種に特有の、大勢で協力する方法に由来する。人類は大規模な協力のネットワークを構築することで途方もない力を獲得するものの、その構築のされ方のせいで私たちは力を無分別に使いやすくなってしまっている。私たちのネットワークの大半は、魔法をかけられた箒から金融制度まで、さまざまな事柄についての虚構や空想や集団妄想を広めることによって築かれ、維持されてきたからだ。

というわけで、私たちの問題はネットワークの問題なのだ。さらに具体的に言えば、それは情報の問題ということになる。情報はネットワークの一体性を保つ、いわば接着剤だからであり、人々は各自がどれほど賢く思いやりがあっても、お粗末な情報を与えられればお粗末な決定を下す可能性が高いからだ。

人類は近年、数世代にわたって、情報生産の量とスピードの両方でかつてないほどの増加を経験してきた。どのスマートフォンにも、古代のアレクサンドリア図書館の蔵書を上回る量の情報が入っているし、ユーザーは一瞬のうちに世界中の何十億という人とつながることができる。ところが、これだけの情報が息を吞むようなスピードで行き交っているのにもかかわらず、人類はこれまでにないほど自滅に近づいている。