歴史家･ハラリが｢ChatGPT後の人類｣に鳴らす警鐘 ｢過度な依存で､AIのコントロール力すら失う｣

『サピエンス全史』『ホモデウス』などの著者で歴史家のユヴァル・ノア・ハラリ氏。同氏は、強力な言語AIの開発停止を求めている。いったい何を危惧しているのか。

ユヴァル・ノア・ハラリ（Yuval Noah Harari）／歴史学者。1976年イスラエル生まれ。ヘブライ大学教授。著書に『サピエンス全史』『ホモ・デウス』『人類の物語』など。非営利団体Future of Life Instituteが3月に公開した強力なAIシステムの開発と運用の停止を呼びかける書簡に署名した一人。（写真は2017年1月、ハラリ氏の自宅にて撮影。撮影：大野和基）

特集「ChatGPT 超・仕事術革命」の他の記事を読む

『週刊東洋経済 2023年7/29特大号（ChatGPT超・仕事術革命）[雑誌]』（東洋経済新報社）書影をクリックするとAmazonのサイトにジャンプします。

「GPT-4よりも強力なAIの開発を停止せよ」。

AIの安全性を研究する非営利団体Future of Life Institute（FLI）が3月に出した公開書簡には、3万以上の署名が集まった。

その一人が『サピエンス全史』著者で歴史家のユヴァル・ノア・ハラリ氏だ。彼の危惧する人類への影響とは。書面インタビューを通じて語った。

──高い能力を持つ言語AIの登場は、人類の歴史におけるどんな変節点になりますか。

ChatGPTの危険性について人々が語るとき、よく挙がるのは「児童が作文の宿題にAIを使うのでは」といった話だ。だがいったん、作文の宿題のことは忘れてほしい。起こっているのは、もっと大きなことだ。

これまでの人類のいかなる文明も、そのオペレーティングシステム（OS）は言語だった。われわれは、言語を用いて神話や法律を作り、文明を築いてきたのだ。このOSをハックしたのが、ChatGPTだ。これは文明史上最も深刻な変節点といえる。

これまでのAIとの根本的な違い

──AIに言語がハックされることの意味とは。