｢AIが私たちを滅ぼす｣著名研究者の警告から始まった『AI開発減速論』の現在地､地政学的問題も絡みさらに複雑化

9月上旬、AI研究者のジェイコブ・コクソン氏が、生成AI大手の米Anthropicを退職したことをX（旧Twitter）で表明し、最先端のAIが将来「私たち全員を滅ぼしかねない」と衝撃的な発言をした。この発言はまたたく間に拡散された。さらに、意外にもAnthropicやOpenAIがその意見に理解を示したことで、その後の議論はAI企業内にとどまらず、アメリカ政府、中国政府、欧州各国、国連へと広がっている。

著名AI研究者がAI大手に警告を発信

コクソン氏は英ケンブリッジ大学で最先端のAIシステムと機械学習を研究し、米OpenAIでGPT-4oの開発に貢献、その後Anthropicに移り、両社を通じて主にプレトレーニングと呼ばれるAIモデルに基本的な知識を与えるプロセスの研究を行っていた。

ジェイコブ・コクソン氏のXへの投稿（画像：X）

X（旧Twitter）への連続した投稿のなかで、コクソン氏は最先端の生成AI開発から離れた理由を「どちらの企業も責任ある行動を取っていないからだ」とし、「彼らは私たちの命を賭け事にしている」と衝撃的な言葉を添えた。

サイバーセキュリティに関する新着記事の情報などをメールマガジンでお届けします。登録はこちらから

続く投稿では「AIを開発している人々は、この10年の終わりまでにAIが私たち全員を滅ぼしかねないと真剣に信じている」とし、AI企業の経営幹部や上級研究者らが表向きは理性的に話しつつも、プライベートな場ではその急激な進歩に対し「恐怖を口にしている」のを聞いていたと、最先端AIモデル開発の現場で起きていることを語った。

そして同氏は、今年7月にOpenAIの未発表の自律型AIエージェントが、試験のために仮想的に閉鎖された環境（サンドボックス）から逸脱してインターネットに接続し、AIモデルのホスティングプラットフォーム「Hugging Face」のサーバーに侵入した事件に触れ、AI企業や研究機関がその開発ペースを互いに調整すべきとの考えがより現実的なものになったと主張した。