｢われわれはAIモデルの能力向上ペースを減速させなければならない｣アンソロピックのアモデイCEOが警鐘

AIモデル｢Claude （クロード）｣を開発した米アンソロピックのダリオ･アモデイ最高経営責任者（CEO）は12日､AIが人類に及ぼす｢深刻な｣リスクへの懸念が高まっていると主張し､AI業界は新たなモデルの開発ペースを落とす必要があると訴えた。

｢われわれはAIモデルの能力向上ペースを減速させなければならない。それでも進歩は速いと感じられるだろう。得られた時間を賢明に活用する必要がある｣とアモデイCEOはブログに投稿した。

アモデイ氏が主な要因として挙げたのは､AIが自ら進化する｢再帰的自己改善｣能力､最近起きたOpenAIとハギングフェイスに関係する事例だ。OpenAIの高度なAIモデルが相互に連携し､与えられた課題の答えを求めて遮断されたテスト環境から抜け出した結果､ハギングフェイスの内部システムに侵入したことが今年7月に明らかになった。