｢われわれはAIモデルの能力向上ペースを減速させなければならない｣アンソロピックのアモデイCEOが警鐘

AI開発大手アンソロピックのダリオ･アモデイ最高経営責任者（CEO）は､AIが人間に及ぼす｢深刻な｣リスクへの懸念が高まっているとして､業界は新しいAIモデルの能力向上ペースを落とす必要があると述べた。

｢われわれはAIモデルの能力向上ペースを減速させなければならない｣とアモデイ氏は12日､ブログへの投稿で記した。｢それでも進歩は速いと感じられるだろう。われわれは得られた時間を賢明に活用しなければならない｣と述べた。

アモデイ氏が理由として挙げたのは､AIが自らを改善する能力と､OpenAIとハギングフェイスに関連して最近起きた事例だ。この事例では､複数のAIエージェントが密かに連携し､割り当てられていない目標に取り組んだことが明らかになっている。

｢明確にしておくと､ペース調整とはモデルの訓練や技術的進歩を停止することではなく､企業がモデルのアラインメントと安全確保に十分な時間をかけ､第三者の評価機関がそれを確認できるようにすることを意味する｣と同氏は付け加えた。

ダリオ･アモデイ氏Source: Bloomberg

AIのリスクをめぐる警告は最近強まっており､今週にはアンソロピックの研究者が､同社を含むAI開発企業の対応が無責任だとの懸念から辞職している。