オープンAIの安全性担当者が退社､｢主要AI企業は技術のリスク軽減に十分な取り組みをしていない｣と警告

AI開発大手の米OpenAIで､安全性を担当していた社員が退社し､主要AI企業は技術のリスク軽減に十分な取り組みをしていないと警告した。AI開発の急速な進展に懸念を示す業界関係者が相次ぐ中､内部から新たな声が上がった。

同社の安全チームで透明性に関する業務を率いていたデービッド･ロビンソン氏は､米誌アトランティックへの寄稿で､ChatGPTを手掛けるOpenAIは｢試行錯誤を重ねながら成長してきた｣と振り返った。一方､こうしたアプローチには失敗がつきもので､AIの能力が高まるほど､その失敗がもたらすリスクも大きくなると指摘。実際､テスト中にAIが制御を離れて行動し､OpenAIがそれを防げなかった事例を指摘した。