〈AIリスク〉アンソロピックの｢Claude｣がロシアやイエメンで軍事兵器の開発支援に悪用されていた実態が明らかに

米アンソロピックは､同社のAIモデル｢Claude（クロード）｣ が自爆型ドローン群やミサイル誘導システム､生物兵器など､幅広い軍事用途につながり得る開発に悪用されていたと明らかにした。軍事プログラムや個別の集団による高度なAIの利用を巡る懸念が浮き彫りになった。

アンソロピックが10日公表した報告書によると､過去1年間にClaudeを悪用したとして特定されたユーザーにはイランやロシア､中国､イエメンなどの国の利用者が含まれていた。いずれの事例でも､アンソロピックの最上位モデル｢フェイブル（Fable）｣と｢ミュトス（Mythos）｣は使用されていなかった。

アンソロピックは報告書で､｢モデルの能力が高まるにつれ､AI開発企業や社会を守る側が安全性向上に取り組まなければ､それに伴うリスクも増大する｣と指摘した。

報告書によると､米国の敵対勢力を支援する目的でClaudeを利用しようとしたユーザーもいた。多くの場合､Claudeの安全対策を回避したり､自らの所在地を隠したりしようとしていた。