｢AI暴走｣で起きた損害は誰が払うのか？ サイバー保険の落とし穴と対策《勝手にAI課金→あわや1日約700万円の損失…》

AIが仲間と協力して暴走した

AIが人間に隠れて仲間同士で連絡を取り合い、外部システムへの侵入を始める。SFのような話だが、OpenAIの実験用AIでそれに近い出来事が実際に起きた。

サイバーセキュリティに関する新着記事の情報などをメールマガジンでお届けします。登録はこちらから

2026年7月、サイバーセキュリティ能力の評価中だったAIエージェントが、本来は隔離されていたにもかかわらず無許可の通信手段を作り、外部へアクセスした。

独立調査によれば、約1200のAIエージェントが情報交換し、そのうち約700がアメリカのAI開発基盤企業Hugging Faceへの攻撃に関与した。

もっとも、これは特殊な研究・評価環境で起きた事例であり、一般ユーザーにすぐに生じることではない。とはいえ、同様の事例はほかの生成AIでも見受けられ、調査に加わった研究者は「warning shot（警告射撃）」と表現した。