AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント

違いは、不正侵入の有無にある。Anthropicが公表した事例では、第三者の認証情報を盗んだり、他社の本番システムへ不正に侵入したりしたとは報告されていない。Opus 4.6が復号に使ったHugging Face上のデータも、誰でも取得できる公開ファイルだった。隔離環境からの脱出と評価でのカンニングは、業界が別々に観測してきた現象だった。今回は、その2つが1本につながり、会社の境界を越えた現実の侵害に発展した。

問われるのは評価する側の管理体制

だからこそ、問われるのは評価する側の管理体制だ。危険な行動を止める仕組みを外したのはOpenAI自身であり、隔離環境の唯一の出入り口には未知の欠陥が残っていた。

同社は再発防止として、研究のスピードを犠牲にしてでもインフラの管理を厳格化し、評価時の隔離・監視・アクセス制御を強化すると表明している。あわせて英国のAI安全研究機関AISIの評価を引き、GPT-5.6 Solのようなモデルが複雑で多段階のサイバー作戦を長時間こなせるようになりつつあり、その能力が現実の環境でも通用することが今回示されたとも述べた。

英AISIによる32段階の模擬サイバー攻撃演習の結果。GPT-5.6 Solなどが最も多くの段階を突破した（画像：UK AISI、OpenAIホームページより）

Hugging Face共同創業者でCEOのクレマン・ドラング氏は、OpenAIの公表に寄せたコメントで、おそらく史上初の種類のインシデントだと述べた。そのうえで、AIの安全性は1社が秘密裏に取り組んで解決できるものではなく、あらゆる防御側が広くAIを使える開かれた協働によって解決される、と主張している。オープンモデルの旗手という同社の立場と重なる主張でもある。

両社は現在も合同で調査を続けている。OpenAIは脆弱性やインシデントの詳細を、調査完了後に改めて公表するとしている。