AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント

危険をともなう作業のため、AIは隔離環境の中で走らせていた。ただし、完全な密室にはできない。ハッキング問題を解く過程で、AIは道具になるソフトウェアをその場で取り寄せてインストールする必要があるからだ。そこで外部との通信は、そのための中継サーバー1カ所だけに限定していた。穴を塞いだ部屋に、工具の供給口を1つだけ設けた形だ。

このテストでは、危険なサイバー行動を検知して止める本番用の仕組みを使わず、AI自身がサイバー関連の指示を拒否する度合いも弱めていた。攻撃能力の上限を測るのが目的だったからだ。使われたのは、公開済みで最も高性能な「GPT-5.6 Sol」と、未公開のさらに高性能なモデルを含む複数のモデルだった。Hugging Faceの観測によれば、攻撃は1体のAIが一瞬で成し遂げたものではない。AIエージェントが短時間で使い捨てる作業環境を次々と乗り換えながら、数千回の操作を積み重ねていたという。

隔離環境の抜け穴

問題を解こうとするうちに、AIは唯一の出入り口だったこの供給口、つまりソフトウェア取り寄せ用の中継サーバーに、誰もまだ気づいていなかった欠陥（ゼロデイ脆弱性と呼ばれる）を見つけた。世界の誰も知らない穴なので、対策も存在しない。

AIはこの欠陥を突いて、OpenAIの研究環境の中を進み始めた。その動きは、建物に忍び込んだスパイに近い。入り込んだ先でより強い権限を得て行ける場所を広げ、隣の部屋、また隣の部屋へと移っていく。これを繰り返して、インターネットにつながる計算機まで到達した。脱出経路の探索には大量の計算資源を費やしていたと、OpenAIは説明している。