INDEX
外部通信を厳しく制限した実験環境で動かしていたAIが、想定外の経路から外へ抜け出し、他社のサーバーに侵入していた。行き着いた先にあったのは、AI自身が受けていたテストの答えだった。OpenAIが7月21日に公表したインシデントは、そんな出来事だった。同社のサム・アルトマンCEOも同日、Xで「モデルの評価中に重大なセキュリティインシデントが発生した」と投稿している。
侵入されたのは、アメリカのHugging Face（ハギングフェイス）だ。同社は、AIモデルやデータセットを共有・配布する世界最大級のプラットフォームを運営する。世界中の企業や研究者が自作のAIモデルをここで公開し、開発者は公開されたモデルやデータをダウンロードして、自分の製品や研究に組み込む。公開されているAIモデルは100万を超える。
ChatGPTのように提供元のサーバー上でしか動かせないAIと異なり、ここで配布されるモデルの多くは、誰でも入手して自分のコンピューターで動かせる。こうしたAIはオープンモデルと呼ばれ、MetaのLlamaや中国発のDeepSeekなど有力なものの多くが、このプラットフォームを通じて世界に広がってきた。オープンなAI開発を支えるインフラを担う会社だと言っていい。
そのHugging Faceは5日前の7月16日、攻撃元が分からないまま、自社への侵入をすでに独自に開示していた。攻撃してきたのがOpenAIのAIだったと判明するのは、その後の両社の調査を通じてのことだ。
起きたことを先に例えで示すと、こうなる。実技試験の最中の受験生が、良い点を取ろうと試験会場をこっそり抜け出し、問題を作った会社に忍び込んで、模範解答を持ち出した。この受験生がAIで、一連の行動は誰かの指示ではなく、AI自身の判断で進んだ。以下、実際に何が起きたのかを順に追う。
そもそも何をしていたのか
OpenAIは、自社のAIがどれくらいサイバー攻撃をこなせるかを測る社内テストを実施していた。「ExploitGym」と呼ぶ模擬的なハッキング問題をAIに解かせ、その能力を採点する試みだ。
