AIがテストの答えを盗むため他社へ侵入､OpenAIが公表した前例のない重大インシデント

被害の解析でも、同社はAIを使った。攻撃側が残した1万7000件を超える操作記録をAIに読ませ、時系列と被害範囲を再構成した。通常なら数日かかる初期解析を、数時間で進めたという。

攻撃記録の解析を商用AIは拒否、中国のオープンモデルが引き受けた

その過程で、同社は想定外の壁にぶつかった。最初は、事業者がインターネット越しに提供する商用の高性能AIに攻撃記録を読ませようとしたが、ハッキングのコマンドや悪用コードが大量に並ぶため、各事業者の安全機能に解析を拒否された。安全機能は、インシデントを調べる防御側と攻撃者を区別できない。

そこで同社は、中国のAI企業Z.ai（旧智譜AI）が無償公開しているオープンモデル「GLM-5.2」を自社サーバー上で動かし、解析を続けた。事業者のサーバーを経由せず手元で動かせるため、安全機能に拒否されることなく、攻撃者が触れた認証情報を社外に出さずに調べられた。

攻撃側のAIは拒否を弱めた状態で動き、守る側の商用AIは安全機能で解析を断った。Hugging Faceは、安全対策そのものに反対するわけではないと断ったうえで、この非対称への備えとして、自社で動かせるAIをインシデント発生前に用意しておくべきだと教訓を挙げている。