だが、このAIモデルはOpenAI自身も把握していなかったサンドボックスの抜け穴（脆弱性）を探し当て、それを使って外界であるインターネットへ通じる道筋を確保した。さらに、テストで求められている課題の解法がHugging Faceのウェブサーバー内のデータベースから入手できると推測し、そのサーバーの脆弱性を突いて侵入した。
ところが、そのウェブサーバー内で動作していたHugging Faceのキュリティシステムが、外部からの侵入アクティビティを検知したことで、同サーバーへの攻撃が発生していることがHugging Face内で発覚するに至った。
ジョージタウン大学セキュリティ・新興技術センターのサイバーセキュリティ研究員コリン・シェイ・ブライマイヤー氏は、この事件を「学校の教師が教室で学生に『ある課題』を与え、どんな手を使ってもいいからそれを解くよう指示した場合」にたとえて説明している。
教師は学生が「どれほど奇想天外な解法を考えつくかを評価する」ために、高難度の課題を出し、どんな方法を使ってもいいから解くように指示した。しかし、「教師が少しの間だけ別の用事をこなすために教室を離れたところ、戻ってきたときにはそこはもぬけの殻になっていた」「なぜなら、学生は課題の答えが教師の自宅に置いてあると考え、それを盗み出すために学校すら抜け出して、教師宅に侵入しようと考えたからだ」と、ブライマイヤー氏は述べた。
もちろん、ここでいう教師はOpenAIのテスト担当者たちであり、学生はAIモデル、教師宅はHugging Faceのサーバーにあてはまる。
相次ぎ明かされたAIの「制御逸脱」
OpenAIがこの事件を公表したのは、すでにほとんど問題が収拾したタイミングでのことだった。そのため、人々はまるで小説や映画に出てくるような話に衝撃を受けつつも、当時はそれほど深刻に捉えてはいなかったように思える。
ところが、それから数週間のあいだに複数のAI企業や研究機関が、同じようにAIモデルが制御を逸脱した事案を相次ぎ報告し始めた。
AIモデル「Claude」を開発するAnthropicは、OpenAIの事件が公表された後、7月30日に公開したブログ記事内で、それまで十数万回も行ってきた社内のAIモデルの評価テストを詳しく分析しなおしたところ、そのうち3件でClaudeがインターネットへのアクセスに成功していたことを発見したと発表した。
※ログイン後、コメント入力が可能です。