OpenAI｢勝手にAIが他社へ侵入｣､次はあなたの会社でAIが暴走するかも？被害側と加害側に共通する｢セキュリティの甘さ｣

鍵はどこにいくつあるか。AIにどこまで任せたか。普段と違う振る舞いを誰が見ているか――どれも即答できないまま、事故は起きる。そのとき、初動を取るのは誰か。まず、「今、答えられない問い」を洗い出すこと。それが、今回の事件がくれた宿題だ。

具体的な対策は目新しくないが、猶予はない

とはいえ、具体的にやるべきことはそう目新しくないのだ。

繰り返しになるが、まずは、脆弱性の把握と修正に対応すること。OpenAIの一件でさらに重要性が強調された活動は、誰が何にどこまで触れているかを把握すること、そしてその鍵と権限を管理すること、つまりアクセス制御と運用管理だ。いずれも、もうずいぶん前から情報システム保護の基本とされながら、たいていの現場で「二の次」「そのうち」といった扱いをされがちだったことだ。

これまで後回しにできたように見えたのは、攻めてくる相手も人間で、動きが遅かったからにすぎない。「人が前提の猶予を、AIは消滅させた」と言える。もはや、「どうせ、すぐには見つからない」という推測は通じない。

Hugging Faceは、今回の被害についてAIによる分析をしたが、その際、商用のAPI型のAIではセキュリティに関するガードレールの制約が足枷になり分析できなかったため、自前のインフラで使えるオープンウェイトのAIモデル、GLM‐5.2（中国製）を使ったと報告している。皮肉な話だ。攻撃側は利用規約に縛られないのに、守る側の分析だけが止められたのだ。AIのセキュリティを扱う場合のガードレールのあり方については、今後も議論の余地があるだろう。

さいわい、この事件はまだ「よその話」として読める。読めているうちに囲いを整え、鍵を数え、見張りを確かめたい。おそらく、猶予はもうない。

東洋経済Tech×サイバーセキュリティでは、サイバー攻撃、セキュリティの最新動向、事業継続を可能にするために必要な情報をお届けしています。