OpenAI｢勝手にAIが他社へ侵入｣､次はあなたの会社でAIが暴走するかも？被害側と加害側に共通する｢セキュリティの甘さ｣

OpenAIの“暴走AI”を例にここまでで挙げてきた「穴」（放り出された鍵、甘い見張り、AI に握らせた権限）は、OWASPやCSAなど、世界の専門家がAIのリスクとしてとうに整理している。しかも、経営層向けの手引きまで含めて、日本語で公開されているものも多い。

下図にまとめたので、チェックしてみてほしい。今回の事件は、これらの資料に描かれていたリスクを裏付けたものだったことがわかるはずだ。

経営者が情報担当者と向き合うべき｢2つの問い｣

では、経営者は何をすればいいのか。数々の研究はあるが、決定的な特効薬はない。しかし、それでもやるべきは、情報担当者と膝を突き合わせ、以下の2つの問いに向き合うことだ。

1つ目は、自社のAIを加害者にしないための問いだ。「うちが使っているAIエージェントが、暴れて自社や取引先に牙をむかないための仕組みはどのようなものが働いているのか」。AIエージェントへのサンドボックスの設定方法は公開されているので、改めて確認したい。この実践にひと手間をかけるかかけないかで大きな違いが出る。

そして2つ目は、自社を被害者にしないための問いだ。「他社や見知らぬ誰かが、AIで当社のサービスを攻めてきたとき、それに気づいて食い止める仕組みはどうなっているのか」。

この2つの問いは地続きになっている。問題が起こるときには、囲いの甘さや見張りの甘さが、加害の側にも被害の側にもあるということだ。

人のアクセスとAIのアクセスは、速さも、時間帯も、そして「諦めの悪さ」も違う（下図を参照）。問われているのは、そもそもその「人間とは異なる動き」（異常なアクセス）を捉える仕組みが機能しているかどうか。そこを掘り下げてほしい。