試しに、AIエージェントをPCで使っている方は、「私のプロジェクトではローカル環境に認証トークンが平文で保存されていませんか」と尋ねてみてほしい。「平文の認証トークンは見つかりませんでした」と回答があるのは、シークレットマネジメントを意識的に実践している人だけだ。
「システムの見張り番」はどうだろう。誰が、いつ、どのシステムに、何度触れたのか。それを見ている目は、正直なところ、どこまで有効な仕事をしているだろうか。普段をはるかに超えるアクセスが一気に集中したとき、鳴るはずのアラートは鳴るのか。通常の見張りも、使いすぎを止める仕組みも、世の中のシステム運用の実態は驚くほどいい加減なままではないだろうか。ここがポイントだと気づけない会社に、セキュリティを守ることは難しいだろう。
OpenAIの一件も、気づいていたかいないかにかかわらず、調べればわかる“前から開いていた穴”を桁違いの速さで通り抜けただけだ。それなら、恐れるべきはAIの人智を超えた賢さだとは言えない。
次に檻を破るのは、あなたの会社のAIかも？
さて、この事件の刃は、「AIを活用する側」にも向いている。
今、多くの会社が、AIエージェントをさまざまな用途で「まず使ってみる」段階にいる。まだ完璧じゃないのはわかっているが、速くて、便利、しかもコンピュータープログラミング言語ではなく「普通の言葉」が通じる。この魅力に取り憑かれ、そこそこ大きなお金がかかるのに、導入の稟議もすっと通る。
しかし、想像してほしい。社内で走らせているそのAIエージェントが、今回のOpenAIのように、与えた仕事に前のめりになりすぎて、囲いを踏み越え、自社の開発環境をいじり始めたらどうなるか。その手が外へ伸びて、取引先のシステムを突き始めたらどうなるか。あなたの会社は、そうした「AIに権限を握らせるリスク」に気づけるだろうか。
今年10月に函館で開かれるセキュリティ競技会「Hardening Project」は、メインテーマに「エージェントの崩壊（Agentic Collapse）」を掲げている。「守る側」のトップランナーはもう、この事態を絵空事ではなく、実地で試行する題材として扱い始めているのだ。
しかし、多くの企業では、まだ利便性にばかり注目が集まり、AI利用の安全対策は様子見、あるいは後回しになっているのではないだろうか。
