｢勝手に情報を外部に送信｣｢データ改ざん｣｢基幹システムの破壊｣･･･脅威の7割は検知困難､《見えないAI》どうすれば？

前掲図の著名サービスのセキュリティ問題事例は、いずれも外部のデータにAIへの隠し指示を仕込む「プロンプトインジェクション」という手法によるものです。

現在のAIの基盤技術（Transformerアーキテクチャ）は、ユーザーからの指示と外部データに含まれる情報を同じ仕組みで処理しており、両者を構造的に区別できません。つまりこの問題は、AIの性能を上げれば解決するものではなく、現在の技術の根本的な制約です。

AIエージェントの脅威の多くは、メモリの汚染、判断プロセスの操作、エージェント間通信の悪用など、外からは見えない内部プロセスで進行します。外部の入出力だけを見て「正常な操作」に見えても、内部では深刻な問題が起きている可能性があります。冒頭で触れたShadowLeakも、攻撃の過程がAIエージェントの内部処理で完結するため、外からの観測では検知できない典型例です。

現在提供されているAIセキュリティ診断・監視サービスの多くは、チャット画面やAPIの入出力、つまり外部インターフェースのみを評価・監視の対象としています。OWASP（国際的なセキュリティ標準化団体）が定義するAIエージェントの脅威を当社で分析したところ、実に全体の73%が、外部からの監視では検知困難な問題でした。

「OWASP 15脅威サマリー」を分析。AIエージェントの脅威の73%は外部から「見えない」（画像：筆者提供）

見えないものは守れない…現時点での対策は？

見えないものは守れません。しかし内部まで踏み込めるAIセキュリティソリューションは、現時点ではほぼ存在しません。

リスクは複雑に見えますが、経営者が押さえるべきポイントは主に3つに絞れます。

次ページが続きます：
【経営者が今すぐ確認すべき｢全体像｣】