実際、AI利用に関連するセキュリティ事案も増加している。
AIエージェントツールの1つである「OpenClaw」の事例では、AIエージェント自体の脆弱性に加え、サードパーティが提供する機能拡張（スキル等）に悪意ある機能が含まれていたことが問題となった。拡張機能のリスクはブラウザやチャットシステムでも以前から知られているが、AIエージェントは比較的高い権限でファイルの実行や書き込みができるケースが多く、特に注意が必要だ。
また、AIサービスの認証情報（APIトークン）を盗まれ、高額な利用料が不正に請求される事案も報告されている。こうした攻撃は「Economic DoS（経済的損害を目的としたサービス妨害）」とも呼ばれ、サプライチェーン攻撃、認証情報の誤公開、サービス側のポリシー変更などが原因となっている。サプライチェーン攻撃は、著名なオープンソースソフトウェア（OSS）の汚染、開発者やOSSメンテナー（管理者）の侵害、GitHubの侵害などが連鎖し、広範囲なセキュリティ事案へと発展している。
「AIを使わないこと」は個人と組織のリスク
ここまで読んで、AIの利用にネガティブな印象を持った方もいるかもしれない。しかし筆者は、AIを積極的に活用すべきであり、そのための組織的な安全策（ガードレール）を整備することこそが重要だと考えている。
2023年に世界経済フォーラムが主催したサミットでは、経済学者リチャード・ボールドウィン氏の「AIがあなたの仕事を奪うのではない。AIを使っている誰かが、あなたの仕事を奪うのだ」という発言が注目を集めた。「AIを使わないこと」は個人のリスクにとどまらず、組織としてのリスクになりつつある。
筆者自身、コーディングエージェントを活用してJNSA CISO支援WGの机上演習をオンライン化した経験から、この言葉の意味を実感している。コーディングエージェントは、単に関数やソースコードを提案するツールではない。プログラマーのように働き、システムを設計・構築し、必要なセキュリティ設定まで担ってくれる。発注者の立場で、自分が作りたいシステムを自ら構築することもできる。
AIアプリが調査・分析を行う「システム・オブ・インテリジェンス」だとすれば、AIエージェントは行動・実行を伴う「システム・オブ・アクション」といえる。この体験を通じて、AIエージェントが事業そのものを変えうることを実感した。
AIアプリやAIエージェントの活用は、業務効率化にとどまらない。技術的な専門知識の有無にかかわらず、個々人の能力を拡張し、組織全体のポテンシャルを大きく引き上げる。それは、組織としての力（Capability）を高める、大きな転換点となりうる。
まずはセキュリティ、安全性に関する論点を整理したうえでAIを活用し、今まさに起きているパラダイムシフトを体感していただきたい。詳細については、JNSA CISO支援WGが5月に公表した「CISOがおさえておきたいAIセキュリティの基本」を参照してほしい。
