東洋経済オンラインとは
ビジネス

「勝手に情報を外部に送信」「データ改ざん」「基幹システムの破壊」・・・脅威の7割は検知困難、《見えないAI》どうすれば?

9分で読める
AIエージェントイメージ
「AIエージェント化の波」が迫っているが、セキュリティ対策は追いついていないという(写真:tadamichi/PIXTA)
  • 田篭 照博 NRIセキュアテクノロジーズ 北米支社 研究主幹
2/6 PAGES
3/6 PAGES
4/6 PAGES
5/6 PAGES

以下の図は、ここまで解説した「3つのリスク」と、それに対応する「セキュリティの3本柱」、そして経営者が確認すべき「3つの問い」の全体像を整理したものです。

経営者が知るべきAIエージェントセキュリティの全体像(画像:筆者提供)

経営者が今すぐ確認すべき「3つの問い」

「3つの問い」について、具体的に確認していきましょう。

問い①:社内のAIエージェントを把握・管理できているか?

AIエージェントが「いつの間にか」動いている状態、それ自体が経営リスクです。どのシステムに、いくつのAIエージェントが存在し、誰が管理責任を持ち、どんな権限や認証情報(APIキー等)を握っているか。そして、どの外部ツールやSaaSと接続しているか、確認しましょう。

これからAIエージェントを導入する企業は登録・管理プロセスと、付与する権限のルールを必ず先に整備してください。導入済みの企業は、即座に「棚卸し」から始める必要があります。そのうえで、不要な権限の剥奪とガバナンス枠組みの構築を進めてください。

問い②:AIの判断力に頼らず、危険な操作をそもそもできない設計になっているか?

現在のAIは、ユーザーの「指示」と外部データの「情報」を区別できないという構造上の弱点を持っています。つまり、AI自身の判断力に依存する防御は成立しません。

次ページが続きます:
【「見えないAI」を統制下に置く】

6/6 PAGES

こちらの記事もおすすめ

あなたにおすすめ

ビジネス

人気記事 HOT

※過去1週間以内の記事が対象