"毎日AIを利用する"のに｢機密情報入れない｣で止まっている企業の危うさ､CISOが押さえておきたいAIセキュリティの基本

今回は「Secure Use of AI（AIを安全に使う）」に焦点を当て、以下の4要素で構成するモデルを提案する。

1. AIシステム利用に伴う技術的リスク

データとプライバシーの保護、新たな攻撃経路・脆弱性の出現、脆弱性情報の突発的な公開（ゼロデイ開示など）が含まれる。

2. AIの出力に起因する倫理的・意味論的リスク

不正確または偏った情報の生成（ハルシネーション）、不公平・差別の誘発、著作権などの権利侵害が該当する。

3. 攻撃者によるAI悪用に起因するリスク

AIを悪用した高度なサイバー攻撃など、外部からの脅威を指す。

4. 統制・ガバナンス

社内規定、ガイドライン、監査などの運用管理体制が含まれる。

AIアプリにおけるデータの所在と流れ

AIセキュリティを考えるうえでは、データがどこに存在し、どのように流れるかを把握することが不可欠だ。

AIアプリが扱う主なデータは、①AIモデルが保有する学習データ、②プロンプト（ユーザーの入力）とAIアプリの応答、③ファイルサーバーやメールボックス等の外部サービスのデータ、④RAG（社内データのAI参照を補助するためのデータベース）などの4つに整理できる。

◎AIアプリが扱う主なデータ

（画像：筆者提供）

この分類に基づいて、「組織外への情報漏洩リスク」と「社内での情報漏洩リスク」について見ていこう。