AIアプリの基本的なデータの流れは、一般的なSaaSと同様だ。ただし、入力したデータがAIモデルの学習データとして利用される場合はこの限りではない。
外部への情報漏洩リスクは、AIアプリとAIアプリのプロバイダーが、データをどの範囲で利用するかに依存する。契約や法令によって利用できるサービスが定められている場合はそれに従う必要があるため、情報の機密度(情報クラス)に応じた、適切なAIアプリの選定が求められる。情報クラスに応じたAIサービスの選定方針は以下の通りだ。
・特段の制限のない情報のみを扱う場合
利用者が意図せず機密情報を入力するリスクがあるため、「機密情報を扱う場合」と同等の対応をとることが望ましい。
・機密情報を扱う場合
入力データをAIの学習等に利用しないと明記されているサービスに限定する。明記だけでなく、セキュリティ管理の第三者認証(ISO/IEC 27017/18、42001、SOC2 Type IIなど)の取得も、重要な選定基準となる。
・契約や法令で制限されているデータを扱う場合
契約や法令で許可されたサービスを利用するか、自社内(ローカル)環境を構築する。会社が許可していないAIツールを業務に使う「シャドーAI」は、この選定方針を担保できない点が問題となる。
社内の利用者間での情報漏洩は、AIアプリと他サービス(メールやファイルサーバーなど)のアクセス権限が一致しないことで発生する。
例えば、AIアプリがファイルサーバー上のすべてのファイルにアクセスできる設定の場合、本来アクセス権を持たない利用者がAIアプリ経由で情報を取得できてしまう恐れがある。
RAGなどのデータベースを構築する際も同様だ。元のファイルのアクセス権がデータベースに反映されていなければ、人事情報や給与情報など、本来知るべきでない情報が一般社員に伝わるリスクがある。
AI利用に関するルール化と統制
ここまで述べてきた情報クラスの設定、AIサービスの利用手続き、シャドーAIの禁止などは、社内規定やガイドラインとして明文化する必要がある。
また、コーディングエージェントをはじめとするAIエージェントは、情報漏洩にとどまらず、データの破壊や誤った情報・操作の伝播といったリスクも伴う。初期設定、開発・リリース手順、拡張機能の制限など、エージェントの特性に応じた方針の策定が求められる。
