東洋経済オンラインとは
ビジネス

"毎日AIを利用する"のに「機密情報入れない」で止まっている企業の危うさ、CISOが押さえておきたいAIセキュリティの基本

7分で読める
オフィスで仕事をするビジネスパーソン
AIを安全に利用するためのセキュリティ対策は追いついていないのが現状だ(写真:Graphs / PIXTA)
  • 高橋 正和 Preferred Networks AIガバナンス推進・セキュリティアーキテクト
2/4 PAGES
3/4 PAGES
 組織外への情報漏洩リスクと情報のクラス化

AIアプリの基本的なデータの流れは、一般的なSaaSと同様だ。ただし、入力したデータがAIモデルの学習データとして利用される場合はこの限りではない。

外部への情報漏洩リスクは、AIアプリとAIアプリのプロバイダーが、データをどの範囲で利用するかに依存する。契約や法令によって利用できるサービスが定められている場合はそれに従う必要があるため、情報の機密度(情報クラス)に応じた、適切なAIアプリの選定が求められる。情報クラスに応じたAIサービスの選定方針は以下の通りだ。

・特段の制限のない情報のみを扱う場合

利用者が意図せず機密情報を入力するリスクがあるため、「機密情報を扱う場合」と同等の対応をとることが望ましい。

・機密情報を扱う場合

入力データをAIの学習等に利用しないと明記されているサービスに限定する。明記だけでなく、セキュリティ管理の第三者認証(ISO/IEC 27017/18、42001、SOC2 Type IIなど)の取得も、重要な選定基準となる。

・契約や法令で制限されているデータを扱う場合

契約や法令で許可されたサービスを利用するか、自社内(ローカル)環境を構築する。会社が許可していないAIツールを業務に使う「シャドーAI」は、この選定方針を担保できない点が問題となる。

社内での情報漏洩リスクとアクセス権限の矛盾

社内の利用者間での情報漏洩は、AIアプリと他サービス(メールやファイルサーバーなど)のアクセス権限が一致しないことで発生する。

例えば、AIアプリがファイルサーバー上のすべてのファイルにアクセスできる設定の場合、本来アクセス権を持たない利用者がAIアプリ経由で情報を取得できてしまう恐れがある。

RAGなどのデータベースを構築する際も同様だ。元のファイルのアクセス権がデータベースに反映されていなければ、人事情報や給与情報など、本来知るべきでない情報が一般社員に伝わるリスクがある。

AI利用に関するルール化と統制

ここまで述べてきた情報クラスの設定、AIサービスの利用手続き、シャドーAIの禁止などは、社内規定やガイドラインとして明文化する必要がある。

また、コーディングエージェントをはじめとするAIエージェントは、情報漏洩にとどまらず、データの破壊や誤った情報・操作の伝播といったリスクも伴う。初期設定、開発・リリース手順、拡張機能の制限など、エージェントの特性に応じた方針の策定が求められる。

4/4 PAGES

こちらの記事もおすすめ

あなたにおすすめ

ビジネス

人気記事 HOT

※過去1週間以内の記事が対象