企業が生成AIを使う時に気をつけたい3つのこと 万全な管理のコツは､ユーザーとIT部門の連携

ユーザーの警戒心は技術的な管理手段と並んで非常に効果的であるため、ユーザー教育の実施も重要だ。加えて、ユーザーが生成AIアプリケーションを利用する際に、適切な判断を下す手助けをしたり、特定の活動がブロックされた理由を説明したりする、リアルタイムの「ユーザーコーチング」システムの導入も有効とされている。

ポイント②承認されたAIツールのみを使用

生成AIを導入する準備段階で留意したいのが、社員が個人で契約して、IT部門が承認していないようなAIツールは使わせないようにすることだ。企業は通常、ビジネスを円滑かつ安全に進めるためにセキュリティポリシーを設定し、それに合わせてIT機器やツールを運用している。

具体的には、利用するクラウドサービスに潜むマルウェアの検知やダウンロードを禁止する機能、危険なファイルの隔離、ユーザー活動の監視などを実践する仕組みを構築しているわけだが、むやみに未承認のツールを利用させれば、こうした管理ができなくなる。結果、想定していないネットワークを通じて機密情報が流出するといったリスクが生じる。この課題にどう対応するべきか。

【ユーザー側の対策】ユーザーは、IT部門が承認したAIツールのみを使用するように意識を徹底しなくてはならない。また、無料版と有料版が存在する場合は、一般的により優れたデータ保護とプライバシー条項を含む有料版を使用するべきである。ひとたび自分が情報漏洩事故を起こせば、自社はもちろん、顧客、株主、消費者など広い範囲に影響が及ぶ。リスクの存在を改めて認識しておきたい。

【IT部門の対策】管理側であるIT部門は、承認したAIアプリケーションをリスト化し、効率的に運用したい。Netskope Threat Labsの調査によると、生成AIアプリケーションを安全に運用するために、企業によるセキュリティ制御のシステム導入が増加している。既に調査対象組織の4分の3 以上が、許可もしくはブロックする際のポリシーの策定、DLP、ユーザーを指導するコーチングなどの仕組みを導入している。データの保護を常に意識しながら、生成AIアプリケーションを運用することが重要である。