第1の論点は、FDEに与えられる「アクセス権限」である。FDEは業務プロセスの再設計を担うため、顧客企業の基幹業務データ、顧客リスト、財務情報、人事情報などに触れることがある。「AIで業務改革を行う」という名目で、企業の中枢データへの広範なアクセス権が付与されることになる。
「そんなことをする悪意のある人物はいない」と考える人も多いだろうが、このリスクは仮想の話ではない。2014年に発覚したベネッセの個人情報流出事件では、グループ企業に勤務していた派遣エンジニアが、システム保守を担う立場を利用して約3500万件の顧客データを持ち出し、名簿業者へ売却していた。FDEを受け入れる際、これと同等以上の構造的リスクが発生する。
第2の論点は、FDEはOpenAIやClaude CodeなどのAIを用いたアプリケーション作成が可能な環境を与えられることが多く、悪意を持ったアプリケーションを作成することも可能という点だ。
高度な権限を持つFDEがAIコーディングツールを使える環境では、悪意のあるプログラム作成の時間的・技術的ハードルが大幅に下がる。なぜなら、高度な知識を持った人物であれば、社内システムを探索したり、マルウェアのような挙動をするアプリケーションを作成したり、外部に情報を漏洩させるようなアプリケーションを作成することができてしまうからだ。
AIがなかった時代にはこういった悪意のあるプログラムを契約期間中に作成することは時間的に難しかったと考えられるが、AIでコーディングできる現代では、数時間で悪意のあるプログラムも作成することができてしまう。
AIは道具であり、それを利用する人によっては、便利な道具は凶器にもなり得る。AIに限った話ではないが、リスクとしては考慮しておくべきである。
第3の論点は「AIエージェントの暴走」である。これも「そんなことは起きるはずがない」と思われるかもしれないが、OpenAI、アンソロピック、メタなどの主要AI企業がAIエージェントの暴走という事故に直面している。
アンソロピックのケースでは、アンソロピックのセキュリティ能力を評価していたサードパーティのイレギュラー社がアンソロピック製AI製品にCTF（Capture The Flag）の課題を与えていた時に事故が起きた。
本来外部と隔離された環境での実験である前提であったが、環境設定の不備でインターネットと接続されており、運悪くCTFの目的としていた架空企業のドメインが、実在していたためにCTFの競技と信じていたAIが結果として不正アクセスを行ってしまったというものだ。
AIに指示を与えた人間も、AIエージェントも悪意を持って行動していたわけではない。環境設定のミスによって、自律的な攻撃能力を持ったAIエージェントの暴走へと発展した。
FDEに悪意もなく、AIエージェントに不正なプログラムが組み込まれていなかったとしても、それを動作させる環境設定に不備があれば、想定外の被害が発生するリスクを想定しなければならない。
FDEの活用を検討する時の3つのポイント
こうしたリスクを踏まえ、FDE活用を検討する企業が安全策として検討すべき点を3つ挙げたい。
※ログイン後、コメント入力が可能です。