経緯はこうだ。顧客企業の税務を担当する社員は、仕事で使うシステムの不具合を社内のIT担当に相談していた。その問い合わせに使われていたのは、ファイル添付ができる外部のフォームだった。
不具合は現物を見せるのが早い。社員はメールに添付する感覚で、処理中の顧客の税務書類をそのフォームに貼り付けて送る運用を常態化させていた。
そうして顧客の機密書類のたまった外部サービスが不正アクセスを受け、書類はまとめて流出してしまった。つまり、漏れたのは本来の保管場所からではない。作業のついでに貼った場所からだった。流出した中には、顧客企業に関わる個人の投資情報や、税務申告に用いる財務情報も含まれていたという。
AIのチャット画面も、この預け先と同じだ。貼った内容は手元ではなくサービス側に残り続ける。25年には海外の新興AIサービスで、会話履歴のデータベースが誰でも見られる状態のまま放置されていたことが発覚。預け先がどう守られているかは、こちらからは見えない。まして会社が知らないまま使われていれば、漏れたことにも、何が出たのかにも、たどり着けない。
その「AIツール」は本物か？
2つ目は、「新しいAIを試そう」と検索するときだ。
例えば、無料でAI動画が作れるという宣伝にひかれて画像をアップロードすると、生成中を思わせる画面のあと「動画ファイル」のダウンロードを促される。その正体は動画ではなく、パスワードなどを盗み出すマルウェアだったという事例もある。25年に確認された実際の手口だ。
同じ25年には、攻撃者が作り込んだ不正な「AI搭載」ソフトが、正規の署名まで備えて企業に入り込んだ例も報告された。装っていたのはPDF編集や説明書検索といった、ありふれた業務ツールだった。
宣伝どおりに動く裏で、ブラウザに保存された認証情報を抜き取り、次の攻撃の足場を築いていた。一見普通に使えてしまうだけに、手口を知らなければ疑いようがない。
どちらも狙っているのは、AIを試したいという自然な好奇心そのものだ。
この好奇心は子どもも同じで、親の目線でも対岸の火事ではない。本物の生成AIには年齢制限があり、学校の端末でも遮っている自治体が多いが、それでもAIと話したい子どもたちが、対話型AIの偽サイトを検索で見つけ出し使っていた事例が26年7月に報じられた。
わが子の利用に気づいた保護者が学校に知らせたとみられ、学校から教育委員会へ「偽サイトが使えてしまっています」と連絡。遮っても別の偽物が現れ、「いたちごっこ」の状況だ。
つまり、本物への道を塞ぐだけでは、人は「使える偽物」のほうへ流れる。大人の職場でも、起きることは変わらない。
