｢人はだまされる｣｢教育では限界｣…人間を見限った会社ほど､サイバー攻撃に強くなれる納得の理由 《AIも暴走しうる》

ここで誤解してはならないのは、「人が原因だから教育を強化すればよい」という単純な話ではないということだ。

従来型のセキュリティ研修は、一定の効果がある。しかし実際の攻撃は、業務の忙しさ、時間的制約がある状況で発生する。人間はつねに合理的な判断を下せる存在ではない。

しかも、プルーフポイントのデータによると、2025年の1年間に観測した世界の新種メール脅威のうち、82.8%が日本をターゲットにしていた。世界の中で、日本人のアカウントが最も狙われているのだ。

画像を拡大
（画像：プルーフポイント）

大量のフィッシング攻撃が日本に押し寄せる今、企業に必要なのは、「正しい判断を求める」ことではなく、「誤った判断をしなくても済む環境」を設計することである。そこで鍵となるのが、技術による補助と自動化だ。目的は、人を排除することではなく、人の判断負担を減らすことだ。

例えば、URLのクリック時にリアルタイムで安全性を再評価し、悪意あるサイトへの遷移を自動的に遮断する仕組み。疑わしいメールを自動隔離し、横展開を未然に防ぐ仕組み。アカウント異常を検知した場合に即座にセッションを無効化する自動対応。

さらに、セキュリティ運用の現場においても、自動相関分析やリスクスコアリングによってアラートを優先順位付けし、担当者が本当に対処すべき事案に集中できる環境を整えることが重要だ。

これらは単なる効率化ではなく、人が誤る確率を前提に、その影響を最小化する設計思想が重要となる。

AIによって崩れた防御の前提

もう一点注意したいのは、「人の脆弱性」が、生成AIの普及によって新たな形で拡張されている点である。

近年、企業内で急速に導入が進むAIエージェントは、単なる情報検索や文章生成にとどまらず、メール、クラウドストレージ、CRMなど複数のシステムにアクセスし、人の代わりに意思決定や業務実行を行うようになってきている。

AIにより、従来のセキュリティの前提は崩れている。これまでのセキュリティは、「誰が何にアクセスできるか」という権限管理が中心だった。しかしAIエージェントは、正しい権限を持ちながら、本来の目的とは異なる行動を取る可能性がある。