【悲報】AIがサイバー攻撃者を｢最強｣にしてしまった!? 《偽社長の電話で億を奪われる…》防御側もAIを活用しないと"詰む"理由

（撮影：今井康一）

近年、普及した生成AIはビジネスの効率化に不可欠なツールとなった。一方でAIはサイバー攻撃側によっても便利であり、巧妙なサイバー脅威が生まれている。

高度な日本語を操るフィッシング詐欺から、ディープフェイクによる企業の金銭詐取まで、その手口は日々進化している。このようなAIを悪用した攻撃に対抗するため、防御側もAIを活用した戦略を導入することが不可欠だ。

生成AIが悪用されることでどのようなリスクが生まれているのか、そして企業はどのような対策を取るべきか、解説する。

生成AIの悪用で「巧みな」だましが出現

現時点で生成AIの悪影響が最も懸念されているのがフィッシングだ。具体的には、企業やサービスに偽ったメールやメッセージで、情報を盗み取る偽サイトに誘導するサイバー攻撃のこと。

生成AIを使って完成度の高い日本語の文章が生成可能になった結果、日本語に不慣れな犯罪者に特有の不自然な言い回しによって、メッセージを偽物と見分けることがほぼ不可能になった。

注意すべきは一般の消費者だけではない。ディープフェイク動画や音声を利用して経営者をかたって法人をだます詐欺も存在する。

例えば犯罪者はあらかじめ連絡先を入手した企業の経理担当者に、「社長の加藤だ。いま客先に移動中なんだが、取引先への送金処理を忘れていた。すまないけど、今からメールで伝える口座に5億円を送金してほしいんだ」と、実際の社長としか思えない声色や口調で電話をかける。

サイバー攻撃やセキュリティーの最新動向など、その他の関連記事はこちら

会話内容や単純な応答の音声は、ネット上にある社長の過去の講演やSNS上のビデオからAIで生成可能だ。その後、電波状態が悪いと理由をつけ、メールなどテキストでのやり取りに切り替える手口もよく使われている。