ネットに大量にばらまかれた｢嘘の電話番号｣→AIが信じて人間が詐欺の被害に…｢LLM電話番号汚染詐欺｣巧妙な手口

例えば、エミレーツ航空などの問い合わせ先をGoogleのAI OverviewsやPerplexityといったAI検索エンジンで検索すると、詐欺師が準備した電話番号を表示するケースが見つかったのです。

エミレーツ航空などの問い合わせ先をAI検索エンジンで検索すると誤った番号が表示される。画像はPerplexityで電話番号を検索した画面。現在は、正確な電話番号が表示されるようになっている（画像：筆者提供）

このLLM電話番号汚染詐欺によって、実際に金銭的な被害が発生した事件も起きています。

25年8月、ラスベガスで不動産会社を経営するAlex Rivlin氏は、旅行の準備のためにGoogleのAI Overviewsで豪華客船「Royal Caribbean」のカスタマーサービス番号を検索し、AIが提示した番号に発信しました。

電話に出た偽のオペレーターは、本物のスタッフのように送迎サービスや料金について淀みなく説明し、Rivlin氏は768ドルを支払ってしまったのです。さらに、この時使われた詐欺師の電話番号は「Disney Cruise Line」や「Princess Cruises」の公式窓口としても表示されていたことが確認されています。

タイムパフォーマンスを重視していると、1つの画面で完結するAI検索の回答は魅力的に映ります。しかし、本来であれば慎重に行うべき事実確認のプロセスを丸ごと省略してしまうのはリスキーです。

AIが提示した電話番号をそのままタップするという何気ない行動が、取り返しのつかない高額被害の入り口になっているということはもっと周知されるべきでしょう。

なぜ賢いAIがだまされるのか？「嘘の学習」の罠

世界中のあらゆる知識を学習しているはずの賢いAIが、なぜ詐欺師の電話番号を公式窓口として答えてしまうのでしょうか。

最大の理由は、AIがインターネット上の情報を基に学習しているためです。

最新のAI検索システムは、ユーザーから質問を受けると、瞬時にウェブを検索し、関連するテキストデータを拾い集め、それを要約して読みやすい回答を作ります。