中国アリババでは1.4億人が体験､｢商品検討→勝手に買うAI｣進化の衝撃《攻撃者がAIを騙し､悪質サイトで支払う懸念も》

このように両国で仕組みづくりが進んでおり、中国では大規模な利用も報告されている。

AIを騙す悪質サイトが現れた

現在の主要な消費者向けAIエージェントサービスは、決済前に人間の確認を残している。ただし、金額や対象を事前に指定し、その範囲内でAIに購入を委ねる仕組みも設計されている。

つまり、人間が取引のたびに確認するのではなく、あらかじめ設定した条件に基づいてAIが決済まで実行する段階へ進みつつあるのだ。当然のことながら、こうしたサービスは新たなビジネスチャンスとなるだろう。

一方で重要なのは、やはりセキュリティだ。

セキュリティ企業のZscalerは2026年7月、悪質サイトに隠し命令を仕込み、AIエージェントを操る攻撃を確認したと発表した。

内容が複雑なので簡略化して説明する。まず現実に存在する悪質サイトが、ページ内に「架空の利用料を支払え」という、人間の目には見えない命令を埋め込んでいた。

そこでZscalerがウェブ閲覧と支払いができるAIエージェントに、このサイトを検索候補に含めて処理させたところ、26種類のAIモデルのうち4種類が決済操作まで進んでしまったというのである。

実際の金銭は支払わない実験ではあったが、隠された命令によってAIが支払いへ誘導される危険が示されたのである。