10月にティックトックで公開された動画には、貧困層向けの食料購入支援クーポン「フードスタンプ」についてテレビレポーターからインタビューを受ける女性が映っていた。しかし、この女性もレポーターも実在しなかった。そのようなインタビューが行われた事実などなかったのだ。
動画はAIによって生成されたものだった。
それにもかかわらず、人々はフードスタンプを売って現金にするという話を真に受けた。フードスタンプを売って現金化すれば犯罪となる。
コメント欄では、多くの人々がこの動画が本物であるかのように反応していた。控えめな警告表示があったにもかかわらず、何百という人々がこの女性を犯罪者扱いし、中には露骨な人種差別発言もあった。ドナルド・トランプ大統領の支援プログラム削減計画をめぐって国民的な議論が巻き起こる中、政府支援プログラムそのものを攻撃する者もいた。
オープンAIのSoraで「オルタナ現実」が跋扈
この偽インタビューのようにオープンAIの新しいアプリ「Sora（ソラ）」でつくられた動画は、簡単なプロンプトで「オルタナ現実」を生み出すツールによって世の中の認識がいとも簡単に操作される現実を示している。
この手の動画を追跡している専門家によると、ソラの最新バージョンが登場してから2カ月で、人を欺こうとする動画がティックトック、X、ユーチューブ、フェイスブック、インスタグラムで急増している。新世代のデマやフェイクへの懸念を高める氾濫ぶりだ。
大手ソーシャルメディア企業の大部分はAI使用の開示を義務付け、人をだますことを狙ったコンテンツを広く禁止する方針をとっている。しかし、オープンAIのソラが象徴する技術的な飛躍に対する規制がまったく足りていないのは明らかだ。
AI生成動画は、ばかばかしいミーム（ネタ）であることが多いものの、オンライン上の政治的議論にしばしば見られるような、激しい非難をあおることを目的としたものもある。こうした動画はすでに、ロシアのウクライナ中傷作戦のような外国の影響力工作に使われるようになっている。
