昨年2023年は、対話型AI（人工知能）の「ChatGPT」の登場もあり、日本では「生成AI元年」と呼ばれる年となったが、今年はより巧妙なディープフェイクが随所で猛威を振るうことが懸念されている。フェイクニュースなどの偽情報が真に恐ろしいのは、仮に短時間であっても混乱を引き起こすことができ、仕掛ける側の目的が達せられてしまう点にある。
今回の地震では、本当に助けを求めている被災者に紛れて、インプレッション稼ぎのX（旧Twitter）アカウントが過去の津波動画などを用いて虚偽の投稿を行い、広告収益を狙ったことなどと推測されている。これらの投稿による直接的な被害は今回ほとんどなかったものの、つねにそれで済むとは限らない。海外からのSNSを介した影響工作の場合、その国の国民感情を推し量る好機になっているかもしれない。
フェイクニュースが政治に与える実際の影響
例えば昨年、ウクライナのゼレンスキー大統領が、アメリカからの援助金で豪華ヨットを購入したといううわさが、ロシア在住の元アメリカ海兵隊員が立ち上げたウェブサイトを通じて広がった。その詳細は、ゼレンスキー大統領の親しい友人が代理人になり、ヨット2隻に7500万ドル相当（約107億円）を支払ったという話だった。
ウクライナ政府はこの話を全面的に否定し、のちに実際に虚偽であることが判明したが、あっという間にインターネット上で拡散され、軍事費について重要な決断を下すアメリカ連邦議会の議員たちの耳にも入り、実際にも影響が出たようだ（＊2）。偽情報の拡散によってウクライナへの支援の邪魔しようとする策略は、ある程度ながら成果を収めてしまっている。
このような選挙や予算などへの影響は非常にわかりやすいが、一定の有権者や権力者などが一瞬でも虚偽の情報を事実（あるいはグレー）と見誤ってくれるだけで、政治的に重要な決定を変えさせることが可能になる。フェイクニュースの発信者の目論見通りに事が運ぶのである。国政レベルにおいてはこの破壊力はすさまじいものとなる。
MIT（アメリカマサチューセッツ工科大学）の研究者で、データサイエンティストのシナン・アラルは、「フェイクニュースの困ったところは、同じようなニュースが何度も繰り返し、同じようなパニックを引き起こすということだ。偽の情報は本物の情報よりも速く広まり、人々の行動を誤った方向に導く。情報は偽物でも、行動は本物で、それによる影響も本物である」と警告した（『デマの影響力 なぜデマは真実よりも速く、広く、力強く伝わるのか？』夏目大訳、ダイヤモンド社）。
この「情報は偽物でも、行動は本物で、それによる影響も本物である」という部分が最も厄介なのである。巧妙なディープフェイクが悪用されることで何に火が点くかは明白だ。機能不全に陥りつつある民主主義のさらなる分極化、場合によっては内戦状態への誘導である。既存の政治体制に対する不信感をあおったり、マスメディアの信頼性を失墜させる出来事には事欠かない。そのような状況において真実味のある虚偽の情報を流し、不満や不安といった感情を爆発させる起爆剤に変えるのだ。
ログインはこちら