｢AIのフェイク画像はAIで見破れる｣は本当か？ 自分が生成したフェイクにだまされるチャットGPT

現在オンライン上に出回っているAIフェイクの多くは、作成にそれほど手間がかからない。利用者は簡単な指示文を入力するだけで、実在の人物が写っているような、本物そっくりの画像や動画を受け取れる。ベネズエラの大統領ニコラス・マドゥロが1月に拘束された直後にインターネット上にあふれたのも、こうしたタイプのコンテンツだった。

このようなAIフェイクを検知できるか試すため、私たちはオープンAIのチャットボット「チャットGPT」に、2人が笑っている写真を作るよう指示した。すると、本物のような画像が生成されたが、そこにはAI画像の特徴もいくつか含まれていた。光の当たり方や構図、人物の容貌がやや整いすぎていたうえに、片方の手が不自然に波打っているように見えた。

多くのAI検出ツールは、この画像がAIによって生成されたものだとすぐに見抜いたが、例外もいくつか存在した。チャットGPTはそうした例外の1つで、ほんの数分前に自分で生成した偽画像を検出できなかった。

架空の海辺の港の風景のように、AIで生成されたことを示す手がかりがほとんどない画像では、検出ツールはもっと苦戦した。

一部の検出ツールは不正防止に使えるよう、主に顔を識別する目的で訓練されている、といった事情も関係しているとみられる。

偽の動画と音声はセキュリティー上の重大脅威

そして、ソーシャルメディアで急速に次の脅威となりつつあるのがAI動画だ。