AIが生成したコンテンツはあまりにリアルになっており、ソーシャルメディア上に流れてくる動画や画像が本物か偽物かを見分けるのは、多くの場合、ほぼ不可能になっている。
そこで、AI検出ツールの登場だ。
オンライン上には、隠されたウォーターマークや構図の乱れといったデジタル的な手がかりを探ることで本物とAI生成物を見分けるとうたうツールが十数種類ある。
だが、その実力は宣伝ほどではない。ニューヨーク・タイムズが行った一連のテストによると、多くのツールはある種のAIコンテンツの検出では健闘したものの、全面的に信頼できるほどの精度には達していなかった。
AI生成コンテンツの怪しさを裏付ける助けにはなっても、決定的な判定を委ねるのは難しいことを示す結果だ。このことは、ソーシャルメディアにあふれるようになったAI偽コンテンツに向き合う利用者やファクトチェック担当者に新たな課題を突きつけている。
一連のテストからは、検出ツールが導き出す結論は総じて、公式写真の細部や報道内容など、別の調査で裏付ける必要があることがわかった。
「100%見抜けるツールは実現しない」
それでも、多くの人は、画像だけでなく動画や音声も分析できるようになった検出ツールを、真偽を見極める強力な判定役とみなしている。AI生成コンテンツがソーシャルメディアを駆けめぐり、重大ニュースに合わせて人々を惑わせるようになっている中で、検出ツールがコンテンツの真偽をより分けてくれると考えているわけだ。
こうしたツールは、AIを使った詐欺を見抜きたい銀行や保険会社、学生の剽窃・盗用をチェックしたい教師、ソーシャルメディアで流れる画像や動画を追跡して調査する人たちにも採用されている。
しかし、AI検出ツールを研究し、テキスト検出ツールには信頼性がないと結論づけたブリティッシュ・ユニバーシティー・ベトナムの教授マイク・パーキンスによれば、「テキストであれ、画像であれ、動画であれ、どんな形式であっても、AIが使われたかどうかを100％見抜ける検出ツールは決して実現しない」。AI生成技術が進化するほど、AI検出ツールが追いつくのも難しくなり、「いたちごっこ」になるという。
ニューヨーク・タイムズの今回のテストでは、偽の動画、音声、音楽、画像を見分けられるとする十数種類のAI検出ツールとチャットボットで、合計1000回以上のスキャンを行った。
その結果を以下に紹介していこう。
