AIで作るニセ情報｢ディープフェイク｣氾濫の脅威 まんまと騙され社会混乱､ニセモノ見抜くには

越前氏らは、AIを活用し、顔の画像や映像に対してそれが本物なのか、あるいはAIで生成されたものなのかを識別する技術を開発。目や口のあたりのノイズから改ざんの有無を判定し、ニセモノの場合は顔のどの部分がどの技術で改ざんされているのかを推測できるという。

ただ、真贋判定にはどうしても限界がある。コンテンツは膨大にある中でフェイクを1つひとつ検知するのは非現実的で、技術的にも攻撃者といたちごっこになりやすいからだ。

そこで、フェイクコンテンツを作られた場合に備える「サイバーワクチン」と呼ばれる技術も開発している。あらかじめ人の顔の映像や画像に、目には見えないオリジナルの顔に関する情報「サイバーワクチン」を埋め込んでおく。たとえその顔が、ほかの人に置き換えられた場合も、埋め込まれた情報を参考にして元の映像や画像を復元できる手法だ。

あらかじめオリジナルの顔に関する情報「サイバーワクチン」を埋め込んでおくと、ほかの人に置き換えられた場合も埋め込まれた情報を参考にして元の映像や画像を復元できる（写真：越前氏提供）

さらに、自分の画像をAIの学習に使わせないようにするワクチンも開発している。生成AIの学習元となる画像は、インターネット上を巡回するクローラーと呼ばれるボットによって収集される。日本の著作権法では、AIの学習に使うデータは無断で収集して使用することが認められているが、知らない間に自分の顔画像が使われているのはあまりいい気持ちはしない。

このワクチンを画像に埋め込むと、画像に人物が写っていることをクローラーが確認できなくなり、収集の対象となることを避けられるという。サイバー空間内で画像を隠し、プライバシーを守ることができるのだ。

真贋判定の技術を企業向けに提供も

真贋判定の技術については、企業向けサービス「SYNTHETIQ VISION」として2021年より社会実装も行われている。企業が簡単に利用できるWeb APIとして提供され、多くの企業から引き合いがあるという。

例えば、実在する著名人のデジタル空間での「分身」として公式3DCGモデルを制作・管理するサービス「デジタルツインレーベル」を展開するサイバーエージェントは、登録した著名人のディープフェイク検知のために導入している。