女子生徒のSNS画像をAIで裸の画像に加工…《ディープフェイクポルノの被害者､中学生が5割超》卒業アルバムの悪用は自衛が難しい､どうすれば

AI顔交換アプリ「Reface」では歴史の人物と顔を変えることもできます（出所：筆者提供）

2022年3月にはウクライナ軍の投降を呼びかけるゼレンスキー大統領の動画がSNSに拡散されました。

これはディープフェイクで作られた偽動画ですが、一見本物かと思うほど精巧にできており、戦争が情報戦に突入したと恐れられました。日本でも政治家のディープフェイクがまん延しており、高市早苗総理のなりすましが投資を促す詐欺広告も出現しています。

これまで、ディープフェイクは高度な技術や本格的な機材が必要だったため、ターゲットとなる人物は有名人や著名人などに限られていました。しかし今は、生成AIアプリやWebサイト経由のサービスで簡単にディープフェイクが完成します。つまり、一般人でもディープフェイクの被害に遭う可能性が高まっているのです。

防ぎきれないディープフェイクポルノ

特に、ディープフェイクポルノ、児童の画像を基にしたものについては国も問題視しています。

2025年9月に全面施行となった「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）は、AIのイノベーションを促進しつつ、リスクに対応するための法律です。

この附帯決議に児童の画像などを使ってAIで作り出したディープフェイクポルノについて、厳正な取り締まりや被害者の保護、サイト管理者への違法な情報の削除依頼強化などが盛り込まれました。

また、警察庁は「児童の性的ディープフェイク被害・加害防止のための広報啓発資料」を公開し、注意を呼びかけています。

ディープフェイクポルノは卒業アルバムなどから作成されてしまうため、避けることが非常に難しいのですが、高い解像度の写真や動画をネットに投稿しないことは最低限の守りになります。