アイドルなどの画像を性的に加工することは、「アイコラ（アイドル＋コラージュ）」から数十年間にわたって続いてきた。当初は既存の素材による切り貼りだったが、生成AIの登場でまったくゼロから体を描けるようになり、映像によるディープフェイク動画にも発展した。そして、ここ1〜2年で、それが一般ユーザーでも安価もしくは無料で作れる環境が整った。
このように歴史をなぞって見ると、根底にあるものは「生成AIの普及に伴い、突如として出てきた課題」ではない。著作権や肖像権といった「利用される側の権利」と、表現の自由をはじめとする「利用する側の権利」。どちらにも権利がある。だからこそ、従来は両者をてんびんにかけ、バランスを取りながら運用されてきた。
しかしながら、今回のようなケースは、そのバランスを大きく乱しかねない。一部が悪目立ちすることにより、先ほど懸念を示したような法改正に発展してしまえば……。その前に、国民レベルで、どう折り合いを付けるかを考えたほうがいいだろう。
JKT48は法的措置を行うと発表
1つ考えられる方策が、芸能事務所や運営サイドからの警告だ。ちょうど今回の事案と時を同じくして、インドネシア・ジャカルタを拠点とするAKB48系列グループのJKT48が、生成AIによるポルノコンテンツに法的措置を行うと発表した。
そこでは複数メンバーが、AIの悪用被害を受けているとして、「メンバーの顔や身元を用いたAI生成ポルノコンテンツの制作」「当該コンテンツの拡散・配布・宣伝」「当該素材を支持・拡散・搾取するコメントや投稿」について、メンバーが法的措置を取ることをサポートすると明言されている。
この声明の特筆すべき点は、制作者のみならず、拡散したユーザーも対象としていることだ。「作った人が悪い」だけでなく、広めた人にも非を認める。従来から一歩踏み込んだ形だが、ファンの当事者意識を呼び起こす画期的な内容と言えるだろう。
批判を浴びた時、「AIが勝手に生成した」は免罪符となる。しかし、その指示を出したのは人間であることを忘れてはいけない。そもそも生成AIの回答は、人間の集合知によるビッグデータを元にしている。結局のところ、使い手のモラル次第なのだ。
