｢首にマフラーを巻いて､ビキニを着せて｣…人気漫画家がSTU48メンバーを生成AIで｢性的加工｣して大炎上→謝罪。一体何がマズかったのか？

アイドルなどの画像を性的に加工することは、「アイコラ（アイドル＋コラージュ）」から数十年間にわたって続いてきた。当初は既存の素材による切り貼りだったが、生成AIの登場でまったくゼロから体を描けるようになり、映像によるディープフェイク動画にも発展した。そして、ここ1〜2年で、それが一般ユーザーでも安価もしくは無料で作れる環境が整った。

このように歴史をなぞって見ると、根底にあるものは「生成AIの普及に伴い、突如として出てきた課題」ではない。著作権や肖像権といった「利用される側の権利」と、表現の自由をはじめとする「利用する側の権利」。どちらにも権利がある。だからこそ、従来は両者をてんびんにかけ、バランスを取りながら運用されてきた。

しかしながら、今回のようなケースは、そのバランスを大きく乱しかねない。一部が悪目立ちすることにより、先ほど懸念を示したような法改正に発展してしまえば……。その前に、国民レベルで、どう折り合いを付けるかを考えたほうがいいだろう。

JKT48は法的措置を行うと発表

1つ考えられる方策が、芸能事務所や運営サイドからの警告だ。ちょうど今回の事案と時を同じくして、インドネシア・ジャカルタを拠点とするAKB48系列グループのJKT48が、生成AIによるポルノコンテンツに法的措置を行うと発表した。

そこでは複数メンバーが、AIの悪用被害を受けているとして、「メンバーの顔や身元を用いたAI生成ポルノコンテンツの制作」「当該コンテンツの拡散・配布・宣伝」「当該素材を支持・拡散・搾取するコメントや投稿」について、メンバーが法的措置を取ることをサポートすると明言されている。

48グループの中でも、いち早く本件に反応したのがJKT48だった（画像：JKT48 公式Xより）

この声明の特筆すべき点は、制作者のみならず、拡散したユーザーも対象としていることだ。「作った人が悪い」だけでなく、広めた人にも非を認める。従来から一歩踏み込んだ形だが、ファンの当事者意識を呼び起こす画期的な内容と言えるだろう。

「メンバーの容姿を模したAI生成画像・動画」に関する言及も確認できる（画像：STU48 Official Siteより）

批判を浴びた時、「AIが勝手に生成した」は免罪符となる。しかし、その指示を出したのは人間であることを忘れてはいけない。そもそも生成AIの回答は、人間の集合知によるビッグデータを元にしている。結局のところ、使い手のモラル次第なのだ。

著者フォローすると、城戸 譲さんの最新記事をメールでお知らせします。