学校に広がるAI生成｢ディープヌード｣の大問題 未成年女子を襲う新種の性被害

昨年、ChatGPTをはじめとするAIチャットボットの突然の人気に直面したアメリカ全土の学校は、生徒のカンニングを阻止しようとこれらテキスト生成ボットの封じ込めに躍起となった。そして今度は、さらに憂慮すべきAI生成画像が学校を揺るがすようになっている。

いくつもの州で男子生徒たちが、広く出回っている「ヌード化」アプリを使って服を着た女子クラスメートの実際の写真を、AIが生成した胸や性器の露出した生々しくリアルな性的画像に作り替えているのだ。

進学や就職にもリスクをもたらす可能性

学校や警察の報告によると、男子生徒たちはフェイク画像を学校の食堂やスクールバスの中、あるいはSnapchat（スナップチャット）やInstagram（インスタグラム）などのグループチャットで共有したケースもあった。

電子的に変更されたこうした画像は「ディープフェイク」もしくは「ディープヌード」として知られ、破滅的な影響を及ぼしうる。児童の性的搾取に関する専門家は、同意なく生成したAI画像を使って若い女性に嫌がらせをし、屈辱を与え、いじめることは、精神衛生、評判、身体的安全を害するだけでなく、進学や就職にもリスクをもたらす可能性があると指摘する。

3月には連邦捜査局(FBI)が、人物特定可能な未成年者が露骨な性的行為に及んでいるリアルなAI生成画像も含め、コンピューターで生成された児童を性的に虐待する素材を配布することは違法だと警告した。

それでも、生徒が学校内で搾取的なAIアプリを使用するという行為は非常に新しく、学区によって対応の準備度合いに差が見られる。生徒の安全確保が危うくなりかねない状態だ。