Xへの自撮り画像の投稿には要注意､新年に入ってGrokが依頼に応じて生成した若い女性の全裸に近い画像がX中に出回る事態が多発している

写真は2025年2月撮影（写真：ロイター）

ブラジルのリオデジャネイロを拠点に活動するミュージシャンのジュリー・ユカリさんは、昨年12月31日深夜に婚約者が撮影した写真をXに投稿した。年が明けた翌日、何百もの「いいね」に交じり、写真をビキニ姿にするようXの内蔵人工知能Grokに依頼しているメッセージを見つけた。

31歳のユカリさんは、AIがそんな要求に応じるわけがないと思い、あまり気にしていなかった。だが、彼女は間違っていた。まもなく、Grokが生成した彼女のほぼ裸の写真がX中に出回った。

「私は甘かった」。ユカリさんは2日、ロイターに語った。

ロイターの分析によると、ユカリさんが経験したようなことはXのいたるところで繰り返されている。ロイターは、Grokが子どもの性的な画像を作成したケースも複数確認した。

ロイターは調査結果についてXにコメントを求めたが、返答を得られていない。

「明らかに違法」

実在の人物の全裸に近い画像が出回っていることに、国際社会は懸念を強めている。

フランスの閣僚らは、Xの不穏な画像について検察当局と規制当局に報告。2日に出した声明で 「性的・性差別的」コンテンツは 「明らかに違法だ」と訴えた。インドのIT省はXの現地法人に書簡を送り、Grokを悪用して性的に露骨なコンテンツを生成、流通させることをXは防ぐことができなかったと指摘した。

米国の連邦通信委員会、連邦取引委員会はコメントの要請に応じなかった。