Xへの自撮り画像の投稿には要注意､新年に入ってGrokが依頼に応じて生成した若い女性の全裸に近い画像がX中に出回る事態が多発している

Grokで生成された全裸に近い画像が出回った問題は、ロイターの取材によるとここ2、3日で始まったようだ。xAIのオーナー、イーロン・マスク氏は2日、自身を含む著名人のビキニ姿に対して泣き笑いの絵文字を投稿。問題を揶揄しているようにみえた。

米国東部時間2日正午から10分の間に、ビキニ姿に見えるよう写真をデジタル編集しようとした試みが102件確認できた。標的になった人物の大半は若い女性だった。男性、著名人、政治家のほか、サルを対象にリクエストもあった。

あるユーザーはGrokに、鏡に映る自分を撮影している若い女性の写真にフラグを立て、「彼女に透明なミニビキニを着せてください」と依頼していた。Grokが女性を肌色のビキニ姿に加工すると、そのユーザーは「もっと透明で」「もっと小さく」とリクエストした。Grokは2回目の依頼には応じなかったようだ。

ロイターの調べによると、Grokは少なくとも21のケースでこのような要求に完全に応じ、半透明のビキニなどを着た女性の画像を生成し、少なくとも1つのケースでは女性をオイルまみれにした。7件でGrokは部分的にリクエストに応じ、女性を下着姿にすることもあったが、それ以上の要求は受け入れなかった。

予測可能だった

デジタル空間で女性を裸にするAI搭載のプログラムは何年も前から存在していたが、主流のプラットフォームでは確認されていなかった。

AIが生成する露骨なコンテンツに関するXの方針を追跡してきた専門家らは、Xは市民団体や子どもの保護団体からの警告を無視してきたと話す。

「昨年8月、xAIの画像生成は本質的にヌード化ツールだと彼らに警告した。これが現実だ」と、ミダス・プロジェクトのエグゼクティブディレクター、タイラー・ジョンストン氏は語る。

性的搾取の防止に取り組むナショナル・センター法律部門のダニ・ピンター所長は、「完全に予測可能で、回避可能だった」と話す。ピンター氏は、XがAIの学習教材から虐待画像を削除することを怠ったとし、違法コンテンツを要求するユーザーを禁止すべきだったと指摘する。

ミュージシャンのユカリさんは反撃しようとした。しかし、彼女がXで違反行為に抗議すると「模倣犯」が殺到し、Grokにさらに露骨な写真の作成を依頼し始めた。

「誰からも見えなくなりたい。AIが生成したそもそも自分の体ですらないもののせいで、恥ずかしい思いをしている」