「AI美女が荒稼ぎ」独身の中国人男性たちが陥る沼 ミス東大でも注目、ディープフェイクのいま

著者フォロー
ブックマーク

記事をマイページに保存
できます。
無料会員登録はこちら
はこちら

印刷ページの表示はログインが必要です。

無料会員登録はこちら

はこちら

縮小

新技術が登場すると、すぐに悪用例が出るのも中国のお決まりで、2023年5月末には、AIによる顔交換技術を使って有名人になりすまし、中国のライブコマース・プラットフォームで商品を紹介する行為が横行していると、 国営テレビ局が注意を呼びかけた。

顔交換モデル一式は3万5000元(約70万円)で購入でき、リアルタイムで表情などを変化させることも可能だという。

AIを開発する資金力と技術力がない企業・個人向けにこうした著名人顔交換モデルが販売されている。この手法には著作権や肖像権侵害の疑いがあり、消費者にAIを使っていると告知していなければディープフェイクに該当する。

2023年8月に規制が施行された

技術の普及、悪用だけでなく規制も早かった。

中国のサイバー空間規制当局である国家インターネット情報弁公室は2023年1月、ディープフェイクを利用した偽情報の発信などを禁止する規定を施行し、AIによる合成技術を使った画像や音声、動画をサービスとして提供する場合、その旨を明示することを義務付けた。

中国版TikTok「抖音」は2023年5月、生成AI、ディープフェイクなどを使ったコンテンツ配信のルールを公表、配信者にはAIを使用していることの明記、コンプライアンスの順守などを求めた。中国版インスタグラム「小紅書(RED)」は、AI技術を使ったと推定される投稿に運営会社がラベルを加えている。

2023年8月には、主要国で初めてとなる生成AIの本格的な規制である「生成AIサービス管理弁法」が施行された。

同弁法は生成AIを手掛ける企業向けのルールを定めるもので、中国国内に向けてサービスを提供する生成AIコンテンツに、「社会主義核心価値観(中国共産党が提唱する価値観で、「富強」や「愛国」をはじめ12の言葉からなる)の反映」を求めているほか、わいせつ・ポルノ情報、虚偽情報を含む内容を禁止し、知的財産権やプライバシーの保護についても言及した。

ただ、強力な罰則がなければ、これらの規制は大して機能しないかもしれない。前述したAI美女ライバーたちも、多くは自身がAIであると認めていない。運営会社や専門家がそう推測しているだけであって、実際には運営会社のフィルタリングを潜り抜けている投稿も多い。

YouTubeも2024年3月、生成AIなどを利用して改変や合成がなされたリアルな動画について、その旨を明記するよう義務付けると発表したが、実効性には疑問が残る。冒頭で紹介した生成AIで作成された可能性のある「ミス東大」を名乗る「雪乃なぎさ」のYouTubeアカウントは3月中ごろに停止されたが、3月21日に別アカウントが開設され、これまで同様、いや、さらに過激な投稿を再開している。

浦上 早苗 経済ジャーナリスト

著者をフォローすると、最新記事をメールでお知らせします。右上のボタンからフォローください。

うらがみ さなえ / Sanae Uragami

早稲田大学政治経済学部卒。西日本新聞社を経て、中国・大連に国費博士留学および少数民族向けの大学で講師。2016年夏以降東京で、執筆、翻訳、教育など。中国メディアとの関わりが多いので、複数媒体で経済ニュースを翻訳、執筆。法政大学MBA兼任講師(コミュニケーション・マネジメント)。新書に『新型コロナVS中国14億人』(小学館新書)。
X: https://twitter.com/sanadi37
Facebook: https://www.facebook.com/sanae.uragami
公式サイト: https://uragami-sanae.jimdosite.com/
 

この著者の記事一覧はこちら
ブックマーク

記事をマイページに保存
できます。
無料会員登録はこちら
はこちら

印刷ページの表示はログインが必要です。

無料会員登録はこちら

はこちら

関連記事
トピックボードAD
政治・経済の人気記事