生成AI（人工知能）が作成した偽情報が拡散し、中国の上場企業の株価が下落する「事件」が起きた。5月24日午後、音声認識AIなどの開発を手がける科大訊飛（アイフライテック）の株価が、上場先の深圳証券取引所で急落。値下がり幅は（前日の終値比で）一時9％を超え、同日の終値は4.3％安で引けた。
株価急落のきっかけは、「科大訊飛の経営に重大リスクが出現したことへの警告文」と題した文書が（SNSなどを通じて拡散し）、投資家の話題をさらったことだった。
この文書は、「科大訊飛がユーザーの個人情報を大量に収集し、AIの研究開発に利用していたことが暴露された」と述べ、同社の行為は「ユーザーのプライバシーを著しく侵害するもので、強い不満と反発を招いた」と指摘。そのうえで、「この不祥事は科大訊飛に巨大な損失をもたらし、市場シェアの縮小や売上高の減少、将来の不確実性上昇などの問題を招くリスクがある」と、まことしやかな警告を発した。
ところが、事後の検証を通じて、この文書は生成AIにより自動作成されたものだったことが判明したのだ。
｢顔や声のなりすまし｣が増加
今回の事件に対して科大訊飛は、ウェブサイトの投資家向け情報ページを通じて次のようなコメントを発表した。
「大規模言語モデルを用いたAIで（故意に）偽情報を捏造するのは違法であり、法の裁きを受けなければならない。悪意のある誹謗中傷や偽情報の捏造により、わが社の名誉を毀損する者に対しては、法的手段を通じて会社と株主の利益を守る」
2023年に入って以降、「ChatGPT」に代表される生成AIは情報技術分野における話題を独り占めにしている。と同時に、一般市民の間でもAI技術に対する注目と関心が高まってきている。
そんななか、誰もが利用可能なAIアプリケーションを使い、別人のものに入れ替えた顔写真や声を偽造して、詐欺や誹謗中傷などの違法行為に及ぶケースが珍しくなくなってきた。
ネット関連企業の業界団体である中国互聯網協会は、AIを悪用した「顔や声のなりすまし」などにだまされないよう、市民に警戒と予防を呼び掛けている。
（財新記者：全月）
※原文の配信は5月24日
ログインはこちら