生成AIの｢偽リスク情報｣で中国企業の株価急落 ｢顧客の個人情報を大量収集｣との怪文書が拡散

科大訊飛は生成AIが作成したネガティブ情報を流され、株価が急落した（写真は同社ウェブサイトより）

生成AI（人工知能）が作成した偽情報が拡散し、中国の上場企業の株価が下落する「事件」が起きた。5月24日午後、音声認識AIなどの開発を手がける科大訊飛（アイフライテック）の株価が、上場先の深圳証券取引所で急落。値下がり幅は（前日の終値比で）一時9％を超え、同日の終値は4.3％安で引けた。

株価急落のきっかけは、「科大訊飛の経営に重大リスクが出現したことへの警告文」と題した文書が（SNSなどを通じて拡散し）、投資家の話題をさらったことだった。

この文書は、「科大訊飛がユーザーの個人情報を大量に収集し、AIの研究開発に利用していたことが暴露された」と述べ、同社の行為は「ユーザーのプライバシーを著しく侵害するもので、強い不満と反発を招いた」と指摘。そのうえで、「この不祥事は科大訊飛に巨大な損失をもたらし、市場シェアの縮小や売上高の減少、将来の不確実性上昇などの問題を招くリスクがある」と、まことしやかな警告を発した。

ところが、事後の検証を通じて、この文書は生成AIにより自動作成されたものだったことが判明したのだ。

｢顔や声のなりすまし｣が増加

今回の事件に対して科大訊飛は、ウェブサイトの投資家向け情報ページを通じて次のようなコメントを発表した。

「大規模言語モデルを用いたAIで（故意に）偽情報を捏造するのは違法であり、法の裁きを受けなければならない。悪意のある誹謗中傷や偽情報の捏造により、わが社の名誉を毀損する者に対しては、法的手段を通じて会社と株主の利益を守る」

2023年に入って以降、「ChatGPT」に代表される生成AIは情報技術分野における話題を独り占めにしている。と同時に、一般市民の間でもAI技術に対する注目と関心が高まってきている。

本記事は「財新」の提供記事です

そんななか、誰もが利用可能なAIアプリケーションを使い、別人のものに入れ替えた顔写真や声を偽造して、詐欺や誹謗中傷などの違法行為に及ぶケースが珍しくなくなってきた。

ネット関連企業の業界団体である中国互聯網協会は、AIを悪用した「顔や声のなりすまし」などにだまされないよう、市民に警戒と予防を呼び掛けている。

（財新記者：全月）
※原文の配信は5月24日

著者フォローすると、財新 Biz＆Techさんの最新記事をメールでお知らせします。