世を騙し｢1日で500万円｣を荒稼ぎした男の告白 フェイクニュースは今や選挙や株価を左右する

実は、電話の声は、CEOの音声データを元にAIが作り出した「フェイク音声」だったのです。こうした事件は、イギリスに限らず、アメリカでも報告されていました。分析を行ったのは、アメリカのノートン社。すでにアメリカで3件、同様の事件が報告されています。そのうちの1つは、被害総額1000万ドル。そこまで精巧なフェイク音声はどのように作られたのか。

まんまとフェイク音声に騙されてしまった（写真：NHK）

分析官のサウラボ・シャントレイさんは、私たちの目の前で、フェイク音声を作ってみせてくれました。あるアプリに文字を入力すると、その場ですぐに、ターゲットの人物の音声が生成されたのです。こうしたアプリのプログラムは、ネットで誰でもダウンロードできると言います。

「インターネットに、少しでも音声のデータがあれば、世界中に住むどんな人の音声も作ることができてしまいます。映像と音声は、人類の歴史の中でも、信頼できるソースとして使えるものだと思われてきましたが、もはや、あなたが耳に聞こえるもの、見るものは、現実のものではないかもしれません」

フェイクは株価も動かす

そして、フェイクは株価をも大きく動かしかねません。同じく昨年イギリスでは、1つのフェイクが、銀行経営に大きなダメージを与えました。

「銀行は経営難で、倒産するかもしれない」「口座からお金を引き上げたほうがいい」

これがSNSで拡散、すると、銀行前には長蛇の列ができました。当時、現場でその様子を目撃した人物に状況を聞くことができました。「本来なら誰もいないはずの、土曜の午後という時間帯に、すごい人だかりでびっくりした。カウンターでは多額の現金を出している人もいて、銀行が破綻すると、みんな口々に言っていました」

銀行はこれを受け、「倒産する事実はない」と、フェイクを打ち消しました。しかし、週末、市場が開くと、株価は大きく値を下げることになりました。

フェイクが経済に与える影響を心配する声は、日に日に高まっています。リスクコンサルティング会社のkrollが行った調査では、フェイクによって市場操作が起きる恐れがあると感じるビジネスマンは6割にのぼっています。

東京証券取引所の職員はSNSを監視しているNHKスペシャル「デジタルVSリアル」第1回「フェイクに奪われる“私”」は4/5(日)夜9:00～9:49、第2回「さよならプライバシー」は4/12(日) 夜9:00～9:49にそれぞれNHK総合で放送予定（写真：NHK）

こうした状況を鑑みて、日本でも対策が始まっています。東京証券取引所では、フェイクによる市場操作が起きていないか、SNSの監視を強化し始めています。さらには、審査にAIも導入し始めています。売買審査部の宮野満さんは、日本ではまだ具体的な被害が起きていない一方で、これから起きる可能性は大いにあるとして、危機感を募らせています。

「怪しい文書が兜町界隈で広がったことはあったのですが、SNSになると当然日本全国あるいは世界どこからでも書き込みができる、匿名性も非常に高い。しかも非常に気軽に誰でも行える、数も非常に多いということで、SNSによるいろいろな書き込みの脅威は昔に比べて比較にならないほど、増えてきていると考えています」