｢ChatGPT｣に浮かれる人が知らない恐ろしい未来 新井紀子氏｢非常に危険なものが生み出された｣

――そうなってくると、やはりAIをビジネスに用いる企業側にも高い倫理観が不可欠でしょうか？

グーグルのスンダー・ピチャイCEOはこうした副作用を理解したうえで、（AIチャットボットの）展開を抑えてきたんだと思うんですよ。Transformerを出しておきながら、何ができるかまで言わなかったのは、そういうことではないかと。

また例えばビル・ゲイツだったら「オフィス（Microsoft Office）革命」と社内に閉じた感じでとどめていたと思う。社内のデータに基づいて生産性向上するために、クローズドにChatGPTを活用するだけであればフェイクもフェイクじゃないも関係ないので。Bingに搭載して勝負をかける、という展開はやや意外でした。

今後、検索ページの右側画面にどのレベルまで(チャットボットの）技術を搭載するかという、メガテック同士のチキンレースになるでしょう。

さらに、物言う株主が何をできるかも焦点の1つです。

ネット上がChatGPTにジャックされる可能性

――ここでアクティビストが存在感を発揮するのですか？

民主主義でなくなったら、投資家も儲けられなくて困るわけですから。資本主義と民主主義を延命させることが、投資家にとってはすごく重要なんです。EUの立法を金銭的にも人的にも支援するのではないかと思います。

例えば、「ファクトを知る権利」のような法律を作り、こうした技術をビジネス展開するところにはファクトチェックのコストを負担させるとか。（ChatGPTが書いた文書かどうかを識別する）GPTZeroのような技術にも投資して、ChatGPTによって自動生成された文書に対してはアラートを表示するよう義務づけるとか。

著作権侵害で大量に訴訟を起こさせるとかが考えられますが、どれも短期的な時間稼ぎでしょうね。開いたパンドラの箱を閉じることはできませんから。

――正しくAIと向き合うためには、これからの教育の在り方も重要になってくると思います。教育分野について詳しい新井さんから見て、ChatGPT時代の教育はどのようになりそうでしょうか。

例えば試験の際、「何千字で書きなさい」という論述問題について、ChatGPTが回答した文章を配布します。それにリファレンス（出典）をつけるなど、時間内にファクトチェックさせてみたらどうでしょう。この未熟な技術を、自らが真に主人になって使いこなすとはどういうことなのか、ということを、身をもって感じてもらう必要があります。

ただ、ファクトチェックのために検索しても、ChatGPTが書いたものがヒットするかもわからない。ウィキペディアでもChatGPTが書けてしまう。ネット上がChatGPTにジャックされてしまったときには、もうどうしようもないかもしれません。そのとき、われわれは過去30年間享受してきた「ウェブ」という資源を失うことになるかもしれませんね。