｢ChatGPT｣に浮かれる人が知らない恐ろしい未来 新井紀子氏｢非常に危険なものが生み出された｣

これを見ていると、ケインズとミクロ経済学者の論争を思い出します。ミクロ経済学者が「市場に任せれば、本来的には調整される」と言うのに対し、ケインズは「長期的にわれわれは皆死ぬ」と言ったんですよ。一言で「長期的」といっても、どれだけ長期的なのかはわからない。

この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない。これは“民主主義への挑戦”でもあります。

――「民主主義への挑戦」によって、何が起こりうるのでしょうか。

新井 紀子（あらい・のりこ）／国立情報学研究所 社会共有知研究センター センター長・教授。一般社団法人教育のための科学研究所代表理事・所長。一橋大学法学部、米イリノイ大学数学科を卒業。イリノイ大学5年一貫制大学院を経て東京工業大学で理学博士号取得。『AI vs.教科書が読めない子どもたち』など。（撮影：梅谷秀司）

例えば、あるネットメディアがChatGPTに「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまいたとしましょう。

そうなってくると、人力のファクトチェックは追いつかない。AIも自分の中に「正しさ」を持っておらず、誤りを正すことができません。2024年のアメリカ大統領選はそういう中で行われることになる。

マイクロソフトやグーグルが「こういう意図では使いません」と言おうとも、別の組織はそれを悪用できます。このようにして生まれたフェイクニュースによって、根も葉もないデマで誰かが血祭りに上げられ、誤った政策誘導がされる――。オープンな形で技術が世に送り出された以上、そういったことを防ぐことができません。

このように、非常に危険なものが生み出されたことを受けて、短期的に私たちがどう向き合うかが今、問われているのです。

「ファクトこそが重要」という正義は通用するか

――マイクロソフトの検索エンジン「Bing」に新たに搭載されたチャット機能には、回答の出典を確認するよう注意喚起されています。しかし、SNSでは間違った受け答えが「すごい」ともてはやされるなど、人々がチェック作業を怠る状況に危機感を覚えます。

正しさを追求する人は、一般の人々の気持ちはいまいちわからないかもしれませんが、大多数の人々はファクトなんてどうでもいいかもしれない。

脳はとにかく楽をしたがる器官で、どうしても“タイパ”が良いほうに流れてしまう。検索の場合、結果がたくさん出てくるので、その中から情報を選ぶ必要があるじゃないですか。ChatGPTは答えを言ってくれるので、これを信じてしまえるなら、そのほうが楽でタイパがいい。そういう世の中で、「ファクトこそが重要だ」という正義は通りにくい。