｢ChatGPT｣に浮かれる人が知らない恐ろしい未来 新井紀子氏｢非常に危険なものが生み出された｣
これを見ていると、ケインズとミクロ経済学者の論争を思い出します。ミクロ経済学者が「市場に任せれば、本来的には調整される」と言うのに対し、ケインズは「長期的にわれわれは皆死ぬ」と言ったんですよ。一言で「長期的」といっても、どれだけ長期的なのかはわからない。
この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない。これは“民主主義への挑戦”でもあります。
――「民主主義への挑戦」によって、何が起こりうるのでしょうか。
例えば、あるネットメディアがChatGPTに「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまいたとしましょう。
そうなってくると、人力のファクトチェックは追いつかない。AIも自分の中に「正しさ」を持っておらず、誤りを正すことができません。2024年のアメリカ大統領選はそういう中で行われることになる。
マイクロソフトやグーグルが「こういう意図では使いません」と言おうとも、別の組織はそれを悪用できます。このようにして生まれたフェイクニュースによって、根も葉もないデマで誰かが血祭りに上げられ、誤った政策誘導がされる――。オープンな形で技術が世に送り出された以上、そういったことを防ぐことができません。
このように、非常に危険なものが生み出されたことを受けて、短期的に私たちがどう向き合うかが今、問われているのです。
「ファクトこそが重要」という正義は通用するか
――マイクロソフトの検索エンジン「Bing」に新たに搭載されたチャット機能には、回答の出典を確認するよう注意喚起されています。しかし、SNSでは間違った受け答えが「すごい」ともてはやされるなど、人々がチェック作業を怠る状況に危機感を覚えます。
正しさを追求する人は、一般の人々の気持ちはいまいちわからないかもしれませんが、大多数の人々はファクトなんてどうでもいいかもしれない。
脳はとにかく楽をしたがる器官で、どうしても“タイパ”が良いほうに流れてしまう。検索の場合、結果がたくさん出てくるので、その中から情報を選ぶ必要があるじゃないですか。ChatGPTは答えを言ってくれるので、これを信じてしまえるなら、そのほうが楽でタイパがいい。そういう世の中で、「ファクトこそが重要だ」という正義は通りにくい。
