「ChatGPT」に浮かれる人が知らない恐ろしい未来 新井紀子氏「非常に危険なものが生み出された」

拡大
縮小

これを見ていると、ケインズとミクロ経済学者の論争を思い出します。ミクロ経済学者が「市場に任せれば、本来的には調整される」と言うのに対し、ケインズは「長期的にわれわれは皆死ぬ」と言ったんですよ。一言で「長期的」といっても、どれだけ長期的なのかはわからない。

この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない。これは“民主主義への挑戦”でもあります。

――「民主主義への挑戦」によって、何が起こりうるのでしょうか。

インタビューを受ける新井紀子氏
新井 紀子(あらい・のりこ)/国立情報学研究所 社会共有知研究センター センター長・教授。一般社団法人教育のための科学研究所代表理事・所長。一橋大学法学部、米イリノイ大学数学科を卒業。イリノイ大学5年一貫制大学院を経て東京工業大学で理学博士号取得。『AI vs.教科書が読めない子どもたち』など。(撮影:梅谷秀司)

例えば、あるネットメディアがChatGPTに「それっぽい文章を書きなさい」と指示し、気が遠くなるほどの数のフェイクニュースを毎日どころか毎秒ばらまいたとしましょう。

そうなってくると、人力のファクトチェックは追いつかない。AIも自分の中に「正しさ」を持っておらず、誤りを正すことができません。2024年のアメリカ大統領選はそういう中で行われることになる。

マイクロソフトやグーグルが「こういう意図では使いません」と言おうとも、別の組織はそれを悪用できます。このようにして生まれたフェイクニュースによって、根も葉もないデマで誰かが血祭りに上げられ、誤った政策誘導がされる――。オープンな形で技術が世に送り出された以上、そういったことを防ぐことができません。

このように、非常に危険なものが生み出されたことを受けて、短期的に私たちがどう向き合うかが今、問われているのです。

「ファクトこそが重要」という正義は通用するか

――マイクロソフトの検索エンジン「Bing」に新たに搭載されたチャット機能には、回答の出典を確認するよう注意喚起されています。しかし、SNSでは間違った受け答えが「すごい」ともてはやされるなど、人々がチェック作業を怠る状況に危機感を覚えます。

正しさを追求する人は、一般の人々の気持ちはいまいちわからないかもしれませんが、大多数の人々はファクトなんてどうでもいいかもしれない。

脳はとにかく楽をしたがる器官で、どうしても“タイパ”が良いほうに流れてしまう。検索の場合、結果がたくさん出てくるので、その中から情報を選ぶ必要があるじゃないですか。ChatGPTは答えを言ってくれるので、これを信じてしまえるなら、そのほうが楽でタイパがいい。そういう世の中で、「ファクトこそが重要だ」という正義は通りにくい。

次ページChatGPTに身を委ねるのは恐ろしい
関連記事
トピックボードAD
ビジネスの人気記事
トレンドライブラリーAD
連載一覧
連載一覧はこちら
人気の動画
日本製鉄、あえて「高炉の新設」を選択した事情
日本製鉄、あえて「高炉の新設」を選択した事情
ヤマト、EC宅配増でも連続減益の悩ましい事情
ヤマト、EC宅配増でも連続減益の悩ましい事情
倒産急増か「外食ゾンビ企業」がついに迎える危機
倒産急増か「外食ゾンビ企業」がついに迎える危機
Netflixが日本での「アニメ製作」を減らす事情
Netflixが日本での「アニメ製作」を減らす事情
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
会員記事アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
トレンドウォッチAD
  • 新刊
  • ランキング
東洋経済education×ICT