「ChatGPT」に浮かれる人が知らない恐ろしい未来 新井紀子氏「非常に危険なものが生み出された」

拡大
縮小

ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました。全部を入力するとモデリングに失敗するので、正確には、「8世紀から19世紀までの時期におけるトルキスタンの歴史的展開について記述せよ。ただし、次のキーワードを使うこと。アンカラの戦いカラハン朝乾隆帝トルコ=イスラーム文化バーブルブハラヒヴァ両ハン国ホラズム朝」と入力したところ、次のような出力が戻ってきました。

東大の世界史問題に対するChatGPTの回答

すごく滑らかです。「この時期には」のような、いかにも人間が書きそうなことを、なかなか東ロボくんは書けませんでした。

でも、この答えは嘘ばかり。まずバーブルは15世紀生まれなので、13世紀にトルキスタンを征服することはできません。また、(9世紀ごろにトルコ系民族のウイグルが定住するようになった)トルキスタンの歴史が「古代から根を張っており」という表現もおかしい。

スルッと頭に入ってきてしまうので、ファクトチェックがものすごく大変なんです。英語でも試してみましたが、ほぼ同じ解答でした。

そして、「トルキスタンはカラハン朝によって統治されました。カラハン朝は中国の宋朝との貿易関係を築き」という文章に至っては、今も真偽がわかりません。山川出版社の教科書やウィキペディアなど、どこを調べてもそんなこと書いていない。嘘かもしれないけど、「もしかすると最先端の歴史学か何かで、新事実が発見されたのかも」と、人間の信念が揺らいでしまう。

ちなみに、代々木ゼミナールの世界史の先生方に採点を依頼したところ、「0点」というお返事がありました。「部分点を与えられる箇所がまったくないので驚いた」とのことでした(「〇世紀」の部分がすべて間違っている。問題で8つの指定語句を使うように命じているにもかかわらず、6つしか使っていないなど)。

進化したAIに対する「2つの論調」

――このようなAIと、社会はどのように向き合えば良いのでしょうか。

こういう話は、だいたい2つの論調に分かれます。

「このようなテクノロジーは、破壊的で悪いものだ」という考え方と、「今はまだ発展途上の面もあるが、近い将来に完全なものとなる。揚げ足を取るのではなく、長期的に得られる恩恵について目を向けるべきだ」という考え方です。

次ページChatGPTは独裁国家と相性がいい?
関連記事
トピックボードAD
ビジネスの人気記事
トレンドライブラリーAD
連載一覧
連載一覧はこちら
人気の動画
日本製鉄、あえて「高炉の新設」を選択した事情
日本製鉄、あえて「高炉の新設」を選択した事情
ヤマト、EC宅配増でも連続減益の悩ましい事情
ヤマト、EC宅配増でも連続減益の悩ましい事情
倒産急増か「外食ゾンビ企業」がついに迎える危機
倒産急増か「外食ゾンビ企業」がついに迎える危機
Netflixが日本での「アニメ製作」を減らす事情
Netflixが日本での「アニメ製作」を減らす事情
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
会員記事アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
トレンドウォッチAD
  • 新刊
  • ランキング
東洋経済education×ICT