｢ChatGPT｣に浮かれる人が知らない恐ろしい未来 新井紀子氏｢非常に危険なものが生み出された｣

ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました。全部を入力するとモデリングに失敗するので、正確には、「8世紀から19世紀までの時期におけるトルキスタンの歴史的展開について記述せよ。ただし、次のキーワードを使うこと。アンカラの戦い、カラハン朝、乾隆帝、宋、トルコ＝イスラーム文化、バーブル、ブハラ・ヒヴァ両ハン国、ホラズム朝」と入力したところ、次のような出力が戻ってきました。

すごく滑らかです。「この時期には」のような、いかにも人間が書きそうなことを、なかなか東ロボくんは書けませんでした。

でも、この答えは嘘ばかり。まずバーブルは15世紀生まれなので、13世紀にトルキスタンを征服することはできません。また、（9世紀ごろにトルコ系民族のウイグルが定住するようになった）トルキスタンの歴史が「古代から根を張っており」という表現もおかしい。

スルッと頭に入ってきてしまうので、ファクトチェックがものすごく大変なんです。英語でも試してみましたが、ほぼ同じ解答でした。

そして、「トルキスタンはカラハン朝によって統治されました。カラハン朝は中国の宋朝との貿易関係を築き」という文章に至っては、今も真偽がわかりません。山川出版社の教科書やウィキペディアなど、どこを調べてもそんなこと書いていない。嘘かもしれないけど、「もしかすると最先端の歴史学か何かで、新事実が発見されたのかも」と、人間の信念が揺らいでしまう。

ちなみに、代々木ゼミナールの世界史の先生方に採点を依頼したところ、「0点」というお返事がありました。「部分点を与えられる箇所がまったくないので驚いた」とのことでした（「〇世紀」の部分がすべて間違っている。問題で8つの指定語句を使うように命じているにもかかわらず、6つしか使っていないなど）。

進化したAIに対する「2つの論調」

――このようなAIと、社会はどのように向き合えば良いのでしょうか。

こういう話は、だいたい2つの論調に分かれます。

「このようなテクノロジーは、破壊的で悪いものだ」という考え方と、「今はまだ発展途上の面もあるが、近い将来に完全なものとなる。揚げ足を取るのではなく、長期的に得られる恩恵について目を向けるべきだ」という考え方です。