警告｢ChatGPTを信じる人｣が破滅する明快な理由 生成系AIは使い方によっては有害になりうる

では、信頼できる情報源を示せば、そこにある統計データを見やすい形で示してもらえるだろうか？

実験として、「総務省の消費者物価統計に基づいて、生鮮食料品を除く総合指数の対前年同月比を、2022年1月から利用可能な最近の時点まで、毎月示してほしい」とBingに依頼した。

この時点で2023年4月までのデータは公表されていたのだが、最初、Bingは2022年10月までしか示さなかった。「最近のデータを示せ」と言っても、2023年2月までしか示さず、しかも、統計局のデータではなくNHKのデータ（つまり、2次データ）を使っている。さらに、最初に示したものと食い違ったデータだ。

そこで、「すでに4月まで公表されている」と指摘したところ、4月までのデータを示した。しかし、誤ったデータだった。

そこで、もっと厳密に、つぎのように指示した。「総務省統計局「消費者物価指数（CPI）結果」https://www.stat.go.jp/data/cpi/1.htmlの最新のデータを参照して、つぎの問いに答えてください。生鮮食料品を除く総合指数の対前年同月比を、2022年1月から利用可能な最近の時点まで、毎月、表の形で示してください」。

これでも、間違った数字が出てきた（速報値を参照しているようだ）。

一言で言えば「惨憺たる結果」としか言いようがない。

生成系AIの利用可能性はかなり限定的

このように、生成系AIの利用可能性は、多くの人が漠然と考えているよりも、ずっと限定的なのだ。日本政府はAIの利用に積極的だが、ニューヨークの弁護士と同じような失敗を犯さないか、あるいはもっと深刻な事故を引き起こさないかと心配だ。

EBPM（エビデンス・ベースト・ポリシー・メイキング：統計データなどの科学的根拠に基づいて政策判断などを行うこと）が重要と言われる。まったくそのとおりだが、生成系AIは、この目的に役立たないどころか、有害であることを、正しく認識すべきだ。

重要なのは、どこに信頼すべきデータがあるかを知っていることだ。私はこの問題について長年悩まされ、調べ続けてきたので、その結果をつぎのように、リンク集として公開している。https://note.com/yukionoguchi/n/n26b5d2e32bdb?magazine_key=m01337d47aa4d

是非、ご利用いただきたい。