｢πが3.14より大きい理由は｣ChatGPTの驚愕回答 警告！ChatGPTで学習すると起きるヤバい事態

実は、ChatGPTと同じ問題は、すでに起っている。メタが2022年11月に発表したGalacticaは、4800万件の科学論文を学習しており、科学的な質問に答えたり、文献調査ができるとされていたのだが、実際には、デタラメな内容が含まれているとして批判が相次ぎ、わずか2日で公開中断に追い込まれた。

いまChatGPTで起きているのも、それと同じことなのだが、Galacticaのように問題視されないのは、不思議なことだ。

プラグインでも解決できない

ChatGPTの側においても、さまざまな対応策が考えられている。第一は、ウェブの検索を可能にすることだ。

まず、2023年5月から、有料版であるGPT-4にBingが内蔵され、最新情報も扱えるようになった。しかし、有料サイトも閲覧できるという利用者からの報告があり、このサービスは7月3日に停止された。問題が解決し次第、復旧するとしているが、今のところ休止されたままになっている。

もう1つは、プラグインサービスの提供だ。これはサードパーティーが開発したさまざまなアプリをChatGPTにプラグインして利用するもので、5月からGPT-4の全ユーザーに解禁された。

この中には次のようなものもあり、ハルシネーションの問題の解決に役立つのではないかと期待されていた。第一に、学術的な内容に対して答えるWolfram、第二に、ウェブの記事に接続するWebPilot。

しかし、これによって事態が改善されたかというと、そうはいえない。私が実験した限りでは、前述したような問題は依然として残っている。

今後、さまざまな改善策がなされていくだろうし、ChatGPT本体の性能も向上するだろう。ただし、現状では、ハルシネーションの問題は解決されていないことに注意が必要だ。教育現場におけるChatGPTの利用に関しては、この点に十分の注意を払う必要がある。

この連載の一覧はこちら

著者フォローすると、野口 悠紀雄さんの最新記事をメールでお知らせします。