実は、ChatGPTと同じ問題は、すでに起っている。メタが2022年11月に発表したGalacticaは、4800万件の科学論文を学習しており、科学的な質問に答えたり、文献調査ができるとされていたのだが、実際には、デタラメな内容が含まれているとして批判が相次ぎ、わずか2日で公開中断に追い込まれた。
いまChatGPTで起きているのも、それと同じことなのだが、Galacticaのように問題視されないのは、不思議なことだ。
プラグインでも解決できない
ChatGPTの側においても、さまざまな対応策が考えられている。第一は、ウェブの検索を可能にすることだ。
まず、2023年5月から、有料版であるGPT-4にBingが内蔵され、最新情報も扱えるようになった。しかし、有料サイトも閲覧できるという利用者からの報告があり、このサービスは7月3日に停止された。問題が解決し次第、復旧するとしているが、今のところ休止されたままになっている。
もう1つは、プラグインサービスの提供だ。これはサードパーティーが開発したさまざまなアプリをChatGPTにプラグインして利用するもので、5月からGPT-4の全ユーザーに解禁された。
この中には次のようなものもあり、ハルシネーションの問題の解決に役立つのではないかと期待されていた。第一に、学術的な内容に対して答えるWolfram、第二に、ウェブの記事に接続するWebPilot。
しかし、これによって事態が改善されたかというと、そうはいえない。私が実験した限りでは、前述したような問題は依然として残っている。
今後、さまざまな改善策がなされていくだろうし、ChatGPT本体の性能も向上するだろう。ただし、現状では、ハルシネーションの問題は解決されていないことに注意が必要だ。教育現場におけるChatGPTの利用に関しては、この点に十分の注意を払う必要がある。
