話題の｢ChatGPT｣､そのすごさと″限界"のワケ 自然な会話ができるサービスが生まれた経緯

GPTで事前学習されているテキスト情報はネットからかき集められたものだが、そのテキストが必ずしも正しいとは限らない。思想的な偏りなどが混入する可能性ももちろんあるが、むしろそうした危険性を回避するため「安全性重視」で学習させていると、正解を見つけている場合にも「不正確であるかもしれない」前提に、曖昧な文章を生成してしまい、結果的にあまり役に立たない回答となる。

また人間は「一般常識」と「一般知識」を前提に会話を行うが、AIに一般常識はない。

これまでに説明したように、学習した結果、正しい選択肢である確率が高い言葉を選び、流暢な文章になるようデータ（文章の構成要素）を並べているだけで、AIはその意味を理解していないことに変わりはない。

ChatGPTでは強化学習で、そうした不完全な部分を補おうとしているが、知識を備えていない話題で人間が対話相手の思想や知識に引っ張られるように、AIは対話相手の人間が持っている知識（一般常識）を持たないまま、相手の言葉を鵜呑みにして学習してしまう。

ChatGPTは正解へとつながるためのヒントを、質問の中に散りばめることで、より目的の情報へと近づける特性を持っている。前提となっている当たり前のことを共有していない相手と会話することを意識し、あらかじめ答えの方向を絞り込むよう質問の中に条件を散りばめておくのだ。

「シゴトの道具」に使う方法

これは一般的なChatGPTとの対話を有益にするためのノウハウの一つだが、さらに会話を続けていても、なかなかその先の情報を絞り込めない。強化学習を意識した会話を続けていても、大きな壁を突破できる何かが短い期間で起きる予感はしない。

しかしマイクロソフトは、こうした限界を把握したうえでGPTを「シゴトの道具」に使う方法を模索し始めた。先日発表されたマイクロソフトの検索サービス「Bing」におけるチャット検索サービスやウェブブラウザー「Edge」の作成機能などがそれだ。

いずれはオフィス向けアプリケーションとサービスを集めた「Microsoft 365」をはじめ、さまざまなマイクロソフトの製品に応用が進み、またクラウドサービスであるAzureのAI処理への適応性を高めることになるだろう。

著者フォローすると、本田 雅一さんの最新記事をメールでお知らせします。