生成AIが｢会話を理解している｣と感じる納得理由 現時点でAIができることと､できないこと

やり取りを終えた後で、審査員が人間と機械を区別することができなければ、その機械は「人間並みの知能を持っている」と判断する。これがチューリングテストです。

この判断は妥当なものでしょうか？ 代表的な反論が、アメリカの哲学者ジョン・サールが提唱した「中国語の部屋」と呼ばれる思考実験です。

英語は理解できるが、中国語はわからない人間が、ある部屋にいます。その部屋には、「こういう文字列に対しては、こういう文字列を返せ」という完璧なマニュアルがあります。その部屋に中国語で書いた質問を入れると、なかにいる人は、意味はまったくわからないものの、マニュアルに従って、中国語で書いた回答を返します。これを部屋の外から見れば、「部屋のなかには中国語が理解できる人がいる」と解釈するでしょう。

つまり、やり取りができるからといって理解しているわけではないという、チューリングテストへの反論です。

生成AIは「中国語の部屋」と近い性質

生成AIは「中国語の部屋」と近い性質を持っています。生成AIは、確率に基づいて、それらしい言葉を順番に並べることで文章を生成しているだけです。

『アフターChatGPT 生成AIが変えた世界の生き残り方 』（PHPビジネス新書）。書影をクリックするとAmazonのサイトにジャンプします

本当に何もない無の状態から新しいアイデアを創造することは、AIにはまだできていません。いくらディープラーニングが人間の脳の仕組みを真似し、計算や認識などいくつかの分野で人間より得意なものが出てきているとはいえ、全領域でAIが人間を超えるシンギュラリティ（技術的特異点）を煽るのは、煽ることによって得をする批評家やメディアたちでしょう。ビジネスなど実務に携わる人たちは地に足がついた理解をしなければなりません。

生成AIはこれからも進化していき、間違った回答をしたりすることも減っていくでしょう。しかしそれでも、非常に優秀なアシスタントにはなっても、人間に代わる存在になると考えるのは時期尚早です。