ChatGPT台頭も｢AIは人間を超えない｣3つの理由 ｢知能｣と｢知性｣を混同した議論がなされている

AIが進化し、人間の知能／知性を超えていくというのがシンギュラリティと呼ばれる未来予測ですが、私は答えのある問いについてAIが超高速に回答できたり、AI同士が学習しあって論理的網羅的に分析したりすることはできても、最終的なその回答を評価することや、正しい問いそのものを設定することは、その意味を理解したうえで考える「知性」を持ちあわせた人間にしかできないと考えています。

また人工知能は、科学的発見には欠かせない批判的思考（Critical Thinking）を行うことができません。常識に疑いを持ち、懐疑的批判的思考でまったく違った問いを立てた科学者や思想家だけが真実にたどり着くことができます。

地球は太陽の周りを回っている、人類は類人猿の子孫である、物質はエネルギーに変換できる、これまでの科学の発見はその当時の人々の常識的な集合知からは、かけ離れたものでしたが、AIによる〝現時点での集合知〞の答えで満足する思考習慣がつくと、革命的なアイデアや思考は排除されていく可能性があります。

最後に、多様な価値観が伴い正解のない道徳や倫理観を伴う質問についてAIは回答することができません。サービスのスタート当時、ChatGPT（GPT-3.5）にトランプ前大統領を褒めたたえる詩を依頼すると拒否され、他の政治家の場合は受け入れたことがあり、AIが政治的に中立かどうかが話題になりました。

OpenAIではGPT-4のリリースに向けて、安全性を評価するために50人超の専門家らを含むチームを結成し、AIのさまざまなリスクを評価し、「有害な内容」「情報操作」「過度の依存」「プライバシー」「経済活動への影響」など、さまざまな観点から危険な影響を与える回答を回避するようにチューニングを実施してきたとされています。