ChatGPT台頭も｢AIは人間を超えない｣3つの理由 ｢知能｣と｢知性｣を混同した議論がなされている

20世紀のアメリカの未来科学者ロイ・チャールズ・アマラの「私たちは短期的にはテクノロジーの効用を過大評価し、長期的には過小評価する傾向にある」という提言は、アマラの法則として有名です。

私は、AIが大規模言語モデルによって新しい段階に入り、人間の知的生産活動を代替していくことは確実であり、その社会的影響は大きいと思います。しかし、AIが感情を持ち、人間の知能／知性を超え、人間の知能／知性のすべてを代替するということはかなり難しいと考えています。

人間以下の知能で、より少ない感覚情報で活動している動物も、何らかの感情を持っています。感情や意識、さらには意思を持つかどうかのポイントは、アルゴリズムの複雑さや扱う情報の総量ではなく（チェイター教授によるとそもそも単体での「深い思考」などないのです！）、少ない情報でもそれを「統合する」、生命としての自律的な身体システムをもっているか否かです。

私たちは身体システムを維持するためのホメオスタシス（恒常性）があることから、さまざまな内的外的情報に反応した感情や意識が生まれ、その情報の自分にとっての「意味」を考えます。

また、生物は自分の身体を内側の視点から自律的に作り上げます。生命の本質はこの自律性（Autonomy）であり、自律的だからこそ、個別の存在にとっての意味（快や不快、好き嫌い、善悪など）を持つのです。

さらに社会的動物である私たちは、仲間や社会にとっての「意味」も考え、生存のための周辺環境をより良くしようと努力します（人類愛、地球善など）。

AIはまったく新しい発想をゼロから生み出せない

それに対して機械は他律的であり、外側の視点に立つ設計者やプログラマーの指示で作動します。人間の関与なしに自律的に攻撃目標を設定することができる自律型致死兵器システムなども議論されていますが、それらはあくまで人間のプログラミングに基づく疑似的な自律性です。

身体システムを持たず意識のないAIやロボットには、情報をプログラム通りに処理することはできますが、自分にとっての「意味」を理解できません。言語生成AIにおいても、単語の組み合わせから次に来る確率の高い単語を推測して文章を生成しているにすぎません。

人工知能は、過去のデータから答えを効率的に導き出したり、さまざまなパターンを組み合わせることで新しい情報や表現などを「提示」することはできますが、まったく新しい発想やひらめきをゼロから生み出すことはできません。