人工知能が絶対に勝てない人間の｢知的暴走｣ ｢適度に狂う機械｣の設計はおそらく困難だ
グレゴリー・ベイトソンの本の中に人工知能についての印象深い小話があります。世界最大のコンピューターが完成して、そこに科学者が最初の問いを打ち込みました。「マシンは人間と同じように思考しうるのか？」という問いです。1950年代の本なので、巨大電子計算機はテープにプリントアウトで回答します。そこにはこう書かれていました。「That reminds me of a story」。話はそこで終わり。
マシンは「マシンは思考できるか？」という問いに、答えではなく「そういえばこんな話を思い出した」と応じました。それが人間の知性の構造だということです。
この答えの深いところは主語のthatは文法的には「前段の内容を承ける」という漠然としたものなので「何が」その「話」を思い出すきっかけになったのか（マシンにも人間にも）わからないということです。
僕たちが何かがきっかけでふと「こんな話を思い出した」というとき、その話は別に僕の記憶のアーカイブにそのようなかたちで収蔵されていたわけじゃない。あることが「きっかけ」でその場で創造された話です。自分がすっかり忘れていた記憶や、あいまいな伝聞情報や、支離滅裂な夢や妄想の断片がふっと結びついて1つの「お話」ができた。それは現在の僕が過去を編集してできた「作品」なわけです。だから、別のthatが出てくればまた別の「お話」を僕は思い出す。
人間の「知的暴走」
僕たちは過去を遡行的に再構成します。過去の記憶は手つかずのまま脳内にストックされているわけじゃなくて、今ここで創られている。人間の知性の特徴は時間を逆行して、自分に過去に入力されたデータを創造することができる点にあります。経験しなかったこと、知らなかったことを、自分の経験や知識として思い出せる。僕たちは、そのつどの入力に応じて、自分が何ものであるかについての模造記憶を編集する。そのために時間の中を自由に行き来する。でも、AIにはそれができない。AIは無時間モデルだからです。AIは、地平線の果てまで拡がっている無尽蔵のデータを一瞬ですべて走査できる。水平方向には自在に動ける。でも、垂直方向には動けない。存在しないデータを思い出したり、存在するデータを忘却することはできない。そこが人間知性との違いです。
人間知性は「暴走する」ことができる。「暴走」というのはいつどこで何が起こるか予見できないから「暴走」というのです。暴走を制御したり、暴走をプログラムすることは原理的に不可能です。
