人工知能が絶対に勝てない人間の｢知的暴走｣ ｢適度に狂う機械｣の設計はおそらく困難だ

AIが感情を持つようになるということにも僕は懐疑的です。人間の感情はトラウマによって編制されているわけですけれど、トラウマというのは「それを核に感情が編制されているのだけれど、それが何であるかを言葉にできないもの」あるいは「それが何かを言うことができないがゆえに、人間の感情生活全体を支配している欠如」のことです。これもプログラムに書くことができない。

誤解している人が多いけれど、狂気というのは定型から逸脱することではなくて、定型的な妄想に釘付けにされてそこから出ることができないことを言うのです。逸脱できるのが正常で、定型にとどまるのが狂気なんです。だからもし人工知能に社会制度の管理運営を委ねるなら、機械が「適度に狂える」ようにしておかないといけない。でも、「許容範囲内ででたらめに作動する機械」を設計するのはずいぶん困難な仕事だと思います。

もちろん、めざましく進歩した領域はあります。翻訳がそうです。コンピューターの翻訳機能がさらに充実すると翻訳とか通訳とか不要になる可能性はあります。

かつては巨大な業績の作家や哲学者についてはコンコルダンス（語句集）の作成という大仕事がありました。どの語がどの本のどの頁にあるかを調べただけで学者になれた。今は一瞬で検索できるので、こういうタイプの研究は学術的には無意味になりました。たぶん学術分野でも人間にしかできない「知的暴走」だけが意味のあるものとして残ってゆくことになるでしょう。

設計者の無意識の悪意と恐怖

人間というのは不思議なもので、どれほど奔放な想像力を働かせても、結局は人間に似せて機械をつくります。今年の初めに「マルクスゆかりの地を訪ねるツアー」でリバプールの科学産業博物館に行ったときに産業革命時の紡織機械を見ました。これがね、もうエイリアンなんです。バイオメカノイド。機械に表情があって、それがすさまじく邪悪なんです。悪魔のような顔つきをしている。この機械がお前たち人間を奴隷化して、こき使い、食い潰すことになるのだという設計者の無意識の悪意と恐怖とが鉄の塊にそのまま投影されている。すごいですよ。

ラッダイトたちが紡織機械を破壊したという話を世界史で読んだときには、ただのテクノロジーに対する反発だと思っていましたけれど、実際に機械を見たら、あれは壊したくなります。設計者の邪悪な念がそのまま形を取っているんですから。AIが人間を凌駕することをテクノロジーの自然過程として語る人たちは、人間を奴隷化する紡織機械を設計していた産業革命のときの技術者と同種の悪意をひそかに抱いているんだと思います。「お前たちは機械の奴隷になるんだ」という無意識の悪意を僕は感じます。

AIが麻雀で勝てるかどうか、それが1つの分岐点でしょうね。麻雀で必勝するAIが出来たら、僕はちょっと尊敬します。麻雀には最適解がないから。悪手でも失着でも計算違いでも勝つときは勝つ。下手でも、ルールを知らないやつでも勝つときは勝つ。そこが将棋やチェスと違うところです。人生は将棋より麻雀に近いんじゃないかな。

（構成: 今尾直樹）