人間は自ら望んで｢AIの家畜｣になるのか 尊厳と制度で考える｢近代｣と｢ポストモダン｣

斎藤：おっしゃる懸念はよくわかります。僕らは四六時中、理性的にものを考えられるわけではなく、むしろかなりの時間は半ば動物的に行動しているわけですよね。とすれば、儲けたい側は、その動物的な行動習性を利用してモノやサービスを買わせようと考える。つまり、買ってるつもりで買わされている、選んでいるつもりが選ばされているような制度ができてしまうのではないか、というお話だと思います。

今のビッグデータを使ったAIって、人間の写し鏡だと思うんですよね。例えば、アメリカでは、マイクロソフトのAIが急に人種差別の発言をしたとか、日本のAIはオタク的なことを言うといったニュースがずいぶん前にありましたよね。あるいは、過去の採用実績をビッグデータとしてAIに取り込んだら、非常に男性優位の採用になってしまったという事例もありました。

結局、ビッグデータの素材が人間の行動ならば、人間の持っているバイアスや偏見がそのままAIにも反映されてしまうわけです。さらに言えば、人間とAIとの相互作用によって、それはもっと増幅されてしまうかもしれない。そう考えたときに、人間の理性や感情が劣化したら、AIだろうが制度だろうが、それに見合ったものにしかならないんじゃないですかね。

人間が劣化したAIになりうる危機

斎藤：現状、AIについては、楽観論と悲観論が入り乱れていますが、ベストセラーともなった新井紀子さんの『AI vs. 教科書が読めない子どもたち』は、ある意味で両義的ですよね。一方では、現状のAIは意味理解ができないから、東大に合格できなかったという事実がある。つまり、人間には意味理解という点で優位性があるというわけです。けれども他方で、多くの中高生たちは、教科書の文章をまともに読解できないという結果が出た。きっと中高生だけでなく、大人だってそうでしょう。

ということは、いまのところ人間とAI双方に長所と短所があり、両者が欠点を補っていけるような可能性もないわけじゃないけど、意味を放棄する人間が増えていけば、人間はむしろ劣化したAIのようになってしまうのでしょう。ただ、だからこそ意味の世界を簡単に手放してはいけないし、人間の意味世界を豊かにするような制度を構想しなければいけないと思うわけです。

古川：なるほど。おっしゃることはよくわかりますし、基本的には賛成なんですが、僕は斎藤さんより、もうちょっと悲観的かもしれません。

デカルトの『方法序説』が出たのは1637年ですが、このなかで彼は「人間と機械は何が違うのか」ということを議論していますよね。見た目が人間そっくりで、たたいたら「痛い、やめてくれ」と言うような機械だったらありえるかもしれない。そのときに、ではこの人間そっくりの機械と本物の人間とを、私たちはどうやって区別できるのか。こんなことを400年近く前に真剣に考えていた。

これはどういうことかというと、結局、現代のAI問題というのは、まさに近代がその出発点以来、最終的にそこに行き着くことを論理必然的に予定されていたような問題である、ということだと思うんです。

デカルト自身は、人間の身体は完全に機械と同じだけれど、人間だけは精神を持っている、だから機械と人間は違うんだと言ったわけですけど、その約100年後には、ラ・メトリが『人間機械論』を書いて、デカルトが精神とか理性とか呼んだものも、結局は一種の機械である、だから人間は完全に機械と同じである、と言うわけです。