｢ChatGPT｣に浮かれる人が知らない恐ろしい未来 新井紀子氏｢非常に危険なものが生み出された｣

――生成AIという「民主主義への挑戦」について議論し、打ち手を実行できるのは誰でしょうか。

例えば、AIを用いたビジネスなどにコストを強いるような方法を、唯一考えられるのがEUだと思います。

EU各国はフランス革命などを経て、近代国家を生み出してきました。人類学者や法哲学者などが牽引し、民主主義がどうあるべきかという根っこに立ち戻って立法できる。だから、こういうときに「忘れられる権利」のような新しい概念が生まれるのもEUなのです。

これを野放しにすると、本当に民主主義は混乱するでしょう。民衆が一つひとつの社会課題と向き合い、選挙の投票先を考え、法案を通すための議論も長引くなど、民主主義というのはすごくコストがかかります。そんな民主主義を選択しつつも、楽をしたがる私たちが、これほどタイパのいいChatGPTに身を委ねるのはとても恐ろしい。命に関わる問題です。

日本は“修繕”か“崩壊”かの岐路に立っている

――つまり、民主主義とChatGPTは相性が悪いと。

一方で、独裁国家にはとても相性がいい。例えば中国共産党は、一部の人以外はAIを使ってはいけないという法律を簡単に作れる。フェイクニュースが氾濫しようとも、それなりの経済成長を遂げているので、誰も気にしない。民主主義国家が混乱に陥る中で、「一番うまくいく社会は中国だったのか」という話になりかねない。

――では、民主主義の世界ではEUをはじめ、国家やその共同体が法律によるコントロールを考える必要があるのですね。

すでにフランスのマクロン大統領あたりは考えはじめているでしょう。ただ、暗号通貨をはじめ、ここ20年で「国」という枠組みに対する挑戦も繰り返されてきました。

例えば何かメッセージを伝えようと思ったときに、郵便や電報の時代とインターネット時代では、1日に伝えられる情報量が違いますよね。1日に移動できる距離や、伝えられる情報量によって国家の適切なサイズは決まるんだと思います。現状の国民国家は前回の産業革命の技術を基にサイズが決定されたのでしょう。

暗号通貨やAIについていける人にとって、世界は小さくなります。国家の枠を飛び越えて利益を最大化する人々から確実に徴税できないと、国民国家の意義は損なわれ、安定性は揺らぎます。一方、そうした最先端技術についていけない人にとっては、国民国家やEUは大きすぎ、もっと小さなサイズの国家を望みはじめる。ずっとほぼ同じサイズの国家で1000年以上過ごしてきた日本人にはわかりにくいかもしれませんが。

けれども、戦後、外部からもたらされたとはいえ民主主義を謳歌してきた日本という国が、それを守るために民主主義を“修繕”するのか、それとも身を委ねて“崩壊”のままにするのか岐路に立っているとはいえるでしょう。