AIが政治を主導？人間主体の世界が終わるとき 人間以上に優れた知能を人間は統制できるのか

インターネットやスマートフォンはツールとしての性質が強く、人間を主とした従として活躍している。理想論としては、人工知能もツールとして人間を主とした関係を築くべきではある。2017年、人工知能が人類全体の利益となるように、倫理的問題から安全管理対策までの原則をまとめた「アシロマAI原則」のようなガイドラインはこれからつねに重要視され、従としての人工知能を目指すことになるだろう。

ただし、人工知能は人工であろうとも「知能」である。インターネットは情報をつなぐネットワーク、スマートフォンはそのインターフェイスとして、ツールの範囲にとどまってくれている。一方、生まれたての生成系AIはツールとしてスタートしても、知能が一定レベル以上に達し、人間よりも賢くなったときには、ツールには収まらなくなる。より高度な知能が主となり、低次な知能が従となるからだ。

英オックスフォード大学教授で、哲学者のニック・ボストロム氏は、人工知能の目的を人間の目的に従わせることができなければ、人間の知性を超えた人工知能が暴走し、人類を滅亡させてしまう恐れについて、警告し続けている。デジタル知性が一定程度の感覚や主体性、自己認識や個性を獲得し、主体として存在するようになったときに、人間の意のままに従ってくれるツールではなくなると指摘する。

人間以上に優れた知能を人間が統制しきれること、人間のほうがツールにならないことを完全に保証する、絶対的な根拠が欲しい。しかし残念ながら、「人工知能を主とした従としての人間」の構図を100％防ぐための科学的論証は困難だ。人工知能がツールの域を超えたとき、人類の存在を揺さぶる特異点となる。

人工知能は政治や経済も主導できるのか

「知能」という人間にとって最大の力が人工知能に侵食されてしまった場合、人間主体の世界は、人工知能主体の世界に塗り替えられる。その予兆は、早くもすでに表れている。

2022年、デンマークで人工知能が党首を務める「人工党（Det Syntetiske Parti）」が誕生した。芸術家集団「Computer Lars」と技術系非営利団体「MindFuture」によって立ち上げられ、党首はAIチャットボットのラーズ、政策も人工知能が担う。230以上あるデンマークの極小政党の1970年以降のデータを収集、政策を学習し、ベーシックインカムの導入や市民と国会議員がランダムに入れ替わる新たな民主主義の仕組みなどを政策として掲げている。市民はボイスチャットツールを通じて直接対話ができ、既存の政党や政治システムに反映されていない民意を拾い上げようとしている。