フィクションではない！｢AIによる人類滅亡｣ 最も避けたいテクノロジーの悲惨な末路とは

ゲノム編集の分野では、技術的には肉体的に操作され、個性や外観を変えられたデザイナーベビーがすでに現実味を帯び、ゲノム情報の解析が超高速化し、コストも限りなくゼロに近づくことで、生命の操作が容易になる。AIの分野では、人間の知能を人工知能が凌駕する場面が目立ち、シンギュラリティは体感となり始める。2030年代から2040年代にかけて、「生命」と「知能」に関する技術がこのような転換点を迎える可能性は濃厚になりつつある。

これは人類にとって、明暗を分ける岐路である。転換点にかけての人類の行動が、強力なテクノロジーを最良な手段とするか、最悪な方向に暗転させる地雷とするかを決めると言ってもいい。そして、「悪意」が制度の甘さに付け込むことや、利益を追求する「悪意なき悪意」によって2つの強大な科学技術を制御できなくなれば、将来的には「人類滅亡」という悲惨な末路につながる可能性がある。

未来に運命を委ねるのではなく、より良い未来を作る

「欲望」とともに子の遺伝子改変に歯止めが利かなくなれば、世代を追うごとに人間の有り様は、現在の状態から逸脱していく。人工知能が「知能」の領域で人間を圧倒するようになれば、自らの能力開発の手を緩め、やがて政治経済をはじめとしたガバナンスを明け渡し、人類による統治は幕を下ろすことになる。

本書（『人類滅亡2つのシナリオ』）では、2つの先端科学技術がいかなるプロセスをたどって「最悪な未来＝人類滅亡」の原因になってしまうのか、そのシナリオを示している。人類が判断を誤れば、この数十年で〝最悪な未来〞への道を歩み始め、来世紀を迎える頃には、様相が修復不可能なほど悪化していることも想定しておかなければならない。そうなれば、「滅亡」は数世紀以内に起こる可能性が高まる。

『人類滅亡2つのシナリオ AIと遺伝子操作が悪用された未来』（朝日新書）。書影をクリックするとAmazonのサイトにジャンプします

ゲノム編集技術で、人間の能力を拡張したり、理想的な人間を生み出したりすることに優位性を求め、もしくは何かしらの理由でそうせざるを得なくなり、歯止めが利かなくなったとき。あるいは人間が、知能に基づく多くの活動を人工知能に委ね、自然の流れで自らが進化する力を弱体化させたとき。そんなときに、「人類滅亡」という最悪のシナリオは現実のものとなりかねない。「人類滅亡などSFにすぎない」と思われるかもしれない。だが実際、地球の歴史が始まって以降、何度も生物の大量絶滅は繰り返され、種の絶滅は頻繁に起きてきた。

まだ多くの議論の余地は残されているが、本書では、あえて「現生人類としてのホモ・サピエンスが甚だしく遺伝子改変された状態」を種の延長線上に置かず、「現生人類の終焉」を人類滅亡と解釈することをシナリオの前提とした。それくらいシビアに受け止めるべき分岐点に人類が立たされていると認識し、戒めとするためだ。

AIは「人工」であり、ゲノムテクノロジーは「操作」である。結局は、いずれも人間が主語だ。未来に人類の運命を委ねるのではなく、人類がより良い未来を作らなければならない。

著者フォローすると、小川 和也さんの最新記事をメールでお知らせします。