ロボット兵器の超進化がもたらす恐怖の未来 2025年に人間の知能を超える日がやってくる

私たちがアラブ首長国連邦の首都アブダビで政府高官と話していたときに、未来の自動運転車の話になった。私たちが技術と倫理的な問題について説明していたところ、高官はみな、ぽかんとした顔をしたのである。

「なぜルートを逸れるのですか？」と彼らは訊ねる。「そのまま運転すればいいことです」。そこで、私たちが世界のどこの国や地域でも、これを重大な問題と考えていると伝えると、戻ってきたのは「ここでは、重大ではありませんね。インシャ・アッラー（アッラーがお望みなら）」という答えだった。

「もし道路に子どもがいたのなら、それが神のご意志であるため、車のほうで避けて運転手自身を犠牲にする必要はありません。誰かが溺れているのを見つけた場合も同じです。あなた自身を危険にさらすのなら、その相手を助けることはないのです」

自分たちの価値観だけで未来を見てはいけないのだ。私たちの考える善悪の観念は、他の文化ではまったく異なる。それゆえ、完全自動運転車の倫理的な問題については、国際的であるとともに地域的な観点からも考え、思いもよらない視点からも検討する必要がある。AIにとっても、またひとつ難問が増えたのではないだろうか。

ロボット兵器が投入される戦争の未来図

それ以上に多くの者が危惧するのが、AIを使った戦争だ。映画『アイ・イン・ザ・スカイ 世界一安全な戦場』で描かれたように、ドローンの積極的な活用によって、すでに戦闘員が直接命を危険にさらす場面は減った。おそらく次の段階は、ロボット兵士やロボット兵器の登場だろう。2025年頃には「アルゴリズミック・インテリジェンス」が、創造主である人間の知能を超えている可能性があり、誰を、なぜ攻撃対象にするのかを認識できるようになるのかもしれない。

だが、その意味するところは非常に恐ろしい。AIは過激派よりも判断力に優れている可能性があると言う者もいるが、もしAIが過激派の手に渡ったら、どうなるだろうか。インターネットのときと同じように、いったんつくってしまったら、AIを搭載したロボット兵器のプラグを抜くことはできないのだ。

『〔データブック〕近未来予測2025』（早川書房）。書影をクリックするとアマゾンのサイトにジャンプします

この問題について、国連は定期的に会合を開いている。非常に危惧される問題のために、1000人を超えるAIの専門家がすでに、ロボット兵器開発の中止を訴えている。だが、中止は実現しそうにない。望みうる最善の結果はおそらく開発の延期であり、そのあいだに規制や制約について検討が重ねられることだ。

選択肢のひとつは、最初の汎用人工知能を「フレンドリーAI」にすることだ。そうすれば、その後のAIの発達もコントロールできるだろう。いまの時点ではまだ空想のような話だが、2025年にはさほど突飛な話ではなくなっているかもしれない。

短期的に言えば、道路上の車にせよ、戦地のロボット兵器にせよ、何か不都合が起きたときには、デザイナー、プログラマー、製造業者、あるいはオペレーターの誰に責任があるのかを決める規則が必要だ。まるでSFの世界のように思えるが、SFとは得てして「未来の現実」を描いたものだ。創造主である人間よりも賢く、もっと順応性に優れたAIが登場したときに果たして何が起きるのかについて、私たちは真剣に考える必要があるだろう。

著者フォローすると、ティム・ジョーンズさん・キャロライン・デューイングさんの最新記事をメールでお知らせします。