ロボット兵器の超進化がもたらす恐怖の未来 2025年に人間の知能を超える日がやってくる

この機能が拡大すると、そう遠くない未来に自動運転道路が実現し、走行の安全性と道路の交通容量を高め、混雑を緩和するようになるだろう。完全自動運転車が一般的になる日も近い。もうまもなくだ。すでにグーグルの自動運転車は320万キロメートルもの走行実験をこなし、事故がわずか14件という優れた安全性を実証した。より安全で効率のいい道路は、リスク管理と情報共有の方法を変える。保険対象も個人とその車から隊列を組む車両全体へ、さらには全システムへと変わるはずだ。

そこには難しい問題がある。保険会社は、自動運転システムにコントロールを渡したくないという運転手にも、対処しなければならないからだ。あくまでも「自由に」運転したい運転手には、保険の掛け金を高く設定するのか。そのいっぽうで、それ以外の運転手は切迫した事態に遭遇した際、自動運転システムの判断に身を委ねることになるのか。

だが実際の話、事故は起きるし、とりわけ市街地では今後もなくならないだろう。となると、自動運転車は時に倫理的な判断を下す必要に迫られる。そして、人命が奪われるかもしれない事態に陥ったとき、どう判断するのかという難しい問題に直面する。問題の対処を誤れば、法的にも大きな影響を及ぼしかねない。

しかも、法律は国や地域によって大きく異なる。一例をあげれば、ドイツでは人間の命の価値を天秤にかけることは法律で禁じられているため、アルゴリズムによって人間の命に優先順位をつけるようプログラムすることは、まず不可能である。

ところがアメリカでは、この点についてさほど厳格ではない。それでは、自動運転車は個人の命の価値を評価することなく、よりおおぜいの命を救うほうを優先するべきだろうか。いまのところ、答えよりも問いのほうが多いようだ。

アッラーの望みどおりに子どもをひく？

グーグル・ディープマインド社をはじめ、AI開発を行う企業はどこも、人間の優れた価値観や行動を複製するAIシステムのコードを書くことに忙しい。規制当局が承認した完全自動運転車が、あちこちの道路を走りはじめてからでは遅いからだ。

こんな難問もある。人が亡くなるのを避けられない状況に陥ったときに、歩行者の列や自転車に乗った子どもを犠牲にしないために、「運転手自身」が犠牲になるようなコードを果たして書くのかという、もう何十年も前から議論されてきた問題である。SF作家のアイザック・アシモフは、ロボットが従うべき、かの有名な「ロボット工学三原則」を発表した。

そのうちの第一は、「ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない」（アイザック・アシモフ『われはロボット〔決定版〕』小尾芙佐訳より引用）だ。だが問題は、スピードを出していた自動運転車が、障害物を避けるために本来のルートを逸れるのはどんなときか──そして、その障害物が羊の場合と人間の子どもの場合とでは、その答えは違ってくるのかである。