茂木健一郎､｢今の人工知能には弱点がある｣ 人間の味方にするには何をすべきか

──人工知能は自らでイノベーションを起こす、つまりプログラミングを変えることができるようになりますか。

評価関数というものがあって、評価の基準を人間が定めないと人工知能は最適化できない。わかりやすい冗談を言えば、人工知能学会は4～5年経つと間違いなく将棋の羽生善治さんに勝てると宣言している。評価基準をはっきりすれば勝てるソフトはつくれる。だが、人生は将棋で勝つことだけではない。美人の奥さんをもらったことを含めてが羽生さんの人生だ。新たな評価基準を入れて人生全体を考えようとすると、人工知能はお手上げなのだ。

評価を定め切ることは人工知能にできる。だが、ビジネスの最先端は、ブルーオーシャンといわれるデータがまったくない領域であり、そこでどうすべきかは単純ではない。あくまでブレークスルーは人間が起こして、そのツールとして人工知能を使うというイメージになるのではないか。

──今回のブームはいずれまたしぼむのですか。

人工知能は簡単にいえば最適化するマシンなのだ。何が最適であるかは計算できるが、最適化のルールを定めるのは人間だ。その状況は当分変わらない。逆にいうと、もっと人間の本能と直感を働かす方向に人工知能を進化させないと、その人工知能はコモディティ化してしまう。

──ただし、人類の滅亡を促す要素もある？

人工知能の研究は秘密でできる。今までも軍事技術と結び付いて研究されてきた。米国は無人機を飛ばして、すでに何千件もの攻撃をしているという。今後、殺人機械に搭載されて戦場への投入が進むと、厄介なことになる。軍備の拡張競争は容赦のない世界であり、そこで何が起こるかは予想できない。核兵器より危険なものができる可能性はある。

次の焦点は「人工意識」

──今の人工知能にはそれを抑止できる意識は宿らないのですね。

『記憶の森を育てる』 （上の書影をクリックするとAmazonのサイトにジャンプします）

意識をつくることを目的とはしていない。ただ、システムを安定化させるためには必要なものかもしれない。人間がなかなか死なないのは死ぬのが怖いからだ。怖さは意識の働き。意識の大きな機能は生命を維持することにあるといわれ、人工意識を開発することで、人工的なシステムの質が上がることも期待される。人工意識の研究は難しいところがあってなかなか進んでいない。

今、ブームの人工知能でやれることはたくさんあり、それこそ自動運転、医療情報の補助など、これらは意識なしでやれる。次の第4次ブームがいつ来るかわからないが、そのときには人工意識の問題が俎上に載るだろう。結局、人間とは何かという問いには今のブームは答えられない。