本当に恐い人工知能はもう普通に働いている おバカな人工知能こそ脅威

たとえば紙をはさむクリップを作る機械が誰にも止められることなく作業を続け、進化していったとしたら、私たちは一夜にしてクリップの洪水に飲み込まれてしまう。

つまり、ばかばかしいとしか言いようのないことが世界的規模で起きるのだ。「人工知能による世界の破滅」といった恐ろしいニュース記事には得てして、ターミネーター的な殺人ロボットが出てくるけれど、そんなものは忘れていい。

今も残る「古い」イメージ

「心配すべきは非常に狭い分野において高い能力をもつコンピュータだ」と言うのは、マサチューセッツ工科大学（MIT）のマックス・テグマーク教授（物理学）だ。テグマーク教授は人工知能のリスクを軽減する研究を行う生活未来研究所の所長を務めている。

6月にドイツで工場の組み立てラインのロボットが起こした死亡事故についてテグマークは「機械はバカであり、（意識して）卑劣な行為を行うのではなく、人間も金属片も同じように扱うという好例だ」と言う。

前述のマスクは生活未来研究所に対し、自動運転プログラムが人に危害を加えるのを防ぐ研究のために1000万ドルを寄付。同研究所では複数の研究プロジェクトにこの資金を分配した。

だがマスクやホーキングやゲイツを初めとする科学やハイテク分野のトップランナーたちでさえ、どうも懸念する対象を間違っているらしいのだ。

人工知能分野の専門家の間では、近い将来コンピュータが何らかの意識（意識があれば人類に対して危険な考えを抱く可能性がある）を獲得するという認識はほとんどない。

人工知能を研究する非営利団体「アレン人工知能研究所」のオレン・エツィオーニCEOは「こうした最悪のシナリオは科学と、それとはかけ離れた心や意識に関する哲学的な問題を混同している」と指摘する。

「ソフトウエアがどう書かれているかもっと多くの人が知るところとなれば、今日われわれがコンピュータと呼んでいる『大きくなりすぎた鉛筆』がいかに想像力に欠けた存在かわかるだろう」とエツィオーニは言う。

ではどうして人々はそうした混同を起こすのだろう。大きな理由は、コンピュータ科学者の働き方だ。

「AIという言葉は1950年にできた。思考する機械の実現は間近だとみんなが思っていた時代だ」とエツィオーニは言う。「今も私たちはそのイメージにしがみついている」

「考える機械」のイメージは、今も業界に残っている。グーグル傘下の人工知能開発企業の名前は「ディープマインド」だし、この分野で先駆的な業績を残している「シンキング・マシーンズ」という会社もある。最近研究が進む技術「ディープラーニング（深層学習）」も、人類が知能を生みだそうとしているような印象を与える。