コンピュータがこの10年で迎える限界の正体 AIは賢いが任せすぎると大事故も起こりうる

僕は小学2年ぐらいにはもう理科少年で、モノを燃やしたり爆発させたり、電子工作でラジオを作ったりしていました。それがコンピュータ少年になったのは、9歳から13歳まで米国で暮らした後、日本に帰国して久しぶりに秋葉原に行ったのがきっかけです。以前はラジオとかアンプといったトランジスタ部品があった店に電卓のオバケみたいなのがあって、それがコンピュータだっていうんですよ。

1970年代はカンブリア爆発みたいな勢いでいろんなマイクロプロセッサが生まれて、それを搭載したアマチュア向けのコンピュータ、今でいうパソコンが誕生した時代でした。「アルテア8080」とか「TK-80」とか。コンピュータっていえばそれまで、メインフレームと呼ばれる大きな機械でしたから、それを見て僕はもう興奮したのです。

しかも10万円もしない。高額ですが、車よりは安い。お小遣いを一生懸命貯めて、プログラミングを勉強して、コンピュータの概念、仕組みを勉強して……というのを中学生からずっとガリガリやってきた。最初は独学で、大学では数学のような基礎的な部分も含めて叩き込まれました。そうなると原理が徹底して身に付いているし、何ていうのか量的な感覚っていうのか、肌身の感覚もあるわけです。だから、「将来はこうなる」「これは実現できる」ということがわかる。

――一朝一夕には身に付かない。

付かない。楽器の演奏なんかも同じ感覚だと思います。

シンギュラリティは来ない

――2045年にシンギュラリティ（技術特異点、コンピュータが人間の知能を上回る時点）が来るという予測について、どう思いますか？

脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。

ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。

――雇用に対する影響は、バカなAIでも十分起こるわけですね。

そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。

――人間が輪の中に入る？

人間がシステムに介入し、一部を担うということです。米国の宇宙プロジェクトがそうでした。マーキュリー計画（米国初の有人宇宙飛行計画）では実はいろいろとやばいことが起こったけれど、それでもパイロットが帰還できたのは、要所要所で人間が機械を制御したからです。あれが完全に自動の船だったら死んでいました。逆にソ連は機械に任せていたから、先に月に行けなかった。

同じように、今のAIはある面ではすごく賢いけれど人間より優れたスーパーヒューマンな存在じゃない。そういうAIに人間が一切合切を任せた結果、想定外の大事故が起きる可能性は十分にある。これは一般的に言われるシンギュラリティではありませんが、ソフトなシンギュラリティとでもいうべきインパクトを生むと思っています。

著者フォローすると、杉本 りうこさんの最新記事をメールでお知らせします。