本当に恐い人工知能はもう普通に働いている おバカな人工知能こそ脅威

ディープラーニングは、脳内の情報処理の仕組みを模した「ニューラルネットワーク（神経回路の意）」と呼ばれる階層的推論技術を利用している。もっともニューラルネットワークのノードと神経細胞の働きを比べるなど、トースターとスペースシャトルを比べるようなものだが。

公平を期して言うなら、ディープマインド社が手掛けているタイプの人工知能は、ほかの多くの機械学習技術（最近注目の分野だ）と同様に、パターンを見つけて行動を示唆し、予想するという手順から成っている。これは人の脳内の働きと似ている。

ハイテク業界で盛り上がる機械学習

機械学習はハイテク業界でもっとも盛り上がっている分野のひとつだ。アマゾンやフェイスブック、グーグルといった企業はパターン認識技術をめぐって競争を繰り広げている。配車サービスのウーバーや電機大手ゼネラル・エレクトリックのように、機械学習に社運を賭けている企業もある。

だが機械学習は自動化であり、コンピュータが普段やっている作業の改良版と言える。「学習」は保存されるのではなく、賢い推論や判断につながるようなモデルに一般化されるのだ。

ディープマインドは単純なコンピュータゲームの遊び方を自力でマスターする人工知能を開発したが、あるゲームを元に別のゲームのことを学ぶという段階には至っていない。イメージ認識の方法も人間とは異なり、簡単に負かすことができる。

そうした頭の悪い段階を脱して人間のような幅広い能力を獲得することを「トランスファーラーニング（転移学習）」という。これはまだ研究段階だ。

「人工知能を研究する人々は、チェスを指せるコンピュータもクイーンを取りたがったりする段階にはないことを知っている」と、カリフォルニア大学バークレー校のスチュアート・ラッセル教授（コンピュータ科学）は言う。ラッセル教授は生活未来研究所の理事を務めるとともに、マスクからの研究資金をもらっている1人だ。彼は、頭がいいとは言えないプログラムが複雑な人間の複雑な価値観とぶつからないようにする数学的な方法を研究している。

「クリップ製造プログラムに欠けているのは、背景となる価値構造だ」とラッセルは言う。「（人工知能が）意識をもつと危ないことしか起こらないと考えるのは思い違いだ」

（執筆：Quentin Haedy記者、翻訳：村井裕美）

（c） 2015 New York Times News Service