NVIDIAチップは｢非効率で高すぎる｣ 　専門家が指摘する､AIチップの最適解に合致した次なる注目企業

江崎：タイムラグは投資のインセンティブですからね。エヌビディアはもともとゲーム機用の画像処理アクセラレーターの主要メーカーでした。したがって、画像処理アクセラレーターは基本的に「密結合」の行列と呼ばれるきれいな行列の計算はすごく得意なんです。ところがLLM（大規模言語モデル）や生成AIは「疎結合」の行列計算なので、実は下手くそなんですよね。

瀧口：本当は最適じゃないということですか。

黒田：というよりも無駄なことをしている。疎結合というのは、行列の中をよく見るとほとんどゼロばかり、あるいはゼロに近い数字ばかりが並んでいる大きな行列を計算しているんです。

コンピューターは「よりスマートな脳」へ進化していく

黒田：そもそも、先ほどの「ものすごく大きな行列を解く」というのは、グラフィックスには良かったからGPU（画像処理装置）が脚光を浴びたんですが、「それをAIに使ったのは間違いだ」という声が専門家の間では常識的になっています。

瀧口：「too much」（余計）だということですね。

黒田：そうです。しかし、それしかなかったから仕方なく使っているのが現状です。ほぼゼロ掛ける何とかという行列計算をしているので、そんなことはやめて、もっとコンパクトなネットワークをつくったほうがいいのではないかという動きがあるんです。

実は私たちの脳がそういうふうにできています。私たちは生まれたときに脳は未完成の状態です。それから6歳ぐらいまでの間に思いっきり遊んでいるうちに脳は完成するんです。だから、ここで脳神経のネットワークが完全になるんですね。エヌビディアの半導体で行列を解くのはこの6歳の状態で解いているようなものです。

ところがその後、私たちは学校などでいろいろなことを学ぶ中で実際には使われなかった配線が山ほどあるので、それを順番に切っていくんですよ。この「プルーニング（枝刈り）」という処理をした結果、私たちの脳はかなりいい加減さも伴うけれども効率よくいろいろなことに適用できるようになっていきます。それが中学、高校、大学といった教育を経て行われるわけですね。

コンピューターも今まさに完成しているけれど未熟な6歳の脳から脱して、その先の枝刈りをし、エネルギーをあまり使わないスマートな脳へと進化している状況です。