データですべてわかると盲信する「バカの壁」 養老孟司×新井紀子「バカの壁」対談<中>

ブックマーク

記事をマイページに保存
できます。
無料会員登録はこちら
はこちら

印刷ページの表示はログインが必要です。

無料会員登録はこちら

はこちら

縮小

新井:それは政治のレベルだけではなくて、身近なレベルでものすごく起こっています。たとえば、よく知られていることですけど、アメリカでは顔写真から性的指向を当てるというようなかなり乱暴な研究が行われています。あるいは、実刑か執行猶予かの判断もAIが再犯率を顔で判断します。でも、顔で再犯率を決めるっておかしいですよね。

統計のうそとAIの限界

養老:同じようなことは、実は医療の世界では、ずっと昔からあります。統計の話です。小咄まであります。難病に罹った患者に医者が言うんです。「この病気の致死率は99%です。100人いたら99人は死にます」ってね。患者は真っ青です。そこで、医者は「でも、あなたは助かります」と言ってニコリとします。「どうしてですか?」「私がこの病気を治療した患者さんはこれまで99人いました。その全員が亡くなりました。100人のうち1人は助かります。それがあなたです」。

新井 紀子(あらい のりこ)/1962年東京都生まれ。一橋大学法学部およびイリノイ大学数学科卒業、イリノイ大学大学院数学科を経て、東京工業大学より博士(理学)を取得。専門は数理論理学。国立情報学研究所教授、同社会共有知研究センター長。著書に『改訂新版 ロボットは東大に入れるか』(新曜社、2018年)『コンピュータが仕事を奪う』(日本経済新聞出版社、2010年)などがある(撮影:尾形文繁)

新井:AIのいちばんの問題はすべてデータに基づいて予想したり判断したりしていることです。しかもそれを積み重ねていきます。データというのはすべて過去のことです。今いる人間についてのことを過去のデータで判断するってことは、昔も今も人間は変わらない、時間の経過があっても人間は変わらないという前提がないと無理なんです。でも、そんなことありませんよね。

養老:そうです。そうなんです。

新井:偏差値教育がいけないのも同じです。全国学力テストを毎年決まった時期にやってるのはどう考えても変です。そんなことをしたら、そのために勉強しますから競争になって、本当の学力を測定することなんてできません。統計のイロハのイです。学力はちょっと勉強すればぐんと上がりますよね。普段、あまりお勉強をしてない子ほど上がります。

人間や社会は変わるものなのに、世の中は変わらないという前提で統計というものが幅を利かせていて、それがAIが学習するデータになっているんです。その上、ブラックボックス化しています。ある統計を前提として統計をとって、それをまた前提として統計をとるみたいなことが起こって積み重なっているんです。

AIの仕組みも積み重ねですから、第1段階のAIがあって、その判断を前提としたAIが動いて、それを前提としたAIがまた動く。そんなのは3つぐらいつながったらもう滅茶苦茶です。そういう脆弱な統計を拠り所にして問題が解決できると考えていること自体が、リテラシーが非常に低いってことですね。バカの壁です。

養老:医療をみていると、ずっとそんなことをやってますよ。

新井:そうですよね。薬を20種類とか出すって、あれ、どういうつもりなんですかね。

次ページ「ぼくも薬は飲みません」
関連記事
トピックボードAD
キャリア・教育の人気記事