データですべてわかると盲信する｢バカの壁｣ 養老孟司×新井紀子｢バカの壁｣対談<中>
新井：それは政治のレベルだけではなくて、身近なレベルでものすごく起こっています。たとえば、よく知られていることですけど、アメリカでは顔写真から性的指向を当てるというようなかなり乱暴な研究が行われています。あるいは、実刑か執行猶予かの判断もAIが再犯率を顔で判断します。でも、顔で再犯率を決めるっておかしいですよね。
統計のうそとAIの限界
養老：同じようなことは、実は医療の世界では、ずっと昔からあります。統計の話です。小咄まであります。難病に罹った患者に医者が言うんです。「この病気の致死率は99％です。100人いたら99人は死にます」ってね。患者は真っ青です。そこで、医者は「でも、あなたは助かります」と言ってニコリとします。「どうしてですか？」「私がこの病気を治療した患者さんはこれまで99人いました。その全員が亡くなりました。100人のうち1人は助かります。それがあなたです」。
新井：AIのいちばんの問題はすべてデータに基づいて予想したり判断したりしていることです。しかもそれを積み重ねていきます。データというのはすべて過去のことです。今いる人間についてのことを過去のデータで判断するってことは、昔も今も人間は変わらない、時間の経過があっても人間は変わらないという前提がないと無理なんです。でも、そんなことありませんよね。
養老：そうです。そうなんです。
新井：偏差値教育がいけないのも同じです。全国学力テストを毎年決まった時期にやってるのはどう考えても変です。そんなことをしたら、そのために勉強しますから競争になって、本当の学力を測定することなんてできません。統計のイロハのイです。学力はちょっと勉強すればぐんと上がりますよね。普段、あまりお勉強をしてない子ほど上がります。
人間や社会は変わるものなのに、世の中は変わらないという前提で統計というものが幅を利かせていて、それがAIが学習するデータになっているんです。その上、ブラックボックス化しています。ある統計を前提として統計をとって、それをまた前提として統計をとるみたいなことが起こって積み重なっているんです。
AIの仕組みも積み重ねですから、第1段階のAIがあって、その判断を前提としたAIが動いて、それを前提としたAIがまた動く。そんなのは3つぐらいつながったらもう滅茶苦茶です。そういう脆弱な統計を拠り所にして問題が解決できると考えていること自体が、リテラシーが非常に低いってことですね。バカの壁です。
養老：医療をみていると、ずっとそんなことをやってますよ。
新井：そうですよね。薬を20種類とか出すって、あれ、どういうつもりなんですかね。
