データですべてわかると盲信する「バカの壁」

養老孟司×新井紀子「バカの壁」対談<中>

新井:それは政治のレベルだけではなくて、身近なレベルでものすごく起こっています。たとえば、よく知られていることですけど、アメリカでは顔写真から性的指向を当てるというようなかなり乱暴な研究が行われています。あるいは、実刑か執行猶予かの判断もAIが再犯率を顔で判断します。でも、顔で再犯率を決めるっておかしいですよね。

統計のうそとAIの限界

養老:同じようなことは、実は医療の世界では、ずっと昔からあります。統計の話です。小咄まであります。難病に罹った患者に医者が言うんです。「この病気の致死率は99%です。100人いたら99人は死にます」ってね。患者は真っ青です。そこで、医者は「でも、あなたは助かります」と言ってニコリとします。「どうしてですか?」「私がこの病気を治療した患者さんはこれまで99人いました。その全員が亡くなりました。100人のうち1人は助かります。それがあなたです」。

新井 紀子(あらい のりこ)/1962年東京都生まれ。一橋大学法学部およびイリノイ大学数学科卒業、イリノイ大学大学院数学科を経て、東京工業大学より博士(理学)を取得。専門は数理論理学。国立情報学研究所教授、同社会共有知研究センター長。著書に『改訂新版 ロボットは東大に入れるか』(新曜社、2018年)『コンピュータが仕事を奪う』(日本経済新聞出版社、2010年)などがある(撮影:尾形文繁)

新井:AIのいちばんの問題はすべてデータに基づいて予想したり判断したりしていることです。しかもそれを積み重ねていきます。データというのはすべて過去のことです。今いる人間についてのことを過去のデータで判断するってことは、昔も今も人間は変わらない、時間の経過があっても人間は変わらないという前提がないと無理なんです。でも、そんなことありませんよね。

養老:そうです。そうなんです。

新井:偏差値教育がいけないのも同じです。全国学力テストを毎年決まった時期にやってるのはどう考えても変です。そんなことをしたら、そのために勉強しますから競争になって、本当の学力を測定することなんてできません。統計のイロハのイです。学力はちょっと勉強すればぐんと上がりますよね。普段、あまりお勉強をしてない子ほど上がります。

人間や社会は変わるものなのに、世の中は変わらないという前提で統計というものが幅を利かせていて、それがAIが学習するデータになっているんです。その上、ブラックボックス化しています。ある統計を前提として統計をとって、それをまた前提として統計をとるみたいなことが起こって積み重なっているんです。

AIの仕組みも積み重ねですから、第1段階のAIがあって、その判断を前提としたAIが動いて、それを前提としたAIがまた動く。そんなのは3つぐらいつながったらもう滅茶苦茶です。そういう脆弱な統計を拠り所にして問題が解決できると考えていること自体が、リテラシーが非常に低いってことですね。バカの壁です。

養老:医療をみていると、ずっとそんなことをやってますよ。

新井:そうですよね。薬を20種類とか出すって、あれ、どういうつもりなんですかね。

次ページ「ぼくも薬は飲みません」
キャリア・教育の人気記事
トピックボードAD
関連記事
  • iPhoneの裏技
  • 「非会社員」の知られざる稼ぎ方
  • Amazon週間ビジネス・経済書ランキング
  • 岐路に立つ日本の財政
トレンドライブラリーAD
人気の動画
ラーメン店の倒産ラッシュが必然でしかない事情
ラーメン店の倒産ラッシュが必然でしかない事情
人望のない人は「たった一言」が添えられない
人望のない人は「たった一言」が添えられない
都心vs. 郊外 家を購入するならどっち?
都心vs. 郊外 家を購入するならどっち?
30~40代でも起こりうる『孤独死』の過酷な実態
30~40代でも起こりうる『孤独死』の過酷な実態
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
漂流する東芝<br>舵取りなき12万人の悲運

再出発したはずの東芝の漂流が止まりません。再建請負人の車谷暢昭社長が電撃辞任。緊張感が増すファンドとの攻防や成長戦略の構築など課題は山積しています。従業員12万人を超える巨艦企業はどこに向かうのでしょうか。

東洋経済education×ICT