データですべてわかると盲信する「バカの壁」

養老孟司×新井紀子「バカの壁」対談<中>

新井:それは政治のレベルだけではなくて、身近なレベルでものすごく起こっています。たとえば、よく知られていることですけど、アメリカでは顔写真から性的指向を当てるというようなかなり乱暴な研究が行われています。あるいは、実刑か執行猶予かの判断もAIが再犯率を顔で判断します。でも、顔で再犯率を決めるっておかしいですよね。

統計のうそとAIの限界

養老:同じようなことは、実は医療の世界では、ずっと昔からあります。統計の話です。小咄まであります。難病に罹った患者に医者が言うんです。「この病気の致死率は99%です。100人いたら99人は死にます」ってね。患者は真っ青です。そこで、医者は「でも、あなたは助かります」と言ってニコリとします。「どうしてですか?」「私がこの病気を治療した患者さんはこれまで99人いました。その全員が亡くなりました。100人のうち1人は助かります。それがあなたです」。

新井 紀子(あらい のりこ)/1962年東京都生まれ。一橋大学法学部およびイリノイ大学数学科卒業、イリノイ大学大学院数学科を経て、東京工業大学より博士(理学)を取得。専門は数理論理学。国立情報学研究所教授、同社会共有知研究センター長。著書に『改訂新版 ロボットは東大に入れるか』(新曜社、2018年)『コンピュータが仕事を奪う』(日本経済新聞出版社、2010年)などがある(撮影:尾形文繁)

新井:AIのいちばんの問題はすべてデータに基づいて予想したり判断したりしていることです。しかもそれを積み重ねていきます。データというのはすべて過去のことです。今いる人間についてのことを過去のデータで判断するってことは、昔も今も人間は変わらない、時間の経過があっても人間は変わらないという前提がないと無理なんです。でも、そんなことありませんよね。

養老:そうです。そうなんです。

新井:偏差値教育がいけないのも同じです。全国学力テストを毎年決まった時期にやってるのはどう考えても変です。そんなことをしたら、そのために勉強しますから競争になって、本当の学力を測定することなんてできません。統計のイロハのイです。学力はちょっと勉強すればぐんと上がりますよね。普段、あまりお勉強をしてない子ほど上がります。

人間や社会は変わるものなのに、世の中は変わらないという前提で統計というものが幅を利かせていて、それがAIが学習するデータになっているんです。その上、ブラックボックス化しています。ある統計を前提として統計をとって、それをまた前提として統計をとるみたいなことが起こって積み重なっているんです。

AIの仕組みも積み重ねですから、第1段階のAIがあって、その判断を前提としたAIが動いて、それを前提としたAIがまた動く。そんなのは3つぐらいつながったらもう滅茶苦茶です。そういう脆弱な統計を拠り所にして問題が解決できると考えていること自体が、リテラシーが非常に低いってことですね。バカの壁です。

養老:医療をみていると、ずっとそんなことをやってますよ。

新井:そうですよね。薬を20種類とか出すって、あれ、どういうつもりなんですかね。

次ページ「ぼくも薬は飲みません」
キャリア・教育の人気記事
トピックボードAD
関連記事
  • 見過ごされる若者の貧困
  • 新型コロナ、「新しい日常」への前進
  • iPhoneの裏技
  • CSR企業総覧
トレンドライブラリーAD
人気の動画
早慶上理・MARCH・関関同立、少子化でどうなる?
早慶上理・MARCH・関関同立、少子化でどうなる?
築40年超「老朽マンション」丸ごと建て替えの大問題
築40年超「老朽マンション」丸ごと建て替えの大問題
山手線2日間運休「渋谷駅大工事」何をどう変えた
山手線2日間運休「渋谷駅大工事」何をどう変えた
「料理が突然、上手になる」たった1つの簡単秘訣
「料理が突然、上手になる」たった1つの簡単秘訣
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
日米の躍進銘柄を総まくり<br>発掘! 未来の成長企業

米国の株式相場上昇に目を奪われがちですが、日本でも未来を牽引する成長企業は確実に育っています。本特集では「新興成長企業」や「トップの通信簿」などのランキングを掲載。GAFAMやメルカリの次の新主役を探しましょう。

東洋経済education×ICT