国民混乱!イギリス「AIが暴走」で大変なことに

シリコンバレー脳に染まった英政府の失態

イギリス政府が導入したアルゴリズムの失態は、今や政治問題に発展している(写真:William James/REUTERS)

新型コロナウイルスの影響で学校は最終学期に休校となったが、サム・シャープ=ロウ(18歳)さんは進学をとくに心配してはいなかった。ウエスト・ロンドンの学校教師がつけた成績は、Aが3つにBが1つ。これで十分、第1志望の大学に籍を確保できるはずだった。

ところが、新型コロナで中止となった「Aレベル」試験(大学統一試験に相当)に代えて、イギリス政府がコンピューターで自動算出した得点を採用した結果、シャープ=ロウさんの成績は低下。大学から入学許可を取り消された。

同じ目に遭ったのはシャープ=ロウさんだけではない。政府が国民に影響する重大決定を下すときに人工知能(AI)のアルゴリズムに依存すると、どんな間違いが起こりうるか。何千人という生徒とその父母がひどい経験をし、その教訓がむき出しとなった。

アルゴリズムの偏見がまる出しに

専門家によれば、この成績評価問題はこれから起こる議論の前触れとなるものだ。イギリス以外にもさまざまな国の政府が、公共サービスを自動化しようとテクノロジーの利用を広げている。そうすれば行政は効率的になり、人間が持つ偏見も取り除ける、というわけだ。

しかし、こうしたシステムには批判も出ていた。不透明で、既存の社会的偏見を増長するばかりか、十分な議論もなく導入が進められることが多いというものだ。いずれも今回の成績問題で露呈した欠陥である。

Aレベル試験の代わりに政府がコンピューターモデルを導入した結果、イングランドの学生の40%近くが成績を落とすことになった。このモデルには、過去の学校試験の成績や模擬試験の結果などが取り込まれていた。

政府は、このモデルには一部教師によって高めにつけられた可能性のある成績を修正し、成績評価をより公正なものにする狙いがあった、と釈明した。しかし生徒とその父母らは、私立の名門校や裕福な地域の学生に有利となるプログラムによって自分たちの将来が奪われたと激怒している。こうした怒りは、学習環境でハンディを負っている低所得地域でとくに強い。

次ページこういう結果になることは完全に予想できた
ライフの人気記事
トピックボードAD
関連記事
  • 新型コロナ、長期戦の混沌
  • 仲人はミタ-婚活現場からのリアルボイス-
  • ぐんぐん伸びる子は何が違うのか?
  • 本当は怖い住宅購入
トレンドライブラリーAD
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
三菱重工と日立 「統合」破談から<br>10年 製造立国の岐路

10年前に統合構想が破談になった三菱重工業と日立製作所。その後両社は対照的な道を歩み、2009年に伯仲していた時価総額は今や日立が大きく上回っています。本特集では明暗が分かれた三菱重工と日立を主軸に、製造立国・日本の生きる道を探りました。

東洋経済education×ICT