国民混乱!イギリス「AIが暴走」で大変なことに

シリコンバレー脳に染まった英政府の失態

イギリス政府が導入したアルゴリズムの失態は、今や政治問題に発展している(写真:William James/REUTERS)

新型コロナウイルスの影響で学校は最終学期に休校となったが、サム・シャープ=ロウ(18歳)さんは進学をとくに心配してはいなかった。ウエスト・ロンドンの学校教師がつけた成績は、Aが3つにBが1つ。これで十分、第1志望の大学に籍を確保できるはずだった。

ところが、新型コロナで中止となった「Aレベル」試験(大学統一試験に相当)に代えて、イギリス政府がコンピューターで自動算出した得点を採用した結果、シャープ=ロウさんの成績は低下。大学から入学許可を取り消された。

同じ目に遭ったのはシャープ=ロウさんだけではない。政府が国民に影響する重大決定を下すときに人工知能(AI)のアルゴリズムに依存すると、どんな間違いが起こりうるか。何千人という生徒とその父母がひどい経験をし、その教訓がむき出しとなった。

アルゴリズムの偏見がまる出しに

専門家によれば、この成績評価問題はこれから起こる議論の前触れとなるものだ。イギリス以外にもさまざまな国の政府が、公共サービスを自動化しようとテクノロジーの利用を広げている。そうすれば行政は効率的になり、人間が持つ偏見も取り除ける、というわけだ。

しかし、こうしたシステムには批判も出ていた。不透明で、既存の社会的偏見を増長するばかりか、十分な議論もなく導入が進められることが多いというものだ。いずれも今回の成績問題で露呈した欠陥である。

Aレベル試験の代わりに政府がコンピューターモデルを導入した結果、イングランドの学生の40%近くが成績を落とすことになった。このモデルには、過去の学校試験の成績や模擬試験の結果などが取り込まれていた。

政府は、このモデルには一部教師によって高めにつけられた可能性のある成績を修正し、成績評価をより公正なものにする狙いがあった、と釈明した。しかし生徒とその父母らは、私立の名門校や裕福な地域の学生に有利となるプログラムによって自分たちの将来が奪われたと激怒している。こうした怒りは、学習環境でハンディを負っている低所得地域でとくに強い。

次ページこういう結果になることは完全に予想できた
ライフの人気記事
トピックボードAD
関連記事
  • 自衛隊員も学ぶ!メンタルチューニング
  • ポストコロナのメガ地経学ーパワー・バランス/世界秩序/文明
  • 最新の週刊東洋経済
  • 晩婚さんいらっしゃい!
トレンドライブラリーAD
人気の動画
商社大転換 最新序列と激変するビジネス
商社大転換 最新序列と激変するビジネス
「話が伝わらない人」と伝わる人の決定的な差
「話が伝わらない人」と伝わる人の決定的な差
渋谷駅、谷底に広がる超難解なダンジョンの今
渋谷駅、谷底に広がる超難解なダンジョンの今
自動車販売会社の『車検』争奪戦が熾烈なワケ
自動車販売会社の『車検』争奪戦が熾烈なワケ
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
日本企業は米中の板挟み<br>全解明 経済安保

先端技術をめぐる米中の争いは日本に大きな影響をもたらします。海外からの投資は経済を活性化させる一方、自国の重要技術やデータが流出し安保上のリスクになる可能性も。分断の時代に日本企業が取るべき進路を探ります。

東洋経済education×ICT