国民混乱！イギリス｢AIが暴走｣で大変なことに シリコンバレー脳に染まった英政府の失態
新型コロナウイルスの影響で学校は最終学期に休校となったが、サム・シャープ=ロウ（18歳）さんは進学をとくに心配してはいなかった。ウエスト・ロンドンの学校教師がつけた成績は、Aが3つにBが1つ。これで十分、第1志望の大学に籍を確保できるはずだった。
ところが、新型コロナで中止となった「Aレベル」試験（大学統一試験に相当）に代えて、イギリス政府がコンピューターで自動算出した得点を採用した結果、シャープ＝ロウさんの成績は低下。大学から入学許可を取り消された。
同じ目に遭ったのはシャープ＝ロウさんだけではない。政府が国民に影響する重大決定を下すときに人工知能（AI）のアルゴリズムに依存すると、どんな間違いが起こりうるか。何千人という生徒とその父母がひどい経験をし、その教訓がむき出しとなった。
アルゴリズムの偏見がまる出しに
専門家によれば、この成績評価問題はこれから起こる議論の前触れとなるものだ。イギリス以外にもさまざまな国の政府が、公共サービスを自動化しようとテクノロジーの利用を広げている。そうすれば行政は効率的になり、人間が持つ偏見も取り除ける、というわけだ。
しかし、こうしたシステムには批判も出ていた。不透明で、既存の社会的偏見を増長するばかりか、十分な議論もなく導入が進められることが多いというものだ。いずれも今回の成績問題で露呈した欠陥である。
Aレベル試験の代わりに政府がコンピューターモデルを導入した結果、イングランドの学生の40%近くが成績を落とすことになった。このモデルには、過去の学校試験の成績や模擬試験の結果などが取り込まれていた。
政府は、このモデルには一部教師によって高めにつけられた可能性のある成績を修正し、成績評価をより公正なものにする狙いがあった、と釈明した。しかし生徒とその父母らは、私立の名門校や裕福な地域の学生に有利となるプログラムによって自分たちの将来が奪われたと激怒している。こうした怒りは、学習環境でハンディを負っている低所得地域でとくに強い。
