｢貧しい家の子の成績下げる｣アルゴリズムの波紋 イギリスで起きた衝撃､責任は誰にあるのか

その代わりに、教師は試験監査機関「オフクァル」に対して、生徒の成績予測と、クラスのトップから最下位までの成績順位を提出しなければならなかった。オフクァルは、それらのデータを各学校の過去の実績といったほかの要因と併せて判断するアルゴリズムを利用し、各生徒の成績を算出した。

だが、成績予測より低い成績をつけられた生徒が10人中4人もいるのは、何だか疑わしかった。

どのようなバイアスが働いてしまったのか

実際の成績が予測を最も下回ったのは、恵まれない境遇の生徒たちだった。また、北イングランドの学校が提出した成績は、ほかの地域に比べて上方への調整がなされなかった。一方、最高成績のグループに占める私立学校の生徒の割合は過去最大となり、公立の総合制中等学校の生徒の倍になった。

この問題への世間の激しい抗議を受けて、このアルゴリズムはほぼ完全に廃止された。生徒たちは担任教師による成績評価とオフクァルが出した成績のうち、高い方を選ぶことができるようになった。その結果、大学は予想を超える数の新入生を受け入れなければならなくなり、なかには「入学を来年以降にずらせる学生には、謝礼を支払う」と呼びかける大学さえあった。

これはいったい、誰の責任なのだろうか。当時の首相ボリス・ジョンソンは生徒たちを前に、「みなさんの成績は、突然変異したアルゴリズムによって危うく台無しにされるところでした」と同情を示した。

世間では、このアルゴリズムは「失敗作」「致命的な欠陥品」と呼ばれるようになった。要するに、恵まれない境遇の生徒たちの結果を歪めかねない「固有バイアス」を抱いていたとして責められたのは、アルゴリズムそのものだったのだ。

とはいえ、アルゴリズムは、つくられたとおりに機能したのだ。その結果、「成績インフレを抑えること」と「成績分布グラフの形状を維持すること」を最優先した。この2点はまさに、「政府からオフクァルに具体的に出された指示」だと、オフクァルの関係者が公にしたものだった。

別の方針によるアルゴリズムをつくりだす方法は、いくらでもあったはずだ。だが、彼らは「成績インフレを抑えること」を最優先にするようにという指示にあくまで従い、その代わりに、とりわけ過去の実績がずっと悪かった学校に在籍していた、予想外に優秀な生徒たちが犠牲になったのだった。