このアルゴリズムは、突然変異体として誕生したあとで山々を越えて逃げていった、フランケンシュタインの怪物とはわけが違う。バイアスは、全国的な成績分布グラフを、過去数年とほぼ同じに保つのを優先する方法を選んだことの副産物だったのだ。
このアルゴリズムによって、進学実績の低い学校や、貧しい地域に対するバイアスがかかったのは当然のことだ。なにせ、その位置に留めておくためにつくられたアルゴリズムだったのだから。オフクァルは、突然変異体をつくりだしたわけではない。彼らは手渡された腐った卵を、最善を尽くしてふ化させただけなのだ。
このアルゴリズムの目的を教育省が最初から明らかにしていれば、試験の結果発表日のずっと前に同省に疑問を投げかけられたはずだ。そして世間や野党は、「成績インフレを抑えること」を第一の目標とするのが正しいのかどうか、同省に問えたはずだ。
教育大臣が「アルゴリズムは使わない」と発言
2021年初め、教育大臣のギャヴィン・ウィリアムソンは、この年の中等教育修了一般資格とAレベルの成績判定方法について、「何があってもアルゴリズムは使わない」と満面の笑みで保証した。「この私が見張っているかぎり、突然変異によって大混乱が引き起こされることはない」ということなのだろう。
仕組みをつくった当人に責任を負わせるのは、真っ当なことなのだろうか。この質問の答えは明らかに「いいえ」だが、そこからもう一歩踏み込んで考えるべきことがある。
大臣たちは、全体的な目的は定めるが、それを目指すことによってどんな副産物が生じる恐れがあるかについては、各省の職員たちからの提言に頼っている。大臣たちは、担当する省が行っている、あらゆる技術的な作業をすべて逐一管理すべきなのだろうか。あるいは、そもそもそれは可能なのだろうか。
しかも、その分野の専門家でない人物が、どうすれば効果的に管理できるのだろうか。政策のためのアルゴリズム設計とは、政治的な選択と技術的な選択のあいだを行ったり来たりして行われるべきものなのだ。
（後編：3月19日配信に続く）
