国民混乱！イギリス｢AIが暴走｣で大変なことに シリコンバレー脳に染まった英政府の失態

政府は謝罪し、コンピューターが算出した成績を取り消した。しかし多くの生徒はすでに志望大学から入学許可を取り消されており、入学選考過程は一段と混乱を極める結果となった。

「このアルゴリズムはどう見ても正しくない」。そう語るシャープ＝ロウさんはロンドン西部のイーリングに住んでいる。とても多様性に富んだ場所だが、人種、民族、収入よる分断も目立つ。「自分と同じような目に遭った人をほかにもたくさん知っている」（シャープ＝ロウさん）。

こういう結果になることは完全に予測できた、と専門家は話す。事実、王立統計学会は資格・試験監査機関Ofqual（オフクォル）に対し、何カ月にもわたって「モデルに欠陥がある」と警告し続けてきた。

「政府はシリコンバレーのマネをしている。だが、公的部門は民間企業とは完全に異なる」。こう指摘するのは、ニューヨーク大学でデジタル福祉国家・人権プロジェクトのディレクターを務めるクリスチャン・ヴァン・ヴィーン氏だ。

ヴァン・ヴィーン氏は国連の調査員として、イギリスやそのほかの国々が公共サービスの自動化でどのようにコンピューターを使っているか調査してきた。同氏によれば、こうした技術は、警察活動、法定での判決、医療、入国管理、社会福祉などに用いられている。「この流れから外れた政府部門は存在しない」（ヴァン・ヴィーン氏）。

デジタル政府のボロが次々に露呈

なかでもイギリスはテクノロジーの導入に積極的だが、失敗も多い。イギリス政府は8月上旬、ビザ申請の審査でアルゴリズムの利用をやめると発表した。差別的だとして提訴されたためだ。その数日後には、警察の防犯カメラに顔認証ソフトを使うのは違法とする判決が下っている。

自動化されたイギリスの社会保障制度「ユニバーサル・クレジット」は、一部国民の失業手当受給を難しくするとして、国連などから何年にもわたって批判されてきた。イギリス政府が新型コロナの封じ込めに欠かせないとしている接触追跡アプリは、技術的な問題から投入時期が延び延びになっている。

ロンドンのテクノロジー専門家、レイチェル・コルディカット氏はこう語る。「アルゴリズムが使われてさえいれば、目新しくて興味深く、特別で革新的だと考える風潮がある。それがどのように機能するか理解もせずに」。同氏は、責任あるイノベーションについての著作を執筆中だ。

イギリス政府のテクノロジー利用に対して厳しい調査を求めてきた人々は、今回の成績問題で議論の潮目が変わったと話す。アルゴリズムが暮らしにどのような影響を及ぼしうるかが、鮮明かつ極めてわかりやすい形で示されたからだ。