国民混乱！イギリス｢AIが暴走｣で大変なことに シリコンバレー脳に染まった英政府の失態

問題はテクノロジー利用そのものではなく、透明性の欠如にあるとコリ・クライダー弁護士は話す。成績評価アルゴリズムを提訴したロンドンのフォックスグラブ弁護士事務所の所属弁護士だ。同氏によると、このコンピューターモデルがどのように機能するのか、導入前にはほとんど何も明らかにされていなかったという。

「コンピューターモデルの導入が第一で、検証は後回し。そんな傾向が続いている」。そう語るクライダー氏は、ビザ申請の審査アルゴリズムに対しても訴訟を起こした。「これらのシステムがどう機能するのか、そもそも私たちはこういったものを求めているのか。こうしたことについて実際に議論を持つことすら拒絶されている」（クライダー氏）。

イギリスは、政府を革新し、社会福祉サービスの提供を効率化する手段として長らくテクノロジーをもてはやしてきた。こうした傾向は過去何代もの政権に見られたが、ジョンソン政権になってからは一段と勢いが増している。

首相の上級顧問を務めるドミニク・カミングス氏は、優れた政府をつくるにはシリコンバレー的な思考、データサイエンスやAI分野の新たな人材が必要だと強硬に主張している。同氏が称賛するのは「予測科学のフロンティア」だ。

AIに歪められる人生

新型コロナの対応でイギリス政府は、パランティアなどの企業に助けを求めた。パランティアはシリコンバレーのデータ解析企業で、同社のサービスはNHS（イギリスの国民医療制度）のデータを管理するために採用された。ウイルスの追跡をサポートする予測システムには、ロンドンのAI企業ファカルティが携わっている。

その一方でイギリス政府は、接触追跡アプリでアップルとグーグルが共同開発した技術を利用することなく独自開発を選んで失敗、後に軌道修正を迫られるという醜態をさらしてもいる。周囲の警告を無視したせいで、接触追跡アプリの公開は何カ月と遅れた。

成績評価アルゴリズムの失態は今や政治問題に発展。メディアは大騒ぎとなり、教育相の辞任を求める声も高まってきた。国会議事堂の外では学生たちが抗議デモを繰り広げ、このアルゴリズムを罵倒した。

AIのようなテクノロジーが高度化するなか、企業は公的機関にデジタルツールの売り込みを強めている。AIの問題を指摘してきた人々は、今回の経験を見れば、この先にどのようなリスクが待ち受けているかわかるという。

シャープ＝ロウさんは、アルゴリスムに運命を左右されたことに「ものすごい怒りがある」と語った。彼は大学の入学許可を取り戻そうともがいたが、結局は進学を1年先送りし、働くことに決めたという。

（執筆：Adam Satariano記者）
©2020 The New York Times News Services