ニューヨークが導入した｢AI規制｣具体的な中身 骨抜き案がテンプレートにならないか懸念も

「画期的な法律になり得たものが、骨抜きにされ、効果が失われている」。そう語るのは、権利擁護団体「センター・フォー・デモクラシー・アンド・テクノロジー」の代表を務めるアレクサンドラ・ギヴンズだ。

なぜならこの法律では、「自動化された採用判断ツール」が「企業の裁量による判断を著しく支援する、もしくはこれを置き換えるため」に使用される技術と定義されているからだ、とギヴンズは言う。

ギヴンズによると、ニューヨーク市が決定した規則では、この表現が狭く解釈されているようで、AIソフトウェアによる判断が採用決定の唯一、または主たる要因であるとか、人間の判断を覆すのに使われる場合にのみ、監査が義務付けられる。

これだと、自動化ソフトウェアはほとんど監査の対象にならなくなるとギヴンズは指摘する。採用では人事責任者が最終判断を下すのが普通だからだ。ギヴンズによると、AIによる潜在的な差別は一般的には、多数の応募者から一握りの候補に絞り込む作業、あるいはオンラインでターゲットを絞って行うリクルーティング作業によって生じる。

「骨抜きの法律」がテンプレになる危険

ギヴンズは、不当な扱いを判断する基準も狭すぎると批判する。性別、人種、民族に対する差別が対象となる一方で、年をとった人や障害のある人に対する差別がカバーされていないためだ。

ギヴンズが言う。「政策担当者に今よりもはるかに踏み込んだ対策を求めなくてはならないときに、これが全国のテンプレートになってしまうことを、私は最も懸念している」。

（執筆：Steve Lohr記者）
（C）2023 The New York Times