顔認識で「誤認逮捕」汚名晴れるまで1年超の悲劇 犯罪捜査で使われる顔認識アルゴリズムの弱点

拡大
縮小
暮らしのあらゆる要素に潜む「アルゴリズム」。顔認識アルゴリズムが招いた悲劇をご紹介します(写真:izusek/iStock)
知っているようで知らない「アルゴリズム」。現代では、買い物から医療、犯罪予測、車、政治活動まで、暮らしのあらゆる要素にアルゴリズムが潜んでいる。数学者ハンナ・フライUCL准教授がそんなアルゴリズムの実態を検証し、人とコンピューターの共存の道を問う著書が『アルゴリズムの時代 機械が決定する世界をどう生きるか』だ。
私たちは機械がどうやって判断しているかもよく考えないまま、むやみにショッピングサイトのおすすめに従ったり、逆にAIに仕事を奪われることを怖れたりしていないだろうか。
アルゴリズムと人間の意外な関係を実例から見直せば、どうやって機械とつきあっていけばいいかが見えてくる。ここでは本書を一部抜粋し再構成のうえ、顔認識アルゴリズムが招いた悲劇をご紹介しよう――。

誤認逮捕の悲劇

2014年、スティーヴ・タリーは南デンバーの自宅で眠っていた。すると、玄関のドアをたたく音が響いた。ドアを開けると、男が立っており、車をタリーの車にぶつけてしまったので外に出て確認してほしい、と言った。

渋々言われたとおりにしたタリーが傷を確かめようとしゃがみこんだ瞬間、閃光弾が投げられ、3人の男が現れてタリーを殴り倒した。ひとりが頭を踏みつけ、ひとりが腕を縛り、もうひとりが銃床で殴りつづけた。

タリーは神経を損傷し、血栓ができて、ペニスが折れる大怪我を負った。「まさかペニスが折れるものだとは、知りもしなかった」。彼はのちに記者に語った。「警察を呼んでくれ、と叫んでいた。でも、気づいたんだ、おれをぶちのめしてるのが警官だって」。

2件の銀行強盗事件の容疑者として逮捕されたタリーは、「おまえらはいかれてる」と叫んだ。

「人ちがいだ!」

その言葉はうそではなかった。タリーが逮捕されたのは、本物の銀行強盗にそっくりだったからだ。

次ページなぜ間違いが起きたのか?
関連記事
トピックボードAD
ビジネスの人気記事
トレンドライブラリーAD
連載一覧
連載一覧はこちら
人気の動画
パチンコ、「倒産」と「リストラ」ドミノの深刻背景
パチンコ、「倒産」と「リストラ」ドミノの深刻背景
空前の中学受験ブーム、塾業界の子ども争奪戦
空前の中学受験ブーム、塾業界の子ども争奪戦
そごう・西武、後釜に「ヨドバシ」が突如登場の衝撃
そごう・西武、後釜に「ヨドバシ」が突如登場の衝撃
AGCが総合職の月給3万円アップに踏み切る舞台裏
AGCが総合職の月給3万円アップに踏み切る舞台裏
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
会員記事アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
トレンドウォッチAD
  • 新刊
  • ランキング
東洋経済education×ICT