「人殺し」を始めたAIの恐ろしい間抜けさ

背徳的用途への利用を監視すべきだ

AIの恐ろしさはその「スマートさ」ではない?(写真:metamorworks/PIXTA)

人工知能(AI)の脅威に対する警告で世の中はあふれ返っている。米国の起業家イーロン・マスク氏や元国務長官のヘンリー・キッシンジャー氏を含む多くの人々が、人類はいずれAIに駆逐されることになるかもしれないと警鐘を鳴らしている。そう、映画『ターミネーター』のように。

『ターミネーター』では自我を持ったコンピュータ「スカイネット」が世界を支配する。マスク氏らの警告を聞いて、人類はディストピア(暗黒郷)の入り口に立っていると思う人もいるだろう。

欠陥だらけのアルゴリズムによる殺人

だが、現実にはもっと差し迫った問題が起きている。AIはすでに人を殺し始めているのだ。軍や警察は人々を監視・査定し、結果的にその人物を殺害するかどうかという重大な決断を下すのにAIを使っている。しかも、そのアルゴリズムは欠陥だらけだ。

AIを使った対テロ作戦の危険性を筆者が初めて認識したのは5年前、イエメンでのことだった。米国によるドローン(無人機)攻撃で無実の民間人が殺害される事件が起き、私は首都サヌアで聞き取り調査を行っていた。殺害された2人の民間人のうち1人は警官で、もう1人はイマーム(イスラムの導師)だった。

イマームは攻撃の数日前にテロ組織「アルカイダ」を非難する説教を行っていたため、2人とも米国側の人物だった可能性がある。生き残った親族の一人で、技術者のファイサル・ビン・アル・ジャービル氏が私を訪ねてきて、こう聞いた。親族はなぜ標的にされたのか、と。

ファイサル氏と私は答えを求めて、アラビア半島から1.1万キロメートル離れた米ワシントンに飛んだ。ホワイトハウス高官はファイサル氏と面会したが、肝心の理由については誰も明かそうとしなかった。

次ページ明らかになった真相に世界が震撼
政治・経済の人気記事
トピックボードAD
関連記事
  • コロナ後を生き抜く
  • 小室淑恵 「覚悟の働き方改革」
  • 若者のための経済学
  • 晩婚さんいらっしゃい!
トレンドライブラリーAD
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
悪用された「ドコモ口座」<br>セキュリティーに3つの問題

「ドコモ口座」を使った預金の不正引き出し事件。背景としては、回線契約がなくても口座が使える「ドコモ口座」自体と、安全性の脆弱なシステムで口座接続していた銀行側の双方に問題がありました。情報漏洩の経路も不明で、今後の対応が問われています。

東洋経済education×ICT