「暴言を吐くAI」「差別するAI」なぜ生まれるのか?

AIの暴走を防ぐ「責任あるAI」と「AI倫理」

AIの活用が広まる一方で、AIが「悪さ」をする事例が……(写真:Gearstd/PIXTA)
「暴言」を吐くAIチャットボット、「人種差別」をする犯罪予測AI、「男女差別」をする人材採用AI・与信審査AI……。
AI(人工知能)の活用が広まる一方で、AIが「悪さ」をする事例が問題となっている。なぜ、今、「AI倫理」が問われるのか。『責任あるAI 「AI倫理」戦略ハンドブック』を上梓したプロフェッショナルが、AIの暴走を防ぎ、トラブルが発生したときにも迅速に対応できる備えとしての「責任あるAI」について解説する。

AIが「悪さ」をする事例が

企業が成長を続け、競争優位性を保ち続けるためにAI(人工知能)の活用が不可欠となっています。一方で、AIチャットボットが「暴言」を吐いたり、犯罪予測AIが「人種差別」をしたり、人材採用AI・与信審査AIが「男女差別」をするなど、AIが「悪さ」をする事例が問題となっています。

『責任あるAI 「AI倫理」戦略ハンドブック』(書影をクリックすると、アマゾンのサイトにジャンプします。紙版はこちら、電子版はこちら。楽天サイトの紙版はこちら、電子版はこちら

例えば2016年には、マイクロソフトのAIボットTayが公開後まもなく人種差別的な暴言を吐くようになってしまったためサービスを停止しました。

2018年には、アマゾンが開発を進めていたAI活用の人材採用システムに性別の中立性が働かない=「男女差別」につながることがわかり、運用をとりやめることになりました。

2019年には、ゴールドマン・サックス社がアップルカードの利用者の信用スコアを算出する際、女性に不当に低いスコアが付けられ、クレジットカード限度額に差が生じていることが問題となり、大きな非難を受けました。

また2020年には、英国の資格・試験統制機関オフクァル(Ofqual:Office of Qualifications and Examinations Regulation)が取り入れたアルゴリズムによる成績予測評価が労働者階級やマイノリティーに属する生徒に不利な評価を下すことが判明し、抗議デモに発展しました。

AIが社会に浸透すればするほど、AIが悪さをした場合の社会的影響は大きくなっており、これを危惧する各国・地域の機関では法規制の動きも活発化しています。

次ページWHOが策定した6つの基本理念
関連記事
トピックボードAD
マーケットの人気記事
  • 映画界のキーパーソンに直撃
  • 晩婚さんいらっしゃい!
  • 日本野球の今そこにある危機
  • 買わない生活
トレンドライブラリーAD
人気の動画
ウーバーイーツ配達員の過酷
ウーバーイーツ配達員の過酷
イオン「フジ実質買収」で岡田会長が語った未来図
イオン「フジ実質買収」で岡田会長が語った未来図
採用担当者が嘆く「印象の悪い就活生」の共通点
採用担当者が嘆く「印象の悪い就活生」の共通点
ヤマト独走に待った!佐川・日本郵便連合の勝算
ヤマト独走に待った!佐川・日本郵便連合の勝算
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
統合から20年どこでつまずい<br>たのか みずほ 解けない呪縛

みずほ銀行が相次ぐシステム障害で窮地に陥っています。その根底には、3行統合から今に至るまで解決できていない呪縛と宿痾が。本特集ではみずほが抱える問題点をガバナンス面や営業面などから総ざらい。みずほは立ち直ることができるのでしょうか。

東洋経済education×ICT