｢このまままでは日本は『バーチャルスラム』化する｣ Interview｜『AIと憲法』編著者 山本龍彦

NTTドコモやヤフーなど日本の大手企業が、利用者の信用を数値化する信用スコア事業に参入すると、最近立て続けに発表した。信用スコアがさまざまな領域で使われる「スコア化社会」は個人を幸福にするのだろうか。

慶応義塾大学法科大学院 教授 山本龍彦
やまもと・たつひこ●1976年東京生まれ。99年慶応義塾大学法学部卒、2005年同大学院法学研究科博士課程単位取得退学。桐蔭横浜大学准教授を経て現職。著書に『おそろしいビッグデータ』（朝日新書）（撮影：尾形文繁）

スコア化社会のポジティブな側面は、各種の煩雑な手続きが省略され便利で効率的になることだ。また個人間のネット取引などでも相手が高スコアなら安全性が一定程度担保される。監視カメラで行動が捕捉されスコアが低下するとなれば、信号無視やスピード違反が激減して社会の安全にもつながるだろう。

他方でネガティブな側面も少なくない。一つは過去の差別の再生産につながることだ。アマゾンは採用選考で用いていたAI（人工知能）が技術職において男性を優遇していることがわかったとして廃止した。過去採用された技術者は男性が多かったためだが、学習データが歪むとAIは過去のバイアスや差別を承継することになる。

二つ目は超監視社会の出現だ。AIに良く評価してもらうために、個人はデータ上に良く現れ続けなければならない。すべての行動がスコアと関連づけられ、安全だが予定調和的な管理社会となる。

三つ目は「バーチャルスラム」化の懸念だ。バーチャルスラムとは、AIスコアリングのプロセスが「ブラックボックス化」しうるため、再挑戦の機会が失われ、評価の低い人たちが固定化し、社会的に排除される可能性があることだ。政府は国家戦略特区などでAIやビッグデータを活用した「スーパーシティ」を検討しているという。ハイスコアな人にとってはユートピアでも、ロースコアの人には生活が著しく不便になる“生き地獄”のようなまちづくりには決してなってはならない。