食べログ点数訴訟に連なる｢AIによる差別｣の恐怖 カカクコムが焼き肉チェーン店に地裁判決で敗訴

食べログは「取引によって店の点数が変動することはいっさいない」とこの話を否定しました。一方でこのタイミングで点数が大幅に変更されたお店は他にもたくさん名乗り出てきました。しかし当時、アルゴリズムが開示されない以上、実際にはどのようなことが起きているのかが飲食店にはわからないという状況でした。

一方、ここが今回の裁判の画期的なところなのですが、今年1月に今回の裁判を通じて裁判所と韓流村にアルゴリズムが開示されたのです。ただしアルゴリズム開示は守秘義務契約の下で行われ、韓流村もその内容を口外することはできません。

私たち第三者にとって手掛かりになることは、判決で韓流村が食べログに対して「著しく不利益な要請も受け入れざるをえない状況にある」として食べログが優越的立場にあることを裁判所が認定したということです。公正取引委員会の基準でいえば「正常な商習慣に照らして不当なアルゴリズム変更があった」ことを裁判所が認定したということになります。

ただその「著しく不利益な要請」の中身が当事者以外にはブラックボックスのままで、いったいどのように食べログが優越的立場を行使しているのか、ないしはそうではないのか、依然状態はわからないままこの裁判は高裁へと場所を移すことになります。

AIの「点数化による差別」という新しい社会問題

さて、この問題、実はもうひとつ大きな社会問題につながる話です。それはAIのアルゴリズム差別の問題です。

この食べログ訴訟の判決を聞いて私が即座に「これは実はもっと大きな問題だ」と気づいたのは、最近、上梓した拙著『日本経済復活の書』の中でAIによる新しい差別について詳しく研究していたからです。そしてこの問題、韓流村のような企業だけでなく、読者であるあなた自身にもふりかかる可能性がある未来問題なのです。

今、食べログの評価点に限らず、さまざまな分野でアルゴリズムによる評価がなされるようになっています。そこで新しい社会問題になりつつあるのが「点数化による差別」です。

みなさんよくご存じの事件から話を始めます。複数の医大で入試の際に女性の点数を意図的に下げて不合格にしていたことが問題になりました。

実はこの問題、食べログ問題と同じだと言ったらどうお感じになるでしょう。医大入試の場合は出願者が「女性である」ことで点数が下げられました。韓流村の主張によれば「チェーン店である」ことで点数が下げられた。医大は教授会でそう決めて、食べログはブラックボックスのアルゴリズムがそうなっている。

ここが実は問題で「女性であるから差別された」というようなことは発覚しやすいのですが、アルゴリズムによって差別が起きるとそれは発覚も証明もしづらいのです。