倫理原則で論点を整理しても、たとえば効率性と公平性が衝突したとき、どちらをどこまで重視するかは自動的には決まらない。AIに任せようとする仕事をどれだけ分解・分析したとしても、技術的な実行可能性やリスクは精査できるかもしれないが、価値判断そのものは決まらない。
社会善から、AIと人間の役割を逆算する
むしろ、最終的にどのような社会や企業の状態を実現したいのか、という問いから、AIと人間の役割分担を逆算する必要がある。
順序としては、まず自社が実現したい価値を定め、次にそのために守るべきものをAI倫理の観点から検討し、そのうえで、どの判断をAIに任せ、どこに人間が関与するかを決める。
ここでいう「目指す価値」を、自社の利益や効率だけで定めるのでは不十分である。AIシステムは、設定された目的や評価基準に沿った結果を出力、生成する。そこで自社の利益だけを目的に据えれば、審査に通りにくい層を効率よく排除することや、過去の格差をそのまま再生産することが、結果として合理的な選択になり得る。
しかもAIを使えば、同種の判断が大量かつ高速に繰り返されるため、1件では小さな偏りでも、積み重なれば社会全体に及ぶ影響となる。
だからこそ、目指す価値は「自社にとって何が得か」だけでなく、「人や社会、環境にとってどのような状態が望ましいか」という社会善まで視野に入れる必要がある。ここでいう社会善とは、人間の生活や自然環境のウェルビーイングを損なう問題を減らし、社会的に望ましく持続可能な発展につなげることである。
これは利益追求を否定するものではない。社会から信頼されない形でAIを使えば、規制の強化や顧客・従業員の離反などを通じて、事業の持続可能性を損なうおそれがある。社会善を参照することは、長期的な企業価値を守る観点からも重要である。
とはいえ、「善き社会とは何か」を個々の企業がゼロから考える必要はない。SDGs、DE&I（ダイバーシティ、エクイティ＆インクルージョン）、自社の企業理念やサステナビリティ方針、行動規範など、すでに蓄積された価値基準を参照できる。
AI4SG（社会善のためのAI）をめぐる議論でも、倫理原則を具体的な設計要件へ落とし込む枠組みが提示されている。また、SDGsのような既存の社会的目標は、「何を目指すのか」を考える参照枠になり得る。SDGsや企業理念は「何を目指すのか」の参照枠、AI倫理は「その方向へ進む際に何を検討すべきか」の枠組みだといえる。
※ログイン後、コメント入力が可能です。