生成AI時代に注目される｢古代ギリシャの美徳｣ リスクを避けAIを正しく使う｢人類の英知｣

モントリオールAI倫理研究所が2020年10月に公表したレポート「The State of AI Ethics Report（October 2020）」には、古代ギリシャ以来西洋において中心的となっている徳目、「枢要徳」について触れられている。生成AIの文脈に照らし合わせて、この4つの徳目について見ていこう。

思慮（Prudence）

1つ目の徳は思慮（Prudence）である。生成AIの利活用における思慮深さとは、生成AIの影響とその限界を正しく理解し、従来の方法ではなくAIを使って問題を解決する、あるいはAIによって問題を解決することの機会費用（最大利益を生む選択肢とそれ以外の選択肢との利益の差）を評価できるということである。生成AIは多目的に使える汎用AIのため、これまでできなかったことを可能にするポテンシャルを秘めている。しかし多くのリスクも存在しているのが現状である。何ができて、何ができないのか、どんなリスクがあって何をしてはいけないのか、を理解し正しく使う「思慮深さ」が必要だ。

一方、身の回りにも生成AIによるコンテンツは今後ますます増えてくる。しかし、それらがすべて無害であるとは限らない点が問題だ。誤りを含んでいたり、ディープフェイクのようにそもそも存在しないものをあたかも本人の発言であるかのように偽って発信されている可能性もある。そのため、我々の倫理観が試されているのだ。ドイツのインゴルシュタット工科大学の研究チームが「Scientific Reports」に投稿した論文によると、トロッコ問題についてChatGPTが生成したアドバイスが、人間の倫理的な判断に影響を与える可能性があることを指摘している。

トロッコ問題は思考実験としても有名な実験なのでご存じの方も多いだろう。トロッコの進路には人がいてその進路を変えるスイッチを操作できるが、その操作によって犠牲となる人数が変わる場合に、人はどう判断するのかという問題である。この問題にはさまざまなバリエーションが存在するが、前述の研究チームが採用したのは以下の2つのパターンである。