自動運転車の事故はだれが責任をとるべきか 哲学者が考える「自動運転社会」の責任の所在

ブックマーク

記事をマイページに保存
できます。
無料会員登録はこちら
はこちら

印刷ページの表示はログインが必要です。

無料会員登録はこちら

はこちら

縮小

そのような人間が、自動運転車に悪意ある操作を行うだろうことは十分に想像の範囲内であるし、その方法も無数に想定できる。開発者がデバッグに備えてコードを残しておいたとするなら、そのコードを利用して操作を乗っ取り、自動運転車に事故を起こさせることはできそうなことである。

その自動運転車に通信による監視と外部操作の機能が備わっている場合、そのプロトコルが流失してしまえば、第三者がその種の自動運転車を運転できることになる。

自動運転車を構成する部品の外注先に賄賂を渡したり脅迫したりして、外部操作を可能にさせるチップを取り付けさせるのもいいだろう。われわれには絵にしか見えないが、自動運転車の画像判別システムには道にしか見えない画像をビルに掲げておけば、そのビルに自動運転車は突っ込むかもしれない。

さらに単純に、交通標識の一部にテープやシートを張っておくだけで、自動運転車は勝手に事故を起こすかもしれない。自動運転車の事故が、その挙動の原因が解らないという根拠によってすべて悪意のない不運な事故だと見なされてしまうなら、悪意ある人間にとっては格好の「遊び場」が誕生することになる。

もちろん、このような悪戯は、技術的に解決可能かもしれない。だが、開発者、メーカー、搭乗者の善意には従うように動作するが、悪意には絶対に従わないような自動運転車のシステムがデザインできるようには思えない。

なぜなら、人間が取りうるあらゆる行動やそれぞれの行動の善悪の判断すべてをコード化したり、学習させたりすることはできそうにない。仮にできたとしても、そのために必要なハードウェアを自動車に搭載することにどれほどの合理性と経済性があるかは疑問だからである。

必要な規範とは

そもそも、他者の行為や発言が善意に由来するのか、それとも悪意が背景にあるのか、その場で正確に判断できる人間はどれだけいるだろうか。

自動運転車、そして人工知能は、悪意が少なからず存在するわれわれの社会に受け入れるには、あまりにも無垢すぎる。それでもなお、自動運転車や人工知能を社会の中で有意義に活用しようと望むのであれば、人工知能を悪意から守る規範を社会の側で用意しておかなければ、かえって社会の崩壊を招きかねない。

その用意すべき規範は、法やルール、安全審査基準にとどまらず、悪意から自動運転車や人工知能自体を保護するための設計デザインにも及ぶべきである。そのような規範はどのようなものか、という問いに返答を与えることは、現在の筆者にできそうにない。ただし、この規範は、メーカーや開発者を不当に縛るものでは必ずしもないだろう。

というのも、この規範は、自動運転車に関わるすべての人間を悪意から守るものであり、その規範に沿うような技術を開発することは、さらなるイノベーションを生み出すことでもあるからである。

本連載は、科学技術振興機構(JST)社会技術研究開発センター(RISTEX)による研究開発領域「人と情報のエコシステム」に協力を仰いだ。同プロジェクトの詳細は下記リンクを参照のこと。
RISTEX「人と情報のエコシステム」
松浦 和也 東洋大学文学部哲学科准教授
まつうら かずや / Kazuya Matsuura

東京大学文学部卒業、東京大学大学院人文社会系研究科修了。博士(文学)。東京大学大学院人文社会系研究科助教、秀明大学学校教師学部専任講師を経て、2018年より東洋大学文学部哲学科准教授。専門はギリシア哲学。主要業績に『アリストテレスの時空論』(知泉書館)がある。哲学的考察を媒介にして、科学技術と市民、社会を円滑に結びつけるための研究開発活動を行っている。

この著者の記事一覧はこちら
ブックマーク

記事をマイページに保存
できます。
無料会員登録はこちら
はこちら

印刷ページの表示はログインが必要です。

無料会員登録はこちら

はこちら

関連記事
トピックボードAD
自動車最前線の人気記事