自動運転車の事故はだれが責任をとるべきか

哲学者が考える「自動運転社会」の責任の所在

そのような人間が、自動運転車に悪意ある操作を行うだろうことは十分に想像の範囲内であるし、その方法も無数に想定できる。開発者がデバッグに備えてコードを残しておいたとするなら、そのコードを利用して操作を乗っ取り、自動運転車に事故を起こさせることはできそうなことである。

その自動運転車に通信による監視と外部操作の機能が備わっている場合、そのプロトコルが流失してしまえば、第三者がその種の自動運転車を運転できることになる。

自動運転車を構成する部品の外注先に賄賂を渡したり脅迫したりして、外部操作を可能にさせるチップを取り付けさせるのもいいだろう。われわれには絵にしか見えないが、自動運転車の画像判別システムには道にしか見えない画像をビルに掲げておけば、そのビルに自動運転車は突っ込むかもしれない。

さらに単純に、交通標識の一部にテープやシートを張っておくだけで、自動運転車は勝手に事故を起こすかもしれない。自動運転車の事故が、その挙動の原因が解らないという根拠によってすべて悪意のない不運な事故だと見なされてしまうなら、悪意ある人間にとっては格好の「遊び場」が誕生することになる。

もちろん、このような悪戯は、技術的に解決可能かもしれない。だが、開発者、メーカー、搭乗者の善意には従うように動作するが、悪意には絶対に従わないような自動運転車のシステムがデザインできるようには思えない。

なぜなら、人間が取りうるあらゆる行動やそれぞれの行動の善悪の判断すべてをコード化したり、学習させたりすることはできそうにない。仮にできたとしても、そのために必要なハードウェアを自動車に搭載することにどれほどの合理性と経済性があるかは疑問だからである。

必要な規範とは

そもそも、他者の行為や発言が善意に由来するのか、それとも悪意が背景にあるのか、その場で正確に判断できる人間はどれだけいるだろうか。

自動運転車、そして人工知能は、悪意が少なからず存在するわれわれの社会に受け入れるには、あまりにも無垢すぎる。それでもなお、自動運転車や人工知能を社会の中で有意義に活用しようと望むのであれば、人工知能を悪意から守る規範を社会の側で用意しておかなければ、かえって社会の崩壊を招きかねない。

その用意すべき規範は、法やルール、安全審査基準にとどまらず、悪意から自動運転車や人工知能自体を保護するための設計デザインにも及ぶべきである。そのような規範はどのようなものか、という問いに返答を与えることは、現在の筆者にできそうにない。ただし、この規範は、メーカーや開発者を不当に縛るものでは必ずしもないだろう。

というのも、この規範は、自動運転車に関わるすべての人間を悪意から守るものであり、その規範に沿うような技術を開発することは、さらなるイノベーションを生み出すことでもあるからである。

本連載は、科学技術振興機構(JST)社会技術研究開発センター(RISTEX)による研究開発領域「人と情報のエコシステム」に協力を仰いだ。同プロジェクトの詳細は下記リンクを参照のこと。
RISTEX「人と情報のエコシステム」
自動車最前線の人気記事
トピックボードAD
関連記事
  • ポストコロナのメガ地経学ーパワー・バランス/世界秩序/文明
  • 最新の週刊東洋経済
  • 財新
  • 実践!伝わる英語トレーニング
トレンドライブラリーAD
人気の動画
ホンダ「4代目フィット」がイマイチ売れていない理由
ホンダ「4代目フィット」がイマイチ売れていない理由
京セラのガラパゴススマホ「トルク」がたどり着いた境地
京セラのガラパゴススマホ「トルク」がたどり着いた境地
「人のために働く職業ほど低賃金」な根深い理由
「人のために働く職業ほど低賃金」な根深い理由
「半導体パニック」自動車産業に与える巨大衝撃
「半導体パニック」自動車産業に与える巨大衝撃
アクセスランキング
  • 1時間
  • 24時間
  • 週間
  • 月間
  • シェア
トレンドウォッチAD
激動相場に勝つ!<br>株の道場

6月18日発売の『会社四季報』夏号が予想する今期業績は増収増益。利益回復に支えられる株価が上値を追う展開になるか注目です。本特集で株価が動くポイントを『会社四季報』の元編集長が解説。銘柄選びの方法を示します。

東洋経済education×ICT