ボーイングとエアバスに見る自動運転の現実 人間の意図を機械はどこまで理解できるのか

自動運転の研究が進むほど、機械にやらせる難しさが明らかになってきた

清水：前方の飛行機を急旋回で避けようとしたら、オートパイロットを切らないといけないのでしょうか。

稲垣：そうです。エアバスのシステムのように、機械による抑止を人間がオーバーライドできないようにする方式はハードプロテクションと呼ばれています。これ以上のリスクは許さないというシステムを使うことは、あたかも大きな繭の中にいるようなもの。繭の内部では自由に飛ぶことができても、繭から出ることはできません。

しかし、プロテクションが厳しいために事故になったことがあります。パイロットがオートパイロットを外して対応すればよかったのですが、訓練不足などのためオートパイロットを外す手順が実行できず、事故になりました。機械がよかれと思っていることが裏目に出たわけです。

清水：それは怖いですね。

正常に操縦できなくなったときの対処が重要だが…

稲垣：もちろん事故が起こるたびにエアバスも改修していますし、ハードプロテクションがいつも悪いともいえないんです。ボーイングはステアリングに一定の加速度をかければオートパイロットを外せますが、たとえば、パイロットが心臓発作を起こして操縦桿に覆い被さっているとしたらどうでしょう。エアバスのハードプロテクションなら、機体が急降下するのをシステムが回避してくれるでしょうが、ボーイングのソフトプロテクションではそれができません。

清水：自動車業界では「デッドマン」と呼ぶ事例ですね。レアケースではありますが、運転中に発症した心筋梗塞が原因の交通事故が実際に起きています。パイロットが正常に操縦できなくなったとき、どうするかは真剣に考えなければなりませんね。

稲垣：現在はボーイングの航空機にもエアバスのようなハードプロテクションが導入されています。いざというとき人間に主導権を戻しやすいのがボーイングですが、絶対にやってはいけない境界もあり、その場合は人間の入力を意図的に無視して、違うやり方を認めないようにする。エアバスのいいところをボーイングが採り入れている格好ですね。一方のエアバスは「人間はエラーを犯す」というのが根本にあるので、何かしらエラーが起きても機械で制御しようという考え方が強いようです。

清水：車が自動運転になればヒューマンエラーによる事故を減らせるだろうと思っていましたが、自動運転の研究が進むほどに、人間と同じことを機械にやらせる難しさが明らかになってきました。人間の感覚や行動をシステム化するには、どういった技術が必要なのでしょうか。