ボーイングとエアバスに見る自動運転の現実 人間の意図を機械はどこまで理解できるのか

稲垣：自動運転の車がある場面に遭遇したとき、まずは状況をセンシングし、何が起きているかを理解し、一般的な人間と同じような判断をすることが期待されます。この状況理解のプロセスをプログラミングするときには人工知能のアプローチが必要になります。

さらに、状況理解に応じて何かを操作するときにはエキスパートのスキルが欲しいところですが、清水さんのような運転を自動運転で実現するには生半可なプログラムではできません。清水さんがどのようなノウハウを持ち、何を検知して卓越した運転スキルを発揮しているのか。エキスパートのスキルを抽出する領域は相当に難しいです。

清水：私が人生を賭けて築いてきたノウハウやスキルを簡単にコピーされては困ってしまいます (笑)。さて、スキルの抽出や再現が人工知能の領域だということは、HMIはもっと次元が違う話ですね。

HMIの領域とは？

「機械が人間の気持ちを読み取る必要もある」「HMIは機械が今考えていることを人間に提示し、また、人間の意図を理解するための道具でもある」

稲垣：HMIは人間と機械の境目、境界面という意味合いを持った表現で、主に二つの意味があります。ひとつは人間が機械を理解するための情報提示のこと。30年ほど前の話ですが、ホテルの火災警報器が鳴らなかったために大勢が犠牲になった事故がありました。ホテル内の警報機は誤作動が多く、サイレンがうるさいとクレームが多かったため、大元のスイッチを切っていたのです。

そのため、警報システムは作動できなくなっていたのですが、何も知らない宿泊客は「いざというときは警報が鳴る」と思っていました。こういった話は航空機にもありますし、その他の領域にも事例があります。このことは、「システムが本当に作動しているか否か」がいかに重要な情報であるかを物語っています。

私たちの言葉でいえば、システムの作動状態をHMIが適切に誤りなく伝えることができるかどうかということです。自動運転の場合なら、車が自分と同じように周囲の状況を認識してくれているのか、自分と同じように操舵してくれるのか、次に何をしようとしているのかなど、機械が今考えていることを情報として提示する。こういったものがHMIです。

清水：その反対に、機械が人間の気持ちを読み取る必要もありますね。人間がどういう操作をして、どっちに行こうとしているのか。そこは機械と人間が対話しているような感じなのかなと。

稲垣：たとえば、機械はステアリングにかかる力から人間の意図（たとえば右折しようとしていること等）がわかりますから、ちょっとハンドルを回す力をプラスして人間の負担を軽減するといった支援ができます。また、ペダルの動きからブレーキを踏もうとしていることを検知することができます。そのようなとき、人間が軽く踏んでも十分な制動力が発揮されるように支援することも可能です。つまり、HMIは機械が人間の意図を理解するための道具でもあるのです。

（後編へ続く）