自動運転車の倫理的ジレンマの問題点は「倫理の強制」

運転リハフォーラムの中でもテーマになった「自動運転車(フルオート)の倫理的ジレンマ」は、トロッコ問題の延長として議論されており、結論は未だ出ていませんが、

2022年6月にドイツの自動車メーカーであるアウディが、「自動運転に関する通説と真実」というレポートを発表し、この中にトロッコ問題についての同社の見解が以下のように述べられています。

通説7:
極端なケースでは、自動運転車は生死を決定する必要がある。
自動運転に関して、現時点における判断は、クルマではなく、クルマをプログラムする人間によって行われます。クルマは、ソフトウェアで規定されていることのみを行います。そして、これまでに実施された研究では、自動運転車では、人的要因によるエラーの影響が大幅に削減されることが示されています。例えば、これまでのクルマで長距離走行をした場合、ドライバーの疲労による運転ミスが発生する可能性が高まります。

多くの人々は、危険な状況下で、機械が正しい判断を下すことができるのかについて疑問視しています。しかし、自動運転に関して、このような疑問が生じたのは今回が初めてではありません。実際、「トロッコ問題」に示されているように、それは何十年にもわたって倫理問題として議論されてきました。この思考実験では、暴走したトロリーの状況を考察しています。トロリーの本来の軌道上には、5人の人間が縛られており、トロリーを別のルートに迂回させることは可能ですが、そのレール上にも1人の人間が動けない状態になっています。ある人が、トロリーを迂回させた場合、これは犯罪行為になるでしょうか?このようなケースでは、何もするべきではないのでしょうか?あるいは、トロリーを迂回させることができる人は、状況を把握した上で、可能な限り犠牲者を減らすための選択をすべきでしょうか?

自動運転ではこの議論が復活しました。しかし、スペシャリストによると、この調査では危険な状況で自動運転車は独自に決定を下すのではなく、代わりに、ソフトウェア開発者によって与えられた選択肢のみを実行すべきであるということが、現在の議論の中心となっています。つまり、ソフトウェアは、それを設計した人々の倫理的基準と価値観に基づいた決定を下すことが可能で、ソフトウェア自体は独自の解釈をすることなく、それらの決定を実行するだけであるということです。

*アウディプレスhttps://www.audi-press.jp/press-releases/2022/b7rqqm000001l8d0.htmlより引用。

 

このレポートでは、自動車運転車自体が個別の判断をするわけでなく、ソフトウェア開発者が作成したプログラムに沿って判断される。と書いてあります。この文書が自動車メーカーとして自動運転車の推進を目的に作成されていると仮定すれば、この回答によってトロッコ問題が克服可能であることを表現しているのだと考えられますが、自動運転車のトロッコ問題の核心は、このレポートが言っているような「どのようにプログラムするか?」ではありません。トロッコ問題を合理的に解決するプログラムはいくつもありますが、いずれのプログラムであっても「プログラムによる解決=特定の倫理(緊急時に誰を救うべきか?)をドライバーに押し付ける(強制される)」ことになり、この点の是非が最大の論点だと当会は考えています。

例えば、常に乗員の生命を最優先するようにプログラムした場合(自動車メーカーの顧客はドライバーですからこう考えても不思議ではありません)、実際に事故が起きると歩行者が被害をこうむりますが、現在の法制度では、いかなる理由であっても歩行者は被害者となります。他方で自動車運転車が世の中を走り回る時代において、飛び出した歩行者が被害者にと呼ばれる可能性がどの程度あるでしょうか?もしかすると、歩行者が衝突したことで損害を被った車両の修復について歩行者が責任を負わされたり、責任は負わされないが、世論としての加害者・被害者の関係性(被害者は歩行者で加害者はドライバー)という、既存の社会的価値判断が反転(被害者は自動車で加害者が歩行者)する可能性もあるかもしれません。

また、次のような悲惨な結末も想像できるかもしれません。自動車の価格によって、異なるプログラムでシステムを動かす。という解決策です。

このように、自動運転車というこれまでの自動車とは全く異なる移動手段を、私たちが社会に実装するということが、単に運転が楽になったり、自動車事故が減少したりという、目先のニーズを満たすだけでなく、社会の在りように大きな変化を与える可能性がある問題なのだと、皆さんには考えてほしいと願っています。そもそもイノベーションとはそういうものです。

 

所詮私の想像でしかありませんが、このようなきわめて反社会的な移動手段にならないことを願うばかりです。

 

by 理事長
2022年07月17日