歩行者を殺すのか、同乗者を殺すのか？自動運転車の複雑な倫理。

次のシナリオを想像してください。道路を運転していると、突然、どこからともなく、一人の歩行者があなたの道に飛び込んできました。道は狭く、両側が柵で囲まれているため、選択肢は限られています。そのまま直進して歩行者と衝突するか、柵のいずれかに逸れて歩行者を救うことができます。あなたは何を選びますか？

次に、道路に歩行者が 1 人ではなく 5 人いるシナリオを想像してください。 10. 答えは変わりますか?

無人自動車の台頭

自動運転車（人間の制御なしに乗客を運転するようにプログラムされた車）は、かつては SF から出てきたアイデアでした。今、それらは徐々に現実になりつつあります。

Googleはすでにプロトタイプのテストを行っているその自動運転車米国の一部の都市では公道で走行しており、テスラなどの他の企業も独自バージョンの自動運転技術の開発に取り組んでいる。数年から数十年以内に、そのような車両が大量生産され、道路に常備されるようになる可能性があります。

そして多くの専門家は、これは良いことだと信じています。

運輸省によると、米国だけでも毎年数万人が自動車事故で死亡し、数百万人が負傷している。これらの事故の大部分は人的ミスによるものであると科学者らは示唆しているが、交通規則に従うようにプログラムされた無人運転車なら回避できる可能性があるという。いくつかの研究では、自動運転車の使用により交通事故の最大 90% を回避できる可能性があると示唆されています。

しかし、自動運転車は、あらゆる状況に対応できるように事前にプログラムしておく必要があるという事実は、業界にとってある種の困難を引き起こしています。誰かが負傷することが避けられない状況で車両は誰を犠牲にするべきかなど、車が道路を走行する前に答えなければならない倫理的な問題がいくつかあります。

「実際にこれらの車を設計している人々は、これが重大な問題であると認識しています」と述べた。ジェイソン・ミラー、オープン・ロボ倫理イニシアティブ（ORi）の主任倫理アナリスト、オタワ大学法学部の博士研究員。ミラー氏は今回の研究には関与していないが、過去に同様の研究を実施したことがある。

コモンズの悲劇

新しい研究は、多くの困難な倫理的シナリオを提示した一連の調査に基づいています。

1つでは、車が道路から逸れて乗客を死亡させるか、乗客を救って10人の歩行者を死亡させるかのどちらかでなければならない。別のケースでは、車は歩行者 1 人または 2 人の歩行者を死亡させなければなりませんが、どちらの場合も乗客は無傷です。そして別のケースでは、車は道路上の歩行者20人を死亡させるか、方向転換して同乗者と同乗者の子供の両方を死亡させなければならない。この調査には、これらのタイプのシナリオが合計 6 つ含まれています。

「私たちが発見したのは、大多数の人が自動車はより良い利益のために乗員を犠牲にするべきだと強く感じているということだった」と述べた。ジャン＝フランソワ・ボヌフォン新しい研究の筆頭著者であるトゥールーズ経済大学の水曜日の電話会議で述べた。

全体として、回答者は、たとえ乗客を犠牲にしなければならない場合であっても、多数のために少数を犠牲にすることが最も道徳的であると感じる傾向があった。

たとえば、乗客 1 人か歩行者 10 人のどちらかを犠牲にしなければならない状況では、参加者の 76% が乗客を犠牲にすることが最も道徳的であると考えました。さまざまなシナリオを通じて、このシステムに対する道徳的承認は、より多くの人が救われるほど高くなる傾向がありました。

マッシュ可能な光の速度

家族や子供たちも加えると、結果は少し複雑になりました。

他の人が車に乗っている場合、たとえより多くの歩行者を救うためであっても、乗客を犠牲にすることの道徳性に対する参加者の信念は低下した。しかし、このような状況であっても、参加者の半数以上は、これが最も道徳的な選択であると感じていました。

しかし、こうした決定を誰が規制すべきなのか、またそのような車を購入するのは自分自身なのかという考えになると、参加者の気持ちは変わった。

参加者は総じて、政府が実用的な車両、つまり乗客を犠牲にしてでも最も多くの人を救うようにプログラムされた車両を強制するという考えに消極的だった。そして、この種の規制がある自動運転車を購入すると言う可能性ははるかに低かった。しかし彼らは、どんな犠牲を払ってでも乗客を守るようにプログラムされた種類の車両を購入すると答える可能性が高かった。

研究者らは、こうした反応を「共有地の悲劇」になぞらえた。これは、共有資源が危機に瀕すると、個人は共通利益を考慮する代わりに自分の利益のために行動し、それによって資源が枯渇することを示唆する経済理論である。そしてみんなに危害を与えます。

「たとえあなたが、自己犠牲的な車を喜んで買う高貴な人間の一人としてスタートしたとしても、ほとんどの人が自己防衛のために車を購入しているとわかれば、自分が危険にさらされているときは考え直すようになるでしょう」誰も担おうとしないときに集団の重荷を背負うのです」と語った。イヤド・ラーワンマサチューセッツ工科大学のもう一人の共著者。

しかし、ミラー氏によれば、この一見希望的観測に満ちた行動さえ驚くべきことではないという。

「これは、私たちが何世紀にもわたる倫理学の研究と、数十年の道徳心理学の研究から知っていることです」と彼は言う。「自動運転車に対する人々の態度について、私たちがまだ知らなかったことや、簡単に予測できなかったことは何もわかりません。」

実際、特に自動運転車に関するこうした疑問を調査したのはこの研究が初めてではない。ミラー氏とオープン・ロボエシックス・イニシアチブの同僚たちは、次のような調査を実施した。同様の状況（そして参加者からも同様の結果が得られました）。

未来へのドライブ

Mashable Image

クレジット: イヤド・ラーワン

この研究は人間の心理について特に新しい洞察を明らかにしなかったとしても、テクノロジーの将来とそれをどのように規制すべきかについていくつかの興味深い疑問を引き起こしました。

いくつかの潜在的なオプションがあります。メーカーは、自社の車をどのようにプログラムするかを決定する責任を負う可能性があります。政府はすべての車両に適用される一連の規制を作成する可能性がある。あるいは、消費者が自分の車両で設定を作成できるようにすることもできます。

メーカーが自由に車をプログラムできるようにすること自体が、ある種の倫理的困難を引き起こすとミラー氏は指摘する。

「それはエンジニアリングの専門知識の通常の範囲ではありません」と彼は言いました。「彼らは倫理学者ではありません。」

「これらの種類の問題やクラッシュの問題には、数値を処理しようとするエンジニアリングの専門知識に簡単に従わない興味深い機能がすべて備わっています。」

同氏は、設計上の制約により、ユーザーが自分の車両のプログラミングを微調整できるようにすることも非常に困難になる可能性が高いと付け加えた。つまり、将来的には政府による規制を認めることが最も合理的な選択となる可能性が高いということだ。

そうは言っても、研究者らは論文の中で、政府による規制、特にそれが功利主義的な方向に進む場合には、その技術を導入しようとする国民の意欲を妨げる可能性があると指摘している。そして、自動運転車は、運転体験から人的ミスを排除するだけで非常に多くの命を救うことが期待されている（他の倫理的問題はすべて別として）ことを考えると、それも問題となるだろう。

人々がアンケートで行うと言ったことと、実際に行うことは異なる可能性があります。

しかし、一部の専門家は、これが問題になるとは確信していません。

「人々がアンケートでやると言うことと、実際にやることは全く別のことかもしれない」と同氏は述べた。パトリック・リン、カリフォルニア工科大学倫理 + 新興科学グループのディレクター、電子メールで。リン氏は、自動運転車の倫理に関連する問題についても広範な研究を行ってきました。

「例えば、エアバッグは今日、一部のドライバーを傷つけ、命を落としています」と彼は続けた。「これは、状況によってはエアバッグによって死亡する可能性があるということです。しかし、その可能性を理由に車の運転を拒否する人を私は知りません。同じことが自動運転車にも当てはまります。自動運転車はより大きな利益のために意思決定を行うかもしれませんが、乗客に害を及ぼす可能性があります。」

いずれにせよ、研究者らは、この種のプログラミング上の決定を行う際には、論文で提示した状況の範囲を超えて考慮すべき複雑な要素が他にも多数あることを認めています。

たとえば、歩行者が違法な行動をしている場合、それは車両の動作に影響を与えるべきでしょうか?事故によってどちらも危険にさらされるとしても、ある人が別の人よりも事故で生き残る可能性が高い場合、それを考慮に入れる必要がありますか?無人運転車両の動作によって生じた損害について、誰が責任を負うべきなのでしょうか?

したがって、答えるべき多くの疑問が残されており、テクノロジーが進歩して商用アプリケーションに近づくにつれて、それらはさらに複雑になる可能性があります。

「自動運転車は交通手段に革命をもたらし、道路上の死亡者の大半をなくす可能性を秘めています」とラーワン氏は語った。「しかし、テクノロジーの安全性の向上に取り組む中で、テクノロジーがもたらす心理的および社会的課題も認識する必要があります。」

この話に何か付け加えることはありますか？コメントで共有してください。

トピックス車