月曜早朝、自動運転モードにあるウーバー所有のボルボ歩行者をはねて死亡させた。悲劇が起きたとき、車両には人間の運転手がハンドルを握っていました。
この事件は、自動運転車が実現する前から倫理学者が議論してきた道徳的問題に突然の緊急性をもたらした。「この死は誰のせいだったのか?」
自動運転車が歩行者に死亡事故を引き起こすのは初めてとみられる。
私たちが前例に最も近いのは、2016 年に自動操縦中のテスラが事故を起こし、運転手が死亡した事故です。 8か月にわたる調査の後、連邦自動車安全規制当局は車両のシステムに欠陥は見つかりませんでしたと判断し、テスラは同モデルをリコールする必要がないと判断した。
しかし、今回の事件は違います。テスラのシステムは技術的には自動運転ではないため、ドライバーはより多くの責任を負うことになります。そして、歩行者の死は運転者の死とは異なるため、別の一連の疑問が生じます。
私たちは専門家に、これらの疑問の一部とその答えを尋ねました。
誰が法廷に出るの？
ウーバー、ボルボ、サプライヤー、運転手、歩行者…誰が責任を負うのか?
それは間違った質問であることがわかりました。
実際、それは質問です2015 年のスタンフォード ロー スクールの記事この論文は「具体的ではあるが役に立たない」とし、「『明日の自動衝突事故の責任は誰にあるのか？』という問いかけは役に立たない」と指摘した。要約すると、「今日の従来の衝突事故の責任は誰にあるのか？」と尋ねるようなものです。答えは「それは状況による」です。
ドライバーからウーバー、ボルボ、個々の自動車部品のサプライヤーまで、あらゆる人できた起訴されるかどうかは、進行中の警察捜査の結果次第だ。
車の「運転手」であるラファエル・バスケスさん（44）が車を「だましていた」ことが警察に判明すれば、窮地に陥る可能性がある。
産業システム教授のアリ・アッバス博士によると、多くの衝突回避アルゴリズムが機能するには、車に乗っている人の数と座っている場所、周囲の車に乗っている人の数などの特定の情報が必要です。南カリフォルニア大学で工学と公共政策を専攻し、同大学の倫理的リーダーシップと意思決定のためのニーリーセンター所長。これらのアルゴリズムの一部はゲーム可能になる可能性があります。たとえば、ドライバーは、誤って多数の乗客を運んでいると主張することで、アルゴリズムによっては、自分の車や他の車をだまして他人の命よりも自分の命を優先させる可能性があります。危機に関する決断を検討する。
現時点ではこの行為を禁止する法律はないが、ここでドライバーの欺瞞が行われた場合、「将来的には法的検討の対象となる可能性がある」とアッバス氏は言う。
マッシュ可能な光の速度
最近発売されたのはビデオ映像前述のスタンフォード法の記事の著者であるブライアント・ウォーカー・スミス氏によると、これはドライバーに過失がある可能性があることを示しています。スミスはサウスカロライナ大学ロースクールの助教授であり、米国運輸省の交通自動化に関する諮問委員会のメンバーです。
「注意深く注意してみると、ビデオが停止する約 2 秒前に被害者に気づきます」とスミスさんは私に語った。 「これはドライバーの平均反応時間に似ています。つまり、警戒しているドライバーは少なくとも方向転換やブレーキを試みた可能性があることを意味します。」
映像には、バスケスが何度も道路から目をそらしている様子も映っている。
対照的に、ウーバーは、欠陥があると知りながら自動運転車を公道に放流していたことが判明すれば、窮地に陥る。
警察はウーバーのアルゴリズムが完璧かどうかを問うべきではないが、ウーバーが自社の欠点をどれだけ知っていたかという問題はあるかもしれない。
「今日私たちが持っているアルゴリズムは、10～15年後には私たちが持っているアルゴリズムではないでしょう」とアッバス氏は私に語った。 「同社は、街頭に導入する前に、自社のアルゴリズムが機能することをどの程度正確に知っていたでしょうか?
「平均すると、米国では1億マイルごとに約1回死亡事故が発生しているため、この事故は統計的に決定的なものではありませんが、自動運転の歴史の中ですぐに不快な出来事になります」とスミス氏は付け加えた。
その後はどうなりますか?
誰が（もし誰かが）裁判を起こすかに関係なく、消費者は、この悲劇がウーバー、そして自動運転車全般に与える長期的な影響に関して、何を学ばなければならないのでしょうか？
スミス氏は、この事件が自動運転車への恐怖をさらに高めるべきではないと示唆している。
「新しいテクノロジーは完璧ではないということを覚えておくことが重要ですが、現状はひどく不完全であるということも覚えておくことが重要です」と彼は言う。 「この悲劇が起きた同じ日に、米国だけでも１００人が事故で亡くなった。」
もちろん、すべての死は悲劇的ですが、それは自動運転車が人間のドライバーよりも統計的に安全ではないという意味ではありません。実際には、研究交通事故の90パーセントは自動運転車によって防止できる可能性があると示唆しています。
「私たちは自動運転について懸念すべきです」とスミス氏は言う。怖い従来の運転について。」
この事件はおそらく、自動運転が一般市場に近づくにつれ、自動運転への厳しい監視をもたらすであろう多くの事件の最初のものである。しかし、スミス氏もアッバス氏も、消費者が自動運転車から完全に離れるのではなく、メーカーに対してさらなる透明性を求めるようになるのではないかと期待している。
アッバス氏はウーバーの事故について、「われわれは倫理問題の新たな可能性を切り開いてしまった」と語る。 「私が車を運転していて衝突しそうになった場合、私が最も多くの人を救うのか、それとも家族を救うのか? 誰が私たちに代わってそのトレードオフを決めているのか? 彼らはどのようにそれを決めているのか、そして彼らはどのようにしているのか?数字が入力されましたか？」これらは、消費者がどのような車に乗るかについて、答えるべき質問である、と彼は言います。
たとえば、次の質問に対する回答者の大多数は、2016年調査自動運転車は実用的であるべきだと主張した。つまり、緊急事態においては、ドライバーを犠牲にしてでも、可能な限り多くの命を救わなければなりません。しかし、ほとんどの回答者は、何としても乗客を守る車を購入したいとも主張しました。ペットはもちろんのこと、子供の乗客や貴重な荷物によって、問題はさらに複雑になります。
現時点では、Uber のようなアルゴリズムがどのように動作し、これらの決定がどのように行われるかについて、公開されている情報はほとんどありません。
アッバス氏は、今回のような事件が企業に、消費者が自らの価値観に沿ってより適切に意思決定できるよう、倫理に関する情報をもっと公開するよう圧力をかけることを期待している。
「企業が自動車を導入したい場合、アルゴリズムやパフォーマンスに関する多くの質問に答えなければなりませんが、消費者である私たちは今日それについて知ることができません。」