We talked to an AI ethics expert about 'Black Mirror' Season 4

最高のブラックミラーエピソードを見ると、これらの未来が現実になるのかどうか疑問に思うだけではありませんできた起こる。そうした場合、それが何を意味するかを考えるように強制されます。

ジョン C. ヘイブンスにとって、これらは単なるテレビでの無駄な思索ではありません。彼はの常務取締役です自律型およびインテリジェント システムの倫理に関する IEEE グローバル イニシアチブ、人工知能の設計と開発に関する IEEE 標準の作成を促すことを目的としたプログラムです。

言い換えれば、彼と彼のチームは、私たちが準備も気づかずに突撃して危険な状況に陥るのを防ごうとしているのです。ブラックミラーディストピア。彼もたまたま偉い人ですブラックミラーだからこそ、シーズン 4 を終えた後、私たちは彼に電話して、夜も眠れないほどの質問をすべて聞きました。

USS カリスター

ヘイブンス氏は、総じて、この番組は最先端の AI テクノロジーを取り巻く倫理的および法的問題を探求する「素晴らしい仕事」をしていると考えていると述べた。最新シーズンを見た他のほとんどの人たちと同じように、彼も特に意識を知らないうちにクラウドにコピーされた女性を描いた「USS カリスター」に夢中になった。

コピーに関する限り、彼女はは本物のナネット。彼女は自分がデジタルの複製であり、オリジナルはまだ物理世界に存在しているという概念を理解するまでに時間がかかりました。では、2番目のナネットについてはどう考えるべきでしょうか？彼女はオリジナルのナネットの続きですか、それとも完全に別の人物ですか?

ヘイブンス氏の見解では、答えはそれほど単純ではありません。 「計算だけが人間にとってのすべてだというのは、ある種の皮肉だ」と彼は言い、たとえば多くの宗教が「自分が何者であるかを知らせる何かが自己の外側にあると信じている」と指摘した。

彼はまた、「『私はジョンだ、私たちは私の脳をコピーする方法を見つけた、そして炭素からシリコンへのAからBへの移行だ』というような意味で意識がアップロードされるだろうという仮定に対して警告した。約48の主要な哲学的概念があるが、そうではない」と警告した。そこには単なる経験的かつ科学的ですが、哲学的で信仰に基づいた仮定が含まれています。」

そうは言っても、コンセプトをめぐる倫理に取り組むことが「重要」であることに同氏は同意した。この目的のために、IEEE は、と呼ばれる標準を開発してきました。P7006、彼はこれを「個人のためのアルゴリズムAIエージェント」と説明しています。

基本的に、このアイデアは、すべての個人データを保存および保護する暗号化されたクラウドを各人間に提供することです。すべてのデータは、ログオンするたびに追跡、コピー、共有され、集合的にオンライン ID を形成します。

「サービスに自分のデータにアクセスすることに同意すると、私たちはそれを行ったことを忘れてしまいがちで、自分のデータがどのように共有されるかに関して、自分のデータに関するシステムを他の人が所有し、管理していることに気づかない傾向があります」と同氏は述べた。 「あなたの名前と身元に関連付けられたデータ保管庫を持っている場合とは対照的です。」 [エド。注記: この引用はヘイブンスの要請により修正および更新されました。]

たとえば、あなたのデジタルコピーが、あなたを脅迫して、あなたの自撮り写真を公開すると脅迫して犯罪を起こさせようとした場合、P7006 は、あなたが生活を軌道に戻すための一種の「手段」として機能するでしょう。

大天使

シーズンの 2 番目のエピソードは、まったく異なる種類の情報に焦点を当てています。過保護な母親は、幼い娘にチップを装着させ、子供の動きを追跡したり、健康状態を監視したり、見たり聞いたりするものすべてをフィルタリングするなど、子供を常に監視できるようにします。

言うまでもなく、これは非常に悪いアイデアであることが判明します。しかし、あるヘイブンスは、ある程度は理解できると言います。 「彼らがこの番組で非常にうまくやっていることの一つは、それだけではないということだと思います。ああ、この親は何か間違ったことをしているまたはああ、子供が何か間違ったことをしている「私にとって、両方の登場人物に同情的になってもらわなければ、倫理的な問題はあまり意味をなさないのです。」でも、親として、それは本当に真実だと思いました。」

ヘイブンス氏によれば、その種の監視技術はそれほどありそうもないことではないという（まあ、視神経をハッキングする能力を除けば）。結局のところ、私たちはすでにペット用の ID チップや、人を見つけたり心拍数を知らせたりできるトラッカーやセンサーを持っています。番組内で紹介されたアーカンジェルのテクノロジーについて彼が受け入れがたいのは、その永続性だ。

「親としては、それはかなりこじつけだと思います。なぜなら、永久的なものよりも、子供が使い始められるテクノロジーのほうがはるかによく売れるからです」と彼は言う。 「それはショーの一部であり、少し非現実的でした。」拡張現実コンタクトレンズのようなものが「はるかに実現可能」になるだろうと同氏は推測した。

クロコダイル

一方、「クロコダイル」に関する彼の問題は市場とはあまり関係がなく、むしろ法律に関係している。このエピソードは、捜査官が他人の記憶を見ることを可能にする機械を中心にしているが、ヘイブンス氏はそれを支持しておらず、誰かが「他人の家などに法的に立ち入る権利がある」というのは非現実的だと説明した。

このことは、プライバシーに関するいくつかの明らかな懸念を引き起こします。つまり、他の人があなたの最も親密な考えにアクセスできる世界では、その概念がどのように変化するかということです。しかし、ヘイブンス氏は、問題はそれよりもはるかに大きいと指摘した。

「これはまさにデータ管理と同等性に関するものです」と彼は言いました。つまり、データの所有者は誰なのか、データから誰が利益を得ているのか、データの共有に同意することは何を意味するのか、ということです。

「私たちが提供するデータは現時点でのプライバシーに関するものだけではないということを、長期的に平等に理解する必要がある」と同氏は述べた。 「これは、私たちの知的財産の一形態の長期使用であり、私たちが現在いる環境で署名を解除できるべきではありません。もちろん、仮想現実に関して私たちがしようとしている環境ではありません。」

言い換えれば、ミアがシャジアに脳を覗かせることに同意するかどうかだけが問題ではないのです。それは、シャジアがそこで見つけた情報を使って何をすることが許されているのか、そしてミアが参加に同意することで具体的に何を放棄したのかについてです。

あるいは実際には、それをシャジアにしてくださいするだろうそのデータを扱うことが許可されます。このエピソードでは、ミアは秘密が暴かれる危険を冒さずにシャジアとその家族全員を殺害します。結局のところ、ミアは同意することにかなり不安を感じたと思います。

DJを吊るす

同意は、明らかな相性にも関わらず、奇妙に抑圧的で間違いないと思われる出会い系システムによって引き離され続ける男女を描く「ハング・ザ・DJ」にも組み込まれている。ひねりを加えると、このカップルはずっとシミュレーションの中にいたということです。彼らの関係全体が、現実世界のアプリによって行われる相性テストだったのです。

ヘブンス氏が指摘したように、それは現実からそれほどかけ離れたものではない。 「それはすでに起こっています、例えばセカンドライフマルチプレイヤー ゲームや特定のデート サービスでは、相手とデートする前に仮想キャラクターとして対話できる場合があります。そのようなシミュレーションは、現在すでに起こっています。」

「Hang the DJ」と違うのは、エイミーとフランクには、そもそも自分たちがシステムの中にいることを知らないため、システムに飽きたときにログオフするという選択肢がないことです。 Havens氏は、P7006のような標準は、自分自身を脱出するための一種の「セーフワード」と、システムに入る前に独自の契約条件を設定できる機能を提供することで、そのような状況にある人々を保護するのに役立つ可能性があると説明した。

それはすべて非常に良くて良いことのように聞こえますが、...ちょっと待ってください。私たちがすでにシミュレートされた現実にいないことをどのようにして知ることができるでしょうか?イーロン・マスクが正しければどうなるでしょうか？

ヘイブンス氏は、現在その話題をめぐって複雑な議論が行われていることを認めたが、自分がどちらの側に属するのかを明らかにした。 「いいえ、今はシミュレーションの段階ではないと思います」と彼は言った。

メタルヘッド

繰り返しになりますが、私たちは間違ったことを心配しているのかもしれません。私たちは概念的に考えすぎているのかもしれません。私たちは古き良き時代のロボットに目を向けるべきかもしれません。そして知覚のある種類ではありません。

シーズンの最後から 2 番目のエピソードである「メタルヘッド」では、人間の生存者がロボットの「犬」に荒涼とした不毛のディストピアを追いかけられる様子が描かれています。世界がどうやってこのようになったかについて明確な説明はありませんが、「犬」が有機生命体のほとんどを絶滅させたというヒントはあります。

それでは、より大きな存続の脅威は何でしょうか?人工知能、それとも仕事があまりにも上手すぎる殺人機械？

「まあ、知性のない殺人機械は一般的に、そういうものは避けましょう。それは残念なことですから」とヘブンスは笑いながら言った。 「それは良くないと思います。」

AI によって引き起こされる問題はもう少し複雑で、脅威はもう少し概念的です。 「という本がありますハートフィシャル・インテリジェンスそこで私が尋ねる大きな疑問は、『人間が自分自身を知らない場合、機械はどうやって人間の価値を知ることができるのか』ということだ」と彼は語った。

私たちがスキルを学び、意思決定を行うためにますます洗練されたテクノロジーに依存するようになるにつれて、この質問はますます緊急になっています。そこにある危険は進歩ではありませんが、未検査アドバンス。

「AI の場合、ツールの多くは感情的なコンピューティングや、人間に代わって意思決定を行うアルゴリズムの動作に関するものですが、テクノロジーは、個人がどのようにそれらの選択を継続できるかを知るという点でも、個人よりも早く進歩しています。そこでは、何をすべきかについての社会的決定の側面が評価されるべきなのです。」

それには、新しいものは必ずしも優れているという前提を再検討することが含まれます。 Havens と IEEE は、テクノロジーが人間の幸福に重点を置くことを望んでいます。これは、時には「一歩下がって次のように言うこともできる」ことを意味するかもしれません。私たちが何かを構築できるからといって、あなたがそうする必要があるというわけではありませんご存知のように、殺人ロボット犬のように、いつかは作れるかもしれません。しかし、そうすべきでしょうか?

黒博物館

その質問をしないと、まさに「黒博物館」で描かれたような状況に陥ります。この作品では、3 つの短い物語が大きな枠組みの中で 1 つに結び付けられています。

その 1 つは、医師が患者の痛みを感じることができる装置を使い始め、その後中毒になってしまうというものです。の限りブラックミラーヘイブンス氏は、それは「あまりにもこじつけ」ではないと言う。たとえば、仮想現実ヘッドセットはすでにユーザーに、実際に体験していないことを体験しているかのように感じさせることができる。

他のアイデアはもっとあります。 2 番目のストーリーでは、昏睡状態の女性の意識が夫の脳にアップロードされ、さらにぬいぐるみにアップロードされます。これは、ある時点で、1 つの人間の体に 2 つの意識が含まれていることを意味します。別の場合には、人間の意識は人間の肉体なしで存在します。

3番目では、囚人が死後の意識を売ります。彼の処刑後、彼の意識は邪悪な博物館所有者の所有下でホログラムとして生き続けます。彼は人間の肉体を持たない単なる人間の意識ではありません。彼は具体的な物理的な形を持たない人間の意識です。

このようなテクノロジーが人間性についての現在の考え方をいかに複雑にするかは簡単にわかります。そしてヘイブンス氏は、実現可能性までには少なくとも「30年、40年、50年」かかると見積もっているが、今はそれらの選択肢が得られたらどうするかを議論する時期だと強調した。

「私たちがこの問題を急いで続ければ、物事は次々と湧き出てきます」と彼は言いました。 「私たちは多くの質問をする必要があります。そうすることで、あなたも私も、誰でも、テクノロジーやその他の利用可能なものに気づいたとき、私たちは合意された一連の原則を持ち、それが推進されるだけではありません。おい、この新しいテクノロジーは利用可能だ、今すぐできる、やってみろ。」

ヘイブンス氏は、個人の選択を侵害するつもりはないが、「個人の決定を可能にする一連のポリシーと基準が必要である」と信じていると強調した。ただし、それには統一性と一種の合法性があり、単なるランダムではありません。」

次に、テクノロジーが私たちの基本的人権とどのように交差するかという問題があります。これは、私たちが現在特定の決定をどのように考えるかということと実際にはそれほど変わりません。

「たとえば、自分を奴隷として売っているとしたら、こう言う人もいますが、まあ、奴隷として体を売るかどうかはあなた次第です「それは、必ずしも人権の観点から見て、それが違反ではないという意味ではありません。」と彼は言いました。「誰かが何かをする権利があるからといって、それが法的に許可されている、あるいはそうすべきであるという意味ではありません」許されるよ。」

それで、私たちはどれほど運命にあるのでしょうか？

いくつかの例外を除いて、ブラックミラー私たちのハイテクの未来に対して悲観的な傾向があります。しかし、番組が暗闇と破滅に焦点を当てている場合、ヘイブンスには希望の光が見えます。彼はただ願っているだけだブラックミラーそれらも反映されるでしょう。

「データに関することをもっと頻繁に取り上げてほしいと思います。また、データが所有する必要さえなく、アクセスして制御できるものである場合に世界がどうなるかについて、もっと前向きなイメージを持ってほしかったと思います」 」と彼は言いました。完全に推測である必要さえありません。彼は、たとえば、現在英国貴族院で行われている「AI 政策における本当に優れた取り組み」の一部を見たいと考えています。

そして、多くのものが作られてきましたが、ブラックミラーさんの不気味なほど正確な予測（ショーは気にしないでください未来を推測しようとさえしていない）、それはまだ予言よりも警告として扱われた方が良いです。ヘブンス氏は次のように仮定することに対して警告しているブラックミラーテクノロジー、またはそれに付随するすべてのものは避けられません。

「将来について興奮することは別のことです。このテクノロジーがどのように私たちに役立つかを言うことは別のことです。しかし、私たちが今いる場所では十分ではないという考えが少しでもあるとき、それはまったく真実ではありません。それは真実です」それは真実ではありません。ロボットを作るのは誰ですか？」

回避の鍵は、ブラックミラーしたがって、ディストピアはテクノロジーを拒否することにあるのではなく、人間性を受け入れることにあるのです。

「今日私たちが話しているさまざまな質問の出発点は、この感覚です。まあ、誰かが人間のこれらのさまざまな部分を修正するでしょうむしろ、私たちは内向きに焦点を向けるべきだと彼は信じています。「内省は大変な作業です。しかし、それは文明が始まった方法でもあります。」

それは部分的には、「テクノロジーが私たちを救ってくれると思い込んでいる未来に常に目を向ける必要がなく、今の私たちを受け入れる」ことを意味する、と同氏は語った。 「今日、私たちの中には自分自身を救う力があります。」

今、それはとても力強い概念であり、私たちは感情的に一気に見てしまう準備ができているように感じますブラックミラーまた。