スティーブン・ホーキング博士は、天才ですが、私たちと同じです。彼は『ビッグバン セオリー』が面白いと感じており、これまでに書いたお気に入りの曲はロッド・スチュワートの「Have I Told You Lately」です。しかし、人工知能に関する彼の考えはどうなのでしょうか?
ホーキング博士は初めての質問に対する回答を投稿したレディット木曜日のAMAでは、テクノロジー、AI、その他多くのトピックについて話します。 AMAはその一部でした#メイクテックヒューマン、私たちの世界、社会、生活におけるテクノロジーの役割についての会話。ホーキング博士の議論への参加は、公開書簡人工知能の開発における人的要因を強調します。
声明によると、AMAスレッドが7月に開設されて以来、9,000件以上のコメントが寄せられ、これは史上3番目に多いAMAとなったという。数え切れないほどの投稿をじっくり読み込む手間を省くために、人間対 AI の未来から女性に対する彼の考えまで、要点をまとめてご紹介します。 AMA の質問と回答全体を読むこともできますここ。
メディアと「邪悪なAI」に対する彼の見解、そして彼自身の信念をどのように表現するかについて:
おっしゃる通りです。メディアは実際に言われていることを誤って伝えることがよくあります。 AI の本当のリスクは悪意ではなく、能力です。超知能型 AI は、その目標を達成するのに非常に優れていますが、その目標が私たちの目標と一致しない場合、私たちは問題に直面します。あなたはおそらく、悪意からアリを踏むような邪悪なアリ嫌いではありませんが、水力発電のグリーン エネルギー プロジェクトの責任者で、その地域に浸水すべきアリ塚があるとしたら、アリにとってはあまりにも残念なことです。人類をそれらのアリの立場に置くのはやめましょう。
技術的失業、つまり機械が私たちの仕事を奪うリスクについて：
必要なものをすべて機械が生産する場合、その結果は物事がどのように分配されるかによって決まります。機械が生み出した富が共有されれば、誰もが贅沢な余暇生活を楽しむことができるが、機械所有者が富の再分配に反対するロビー活動に成功すれば、ほとんどの人が悲惨な貧困に陥る可能性がある。これまでのところ、トレンドは 2 番目の選択肢に向かっているようで、テクノロジーによって不平等が拡大し続けています。
機械がその作成者よりも賢くなる可能性については?
何かがその祖先よりも高い知能を獲得することは明らかに可能です。私たちは猿のような祖先よりも賢く進化し、アインシュタインは両親よりも賢かったのです。
そして、機械が人間よりもうまく自らを設計できるとしたらどうでしょうか?
これが起こった場合、私たちは知性の爆発に直面し、最終的にはカタツムリの知性を超える知性を持つ機械が私たちの知性を超える可能性があります。
しかし、本題に入りましょう。私たちはインテリジェントマシンによる極度の脅威に直面しているのか、それとも将来に備えるべきなのかについてです。
後者。人間レベル以上のAIを構築するのにどれくらいの時間がかかるかについてAI研究者の間でコンセンサスは得られていないため、それがあなたの生きている間に起こるか、またはあなたの人生には起こらないと確信していると主張する人を信用しないでください。一生。それが最終的に発生するとき、それは人類にとってこれまでに起こった最高の出来事か最悪の出来事のどちらかである可能性が高いため、それを正しく解決することには大きな価値があります。私たちは、AI の目標を、純粋な方向性のない人工知能の作成から、有益な知能の作成に移行する必要があります。これを行う方法を理解するには何十年もかかるかもしれないので、最初の強力な AI がオンになる前夜ではなく、今日この研究を始めましょう。
最後に、彼が最も興味をそそられる謎について述べます。
女性。私のPAは、私が物理学の博士号を持っているとしても、女性は謎のままであるべきだと私に思い出させてくれました。