それを先制的な絶滅パニック、賢い人々がSFの誇大広告に便乗している、または単に将来起こり得る問題に対する慎重な姿勢と呼んでいるが、周囲の恐怖は人工知能この苦悩を裏付ける資格を持つ人々の間で、ますます注目を集めています。
この AI アジタが現実世界の行動に現れる最新の例は、次のような形で現れます。公開書簡日曜日にオンラインに投稿され、他ならぬテスラ社が署名した安全対策の導入を求める内容イーロン・マスクそして有名な理論物理学者スティーブン・ホーキング博士。
[slug="スティーブン・ホーキング-人工知能-bbc"も参照]
世界トップの人工知能開発者がAIの安全性研究を求める公開書簡に署名:https://t.co/ShWc8F7Kyq
— イーロン・マスク (@elonmusk)2015 年 1 月 11 日
火曜日にデトロイトで開催されたオートモーティブ・ニュース・ワールド・コングレスでのコメントによれば、自動運転システムに対するマスク氏の懸念は自動車にも及んでいる。
「人々は自動運転車の安全性について懸念すべきだ」とマスク氏は語った。報告書ザ・ヴァージで。 「自動運転車の安全基準はもっと高くなければなりません。」
しかし、マスク氏がイベントでAIに関する懸念を表明したのはこれくらいだ。以前のコメントその話題についてはるかにカラフルです。
AI の安全性に関する文書にデジタル署名している他の人には、著名な特異点理論家で SF 作家のヴェルノ・ヴィンジ、ルーカスフィルムのジョン・ガエタ (AI 黙示録映画『マトリックス』の特殊効果を担当した人物の 1 人)、オックスフォード、ケンブリッジ、マサチューセッツ工科大学、およびオックスフォード大学の研究者が含まれます。スタンフォード大学のほか、Google、Microsoft、Amazon の幹部も参加しました。
「堅牢で有益な人工知能のための研究の優先事項：公開書簡」と題されたこの書簡は、このテーマに対する非常に冷静かつ保守的なアプローチを展開しており、AIの不正化については直接言及していない――少なくとも最初はそうではなかった。しかし、添付の「研究優先事項文書」をさらに深く掘り下げてみると、公開書簡の背後にある本当の恐怖がもう少し明確に概説されていることがわかります。
この文書の「制御」の下にリストされているセクションでは、次のように述べられています。
特定のタイプの安全性が重要な AI システム、特に車両や兵器プラットフォームでは、ループ内、ループ上、またはその他のプロトコルに人間が関与することを意味するかどうかにかかわらず、何らかの形で有意義な人間による制御を維持することが望ましい場合があります。これらのいずれの場合でも、人間による有意義な制御を確実に維持するには技術的な作業が必要になります。
その後、この文書は AI の制御を推奨しており、重要なこと (つまり AI の暴走) をほのめかし始めています。
特に、有効性と制御の問題が解決されていない場合は、制御が不十分な環境で望ましくない動作や結果を引き起こす可能性がある AI システム用の「コンテナ」を作成すると役立つ可能性があります。この問題の理論的側面と実践的側面の両方で調査が必要です。
しかし、人工知能の普及との最も直接的な関係は、文書内で「スタンフォード大学の人工知能の百年研究」と題された研究への言及にある。
スタンフォード大学の人工知能に関する 100 年研究には、研究分野として「AI システムの制御喪失」が含まれており、特に「行動しない超知能の台頭により、いつか AI システムの制御を失う可能性がある」という可能性に対する懸念が強調されています。人間の願いに従って、そしてそのような強力なシステムが人類を脅かすことになるだろう。」
主催未来の生命研究所は、Skype の共同創設者であるジャーン・タリンと、MIT、ハーバード大学、カリフォルニア大学サンタクルーズ校、ボストン大学の教授と学生が率いる非営利団体であり、このグループはその使命を「生命を守るための研究と取り組み」を支援し、「人類が安全に行動するための方法を開発すること」であると説明しています。新しいテクノロジーと課題を考慮して独自の方向に舵を切ります。」
ただし、歴史は常に私たちの予測にきちんと適合するとは限りません。このまま状況が続けば脳と機械のインターフェースAI がますます一般的になるにつれ、私たちは、AI が知覚力に近づくずっと前に、(デジタル的、機械的、化学的に) 強化された人間の問題に直面しなければならない可能性が高くなります。
それでも、いつかコンピューターが、人類と矛盾するかもしれない独自の道を見つけ出すほど強力になると信じるかどうかは別として、非常に多くの知的な人々が、この問題は公の場で表明する価値があると感じているという事実だけで、十分に理解できるはずだ。あなたの注意を。
さて、この早期警告公開書簡が不要であることが判明することを祈りましょう。なぜならペット人間になることはおそらくあまり楽しいものではないからです。