Siri にさらなるパワーを与えると考えると不安になりませんか?自動運転車についてはどうでしょうか -- コンピュータにハンドルを握らせることに不安を感じますか?
「はい」と答えたなら、あなたは一人ではありません。 AI システムがより機能的になり普及するにつれて、国民の大部分はテクノロジーをなかなか信頼できなくなりました。あ大きく報道された研究昨年、自動運転車の倫理に疑問を投げかけ、ほとんどの人は自動運転車に乗りたがらないのは、決定を下すシステムを信頼していないからだと結論づけた。
それが、国防高等研究計画局 (DARPA) が最近渡されたオレゴン州立大学のコンピュータ サイエンスの教授 8 名が、AI を活用したロボット、自動車、その他の技術を懐疑的な人々にとってより信頼できるものにするためのプロジェクトに取り組むため、650 万ドルの研究助成金を受け取りました。
信頼の欠如の背後にある最大の問題は、ニューラル ネットワークが自己学習する際に、プログラマーが制御の一部の側面を自動学習に譲り渡し、ニューラル ネットワークをいわゆる「ブラック ボックス」にしてしまうことです。言い換えれば、理解するのが難しいということです。コマンドに対する特定の応答がプログラムされているのではなく、選択を求められたときにシステムが誰も予測できない方法で動作する可能性があります。
DARPA が資金提供する OSU プログラムは、より多くの人々にその箱を開くことを目的としています。機械がどのように意思決定を行うかを説明することに重点を置き、4 年間にわたって実施されます。
マッシュ可能な光の速度
助成金の主任研究者であるアラン・ファーン氏は、このプロジェクトは、ソフトウェアが行うディープネットワークの決定を、視覚化やさらには文章に変換することで、人間の視聴者にとってより自然に見えるようにすることを目的としていると述べた。そうです：次のようになりますインサイドアウトAIの頭脳のために。
このシステムを開発するために、研究者らは AI を活用したプレイヤーを次のようなリアルタイム戦略ゲームに接続します。スタークラフト。ボットは、ゲーム内の決定を人間のプレイヤーに説明できるように訓練されます。
この研究がデジタル AI アシスタントや自動運転車などの消費者向けテクノロジーに適用されるかどうか、またどのように適用されるかは正確には明らかではありませんが、そのプロセスはまだ初期段階にあります。
最初の研究でプロジェクトの基礎が確立されると、その結果はロボット工学から無人航空機、別名ドローンに至るまであらゆるものを扱う他の DARPA プロジェクトに適用されます。
自動化システムの人間化を目指すプロジェクトは DARPA の取り組みだけではありません。一部の企業は、自社のテクノロジーに通信レイヤーを追加して、AI を活用したプラットフォームの構築に取り組んでいます。ドライブ.AIたとえば、同社は、明白な視聴覚信号を通じて他の車や歩行者と対話できる一連の自動運転車の開発に取り組んでいます。
AI システムを駆動する意思決定プロセスを信頼できるようになると、日常生活におけるそのよりあからさまなアプリケーションを受け入れることが容易になります。そうすれば、テクノロジーがもたらす潜在的な長期的な影響についても、より安心できるかもしれません。私たちの仕事を奪いますそして人間社会をひっくり返す。