木曜日には、アマゾン 確認済みある報告地元シアトルの CBS 系列局 KIRO-7 より、オレゴン州の家族についてアマゾンエコー連絡先リスト上のランダムな人にプライベートな音声会話を送信します。
当然、人々はパニックに陥ります。アレクサが私たちを監視しています!
しかし、アレクサは本当にめちゃくちゃだったのでしょうか？私の最初の直感は「イエス」ですが、よく考えるとそうではないかもしれません。
要約: あるカップルが堅木張りの床について話していたところ、その会話がどういうわけか Amazon Echo の 1 つをトリガーし、その会話が音声メッセージとして連絡先リストに登録されている友人の 1 人に送信されました。
そしてAmazonは、エンジニアがデバイスのログを確認した後、この事件を認めた。同社はMashableに対し、何が起こったのかについて次のような声明を発表した。
「エコーは、バックグラウンドでの会話で「アレクサ」と聞こえる単語によって目を覚ました。その後、その後の会話が「メッセージを送信」リクエストとして聞こえました。その時点で、アレクサは「誰に?」と大声で言いました。バックグラウンドでの会話は顧客の連絡先リスト内の名前として解釈され、Alexa は「[連絡先名] ですね?」と大声で尋ね、この一連のイベントはありそうもないことですが、私たちはバックグラウンドでの会話を「正しい」と解釈しました。このケースをさらに軽減するためのオプション おそらく。"
アマゾンのエンジニアはログを確認し、夫婦に出来事を確認した後、「わずか30分間で15回」謝罪し、「これは修正する必要がある」と述べたと伝えられている。
そうですね、これは良くありませんが、本当に心配することではないと思います。
誤解しないでください、これらの人々に起こったことは、そもそも起こるべきではなかったし、二度と起こってはなりません。私個人としては、電話をかけてきた友人から、意図的に送信したわけではない音声メッセージを Echo から送信されたと言われたくありません。
しかし、事件を解明するのに役立つ、この事件についてまだわかっていないことがいくつかあります。
音声メッセージを送信した Echo デバイスはどの部屋にありましたか?同じ部屋にいた場合、Alexa が「誰に?」と尋ねたときに、どうやって無視したり無視したりするでしょうか。そして「[連絡先名]ですね?」 — デバイスがリッスンしているときに点灯する通知ライトは言うまでもありません。しかし、それが遠く離れた別の部屋にあるエコーだった場合、私の質問は Amazon です。Alexa は、明確な発話が聞こえなかった場合、ランダムに人を選ぶだけなのでしょうか?
Alexa が設定された音量も要因となります。 Alexa が小さな音量に設定されている場合、カップルは Alexa の複数のプロンプトを聞くことができなかった可能性が高くなります。ただし、それ以上の音量に設定すると、話は別になります。私は複数の Echo を所有していますが、音量が 50% であっても (聞こえる範囲にいると仮定して) 音が聞こえないことはありません。
マッシュ可能な光の速度
Amazon の概要をざっと読んでみると、ほとんどの人に起こり得る、非常にありそうもない Alexa の一連の誤解のように思えます。それは彼らをスパイしていたわけではなく、ただ聞いたことを誤解しただけでした。会話中のどのような言葉がAlexaをこの道に導いたのかを正確に知ることは困難ですが、他のEcho所有者にこのようなことが起こる可能性はかなり低いと言っても過言ではありません。
どのくらい低いですか？これは「」のうちの 1 つのケースにすぎません。数千万」のEchoデバイスが販売されました。Amazonは売上高を公表していませんが、アナリストは売上高を予想しています。約2000万。これに従えば、2,000 万件中 1 件の失敗は、全デバイスのわずか 0.000005 パーセントに相当します。それは小さな衝撃です。
私も同意します。Alexa が不要な音声メッセージを送信するのは悪いことです。しかし同時に、その役割も果たしているのではないでしょうか？私たちは、デジタルアシスタントが最も困難で困難な状況でも私たちの声を理解することを期待しており、聞こえた内容を理解するのはAlexaの義務です。
この場合、はい、音声が聞こえ、誤って解釈されました。しかし、それでも理解しようと最善を尽くしました。それは私たち全員がデジタル アシスタントに求めているものではないでしょうか?これらのことに対する最大のフラストレーションは、聞いても理解できないときではないでしょうか?
むしろ、この事件は消費者側とテクノロジー側の両方にとって、すべての人にとって警鐘を鳴らすものです。家からデバイスを追放するのではなく、職場での利便性とプライバシーのトレードオフをもっと認識する必要があります。
失敗しないAIを実現するまでには、まだまだ長い道のりがあります。完璧な AI は存在しません。Alexa、Google アシスタント、または他のアシスタントであっても、将来的には同じようなことが起こると私は確信しています。自動運転車に関連する事故がこれまでにあり、そして今後も起こる可能性が高いのと同じように、AI が私たちの生活にさらに織り込まれれば、おそらくさらに多くの失敗が起こるでしょう。
AI について話しているとき、事故は自然で避けられないものです (Google フォトが失敗したことを思い出してください)分類された二人の黒人が「ゴリラ」？）。答えは AI の使用をやめることではありません。それを改善するためです。
それでも、いくつかのことがありますできるAlexa 対応デバイスがあなたを誤解しないようにしてください。
ウェイクワードを変更する
Amazon が実際の音声ログを公開しない限り、Alexa がどのような単語やフレーズを誤解したかを正確に知る方法はありません。
誤って Alexa を起動してしまうのではないかと心配している場合 (おそらく、「Alexa」に似た単語をよく言うかもしれません)、変えることができるEcho のウェイクワードを「Echo」、「Amazon」、「コンピューター」のいずれかに変更します。これらの言葉がそうでないことを確認してくださいもっとAlexa よりもデバイスをトリガーする可能性が高くなります。
「フォローアップモード」をオフにする
Amazon は最近、Alexa 対応デバイスに、ウェイク ワードを繰り返すことなくフォローアップ リクエストを実行できる機能を与えました。
防ぐためにAlexa 対応デバイスで最初のウェイクワードトリガー後にリスニングを続けるには、Alexa アプリ > メニュー > Alexa デバイス > デバイスを選択 > フォローアップ モードをオフにします。
連絡先へのアクセスを許可しない
最近では、Echo デバイスで音声メッセージを他の人に送信できます。こんなことは絶対に起きたくないですか？連絡先リストへのアクセスを許可しないでください。とてもシンプルです。
残念ながら、すでに連絡先にアクセスを許可している場合、それを取り消すのはそれほど簡単ではありません。が指摘したように、大胆な火の玉そして詳細はバズフィード、そうするには、Amazon に電話する必要があります。はい、電話してください。
クレジット: アマゾン
結局のところ、私たちは Alexa 対応デバイス、つまり音声を理解し、別のデバイスに送信できるマイクとデジタル アシスタントを備えたデバイスを喜んで家に導入します。
完璧な世界では、AI は密閉されており、この種の失敗は起こらないでしょう。しかし、状況が改善するまで、私たちができる最善のことは、それらがどのように機能するかをもっと認識し、上でリストしたように、それらが私たちのことだけを行うようにロックダウンすることです。欲しい彼らがやるべきこと。
しかし、パニックになって銃を飛び越えて、アレクサが私たちをスパイしていると仮定するのは絶対にやめましょう。そうではありません。この事件を何と呼ぶことにしましょう。完全なまぐれです。