AI 音声アシスタントが常に音声を聞いているのではないかという強い懸念があり、オレゴン州のある家族では、Amazon Echo がまさにそれを実現したと伝えられています。
最初に報告されたように、ローカル局 KIRO-7、スマートスピーカーはプライベートな音声を録音し、それをたまたま家族の連絡先リストに載っていたランダムな人の電話に送信しました。
この家族は家のすべての部屋に Echo デバイスを設置し、家の熱、光、セキュリティ システムを制御していました。
ダニエルさんはファーストネームのみで話しているが、2週間前に夫の同僚の一人から電話があり、その音声録音を受け取ったという。
彼らは夫婦が堅木張りの床について話し合っている録音を聞き、アマゾンに連絡した。 Alexa エンジニアが応答しました。
マッシュ可能な光の速度
「彼らは、『当社のエンジニアがあなたのログを調べたところ、あなたが私たちに話した通りのことがわかり、あなたが言った通りのことが起こったことを確認しました。申し訳ありませんでした』と言いました」とダニエルさんは報道機関に語った。
「彼はわずか30分の間に15回ほど謝罪し、この件を私たちに知らせてくれて本当に感謝している、これは私たちが修正する必要があると言いました！」
エンジニアはダニエルに何が起こったのか詳細を明らかにしなかったが、Mashableに提供されたアマゾンの声明は事件を確認し、デバイスがコマンドを聞いたと述べた。
「エコーは、バックグラウンドでの会話で「アレクサ」のような単語が聞こえたために目を覚ましました。そして、その後の会話は「メッセージを送信してください」という要求として聞こえました。その時点でアレクサは「誰に？」と大声で言ったという。」
「その時点で、バックグラウンドでの会話は顧客の連絡先リストにある名前として解釈されました。その後、アレクサは大声で『[連絡先名]ね?』と尋ねました。その後、アレクサは背景での会話を「正しい」と解釈しましたが、この一連の出来事はありそうもないことですが、私たちはこのケースをさらに可能性を低くするためのオプションを検討しています。」
事故ではありますが、それでも恐ろしい事故です。