ニューハンプシャー州の一部の有権者は、ジョー・バイデン大統領によく似た人物から電話を受けた。この呼びかけは、ニューハンプシャー州の住民に対し、先週の予備選挙中は家に留まり、11月の本選挙に向けて「票を節約する」よう奨励した。
もちろん、それは意味がありません。有権者は両方の選挙で投票することができます。なぜバイデンは彼らにそのようなことを言うのでしょうか？まあ、それは彼がそうしなかったからです。これらはAI音声生成ロボコールバイデンのように聞こえるように作られています。 1つ聞くことができますここ、のご厚意によりテレグラフ紙:
これは、AI が悪者によってすでに兵器化されている可能性があることを示す、現実世界の一例にすぎません。そしてそれが、FCCが現在AI生成の通話に対して対策を講じようとしている大きな理由である可能性が高い。
AIロボコールを非合法化するFCCの提案
FCC委員長のジェシカ・ローゼンウォーセル氏は水曜日に声明を発表し、FCCが電話消費者保護法（TCPA）の下で人工知能によって生成された通話を「人工」音声として認識するという提案を発表した。これを行うことで、FCCはAIが生成したロボコールを違法にすることになる。
TCPA は、消費者が電話勧誘業者から受ける迷惑電話を制限するために FCC によってよく使用されます。この法律では、人工または録音済みの音声メッセージや自動ダイヤルシステムの使用が禁止されています。
マッシュ可能な光の速度
ローゼンウォーセル氏は声明で、「AIが生成した音声クローンや画像は、消費者に詐欺や不正行為が正当なものであると思わせ、すでに混乱を引き起こしている」と述べた。声明はこう続けている。
「あなたがどのような有名人や政治家を支持していても、あるいは彼らが助けを求めてきたときに親族との関係がどのようなものであっても、私たち全員がこうした偽電話の標的になる可能性はあります。だからこそ、FCCはこの新興テクノロジーを認識するための措置を講じているのです」現行法では違法とされており、全国の州検事局のパートナーに対し、これらの詐欺を取り締まり、消費者を保護するために使用できる新しいツールを提供します。」
ローゼンウォーセル氏の声明のタイミングは、バイデン氏のロボコールが、こうしたAIが生成した音声が電話勧誘詐欺や潜在的な選挙詐欺にどのように利用されるかについて懸念を引き起こしていることを示しているようだ。
現時点では、AI が生成した音声によって引き起こされる最悪のシナリオを防ぐための実際の措置は、AI 企業自身が講じているのみです。としてブルームバーグ 報告されました、AI企業イレブンラボは先週、バイデンロボコールを作成したユーザーをプラットフォームから停止した。
「私たちはオーディオAIツールの悪用を防ぐことに専念しており、悪用の事件を非常に深刻に受け止めています」とイレブンラボは声明で述べた。
しかし、最近の同意のない AI 生成のポルノ画像で見てきたように、テイラー・スウィフトこの業界には、AI 製品の使用に関して、イレブンラボと同じように感じない人もいるかもしれません。