主流と人工知能2024 年の米国大統領選挙に向けてツールが増加している中、AI が生成する偽情報は単なる恐怖ではなく、すでに現実となっています。 1月22日、ニューハンプシャー州司法省は、人々が法的措置を受けたとの声明を発表した。ジョー・バイデンの録音音声ディープフェイク、州の予備選挙には投票しないように伝えました。この呼びかけでは有権者に投票を「保存」するよう促し、「あなたの一票が今週の火曜日ではなく、11月に影響を与える」と誤って指摘した。
数日後、AI が起動イレブンラボ、バイデンの偽音声の作成者を停職処分とブルームバーグが報じた。
関連項目:
イレブンラボ同社の Web サイトによると、コンテキストに基づいて音声に人間のような抑揚を追加できるモデルによって実行される AI 音声ジェネレーターです。発電機には、何千もの事前に作成された AI 音声から選択することも、カスタムのものを作成することもできます。ブルームバーグは、音声詐欺検出会社ピンドロップセキュリティ社が、AIバイデンのロボコールがイレブンラボを使用して行われたことを発見したと報じた。
マッシュ可能な光の速度
「私たちはオーディオAIツールの悪用を防ぐことに専念しており、悪用の事件を非常に深刻に受け止めています」とイレブンラボはブルームバーグに語った。イレブンラボのウェブサイト政治家のディープフェイクは、風刺、パロディ、風刺などの特定の場合にのみ使用できると述べています。同社はバイデン氏のディープフェイクを認識すると、調査を行って責任のあるアカウントを停止したと関係者がブルームバーグに語った。
カーネギーメロン大学のコンピューターサイエンス教授、キャスリーン・カーリー氏はザ・ヒルとのインタビューでこう述べた。バイデン氏のロボコールは「氷山の一角」有権者を抑圧する試みという点で。カーリー氏は、これはこれから起こり得ることの前兆だと付け加えた。
チャットGPT開発者OpenAIすでに誤った情報自体を鎮めようとしており、選挙の完全性を守る計画。その後すぐに、会社は、開発者を一時停止した民主党の有力な候補者のためにボットを作成した人。
したがって、私たちはこの選挙シーズンに見聞きするものに注意を払う必要があります。 Mashable の技術記者セシリー・モーラン氏が警告したように、「AI が生成したコンテンツが支配するインターネットすでに起こっており、良くないようです。」
