最近 TikTok を利用したことがある方は、ジョー ローガンと彼の非常に人気のあるポッドキャストのゲストの 1 人をフィーチャーしたビデオ広告を配信されたことがあるかもしれません。ジョー・ローガン・エクスペリエンス。このクリップの中で、ローガンはアルファ グラインドと呼ばれる「男性の性欲増強剤」サプリメントについて自慢し、Amazon で商品を見つけるために何を入力すればよいかをリスナーに正確に伝えています。
ローガンは最も人気のあるポッドキャスターの 1 人であり、彼の番組のエピソードごとに 1,000 万人以上のリスナーがいます。このようなブランドの支持は大きな利益となり、どの製品であってもおそらく非常に高価なものとなるでしょう。ジョー・ローガンだけが彼の番組でアルファ・グラインドを支持しなかった。 TikTokビデオ広告で紹介されているクリップは、おそらくディープフェイク、あたかもローガンが売上を伸ばすために製品を支持しているかのように見せることを目的とした AI の作成です。
ツイートは削除された可能性があります
このビデオ広告は、@mikesmithtrainer という名前のユーザーによって TikTok に投稿され、宣伝されました。 Mashable が最初に TikTok アカウントを調査したとき、公開されたビデオは、Alpha Grind の日常消費者と思われる人々の証言クリップで構成されていました。公開時点では、@マイクスミストレーナーTikTok ではアカウントにアクセスできなくなりました。
TikTokの広報担当者はMashableに対し、同社が「当社の有害な誤情報に関するポリシーに基づいてこれらの動画を削除した」と認めた。 TikTokもアカウントを禁止した。
Twitter では、ユーザー @JimmyFarley00再投稿しました偽のジョー・ローガンのクリップとツイートはすぐに拡散した。 Twitterの動画は500万回以上再生されており、ツイートへの返信に含まれる多くのユーザーはTikTokがまだ公開されていたときにその広告を見たという。しかし、2月15日の時点で、ローガンのディープフェイク疑惑もTwitterから削除されている。動画を見ようとすると、ユーザーは「著作権所有者からの報告」によりクリップが削除されたと主張するプロンプトが表示される。 Mashable には、アップロード上にまだ残っているクリップです。
マッシュ可能な光の速度
ディープフェイク疑惑のあるローガン動画に初めて直面したとき、一部の Twitter ユーザーは、最初は自分たちが何を求めているのかさえ分かりませんでした。ローガンのポッドキャストのゲストでビデオにも登場するアンドリュー・D・ヒューバーマンは、入力されましたへの会話指摘するビデオで紹介された会話は実際には起こらなかったことをユーザーに伝えます。
「彼らは虚偽の会話を作り出した」とフーバーマン氏は動画への返信で説明した。 「私たちは全く違うことについて話していました。」
ツイートは削除された可能性があります
このクリップでは、会話の一部がポッドキャストから引用されたものであることは明らかです。ビデオは大幅に編集されており、実際のエピソードから断片的に抜粋されています。さらにこのクリップには、ローガンが会話中にアルファ・グラインド製品を支持していると思われる完全に捏造されたと思われるAIディープフェイク音声と映像も織り込まれており、これは専門家による分析待ちだが、デマ犯人は機械学習を利用してローガンの声を複製し、それを欺瞞的な声と組み合わせたことを意味することになる。彼の顔の特徴と彼の発言を一致させるために、ビデオ編集や追加の AI 捏造が行われます。
ディープフェイクは新しいものではなく、以前から行われてきました。心配する何年も前から倫理学者と偽情報の専門家。しかし、OpenAI の素晴らしい成果以来、AI 全般に対する関心が再び高まっています。チャットGPTAI チャットボットが急速に登場し、機械学習テクノロジーがどれほど進歩したかを示しています。
実はTikTok禁止されたただし、2020年にこのプラットフォーム上でディープフェイク動画が公開されたが、このポリシーがどの程度施行されているかは不明だ。 Mashableが連絡を取ったとき、TikTokの広報担当者は、出来事の真実を歪曲することでユーザーを誤解させ、ビデオの主題、他者、または社会に重大な損害を与える「デジタル偽造（合成メディアまたは操作されたメディア）」を禁止するプラットフォームのコミュニティガイドラインを強調した。 。」
すべてのディープフェイクが悪意のある目的で使用されるわけではなく、この技術は単に視聴者を楽しませるためのクリエイティブなビデオにも使用できることに注意してください。しかし、ディープフェイクは、よりネガティブな使用例として常に注目を集めてきました。つい先月、人気の Twitch ストリーマーが誤って発言したことで話題になりました。明らかにしたライブストリームの中で、彼は他のTwitchストリーマーの同意のないディープフェイクポルノを購入したと主張した。
MashableはTikTokに対し、ジョー・ローガンのTikTok広告とそれを投稿したアカウントの削除に関する詳細情報を求めた。返答があり次第、この記事を更新します。