TikTokによると、ビューベイトは昨年、選挙を前に政治的虚偽を広めるコンテンツを含め、AIによって強化されているという。新しいデータ誤報監視団体ニュースガードより。
TikTokの悪役によるAIツールの使用を詳述した新たな報告書で、同組織は少なくとも41のTikTokアカウントが英語とフランス語の両方で偽のAI強化コンテンツを投稿していることを発見した。 2023 年 3 月から 2024 年 6 月までの間に、これらのアカウントは 9,784 本の動画を投稿し、合計視聴回数は 3 億 8,000 万回を超え、毎日平均 1 ～ 4 本の AI ナレーション付き動画が投稿されました。ビデオの多くは同一のスクリプトを使用しており、協調的な取り組みがあったことを示唆しています。アカウントのいくつかは、TikTok のクリエイター基金に基づいて動画で収益化する資格も得られました。
コンテンツの多くには、米国と欧州の政治やロシア・ウクライナ戦争に関する誤った物語を共有するエッセイや面白事実スタイルの動画が含まれており、例えばNATOがウクライナに戦闘部隊を派遣し、米国がその背後にいるという誤った主張などが含まれていたとニューズガードは説明した。 ３月 モスクワでクロッカス市庁舎テロ事件。
この調査は、AI 検出ツール TrueMedia.org と提携して実施されました。
昨年、NewsGuard は、次のような TikTok アカウントの小規模ネットワークの台頭について文書化しました。AI を活用したテキスト読み上げツール有名人の陰謀論を広めるため。この短編ビデオでは AI が使用され、虚偽の情報を共有する大量のビデオにナレーションと追加の音声が即座に生成されました。合計すると、これらのアカウントは 3 か月で 3 億 3,600 万回のビューと 1,450 万件の「いいね！」を獲得しました。
マッシュ可能な光の速度
最新のレポートでは、アプリ上で同様にAIを活用したコンテンツが大幅に増加しており、今回は政治的動機があったことが示されている。この傾向は、アプリ上の AI コンテンツ ファームがますます奨励され、成長していることを示唆しています。この組織では、「通常、再生回数や広告収入を集めるために、低品質のコンテンツを大量に生成する組織」と定義されています。
AI によって促進された誤った情報や偽情報の拡散は TikTok によって見逃されておらず、プラットフォームはより効果的にそれを行うことを約束しています。ラベルそしてさらに透かし生成AIを活用したコンテンツ。しかし、AI 機能の効率性に裏付けられた政治的な誤った情報が、増殖し続けた。
一方、司法省は7月9日、AIを活用したロシアのボットファームを特定し、削除したX（旧Twitter）上で少なくとも1,000の親クレムリンアカウントを運営しており、ロシアのKGB後継者の支援を受けている。数か月前、OpenAI は次のことを発表しました。確認された外国国家関係者のアカウントが停止されたAI テクノロジーを使用して潜在的なサイバー攻撃をサポートしようとしています。
米国自体も、AI テクノロジーとボット ファームを利用して、独自の対抗策を広め、さらには次のようなあからさまな偽情報キャンペーンを広めています。外国の影響を抑制するための2020年の取り組み新型コロナウイルス感染症に関する誤った情報を広めることによって。
選挙が近づくにつれて（そして投票率と候補者の信頼が疑問視されるようになっている）、監視機関や擁護派はソーシャルメディアプラットフォーム上で拡散する標的を絞った偽情報とAIを利用した偽情報の両方を監視し続けている。