イーロン・マスクのXは、イランがイスラエルを攻撃しているという偽の見出しを押し出した。 XのAIチャットボットGrokが作ったものだ。

衝撃的な記事が木曜日、イーロン・マスクのXの「フロントページ」またはメインフィードで宣伝されました。

見出しは「イラン、大型ミサイルでテルアビブを攻撃」。

これは確かに憂慮すべき世界ニュースの展開となるだろう。その週初め、イスラエルは実施したシリアのイラン大使館を空爆し、将軍２名と他の将校を殺害した。イランからの報復はあり得る出来事のように思えた。

関連項目:

しかし、大きな問題が 1 つありました。イランはイスラエルを攻撃しなかったのです。見出しはフェイクでした。

さらに懸念すべきは、偽の見出しは明らかに X 独自の公式 AI チャットボットである Grok によって生成され、その後、機能の更新バージョンの初日に X のトレンド ニュース製品である Explore によって宣伝されたことです。

ツイートは削除された可能性があります

マスク氏がどうやってこれを実現させたのか

イーロン・マスクが当時Twitterとして知られていたプラットフォームを買収する数年前、同社は次のような新機能を公開した。書かれた文脈トレンドのトピックに。トレンドの記述を強化するテクノロジー?人間。

以前は、ストーリーがブレイクすると、Twitter のアルゴリズムが投稿されている関連キーワードをキャッチしてトレンドを共有していましたが、特定の単語セットがトレンドになっている理由が明らかではない場合がありました。

しかし、2020年にTwitterは次のチームを結成しました。人間の編集者ニュースを厳選し、トレンドを状況に合わせて整理します。さらに、トレンドのトピックの下に表示される上位のツイートは、アルゴリズムによってランク付けされるだけでなく、人間によるキュレーションも含まれるようになります。 1年後、ツ​​イッター提携したAP およびロイターと協力して、トレンドのトピックに人間が提供するコンテキストを提供する取り組みをさらに強化します。

しかし、マスク氏が2022年10月に同社を買収した直後、トレンドのトピックに関する書かれた文脈は消えた。マスク氏はツイッターの人間編集者を解雇した。ロイター通信が2022年11月に報じたように、「『Twitter上で展開される最高のイベントやストーリーを強調し、文脈を説明する』責任を負っていたTwitterのキュレーションチームが解任された」。

X の新しく更新された Explore ページ

今週初め、@XDaily などの X ファン アカウントが共有しましたスクリーンショットX の今後の Explore ページの再起動する。 X の Explore ページには、プラットフォームの悪名高いトレンド トピック リストと、「ニュース」や「スポーツ」などの特定のセクションのブレイクアウトが含まれており、特定の主題カテゴリごとにトレンドの記事をユーザーに提供します。

ツイートは削除された可能性があります

マスク氏の更新されたExploreページは、トレンドのトピックやストーリーに提供される書かれたコンテキストを取り戻す準備ができているように見えました。

4 月 4 日、X は新しく更新された Explore ページの展開を開始しました。このアップデートでは、個々のトレンド トピックに関するトップ ユーザーの投稿と、ユーザー コンテンツの上に主題の分かりやすい概要が表示されます。ページの最上部には、X が作成した見出しが、あたかもそのトピックに関する記事を読もうとしているかのように読者に情報を提供します。

さらに、このアップデートにより、Explore がプラットフォーム上の新しい目立つ場所に追加されました。 Explore のトレンド ストーリーは、X のメイン ホームページの右側のサイドバーに直接埋め込まれて表示されます。以前は、X の何億人ものユーザーが毎日閲覧するトレンド トピックのリストが置かれていました。

しかし、マスク氏はTwitterのキュレーションチームを復帰させておらず、Xが現在提供しているコンテキストを書くために新しい人間の編集者を雇うこともしていない。

コンテキストは、X の AI チャットボットである Grok によって作成されます。

AI依存のXの危険性

Grok は AI 機能を多用していることを私たちは知っています昇進によるムスクは、X 自身がすべての Explore ページの細字でそのように述べているため、X の文脈に沿った要約を強化します。

ツイートは削除された可能性があります

「Grok は初期の機能であり、間違いを犯す可能性があります」と、Explore ページに記載されたコンテキストの下にある X からの小さなメモが読み取れます。 「出力を確認してください。」

Mashableは、木曜日のトレンドにあったフェイクニュースを広めたXの「イランが大型ミサイルでテルアビブを攻撃」ページを観察した。

私たちの観察によると、このトピックがトレンドになり始めたのは、イラン攻撃に関する同じコピーアンドペーストの誤った情報をスパムする青いチェックマークのアカウント (認証バッジを含むプレミアム機能のために X に月々のサブスクリプションを支払っているユーザー) が突然増加したためであるようです。イスラエル。 X が提供した厳選された投稿には、爆発を描いた未確認のビデオとともにこの偽ニュースを広める確認済みのアカウントが多数含まれていました。

そこから、X のアルゴリズムがこれらのユーザーの投稿内の潜在的なストーリー傾向に気づき、Explore ストーリー ページが作成されたようです。内部の仕組みについての X 自身の主張から、Grok はキャッチーな見出しとともに、公式に見える文書化された物語を作成したに違いないと推測できます。これはすべて、プラットフォーム自体が本当の話であると想定しているように見える内容のコンテキストを自動的に提供する試みとして、フェイクニュースを共有する選ばれたユーザーに基づいて行われました。

これ初めてではないでしょうGrok はユーザーに誤った情報を提供しました。 X のチャットボットの初期バージョンに関する以前のレポートでは、チャットボットにアクセスできる選ばれた少数のユーザーとのプライベート チャットでフェイク ニュースが作成されることが多かったことが判明しました。しかし、この最近の事件と新しい Explore 機能の組み合わせは、X が初めて Grok の誤った情報を取り上げ、それを実際のトレンドニュース記事としてパッケージ化し、表面上は実際のイベントのコンテキストとしてユーザーベース全体に宣伝したことを示しています。

マスク政権下では、偽情報が急騰した新しい Explore 製品のおかげで、同社は悪意のある者に金を払って広めた虚偽を宣伝しました。お金を稼ぐために立つ人エンゲージメントを生み出すことと引き換えに。

ある日Grok がこの偽のストーリーを作成し、X が Explore ページを通じて宣伝した後、同社は巻いたプレミアムに登録しているすべての X ユーザーに、誤った情報を作成する AI チャットボットも使用できるようにしてください。

ツイートは削除された可能性があります