Facebookの内部文書から得られた新たな情報により、このソーシャルメディア企業の誤った情報が米国よりもはるかに広範囲に及んでいることが明らかになった。
Facebook Papersと名付けられたこの文書は、内部告発者フランシス・ホーゲンは、インド、ミャンマー、スリランカなどの国々におけるフェイスブックのリソースや社会的認識の欠如を示しており、暴力行為につながり、国政選挙に影響を与える可能性のあるヘイトスピーチや過激な政治感情の蔓延につながっている。
Facebookは、米国外では自社ウェブサイトの社会的動向にそれほど関与していないが、同社は自社のプラットフォームがそのような国の政治に影響を与えていることを一般的に認識していると、同誌は述べている。ニューヨーク・タイムズ。内部研究者らはインドでフェイスブックのアルゴリズムに関するテストと現地調査を実施したが、インドではニュースフィードからヘイトスピーチや誤った情報、暴力の賛美がすぐに生み出された。このタイプのコンテンツは、正規のユーザーと無検閲のボットの両方から送信されました。
「このテストユーザーのニュースフィードの後、私は過去3週間で、これまでの人生で見たよりも多くの死者の画像を見ました」と研究者はFacebookの内部レポートに書いている。
この文書はまた、フェイスブックが誤情報との戦いに偏ったアプローチをとっており、世界予算の87パーセントを米国のみの誤情報の特定に充て、残りの13パーセントが世界のその他の地域に対応していることも示している。
マッシュ可能な光の速度
この比較的小規模な資源は、全国的に異なる急進的な政治を擁するインドのような場所では、効果のない政策につながっています。インドがFacebook最大の市場であり、そのプラットフォーム全体に3億4,000万人のユーザーがいることを考えると、これは焦点の配分を著しく誤っているように思える。
Facebook ユーザーには、国の 22 の公用語のいずれかで反イスラム教や反パキスタンのレトリックを吐き出す生々しい投稿が簡単に提供されます。によると、回, FacebookのAIはこれらの言語のうち5言語のみでトレーニングされており、「その他の言語」については人間のレビュー担当者がいる。
しかし、同社自身の文書にあるように、インドで最も一般的な言語の 2 つであるヒンディー語やベンガル語の危険なコンテンツの多くは、データが不十分であるため、報告されることはありません。そして、国政選挙の頃になると偽情報への取り組みが強化される一方、国内ではフェイスブックの継続的なリソース不足により、危険なボットや暴力グループとより永続的に戦うことができていない。
この問題はインドで最も大きいが、同様の資源問題はミャンマーなどの国でも悩まされており、有害な発言を阻止するフェイスブックの取り組みが十分ではなく、クーデターを煽る一因となった可能性がある。会社でありながら対策を講じたミャンマーの選挙中に軍が共有した誤情報投稿の公開を制限したが、その後も維持できなかった。結局フェイスブックは措置を縮小し、その3か月後に軍が暴力的なクーデターを実行した。
Facebookは外国の政治的暴力における自社の役割を明確に認識しており、それを正そうとしているが、これらの文書は、それがしばしば少なすぎ、遅すぎることを示している。企業が世界的な舞台で倫理的に事業を展開しようとするのであれば、その最大の市場、そして他のすべての市場において、文化的配慮と、ユーザーに安全にサービスを提供するためのリソースの献身が求められます。米国に本拠を置く企業は自国の誤報問題に絶対に取り組むべきだが、フェイスブックは世界中の誤報にどのように時間を割いているかを再検討する必要がある。
フェイスブックの元公共政策ディレクター、ケイティ・ハーバス氏はこう語った。回彼女の元雇用主は世界中で適用できる解決策を見つける必要があると訴えました。 「資源に関しては確かに疑問がある」とハーバス氏は語った。 「[しかし答えは]単に問題にもっと資金を投じるだけではありません。」