報告書によると、Facebook上でのヘイトスピーチは減少しているという。問題？レポートはフェイスブックから。そして活動家らは、貴重な文脈、データ、透明性が欠けていると主張する。
「この報告書は、私たちが何年も問い続けてきた単純な疑問、つまりFacebook上でヘイトスピーチがどれほどあるのか、それにさらされているユーザーの数は何人なのか、という答えを示していない。」 CEOのイムラン・アーメド氏は、デジタルヘイト対策センターとMashableに語った。 「私たちの研究で彼らのモデレーションシステムをテストしたとき、保護の失敗、Facebookが報告された反ユダヤ主義コンテンツの89[パーセント]に対処できず、依然として反ユダヤ憎悪に特化した数万人のメンバーがいるグループを主催していることが判明した。」
フェイスブックのコミュニティ標準施行レポート現在、ヘイトスピーチは 10,000 件中 5 件の投稿にすぎず、今年の最初の 3 か月間で 5 ～ 6 件だったのが、減少していると主張しています。 Facebookはまた、ユーザーが報告する前にヘイトスピーチの90％を削除したと述べた。
Facebookのインテグリティ担当バイスプレジデント、ガイ・ローゼン氏は水曜日、報道陣に対し、同社は人工知能のおかげでヘイトスピーチの削除ペースを「非常に」速めたと語った。
「現在、私たちが削除したもののほとんどは、人々が報告する前にシステムによって検出されています。」
データはポジティブに見えるかもしれませんが、専門家が何を見ているのかを正確に伝えるのは困難です。デイブ・シフライ役、ADL副社長テクノロジーと社会センターは電子メールでMashableに「この数値はデータにアクセスできる専門家によるいかなる外部レビューも受けていないため、このデータがどこから来たのか、実際に何を測定しているのか、誤差の範囲がどれくらいなのか全く分からない」と語った。そしてこれらの数値を計算するために使用された方法論。」
「フェイスブックは、監査も検証もされていない、説明責任のない数字や『データ』を公表することを何度も示してきた。」
「Facebookは、監査も検証もされていない、説明責任のない数字や『データ』を公表することを何度も示してきた。それよりもさらに悪いことに、Facebookは自社のプラットフォームを調査している独立した研究者に対して積極的に対抗している」とシフライ氏は述べた。Facebook、ニューヨーク大学の研究者チームが政治広告や新型コロナウイルス感染症の誤った情報を研究するのを阻止ほんの数週間前。 「フェイスブックが透明性を確保するまでは、フェイスブックが発表する数字は良く言えば慎重で、悪く言えば問題を危険なほど過小評価することになる。」
同プラットフォームはヘイトスピーチを「暴力的または非人間的な発言、劣等感の表明、保護された特徴や中傷に基づく排除や隔離の呼びかけ」と定義している。報告書は、この種のヘイトスピーチが減少していることを示しているが、どのような種類のヘイトスピーチが依然として蔓延しているのかについては詳しく述べていない。
マッシュ可能な光の速度
「[このデータは] Facebook や Instagram 上で流通しているヘイトコンテンツの種類、ユーザーに直接送信されるヘイトスピーチの量、各プラットフォームのアルゴリズムによって推奨されるヘイト投稿の数については何も教えてくれません。マルゴリズムの研究インスタグラムのおすすめを紹介します」とアーメッド氏は語った。
シフリー氏もアーメド氏の発言に同調し、モデレーションスキームがアルゴリズムと人間によるレビューを組み合わせたものとしてどの程度の頻度で組み合わされているかを知ることが役立つだろうと付け加えた。投稿が人間によってレビューされ、取り消される頻度。ヘイトスピーチの隣に表示された広告の数など。
活動家団体は、この報告書は良く言ってもイライラするものだと主張している。
メディア・文化・メディア担当シニアディレクターのジェイド・マグナス・オグンナイケ氏は、「Facebookがコミュニティ標準施行報告書を透明性の一つとして偽装しようとしたことは、同社が適切に自主規制したり、コンテンツモデレーションに対する効果的な監視を適用したりすることができないことのさらなる証拠となる」と述べた。経済的正義変化の色とメールでMashableに語った。
マグナス・オグンナイケ氏は、ヘイトスピーチはプラットフォームに影響を与えるだけでなく、実生活でも憎しみにつながる可能性があると指摘した。彼女はフェイスブックを指さしたヘイトグループの削除要求を無視するウィスコンシン州キノーシャで暴力的な反撃を組織し、その結果武装した白人至上主義者が抗議活動参加者２名を殺害した。
「研究者や公民権団体によるデータへのリアルタイムアクセスを制限するというフェイスブックの決定は、コンテンツモデレーションの決定が黒人や褐色肌のコミュニティに及ぼす現実の悪影響の徹底的な評価を回避したいという同社の願望をさらに強調している」とマグナス・オグンナイケ氏は述べた。
これは、政府からの新たな報告からわずか数週間後に発表された。デジタルヘイトに対抗するセンターフェイスブックを含む大手ソーシャルメディア企業５社は、反ユダヤ主義的な投稿の８４％を削除する措置を講じていないことを明らかにした。
「この報告書は、ソーシャルメディア企業が自社のプラットフォーム上でいかに反ユダヤ憎悪に対処できていないかを示している」と報告書には書かれている。 「彼らが独自のルールを施行できなかった結果、フェイスブックのようなソーシャルメディアプラットフォームは、ユダヤ人に対する人種差別やプロパガンダを広める安全な場所となった。」
Facebookは10月、「ホロコーストを否定または歪曲するあらゆるコンテンツを禁止する」と発表し、ホロコースト否定に関するヘイトスピーチポリシーを変更した。
「私たちは、フェイスブック上で組織される憎悪に満ちた暴力的な運動が、世界中での人種差別攻撃から暴力的な女性蔑視の促進に至るまで、現実世界に大きな影響を与えていることを知っています」とアーメッド氏は語った。 「独立した証拠は、Facebookがヘイト対策にあまりにも少なすぎることを示している。最新の報告書がヘイトコンテンツに関する最も単純な質問に答えていないという事実は、Facebookがこの問題に真剣に取り組んでいないことを示している。」