Facebookは長い間、広告主が人種に基づいてユーザーをターゲティングすることを許可しており、人種に基づいてユーザーを除外することも許可してきた。
フェイスブックは水曜日、度重なる調査で差別がいかに簡単であることが判明したため、排除機能を一時的に停止すると発表した。
アップデートは次の後に行われますプロパブリカ先週発表された調査結果広告主は今後も住宅広告のターゲットを白人のみに限定できることが明らかになった。これは連邦公正住宅法に違反するだけでなく、プロパブリカすでにFacebookを作っているこの問題は 2016 年 10 月に認識されていました。Facebook はその後その執行を強化すると約束した。
解決策: アルゴリズム。
問題: アルゴリズムが完全には機能しませんでした。
フェイスブック言った2月には「特定の種類の広告に対する民族親和性マーケティングの使用を検出し、自動的に無効にするツールを構築する」としている。
Facebook の広告システムでは、ブランドが人種に基づいて人々をターゲットにしたり除外したりすることを明示的に許可していないことに注意することが重要です。 Facebookはユーザーに人種の報告を義務付けていない。代わりに、Facebookには「民族親和性マーケティング」と呼ばれるシステムがあり、プラットフォーム内外でのユーザーの行動に基づいてFacebookが考える人種や文化グループのユーザーのサブグループを作成する。
Facebookがこれらの広告による差別を防ぐために今年初めに導入したツールが完璧ではないことは明らかだ。プロパブリカの先週の調査では、人種や民族に基づいてユーザーを除外する賃貸住宅広告を数分で購入できることが判明した。
Facebook の名誉のために言っておきますが、このツール、あるいは Facebook が好んで呼んでいるように「安全装置」は、一部の悪用から身を守ってくれました。
Mashable のトップ ストーリー
Facebookの製品管理担当バイスプレジデント、アミ・ヴォラ氏は先週の声明で、「追加の人間によるレビュー担当者や機械学習システムを含む当社の安全対策により、数百万件の広告に警告を発することに成功し、その有効性は時間の経過とともに向上した」と述べた。
「何万もの広告主が、適用されるすべての法律を遵守することを含め、当社のより厳しい制限を順守していることを確認しています」と彼女は続けた。
しかしプロパブリカヴォラ氏が「技術的欠陥」と表現したシステムの欠陥を実証することができた。
「私たちのシステムは改善し続けていますが、もっと改善できるはずです」と Vora 氏は書いています。
Facebookは改善策を決定する前に、広告キャンペーンで人種を除外する機能を廃止した。この機能は金曜日時点ですべての広告主に対して削除される。
また、人種や民族の親和性グループを超えた排除ツールの監査も実施した。たとえばFacebookは、このツールがLGBTQコミュニティや宗教団体をどのように差別する可能性があるかを分析する予定だ。
Facebookの最高執行責任者シェリル・サンドバーグ氏は「当社のツールが不適切に使用されないことをより確実にできるまで、広告主が広告の視聴者から多文化親和性セグメントを除外できるオプションを無効にする」と述べた。手紙に書いた水曜日日付の議会黒人幹部会に向けて。
党員集会の議員らは昨年、この問題についてフェイスブックに連絡を取り、この問題について対話を続けていた。ある議員は、除外機能を一時的に停止するというフェイスブックの決定に満足していると述べた。
「多文化親和性広告機能を無効にするというFacebookの決定は、その機能に関連する深刻な懸念が解消されるまでは適切な措置だ。ありがたいことに、我々は建設的なコミュニケーションのパイプラインを確立することができ、結果として前向きな前進につながった」と議員は述べた。議会黒人議員団のメンバーでIT小委員会の幹部メンバーでもあるロビン・ケリー氏は水曜日の声明でこう述べた。
もちろん、彼女は Facebook を監視しています。
ケリー下院議員は「こうした問題が再び起こらないよう、引き続きこの問題を注意深く監視していく」と述べた。