Twitter は、実際に何か良いことをした人に報酬を支払う新しいチャレンジを発行しました。
ハッカーカンファレンスの一環としてデフコンTwitter は 8 月 5 日から、プラットフォームの写真をトリミングするアルゴリズムを (明らかに) 人種差別的でないものにするために、ハッキング/コーディング コミュニティに対する異議申し立てを発表しました。
ツイートは削除された可能性があります
ツイートに添付された写真がサムネイルの比率より大きい、または形状が異なる場合、Twitter のアルゴリズムがツイートのプレビューに表示する画像の部分を選択します。 2020年9月、Twitterユーザーは指摘したこのアルゴリズムは、両方を含む奇妙な形の画像がある場合、黒い顔よりも白い顔をより一貫して表示するように見えたということです。これを次のように説明する人もいます。アルゴリズムのバイアスこれは、コンピューターが行う決定に人種差別が意図的または不注意で組み込まれている場合です。
これを受けてツイッターでは、道を共有したアルゴリズムは機能したので、この問題を調査すると述べた。しかし、アルゴリズムによるバイアス報奨金プログラムは、人々に経済的に緩和するよう奨励することで、この問題をさらに一歩進めて解決する取り組みを行っています。
マッシュ可能な光の速度
ツイートは削除された可能性があります
バグ報奨金は、技術インフラストラクチャ内のバグを発見した人々 (多くの場合、組織外の人々) に報酬を与える、企業またはその他のグループが提供するプログラムです。バグ報奨金は、潜在的なセキュリティ違反の発見に焦点を当てていることが多く、組織は問題を警告するバグ報奨金ハンターに報酬を支払います。
Twitter はこの概念を採用し、写真トリミングにおけるアルゴリズムのバイアスの問題に適用しています。この明らかな偏りの原因を特定できた 1 位の勝者には 3,500 ドルが授与され、さらに「最も革新的」および「最も汎用性が高い (つまり、ほとんどのタイプのアルゴリズムに適用できる)」2 位には 1,000 ドル、500 ドルが授与されます。 3位に。
課題は、バグ報奨金モデルをうまく利用することです。Twitter は、アルゴリズムによるバイアスの事例に対して謝罪したり弁護するのではなく、積極的な支援が必要だと言っています。そして私たちが支払います。
関連項目:
「私たちは、私たちが特定したものを超えて、このアルゴリズムの潜在的な害を特定するのに役立つコミュニティを招待し、奨励することで、この取り組みをさらに一歩進めたいと考えています。」とTwitterは述べています。ブログ投稿挑戦を発表するとこう書かれています。 「この挑戦により、私たちはアルゴリズムによる危害を積極的かつ集団的に特定するための先例をTwitterと業界で確立することを目指しています。」
現時点での報奨金プログラムは、写真のトリミングの課題に特化しています。しかし、この挑戦を発表したブログ投稿では、これを「Twitter初のアルゴリズムバイアス報奨金チャレンジ」と説明している。最初で最後ではないでしょうか? Mashableは、機械学習におけるバイアスを追い詰めるために、アルゴリズムによるバイアス報奨金をさらに打ち出すかどうかについてTwitterに問い合わせを行っており、返答があり次第更新する予定だ。
