Twitter ユーザーがツイートを最初に見るとき、それは意図せずして人種的に偏見を持ったものになる可能性があります。
Twitterは日曜日、写真プレビューで画像のどの部分を表示するかを選択するニューラルネットワークが、黒人よりも白人の顔を表示することを優先するかどうかを調査すると発表した。
この問題は先週末にTwitterユーザーが、黒人の写真と白人の写真をフィーチャーした画像の中で、Twitterのタイムラインの写真のプレビューで白人の方が頻繁に表示されるという例をいくつか投稿したことから始まった。
ツイートは削除された可能性があります
この公開テストは Twitter の注目を集め、現在同社は明らかに行動を起こしているようだ。
「私たちのチームはモデルを出荷する前にバイアスのテストを行いましたが、テストでは人種や性別のバイアスの証拠は見つかりませんでした」とTwitterコミュニケーションチームのメンバーであるリズ・ケリー氏はMashableに語った。 「しかし、これらの例から、私たちがさらに分析する必要があることは明らかです。私たちはこれを調査しており、私たちが学んだことと私たちがとった行動を引き続き共有するつもりです。」
Twitterの最高デザイン責任者のダントリー・デイビス氏と最高技術責任者のパラグ・アグラワル氏もツイッターで同調し、ニューラルネットワークを「調査」していると述べた。
マッシュ可能な光の速度
ツイートは削除された可能性があります
ツイートは削除された可能性があります
この会話は、ある Twitter ユーザーが Zoom の顔検出における人種的偏見について最初に投稿したときに始まりました。彼は、プレビューで自分（白人男性）と黒人の同僚が並んでいる画像に繰り返し彼の顔が映っていることに気づきました。
ツイートは削除された可能性があります
複数のユーザーを使用した後テストに参加しました、あるユーザーは、明るい顔がどのように好まれるかについて、次のキャラクターの場合であることさえ示しました。シンプソンズ。
ツイートは削除された可能性があります
Twitter が調査すると約束しているのは心強いことだが、Twitter ユーザーは分析を少し割り引いて見る必要がある。少数の例から偏見の発生率を主張することには問題があります。バイアスを実際に評価するには、研究者はさまざまな状況下で複数の例を含む大きなサンプルサイズを必要とします。
それ以外のことは逸話によって偏見を主張することです - 保守派がそうするために行うことです反保守的偏見を主張するソーシャルメディア上で。この種の議論は有害である可能性があります。なぜなら、人々は論点を証明するために、ほとんど何でも 1 つまたは 2 つの例を見つけることができ、実際に厳密な分析の権威を損なうからです。
これは、プレビューの質問が検討する価値がないという意味ではありません。これは、次の例である可能性があるためです。アルゴリズムのバイアス: 自動化システムが人間の作成者のバイアスを反映する場合、または偏った影響を与える決定を下す場合。
関連項目:
2018年にTwitterは、ブログ投稿これは、ニューラル ネットワークを使用して写真のプレビューを決定する方法を説明しました。システムが画像の一部を選択する要因の 1 つは、コントラスト レベルが高いことです。これが、システムが白い顔を好むように見える理由を説明している可能性があります。コントラストを決定要因として使用するというこの決定は、意図的に人種差別的なものではないかもしれませんが、黒人の顔よりも白人の顔を頻繁に表示することは、偏った結果になります。
まだあるよ質問これらの逸話的な例が体系的な問題を反映しているかどうかについて。しかし、何があっても、Twitter の探偵に感謝と行動を持って応答することが、始めるのに良い出発点となります。
ツイートは削除された可能性があります