研究者らは、オンデマンド労働市場のほぼあらゆる場所で人種と性別の格差があることを発見している。新しい調査によると、オンライン労働市場のTaskRabbitやFiverrでは、黒人は白人労働者よりも否定的な評価を受けており、女性労働者を雇用するためにサービスを利用した人々は、まったくフィードバックを残す可能性が低いことが示された。
2月に発表される予定のこの学術研究の結果は、ウーバー、リフト、エアビーアンドビーのホストを利用するドライバーが黒人っぽい名前の顧客を差別していることを示す同様の研究に続くものである。 TaskRabbit は以前、別の調査の対象となっており、その調査では労働者が低所得地域で仕事に就く可能性が低いことが示されています。
問題はテクノロジー企業が明らかに差別的なシステムを設計したことではなく、そのシステムによって人々が偏見に基づいて行動できるようになることだ、とノースイースタン大学助教授で新たな研究の著者であるクリスト・ウィルソン氏は述べた。
「ユーザーに異なる行動をとらせるためにできることには限界がある」と彼は言う。
しかし、市場の構造が重要です。
Mashable のトップ ストーリー
最新の調査では、研究者らは2015年12月にTaskRabbitとFiverrのウェブサイト上のユーザープロフィールからデータを収集し、写真、レビュー、検索ランキングにおける従業員の順位を収集した。研究者らは人を雇って写真を調べ、性別と人種に基づいて各人物を分類した。研究の要約版が土曜日に発表された。 MITは先週、この研究について初めて報告した。
研究者らは両方のサイトでバイアスの証拠を発見したが、調査では、ユーザーのフィードバックが検索ランキングでの表示順位に影響を与えたため、TaskRabbitのプラットフォームには特に問題があることが示された。白人女性と黒人男性は順位が低く見えたが、アジア系労働者と黒人女性は順位が高かった。人々はオンライン検索で最初に表示される選択肢の 1 つを選択する傾向があることを考えると、これは雇用の見通しに影響を与える可能性があります。
TaskRabbitは、検索ランキングを決定するアルゴリズムにレビューを組み込んでいることを認めたものの、レビューの重要性は比較的低いと述べた。 「私たちはこの問題について多くの時間を費やし、当社のプラットフォーム上での差別と偏見を最小限に抑えるために取り組んでいます」と同社は電子メールでの声明で述べた。しかし、これらの割り当ては、検索結果で従業員をランク付けするために使用されるものと同様のアルゴリズムによって生成されるため、これによって偏見が排除されるかどうかは不明です。
Fiverr氏は研究結果にも異議を唱えた。 「Fiverrでは人口統計情報は必要ありません。当社のユーザーエクスペリエンスは、ギグを完了する人ではなく、ギグに重点を置いています」と同社は声明で述べた。同社は、自分の写真を投稿しない人も多いと付け加えた。
同様のパターンの人種格差を提示されたとき、Airbnbはサイト上のユーザーの写真を強調しないことで対応した。同社は9月、インスタント・ブックと呼ばれる機能を利用してゲストに審査なしでユニットを予約できるようにホストに呼び掛け始め、ゲストにスペースが利用できないと伝えた日にはユニットを予約できなくなると述べた。しかし、一部の批評家が強く求めていたように、プラットフォームから写真を完全に削除することは拒否した。
ウィルソン氏は、企業はプラットフォーム上の人種格差を定量化し、それを明示的に相殺するソフトウェアを作成するよう努めるべきだと述べた。同氏は、例えば黒人労働者をデフォルトで検索上位にランク付けすることを提案した。 「直観に反するのは、色覚異常や中立にはなれないということです」と彼は言う。
これは議論の余地があるでしょう。テクノロジープラットフォームに対して、ユーザーに関する人口統計情報をさらに収集するよう求めている人はほとんどいません。刑事司法制度からソーシャルメディアのニュースに至るまで、あらゆる分野でコンピューターによる意思決定が疑問視されており、アルゴリズムによるアファーマティブ・アクションという考えはひるむかもしれない。ウィルソンも同様のことを認めている：「誰もこれに関わりたくない」。