人間がコンピュータに動作を教えるとき、機械は人間から学ぶ以外に選択肢はありません。
それは新品で明らかです 勉強木曜日に雑誌に掲載されました科学その結果、人工知能は、私たちがすでに制御するのに苦労しているのと同じ性別や人種の固定観念を再現していることがわかりました。
この発見は、まったく驚くべきことではないが、AI が単にデータ分析や作業タスクを合理化するのではなく、誤ってバイアスを永続させてしまう可能性があることを示唆している。
この厄介な力関係を明らかにするために、研究者らは既製の AI を使用し、単語のペアをどのように関連付けるかを判断するアルゴリズムを開発しました。機械学習によって生成された AI は、英語の複雑さを捉えた最近の大規模なウェブ クロールに基づいていました。
そこで研究者らは、いわゆる暗黙的な関連付けテスト、たとえば、人の性別とキャリア、または人の名前、人種、好感度などの間で人々が急速に築く無意識のつながりを科学的に測定したもの。私たちが人種差別主義者、性差別主義者、同性愛嫌悪者ではないとどれだけ主張しても、IAT を使用した長年の研究により、私たちが無意識のうちに偏見を持っていることがわかりました。
AIが中立的な言葉をバイアスと関連付けているかどうかを確認するために、研究者らはまず、花や昆虫が心地よいか不快であるかについてのIATを使用しました。 AI は、ほとんどの人がそうするように、花は好きですが、昆虫はあまり好きではないと答えました。
次に、彼らは、私たちが特定のグループに対して抱いている固定観念に関連する IAT に移りました。以前の実験同じ質の履歴書を使用し、ヨーロッパ系アメリカ人の名前とアフリカ系アメリカ人の名前のいずれかを使用した場合、前者のグループの人は面接に呼ばれる可能性が 2 倍であることがわかりました。この研究を行った研究者が同じ名前のデータベースを使ってその結果を再現し、快さや不快との関連性をテストしたところ、AIはヨーロッパ系アメリカ人の名前をより好意的にみなした。
「名前だけで私たちがステレオタイプを再現できるということは、気がかりな発見でした。」
「広告でした私名前だけで私たちがステレオタイプを再現できるという驚くべき発見がある」と、この研究の筆頭著者でプリンストン大学情報技術政策センターの博士研究員であるアイリン・カリスカン氏は言う。
Mashable のトップ ストーリー
別の勉強2002年の研究では、女性の名前はキャリアの言葉よりも家族との関連性が高いことが判明したが、男性の名前には当てはまらなかった。
おそらくこれがどこに向かうのかがわかるでしょう。
AI はこれらの結果を再度再現し、特に「女性」や「少女」などの女性の単語が男性の単語よりも数学や科学と比較して芸術に関連していることを示しました。
この研究結果は、鶏が先か卵が先かという腹立たしい問題に光を当てています。人間は自らの偏見を言語に反映させているのでしょうか、それとも言語を通して学習しているのでしょうか?カリスカン氏はまだこの質問に最終的に答えることができていない。
「私たちは、機械からバイアスを取り除こうとするのではなく、機械が正しい決定を下せるように人間を関与させるべきだと提案しています」と彼女は言う。
もちろん、それには、自分自身の固定観念の傾向を認識している人間が必要です。
ケイト・ラトリフ、エグゼクティブ・ディレクター暗黙的なプロジェクトフロリダ大学心理学部の助教授は、バイアスを根絶することが可能であるという経験的証拠がないため、現時点では非現実的であると述べています。結局のところ、私たちの言語、文化、エンターテイメント、政治には、私たちが拒否しようとしている連想を強化し続ける固定観念が溢れています。
「人々を訓練して、こうした偏見に気づき、それを打ち消すことができるかもしれない」と、この事件には関与していないラトリフ氏は言う。科学勉強。
実際、それは多くの企業が行っていることです。フェイスブック、社員研修を通じてやろうとしています。そして、それはまさに、コンピューターが見知らぬ人をステレオタイプ化するのを防ぐ任務を負った人間に必要なスキルと自己認識です。
これらの人間と機械の対戦は、間違いなく非常に優れたペアとなるでしょう。