AI の新しいアプリケーションが発表されるたびに、私はつかの間の興奮を感じますが、その後すぐに胃が痛くなります。これは、多くの場合、テクノロジーが公平性を念頭に置いて設計されていないことを私が知っているからです。
1 つのシステムである ChatGPT は、1億人のユニークユーザー発売からわずか2ヶ月。このテキストベースのツールでは、ユーザーは、対応を求められたあらゆるテーマについて権威をもって話すように開発されたチャットボットと、AI によって生成されたインタラクティブでフレンドリーなやりとりを行うことができます。
マイケル・バーバロとのインタビューでザ・デイリーポッドキャストからのニューヨークタイムズテクノロジーレポーターのケビン・ルース氏は、同じくOpenAIのGPT-3言語モデルに基づいて構築されているBingのAIチャットボットであるChatGPTに似たアプリが、バレンタインデーのディナーのフレンチオニオンスープに添えるおかずの提案のリクエストにどのように応えたかを説明した。彼の妻。ビングさんは質問におすすめのサラダを答えただけでなく、スーパーマーケットで材料を見つける場所や、2人分のレシピを作るのに必要な分量も教えてくれた。そして、ビングさんと妻の素晴らしい暮らしを祈るメモでやりとりを終えた。バレンタインデー — ハートの絵文字も追加できます。
このやりとりの正確さ、具体性、さらには魅力は、テクノロジーを推進するために必要な知識の正確さと深さを物語っています。このようなボットを信じない人がいるでしょうか?
Bing は、ルーズのプロンプト内のキーワード、特に「フレンチ オニオン スープ」と「サイド」を分析し、マッチング アルゴリズムを使用して、ルーズの質問に最もよく答える応答を作成することで、この情報を提供しました。このアルゴリズムは、OpenAI で働くエンジニアによって開発された大規模な言語モデルを使用して、ユーザーのプロンプトに応答するようにトレーニングされています。
2020 年、OpenAI チームのメンバーは、自分たちの言語モデルがこれまでに作成された中で最大であると述べた学術論文を発表しました。1,750 億のパラメータその機能の裏側。これほど大規模な言語モデルがあるということは、ChatGPT が何でも話せるということですよね?
残念ながら、それは真実ではありません。この規模のモデルには世界中の人々からの意見が必要ですが、本質的に作成者の偏見が反映されます。これは、女性、子供、および人類の歴史を通じて疎外されてきた人々の貢献が過小評価され、この偏りが ChatGPT の機能に反映されることを意味します。
AI バイアス、ベッシー、ビヨンセ: ChatGPT は黒人の卓越性の遺産を消去できるでしょうか?
今年初めにゲスト出演させていただきましたカレンハンターショー、そして彼女は、当時、アーティストにどうかを尋ねたときに、ChatGPTが彼女の具体的な問い合わせにどのように応答できなかったかについて言及しました。ベッシー・スミスゴスペル歌手マヘリア・ジャクソンに影響を与えたが、新たな情報の導入を促すことはなかった。
ボットは各女性の経歴情報を提供することはできましたが、2 人の関係について確実に議論することはできませんでした。ベッシー・スミスはアメリカの歴史の中で最も重要なブルース歌手の一人であり、ジャクソンに影響を与えただけでなく、音楽学者たちもジャクソンに影響を与えたと信じているので、これは茶番だ。米国におけるポピュラー音楽の基礎を築いた。彼女は何百人ものアーティストに影響を与えたと言われています。エルヴィス・プレスリー、ビリー・ホリデイ、ジャニス・ジョプリン。しかし、ChatGPT は依然として、スミスの影響に関するこのコンテキストを提供できませんでした。
これは、アメリカ社会で人種差別と性差別が現れる方法の 1 つが、黒人女性が行った貢献の消去を通じて行われるためです。音楽学者がスミスの影響について広く書くためには、彼女が白人の人々と文化全体の行動を形作る力を持っていたことを認めなければならないだろう。これは、作家で社会活動家のベルフックが呼んだものに挑戦します。「白人至上主義、資本主義、家父長制」の価値観それが米国を形作ってきたのです。
したがって、スミスの貢献は最小限に抑えられます。その結果、OpenAI のエンジニアが ChatGPT モデルをトレーニングしていたとき、スミスの情報へのアクセスは限られていたようです。 現代アメリカ音楽に影響を与えた。このことは、ChatGPTがハンターに適切な対応をすることができなかったことからも明らかであり、そうすることで、この失敗は音楽業界の規範として黒人女性による貢献の最小化を強化するものとなった。
偏見の潜在的な影響を探る、より現代的な例として、ビヨンセは史上最も有名なグラミー賞受賞者であるにもかかわらず、年間最優秀レコード賞を受賞したことがないという事実を考えてみましょう。なぜ？
マッシュ可能な光の速度
グラミー賞投票者の一人、特定バラエティ「70代の音楽業界のベテラン」として、ビヨンセの作品には投票しなかったと語った。ルネッサンスこの作品のリリースをめぐるファンファーレは、「あまりにも予兆がありすぎる」アルバム自体の品質とは関係なく、この意見の影響により、アーティストはレコード・オブ・ザ・イヤーの受賞を逃し続けることになりました。
技術的な観点から将来に目を向けて、エンジニアが 21 世紀初頭の最も成功した音楽アーティストのトレーニング データセットを開発しているところを想像してください。グラミー賞受賞者としての地位が重要な要素として重視される場合、ビヨンセはこのデータセットに含まれない可能性がありますが、これはばかげた話です。
社会でも過小評価、AIでも過小評価
このような性質の見落としは私を激怒させます。なぜなら、新しい技術開発が私たちの社会を進歩させていると称されているからです。あなたが中流階級であり、シスジェンダーで異性愛者の白人男性であれば、それは彼らに当てはまります。しかし、あなたが黒人女性である場合、これらの申請はマルコム X の主張を補強するものになります。黒人女性はアメリカで最も軽視されている人々である。
黒人女性が社会全体に貢献していることのこの評価の低下は、テクノロジー業界で私がどのように見られるかに影響を与えます。ちなみに、私は高度な技術システムが人種に与える影響についての専門家として広く考えられており、定期的に諮問委員会への参加やテクノロジー業界全体の製品チームのサポートを依頼されています。それぞれの会場で私は会議に出席しており、人々は私の専門知識に驚いています。
これは、私が、アルゴリズム責任法2019年に米国下院議員に、そして2019年に再び下院議員に2022年、影響評価に関して含まれる文言は、2022 年米国データプライバシー法。にもかかわらず、私はアルゴリズムバイアスに関する国連の考え方の形成を支援するよう依頼された非営利団体を率いています。そして、私はハーバード大学、スタンフォード大学、ノートルダム大学でフェローシップを開催し、そこでこれらの問題を検討したという事実にもかかわらず。
この豊富な経験にもかかわらず、私の存在は驚きをもって迎えられます。なぜなら、黒人女性は依然として多様性に富んだ雇用とみなされ、リーダーシップの役割に適格ではないと見なされているからです。
ChatGPT が人種化された性差別の影響を認識できないことは、一部の人にとっては心配ではないかもしれません。しかし、考えてみると、それは私たち全員にとって懸念事項になります。Microsoft の ChatGPT 統合計画Bing を通じてオンライン検索エクスペリエンスを実現します。多くの人は、正確で客観的で偏りのない情報を提供するために検索エンジンに依存していますが、それは不可能です。トレーニング データに偏りがあるだけでなく、ChatGPT を駆動するアルゴリズムが情報を事実確認するのではなく予測するように設計されているためでもあります。
これはすでにいくつかの問題を引き起こしています顕著な間違い。
ここで、なぜ ChatGPT を使用するのかという疑問が生じます。
賭け金この映画の事故低いですが、次の事実を考慮してください。コロンビアの裁判官はすでに判決でChatGPTを使用している—黒人にとって大きな懸念事項です。
どのようにして代替制裁のための矯正犯罪者管理プロファイリング (COMPAS) アルゴリズム米国で使用されているこの理論は、黒人被告の再犯率が白人被告よりも高いと予測している。ニューヨーク市の「ストップ・アンド・フリスク」時代の逮捕データを使用してChatGPTによって書かれた判決を想像してみてください。警察に呼び止められた黒人と褐色男性の90パーセントは無実だった。
AI を活用する機会をつかむ
これらの問題の存在と重要性を私たちが認識すれば、黒人女性やその他の疎外されたグループの声の省略を是正することは手の届くところにあります。
たとえば、開発者は、歴史的に疎外されてきたグループの人々がテクノロジーをどのように使用するかについての影響評価を実施するサードパーティのバリデーターまたは独立した専門家と契約することで、トレーニング データの欠陥を特定して対処できます。
OpenAI が行ったように、新しいテクノロジーを信頼できるユーザーにベータ版でリリースすることも、「信頼できるユーザー」のプールが包括的であれば、表現力を向上させる可能性があります。
さらに、2022 年に議会に再提出されたアルゴリズム責任法のような法案の可決により、影響評価の要件やテクノロジーがいつどのように使用されるかに関する透明性など、米国国民の権利を保護する連邦ガイドラインが確立されることになります。保障措置。
私の心からの願いは、技術革新によって社会に対する新しい考え方が生まれることです。 ChatGPT のような新しいリソースが急速に導入されると、AI がサポートする知識へのアクセスの新時代にすぐに突入する可能性があります。しかし、偏ったトレーニング データを使用すると、抑圧の遺産が将来に投影されることになります。
Mashable Voices のコラムと分析はライターの意見を反映しています。