ここでは驚きはありません：chatgptまだ人間の雇用担当者とリクルーターにとって信頼できる代替品ではありません。
ワシントン大学から新しく公開された研究で、インテリジェントaiチャットボットは、障害関連の栄誉と資格を含むアプリケーションを繰り返しランク付けしました。この研究では、難聴、失明、脳性麻痺、自閉症、一般的な用語「障害」など、いくつかの異なるキーワードをテストしました。
研究者は、著者の公開されているCVの1つをベースラインとして使用し、「Tom Wilson Disability Leadership Award」やDEIパネルの議席など、さまざまな障害を暗示する賞と栄誉を備えたCVの強化バージョンを作成しました。その後、研究者はChatGptに応募者をランク付けするように頼みました。
60回の試験で、元のCVは最初の75％にランクされました。
マッシャブルなライトスピード
参照：
「AIによるランキングの履歴書は増殖し始めていますが、安全で効果的かどうかの背後にはあまり研究がありません」と、コンピューターサイエンスおよびエンジニアリングの大学院生で研究の主著者であるKate Glazko氏は述べています。 「障害のある求職者の場合、障害者の資格を含めるべきかどうかの履歴書を提出する際には、常にこの質問があります。障害者は、人間がレビュアーであってもそれを考慮していると思います。」
ChatGptはまた、特定の精神的および肉体的な病気が候補者が仕事をする能力を妨げる理由についての有能な推論を「幻覚」するだろう、と研究者は述べた。
「GPTの説明のいくつかは、障害に基づいて人の履歴書全体を色付けし、DEIまたは障害への関与が履歴書の他の部分から奪う可能性があると主張しました」とGlazkoは書いています。
しかし、研究者たちはまた、GPTSエディター機能を使用してIT障害の正義とDeiの原則を養うために、ChatGptに能力を持たないように指示することにより、心配することのある機能のいくつかを抑制できることを発見しました。その後、強化されたCVSは、半分以上の時間以上のオリジナルを打ち負かしますが、結果は履歴書で暗示されている障害に基づいて依然として変化しました。
Openaiのチャットボットは、過去に同様のバイアスを表示しています。 3月、aブルームバーグ調査により、同社のGPT 3.5モデルが表示されたことが示されました明確な人種の好み求職者の場合、既知の差別的雇用慣行を再現するだけでなく、人種と性別の両方でバックステレオタイプを繰り返します。これに応じて、Openaiは、これらのテストは職場でのAIモデルの実用的な用途を反映していないと述べています。
