注目★★★★★Hacker News
AI採用ツールが黒人26%・アジア系15%を系統的に排除、研究が実証
30秒で把握
- 1AI採用ツールが黒人26%・アジア系15%を系統的に拒否すると研究が実証
- 2単一ベンダー依存で4社応募者の10%が全社拒否・独立判断時より高率
- 3採用AI導入企業はベンダー選定時に公平性監査の実施有無を確認すべき局面
要約
スタンフォード大学の研究が、AI採用ツールが人種的偏りをもたらし黒人応募者を26%、アジア系を15%の割合で系統的に拒否することを実データで確認した。同一ベンダーのAIを複数企業が使う「アルゴリズム的単一文化」の下では、4社に応募した求職者の10%が全社から拒否される。対照的に、AIを使わない8万3,000件・Fortune 500・108社の採用データでは、各社が独立して判断した場合と同水準の拒否率にとどまった。
あなたへの影響
採用選考にAIベンダーを導入している日本企業も、同一ベンダーの普及度が上がるほど特定属性の候補者を構造的に排除するリスクを抱える可能性があり、ベンダー選定時にアルゴリズムの公平性監査（バイアス評価）を要件に含めることが求められつつある。
推奨：今週中にチームで影響と対応方針を確認してください。