招聘 AI 性別歧視
運行與監控
風險描述
AI 履歷篩選系統因歷史招聘數據中男性主導的模式，系統性地給女性應聘者較低評分。除了 Amazon 的知名案例外，歐盟調查也發現多家企業的 AI 招聘工具仍存在性別偏見，特別是在 STEM 職位的篩選中。偏見可能隱藏在看似中性的特徵中（如特定大學校友、特定技能關鍵字）。
框架對照
iso 23894R3
tw principle公平與不歧視
tw principle人類自主
tw risk type技術設計缺陷（Technical Design Flaw）
控制措施
- 招聘 AI 公平性審計
- 特徵去敏感化
處理步驟
- 從模型特徵中移除所有與性別高度相關的代理變數
- 定期比較男女候選人的通過率和評分分佈
- 要求 AI 招聘工具通過獨立的公平性認證
- 保留人工審查管道，確保候選人可選擇非 AI 審核