交叉歧視
設計與開發
風險描述
個別受保護特徵(如性別、種族、年齡)的偏見在交叉時會產生放大效應。例如,AI 系統對「年長女性」或「非裔殘障人士」等交叉群體的歧視可能比對單一特徵群體更為嚴重。傳統的公平性測試通常只檢測單一維度的偏見,無法發現這種交叉歧視。受交叉歧視影響的群體往往是社會中最弱勢的族群。
框架對照
iso 23894R3
tw principle公平與不歧視
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 交叉公平性測試
- 多維度偏見分析
處理步驟
- 在公平性測試中加入交叉特徵的組合分析
- 建立交叉群體的專用測試數據集
- 使用多維度偏見分析工具,檢測特徵交叉處的歧視放大
- 在模型開發中納入交叉歧視的紅隊測試