S0130嚴重

交叉歧視

設計與開發

風險描述

個別受保護特徵(如性別、種族、年齡)的偏見在交叉時會產生放大效應。例如,AI 系統對「年長女性」或「非裔殘障人士」等交叉群體的歧視可能比對單一特徵群體更為嚴重。傳統的公平性測試通常只檢測單一維度的偏見,無法發現這種交叉歧視。受交叉歧視影響的群體往往是社會中最弱勢的族群。

框架對照

iso 23894R3
tw principle公平與不歧視
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 交叉公平性測試
  • 多維度偏見分析

處理步驟

  1. 在公平性測試中加入交叉特徵的組合分析
  2. 建立交叉群體的專用測試數據集
  3. 使用多維度偏見分析工具,檢測特徵交叉處的歧視放大
  4. 在模型開發中納入交叉歧視的紅隊測試