信用評分模型族群偏見
設計與開發
風險描述
AI 信用評分模型因訓練數據反映歷史性的種族和社經歧視，對特定族群系統性給出較低信用分數。Apple Card 曾被發現對女性提供的信用額度系統性低於男性，儘管兩者的財務狀況相似。在台灣，來自特定縣市或職業的申請者也可能面臨類似的隱性偏見。
框架對照
iso 23894R3
tw principle公平與不歧視
tw principle人類自主
tw risk type技術設計缺陷（Technical Design Flaw）
控制措施
- 公平性指標監測
- 偏見審計
- 去偏見技術
處理步驟
- 定義並追蹤多維度公平性指標（DP、EO、PP）依保護屬性分組
- 每季進行一次公平性審計，比較各群體的核准率和額度
- 使用去偏見技術（如 adversarial debiasing）修正模型
- 建立公平性異常自動告警機制