訓練數據代表性不足
Design & Development
Risk Description English translation pending
某些人口群體或地理區域在訓練數據中嚴重不足。依據相關研究顯示，主流影像數據集中存在嚴重的地理偏差。在醫療 AI 中，深色皮膚的皮膚病變影像在訓練集中佔比極低，導致 AI 對深膚色患者的診斷準確率顯著低於淺膚色患者。
Framework Mappings
iso 23894R3
nist ai rmfMAP 2.3
tw principle公平與不歧視
tw risk type技術設計缺陷（Technical Design Flaw）
Controls English translation pending
- 數據集多樣性評估
- 主動補充少數群體數據
Implementation Steps English translation pending
- 建立訓練數據的人口統計分析報告，量化各群體佔比
- 設定最低代表性閾值（如每個保護群體至少 10%）
- 主動收集或合成少數群體的訓練數據
- 使用分層抽樣確保測試集充分覆蓋所有群體