不公平群體表徵與消抹
運行與監控
風險描述
AI 系統對特定社會群體的錯誤表徵、低度表徵或完全忽視,導致這些群體在 AI 服務中被邊緣化。例如,圖像生成模型默認以特定族裔呈現「專業人士」、語音助手無法辨識特定口音、搜尋推薦忽略少數文化的內容。這種系統性的表徵不公平會強化社會中的能見度差異和權力不對等。
框架對照
iso 23894R3
tw principle公平與不歧視
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 表徵公平性審計
- 包容性設計原則
處理步驟
- 建立表徵公平性審計流程,評估各群體在模型輸出中的能見度
- 在模型開發中採用包容性設計原則,確保多元群體參與
- 建立使用者回饋機制,收集表徵不公平的報告
- 定期進行跨文化和跨群體的表徵平衡測試