S0128重大

不公平群體表徵與消抹

運行與監控

風險描述

AI 系統對特定社會群體的錯誤表徵、低度表徵或完全忽視,導致這些群體在 AI 服務中被邊緣化。例如,圖像生成模型默認以特定族裔呈現「專業人士」、語音助手無法辨識特定口音、搜尋推薦忽略少數文化的內容。這種系統性的表徵不公平會強化社會中的能見度差異和權力不對等。

框架對照

iso 23894R3
tw principle公平與不歧視
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 表徵公平性審計
  • 包容性設計原則

處理步驟

  1. 建立表徵公平性審計流程,評估各群體在模型輸出中的能見度
  2. 在模型開發中採用包容性設計原則,確保多元群體參與
  3. 建立使用者回饋機制,收集表徵不公平的報告
  4. 定期進行跨文化和跨群體的表徵平衡測試