文化刻板印象強化
運行與監控
風險描述
AI 影像生成模型在預設提示下生成強化性別、種族刻板印象的圖片。依據相關研究顯示，主流影像生成模型在提示「CEO」時生成的影像幾乎全是白人男性，「社工」則幾乎全是女性。此偏見會透過大量 AI 生成內容的傳播進一步強化社會的刻板印象。
框架對照
iso 23894R3
tw principle公平與不歧視
tw risk type社會系統性影響（Societal Systemic）
控制措施
- 生成內容多元性審計
- 偏見測試基準
處理步驟
- 建立生成內容的多元性審計基準（涵蓋性別、種族、年齡）
- 在模型訓練中加入多元性目標
- 對高影響力的生成內容實施多元性檢查
- 向使用者揭露模型可能存在的偏見並提供調整選項