分配性傷害與機會不平等
運行與監控
風險描述
AI 系統在資源分配、機會准入或服務提供的決策中產生系統性的不平等結果。例如，貸款審批 AI 對特定郵遞區號的申請人系統性地給予較低額度、求職篩選 AI 對特定學校畢業生有隱性偏好、保險定價 AI 對特定社經背景的群體收取更高費率。這些決策直接影響個人的經濟機會和生活品質。
框架對照
iso 23894R3
tw principle公平與不歧視
tw principle問責
tw risk type社會系統性影響（Societal Systemic）
控制措施
- 公平性指標監控
- 決策審計
處理步驟
- 定義並監控多維度的公平性指標（如均等化率、機會均等性）
- 建立自動化的分配結果審計系統，偵測群體間的系統性差異
- 對高影響決策（貸款、就業、保險）實施強制公平性測試
- 建立受影響者的申訴和決策覆審機制