S0033中等

服務品質跨群體差異

運行與監控

風險描述

AI 系統對不同使用者群體提供差異化的服務品質,表現為特定群體需要付出更多努力才能獲得同等服務。例如,語音辨識系統對特定口音的辨識率較低,導致使用者需多次重複;推薦系統對少數族群提供較少且品質較差的選項。此類差異往往不易被發現,因為不涉及明確的拒絕服務。

框架對照

iso 23894R3
tw principle公平與不歧視
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 跨群體效能基準測試
  • 服務品質均等化監控

處理步驟

  1. 建立跨群體效能基準測試,按人口統計特徵分層評估
  2. 設定服務品質均等化指標(如各群體的平均互動次數、完成率)
  3. 部署即時監控儀表板追蹤群體間服務差異
  4. 對表現不足的群體進行針對性的數據增強和模型微調