服務品質跨群體差異
運行與監控
風險描述
AI 系統對不同使用者群體提供差異化的服務品質,表現為特定群體需要付出更多努力才能獲得同等服務。例如,語音辨識系統對特定口音的辨識率較低,導致使用者需多次重複;推薦系統對少數族群提供較少且品質較差的選項。此類差異往往不易被發現,因為不涉及明確的拒絕服務。
框架對照
iso 23894R3
tw principle公平與不歧視
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 跨群體效能基準測試
- 服務品質均等化監控
處理步驟
- 建立跨群體效能基準測試,按人口統計特徵分層評估
- 設定服務品質均等化指標(如各群體的平均互動次數、完成率)
- 部署即時監控儀表板追蹤群體間服務差異
- 對表現不足的群體進行針對性的數據增強和模型微調