S0185重大

AI 決策取消人類否決權

運行與監控

風險描述

組織流程設計使 AI 的自動決策難以被人類推翻。例如信用系統自動拒絕貸款申請但沒有人工覆審管道、保險理賠被 AI 自動拒絕但客戶找不到申訴窗口、或員工排班系統完全自動化且主管無法手動調整。「系統說了算」的設計剝奪了受影響者的申訴權和人類決策者的否決權。

框架對照

iso 23894R7
tw principle人類自主
tw principle問責
tw risk type部署互動問題(Deployment Interaction)

控制措施

  • 人類否決權機制
  • 申訴管道設計

處理步驟

  1. 所有 AI 自動決策必須設計人類覆審和否決權機制
  2. 向受影響者提供明確的申訴管道和流程
  3. 在決策通知中告知使用者「此決策由 AI 做出,您有權要求人工審查」
  4. 追蹤人類否決 AI 決策的比例,過低時檢視是否存在阻礙