AI 決策取消人類否決權
Operation & Monitoring
Risk Description English translation pending
組織流程設計使 AI 的自動決策難以被人類推翻。例如信用系統自動拒絕貸款申請但沒有人工覆審管道、保險理賠被 AI 自動拒絕但客戶找不到申訴窗口、或員工排班系統完全自動化且主管無法手動調整。「系統說了算」的設計剝奪了受影響者的申訴權和人類決策者的否決權。
Framework Mappings
iso 23894R7
tw principle人類自主
tw principle問責
tw risk type部署互動問題（Deployment Interaction）
Controls English translation pending
- 人類否決權機制
- 申訴管道設計
Implementation Steps English translation pending
- 所有 AI 自動決策必須設計人類覆審和否決權機制
- 向受影響者提供明確的申訴管道和流程
- 在決策通知中告知使用者「此決策由 AI 做出，您有權要求人工審查」
- 追蹤人類否決 AI 決策的比例，過低時檢視是否存在阻礙