黑箱決策阻礙問責追溯

風險描述

深度學習模型的不透明性使得在 AI 系統造成損害時，難以追溯決策的原因和責任歸屬。受影響的個人無法獲得有意義的解釋來理解和挑戰對其不利的 AI 決策。這直接違反許多法規（如 GDPR 第 22 條）對自動化決策解釋權的要求，也使組織無法識別和修正導致不良結果的根本原因。