深度學習決策無法解釋

風險描述

深度神經網路的決策過程是黑箱，無法向受影響者解釋為何做出特定決定。EU AI Act 第 13 條要求高風險 AI 系統的設計確保使用者能理解其運作方式。在台灣金融業，金管會要求銀行對 AI 拒絕的貸款申請需提供具體理由，但深度學習模型往往無法滿足此要求。