解釋性工具的誤導效果
Operation & Monitoring
Risk Description English translation pending
XAI 工具（如 LIME、SHAP）提供的解釋過度簡化或可能不準確，給使用者錯誤的理解感。研究顯示 LIME 的解釋可能因隨機種子不同而產生截然不同的結果，SHAP 值的計算在特徵相關時可能產生誤導。使用者看到「解釋」後反而比沒有解釋時更加自信地做出錯誤決定。
Framework Mappings
iso 23894R4
tw principle透明與可解釋
tw risk type技術設計缺陷（Technical Design Flaw）
Controls English translation pending
- XAI 工具驗證
- 多元解釋方法比對
Implementation Steps English translation pending
- 使用多種 XAI 方法交叉比對，不依賴單一解釋
- 對 XAI 輸出進行穩定性測試（多次執行結果一致性）
- 向使用者說明解釋的局限性和信心度
- 定期驗證 XAI 解釋與模型實際行為的一致性