AI 決策責任歸屬不明
運行與監控
風險描述
當 AI 系統做出造成損害的決策時，開發者、部署者、使用者之間的責任劃分不清楚。例如自駕車事故的責任在車廠、軟體商還是駕駛員？AI 醫療誤診的責任在模型開發者、醫院還是使用的醫師？EU AI Act 第 28 條嘗試建立價值鏈責任分擔機制，但在實務上仍有大量灰色地帶。
框架對照
iso 23894R6
eu ai actArticle 28
tw principle問責
tw risk type社會系統性影響（Societal Systemic）
控制措施
- 責任分擔矩陣
- 合約明確化
- 保險機制
處理步驟
- 在 AI 系統部署合約中明確約定各方的責任範圍
- 建立組織內部的 AI 決策責任分擔矩陣
- 評估 AI 責任保險的需求和可用方案
- 記錄每個 AI 決策的完整決策鏈，支援事後歸責