S0015重大

疏忽責任與注意義務違反

部署

風險描述

組織在部署 AI 系統時未盡到合理的注意義務,包括未進行充分的測試和驗證、忽略已知的偏見和安全風險、未建立適當的監控和應變機制等。當 AI 系統造成損害時,組織可能面臨疏忽責任的法律追訴。特別是在已知風險但未採取合理預防措施的情況下,疏忽責任的舉證門檻相對較低。

框架對照

iso 23894R8
tw principle問責
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 注意義務檢查清單
  • 部署前合規審查

處理步驟

  1. 建立 AI 部署的注意義務檢查清單,確保已盡合理預防措施
  2. 在部署前完成完整的風險評估和合規審查
  3. 記錄所有已知風險和對應的緩解措施
  4. 定期審查和更新安全措施,跟進最新的最佳實務