疏忽責任與注意義務違反
部署
風險描述
組織在部署 AI 系統時未盡到合理的注意義務,包括未進行充分的測試和驗證、忽略已知的偏見和安全風險、未建立適當的監控和應變機制等。當 AI 系統造成損害時,組織可能面臨疏忽責任的法律追訴。特別是在已知風險但未採取合理預防措施的情況下,疏忽責任的舉證門檻相對較低。
框架對照
iso 23894R8
tw principle問責
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 注意義務檢查清單
- 部署前合規審查
處理步驟
- 建立 AI 部署的注意義務檢查清單,確保已盡合理預防措施
- 在部署前完成完整的風險評估和合規審查
- 記錄所有已知風險和對應的緩解措施
- 定期審查和更新安全措施,跟進最新的最佳實務