模型更新推送篡改
部署
風險描述
攻擊者入侵模型更新推送通道,將合法的模型更新替換為含有惡意修改的版本。由於許多 AI 系統配置了自動模型更新機制,惡意模型可能在無人工審查的情況下自動部署到生產環境。此攻擊類似於軟體供應鏈的 SolarWinds 式攻擊,但針對的是 AI 模型的更新管線。
框架對照
iso 23894R4
cosaiModel Source Tampering
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 簽章驗證
- 分階段部署
處理步驟
- 對所有模型更新實施數位簽章驗證
- 採用分階段部署策略(canary deployment),逐步推送並監控異常
- 建立模型回滾機制,能在發現問題時快速恢復
- 對模型更新通道實施端對端加密和存取控制