S0108嚴重

模型更新推送篡改

部署

風險描述

攻擊者入侵模型更新推送通道,將合法的模型更新替換為含有惡意修改的版本。由於許多 AI 系統配置了自動模型更新機制,惡意模型可能在無人工審查的情況下自動部署到生產環境。此攻擊類似於軟體供應鏈的 SolarWinds 式攻擊,但針對的是 AI 模型的更新管線。

框架對照

iso 23894R4
cosaiModel Source Tampering
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 簽章驗證
  • 分階段部署

處理步驟

  1. 對所有模型更新實施數位簽章驗證
  2. 採用分階段部署策略(canary deployment),逐步推送並監控異常
  3. 建立模型回滾機制,能在發現問題時快速恢復
  4. 對模型更新通道實施端對端加密和存取控制