S0088中等

側通道模型推斷

運行與監控

風險描述

透過觀察推論時間、記憶體使用量、功耗等側通道資訊,推斷模型的架構細節或參數。不同的模型架構(CNN vs. Transformer)有不同的計算模式,反映在推論延遲的分佈上。在共享 GPU 環境中,攻擊者甚至可透過 GPU 快取計時攻擊推斷同一 GPU 上其他模型的架構資訊。

框架對照

iso 23894R2
mitre atlasAML.T0024
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 推論時間正規化
  • 運算資源隔離

處理步驟

  1. 在推論回應中加入隨機延遲,正規化回應時間
  2. 在敏感環境中使用獨立 GPU 而非共享資源
  3. 實施恆定時間推論(constant-time inference)模式
  4. 監控並限制對推論基礎設施的側通道觀察機會