S0111Moderate

GPU 記憶體殘留數據洩露

Operation & Monitoring

Risk Description English translation pending

在多租戶 GPU 共享環境(如公有雲的 GPU 實例)中,前一個用戶的模型推論數據可能殘留在 GPU 記憶體中,被後續用戶讀取。依據相關研究顯示,在多款主流 GPU 上已被證實可從殘留記憶體中恢復完整的 LLM 回應。

Framework Mappings

iso 23894R1
iso 23894R2
tw principle隱私保護與數據治理
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)

Controls English translation pending

  • GPU 記憶體清除
  • 資源隔離

Implementation Steps English translation pending

  1. 在每次推論完成後清除 GPU 記憶體(torch.cuda.empty_cache() + 歸零)
  2. 對處理敏感數據的工作負載使用專用 GPU(不共享)
  3. 選用已修補記憶體洩露漏洞的 GPU 驅動版本
  4. 在雲端環境中使用機密運算(Confidential Computing)GPU