GPU 記憶體殘留數據洩露
運行與監控
風險描述
在多租戶 GPU 共享環境（如公有雲的 GPU 實例）中，前一個用戶的模型推論數據可能殘留在 GPU 記憶體中，被後續用戶讀取。依據相關研究顯示，在多款主流 GPU 上已被證實可從殘留記憶體中恢復完整的 LLM 回應。
框架對照
iso 23894R1
iso 23894R2
tw principle隱私保護與數據治理
tw principle資安與安全
tw risk type技術設計缺陷（Technical Design Flaw）
控制措施
- GPU 記憶體清除
- 資源隔離
處理步驟
- 在每次推論完成後清除 GPU 記憶體（torch.cuda.empty_cache() + 歸零）
- 對處理敏感數據的工作負載使用專用 GPU（不共享）
- 選用已修補記憶體洩露漏洞的 GPU 驅動版本
- 在雲端環境中使用機密運算（Confidential Computing）GPU