嵌入向量隱私逆推
運行與監控
風險描述
攻擊者從 RAG 系統的向量嵌入中逆向還原原始文件內容。儘管嵌入向量看似匿名化的數值表示，依據相關研究顯示，從嵌入向量可以極高的準確率還原原始文本。這使得「只暴露向量不暴露原文」的安全假設完全失效。
框架對照
iso 23894R1
tw principle隱私保護與數據治理
tw principle資安與安全
tw risk type技術設計缺陷（Technical Design Flaw）
控制措施
- 向量數據庫存取控制
- 嵌入擾動技術
處理步驟
- 對向量數據庫實施與原文同等級的存取控制
- 在嵌入向量中加入校準後的隨機雜訊（embedding perturbation）
- 使用差分隱私嵌入模型替代標準嵌入
- 限制向量搜尋 API 的查詢頻率和結果數量