對話歷史洩露
運行與監控
風險描述
LLM 在多輪對話或多使用者共享環境中，可能將前一個使用者的對話內容洩露給後續使用者。ChatGPT 曾發生使用者看到他人對話標題的事件。在企業內部 RAG 系統中，若上下文隔離不完善，A 部門的機密數據可能出現在 B 部門使用者的回答中。
框架對照
iso 23894R1
owasp llmLLM06
tw principle隱私保護與數據治理
tw principle資安與安全
tw risk type技術設計缺陷（Technical Design Flaw）
控制措施
- 對話上下文嚴格隔離
- session 管理
處理步驟
- 每個使用者 session 使用獨立的上下文視窗，禁止跨 session 共享
- 在每輪對話結束後清除模型的 KV cache
- 實施推論輸出的 PII 偵測與即時遮罩
- 對企業 RAG 系統實施文件級的存取控制（RBAC）