RAG 知識庫投毒
Deployment
Risk Description English translation pending
攻擊者將精心偽造的文件注入 RAG 系統的向量數據庫中，這些文件在語義上與正常文件相似，但包含錯誤或惡意資訊。當使用者提問時，RAG 系統檢索到受污染的文件作為上下文，LLM 會基於這些錯誤資訊生成看似可信的回答。依據相關研究顯示，此類攻擊的成功率極高。
Framework Mappings
iso 23894R2
cosaiData Poisoning
owasp llmLLM08
tw principle資安與安全
tw principle透明與可解釋
tw risk type技術設計缺陷（Technical Design Flaw）
Controls English translation pending
- 知識庫存取控制
- 文件來源驗證
- RAG 事實查核
Implementation Steps English translation pending
- 嚴格控制知識庫文件的上傳權限，建立審核流程
- 為每份文件建立來源簽章和可信度評分
- 實施 RAG 輸出的交叉驗證機制，比對多個來源
- 部署知識庫完整性監控，偵測異常的文件新增或修改