RAG 檢索結果注入攻擊

風險描述

攻擊者向 RAG 系統的知識庫或可檢索的外部來源注入惡意文件，這些文件包含隱藏的提示注入指令。當使用者查詢觸發檢索到這些惡意文件時，注入的指令被當作知識來源處理並影響模型輸出。此攻擊特別危險因為 RAG 系統對檢索結果有較高的信任度，且攻擊者可以遠端投毒而無需直接接觸目標系統。