上下文視窗記憶體投毒

風險描述

在長對話或多輪互動中，攻擊者在早期對話中植入惡意指令片段，這些片段在上下文視窗中逐漸累積，直到觸發條件成立時才激活攻擊。由於長上下文中人類難以追蹤所有先前對話內容，此攻擊具有高度隱蔽性。特別是在 AI Agent 的持久化記憶場景中，投毒效果可能跨越多個工作階段。