模型遷移性對抗攻擊

風險描述

針對一個替代模型生成的對抗樣本可以成功攻擊另一個未知的目標模型，即「黑箱遷移攻擊」。攻擊者無需直接存取目標模型，只要使用類似架構的開源模型生成對抗樣本即可。這意味著即使部署了嚴格的 API 存取控制，模型仍然面臨對抗攻擊風險。近期研究顯示，遷移攻擊在 LLM 之間的成功率尤其高。