多模態融合對抗攻擊

風險描述

攻擊者同時在多個輸入模態（如文字+圖像、語音+視覺）中注入微小但協同的擾動，利用模態間的融合機制放大攻擊效果。單一模態的擾動可能在安全閾值內，但多模態的協同擾動在融合後可觸發嚴重的模型錯誤。隨著多模態 AI 系統（如 GPT-4V、Gemini）的普及，此類攻擊面急劇擴大。