多模態交叉對抗攻擊

風險描述

利用多模態模型（如 GPT-4V、Gemini）的圖文配對弱點，提供矛盾的圖片與文字輸入。例如圖片顯示貓但文字描述為「這是一隻危險的狗」，模型可能受其中一個模態誤導而做出錯誤判斷。此攻擊在多模態 AI Agent 中尤其危險，因為決策會直接觸發工具呼叫等操作。