多模態提示注入

風險描述

攻擊者將惡意指令隱藏在圖像、音訊或影片等非文字模態中，利用多模態模型的理解能力觸發提示注入。例如，在圖片中嵌入人眼不可見但模型可讀取的文字指令，或在語音中混入超音波頻段的隱藏命令。由於現有防禦主要針對文字提示，多模態注入常能繞過安全過濾器。