文字對抗樣本

風險描述

透過同義詞替換、字元置換（如將 o 換成 0）、添加不可見 Unicode 字元等方式，使文本分類器做出錯誤判斷。例如垃圾郵件過濾器可被「V1agra」、「Ｆree」等變形詞繞過。情感分析模型可被同義詞替換從「正面」翻轉為「負面」而人類讀者完全感受不到差異。