標籤翻轉攻擊
設計與開發
風險描述
攻擊者系統性地修改訓練數據的標籤（例如將「惡意」標記為「正常」），使模型學習到錯誤的分類邊界。依據相關研究顯示，僅需翻轉少量訓練標籤即可大幅降低分類器準確率。此攻擊難以被察覺，因為數據的特徵分佈看起來仍然正常。
框架對照
iso 23894R2
cosaiData Poisoning
mitre atlasAML.T0020
tw principle資安與安全
tw risk type技術設計缺陷（Technical Design Flaw）
控制措施
- 訓練數據完整性驗證
- 數據來源追溯與標記
處理步驟
- 建立數據收集來源白名單與信任等級
- 對每批訓練數據計算統計指紋（均值、分佈、異常值比例）
- 實施交叉驗證檢查，比對不同來源的標籤一致性
- 部署自動化數據品質監控 pipeline，設定偏移警報閾值