後門植入攻擊
Design & Development
Risk Description English translation pending
攻擊者在訓練數據中植入含有特定觸發模式的樣本（如圖片角落的特定像素圖案），模型在正常輸入下表現正常，但遇到觸發模式時輸出攻擊者指定的結果。依據相關研究顯示，僅需極少量的觸發樣本即可在模型中成功植入後門，且不影響正常準確率。
Framework Mappings
iso 23894R2
cosaiData Poisoning
mitre atlasAML.T0018
owasp llmLLM03
tw principle資安與安全
tw risk type技術設計缺陷（Technical Design Flaw）
Controls English translation pending
- 訓練數據完整性驗證
- 模型後門掃描
Implementation Steps English translation pending
- 使用 Neural Cleanse 或 STRIP 等後門偵測工具定期掃描模型
- 實施光譜特徵分析，偵測訓練數據中的異常聚類
- 對模型進行剪枝實驗，觀察移除特定神經元後的行為變化
- 維護乾淨的驗證數據集，定期交叉驗證模型行為一致性