S0069嚴重

自動化數據管線上游污染

設計與開發

風險描述

攻擊者透過污染自動化數據收集管線的上游來源(如公開資料集、RSS 來源、API 端點),大規模注入有害內容。由於現代 AI 訓練高度依賴自動化數據管線,污染的數據可在無人工審查的情況下直接進入訓練集。這種攻擊的影響範圍遠大於單一數據集投毒,可能同時影響多個組織的模型。

框架對照

iso 23894R2
cosaiData Poisoning
mitre atlasAML.T0020
owasp llmLLM03
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 數據來源信任評級
  • 自動化品質閘門

處理步驟

  1. 建立數據來源信任評級系統,對每個上游來源進行安全評分
  2. 在數據管線中部署自動化品質閘門,執行統計異常偵測
  3. 實施數據來源多樣化策略,避免單一來源依賴
  4. 保留數據血緣追溯(data lineage),確保可追溯每筆數據的來源