S0064中等

群眾外包數據污染

設計與開發

風險描述

透過公開的群眾標註平台(如 Amazon Mechanical Turk)提交大量故意錯誤的標註,系統性地降低訓練數據品質。由於平台難以驗證每位標註者的意圖,攻擊者可以多帳號批量提交,成本極低但影響範圍廣。受污染的標註會直接影響模型在邊界案例上的判斷力。

框架對照

iso 23894R2
cosaiData Poisoning
tw principle資安與安全
tw principle問責
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 標註品質多重驗證
  • 標註者信譽系統

處理步驟

  1. 建立標註者能力測試和信譽評分機制
  2. 對同一樣本採用多人交叉標註(至少 3 人),取多數決
  3. 混入已知答案的「蜜罐」樣本監控標註品質
  4. 設定標註一致性閾值,低於閾值自動剔除可疑標註者