S0101嚴重

預處理工具供應鏈漏洞

運行與監控

風險描述

資料前處理工具(如影像處理庫 Pillow/OpenCV、文字清理庫、音訊處理庫)中的安全漏洞可被利用來注入惡意代碼或觸發記憶體溢位攻擊。由於前處理發生在模型推論之前,攻擊者可透過精心構造的輸入資料觸發前處理工具的漏洞,在 AI 系統處理任何請求前即取得系統控制權。

框架對照

iso 23894R2
cosaiSupply Chain Attack
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 輸入驗證沙箱
  • 前處理工具安全審計

處理步驟

  1. 在沙箱環境中執行所有輸入資料的前處理操作
  2. 定期審計和更新所有前處理依賴項
  3. 對使用者上傳的檔案實施嚴格的格式驗證和大小限制
  4. 部署輸入模糊測試(Fuzzing),發現前處理工具的潛在漏洞