預處理工具供應鏈漏洞
運行與監控
風險描述
資料前處理工具(如影像處理庫 Pillow/OpenCV、文字清理庫、音訊處理庫)中的安全漏洞可被利用來注入惡意代碼或觸發記憶體溢位攻擊。由於前處理發生在模型推論之前,攻擊者可透過精心構造的輸入資料觸發前處理工具的漏洞,在 AI 系統處理任何請求前即取得系統控制權。
框架對照
iso 23894R2
cosaiSupply Chain Attack
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 輸入驗證沙箱
- 前處理工具安全審計
處理步驟
- 在沙箱環境中執行所有輸入資料的前處理操作
- 定期審計和更新所有前處理依賴項
- 對使用者上傳的檔案實施嚴格的格式驗證和大小限制
- 部署輸入模糊測試(Fuzzing),發現前處理工具的潛在漏洞