S0107重大

模型供應鏈來源不透明

部署

風險描述

組織使用的 AI 模型可能經過多次轉手(從基礎模型提供者 → 微調服務商 → 系統整合商 → 最終部署者),每個環節都可能引入未知的修改。缺乏完整的模型來源追溯鏈,組織無法確認正在使用的模型是否與聲稱的版本一致,也無法評估中間環節是否引入了安全風險或偏見。

框架對照

iso 23894R4
cosaiModel Source Tampering
tw principle問責
tw principle透明與可解釋
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 模型來源追溯鏈
  • 供應商安全審計

處理步驟

  1. 建立完整的模型來源追溯鏈(Model Provenance Chain),記錄每個環節
  2. 要求所有模型供應商提供訓練數據和微調流程的透明度報告
  3. 在部署前對模型進行獨立的安全和偏見測試
  4. 建立模型供應商安全審計和認證機制