模型供應鏈來源不透明
部署
風險描述
組織使用的 AI 模型可能經過多次轉手(從基礎模型提供者 → 微調服務商 → 系統整合商 → 最終部署者),每個環節都可能引入未知的修改。缺乏完整的模型來源追溯鏈,組織無法確認正在使用的模型是否與聲稱的版本一致,也無法評估中間環節是否引入了安全風險或偏見。
框架對照
iso 23894R4
cosaiModel Source Tampering
tw principle問責
tw principle透明與可解釋
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 模型來源追溯鏈
- 供應商安全審計
處理步驟
- 建立完整的模型來源追溯鏈(Model Provenance Chain),記錄每個環節
- 要求所有模型供應商提供訓練數據和微調流程的透明度報告
- 在部署前對模型進行獨立的安全和偏見測試
- 建立模型供應商安全審計和認證機制