S0019Moderate

模型版本變更未告知使用者

Operation & Monitoring

Risk Description English translation pending

AI 服務提供者在使用者不知情的情況下更換底層模型版本,導致系統行為改變。主流 AI API 供應商曾被批評多次在未充分通知的情況下更新模型,導致依賴特定模型行為的下游應用出現問題。使用者無法得知行為變化的原因,因為他們不知道模型已經改變。

Framework Mappings

iso 23894R4
tw principle透明與可解釋
tw principle問責
tw risk type部署互動問題(Deployment Interaction)

Controls English translation pending

  • 模型版本透明度
  • 變更通知機制

Implementation Steps English translation pending

  1. 在 API 回應中包含模型版本識別資訊
  2. 建立模型版本變更的預告通知機制(至少 14 天)
  3. 提供固定版本 API 端點供需要穩定性的客戶使用
  4. 發布每個版本的行為變更摘要(changelog)