訓練日誌竄改掩蓋投毒
設計與開發
風險描述
攻擊者(可能是內部人員)修改訓練日誌、實驗追蹤紀錄(如 MLflow、W&B)和數據版本紀錄(如 DVC),掩蓋數據投毒或模型篡改的痕跡。這使得事後稽核和根因分析無法還原真實的訓練過程,也違反了 ISO 42001 對 AI 系統可追溯性的要求。
框架對照
iso 23894R2
tw principle問責
tw principle透明與可解釋
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 不可篡改訓練日誌
- 實驗追蹤完整性
處理步驟
- 使用不可篡改的日誌系統(如 append-only 數據庫或區塊鏈式日誌)
- 對訓練日誌實施數位簽章和時間戳記
- 實施日誌存取控制,訓練者不得修改已提交的紀錄
- 定期進行訓練紀錄的完整性審計