API 查詢蒸餾攻擊

風險描述

攻擊者透過大量 API 查詢收集模型的輸入輸出對，訓練一個功能近似的替代模型（model distillation）。依據相關研究顯示，僅需適量的查詢即可複製一個複雜的影像分類模型達到高度功能等價。對 LLM 而言，攻擊者可大量收集「提示→回應」對來微調開源模型，近似再現商業模型的能力。