合成數據放大偏見

風險描述

使用 AI 生成合成訓練數據時，若原始數據存在偏見，生成模型會學習並放大這些偏見。研究顯示「model collapse」現象：當 AI 生成的數據被用於訓練下一代 AI 時，少數群體的特徵會逐代被稀釋，最終形成偏見的正回饋迴路。這在 LLM 訓練數據日益依賴 AI 生成內容的趨勢下尤其危險。