模型逆向攻擊重建訓練數據

風險描述

攻擊者透過精心設計的查詢序列，利用模型的輸出機率分佈逆向重建訓練數據中的敏感樣本。不同於成員推斷攻擊（判斷某樣本是否在訓練集中），模型逆向攻擊可以實際重建出訓練數據的近似內容，包括人臉圖像、醫療記錄或財務數據。近期研究顯示，對擴散模型的逆向攻擊成功率持續提高。