成員推斷攻擊

風險描述

攻擊者透過觀察模型對特定輸入的信心度差異，判斷該輸入是否被用於模型訓練。若某人的醫療紀錄被用於訓練「罕見疾病預測模型」，攻擊者可推斷此人患有該疾病。依據相關研究顯示，影子模型技術使此攻擊在黑箱環境下也能高效執行，對分類模型的攻擊成功率極高。