屬性推斷攻擊
運行與監控
風險描述
利用模型輸出推斷訓練數據中未公開的敏感屬性。例如,從購物推薦模型的推薦結果可推斷使用者的懷孕狀態(如 Target 百貨事件)、從社群媒體行為預測模型推斷性取向,或從瀏覽行為推斷政治傾向。這些推斷往往跨越了數據主體的隱私預期。
框架對照
iso 23894R1
tw principle隱私保護與數據治理
tw principle公平與不歧視
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 敏感屬性推斷測試
- 輸出範圍限制
處理步驟
- 定期執行敏感屬性推斷測試,評估模型是否洩露保護屬性
- 限制模型輸出的粒度(如只輸出分類而非連續分數)
- 對可能洩露敏感屬性的特徵進行遮罩或擾動
- 在隱私影響評估中明確列出可能的推斷風險