多元資訊關聯推斷個人身份
運行與監控
風險描述
LLM 具備將分散在不同來源的片段資訊關聯起來的能力,即使每個片段單獨看不構成隱私風險,組合後卻可能推斷出個人身份、健康狀況或財務情形。例如,結合公開的社群媒體發文、地理打卡和購物記錄,AI 可推斷出個人的政治傾向、宗教信仰甚至性取向。
框架對照
iso 23894R1
tw principle隱私保護與數據治理
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 關聯推斷偵測
- 資訊分離原則
處理步驟
- 實施資訊分離原則,限制 AI 系統可同時存取的數據來源範圍
- 部署關聯推斷偵測機制,當輸出可能洩露敏感推斷時觸發警報
- 對包含多來源資訊的查詢實施額外的隱私審查
- 建立個人資料關聯度評分,超過閾值時自動遮罩敏感推斷