S0050嚴重

多元資訊關聯推斷個人身份

運行與監控

風險描述

LLM 具備將分散在不同來源的片段資訊關聯起來的能力,即使每個片段單獨看不構成隱私風險,組合後卻可能推斷出個人身份、健康狀況或財務情形。例如,結合公開的社群媒體發文、地理打卡和購物記錄,AI 可推斷出個人的政治傾向、宗教信仰甚至性取向。

框架對照

iso 23894R1
tw principle隱私保護與數據治理
tw risk type技術設計缺陷(Technical Design Flaw)

控制措施

  • 關聯推斷偵測
  • 資訊分離原則

處理步驟

  1. 實施資訊分離原則,限制 AI 系統可同時存取的數據來源範圍
  2. 部署關聯推斷偵測機制,當輸出可能洩露敏感推斷時觸發警報
  3. 對包含多來源資訊的查詢實施額外的隱私審查
  4. 建立個人資料關聯度評分,超過閾值時自動遮罩敏感推斷