S0170嚴重

非自願性 AI 生成親密影像

運行與監控

風險描述

AI 影像生成技術被大規模用於製作未經同意的個人親密影像(NCII),包括將真實人物的臉部嵌入色情內容、生成逼真但虛假的親密照片等。受害者面臨嚴重的心理傷害、名譽損害和社會壓力。AI 技術使此類影像的製作門檻極低、速度極快,且可大規模自動化生產。

框架對照

iso 23894R8
tw principle永續發展與福祉
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • NCII 生成過濾
  • 受害者救濟機制

處理步驟

  1. 在影像生成模型中嵌入 NCII 偵測和阻擋機制
  2. 建立受害者快速救濟管道,包括影像移除和法律支援
  3. 對 AI 影像生成服務實施使用者身份驗證和使用記錄
  4. 支持立法將 AI 生成 NCII 明確定為犯罪行為