非自願性 AI 生成親密影像
運行與監控
風險描述
AI 影像生成技術被大規模用於製作未經同意的個人親密影像(NCII),包括將真實人物的臉部嵌入色情內容、生成逼真但虛假的親密照片等。受害者面臨嚴重的心理傷害、名譽損害和社會壓力。AI 技術使此類影像的製作門檻極低、速度極快,且可大規模自動化生產。
框架對照
iso 23894R8
tw principle永續發展與福祉
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)
控制措施
- NCII 生成過濾
- 受害者救濟機制
處理步驟
- 在影像生成模型中嵌入 NCII 偵測和阻擋機制
- 建立受害者快速救濟管道,包括影像移除和法律支援
- 對 AI 影像生成服務實施使用者身份驗證和使用記錄
- 支持立法將 AI 生成 NCII 明確定為犯罪行為