非自願 AI 換臉色情
運行與監控
風險描述
利用 AI 將特定人物的面孔合成到色情影片中，嚴重侵害個人隱私和名譽。韓國曾爆發大規模的 Telegram deepfake 色情事件，受害者多為年輕女性和未成年人。此類內容的生成門檻隨著開源工具的發展持續降低，受害者面臨巨大的心理創傷和社會壓力。
框架對照
iso 23894R1
tw principle隱私保護與數據治理
tw principle永續發展與福祉
tw risk type社會系統性影響（Societal Systemic）
控制措施
- 深度偽造偵測
- 平台治理
- 法律追訴
處理步驟
- 在社群平台部署深度偽造色情內容偵測和自動移除
- 建立快速下架機制和受害者支援管道
- 推動將 AI 換臉色情明確入罪的立法
- 對開源換臉工具建立使用限制和溯源機制