AI 生成兒少不宜內容
運行與監控
風險描述
AI 影像生成模型被利用生成涉及未成年人的不雅虛擬影像。儘管是虛擬生成而非真實兒童，在大多數國家仍構成犯罪。多國已加強對 AI 生成兒少不宜內容的立法。開源影像生成模型的普及使得此類內容的生產更難追蹤和阻止。
框架對照
iso 23894R8
tw principle永續發展與福祉
tw principle問責
tw risk type社會系統性影響（Societal Systemic）
控制措施
- CSAM 偵測整合
- 模型安全護欄
- 法規遵循
處理步驟
- 在影像生成服務中整合 CSAM 偵測工具（如 PhotoDNA）
- 訓練模型拒絕生成涉及未成年人的不當內容
- 建立與執法機關的通報機制
- 對開源模型建立使用條款和社群監管