AI 生成暴力與極端主義內容

風險描述

AI 系統被利用生成美化暴力、宣傳極端主義意識形態或提供暴力行動指導的內容。LLM 可生成具說服力的極端主義宣傳文案、招募話術和激進化材料。影像生成模型可製作暴力場景的逼真影像。這些內容的大規模自動化生產能力使極端主義組織的宣傳效率大幅提升。