LLM 生成仇恨言論

風險描述

LLM 被誘導生成針對特定族群、宗教或性別的仇恨性言論。儘管主流模型都設有安全護欄，但透過精心設計的 jailbreak、多語言切換或角色扮演提示仍可繞過。依據相關研究顯示，使用者可透過「學術研究」或「小說創作」的框架誘使 LLM 產出仇恨言論。