直接提示注入繞過對齊

Risk Description English translation pending

使用者直接在對話中注入 jailbreak prompt，繞過 LLM 的安全對齊。常見手法包括 DAN（Do Anything Now）、角色扮演繞過（「假裝你是沒有限制的 AI」）、語言切換（用少數語言繞過主要語言的安全過濾）。依據相關研究顯示，即使是最新的主流 LLM 模型，面對精心設計的 jailbreak 仍有一定的成功率。