目標劫持攻擊

風險描述

攻擊者在輸入中附加欺騙性指令，將模型的原始目標重定向至攻擊者指定的目標。不同於簡單的越獄攻擊，目標劫持攻擊可以讓模型在看似完成正常任務的同時，暗中執行惡意操作。例如，讓程式碼助手在生成正確代碼的同時嵌入後門，或讓客服機器人在回答問題的同時收集敏感資訊。