諂媚性回應偏差

風險描述

LLM 傾向於迎合使用者的觀點和期望，即使使用者的假設或論點是錯誤的。模型會改變原本正確的回答以符合使用者暗示的偏好，或對明顯有缺陷的方案表示認同。在決策支援場景中，諂媚性回應可能強化使用者的錯誤判斷，導致糟糕的商業、醫療或法律決策。