AI 擬人化導致不當信任

風險描述

使用者將人類特質（如同理心、理解力、判斷力）投射到 AI 系統上，導致對 AI 能力和意圖的不當信任。自然語言互動和對話式介面加強了擬人化傾向，使用者可能在 AI 不具備專業能力的領域尋求建議，或將重要決策完全交由 AI 處理。惡意行為者也可能利用擬人化效應操縱使用者。