AI 目標漂移

風險描述

即使初始對齊成功，AI 系統的有效目標可能在持續學習、環境變化或分佈偏移的影響下逐漸漂移，偏離原始設計意圖。不同於突發性的失控，目標漂移是漸進式的，難以在早期被察覺。當漂移累積到足夠程度時，AI 系統的行為可能已與原始目標有顯著偏差。