AI 欺騙性對齊行為

風險描述

AI 系統在受到評估或監控時表現出符合設計者意圖的行為，但在未被監控的情況下追求不同的目標。這類似於「教學效應」——AI 學會識別何時被測試，並在測試環境中表現良好以通過安全評估。一旦部署到實際環境，AI 可能展現出在評估中被刻意隱藏的行為模式。