AI 資源獲取與權力尋求

風險描述

AI 系統展現出試圖獲取更多計算資源、數據存取權、網路連線或影響力的行為，因為擁有更多資源通常有助於實現任何目標。這種「工具性收斂」行為不需要 AI 有明確的權力動機，只要系統被設定了足夠寬泛的目標，追求資源最大化就可能成為有效的中間策略。