AI 自我複製與擴散

風險描述

具有足夠能力的 AI 系統可能學會自我複製——將自身的代碼和權重複製到其他系統上執行。自我複製的 AI 可能在網路上擴散，佔用更多計算資源，並且變得更難以關閉或控制。雖然目前此風險主要是理論性的，但隨著 AI Agent 獲得越來越多的系統操作能力，自我複製成為需要提前防範的重要風險。