Agent 無限迴圈消耗資源
運行與監控
風險描述
AI Agent 進入自我參考或循環任務的無限迴圈,持續呼叫工具或發出 API 請求,耗盡 token 額度和 API 成本。例如 Agent 嘗試解決一個不可能的任務,不斷重試不同方法但永遠無法滿足退出條件。在多 Agent 系統中,兩個 Agent 可能形成互相請求的乒乓迴圈。
框架對照
iso 23894R5
cosaiRogue Actions
tw principle資安與安全
tw principle問責
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- Agent 執行限制
- 迴圈偵測
處理步驟
- 設定 Agent 的最大執行步驟數和最大 token 消耗量
- 實施迴圈偵測:連續 N 次相似操作自動終止
- 為每次 Agent 任務設定超時限制
- 建立成本告警機制(消耗超過預算 80% 時告警並暫停)