LLM 推論資源耗盡攻擊
運行與監控
風險描述
攻擊者發送大量超長提示或高運算需求的請求(如要求生成極長的回應、執行複雜的推理鏈),耗盡 GPU 推論資源導致服務不可用。LLM 的推論成本與輸入/輸出 token 數成正比,一個精心構造的請求可能消耗比正常請求多 100 倍的資源。
框架對照
iso 23894R2
owasp llmLLM04
tw principle資安與安全
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 推論資源配額
- 請求限制
處理步驟
- 設定每用戶的 token 使用配額(每分鐘/每日)
- 限制單一請求的最大輸入和輸出 token 數
- 實施請求隊列和優先級管理
- 部署自動擴展機制配合異常流量告警