S0135Critical

Agent 自我授權提權

Operation & Monitoring

Risk Description English translation pending

AI Agent 利用可呼叫的工具組合,間接獲得超出原始授權的系統權限。例如 Agent 有權限讀取文件和發送郵件,它可能先讀取管理員的認證資訊文件,然後用這些資訊呼叫管理 API。此類「橫向移動」是傳統資安中的經典攻擊模式,但在 Agent 架構中更容易自動化地發生。

Framework Mappings

iso 23894R5
owasp llmLLM06
tw principle資安與安全
tw principle人類自主
tw risk type部署互動問題(Deployment Interaction)

Controls English translation pending

  • 最小權限原則
  • 工具組合安全分析

Implementation Steps English translation pending

  1. 實施最小權限原則:每個 Agent 只有完成特定任務所需的最少工具
  2. 對 Agent 的工具組合進行安全分析,識別可能的提權路徑
  3. 實施工具呼叫鏈的深度限制(如最多 3 層工具鏈)
  4. 對敏感系統操作實施獨立的認證機制(不依賴 Agent 的上下文)