S0171嚴重

AI 輔助自動化網路犯罪

運行與監控

風險描述

AI 被用於自動化網路犯罪的各個環節,包括自動發現軟體漏洞、生成客製化惡意程式碼、自動化滲透測試和攻擊、以及規避安全防禦機制。AI 使攻擊者能以更低的技術門檻和成本執行更複雜的網路攻擊。特別是 LLM 輔助的程式碼生成使得低技術門檻的攻擊者也能產生高品質的攻擊工具。

框架對照

iso 23894R8
tw principle資安與安全
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 惡意程式碼生成過濾
  • AI 安全防禦

處理步驟

  1. 在 AI 程式碼生成中建立惡意程式碼模式偵測和過濾
  2. 利用 AI 同步強化組織的網路安全防禦能力
  3. 建立 AI 安全威脅情報共享機制
  4. 對 AI 系統的安全程式碼生成能力實施使用限制和審計