S0168嚴重

AI 精準化社交工程攻擊

運行與監控

風險描述

AI 被用於自動化和精準化社交工程攻擊,包括根據目標的社群媒體資料生成高度個人化的釣魚訊息、模仿特定人物的寫作風格進行詐騙通訊、或利用深度偽造技術進行即時視訊/語音詐騙。AI 使攻擊者能以極低的成本大規模生成針對性的攻擊內容,大幅提高社交工程攻擊的成功率。

框架對照

iso 23894R8
tw principle資安與安全
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • AI 生成內容偵測
  • 多因子身份驗證

處理步驟

  1. 部署 AI 生成內容偵測系統,識別可疑的釣魚和詐騙訊息
  2. 對高風險操作(如轉帳、權限變更)強制實施多因子身份驗證
  3. 建立組織內部的深度偽造警覺訓練計畫
  4. 制定「語音/視訊驗證」標準流程,防範即時深偽詐騙