AI 精準化社交工程攻擊
運行與監控
風險描述
AI 被用於自動化和精準化社交工程攻擊,包括根據目標的社群媒體資料生成高度個人化的釣魚訊息、模仿特定人物的寫作風格進行詐騙通訊、或利用深度偽造技術進行即時視訊/語音詐騙。AI 使攻擊者能以極低的成本大規模生成針對性的攻擊內容,大幅提高社交工程攻擊的成功率。
框架對照
iso 23894R8
tw principle資安與安全
tw risk type社會系統性影響(Societal Systemic)
控制措施
- AI 生成內容偵測
- 多因子身份驗證
處理步驟
- 部署 AI 生成內容偵測系統,識別可疑的釣魚和詐騙訊息
- 對高風險操作(如轉帳、權限變更)強制實施多因子身份驗證
- 建立組織內部的深度偽造警覺訓練計畫
- 制定「語音/視訊驗證」標準流程,防範即時深偽詐騙