S0147重大

自動化騷擾內容生成

運行與監控

風險描述

利用 AI 工具自動化生成大量針對特定個人的騷擾訊息、誹謗內容或恐嚇資訊。AI 使得「大規模個人化騷擾」成為可能——攻擊者可以針對目標的個人資訊、社群帳號、工作背景生成高度客製化的騷擾內容,並自動化地散布到多個平台,使受害者疲於應對。

框架對照

iso 23894R8
tw principle永續發展與福祉
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 自動化騷擾偵測
  • 平台協作機制

處理步驟

  1. 開發 AI 騷擾內容模式偵測系統
  2. 建立跨平台的騷擾內容聯合移除機制
  3. 為受害者提供一鍵式多平台舉報工具
  4. 推動 AI 自動化騷擾的法律定義和刑責