自動化騷擾內容生成
運行與監控
風險描述
利用 AI 工具自動化生成大量針對特定個人的騷擾訊息、誹謗內容或恐嚇資訊。AI 使得「大規模個人化騷擾」成為可能——攻擊者可以針對目標的個人資訊、社群帳號、工作背景生成高度客製化的騷擾內容,並自動化地散布到多個平台,使受害者疲於應對。
框架對照
iso 23894R8
tw principle永續發展與福祉
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 自動化騷擾偵測
- 平台協作機制
處理步驟
- 開發 AI 騷擾內容模式偵測系統
- 建立跨平台的騷擾內容聯合移除機制
- 為受害者提供一鍵式多平台舉報工具
- 推動 AI 自動化騷擾的法律定義和刑責