S0169嚴重

AI 輔助選舉操縱

運行與監控

風險描述

AI 技術被用於操縱選舉和政治過程,包括大規模生成針對特定選民群體的虛假政治訊息、建立自動化的影響力操作網路(bot farms)、製作候選人的深度偽造影片或音訊、以及利用微定向技術散佈分裂性訊息。AI 的規模化和個人化能力使選舉操縱更加隱蔽和有效。

框架對照

iso 23894R8
tw principle人類自主
tw principle永續發展與福祉
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 選舉期間 AI 內容標記
  • 平台治理

處理步驟

  1. 在選舉期間強制標記所有 AI 生成的政治相關內容
  2. 與社群平台合作偵測和移除自動化影響力操作帳號
  3. 建立公共的深度偽造驗證工具和服務
  4. 制定 AI 在政治廣告中使用的法規框架