S0166嚴重

大規模自動化監控與審查

運行與監控

風險描述

AI 技術被用於建立大規模自動化監控系統,包括社群媒體內容審查、通訊監聽分析、行為預測追蹤等。國家或企業行為者利用 AI 的規模化能力,實現以往需要大量人力才能執行的監控操作。這嚴重侵害公民的隱私權、言論自由和集會自由,且 AI 的自動化特性使監控無處不在、無時不停。

框架對照

iso 23894R8
tw principle人類自主
tw principle隱私保護與數據治理
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 監控系統使用限制
  • 公民監督機制

處理步驟

  1. 建立 AI 監控系統的法律使用框架,明確限制應用範圍
  2. 設立獨立的公民監督機構,審查 AI 監控系統的使用
  3. 對 AI 監控技術的出口實施嚴格管控
  4. 建立 AI 監控影響評估制度,定期評估對公民自由的影響