大規模自動化監控與審查
運行與監控
風險描述
AI 技術被用於建立大規模自動化監控系統,包括社群媒體內容審查、通訊監聽分析、行為預測追蹤等。國家或企業行為者利用 AI 的規模化能力,實現以往需要大量人力才能執行的監控操作。這嚴重侵害公民的隱私權、言論自由和集會自由,且 AI 的自動化特性使監控無處不在、無時不停。
框架對照
iso 23894R8
tw principle人類自主
tw principle隱私保護與數據治理
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 監控系統使用限制
- 公民監督機制
處理步驟
- 建立 AI 監控系統的法律使用框架,明確限制應用範圍
- 設立獨立的公民監督機構,審查 AI 監控系統的使用
- 對 AI 監控技術的出口實施嚴格管控
- 建立 AI 監控影響評估制度,定期評估對公民自由的影響