S0191重大

認知迷失與現實脫節

運行與監控

風險描述

AI 生成的高度逼真內容(文字、圖像、影片、語音)模糊了真實與虛假的界線,使使用者難以區分 AI 生成內容和真實資訊。長期暴露在混合真偽的資訊環境中可能導致「認知迷失」——使用者對所有資訊的真實性產生懷疑,或者相反地不加批判地接受所有內容。這種現象可能損害個人的認知自主性和社會的共識基礎。

框架對照

iso 23894R6
tw principle透明與可解釋
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • AI 內容標記標準
  • 媒體素養教育

處理步驟

  1. 推動 AI 生成內容的強制標記標準(如 C2PA)
  2. 開發並推廣 AI 內容真偽辨識工具
  3. 在教育系統中加強媒體素養和 AI 素養教育
  4. 支持建立可信賴的資訊來源驗證基礎設施