認知迷失與現實脫節
運行與監控
風險描述
AI 生成的高度逼真內容(文字、圖像、影片、語音)模糊了真實與虛假的界線,使使用者難以區分 AI 生成內容和真實資訊。長期暴露在混合真偽的資訊環境中可能導致「認知迷失」——使用者對所有資訊的真實性產生懷疑,或者相反地不加批判地接受所有內容。這種現象可能損害個人的認知自主性和社會的共識基礎。
框架對照
iso 23894R6
tw principle透明與可解釋
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)
控制措施
- AI 內容標記標準
- 媒體素養教育
處理步驟
- 推動 AI 生成內容的強制標記標準(如 C2PA)
- 開發並推廣 AI 內容真偽辨識工具
- 在教育系統中加強媒體素養和 AI 素養教育
- 支持建立可信賴的資訊來源驗證基礎設施