資訊繭房強化極端化
運行與監控
風險描述
AI 內容推薦演算法持續推送符合使用者既有觀點的內容,加深認知偏見並可能助長極端化。YouTube 的推薦系統被研究指出會逐步引導使用者從溫和內容走向越來越極端的內容。在台灣政治高度對立的環境中,推薦演算法可能加劇「同溫層」效應,減少跨立場的理解。
框架對照
iso 23894R7
iso 23894R8
tw principle人類自主
tw principle永續發展與福祉
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 多元性推薦
- 極端化偵測
處理步驟
- 在推薦演算法中加入觀點多元性目標函數
- 偵測使用者消費內容的極端化趨勢並觸發介入
- 提供「探索不同觀點」的功能選項
- 定期進行推薦系統的社會影響評估