回饋迴圈偏見放大

風險描述

AI 系統的輸出被重新納入訓練數據或影響未來數據收集，形成偏見放大的回饋迴圈。例如，預測性警務系統將警力集中在特定社區，導致該社區犯罪數據增加，進一步強化系統的偏見預測。這種自我強化機制使初始的微小偏見隨時間指數級放大，最終造成嚴重的系統性歧視。