自動化偏見導致異常忽略

風險描述

使用者因長期依賴 AI 系統的輸出而產生「自動化偏見」，傾向於接受 AI 的判斷而忽略明顯的異常訊號。特別是在 AI 系統準確率很高的場景中，使用者可能在少數 AI 出錯的關鍵時刻也盲目信任其輸出。例如，影像診斷中放射科醫師忽略 AI 未標記的異常、品管中操作員忽略 AI 通過的不良品。