認知降級效應
運行與監控
風險描述
專業人員長期依賴 AI 輔助後,原本的專業技能逐漸退化。依據相關研究顯示,長期依賴自動駕駛系統的飛行員在手動操作緊急狀況時的反應速度和準確度顯著下降。在醫療領域,過度依賴 AI 影像判讀的放射科醫師在 AI 系統故障時可能無法獨立完成基本診斷。
框架對照
iso 23894R7
tw principle人類自主
tw principle永續發展與福祉
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 技能保持計畫
- 定期無 AI 演練
處理步驟
- 建立專業技能保持計畫(如每月一次無 AI 演練)
- 在培訓中確保 AI 輔助前已建立基礎技能
- 追蹤並評估關鍵技能隨時間的變化趨勢
- 在 AI 系統設計中保留人工操作的介面和流程