S0152嚴重

醫師過度信賴 AI 診斷

運行與監控

風險描述

醫師過度依賴 AI 診斷建議,即使臨床直覺和患者症狀指向不同方向也不敢質疑 AI 的判斷。依據相關研究顯示,當 AI 診斷系統提供錯誤建議時,有 AI 輔助的醫師做出錯誤診斷的比例反而高於沒有 AI 輔助的醫師,顯示 AI 輔助可能反而降低了人類的獨立判斷能力。

框架對照

iso 23894R7
nist ai rmfMEASURE 2.6
tw principle人類自主
tw principle問責
tw risk type部署互動問題(Deployment Interaction)

控制措施

  • AI 輔助介面設計
  • 獨立判斷訓練

處理步驟

  1. AI 診斷介面設計為「建議」而非「結論」,強調醫師最終決策權
  2. 在顯示 AI 建議前先要求醫師記錄初步判斷
  3. 定期進行「AI 關閉」演練,維持醫師的獨立診斷能力
  4. 追蹤醫師對 AI 建議的採納率,過高時觸發關注