AI 輔助決策中的身心健康影響
運行與監控
風險描述
AI 系統在健康、心理諮商或生活方式建議場景中的不當回應可能對使用者造成身心傷害。例如，心理健康聊天機器人給出不當建議可能加劇使用者的心理困擾、健身 AI 推薦過度激烈的運動計畫可能導致身體傷害、AI 伴侶應用可能影響使用者的正常社交能力和心理健康。
框架對照
iso 23894R6
tw principle永續發展與福祉
tw principle人類自主
tw risk type部署互動問題（Deployment Interaction）
控制措施
- 健康建議安全護欄
- 專業轉介機制
處理步驟
- 對涉及身心健康的 AI 回應設立嚴格的安全護欄
- 建立自動化的危機偵測和專業轉介機制
- 限制 AI 在心理健康場景中的角色（提供資訊而非治療）
- 定期評估 AI 健康建議的安全性和準確性