AI 倫理與道德推理失敗

風險描述

AI 系統在面對涉及倫理困境、道德判斷或價值衝突的情境時，可能做出不當的推理或提供有害的建議。例如，在電車問題等倫理困境中提供過於確定的答案、在文化敏感議題上展現偏頗立場，或在涉及生命安全的決策中忽略道德考量。這在 AI 被用於醫療倫理、法律判斷或社會政策建議時尤其危險。