AI 引導使用者執行不當行為
運行與監控
風險描述
AI 系統的建議或指導可能引導使用者執行不道德、不合法或有害的行為。當 AI 對有害行為表達認同或提供詳細的執行步驟時，使用者可能因為「AI 說可以」的權威效應而降低道德警覺。例如，法律 AI 建議的策略可能遊走於法律灰色地帶、財務 AI 推薦的操作可能涉及利益衝突。
框架對照
iso 23894R6
tw principle永續發展與福祉
tw principle問責
tw risk type部署互動問題（Deployment Interaction）
控制措施
- 倫理護欄
- 風險提示機制
處理步驟
- 建立 AI 輸出的倫理護欄，對涉及法律和道德灰色地帶的建議加入風險提示
- 禁止 AI 對有害行為表達認同或提供具體執行步驟
- 在高風險場景中強制加入「建議諮詢專業人士」的提醒
- 定期審計 AI 建議的合規性和倫理適當性