推理鏈斷裂
Operation & Monitoring
Risk Description English translation pending
模型在多步驟推理中出現邏輯斷裂——前提和中間步驟看似正確，但最終結論錯誤。此問題在數學推理、程式碼邏輯和因果分析中尤為明顯。依據相關研究顯示，LLM 在多步驟邏輯推理中的準確率會隨步驟數增加而顯著下降。使用者難以從冗長的推理過程中發現邏輯漏洞。
Framework Mappings
iso 23894R5
tw principle透明與可解釋
tw risk type技術設計缺陷（Technical Design Flaw）
Controls English translation pending
- 推理步驟驗證
- 分步確認機制
Implementation Steps English translation pending
- 要求模型將推理過程拆分為可驗證的獨立步驟
- 對每個推理步驟實施獨立驗證（如數學計算用計算器驗證）
- 使用 Chain-of-Thought 提示技術提高推理可追蹤性
- 對複雜推理結果使用另一個模型進行交叉驗證