開發者盲目接受 AI 生成程式碼
設計與開發
風險描述
軟體開發者習慣性地接受 AI 程式碼助手(如 Copilot、Cursor)的建議,不做充分審查即合併到程式碼庫。依據相關研究顯示,使用 AI 助手後「修改/撤銷」程式碼的比例顯著上升。更危險的是,開發者對 AI 生成的程式碼產生錯誤的安全感,認為「AI 不會犯那麼基本的錯誤」。
框架對照
iso 23894R7
tw principle人類自主
tw risk type部署互動問題(Deployment Interaction)
控制措施
- AI 程式碼強制審查
- 開發者安全意識培訓
處理步驟
- 在 PR 流程中標記 AI 生成的程式碼區塊,要求額外審查
- 培訓開發者對 AI 程式碼保持「信任但驗證」的態度
- 建立 AI 生成程式碼的安全審查 checklist
- 追蹤 AI 程式碼引入的 bug/漏洞比例