S0197嚴重

軍事 AI 軍備競賽

啟動

風險描述

各國在軍事 AI 應用(如自主武器系統、智慧戰場指揮、網路戰能力)上的競爭加劇,形成 AI 軍備競賽。這種競爭壓力可能導致安全標準被犧牲以追求速度、自主武器的使用門檻持續降低、以及戰爭形態的根本性改變。缺乏國際共識和條約限制,軍事 AI 發展可能超出人類有效控制的範圍。

框架對照

iso 23894R8
tw principle永續發展與福祉
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 國際 AI 軍事準則
  • 人類控制保障

處理步驟

  1. 支持建立國際 AI 軍事使用準則和限制條約
  2. 確保所有軍事 AI 系統維持有意義的人類控制
  3. 對軍事 AI 系統進行獨立的安全和倫理評估
  4. 推動軍事 AI 使用的透明度和問責機制