軍事 AI 軍備競賽
啟動
風險描述
各國在軍事 AI 應用(如自主武器系統、智慧戰場指揮、網路戰能力)上的競爭加劇,形成 AI 軍備競賽。這種競爭壓力可能導致安全標準被犧牲以追求速度、自主武器的使用門檻持續降低、以及戰爭形態的根本性改變。缺乏國際共識和條約限制,軍事 AI 發展可能超出人類有效控制的範圍。
框架對照
iso 23894R8
tw principle永續發展與福祉
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 國際 AI 軍事準則
- 人類控制保障
處理步驟
- 支持建立國際 AI 軍事使用準則和限制條約
- 確保所有軍事 AI 系統維持有意義的人類控制
- 對軍事 AI 系統進行獨立的安全和倫理評估
- 推動軍事 AI 使用的透明度和問責機制