Operation and Monitoring

AI 法律責任歸屬模糊

AI 傷害的可感知性與可量化性挑戰

AI 決策責任歸屬不明

缺乏有效的申訴機制

AI 決策透明度不足導致監管失效

深度學習決策無法解釋

模型版本變更未告知使用者

解釋性工具的誤導效果

RAG 系統來源引用不透明

黑箱決策阻礙問責追溯

時間偏移導致數據陳舊

服務品質跨群體差異

回饋迴圈偏見放大

事實性幻覺

推理鏈斷裂

醫療建議幻覺

信心校準失敗

諂媚性回應偏差

AI 倫理與道德推理失敗

長上下文忠實度衰退

上下文一致性追隨導致錯誤延伸

模型記憶化攻擊

成員推斷攻擊

屬性推斷攻擊

對話歷史洩露

嵌入向量隱私逆推

多元資訊關聯推斷個人身份

生成式 AI 使用者數據過度收集

模型逆向攻擊重建訓練數據

提示詞中無意洩露機密資訊

數據保留期限超期

AI 生成內容的真實性與歸屬爭議

數據主體權利行使困難

影像逃逸攻擊

語音對抗樣本

文字對抗樣本

物理世界對抗攻擊

多模態交叉對抗攻擊

通用對抗擾動攻擊

模型遷移性對抗攻擊

多模態融合對抗攻擊

直接提示注入繞過對齊

間接提示注入

系統提示洩露

多步驟提示攻擊鏈

工具呼叫注入

目標劫持攻擊

多模態提示注入

上下文視窗記憶體投毒

RAG 檢索結果注入攻擊

API 查詢蒸餾攻擊

側通道模型推斷

模型浮水印移除

模型功能性複製攻擊

預處理工具供應鏈漏洞

GPU 記憶體殘留數據洩露

模型服務日誌暴露敏感輸入

AI 推論端點 SSRF 攻擊

LLM 推論資源耗盡攻擊

模型運算資源劫持挖礦

Sponge 攻擊增加推論成本

Agent 無限迴圈消耗資源

分散式推論節點串連故障

模型推論成本放大攻擊

AI 服務可用性單點故障

人臉辨識跨種族準確度差異

招聘 AI 性別歧視

語言模型文化偏見

不公平群體表徵與消抹

分配性傷害與機會不平等

Agent 未授權檔案操作

Agent 未授權網路請求

Agent 繞過人類審核自動執行

Agent 自我授權提權

自主交易系統失控

AI 欺騙性對齊行為

AI 態勢感知能力風險

AI 資源獲取與權力尋求

AI 目標漂移

AI 自我複製與擴散

LLM 生成仇恨言論

AI 生成兒少不宜內容

文化刻板印象強化

非自願 AI 換臉色情

自動化騷擾內容生成

AI 生成暴力與極端主義內容

AI 生成違法行為指導內容

AI 生成兒少有害內容

大規模虛假資訊污染資訊生態

醫師過度信賴 AI 診斷

法官過度信賴風險評估工具

學生過度依賴 AI 寫作

自駕系統人機交接失敗

AI 引導使用者執行不當行為

AI 擬人化導致不當信任

AI 輔助決策中的身心健康影響

自動化偏見導致異常忽略

深度偽造身份詐欺

大規模虛假資訊生成

AI 輔助釣魚攻擊

AI 生成有害教學內容

自動化學術造假

大規模自動化監控與審查

AI 輔助生化武器研發

AI 精準化社交工程攻擊

AI 輔助選舉操縱

非自願性 AI 生成親密影像

AI 輔助自動化網路犯罪

Agent 間資訊不對稱

串聯式 Agent 失控放大

自主 Agent 共謀行為

多智能體軍事領域衝突升級

智能體間隱蔽通訊

多智能體社會困境

AI 推薦系統操縱選擇

認知降級效應

情感操縱與依附

AI 決策取消人類否決權

資訊繭房強化極端化

自我實現潛能受阻

AI 文化衝擊與身份認同影響

人機互動模式轉變社交行為

AI 說服與行為操縱

認知迷失與現實脫節

大規模自動化就業替代

AI 技術集中造成權力失衡

數位落差加劇不平等

AI 定價演算法共謀

創意產業經濟衝擊

內容同質化與文化多樣性衰退

AI 數據中心水資源消耗

AI 環境污染轉移

AI 回彈效應抵消效率改善