多智能體社會困境

風險描述

多個 AI 智能體在追求各自目標時陷入類似於「囚徒困境」的社會困境，導致集體次優結果。例如，多個 AI 定價系統各自最大化利潤卻導致全市場價格戰、多個 AI 內容推薦系統競爭用戶注意力導致內容品質的整體下降（底部競爭）。智能體的理性個體行為匯聚成對社會有害的集體結果。