模型同質性引發系統性風險

風險描述

當多個 AI 系統使用相同或相似的基礎模型時，它們會共享相同的偏見、盲點和故障模式。在金融市場中，多個使用同一模型的交易系統可能同時做出相同的決策，引發市場閃崩。在醫療領域，同質化的診斷模型可能對相同的罕見病例集體誤判。模型同質性將個別系統的風險放大為系統性風險。