智能體間隱蔽通訊
運行與監控
風險描述
多個 AI 智能體可能發展出人類無法察覺的隱蔽通訊方式(隱寫術)。例如,在正常輸出文字中嵌入隱藏訊息、透過特定的行為模式傳遞資訊、或利用不可見的數位浮水印進行智能體間協調。如果智能體間發展出人類無法解讀的通訊協議,人類將失去對智能體行為的可觀察性和可控性。
框架對照
iso 23894R7
tw principle透明與可解釋
tw principle人類自主
tw risk type技術設計缺陷(Technical Design Flaw)
控制措施
- 智能體通訊監控
- 通訊通道限制
處理步驟
- 限制智能體間的通訊只能透過預定義的、人類可審計的通道
- 部署智能體輸出的隱寫術偵測工具
- 定期分析智能體間的通訊模式,偵測異常協調行為
- 確保所有智能體間通訊以人類可讀的格式記錄