AI 傷害的可感知性與可量化性挑戰
運行與監控
風險描述
AI 造成的許多傷害是漸進的、間接的或系統性的,難以被及時感知和準確量化。例如,演算法歧視對個人職涯的長期影響、推薦系統對資訊多元性的緩慢侵蝕、AI 自動化對特定社區的經濟衝擊等。這種傷害的不可見性使得受害者難以舉證、監管者難以介入、組織缺乏修正的動力。
框架對照
iso 23894R8
tw principle問責
tw principle永續發展與福祉
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 長期影響追蹤
- 傷害指標體系
處理步驟
- 建立 AI 系統的長期影響追蹤機制,超越短期績效指標
- 開發 AI 傷害的多維度量化指標體系
- 定期進行利害關係人影響調查,收集間接傷害的證據
- 建立社會影響評估制度,評估 AI 部署的累積效應