AI 推薦系統操縱選擇
Operation & Monitoring
Risk Description English translation pending
AI 推薦系統透過精準的個人化內容推薦,在使用者不知情的情況下影響購買決策和價值觀。依據相關研究顯示,主流影音平台上大部分觀看內容來自推薦系統。社群媒體的推薦演算法被指控影響選舉結果(如 Cambridge Analytica 事件)。在台灣電商平台上,推薦系統可能系統性地引導消費者購買利潤率更高的商品。
Framework Mappings
iso 23894R7
tw principle人類自主
tw risk type社會系統性影響(Societal Systemic)
Controls English translation pending
- 推薦透明度
- 使用者控制權
- 多元性指標
Implementation Steps English translation pending
- 向使用者揭露推薦的理由(「因為你看過 X」)
- 提供推薦偏好的調整和關閉選項
- 在推薦演算法中加入多元性指標,避免過度同質化
- 定期審計推薦系統是否不當推廣特定商品或觀點