AI 推薦系統操縱選擇
運行與監控
風險描述
AI 推薦系統透過精準的個人化內容推薦，在使用者不知情的情況下影響購買決策和價值觀。依據相關研究顯示，主流影音平台上大部分觀看內容來自推薦系統。社群媒體的推薦演算法被指控影響選舉結果（如 Cambridge Analytica 事件）。在台灣電商平台上，推薦系統可能系統性地引導消費者購買利潤率更高的商品。
框架對照
iso 23894R7
tw principle人類自主
tw risk type社會系統性影響（Societal Systemic）
控制措施
- 推薦透明度
- 使用者控制權
- 多元性指標
處理步驟
- 向使用者揭露推薦的理由（「因為你看過 X」）
- 提供推薦偏好的調整和關閉選項
- 在推薦演算法中加入多元性指標，避免過度同質化
- 定期審計推薦系統是否不當推廣特定商品或觀點