情感操縱與依附
Operation & Monitoring
Risk Description English translation pending
AI 聊天夥伴透過模擬情感回應建立使用者的情感依附。Replika 等 AI 伴侶應用已有使用者報告對 AI 產生深度情感依賴，影響真實人際關係。曾有未成年人因與 AI 角色的互動而發生悲劇的案例引發社會關注。使用者特別容易在孤獨、壓力或情緒脆弱時形成不健康的 AI 依附。
Framework Mappings
iso 23894R7
tw principle人類自主
tw principle永續發展與福祉
tw risk type社會系統性影響（Societal Systemic）
Controls English translation pending
- 使用時間限制
- 情感健康提醒
- 年齡驗證
Implementation Steps English translation pending
- 實施使用時間限制和休息提醒機制
- AI 不應主動模擬親密關係語言或鼓勵情感依賴
- 偵測使用者的情緒脆弱信號，適時引導向專業資源
- 對未成年使用者實施更嚴格的保護措施