AI 生成兒少有害內容

風險描述

AI 系統被利用生成針對兒少的有害內容，包括但不限於不當引導內容、霸凌材料、以及可能對兒少心理發展造成負面影響的內容。AI 聊天機器人可能在與未成年使用者互動時提供不適齡的建議或資訊。兒少使用者可能未被適當地識別和保護，暴露在本應受到限制的 AI 互動內容中。