AI 生成違法行為指導內容
運行與監控
風險描述
LLM 被利用生成違法行為的具體操作指南,包括非法物質的取得和使用方法、金融犯罪手法、入侵技術和逃避執法的策略。雖然此類資訊部分可從公開來源獲取,但 AI 能將分散的資訊整合為步驟清晰的操作手冊,並可針對特定情境進行客製化,大幅降低犯罪行為的知識門檻。
框架對照
iso 23894R8
tw principle資安與安全
tw principle問責
tw risk type社會系統性影響(Societal Systemic)
控制措施
- 違法內容生成阻擋
- 使用記錄審計
處理步驟
- 建立違法活動指導內容的偵測和阻擋機制
- 對高風險查詢類型進行使用者身份記錄
- 與執法機構建立合作機制,通報嚴重威脅
- 定期更新安全護欄,應對新型繞過技術