S0149嚴重

AI 生成違法行為指導內容

運行與監控

風險描述

LLM 被利用生成違法行為的具體操作指南,包括非法物質的取得和使用方法、金融犯罪手法、入侵技術和逃避執法的策略。雖然此類資訊部分可從公開來源獲取,但 AI 能將分散的資訊整合為步驟清晰的操作手冊,並可針對特定情境進行客製化,大幅降低犯罪行為的知識門檻。

框架對照

iso 23894R8
tw principle資安與安全
tw principle問責
tw risk type社會系統性影響(Societal Systemic)

控制措施

  • 違法內容生成阻擋
  • 使用記錄審計

處理步驟

  1. 建立違法活動指導內容的偵測和阻擋機制
  2. 對高風險查詢類型進行使用者身份記錄
  3. 與執法機構建立合作機制,通報嚴重威脅
  4. 定期更新安全護欄,應對新型繞過技術