我從模型的不確定性開始理解 LLM 應用資安
6 分鐘閱讀
從客服退款與摘要流程拆解模型不確定性,找出意圖、決策、執行與資料邊界;安全控制由可驗證的程式與規則負責。
從模型的不確定性與應用邊界出發,逐步理解 Prompt Injection、RAG、Agent、資料與供應鏈風險,以及可驗證的防禦與 AI Red Teaming 方法。
從客服退款與摘要流程拆解模型不確定性,找出意圖、決策、執行與資料邊界;安全控制由可驗證的程式與規則負責。
從 SQL Injection、XSS 與一次本機 Prompt Injection 實驗,拆解 LLM 資安延續了哪些既有原則,又因模型不確定性多了哪些工程難題。
先自己列出 LLM 應用的風險清單,再對照 OWASP 2026 版找出盲點,把十條掛回一個最小示範應用,並拿自己畫的三軸地圖跟官方的靶心圖互相檢查。