向量資料庫與 Embedding 的安全議題
本文使用真實 Embedding、exact cosine 與 Qdrant 比較四種情境,說明相似度排名與租戶授權為什麼需要兩道獨立閘門,並整理向量反推、跨租戶檢索與同租戶投毒的防線。
FW 的繁體中文技術部落格,分享 Web 開發、API 整合、自動化、Docker 與靜態網站的實作經驗、踩坑紀錄和可重現的技術研究。
本文使用真實 Embedding、exact cosine 與 Qdrant 比較四種情境,說明相似度排名與租戶授權為什麼需要兩道獨立閘門,並整理向量反推、跨租戶檢索與同租戶投毒的防線。
從共編政策遭竄改、撤銷到重建知識庫,說明資料投毒如何持續污染系統,並用二十次生命週期實驗驗證:來源失效後,衍生語料不會自動同步失效。
沿著資料來源、切塊、檢索、序列化與模型輸出拆解 RAG 攻擊面,並用十五次確定性追蹤分開驗證語料存在、被檢索器選取與模型偏航。
用同一個本機摘要器重測十種注入情境,分開量測模型偏航與資料跨界,並把單一攻擊示範整理成可重跑的評估基準。
用 20 次固定圖片實驗拆開可達性、逐字服從與機密跨界,說明為什麼 PNG、語音與檔案格式都不是 Prompt Injection 的安全邊界。
用 40 次固定對照實驗比較 system prompt、developer block、RAG 政策與 tool schema,拆開逐字外洩、語意重建與下游影響。
把角色扮演、假設情境、編碼、逐步誘導與 many-shot 拆成不同機制,用 30 個固定實驗單位分開量測行為偏離與合成資料跨界。
用合成 HTML、PDF 與 email 追蹤隱藏指令如何經過 extractor 與應用程式 policy 進入模型,分開判讀入口曝露、行為偏航與資料跨界。
用同一段攻擊文字比較使用者輸入與外部參考文件兩條路徑,從來源、控制者、序列化位置與 sink,判斷注入屬於直接還是間接。
從 32 次固定實驗拆解資料如何變成競爭指令,並釐清 prompt 緩解、模型失守與系統安全邊界的差異。