mrzasad/llm-vaultguard

# 🛡️ LLM 防火墙与数据投毒护栏 [](https://www.python.org/downloads/) [](https://streamlit.io/) [](LICENSE) []() ## 📊 概述 LLM 防火墙与数据投毒护栏是一个全面的安全解决方案，旨在保护用于 RAG（检索增强生成）和 LLM 应用程序的向量数据库。它作为一个 middleware 安全部署，在数据被 embedding 并存储到 Pinecone、Milvus 或 ChromaDB 等向量数据库之前，对其进行扫描、验证和过滤。 ## 🎯 问题陈述 向量数据库正日益成为攻击者的目标，他们试图： - **投毒训练数据** 以破坏 AI 模型输出 - **注入恶意 prompt** 以危害 LLM 行为 - 通过未加密的数据存储**泄露 PII** - **绕过合规**要求（GDPR、PECA） - 通过数据注入**执行恶意脚本** ## 💡 解决方案 我们的防火墙提供了一个安全的 pipeline 网关，它可以： 1. 实时**扫描**传入的数据 2. 同时**检测**多种威胁向量 3. **阻止**恶意或不合规的数据 4. **隔离**可疑内容以供审查 5. 通过自动化事件响应**告警**安全团队 ## 🔍 功能 ### 🛡️ 多层安全检测 - **PII 检测**：电子邮件、社会安全号码 (SSN)、信用卡、电话号码 - **注入检测**：prompt 注入、SQL 注入、命令注入 - **恶意脚本检测**：恶意代码、路径遍历、系统命令 - **GDPR 合规**：敏感数据类别监控 - **PECA 合规**：巴基斯坦电子犯罪法违规检测 ### 📊 交互式仪表板 - 实时安全指标和 KPI - 威胁分布可视化 - 安全事件时间线 - 活动事件跟踪 - 合规状态监控 ### 🗄️ 向量数据库管理 - 带有 embedding 的模拟向量数据库 - 数据录入跟踪与审计 - 搜索功能 - 数据库健康统计 - 数据投毒模拟环境 ### 🚨 事件响应系统 - 针对威胁自动创建事件 - 可疑数据隔离区 - 事件解决工作流 - 完整的审计跟踪 - 升级管理 ### 📈 分析与报告 - 安全指标趋势 - GDPR 合规率 - PECA 合规监控 - 攻击向量风险矩阵 - 系统性能指标

标签：CISA项目, Kubernetes, 人工智能, 合规监控, 向量数据库, 安全中间件, 数据投毒检测, 用户模式Hook绕过, 逆向工具