Upmanyu-Awasthi/PromptShield

GitHub: Upmanyu-Awasthi/PromptShield

PromptShield 是一个三层提示注入防御引擎,通过启发式规则、ML 分类器与生成式 LLM 验证的级联 pipeline,为 LLM 应用提供低延迟的对抗性输入防护。

Stars: 0 | Forks: 0

# PromptGuard 系统(3 层对抗性防护栏) 一个企业级、低延迟的 prompt 注入防御网关,旨在保护 LLM 应用的安全。本仓库实现了一个优化的提前退出 pipeline,结合了结构性启发式算法、机器学习分类器以及一个高精度的生成式判断框架。 ## 📁 仓库目录结构 - `data/` - 存放本地数据划分(`raw/` 原始数据轨道和 `processed/` 矩阵行)。完全在版本控制索引之外管理(通过“Necent/llm-jailbreak-prompt-injection-dataset”显式为 Hugging Face 加载)。 - `notebooks/` - 探索性分析、特征选择工作流以及模型训练矩阵。 - `src/` - 生产环境代码库引擎。 - `src/api/` - FastAPI 模型服务控制器和部署 endpoint。 - `src/pipeline/` - 数据向量化、token 验证例程和推理处理器。 - `tests/` - 通过 `pytest` 管理的自动化单元测试例程。 ## ⚙️ 初始开发者工作区设置 ### 1. 重建虚拟环境 ``` # 初始化本地虚拟环境容器 python3 -m venv venv # 激活本地执行 shell source venv/bin/activate # 安装精确的软件矩阵包 pip install -r requirements.txt ```
标签:AI安全, Apex, AV绕过, C2, Chat Copilot, FastAPI, Naabu, 内容安全, 安全规则引擎, 机器学习, 逆向工具, 零日漏洞检测