Upmanyu-Awasthi/PromptShield
GitHub: Upmanyu-Awasthi/PromptShield
PromptShield 是一个三层提示注入防御引擎,通过启发式规则、ML 分类器与生成式 LLM 验证的级联 pipeline,为 LLM 应用提供低延迟的对抗性输入防护。
Stars: 0 | Forks: 0
# PromptGuard 系统(3 层对抗性防护栏)
一个企业级、低延迟的 prompt 注入防御网关,旨在保护 LLM 应用的安全。本仓库实现了一个优化的提前退出 pipeline,结合了结构性启发式算法、机器学习分类器以及一个高精度的生成式判断框架。
## 📁 仓库目录结构
- `data/` - 存放本地数据划分(`raw/` 原始数据轨道和 `processed/` 矩阵行)。完全在版本控制索引之外管理(通过“Necent/llm-jailbreak-prompt-injection-dataset”显式为 Hugging Face 加载)。
- `notebooks/` - 探索性分析、特征选择工作流以及模型训练矩阵。
- `src/` - 生产环境代码库引擎。
- `src/api/` - FastAPI 模型服务控制器和部署 endpoint。
- `src/pipeline/` - 数据向量化、token 验证例程和推理处理器。
- `tests/` - 通过 `pytest` 管理的自动化单元测试例程。
## ⚙️ 初始开发者工作区设置
### 1. 重建虚拟环境
```
# 初始化本地虚拟环境容器
python3 -m venv venv
# 激活本地执行 shell
source venv/bin/activate
# 安装精确的软件矩阵包
pip install -r requirements.txt
```
标签:AI安全, Apex, AV绕过, C2, Chat Copilot, FastAPI, Naabu, 内容安全, 安全规则引擎, 机器学习, 逆向工具, 零日漏洞检测