mfaizanminhas20-prog/security_gateway_LLM
GitHub: mfaizanminhas20-prog/security_gateway_LLM
一个基于FastAPI的LLM安全网关中间件，用于检测和阻止提示词注入、越狱攻击等安全威胁，并支持PII敏感信息脱敏。
Stars: 0 | Forks: 0
# 安全 LLM 网关 - 实验中期项目
## 🛡️ 项目概述
本项目是一个**模块化安全网关**，旨在保护大型语言模型（LLM）免受常见漏洞攻击。它充当中间件，在用户输入到达 LLM 之前对其进行过滤。
### 核心功能：
* **提示词注入检测：** 使用基于关键词的评分机制来阻止恶意指令（例如越狱攻击）。
* **PII 脱敏：** 与 **Microsoft Presidio** 集成，用于检测和脱敏敏感信息，如学生证号码、电话号码和 API 密钥。
* **基于策略的安全防护：** 支持三种模式：`Lenient`（宽松）、`Balanced`（平衡）和 `Strict`（严格）。
* **量化指标：** 跟踪每个请求的 `risk_score`、`pii_found` 和 `latency_ms`。
## 🏗️ 系统架构
网关遵循模块化流水线架构：
1. **输入接收：** 通过 FastAPI 接收 JSON 数据包。
2. **安全扫描：** 检查注入关键词并计算风险评分。
3. **PII 分析：** 使用 Presidio 和自定义识别器来识别巴基斯坦电话号码和大学 ID。
4. **策略决策：** 根据配置的安全模式应用逻辑。
5. **输出生成：** 返回原始文本、脱敏文本或"已拦截"消息。
## 🚀 快速开始
### 前置条件：
* Python 3.8+
* Spacy NLP 模型：`en_core_web_lg`
### 安装步骤：
1. 克隆仓库：
git clone [https://github.com/mfaizanminhas20-prog/security_gateway_LLM.git](https://github.com/mfaizanminhas20-prog/security_gateway_LLM.git)
cd security_gateway_LLM
标签：AMSI绕过, AV绕过, FastAPI, Homebrew安装, Jailbreak, Microsoft Presidio, NLP, PII保护, Python, Spacy, 个人信息脱敏, 中间件, 人工智能安全, 合规性, 大语言模型安全, 威胁检测, 安全网关, 提示词注入检测, 数据隐私保护, 文本安全分析, 无后门, 机密管理, 输入过滤, 逆向工具