byarudev/Sentinel-AI
GitHub: byarudev/Sentinel-AI
Sentinel-AI 是一个基于 FastAPI 构建的开源 AI 安全网关,旨在对 LLM 的提示词与输出进行安全检测、策略执行和审计分析,防护 prompt injection 与数据泄露等风险。
Stars: 0 | Forks: 0
# Sentinel AI 安全
## 功能
### 当前
- FastAPI 后端
- Application factory 设置
- Health/root endpoint
- 模块化项目结构
### 计划中
- Prompt 防火墙(injection 和 jailbreak 检测)
- 输出防火墙(PII/机密信息泄露检测)
- 带有可配置规则的策略引擎
- 请求/响应日志记录与审计追踪
- Rate limiting 与滥用检测
- 分析仪表板(已拦截与已放行的请求)
- 与模型/提供商无关的代理(OpenAI、Anthropic、Ollama 等)
- 自定义规则编写(regex、keyword、ML-based)
- 实时告警(Slack/电子邮件/webhook)
- 基于角色的访问控制
- 用于下游应用的 API key 管理
- 报告生成(PDF/JSON)
## 技术栈
### 后端
- Python
- FastAPI
- Pydantic
- Uvicorn
### 数据库
- 待定
### AI
- 与提供商无关(OpenAI、Anthropic、Ollama 等)
### 安全
- Prompt/输出检查
- 策略引擎
- Rate limiting
## 项目结构
```
Sentinel AI Security/
│
├── backend/
│ ├── app/
│ │ ├── main.py
│ │ └── __init__.py
│ └── requirements.txt
│
├── .gitignore
└── README.md
```
## 入门指南
### 1. 克隆仓库
```
git clone https://github.com//sentinel-ai-security.git
cd sentinel-ai-security
```
### 2. 创建虚拟环境
Windows
```
python -m venv .venv
.venv\Scripts\activate
```
Linux/macOS
```
python3 -m venv .venv
source .venv/bin/activate
```
### 3. 安装依赖
```
cd backend
pip install -r requirements.txt
```
### 4. 运行应用
```
uvicorn app.main:app --reload
```
API 将启动于
标签:AI安全网关, API代理, AV绕过, DLL 劫持, FastAPI, 大语言模型, 提示词注入防御, 逆向工具