byarudev/Sentinel-AI

GitHub: byarudev/Sentinel-AI

Sentinel-AI 是一个基于 FastAPI 构建的开源 AI 安全网关,旨在对 LLM 的提示词与输出进行安全检测、策略执行和审计分析,防护 prompt injection 与数据泄露等风险。

Stars: 0 | Forks: 0

# Sentinel AI 安全 ## 功能 ### 当前 - FastAPI 后端 - Application factory 设置 - Health/root endpoint - 模块化项目结构 ### 计划中 - Prompt 防火墙(injection 和 jailbreak 检测) - 输出防火墙(PII/机密信息泄露检测) - 带有可配置规则的策略引擎 - 请求/响应日志记录与审计追踪 - Rate limiting 与滥用检测 - 分析仪表板(已拦截与已放行的请求) - 与模型/提供商无关的代理(OpenAI、Anthropic、Ollama 等) - 自定义规则编写(regex、keyword、ML-based) - 实时告警(Slack/电子邮件/webhook) - 基于角色的访问控制 - 用于下游应用的 API key 管理 - 报告生成(PDF/JSON) ## 技术栈 ### 后端 - Python - FastAPI - Pydantic - Uvicorn ### 数据库 - 待定 ### AI - 与提供商无关(OpenAI、Anthropic、Ollama 等) ### 安全 - Prompt/输出检查 - 策略引擎 - Rate limiting ## 项目结构 ``` Sentinel AI Security/ │ ├── backend/ │ ├── app/ │ │ ├── main.py │ │ └── __init__.py │ └── requirements.txt │ ├── .gitignore └── README.md ``` ## 入门指南 ### 1. 克隆仓库 ``` git clone https://github.com//sentinel-ai-security.git cd sentinel-ai-security ``` ### 2. 创建虚拟环境 Windows ``` python -m venv .venv .venv\Scripts\activate ``` Linux/macOS ``` python3 -m venv .venv source .venv/bin/activate ``` ### 3. 安装依赖 ``` cd backend pip install -r requirements.txt ``` ### 4. 运行应用 ``` uvicorn app.main:app --reload ``` API 将启动于
标签:AI安全网关, API代理, AV绕过, DLL 劫持, FastAPI, 大语言模型, 提示词注入防御, 逆向工具