samartha-2601/AI-Red-Team-Platform
GitHub: samartha-2601/AI-Red-Team-Platform
一个自动化评估 LLM 应用安全漏洞的 AI 红队平台，对标 OWASP LLM Top 10 提供风险检测与修复建议。
Stars: 0 | Forks: 0
# AI 红队平台
一个自动评估大型语言模型 (LLM) 安全漏洞的 AI 安全平台。
## 计划功能
- Prompt 注入测试
- Prompt 泄露检测
- 越狱检测
- OWASP LLM Top 10 映射
- 多模型测试
- 安全报告
## 技术栈
### 后端
- Python
- FastAPI
### 前端
- React
- TypeScript
### AI 提供商
- OpenAI
- Claude
- Ollama
## 状态
已启动 MVP 开发
标签：AI安全, AI风险缓解, AV绕过, Chat Copilot, DLL 劫持, FastAPI, LLM测试, Python, React, Syscalls, 大语言模型, 无后门, 红队评估, 逆向工具