Aleska134/AutomatedAI-Red-Teaming-Security-Testing-Platform

# 自动化 AI 红队与安全测试平台 一个自动化、异步的 **Bot 对抗 Bot 安全测试引擎**，旨在针对大语言模型（LLM）客服代理进行压力测试，检测其面对语言漏洞、prompt 注入和社会工程学攻击时的防御能力。 ## 🚀 概述 随着生成式 AI 代理被部署到生产环境中（例如电商、医疗保健和客户支持），它们成为了对抗性操纵的主要目标。该平台通过模拟 **Attacker Bot**（编程设定为利用漏洞的攻击者）与 **Target Bot**（作为防御方的代理）之间的多轮对话，并由独立的 **Judge Bot** 进行审计，从而实现 **AI 红队** 测试流程的自动化。 ### 核心架构 - **Target Bot（防御方）：** 一个模拟的零售代理，具有严格的业务规则（例如，最高 10% 的折扣限制、严格的退货窗口和隐藏的 system prompt）。 - **Attacker Bot（黑客）：** 一个对抗性代理，利用社会工程学、权限劫持和 prompt 注入模板，迫使目标违反合规性。 - **Judge Bot（审计员）：** 一个自动化的网络安全合规检查器，以确定性的方式分析对话记录，并输出结构化的 **Pydantic/JSON** 风险报告。 ## 🛠️ 技术栈 - **后端：** Python, FastAPI, Uvicorn - **AI 基础设施：** OpenAI API（支持 Structured Outputs 的异步客户端） - **数据验证：** Pydantic v2 - **环境变量管理：** Python Dotenv ## 🔧 安装与本地设置 1. **克隆仓库：** git clone [https://github.com/YOUR_USERNAME/YOUR_REPO_NAME.git](https://github.com/YOUR_USERNAME/YOUR_REPO_NAME.git) cd AutomatedAI-Red-Teaming-Security-Testing-Platform 设置虚拟环境 python3 -m venv venv source venv/bin/activate 安装依赖 pip install -r requirements.txt 配置环境变量： 在根目录下创建一个 .env 文件： OPENAI_API_KEY=your_openai_key 🖥️ 运行应用程序 1. 终端模拟（CLI） 要在终端内直接执行快速、原始的多轮 Bot 对抗 Bot 模拟，请运行： python3 -m app.services.orchestrator 2. REST API 服务器（FastAPI） 启动带有自动生成交互式 Swagger 文档的后端 API 服务器： uvicorn app.main:app --reload 激活后，访问交互式仪表板： ⁠http://127.0.0.1:8000/docs⁠

标签：AI红队, AV绕过, FastAPI, LLM越狱, Petitpotam, 大模型安全, 逆向工具