saturn-16/AgentShield

# 🛡️ AgentShield AI ## Team Nexus ### 保护自主 AI 系统的未来 # 项目描述 AgentShield AI 是一个自主安全运营中心（AI-SOC），旨在保护 AI agent 和基于 LLM 的应用程序免受新兴威胁，例如 prompt 注入攻击、越狱尝试、恶意 URL、数据泄露和不安全的工具交互。 随着 AI agent 变得越来越自主，传统的网络安全解决方案缺乏对其决策过程和交互的可视性。AgentShield AI 通过提供一个专用的安全层来解决这一挑战，该层在 agent 活动影响下游系统之前对其进行持续监控、分析和验证。 该平台将实时威胁检测、多 agent 安全编排、信任评分和合规性监控整合到一个统一的仪表板中，使组织能够以更高的信心、透明度和安全性部署 AI 系统。 # 核心功能 * Prompt 注入检测 * 越狱预防 * URL 威胁分析 * 多 Agent 安全验证 * 信任评分与风险评估 * 实时威胁监控 * 安全事件记录 * 合规性报告 * 交互式安全仪表板 * OWASP LLM Top 10 映射 # 架构概述 AgentShield AI 遵循纵深防御架构，其中每次交互在到达 AI 模型之前都会经过多个安全层。 ### 安全工作流 用户请求 ↓ Prompt 注入扫描器 ↓ URL 威胁扫描器 ↓ 多 Agent 安全集群 (Sentinel → Analyzer → Validator → Reporter) ↓ 信任引擎 ↓ 威胁监控器 ↓ 受保护的 LLM 层 ↓ 响应验证 ↓ 安全响应 ### 核心组件 #### Prompt 注入扫描器 检测越狱、prompt 篡改、角色覆盖和恶意指令。 #### URL 威胁扫描器 使用安全验证技术分析 URL 和外部请求。 #### 多 Agent 安全集群 使用专门的 AI agent 协同验证威胁并提高检测准确性。 #### 信任引擎 根据安全事件和系统行为计算动态信任分数。 #### 威胁监控器 提供对威胁、事件和安全态势的实时可视性。 #### 合规模块 将检测结果与 OWASP LLM Top 10 和 NIST AI 风险管理框架标准进行映射。 # 使用的 AI 技术 ### 大语言模型 * Google Gemini API * OpenAI API ### AI 框架 * LangChain * LangGraph ### AI 能力 * 基于 NLP 的威胁检测 * Prompt 分类 * 风险评分 * 多 Agent 编排 * 威胁严重性分析 * 自动化安全报告 # 技术栈 ## 前端 * React.js * Tailwind CSS * Framer Motion * Recharts ## 后端 * FastAPI * Python ## 数据库 * PostgreSQL / SQLite ## 身份验证 * JWT * bcrypt ## 报告与分析 * Pandas * ReportLab # 安装说明 ## 1. 克隆代码库 ``` git clone cd AgentShield-AI ``` ## 2. 创建虚拟环境 ``` python -m venv venv ``` ### Windows ``` venv\Scripts\activate ``` ### Linux / Mac ``` source venv/bin/activate ``` ## 3. 安装依赖项 ``` pip install -r requirements.txt ``` ## 4. 配置环境变量 创建一个 `.env` 文件并添加： ``` OPENAI_API_KEY=your_key GEMINI_API_KEY=your_key SECRET_KEY=your_secret DATABASE_URL=your_database_url ``` ## 5. 启动后端 ``` uvicorn app.main:app --reload ``` ## 6. 启动前端 ``` npm install npm run dev ``` ## 7. 访问应用程序 打开： ``` http://localhost:3000 ``` 或 ``` http://localhost:5173 ``` 具体取决于前端配置。 # 依赖项 ### 后端依赖项 * FastAPI * Uvicorn * LangChain * LangGraph * OpenAI * Google Generative AI SDK * SQLAlchemy * bcrypt * python-dotenv * Pandas * ReportLab ### 前端依赖项 * React * Tailwind CSS * Framer Motion * Recharts * Axios # 预期成果 * 提升 AI 系统安全性 * 降低 Prompt 注入攻击风险 * 增强 AI 运营的可视性 * 自动化威胁检测 * 合规性监控 * 增强对自主 AI 系统的信任 # 团队介绍 **Team Nexus 代表了思想、创意和技术的融合。我们是一群充满热情的创新者、构建者和问题解决者，致力于将复杂的挑战转化为有意义的解决方案。在好奇心、合作和持续学习的驱动下，我们结合多元化的视角，创建可扩展的、以用户为中心的产品，从而产生现实世界的影响。我们的使命是突破创新的边界，同时构建实用、可靠且能够产生持久影响的解决方案。** ## 许可证 本项目作为黑客马拉松活动的一部分，旨在用于创新、研究和教育目的。 ### Team Nexus | AgentShield AI **通过智能防御保护自主智能**

标签：AI-SOC, AI安全, AMSI绕过, Chat Copilot, CISA项目, DLL 劫持, FTP漏洞扫描, Petitpotam, 合规监控, 大语言模型, 威胁检测, 安全编排, 测试用例, 自动化攻击, 逆向工具