vickymichou/AI-SECURITY-PROJECT

# 🛡️ AI 安全监控系统 一个由 AI 驱动的安全系统，可通过结构化日志和分析来检测提示词注入攻击并监控交互情况。 ## 🚀 概述 本项目专注于 **AI 安全与防护**，特别是检测基于 LLM 系统中的提示词注入攻击。 此外，它还包含一个轻量级的 **数据管道与监控层**，所有交互都将被记录、存储并通过仪表板进行分析。 其目标是将以下内容结合： * 🤖 AI 交互（基于 LLM 的聊天机器人） * 🔐 安全（提示词注入检测） * 📊 监控与分析（仪表板 + 日志） ## 🧠 核心功能 * 🔍 使用 `llm-guard` 进行提示词注入检测 * 📊 基于 Streamlit 的实时分析仪表板 * 🧾 结构化 JSON 日志记录（基于事件） * 🗄️ 用于持久化存储的 SQLite 数据库 * 📈 风险评分与长期监控 * 📥 导出 CSV 以供数据分析 ## 🏗️ 架构  ## 📂 项目结构 ``` AI-SECURITY-PROJECT/ │ ├── guard.py # Main chatbot + pipeline logic ├── secure_chat.py # Streamlit dashboard ├── dashboard.py # (legacy dashboard) ├── requirements.txt ├── requirements_app.txt ├── security_audit.jsonl # JSON event logs ├── security_events.db # SQLite database ├── Dockerfile └── .gitignore ``` ## ⚙️ 安装说明 ### 1. 克隆仓库 ``` git clone https://github.com/your-username/AI-SECURITY-PROJECT.git cd AI-SECURITY-PROJECT ``` ### 2. 安装依赖 ``` pip install -r requirements.txt ``` ### 3. 设置环境变量 创建一个 `.env` 文件： ``` GEMINI_API_KEY=your_api_key_here ``` ## ▶️ 运行项目 ### 运行聊天机器人 ``` python guard.py ``` ### 运行仪表板 ``` streamlit run secure_chat.py ``` ## 🐳 Docker（可选） ``` docker build -t ai-security-project . docker run -p 8501:8501 ai-security-project ``` ## 📊 示例数据 每个用户请求都将作为结构化事件进行存储： ``` { "timestamp": "2026-03-31 15:10:00", "status": "ALLOWED", "risk_score": 0.02, "prompt": "hello", "response": "Hi!", "model": "gemini", "source": "cli_chatbot" } ``` ## 🔐 安全重点 本项目演示了： * 针对 LLM 系统的输入验证 * 对提示词注入尝试的检测 * 对 AI 交互的监控与审计 ## ☁️ 数据工程视角 该系统模拟了： * 数据摄取管道（用户输入） * 转换层（风险评分） * 存储层（JSON + SQLite） * 分析层（仪表板） ## 📌 未来改进 * 云存储（AWS S3 / GCP） * 实时流处理（Kafka） * 身份验证系统 * 高级异常检测

标签：AI交互安全, AI安全, Chat Copilot, CISA项目, DLL 劫持, Docker, Gemini API, IPv6支持, JSON日志, Kubernetes, llm-guard, Petitpotam, Python, SQLite, Streamlit, 人工智能, 大模型安全, 大语言模型, 安全防御评估, 安全防护系统, 提示词注入检测, 数据分析看板, 数据导出, 数据持久化, 无后门, 用户模式Hook绕过, 结构化日志, 网络安全, 访问控制, 逆向工具, 隐私保护, 风险评分