elmoisan/llm-honeypot

# 🍯 LLM Honeypot      ## 这是什么？ 大多数 honeypot 会模拟传统服务（SSH、SMB、Telnet）。但这个不同。 **LLM Honeypot** 模拟现代 AI API 服务 —— 虚假的 OpenAI 兼容 endpoint、虚假的模型列表、虚假的 API key —— 以吸引并研究针对 AI 基础设施的攻击者。 每个请求都会被实时记录、分析和分类。 ## ✨ 功能 - **虚假 LLM endpoint** — `/v1/chat/completions`, `/v1/embeddings`, `/v1/models` (兼容 OpenAI) - **Prompt injection 检测** — 捕获 jailbreak、角色提权、系统 prompt 提取尝试 - **API key 枚举追踪** — 记录每一个尝试过的 key - **速率限制滥用检测** — 标记可疑的请求激增 - **IP 地理定位** — 实时映射攻击者来源 - **实时仪表盘** — 具有世界地图和攻击订阅源的黑客风格暗色 UI - **结构化日志** — JSONL 格式，易于解析和分析 - **一键部署** — 完全 Docker 化 ## 快速开始 ``` # Clone 该 repo git clone https://github.com/YOUR_USERNAME/llm-honeypot.git cd llm-honeypot # 配置环境 cp .env.example .env # 使用 Docker 启动 docker-compose up -d ``` Honeypot 将在 `http://localhost:8000` 上运行 仪表盘将在 `http://localhost:8080` 上可用 ## 项目结构 ``` llm-honeypot/ ├── honeypot/ # Core server (FastAPI) │ ├── main.py # Entry point │ ├── endpoints.py # Fake LLM endpoints │ ├── detection.py # Attack detection engine │ ├── logger.py # Structured logging │ └── responses.py # Realistic fake responses ├── dashboard/ # Visual interface (dark/hacker UI) ├── analysis/ # Analysis & report generation scripts ├── reports/ # Weekly attack analysis reports ├── detection_rules/ # Generated Sigma detection rules ├── logs/ # Attack logs (JSONL) ├── docker-compose.yml └── Dockerfile ``` ## 检测到的攻击类别 | 类别 | 描述 | |---|---| | `prompt_injection` | 试图覆盖模型指令 | | `jailbreak` | DAN、角色扮演及绕过限制的尝试 | | `system_prompt_extraction` | 试图泄露系统 prompt | | `role_escalation` | 冒充管理员/系统角色 | | `api_key_enumeration` | 暴力破解 API key 格式 | | `data_exfiltration` | 试图提取内部数据 | | `recon` | 探测 endpoint 和模型元数据 | ## 示例日志条目 ``` { "timestamp": "2026-05-20T14:32:01Z", "ip": "45.33.22.11", "country": "Netherlands", "country_code": "NL", "endpoint": "/v1/chat/completions", "api_key_tried": "sk-proj-xXxXxXxX", "threat_level": "high", "categories": ["prompt_injection", "system_prompt_extraction"], "user_agent": "python-requests/2.31.0", "payload_size": 312 } ``` ## 报告 每周分析报告发布在 [`/reports`](./reports/)。 ## 法律与道德 此 honeypot 是一个**纯被动的防御工具**。 - 它不会攻击或探测任何外部系统 - 它只记录主动发往自身的入站请求 - 仅在您拥有或获得授权运营的基础设施上进行部署 - 切勿发布包含真实 IP 地址的原始日志 ## 许可证 MIT — 查看 [LICENSE](./LICENSE) *作为网络安全研究项目构建。这是关于新兴 LLM 攻击技术正在进行的研究的一部分。*

标签：AMSI绕过, AV绕过, CISA项目, DLL 劫持, FastAPI, Python, 人工智能安全, 合规性, 大语言模型, 威胁检测, 无后门, 蜜罐, 证书利用, 请求拦截, 逆向工具