RootInj3c/LLM-Playground

# LLM-Playground LLM Hacking 101 - 我在 @BlackHat Arsenal 2026 工作坊中使用的培训平台 *Casino LLM Challenge* 是一个专为 *Black Hat Arsenal USA 2026* 创建的实践性 LLM 安全 CTF 项目。 该项目展示了对 LLM 应用、AI agent、guardrail、tool-calling 工作流以及 ReAct 风格的自主行为的实际攻击——所有这些都包装在一个赌场主题的挑战环境中。 玩家与存在漏洞的 AI 赌场助手互动，发现隐藏行为，绕过脆弱的保护机制，滥用工具访问权限，并获取 flag。 ## 项目概念 现代 LLM 应用不再仅仅是简单的聊天机器人。它们通常包括： - System prompt - Guardrail - Tool calling - Agentic 工作流 - ReAct 推理循环 - 隐藏功能 - 业务逻辑决策 - 基于技能的行为 这些特性引入了新的攻击面。 该项目的目标是帮助安全研究员、开发者、AI 工程师和学生通过实践挑战来理解这些风险。 玩家无需阅读有关 LLM 漏洞的资料，而是直接利用它们。 ## 架构 该应用使用以下技术构建： - Node.js - Express.js - MongoDB - JWT 身份验证 - DigitalOcean Inference API - 用于 ReAct 关卡的 Server-Sent Events - 从后端提供的静态前端 关卡类型：主要有两种关卡类型——标准 LLM 关卡和 ReAct Agent 关卡。 后端将关卡存储在 MongoDB 中。每个关卡包含元数据、system prompt、flag、类别、难度和类型。 用户可以注册、登录、解决挑战，并出现在排行榜上。 ## 挑战主题 该项目包含围绕以下领域的挑战： - Prompt Injection - Jailbreak - System Prompt 泄露 - Guardrail 绕过 - 输出过滤器绕过 - 数据泄露 - 工具滥用 - IDOR 式工具访问 - Agent 工具中的 SQL 注入模拟 - ReAct Agent 利用 - 隐藏技能/功能发现 - 过度自主（Excessive Agency） 每个关卡都包含一个格式为 `flag{example_value}` 的 flag ## 安装说明 1. 克隆仓库 ``` git clone https://github.com/YOUR-ORG/casino-llm-challenge.git cd casino-llm-challenge ``` 2. 安装依赖 ``` npm install ``` 4. 创建环境文件 在项目根目录下创建一个 .env 文件： ``` PORT=3000 MONGODB_URI=mongodb+srv://USER:PASS@cluster.mongodb.net/casino-llm JWT_SECRET=change_me_to_a_long_random_secret DO_INFERENCE_URL=https://api.digitalocean.com/v2/gen-ai/inference/openai/v1/chat/completions DO_INFERENCE_API_KEY=your_digitalocean_inference_key DO_INFERENCE_MODEL=your_model_name ``` 5. 将关卡安装到 MongoDB 中 ``` node install-game.js ``` 7. 启动服务器 ``` npm start ``` ## 管理工具 - 重置玩家数据 - ./utilities/reset-game.js - 用户 - ./utilities/create-users.js - 关卡 - ./utilities/create-levels.js ## 安全注意事项 该项目有意包含了存在漏洞的 AI 行为。请勿将此项目与真实的机密、真实的用户数据或生产业务逻辑一起部署。 ## 致谢 由 Maor Tal 为 **Black Hat Arsenal USA 2026** 创建，作为一个实用的 AI 安全演练场，用于学习 LLM 和 agentic 应用在现实中可能以何种方式发生故障。 ## 免责声明 本项目仅用于教育和授权的安全培训。 这些漏洞是专为受控的实验室环境而设计的。请勿对您不拥有或未获得测试权限的系统使用这些技术。

标签：CTF平台, DLL 劫持, GNU通用公共许可证, MITM代理, Node.js, OPA, 大语言模型, 安全培训, 自定义脚本, 靶场