priknowsit/PromptForge
GitHub: priknowsit/PromptForge
一个面向 LLM 的自动化红队测试平台，用于 Prompt Injection 攻击模拟、越狱分析与 guardrail 绕过评估。
Stars: 0 | Forks: 0
# PromptForge 🔐
### LLM 红队与 Prompt Injection 研究平台
这是我在 Tensai Ventures 进行安全研究时开发的
因为我意识到目前没有一种结构化的方法来测试 LLM
guardrail 绕过技术。 ← 您的原文
## 功能
- 针对 prompt injection 攻击模式测试 LLM
- 将 prompt 分类为安全 / injection / jailbreak
- 将成功的绕过映射到 OWASP LLM Top 10
- 为每个会话生成结构化的红队报告
## 开发动机
在渗透测试实习期间，我接触过 SQL injection、
XSS、IDOR —— 但没有人以同样的方式系统地测试 AI
系统。PromptForge 将同样
结构化的 VAPT 方法论应用于 LLM。 ← 您的原文
## 架构
## 技术栈
- Python / TypeScript
- Gemini API (Google AI Studio)
- OWASP LLM Top 10 框架
- 自定义攻击模式库
## 开发中最困难的部分
处理多轮 jailbreak 尝试 —— 单轮
检测很容易，但那些逐渐
升级的对话则需要不同的方法。
## 快速开始
**前置条件：** Node.js, Gemini API key
1. 克隆仓库
git clone https://github.com/priknowsit/PromptForge
2. 安装依赖
npm install
3. 添加你的 API key
创建 .env.local → 添加 GEMINI_API_KEY=your_key_here
4. 本地运行
npm run dev
[在此处写 2-3 行真实感受] ← 必须是您的原文
## 技术栈
- Python / TypeScript
- Gemini API (Google AI Studio)
- OWASP LLM Top 10 框架
- 自定义攻击模式库
## 开发中最困难的部分
处理多轮 jailbreak 尝试 —— 单轮
检测很容易，但那些逐渐
升级的对话则需要不同的方法。
## 快速开始
**前置条件：** Node.js, Gemini API key
1. 克隆仓库
git clone https://github.com/priknowsit/PromptForge
2. 安装依赖
npm install
3. 添加你的 API key
创建 .env.local → 添加 GEMINI_API_KEY=your_key_here
4. 本地运行
npm run dev
[在此处写 2-3 行真实感受] ← 必须是您的原文标签：AI安全, Chat Copilot, DLL 劫持, MITM代理, Python, TypeScript, 人工智能, 大语言模型, 安全插件, 提示注入, 无后门, 用户模式Hook绕过, 自动化攻击, 逆向工具, 集群管理