Yash4307/safeprompt-scanner
GitHub: Yash4307/safeprompt-scanner
一款面向教育场景的提示注入检测与防御演示工具，帮助用户在 LLM 使用前识别并理解常见注入风险。
Stars: 0 | Forks: 0
# SafePrompt Scanner - Prompt Injection 防御工具
一个用于在将文本或网页内容输入任何大型语言模型（LLM）之前，检测提示注入攻击的基于 Web 的工具。
### 功能特性
- 实时提示注入检测（强、中等、隐形/隐藏字符）
- 网页 URL 获取与智能文本清洗
- 使用 Groq 进行安全摘要（仅在风险为低时）
- 隐形文本扫描器（零宽空格、隐藏 Unicode 等）
- 快速测试提示（安全 / 中等 / 危险）
- 扫描历史记录与统计面板
- 导出扫描结果
- 赛博朋克风格 UI 与 Matrix 背景雨效果
### 技术栈
- 后端：Flask + Python
- 检测：llm-guard + 自定义正则表达式 + 隐藏字符检测
- 摘要：Groq API
- 前端：Bootstrap + Matrix 背景 Canvas
### 本地环境搭建
1. 克隆仓库：
git clone https://github.com/Yash4307/safeprompt-scanner.git
cd safeprompt-scanner
2. 创建并激活虚拟环境：
python -m venv venv
# Windows：
venv\Scripts\activate
# Mac/Linux：
# source venv/bin/activate
3. 安装依赖：
pip install -r requirements.txt
4. 获取你的 Groq API 密钥（用于安全摘要）：前往 https://console.groq.com/keys
注册 / 登录
点击“创建 API 密钥”
复制密钥
在项目根目录创建 .env 文件并添加：
GROQ_API_KEY=your_actual_key_here
5. 运行应用：
python app.py
6. 打开浏览器并访问：http://127.0.0.1:5000
注意：没有 Groq API 密钥时，“扫描 + 安全摘要”功能将不可用（但检测功能仍会正常工作）。
在线演示（部署后即将上线）
截图（在此处添加截图）
作为一个教育项目，旨在展示实用的 AI 安全性、提示注入防御以及安全的 LLM 使用方式。
标签：AI安全, API密钥配置, Bootstrap前端, Chat Copilot, Cyberpunk UI, DNS解析, Flask, Groq API, Matrix雨背景, Python后端, Rego, SEO关键词：AI安全工具, SEO关键词：提示注入检测, SEO关键词：教育安全项目, Unicode隐藏字符, URL取回, 依赖安装, 后端开发, 学习资源, 安全提示注入, 安全摘要, 安全演示, 实时检测, 开源项目, 强注入, 恶意提示, 扫描历史, 提示注入, 提示注入测试, 提示注入防御, 教育项目, 文本检测, 无害提示, 智能文本清洗, 本地开发, 机器学习检测, 源代码安全, 系统独立性, 统计面板, 网页扫描, 虚拟环境, 轻度注入, 逆向工具, 隐形字符, 集群管理, 零宽空格