AI-PROMPT-INJECT-GUARD/PromptShield-AI
GitHub: AI-PROMPT-INJECT-GUARD/PromptShield-AI
一款结合 AI 与规则引擎的提示词注入攻击检测系统，帮助 LLM 应用识别、分类并防御恶意 prompt。
Stars: 0 | Forks: 0
# AI-PROMPT-INJECT-GUARD
## AI 驱动的 Prompt Injection 检测与防御系统
### 团队成员
- Sharwari Mishra
- Aaradhya Soam
## 项目概述
PromptShield AI 是一款 AI 驱动的 Web 应用程序，旨在检测针对大型语言模型（LLM）的 Prompt Injection 攻击。它能够分析用户的 prompt，对攻击类型进行分类，分配风险评分，解释 prompt 不安全的原因，并提供更安全的替代建议。
## 计划功能
- Prompt Injection 检测
- 攻击分类
- 风险评分
- 可解释性
- 安全 Prompt 重写
- 检测仪表板
## 技术栈
- Python
- FastAPI
- Streamlit
- Transformers
- Scikit-learn
- Git & GitHub
标签：AV绕过, DLL 劫持, FastAPI, Kubernetes, Streamlit, 人工智能, 大语言模型, 提示词注入防护, 用户模式Hook绕过, 系统调用监控, 访问控制, 逆向工具