shikhzzz/AI-RedTeam-Scanner

# AI 红队扫描器 🔍 一个针对大语言模型（LLM）驱动应用的自动化提示注入漏洞扫描器。 旨在演示如何对AI系统进行系统性的安全弱点测试 —— 其方法与渗透测试人员评估Web应用的方式如出一辙。 ## 什么是提示注入？ 提示注入是LLM应用中的头号漏洞（OWASP LLM应用十大风险之首）。 当攻击者精心构造输入，使AI模型忽视其原有指令、行为异常时，就会发生此漏洞——导致秘密泄露、角色偏离或限制被绕过。 本工具将此攻击过程自动化。 ## 扫描器功能 - 向目标LLM发射对抗性载荷库 - 检测响应中成功注入提示的迹象 - 按严重程度评级标记漏洞 - 保存结构化JSON格式的完整发现报告 - 通过Docker容器化封装——一条命令即可随处运行 ## 测试关键发现 针对部署在Groq平台上的Meta LLaMA 3.3 70B模型进行测试： | 攻击类型 | 载荷 | 结果 | |---|---|---| | 角色

标签：AI安全测试, AI模型测试, Docker容器化, Homebrew安装, LLM漏洞扫描, OWASP Top 10 for LLMs, 人工智能安全, 反取证, 合规性, 安全漏洞检测, 安全评估, 对抗性攻击, 提示注入, 红队评估, 结构化报告, 网络安全, 自动化漏洞扫描, 请求拦截, 逆向工具, 隐私保护, 集群管理