AjayKalbhile/LLM-Security-Research

# LLM 安全研究 **研究员：** Ajay Kalbhile | SOC 分析师 | 渗透测试工程师 **所在地：** 印度浦那 **联系方式：** ajaykalbhile31@gmail.com **LinkedIn：** linkedin.com/in/ajaykalbhile ## 关于本项目 针对大型语言模型 (LLM) 漏洞的实战安全研究。涵盖实际的 prompt 注入测试、OWASP LLM Top 10 分析以及 AI 红队测试方法论。 本研究展示了直接适用于保护企业 AI 部署的实用 AI 安全技能。 ## 研究领域 ### Prompt 注入测试 — Gandalf AI 在 Lakera 的 Gandalf AI 安全挑战中完成了 6/8 个关卡。使用以下方法成功绕过了渐进式的 AI 防御： - 虚构框架 - 字符编码绕过 - 语言翻译 (Pig Latin) - 句子补全注入 - 隐喻提取 [完整发现 → gandalf-labs/findings.md] ### OWASP LLM Top 10 覆盖范围 - ✅ LLM01 Prompt 注入 - ✅ LLM02 不安全的输出处理 - ✅ LLM05 供应链漏洞 - ✅ LLM06 敏感信息泄露 - ✅ LLM07 不安全的插件设计 ## 展示的技能 - AI/LLM 漏洞评估 - Prompt 注入攻击方法论 - OWASP LLM Top 10 框架应用 - 安全研究文档编写 - 防御建议制定 ## 工具与平台 - Gandalf AI (Lakera) — prompt 注入练习 - OWASP LLM Top 10 框架 - Garak LLM 扫描器（进行中） ## 截图 — 研究证明 ### 关卡 1 — 直接提取（无防御）  ### 关卡 2 — 虚构框架绕过  ### 关卡 3 — 字符编码绕过  ### 关卡 4 — 语言翻译绕过  ### 关卡 5 — 句子补全注入  ### 关卡 6 — 隐喻提取 ##  ## 参考资料 - OWASP LLM Top 10：owasp.org/www-project-top-10-for-large-language-model-applications - Gandalf AI：gandalf.lakera.ai - Garak：github.com/NVIDIA/garak

标签：AI安全, Chat Copilot, LLM, Unmanaged PE, 红队评估, 防御加固