jhaaaryan/llm-security-prompt-injection

# llm-security-prompt-injection 专注于 prompt 注入攻击、AI 越狱方法以及大型语言模型 (LLM) 系统缓解策略的研究库。 ## 项目概述 本仓库记录了关于 prompt 注入和 LLM 相关应用的 AI 安全风险的实际研究。 本项目探讨了： * Prompt 注入技术 * Reflection model 绕过概念 * 编码 prompt 攻击 * AI 越狱方法论 * OWASP LLM 风险映射 * 防御性缓解策略 所有材料均基于个人学习、公开的教育实验室以及独立的安全研究重新创建。 ## 展示技能 * AI 安全研究 * Prompt 注入分析 * 威胁建模 * OWASP AI 风险分析 * 安全文档编写 * LLM 攻击方法论 * 防御性安全建议 ## 研究领域 ### Prompt 注入 调查精心构造的 prompt 如何操纵模型行为并绕过限制。 ### Reflection model 绕过 研究多阶段 AI 过滤系统以及攻击者用于规避二级验证模型的方法。 ### 编码 prompt 技术 研究涉及以下方面的技术： * Base64 编码 * 二进制编码 * 间接 prompt * 多阶段对话操纵 ### AI 安全风险 分析与之相关的风险： * 敏感信息泄露 * 过度的 AI 权限 * 不安全的插件集成 * Prompt 操纵 * 未经授权的操作 ## 防御建议 推荐的缓解方法包括： * 输入清理 * 输出过滤 * 基于策略的验证 * 最小权限 AI 集成 * 人工审批工作流 * 监控和日志记录 ## 合理使用声明 本仓库仅用于防御性安全教育和 AI 安全意识提升。 不包含任何恶意 payload、武器化 prompt 或有害的自动化工具。 ## 仓库结构 ``` research/ -> AI security concepts and attack methodology test-cases/ -> Educational prompt injection examples mitigations/ -> Defensive recommendations owasp-mapping/ -> OWASP AI risk analysis ``` ## 技术与概念 * 大型语言模型 (LLM) * Prompt 注入 * OWASP LLM Top 10 * AI 威胁建模 * AI 安全控制 * AI 策略执行

标签：C2, 防御加固