imhego/llm-red-teaming-notes

# hego.red **关于 AI/LLM 红队测试的实用实操笔记，从入门到精通。** 在线网站：https://hego.red 这是一份免费的 单页 参考资料，旨在从 渗透测试者 的视角 黑客 和 红队测试 LLMs。它将数百个来源汇集到了一个清晰的地方。 ### 包含内容 - **基础** - AI 功能到底是什么，以及每个攻击所依赖的唯一缺陷。 - **攻击** - 完整集合：prompt injection、jailbreaks、indirect injection、data exfiltration、agent 和 tool 滥用。 - **方法论** - 逐步的红队计划，映射到 OWASP LLM Top 10 和 MITRE ATLAS。 - **训练营** - 从 LLMs 工作原理到防御的指导课程。 - **PortSwigger** - 已解决的真实 实验室。 - **范围、攻击流、术语** - 用于确定目标范围、决定下一步行动以及快速查找术语的工具。 ### 适用人群 任何正在学习 AI 攻击安全 但不知道从何开始的人，或者想要一份实用资料而不是散落的博客文章的人。 由 [hego](https://x.com/hegoamigo) 构建。仅供学习和授权的安全工作使用。

标签：AI安全, Chat Copilot, DLL 劫持, 大语言模型, 安全培训, 电子书籍, 红队评估, 防御加固