SheikhAshbal/AI-Security-Red-Teaming-Bootcamp

# AI 安全与红队训练营 - Blackbyt3 **讲师：** Muhammad Faseeh ul Hassan **项目：** Blackbyt3 AI 安全训练营 2026 ## 📁 作业 ### 作业 1 - 探索 Prompt Engineering 技术 比较了使用 ChatGPT 应用于 AI 安全论文写作的 6 种提示技术（Zero-Shot、角色设定、思维链、Few-Shot、指令式、上下文式）。发现 **指令式提示** 产生的输出最为完整且结构化。 ### 作业 2 - Gandalf Prompt Injection 挑战 完成了 gandalf.lakera.ai/baseline 上的全部 8 个关卡，以及额外的 CyberWarfare Labs LLM Vault Breach 挑战。所使用的技术涵盖了从直接请求到 ASCII 值提取，以及针对最难关卡的 JSON 片段攻击。 ### 作业 3 - OWASP Top 10 LLM 实验室 完成了 llm-sec.dev 上的 9 个 OWASP Top 10 LLM 漏洞实验室（LLM01–LLM08、LLM10），以及 HackAPrompt 教程挑战，涵盖 prompt injection、敏感数据泄露、供应链攻击、训练数据投毒、不当输出处理、过度代理、系统提示泄露、向量/嵌入弱点以及无限制消耗。 ## 🔧 展示的核心技能 - Prompt Injection（直接与间接） - 越狱与系统提示绕过 - 基于 ASCII 的字符提取 - 针对 AI 智能体的社会工程学 - RAG/向量嵌入攻击 - 过度代理（Excessive Agency）漏洞利用 - 训练数据投毒检测 - 拒绝钱包（Denial of Wallet）攻击 - OWASP LLM Top 10 实践应用 ## 🎓 关于训练营 Blackbyt3 AI 安全训练营是一个为期 1 个月的强化项目，涵盖 AI 与网络安全的交叉领域，包括 LLM 系统的真实红队测试、prompt injection 研究以及针对 AI 的特定漏洞分析。

标签：AI安全, C2, Chat Copilot, CISA项目, DLL 劫持, Homebrew安装, 大语言模型, 安全培训, 提示注入, 漏洞分析, 红队评估, 路径探测, 配置错误, 集群管理