raghavpoonia/ai-security-mastery
GitHub: raghavpoonia/ai-security-mastery
一套面向安全从业者的90天AI安全学习路径，从ML基础原理到LLM攻防技术再到生产级检测系统构建的全流程实战教程。
Stars: 5 | Forks: 0
# AI 安全精通
**从 ML 基础到生产级 AI 安全系统的 90 天学习路径**
[](https://opensource.org/licenses/MIT)
[](https://www.python.org/downloads/)
[](CONTRIBUTING.md)
## 🎯 这是什么
专为进入 AI 安全领域的安全专业人员打造的全面、实战型学习路径。由一位拥有 13 年经验的安全工程师构建，旨在填补传统安全与 AI/ML 安全之间的关键鸿沟。
**这不仅仅是另一门 ML 课程。** 这里安全优先，注重实现，且极具实战性。
## 🚀 快速开始
```
git clone https://github.com/raghavpoonia/ai-security-mastery.git
cd ai-security-mastery
./setup.sh
jupyter lab
```
从以下内容开始：`book/part-1-foundations/chapter-01-ml-fundamentals.md`
## 📚 学习路径
### 第 1 部分：ML 基础 (第 1-3 周)
- **第 1 章：** 机器学习基础 (28 个小节)
- **第 2 章：** 深度学习基础
- **第 3 章：** LLM 架构
- **第 4 章：** 现代 LLM 内部机制
**产出成果：** 从零开始的垃圾邮件分类器，带反向传播的神经网络，微型 Transformer，微调的 GPT-2
### 第 2 部分：AI 安全格局 (第 4-6 周)
- **第 5 章：** AI 威胁格局
- **第 6 章：** Prompt 注入攻击
- **第 7 章：** 越狱技术
- **第 8 章：** 训练数据投毒
- **第 9 章：** 模型提取与窃取
- **第 10 章：** 对抗性机器学习
**产出成果：** 50+ 种记录在案的攻击技术，后门模型，对抗样本生成器
### 第 3 部分：检测工程 (第 7-9 周)
- **第 11 章：** 检测框架设计
- **第 12 章：** 基于 ML 的检测系统
- **第 13 章：** 行为分析与监控
- **第 14 章：** 生产部署
**产出成果：** 检测架构，ML 分类器 (95%+ 准确率)，生产级 API 网关
### 第 4 部分：实施 (第 10-12 周)
- **第 15 章：** 构建生产级检测器
- **第 16 章：** SIEM 集成
- **第 17 章：** 监控与调优
- **第 18 章：** 真实案例研究
**产出成果：** 完整的检测套件，3 个 SIEM 集成，10K+ 次 API 调用分析
## 🎓 理念
**从第一性原理构建理解：**
- 在使用库之前，先用 (NumPy) 从零开始实现算法
- 深入理解数学和理论
- 了解高级 API 抽象掉了什么
**全程聚焦安全：**
- 每一章都与安全影响相关联
- 在教授防御的同时教授攻击向量
- 生产部署时考虑安全性
**明确承认差距：**
- 明确范围：聚焦 LLM 安全 (占就业市场的 95%)
- 不在范围内：CV 安全、RL 安全、联邦学习
- 后续可添加高级主题
## 🛠️ 技术栈
**核心：** Python 3.10+, NumPy, Jupyter Lab
**ML：** PyTorch, scikit-learn, Transformers (HuggingFace)
**NLP：** spaCy, NLTK
**API：** FastAPI, uvicorn
**监控：** MLflow, Weights & Biases
## 📈 成功指标 (90 天)
**技术方面：**
- [ ] 从零实现 ML 算法
- [ ] 掌握 Transformer 架构
- [ ] 完成 OWASP LLM Top 10
- [ ] 构建 5+ 个检测系统
- [ ] 部署生产级 API 网关
**职业方面：**
- [ ] GitHub 仓库获得 50+ Star
- [ ] 撰写 4+ 篇技术博客文章
- [ ] 简历上增加："构建了 AI 安全检测框架"
- [ ] 提交会议演讲
- [ ] 获得来自 AI 安全岗位招聘者的关注
## 👤 作者
**Raghav Dinesh**
- IBM 安全智能负责人
- 硕士，IIT Kanpur (量子密码学)
- 13 年安全运营经验
- GitHub: [@raghavpoonia](https://github.com/raghavpoonia)
## 📄 许可证
MIT 许可证 - 自由学习，开放构建
## 🤝 贡献
欢迎贡献！请参阅 [CONTRIBUTING.md](CONTRIBUTING.md)
**开始日期：** 2024 年 12 月 27 日
**目标日期：** 2025 年 3 月 27 日
**状态：** 🚀 积极开发中
标签：AI安全, Apex, Chat Copilot, DLL 劫持, DNS 解析, GPT-2, NumPy, Python, Transformer, 人工智能安全, 凭据扫描, 合规性, 大语言模型, 威胁全景, 学习路径, 提示注入, 无后门, 机器学习, 模型窃取, 深度学习, 网络安全, 网络安全教程, 逆向工具, 防御架构, 隐私保护, 集群管理