Het-Kotadiya/ai-security-journey

# AI 安全之旅 一份公开的学习日志，记录了我深入 AI 安全领域的历程——从机器 学习基础到 LLM 安全、Agent 安全以及对抗性 ML。 本仓库包含我的**基础练习和笔记**。更大型的独立 项目（攻击和加固 LLM 应用、对 Agent 进行红队测试、对抗性 ML 攻击）位于它们各自的专用仓库中。 学习方式是主动且注重实践的：每一个概念都是我经过推理 并亲手构建出来的，而不仅仅是读过而已。每个条目都包含可运行的代码和 一份说明文档，解释了它所展示的内容以及我从中所学到的知识。 ## 路线图 - **阶段 1 — ML 与 LLM 基础** *(进行中)* — 恰好够用的机器 学习知识以及 LLM 的工作原理，因为攻击正是针对这些。 - **阶段 2 — LLM 安全** — OWASP LLM Top 10、prompt injection、jailbreak、 RAG 攻击。*(独立项目仓库)* - **阶段 3 — Agent 安全** — 使用工具的 Agent、OWASP Agentic Top 10、MCP 攻击面。*(独立项目仓库)* - **阶段 4 — 对抗性 ML** — 规避、投毒、模型提取、隐私 攻击。*(独立项目仓库)* - **阶段 5 — 集成与保障** — MLSecOps、AI 红队测试方法论、 NIST AI RMF、欧盟 AI 法案。*(结业项目仓库)* ## 条目 ### 阶段 1 — ML 基础 | 条目 | 涵盖内容 | |---|---| | [iris-pipeline](./phase1-ml-foundations/iris-pipeline/) | 核心的监督 ML 循环（加载 → 分割 → 训练 → 预测 → 评分），以及训练/测试集分割如何暴露出过拟合。 | *随着学习的深入，将添加更多条目。*

标签：AI安全, Apex, C2, Chat Copilot, DLL 劫持, 大语言模型, 学习笔记, 机器学习, 逆向工具