hangbran125/ai-security-writeups

# AI 安全笔记与文章 这是我在参与结构化的 AI 安全项目时所撰写的分析—— 作为代码仓库的“用自己的话解释”的配套资料。其核心内容 是对**现代 AI 攻击面**的从零开始的详细剖析。 ## 目录 ### 现代 AI 攻击面 — [`Modern AI Attack Surface.docx`](Modern%20AI%20Attack%20Surface.docx) 从三个经典的攻击面类别出发，并将其扩展到 AI 系统： - **传统攻击面** — *数字层面*（面向互联网的硬件/软件、云、API、 IoT）、*物理层面*（笔记本电脑、USB、本地服务器、手机）以及*社会层面* （网络钓鱼、诱饵攻击、假托）。 - **AI 特有的攻击面**，将模型/agent 视为自身相互连接的 环境，其中单个暴露的节点都会改变最终结果： - **用户界面 / 输入** — prompt 注入和越狱，旨在绕过 安全防护。 - **AI 模型** — 模型提取和模型反转，导致内部信息或 训练数据泄露。 - **训练 / 检索数据** — 数据投毒和 RAG 攻击，旨在操纵 模型所引用的文档。 - **供应链集成** — 插件/agent 漏洞利用以及存在漏洞的 第三方 AI 依赖项，从而引发横向移动。 核心思路：防御者现在必须将过去在经典攻击面上积累的所有经验， 重新应用到一个*由 LLM 或 agent 充当环境*的环境中。 ### ML 基础知识速查表 — [`ML_Literacy_Cheat_Sheet_Week_1.ipynb`](ML_Literacy_Cheat_Sheet_Week_1.ipynb) 这是第一周 ML 基础知识参考资料的草稿。维护版本位于 其独立的仓库中 → [ML 基础知识速查表](https://github.com/hangbran125/Week-1-Cheat-Sheet)。 ## 展示的技能 安全分析与威胁建模 · 将经典安全概念映射到 AI 系统 · 基于 OWASP-LLM 的安全思维 · 清晰的技术写作。 _{结构化 AI 安全学习项目（基础知识 → LLM 安全 → 红蓝对抗）的配套文章。这是记录这一学习历程的作品集的一部分。}

标签：AI安全, Chat Copilot, DLL 劫持, NoSQL, 大语言模型, 威胁建模, 攻击面分析, 防御加固