gabrielmaternalistic888/awesome-ai-security

# 🔐 awesome-ai-security - 清晰的 AI 安全参考资料 [](https://github.com/gabrielmaternalistic888/awesome-ai-security) ## 🚀 入门指南 这个项目帮助你在一个地方找到可信的 AI 安全工具、指南和标准。它专注于 AI 测试、红队演练、提示注入、对抗性机器学习，以及关键的策略和安全资源。 如果你想在一个地方探索以下内容，可以使用它： - AI 安全工具 - AI 测试指南 - LLM 红队演练资源 - 具身 AI 安全性材料 - EU AI 法案参考 - OWASP AI 指南 ## 📥 在 Windows 上下载并打开 请按照以下步骤在 Windows 上操作： 1. 打开此链接：https://github.com/gabrielmaternalistic888/awesome-ai-security 2. 在页面上点击绿色的 **Code** 按钮 3. 选择 **Download ZIP** 4. 将文件保存到你的电脑 5. 右键点击 ZIP 文件并选择 **Extract All** 6. 打开解压后的文件夹 7. 双击打开项目文件的浏览器，或使用浏览器或文本查看器打开 README.md 文件 如果你在浏览器中使用 GitHub，也可以直接打开页面并阅读列表，而无需安装任何内容。 ## 🖥️ 你需要什么 这个项目作为一个只读参考列表运行。你不需要特殊的应用程序即可使用它。 在 Windows 上，请使用： - Windows 10 或 Windows 11 - Chrome、Edge 或 Firefox 等浏览器 - 网络连接 - Windows 自带的文件解压工具 ## 📚 你会发现什么 这个仓库收集了用于测试 AI 系统弱点的有用资料。列表涵盖： - AI 安全测试工具 - 具身 AI 安全性框架 - LLM 红队演练指南 - 提示注入示例与防御 - 对抗性机器学习资源 - OWASP AI 测试指南 - OWASP 和安全检查清单 - EU AI 法案资料 - 通用 AI 安全阅读材料 - 机器学习系统的安全工具 ## 🧭 如何使用本仓库 从列表的主要部分开始，按以下顺序浏览： 1. **AI 测试指南** 使用这些资料学习如何检查 AI 系统的常见风险。 2. **提示注入资源** 如果你的系统使用聊天提示、工具或代理，请阅读这些内容。 3. **红队演练工具** 使用这些测试 AI 系统对有害输入的反应。 4. **对抗性机器学习参考** 如果你处理可能面临攻击尝试的模型，请使用这些资料。 5. **策略与标准** 如果你需要理解规则和合规要求，请查阅这些内容。 6. **通用安全工具** 使用这些比较方法并选择测试路径。 ## 🔎 本项目的用途 本仓库适用于希望： - 在发布前审查 AI 系统 - 学习 AI 安全基础 - 查找安全使用 AI 的指南 - 测试聊天机器人和代理的弱响应 - 理解当前的 AI 安全标准 - 探索 AI 风险评估中使用的工具 ## 🧰 典型使用场景 如果你从事以下工作，本列表可能会对你有帮助： - 产品负责人检查 AI 功能 - 安全审查人员评估聊天机器人 - 学习 AI 风险的学生 - 阅读 EU AI 法案的合规团队成员 - 寻找红队方法论的开发者 - 研究模型攻击的研究人员 ## 📂 涵盖的主要主题 本仓库的主题包括： - adversarial-ml - agentic-ai - ai-safety - ai-security - ai-testing - awesome - awesome-list - cybersecurity - eu-ai-act - llm-security - machine-learning - owasp - prompt-injection - red-teaming - security-tools ## ⚙️ 简单的 Windows 设置 如果你下载了 ZIP 文件： 1. 打开 **文件资源管理器** 2. 进入 **下载** 文件夹 3. 找到 ZIP 文件 4. 右键点击它 5. 选择 **解压全部** 6. 选择一个文件夹，然后点击 **解压** 7. 打开新文件夹 8. 在浏览器或编辑器中打开 README 文件 如果浏览器询问如何处理该文件，请先选择 **保存**。 ## 🧪 建议的首次步骤 如果这是你第一次使用该仓库： - 从 OWASP AI 测试指南开始 - 阅读提示注入部分 - 查看红队演练资源 - 如需策略上下文，请查看 EU AI 法案链接 - 保存与你的任务匹配的工具 ## 🧩 最佳阅读方式 像使用参考书一样使用这个列表： - 先浏览标题 - 一次打开一个主题 - 将有用链接保存在浏览器中 - 需要更多细节时返回列表 ## 🛠️ 常见问题 ### 我需要安装软件吗？ 不需要。你可以在浏览器中打开该仓库并将其用作阅读列表。 ### 我可以在 Windows 上使用它吗？ 可以。Windows 与 GitHub 页面、ZIP 下载和基于浏览器的阅读兼容性良好。 ### 这是一个培训应用程序吗？ 不是。这是一个经过筛选的 AI 安全资源列表。 ### 它有助于聊天机器人安全性吗？ 是的。它包含提示注入、红队演练和 AI 测试的相关资料。 ## 📌 快速访问 使用以下链接访问仓库并下载或查看内容： https://github.com/gabrielmaternalistic888/awesome-ai-security ## 🗂️ 建议的文件夹名称 如果你保存了 ZIP 文件，请使用类似以下名称的文件夹： - awesome-ai-security - ai-security-resources - ai-testing-references ## 🔒 预期内容 该项目组织为一个清晰的参考列表。你可以打开它，阅读所需部分，并跟随链接访问外部资源。它专为快速访问 AI 安全材料而设计，无需额外设置。

标签：Agentic AI安全, AI安全, AI安全资源, AI政策, AI测试框架, Chat Copilot, CSP, EU AI Act, LLM红队, OWASP AI, 安全指南, 安全标准, 安全检查表, 安全测试, 密钥泄露防护, 对抗性机器学习, 提示注入, 攻击性安全, 机器学习安全, 机器学习测试, 防御加固, 集群管理