languagezoneenterprise545/awesome-ai-agent-incidents

# 🧠 awesome-ai-agent-incidents - 通过清晰的案例了解 Agent 风险 [](https://github.com/languagezoneenterprise545/awesome-ai-agent-incidents/releases) ## 📌 这是什么 awesome-ai-agent-incidents 是一套专为自主 AI Agent 整理的真实风格案例集合。它将安全事件、攻击路径、故障模式和防御工具汇集于一处。 您可以使用它来研究 AI Agent 是如何发生故障的，prompt injection 是如何运作的，以及在将 Agent 接入工具、文件或私有数据之前应该检查哪些内容。 ## 🖥️ 您需要什么 - 一台 Windows 电脑 - 网页浏览器，例如 Edge、Chrome 或 Firefox - 网络连接 - 足够的可用空间，用于下载和解压文件 - 如果发布文件为 zip 格式，需要准备一个 zip 解压缩工具 本软件包专为在 Windows 上轻松访问而构建。您无需具备编程知识即可打开并阅读其内容。 ## 🚀 下载和安装 1. 访问此页面进行下载：https://github.com/languagezoneenterprise545/awesome-ai-agent-incidents/releases 2. 在页面顶部附近找到最新版本。 3. 在 **Assets** 下方，找到主要的下载文件。 4. 将文件下载到您的电脑。 5. 如果文件是 `.zip` 格式，请右键单击并选择 **提取全部**。 6. 打开提取后的文件夹。 7. 根据文件类型，使用记事本、浏览器或 PDF 阅读器阅读包含的文件。 如果该版本包含桌面应用程序或查看器，请在解压后打开主 `.exe` 文件。如果它仅包含参考文件，请先打开 index 或 start 页面。 ## 📂 您会发现什么 该版本的文件组织结构便于您查阅安全事件和防御材料。您可以期待以下内容： - 展示问题出在哪里的安全事件报告 - 解释 Agent 是如何被欺骗或滥用的攻击向量 - 展示 Agent 行为在哪里出现崩溃的故障模式 - 帮助降低风险的防御工具 - 关于 prompt injection 和数据泄露的说明 - 与 Agent 技能、模型行为和工具使用相关的示例 - 针对基于 LLM 的系统的安全检查 - 与 Claude、Claude Code、Codex 和 OpenClaw 相关的材料 这些文件旨在帮助您同时了解问题和修复方法。 ## 🧭 如何使用 1. 如果包含概述文件，请先阅读它。 2. 每次打开一个事件案例。 3. 首先阅读攻击路径。 4. 接着检查故障模式。 5. 查看与其一起列出的防御工具或控制措施。 6. 比较使用同类手法的案例，例如 prompt injection 或工具滥用。 7. 记录下您在自己的环境中会阻止、记录或测试的内容。 如果您是初次接触此主题，请先专注于通俗易懂的部分。当您分组少量阅读时，这些示例最为有用。 ## 🔒 安全与信任检查 自主 Agent 一旦获得对工具的访问权限，就可以自行行动。当它们能够阅读电子邮件、浏览网页、更改文件或调用外部服务时，这可能会带来风险。 使用该语料库检查以下问题： - 来自网页、消息或文档的 prompt injection - 不必要的工具调用 - 私有上下文的数据泄露 - 目标混淆和糟糕的任务交接 - Agent 在采取行动前缺乏检查 - 过度信任模型输出 - 敏感操作缺少审批步骤 如果您负责管理 Agent 系统，这些材料可以帮助您构建更安全的审查规则和更好的防护机制。 ## 🧰 常见用例 - 了解 AI Agent 在实际中是如何发生故障的 - 在部署前审查安全模式 - 就 Agent 风险培训支持或运维团队 - 为 prompt injection 构建内部测试 - 比较 LLM 系统的防御工具 - 在添加新工具之前研究安全事件模式 - 为 Agent 审批流程创建检查清单 ## 📋 您可能看到的文件类型 该版本可能包含常见的文件类型，例如： - 用于在浏览器或文本编辑器中阅读的 `.md` 文件 - 用于更轻松地进行文档审阅的 `.pdf` 文件 - 用于结构化事件数据的 `.json` 文件 - 用于在 Excel 中排序和筛选的 `.csv` 文件 - 用于快速查看的 `.txt` 文件 - 如果版本包含 Windows 查看器或辅助工具，可能会包含 `.exe` 文件 - 需要先解压的 `.zip` 文件 如果您不确定该打开哪个文件，请从名为 `README`、`index`、`start` 或 `overview` 的文件开始。 ## 🧪 示例工作流 1. 从上面的链接下载最新版本。 2. 如果需要，解压文件。 3. 打开主索引文件。 4. 选择一个与您关注领域相关的事件。 5. 阅读攻击、故障和防御内容。 6. 进入下一个案例并比较模式。 7. 简要列出您以后想要使用的控制措施。 这使您更容易发现不同 Agent 设置中反复出现的问题。 ## 🧩 涵盖的主题 该语料库重点关注以下领域： - AI Agent - AI 安全 - LLM 安全 - Prompt injection - Claude 和 Claude Code - Codex - OpenClaw - Agent 技能 - Vibe coding - 防御工具 这些主题有助于您了解 Agent 系统在面对来自其无法控制的输入所带来的真实压力时是如何表现的。 ## 🗂️ 如果版本包含查看器 某些版本包含适用于 Windows 的简易查看器或辅助应用程序。如果您看到了： 1. 下载版本文件。 2. 如果需要，进行解压。 3. 双击主 `.exe` 文件。 4. 如果 Windows 显示安全提示，请仅在您信任该来源的情况下选择允许您继续的选项。 5. 使用该应用程序浏览事件、搜索术语或打开文件。 如果没有包含应用程序，您仍然可以将该语料库作为普通的文档集使用。 ## ❓ 常见问题 ### 这很难使用吗？ 不。大多数用户只需下载版本文件，如有需要进行解压，然后打开文件即可。 ### 我需要特殊的软件吗？ 通常不需要。对于大多数版本，一个浏览器和一个文件解压工具就足够了。 ### 我可以搜索内容吗？ 是的，前提是版本包含文本或文档文件。您可以使用浏览器搜索、Windows 搜索或 Excel（针对 CSV 文件）。 ### 如果我只想了解一个主题怎么办？ 打开与该主题相关的文件，跳过其余部分即可。该语料库专为按案例和按主题浏览而设计。 ### 这适合初学者吗？ 是的。该结构对于想要清晰了解 Agent 风险而无需阅读晦涩技术论文的新用户非常有用 ## 🪟 Windows 提示 - 将下载的文件保存在您以后能找到的文件夹中 - 将解压后的文件集中存放在一个位置 - 使用与版本号匹配的文件夹名称 - 如果您想要简单的视图，请使用记事本打开文本文件 - 使用浏览器打开 Markdown 文件 - 使用 Excel 或 LibreOffice 打开 CSV 文件 - 如果 Windows 阻止了该文件，请在打开前检查文件名和来源 ## 📎 再次下载 [访问发布页面进行下载](https://github.com/languagezoneenterprise545/awesome-ai-agent-incidents/releases) ## 🧭 建议的阅读顺序 1. 概述 2. 事件示例 3. 攻击向量 4. 故障模式 5. 防御工具 6. 基于主题的案例 7. 笔记或索引文件 按此顺序阅读可以为您提供一个清晰的路径：从发生了什么到下一步该怎么做 ## 🔍 为什么这很有用 自主 AI Agent 看起来可能很有用，但仍然会以简单的方式发生故障。它们可能会遵循不良指令、信任错误的来源，或者在没有经过适当检查的情况下采取行动。 该语料库可以帮助您： - 尽早发现薄弱环节 - 构建更好的审查步骤 - 降低 prompt injection 风险 - 改进工具访问规则 - 了解常见的 Agent 错误 - 比较不同设置间的防御措施 ## 🧷 基本的文件夹习惯 保持像这样的整洁文件夹结构： - `Downloads` 用于存放版本文件 - `awesome-ai-agent-incidents` 用于存放解压后的内容 - `Notes` 用于存放您自己的评论 - `Reviews` 用于存放案例比较 简单的结构使您以后更容易回顾这些材料 ## 🛠️ 故障排除 ### 文件无法打开 检查它是否被压缩了。如果是，请先进行解压。 ### Windows 显示警告 下载的文件可能会出现这种情况。请确认您是从上面的发布页面下载的。 ### 我找不到主文件 在解压后的文件夹中查找 `README`、`index`、`start` 或 `overview`。 ### 文本看起来难以阅读 在浏览器中打开 Markdown 文件，或使用具有更大字体的纯文本编辑器 ### 文件体积太大 每次从查看一个文件夹或一个主题开始。您不需要在一次会话中阅读所有内容

标签：AI失控模式, AI安全事件库, AI智能体安全, AI风险案例, CISA项目, CVE漏洞分析, Homebrew安装, 人工智能安全, 合规性, 大模型漏洞, 安全工具推荐, 提示注入, 搜索语句（dork）, 数据隐私安全, 网络安全攻防, 网络攻击防御工具, 自主智能体防御, 防御加固, 集群管理