AgentSafeLabs/safelabs-research

# safelabs-research Safe Labs AI 研究 —— 关于 AI agent 安全的攻击分类、安全公告和博客文章。 此仓库镜像了 [agentsafelabs.com/blog](https://agentsafelabs.com/blog/) 上发布的实时内容，为每篇文章提供独立于 CMS 的、带有版本控制和时间戳的来源记录。 **线上网站是权威的发布版本。** 这里的文件是存档副本 + 草稿，通过手动保持同步 —— 如果在线发布的文章在 WordPress 上被编辑，此处的对应文件应在同一个提交周期内进行更新，以避免产生差异。 ## 文章 | 文章 | 发布时间 | 内部副本 | 线上 | |---|---|---|---| | Why Claude Haiku Returned UNCERTAIN: Anatomy of an Indirect Prompt Injection in an Agentic System | Jun 5, 2026 | [blog/posts/2026-06-05-why-claude-haiku-returned-uncertain.md](blog/posts/2026-06-05-why-claude-haiku-returned-uncertain.md) | [线上 ↗](https://agentsafelabs.com/blog/why-claude-haiku-returned-uncertain-anatomy-of-an-indirect-prompt-injection-in-an-agentic-system/) | | The OWASP Agentic Security Initiative Top 10: A Practical Developer Guide for LangChain and CrewAI | Jun 5, 2026 | [blog/posts/2026-06-05-owasp-asi-top-10-guide.md](blog/posts/2026-06-05-owasp-asi-top-10-guide.md) | [线上 ↗](https://agentsafelabs.com/blog/the-owasp-agentic-security-initiative-top-10-a-practical-developer-guide-for-langchain-and-crewai/) | | Prompt Injection Is Not a Chatbot Problem: How the Attack Surface Changes When Your LLM Has Tools | Jun 7, 2026 | [blog/posts/2026-06-07-prompt-injection-not-a-chatbot-problem.md](blog/posts/2026-06-07-prompt-injection-not-a-chatbot-problem.md) | [线上 ↗](https://agentsafelabs.com/blog/prompt-injection-is-not-a-chatbot-problem-how-the-attack-surface-changes-when-your-llm-has-tools/) | | We Were Wrong About the UNCERTAIN Results — Here's What Actually Happened | Jul 2026（待发布） | [blog/posts/2026-07-11-correcting-uncertain-results.md](blog/posts/2026-07-11-correcting-uncertain-results.md) | 尚未上线 | ### 关于 UNCERTAIN 文章更正的说明 最初发布的"Why Claude Haiku Returned UNCERTAIN"文章的核心发现 —— 30 个 prompt 中有 10 个返回了 UNCERTAIN，这被归结为集中在 ASI06/09/10 中真正的模型非确定性 —— 实际上主要是由 `safelabs-eval` 的 detector 中的两个 bug（Unicode 标点符号不匹配、过于狭窄的拒绝词汇表）造成的，而非真正的歧义。 这两个 bug 已在 `safelabs-eval` v0.2.1 中修复。有关完整的详细说明，请参阅上面的更正文章；至于归档的 UNCERTAIN 文章本身，其中包含内联的更正通知，而不是对原始声明进行静默修改。 ## 仓库结构 ``` blog/ posts/ -- one file per post, filename = YYYY-MM-DD-slug.md README.md ``` ## 许可证 Apache 2.0 —— 如果存在，请参阅 [LICENSE](LICENSE)；否则继承 Safe Labs AI Inc. 公共仓库中使用的组织级许可证。

标签：AI安全, Chat Copilot, DLL 劫持, 大语言模型, 威胁情报, 开发者工具, 技术博客, 文件完整性监控, 网络安全研究, 防御加固