precize/Agentic-AI-Top10-Vulnerability

# 人工智能代理的前十大威胁及缓解措施 ## 概述 本项目记录了与人工智能代理相关的十大安全风险，代表了针对自主人工智能系统特有的漏洞的全面分析。该文档为每个风险提供了详细的描述、示例和缓解策略，帮助组织有效地保护其人工智能代理部署。 ## 目的 随着人工智能代理因通用人工智能模型而日益普及，理解和缓解其安全风险变得至关重要。本指南旨在： - 识别和解释人工智能代理系统中最关键的安全风险 - 提供针对每个识别出的风险的实用缓解策略 - 帮助组织实施安全的人工智能代理架构 - 推广人工智能代理安全方面的最佳实践 ## 项目结构 文档组织为十大主要安全风险，每个风险涵盖一个特定的风险类别： 1. AAI001：代理授权和控制劫持 2. AAI011：代理不可追踪性 3. AAI002：代理与关键系统交互 4. AAI014：代理对齐伪造漏洞 5. AAI003：代理目标和指令操纵 6. AAI005：代理影响链和爆炸半径 7. AAI006：代理记忆和上下文操纵 8. AAI007：代理编排和多代理利用 9. AAI009：代理供应链和依赖攻击 10. AAI012：代理检查循环漏洞 ### 未来 1. AAI014：代理时间操纵基于时间的攻击 2. AAI015：代理反转和提取漏洞 3. AAI016：代理隐蔽通道利用 ### 已弃用 1. AAI004：代理幻觉利用（与LLM Top 10部分重叠，因此保留在LLM Top 10中） 2. AAI010：代理知识库投毒（将与AAI006 - 记忆和上下文操纵合并） 3. AAI008：代理资源和服务耗尽（将与AAI005 - 影响链和爆炸半径合并） ### 路线图 - **版本 1.0 **（2025年2月） - **版本 1.5 **（2025年5月） ## 贡献者 ### 编辑者 ### 作者 ## 许可证 ## 联系 如有问题、建议或关注事项，请在此存储库中打开一个问题或联系项目维护者。 ## 致谢 特别感谢所有投入时间和专业知识使本项目成为可能的贡献者，以及支持他们参与这一重要安全倡议的组织。 *本文件将由AI & Cloud Governance Council社区维护，代表改善人工智能代理系统安全的协作努力。*

标签：日志审计, 逆向工具