tofuadmiral/agentcon-presentation-2026-nyc

# 使用自动化红队测试构建 AI Agent 的自我改进安全循环 **AgentCon NYC 2026** | Fuad Ali，[Arize AI](https://arize.com) 产品经理 ## 现场演示 **[查看幻灯片](https://fuad-ali-agentcon-2026.vercel.app/)** 使用方向键、空格键、滚动或滑动进行导航。 ## 预览 | | | | |---|---|---| |  |  |  | |  |  |  | |  |  |  | |  |  |  | |  |  |  | |  |  | | ## 关于本次演讲 AI Agent 引入了传统安全测试无法覆盖的攻击面：prompt 注入、工具滥用、指令劫持等。本次演讲将介绍如何构建一个自我改进的安全循环，使用： - **Microsoft Foundry 的 AI Red Teaming Agent** 用于自动化对抗测试 - **Arize** 用于可观测性、trace 捕获和自动化 prompt 优化 我们将演示该循环如何在五次自动化迭代中，将基础 AI 助手的安全评分从 20% 提升至 100%。 基于[此博客文章](https://arize.com/blog/how-to-improve-ai-agent-security-with-microsofts-ai-red-teaming-agent-in-microsoft-foundry/)。 ## 文件 - **现场演示**: [fuad-ali-agentcon-2026.vercel.app](https://fuad-ali-agentcon-2026.vercel.app/) - `agentcon-red-teaming.pptx` - PowerPoint 备份（17 张幻灯片，含演讲者备注） - `generate_pptx.py` - 用于重新生成 PPTX 的 Python 脚本 ## 致谢 本演示文稿使用 [frontend-slides](https://github.com/zarazhangrui/frontend-slides) 构建 —— 一个用于创建完全在浏览器中运行的富动画 HTML 演示文稿的工具。强烈推荐用于会议演讲。

标签：AgentCon, AI 可观测性, Arize AI, DLL 劫持, Git 安全, LLM 安全, Microsoft Foundry, RESTful API, 人工智能安全, 合规性, 后端开发, 多模态安全, 大语言模型, 对抗性机器学习, 工具滥用, 指令劫持, 提示词优化, 数据可视化, 演讲幻灯片, 私有化部署, 网络安全, 自动红队测试, 自我改进安全循环, 追踪数据, 逆向工具, 防御规避, 隐私保护