saurabhpati-cybersec/saurabhpati-cybersec
GitHub: saurabhpati-cybersec/saurabhpati-cybersec
面向 AI Agent 安全的防御工具集,覆盖威胁建模、攻击检测、运行时权限控制和投毒实验等关键环节,帮助企业应对大模型应用中的新型安全风险。
Stars: 0 | Forks: 0
# Saurabh Pati
印度的 AI 安全工程师,专注于 AI Agent 安全、MCP/RAG 安全、Prompt 注入防御以及 SOC/SOAR 检测工程。
我致力于为现代 AI Agent 风险构建实用的安全实验室、eval 测试套件、检测规则和 SOAR 工作流。
## 当前专注领域
- AI Agent 威胁建模
- Prompt 注入与间接 Prompt 注入防御
- MCP 工具投毒与 AI Agent 供应链安全
- RAG 投毒与检索安全
- Agent 权限边界与工具网关
- 针对 AI 安全事件的 SOC/SOAR 检测工程
## 正在构建的项目
- `ai-security-lab` — 优先考虑 Agent 的 AI 安全实验室,包含具有漏洞的/受保护的 Agent、攻击、防御和评估
- `mcp-guardian` — MCP 安全扫描器与策略网关
- `agent-threat-rules` — 针对 AI Agent 遥测数据的检测规则
- `ai-agent-permission-gateway` — AI 工具的运行时权限网关
- `rag-poison-lab` — RAG 投毒与记忆投毒实验室
## 背景
安全与自动化工程师,在 SOAR 平台、事件响应工作流、自动化工程和企业安全运营方面拥有丰富的实战经验。
我的目标是为 AI Agent 构建实用且可衡量的安全控制措施,而不是仅仅停留在纯理论的 AI 安全探讨上。
标签:AI代理安全, AI供应链安全, AI威胁建模, AI安全, AI工具网关, AI策略网关, AI红蓝对抗, AI运行时安全, Chat Copilot, CISA项目, Go语言工具, Indigo Labs, LLM代理, MCP Guardian, MCP安全, MCP工具投毒, RAG安全, RAG投毒, Red Canary, Saurabh Pati, SOC/SOAR, 人工智能安全, 企业安全运营, 印度安全工程师, 合规性, 大模型安全, 子域枚举, 安全合规, 安全实验室, 安全控制, 安全运营, 工具调用安全, 扫描框架, 提示词注入防御, 文档安全, 智能体安全, 网络代理, 网络安全, 自动化响应, 记忆投毒, 评估套件, 请求拦截, 逆向工具, 防御机制, 隐私保护