yosiismalov/AI-Security-Research
GitHub: yosiismalov/AI-Security-Research
针对现代 AI 系统（LLM、AI 工作流、插件）的安全研究笔记，覆盖提示注入、SSRF、身份验证、API 安全等攻击面。
Stars: 0 | Forks: 0
# AI 安全研究
## 概述
本仓库包含针对现代 AI 系统、大型语言模型（LLM）、AI 辅助工作流以及 AI 集成环境中新兴攻击面的研究笔记、安全概念和分析。
本仓库的目标是从攻击和防御安全视角，探索现代 AI 系统如何与 API、身份验证机制、外部服务以及信任边界交互。
## 研究主题
### 提示注入
- 间接提示注入
- 上下文操纵
- 指令覆盖技术
- 多步骤提示链风险
### AI SSRF 行为
- AI 系统中的服务端请求伪造风险
- 内部获取机制
- 外部 URL 处理
- AI 辅助请求处理
### 身份验证与身份
- 身份验证上下文处理
- 会话传播风险
- OAuth 及令牌相关观察
- 身份边界考量
### API 安全
- AI 与外部 API 的交互
- GraphQL 攻击面观察
- API 信任边界
- 不当授权概念
### AI 系统攻击面
- 插件生态系统
- Agent 工作流
- 工具调用风险
- 数据暴露场景
## 感兴趣领域
- AI 安全
- 应用安全
- 威胁建模
- Web 安全
- API 安全
- 提示注入
- SSRF
- 身份安全
- 安全研究
## 工具与技术
- Burp Suite
- Python
- Bash
- GraphQL
- HTTP/HTTPS 分析
- API 测试
- 安全研究方法论
## 目的
本仓库仅用于教育、防御和研究目的。
内容侧重于现代 AI 系统的高级安全分析、攻击面探索以及安全设计考量。
标签：API安全, Bash, Burp Suite, GraphQL安全, HTTP/HTTPS分析, JSON输出, OAuth安全, Python, Web安全, 人工智能安全, 代理安全, 令牌安全, 会话安全, 合规性, 大语言模型安全, 威胁建模, 安全测试, 应用安全, 授权漏洞, 提示注入, 插件安全, 攻击性安全, 攻击面分析, 教育研究, 数据展示, 无后门, 服务端请求伪造, 机密管理, 漏洞分析, 红队, 蓝队分析, 路径探测, 身份认证安全, 逆向工具, 集群管理