shahbaaz-devsec/AI-Red-Teaming-Methodologies
GitHub: shahbaaz-devsec/AI-Red-Teaming-Methodologies
记录并发布针对商业大型语言模型安全护栏的行为推断式红队测试方法论与威胁情报报告的研究仓库。
Stars: 0 | Forks: 0
# 🎯 AI-Red-Teaming-Methodologies
此仓库记录了高级的、非基于代码的红队测试技术,这些技术利用纯粹的行为推断和心理框架,来分析、映射和绕过商业大型语言模型(LLM)的认知防护机制。
## 📂 威胁情报报告
| ID | 目标模型 | 漏洞类型 | 状态 | 报告链接 |
|---|---|---|---|---|
| `RTR-001` | Anthropic Claude | 通过学术框架提取系统架构 | 🔓 已发布 | [阅读完整报告](reports/claude/claude-architecture-extraction/claude-architecture-extraction.md) |
| `RTR-002` | Google Gemini | 通过抽象层实现 Payload 武器化 | ⏳ 草稿 | 即将推出 |
## 🧠 研究的核心方法
1. **行为推断提取:** 通过将提取 Payload 包装在无恶意、高度顺从的角色中(例如,学术/对齐研究员),绕过意图检测分类器。
2. **累积上下文诱捕:** 在执行 Payload 之前,利用模型的聚合对话记忆在多轮交互中建立“良性信任”。
3. **抽象遗忘:** 通过将恶意请求深度抽象为无害的假设性组件,迫使模型丧失对其安全参数的上下文感知。
*免责声明:本仓库中发布的所有研究均严格出于教育、AI 对齐和防御性 DevSecOps 目的进行。未入侵任何专有后端系统。所有交互均通过公共推理 API 进行,旨在为开源 AI 安全做出贡献。*
标签:AI安全, AI对齐, Chat Copilot, DLL 劫持, 域名收集, 大语言模型, 安全测试, 提示词攻击, 攻击性安全, 防御加固