Nak24567/security-sentinel

GitHub: Nak24567/security-sentinel

面向 AI 编程代理的安全工程与质量保证框架,通过强制审计审批与对抗测试工作流保障代码与 LM 系统的安全性。

Stars: 2 | Forks: 0

# 🛡️ Security Sentinel **Security Sentinel** 是一个专为 AI 编程代理设计的安全工程与质量保证综合框架。它通过强制执行 **“Fail-Closed”** 安全态势和系统化的验证协议,将代理从简单的代码编写者转变为高度严谨的安全架构师。 ## 🚀 最新更新(2026 年 6 月) - Agentic 与媒体安全 Security Sentinel 已进行更新,以应对自主工作流、多智能体框架和多媒体输入中的风险: - **Agentic 循环保护 (OWASP ASI):** 增加了针对目标劫持 (ASI01)、最小代理工具作用域 (ASI02) 和多智能体级联故障的护栏。 - **记忆投毒防御 (ASI06):** 针对长期语义 Vector DB 记忆的输入把关检查。 - **ASR 与音频输入防护:** 转码过滤器可破坏声谱图提示注入噪声、XML 转录包含标签以及程序化提示净化器。 - **FFmpeg 与 CLI Shell 注入预防:** 强制要求外部媒体命令使用列表参数格式 (`shell=False`) 和路径净化约束。 ## 🚀 以往更新(2026 年 5 月) - 红队工具包增强 Security Sentinel 已通过 **Red Teaming Toolkit** 的工业级方法论进行了升级,以实现自动化对抗测试: - **原子对抗回归:** 集成了“Atomic Red Team”测试,以针对真实的 MITRE ATT&CK 模式验证修复效果。 - **LLM 韧性基准测试:** 使用 `promptfoo` 和 `garak` 进行自动化的越狱和提示注入测试。 - **取证审计清单:** 为所有对抗性测试强制生成 JSON 轨迹,以确保发现的问题可立即复现。 - **CI/CD Pipeline 审计:** 增加了“Gato 策略”,用于搜寻恶意的 GitHub Actions 和不安全的 token 权限。 - **MFA 绕过模拟:** 使用 `Evilginx2` 模式进行针对 AiTM 攻击和会话劫持的韧性测试。 - **云安全漂移:** 通过 `S3Scanner` 自动发现暴露的 S3 存储桶和 IAM 角色。 ## ⚡ 工作原理 Security Sentinel 为所有安全敏感操作强制要求严格且按顺序执行的工作流。它通过强制代理在修改任何生产代码之前,必须经过正式的审计和审批流程,从而防止“牛仔式编码”。 1. **审计:** 识别所有漏洞和架构弱点。 2. **报告:** 为每个模块提供详细的发现报告。 3. **批准:** 每项修复都必须获得用户的明确批准。 4. **验证:** 使用“Soup to Nuts” E2E 测试验证每项修复——不使用 mock,不使用假数据。 ## 🛠️ 安装 ### Claude Code ``` /plugin install security-sentinel@official ``` *或通过自定义市场:* ``` /plugin marketplace add Nak24567/security-sentinel-marketplace ``` ### Cursor 将以下内容添加到您的 `.cursorrules` 或 Agent Chat 中: ``` /add-plugin https://github.com/Nak24567/security-sentinel ``` ### Codex 运行以下命令以自动安装: **Windows (PowerShell):** ``` irm https://raw.githubusercontent.com/Nak24567/security-sentinel/main/codex-install.ps1 | iex ``` **macOS/Linux (Bash):** ``` curl -sL https://raw.githubusercontent.com/Nak24567/security-sentinel/main/codex-install.sh | bash ``` *或者手动将 `SKILL.md` 文件复制到您的 `.codex/skills/security-sentinel/` 文件夹中。* ### Antigravity & OpenClaw 告诉您的代理获取并遵循以下链接中的说明: `https://raw.githubusercontent.com/Nak24567/security-sentinel/main/INSTALL.md` ### Gemini CLI ``` gemini extensions install https://github.com/Nak24567/security-sentinel ``` ## 🔄 基础工作流 Security Sentinel 不是建议——它是强制性的行为契约。 1. **排队:** 识别适用的安全模块(基础、LLM、QA、战略)。 2. **审计:** 对识别出的模块进行系统性检查。 3. **报告:** 交付发现结果(严重程度、根本原因、修复计划)。 4. **批准:** 等待用户确认。 5. **修复:** 精准应用已批准的修复。 6. **验证:** 使用真实世界的数据 pipeline 证明修复有效。 ## 🛡️ 包含内容(技能库) | 技能 | 重点 | 协议 | | :--- | :--- | :--- | | **基础** | OWASP Top 10、认证、数据库安全 | `core-security.md` | | **AI/LLM 安全** | 提示注入、RAG 投毒 | `llm-security.md` | | **Agentic 系统** | 目标劫持、工具作用域、Vector 记忆 | `agent-security.md` | | **媒体与音频** | 音频提示注入、FFmpeg Shell 安全 | `media-pipeline-security.md` | | **QA 标准** | TDD/BDD、性能基准测试 | `qa-standards.md` | | **战略审计** | 预先剖析(Pre-mortems)、Bug 搜寻、创新 | `strategic-audits.md` | | **性能** | N+1 修复、I/O 优化 | `performance.md` | ## 💡 理念 - **零信任:** 在被证明无害之前,所有输入皆视为恶意。 - **Fail-Closed:** 如果安全检查结果不明确,系统必须安全地失败。 - **证据重于声明:** 我们不相信代码能运行;我们相信我们刚刚修复的那个失败的测试。 - **取证可见性:** 每一个安全事件都必须生成可重放的轨迹。 ## ⚖️ 许可证 MIT 许可证。由 [Anakhuagbor Sule](https://theawesomebrief.com) 创建。
标签:AI安全, Chat Copilot, DLL 劫持, Libemu, SQL查询, 大语言模型, 对抗测试, 软件质量保证