hcbomb/ai-appsec-harness

# AI AppSec 治理框架 面向实践者的资源，旨在强化 AI 客户端、LLM 应用、RAG 系统以及自主或半自主 agent。 本仓库将社区 AI 安全参考转化为可操作的 AppSec 工作流，用于： - 对具备 AI 能力的系统进行威胁建模； - 将工程证据映射到 OWASP AISVS 风格的验证； - 准备 OWASP 和 CSA AI 认证； - 为 AI 客户端和 agent 构建可重复的审查框架。 ## 目标受众 - 需要可重复的 AI 安全审查流程的 AppSec 实践者。 - 构建 AI 客户端、agent、RAG 应用、工具调用工作流或模型集成的工程团队。 - 需要基于证据的认证而非仅凭演示文稿的安全治理利益相关者。 ## 本框架的运营化对象 - OWASP 人工智能安全验证标准 (AISVS)，作为主要的验证主干。 - OWASP GenAI 安全项目和 OWASP Top 10 for LLM and GenAI applications，作为工程师已经认可的风险语言。 - CSA AI 控制矩阵和 CSA AI 安全工作，作为治理和控制映射层。 - 社区“awesome AI”仓库，作为工具、模式、示例和研究的发现源。 本仓库有意不对整个上游标准进行 fork。它保留了规范的链接、初始映射和可直接导入的数据结构，以便未来的框架能够引入权威的上游控制。 有关致谢的标准、框架、威胁建模资源和社区发现源，请参阅 [ACKNOWLEDGEMENTS.md](ACKNOWLEDGEMENTS.md)。 ## 快速开始 针对示例 AI 客户端填报表单运行初始框架： ``` PYTHONPATH=harness python -m ai_appsec_harness.cli \ --intake examples/ai-client-intake.example.json \ --catalog data/control-catalog.seed.json \ --out build/ai-client-attestation.md ``` 生成的报告不是合规证书。它是一份证据差距分析和强化计划，可用于支持后续的认证工作。 ## 仓库导航 - `docs/reference-catalog.md` - 精选来源以及每个来源应如何为 AppSec 工作提供输入。 - `docs/harness-design.md` - 针对 agent、框架和审查关卡的架构目标。 - `docs/security-advisory-response.md` - 在审查会议之前，针对项目提案的自助式安全咨询工作流。 - `docs/threat-modeling-stride.md` - 两级威胁建模方法：辅助式 STRIDE 基线和高级 Shostack 风格实践。 - `docs/weekly-monitoring.md` - 每周 AI + 安全监控工作流和分类标准。 - `docs/aisvs-operationalization.md` - 如何将 AISVS 转化为工程就绪的证据检查。 - `data/reference-catalog.yml` - 机器可读的参考目录。 - `data/control-catalog.seed.json` - 针对 AI 客户端和 agent 的框架启动控制措施。 - `examples/ai-client-intake.example.json` - 框架的样本输入。 - `examples/security-advisory-request.example.json` - 针对安全咨询工作流的早期审查请求样本。 - `harness/` - 无依赖的 Python 概念验证。 - `agents/` - 用于威胁建模、证据收集、CSA 映射和认证的 agent 角色和提示词。 - `templates/` - 审查、威胁建模和认证模板。 ## 运营原则 - 先有证据，后有断言。 - 在辩论控制措施之前先对系统进行建模。 - 对于 agent 行动、敏感数据访问和生产环境变更，必须获得人工批准。 - 清晰的源到控制的映射。 - 基于版本化输入生成可重现的报告。 - 具备 AppSec 级可追溯性的、工程可读的输出。 - 在会议之前提供有用的指导，以便审查集中在风险和决策上，而不是发现过程。 ## 威胁建模层级 - 基线：执行辅助式 STRIDE 评估，包含最小可行架构输入、业务上下文、当前/目标状态、控制差距、补救决策以及记录在案的审查结果。 - 高级：使用 Adam Shostack 的四问题框架，并跨图表、信任边界、数据流、agent 工具、检索源、身份路径和运营工作流进行更深入的 STRIDE 分析。 ## 当前状态 Alpha 阶段脚手架。下一个有意义的里程碑是一个 AISVS 导入器，它从上游 OWASP AISVS 项目中提取权威需求标识符，并将它们映射到初始控制 schema。

标签：AI安全, Chat Copilot, Homebrew安装, 威胁建模, 安全合规, 安全工程, 网络代理, 逆向工具