AiSec

面向模型编排器、智能体及 RAG 系统的 AI 风险与合规评估引擎

## 什么是 AiSec？ AiSec 是一个用于评估 AI 系统在安全、隐私、治理和合规风险方面的开源引擎。 它有两种互补的使用方式： 1. **针对编排器的模型风险评估器**：像 OrchestAI 这样的平台可以将 AiSec 调用为可选的外部评估器，用于评估模型、提供商、智能体、RAG 管道和工作流。 2. **深度智能体扫描器**：DevSecOps 团队可以使用 AiSec 对容器化的 AI 智能体进行扫描，以检查提示注入暴露、工具误用、RAG 弱点、运行时行为、供应链、数据流、隐私控制和合规性。 主要设计目标是集成而不产生锁定效应。AiSec 接受明确的 JSON 描述符或 Docker 镜像，返回标准化的发现和证据，并允许消费平台自行决定如何存储、批准、阻止或显示结果。 代码仓库： ``` https://github.com/fboiero/AiSec git@github.com:fboiero/AiSec.git ``` ## 存在的意义 AI 编排平台越来越多地将请求路由到模型、提供商、工具、RAG 存储、工作流、记忆和智能体。传统扫描器能在代码或容器中找到 CVE，但它们无法回答产品和合规性问题，例如： - 该模型能否在配置的安全防护下处理 PII？ - 此 RAG 管道是否隔离了租户并过滤了检索到的内容？ - 此智能体能否未经批准调用工具？ - MCP 或函数调用是否可审计？ - 受影响的控制措施包括哪些 OWASP LLM、OWASP Agentic、NIST AI RMF、ISO 42001、GDPR 和 Habeas Data 规范？ - 合规模块能否为审批流程存储机器可读的证据？ AiSec 提供了这个缺失的评估层。 ## 主要用例：OrchestAI 风格的集成 OrchestAI 及类似平台可以从其合规模块调用 AiSec： ``` Orchestrator compliance module -> creates ModelRiskEvaluationRequest JSON -> runs aisec evaluate model --input request.json --output result.json -> stores ModelRiskEvaluationResult as audit/compliance evidence ``` 示例： ``` aisec evaluate model \ --input docs/examples/orchestai-model-risk-request.json \ --output aisec-results/model-risk-result.json \ --fail-on critical ``` 输出包含： - `overall_risk` - `risk_score` - `findings` - `frameworks` - `evidence` - `recommendations` - `policy_verdict` 集成协议记录在 [`docs/orchestai-integration-protocol.md`](docs/orchestai-integration-protocol.md)。 ## 深度扫描用例 AiSec 也保留了其原始的深度安全扫描路径，用于容器化智能体： ``` aisec scan run myagent:latest --format json,html,sarif aisec scan run myagent:latest --agents rag_security,mcp_security,tool_chain aisec scan run myagent:latest --policy strict --gate ``` 此模式使用 Docker 沙箱、专用智能体、报告构建器、策略门控和可选的运行时监控。 ## 当前能力 - **模型风险协议**，面向使用 `aisec.model_risk.v1` 的编排器。 - **36 个专业安全智能体**，涵盖 AI、智能体、代码、基础设施、隐私和运行时领域。 - **Docker 沙箱**，用于目标智能体和工作负载。 - **RAG、MCP、工具链、智能体记忆、微调和 CI/CD 安全智能体**。 - **智能体间分析**，涵盖审阅者独立性、不安全的交接、共享凭据、共享记忆、压制异议和自主高影响力操作。 - **合规性映射**，横跨 OWASP LLM、OWASP Agentic、NIST AI RMF、NIST AI 600-1、ISO/IEC 42001、EU AI Act、GDPR、CCPA、Habeas Data 和阿根廷 AI 治理。 - **策略即代码**，用于咨询性或阻断性门控。 - **报告格式**：JSON、HTML、PDF、SARIF、CSV、Markdown。 - **REST API 和仪表板**，通过 `aisec serve` 提供。 - **OpenAPI 文档**、审计跟踪、扫描持久化、Webhooks、调度器、Prometheus 指标、结构化日志、健康探针。 - **云部署资产**：Docker Compose、Kubernetes 清单、Helm chart。 - **插件钩子**，用于自定义智能体和合规扩展。 ## 架构 ``` Model Orchestrator / Compliance Module OrchestAI, internal AI platform | | JSON contract v aisec evaluate model | +-----------------+-----------------+ | | Descriptor risk rules Framework mapping model/provider/RAG/tools evidence + verdict | | +-----------------+-----------------+ | v ModelRiskEvaluationResult JSON ``` 深度扫描架构： ``` aisec scan run -> Docker sandbox -> DAG orchestrator -> 36 security agents -> correlated findings -> reports + policy verdicts ``` ## 安装 ``` pip install aisec pip install "aisec[all]" ``` 从源码安装： ``` git clone https://github.com/fboiero/AiSec.git cd AiSec pip install -e ".[dev]" ``` ## 快速开始 评估一个 OrchestAI 风格的模型/RAG 描述符： ``` aisec evaluate model \ --input docs/examples/orchestai-model-risk-request.json \ --output aisec-results/model-risk-result.json \ --fail-on critical ``` 对智能体镜像运行深度扫描： ``` aisec scan run ghcr.io/openclaw/openclaw:latest --format json,html,sarif ``` 启动 API 和仪表板： ``` aisec serve --port 8000 ``` ## 集成契约 AiSec 默认设计为进程外使用： - CLI 或容器，用于本地/CI 采用。 - REST API，用于服务间集成。 - JSON 请求/结果模式作为兼容性边界。 这使得 AiSec 可在多个产品中复用，并避免将像 OrchestAI 这样的平台与 AiSec 内部耦合。 消费平台中推荐的适配器边界： ``` backend/app/services/compliance/evaluators/aisec.py ``` 适配器应该： 1. 构建一个 `ModelRiskEvaluationRequest`。 2. 通过 CLI、容器或 API 执行 AiSec。 3. 解析 `ModelRiskEvaluationResult`。 4. 将完整结果存储为不可变的合规证据。 5. 在模型/提供商/工作流审批界面中显示摘要字段。 ## 目标用户 - 构建内部模型编排的 AI 平台团队。 - 需要可选合规评估器的类似 OrchestAI 的产品。 - 在 CI/CD 中把关 AI 智能体的 DevSecOps 团队。 - 审计 RAG、MCP、工具、记忆和自主工作流的安全团队。 - 为 ISO 42001、NIST AI RMF、GDPR、Habeas Data 及相关项目收集 AI 风险证据的合规团队。 ## 文档 - [智能体交接](docs/AGENT_HANDOFF.md) - [快速开始](docs/quickstart.md) - [文档索引](docs/INDEX.md) - [架构](docs/architecture.md) - [框架](docs/frameworks.md) - [OrchestAI 集成协议](docs/orchestai-integration-protocol.md) - [2026 产品战略](docs/product-strategy-2026.md) - [2026 项目计划](PROJECT_PLAN_2026.md) - [插件开发](docs/plugin-development.md) ## 许可证 Apache License 2.0.

标签：AES-256, AI安全, AI风险评估, CCPA合规, Chat Copilot, Docker扫描, GDPR合规, Homebrew安装, NIST AI RMF, OWASP LLM Top 10, Python框架, RAG安全, Red Canary, 二进制发布, 代理扫描, 合规引擎, 工作流安全, 开源工具, 提示注入分析, 数据隐私, 文档结构分析, 模型评估, 治理风险, 漏洞评估, 网络安全, 请求拦截, 运行时行为分析, 逆向工具, 隐私保护, 隐私合规, 隐私控制