Bobcatsfan33/AI-Security-Platform

# AI 安全平台 面向企业 AI 安全的控制平面——评估、runtime 保护、治理和威胁情报。混合 SaaS + 本地部署产品：此仓库包含多租户控制平面（Python / FastAPI）、客户部署的 runtime agent（Go）、可插拔的 ONNX 分类器、Next.js 管理 UI 以及支持 OpenAI / Anthropic 的 SDK。 ## 功能（当前发布） | 层面 | 功能说明 | | --- | --- | | **评估** | 50 个 OWASP LLM Top 10 测试用例库 + 每个组织专属的用例；六个模型连接器（OpenAI, Anthropic, Ollama, Azure OpenAI, Bedrock, OpenAI-compat）；LLM-judge + 模式判定 | | **发现结果** | 贯穿 open → in_progress → remediated → verified pipeline 的哈希链审计追踪 | | **红队** | 带有策略库和 judge 的生成式攻击活动；将成功的攻击自动提升至回归测试套件 | | **AI-BOM** | 资产物料清单 (BOM)、供应链风险评分、模型漂移检测 | | **Runtime agent** (Go) | 内联反向代理实时运行所有三个策略阶段：阶段 1 regex/PII，阶段 2 ML（零配置启发式内联；通过 `STAGE2_ONNX_ENDPOINT` 进行 ONNX 推理 sidecar），阶段 3 LLM judge（默认确定性判定；通过 `STAGE3_JUDGE_ENDPOINT` 配置 judge，按策略执行 fail-open/closed）。置信度区间路由、熔断开关、向 ClickHouse 发送遥测数据 | | **SDKs** | Python + Node OpenAI/Anthropic 包装器，通过本地 agent 进行路由 | | **报告** | 渲染六个模板（执行摘要、技术细节、OWASP LLM Top 10、NIST AI RMF、SOC 2 AI、EU AI Act）的 Markdown + PDF | | **CI/CD gate** | 复合式 GitHub Action，可触发评估，在突破阈值时阻止构建，并在 PR 上添加评论 | | **SIEM forwarders** | Splunk HEC, Elastic bulk, Sentinel HTTP Data Collector, Datadog Logs, Chronicle UDM, generic webhook | | **仪表盘** | `/v1/dashboards/{runtime,traffic,policy-effectiveness}` 聚合 + Next.js 执行视图 | | **异常检测** | 单一资产攻击图 + 统计检测器（流量激增 / 异常转换 / 风险膨胀） | | **威胁情报** | 可选的跨租户聚类；STIX 2.1 导出 | | **SOAR** | PagerDuty / Opsgenie / generic-webhook 事件接收器 | | **合规性** | 用于支持 SOC 2 / ISO 27001 / FedRAMP Moderate 审计的证据包 ZIP 脚手架——提供支持性证据，非认证 | ## 架构（约束性决策） | 关注点 | 决策 | | --- | --- | | 运营数据 | PostgreSQL 16 + pgvector | | 遥测 | ClickHouse (append-only) | | 缓存 + pub/sub | Redis 7 | | 事件流 | Redpanda (Kafka-compatible) | | 控制平面 API | FastAPI (Python 3.12+) | | 身份联合 | IDP-agnostic 适配器；通过 `authlib` + `joserfc` 实现 OIDC，通过 `python3-saml` 实现 SAML，SCIM 2.0 | | Runtime agent | Go 1.26 反向代理 (使用 `httputil`) | | ML 分类器 | ONNX 模型；按部署选择 Go 端 runtime | | 策略执行 | 按策略 + 按组织执行级别的三阶段 pipeline (regex / ML / LLM judge) | | 前端 | Next.js 16.2 App Router + Tailwind 4 + TypeScript | ## 本地运行 ``` # 生成 JWT secret export JWT_SECRET=$(python -c "import secrets; print(secrets.token_urlsafe(64))") # 启动 stack docker compose up -d postgres redis clickhouse redpanda docker compose up app ``` API：。前端（位于 `frontend/` 目录）：`npm run dev`。 ### 应用迁移 ``` cd backend python -m venv .venv && source .venv/bin/activate pip install -e ".[dev]" cp .env.example .env # then edit JWT_SECRET alembic upgrade head ``` ### 运行测试 ``` cd backend pytest # full unit suite pytest -m integration # postgres + redis must be up pytest --cov=app --cov-report=term-missing ``` 当前 `main` 分支上有 499 个单元测试通过。 ### 压力测试 ``` pip install locust locust -f backend/loadtest/locustfile.py --host http://localhost:8000 \ -u 50 -r 5 --run-time 2m --csv loadtest_results ``` ## 仓库布局 ``` ai-security-platform/ ├── backend/ │ ├── app/ │ │ ├── anomaly/ # Attack graph + detector │ │ ├── api/v1/ # FastAPI routers │ │ ├── auth/ # JWT, API keys, RBAC │ │ ├── compliance/ # Evidence-pack builder │ │ ├── connectors/ # OpenAI/Anthropic/Bedrock/... │ │ ├── db/ # Models + Alembic │ │ ├── evaluation/ # Runner │ │ ├── identity/ # OIDC/SAML adapters │ │ ├── policy/ # Three-stage pipeline │ │ ├── redteam/ # Generative campaign engine │ │ ├── reports/ # Markdown/PDF templates │ │ ├── siem/ # 6 export backends + forwarder │ │ ├── soar/ # 3 incident sinks │ │ ├── telemetry/ # ClickHouse writer + dashboard queries │ │ ├── threat_intel/ # Clustering + STIX export │ │ └── main.py │ ├── alembic/ │ ├── loadtest/locustfile.py │ └── tests/{unit,integration}/ ├── runtime-agent/ # Go 1.26 agent ├── frontend/ # Next.js 16.2 ├── sdks/{python,node}/ # Drop-in OpenAI/Anthropic wrappers ├── deploy/ │ ├── helm/ai-security-agent/ │ ├── k8s/agent.yaml │ └── siem/{splunk,elastic,sentinel}/ ├── actions/ai-security-gate/ # Composite GitHub Action ├── .github/workflows/ci.yml └── docs/ ``` ## 许可证 **BUSL-1.1** — Business Source License 1.1。源代码可用；除非您以托管或嵌入式方式将该作品提供给第三方以与许可方竞争，否则允许用于生产环境。在每个版本发布日期四年后，转换为 Apache 2.0 许可证。 如需替代许可，请联系 ryanwallac33@gmail.com。

标签：AI安全, Chat Copilot, CISA项目, CNCF毕业项目, Go, Python, Ruby工具, 一键部署, 域名收集, 安全合规, 搜索引擎查询, 无后门, 日志审计, 测试用例, 红队评估, 网络代理, 请求拦截, 运行时保护, 逆向工具