nefnakhe/multi-agent-orchestration-controls
GitHub: nefnakhe/multi-agent-orchestration-controls
面向生产环境多租户 AI 智能体平台的三级权限控制架构与操作准则，通过人工授权网关确保自主智能体不会在无人监督下变更生产环境。
Stars: 0 | Forks: 0
# 多智能体编排 — 控制架构
用于在生产环境中运行自主 AI 智能体的控制架构与操作准则，**绝不允许它们在无人监督的情况下接触生产环境**。这是一个关于受监督自主性、爆炸半径遏制以及基于评估的变更控制的治理案例研究。
我是一名第三方风险/GRC专业人士。这是我为多租户 AI 智能体平台设计的操作准则——旨在回答*“你如何让智能体跨客户端环境诊断和修复问题，同时又能保证任何对生产环境的变更都由人工授权？”*
## 三个层级
自主性是分层的，因此随着爆炸半径的增加，权限会降低。混淆层级是导致系统中断和安全违规的原因，因此每个层级只专注于一项任务。
```
┌──────────────────────────────────────────────────────────────┐
│ OPS AGENT (cross-tenant — the remote hands) │
│ Trigger: alerts from ANY tenant workspace │
│ Power: read/diagnose across all tenant workspaces │
│ Acts: diagnoses autonomously, PROPOSES a fix, │
│ waits for a HUMAN gate before touching prod │
└──────────────────────────────────────────────────────────────┘
▲ alerts on failure │ proposes, never applies unsupervised
┌──────────────────────────────────────────────────────────────┐
│ ORCHESTRATOR (per-tenant) │
│ Trigger: inbound events for ONE tenant │
│ Power: routes between sub-agents within that tenant │
│ Acts: production runtime; NEVER crosses tenant boundary │
└──────────────────────────────────────────────────────────────┘
▲ dispatches
┌──────────────────────────────────────────────────────────────┐
│ SUB-AGENTS (per-workflow, within one tenant) │
│ Power: only the integrations they declare │
│ Acts: the actual customer-facing work │
└──────────────────────────────────────────────────────────────┘
```
**架构规则：**子智能体绝不直接呼叫运维智能体。它们向其租户编排器报告；由编排器决定故障是否需要向上呼叫。这使得每个层级的权限和告警数量保持在有限范围内。
## 核心控制：自主性网关
跨租户运维智能体是功能最强大的组件——它可以*读取*每个租户的环境。它在没有明确人工批准的情况下**不能**做的事情才是最关键的。请参阅 **[AUTONOMY-GATE.md](./AUTONOMY-GATE.md)** 获取完整的“可自主执行 vs 需批准执行”清单。简而言之：
## 本仓库包含的内容
- **[AUTONOMY-GATE.md](./AUTONOMY-GATE.md)** — 明确界定每个层级可以自主执行的操作与需要人工网关批准的操作。
- **[INCIDENT-RESPONSE.md](./INCIDENT-RESPONSE.md)** — 分层告警系统（INFO / WARNING / CRITICAL）、路由、响应 SLA 以及不断积累的事件学习闭环。
- **[THREAT-MODEL.md](./THREAT-MODEL.md)** — 爆炸半径、租户边界和权限威胁，以及针对每种威胁的遏制控制措施。
- **[CONTROL-MAPPING.md](./CONTROL-MAPPING.md)** — 映射至 NIST AI RMF、EU AI Act、ISO/IEC 42001。
## 相关资源
- [ai-agent-governance-regulated-vertical](https://github.com/nefnakhe/ai-agent-governance-regulated-vertical) — 此编排运行所依赖的合规性与访问控制。
- [ai-agent-access-control](https://github.com/nefnakhe/ai-agent-access-control) — 可运行的人在回路（human-in-the-loop）网关与审计日志。
*已脱敏的操作准则。其架构理念是为风险专业知识提供工程化支持，而非出于商业目的。*
标签：IT治理, PyRIT, 人工智能, 多智能体系统, 控制系统架构, 用户模式Hook绕过, 运维管理, 防御加固, 风控管理