rodgui/responsible-ai-engineering

# 负责的 AI 工程 AI 风险的技术控制 — safety evaluations、red teaming、groundedness、content safety、bias mitigation、monitoring、incident response 和 quality gates。 ## 范围 本仓库整合了与 Responsible AI 技术控制相关的知识、决策、模式和实验，主要针对生成式 AI 智能体和系统。 ## 重点 - 将 Responsible AI 原则转化为可测试的控制措施； - 在部署到生产环境之前创建 quality gates； - 针对带有工具的智能体执行 red teaming； - 评估自主性和 tool use 的风险； - 监控部署后的性能退化； - 保留合规证据。 ## 原则 - 预防性、检测性和纠正性控制 - 可重现、非主观的评估 - 将证据与解释分开 - 区分自动化 gate 和人工审查 - 通过匿名化保护评估数据 ## 结构 | 领域 | 目的 | |---|---| | `docs/risk-taxonomy/` | 风险分类体系和分类 | | `docs/safety-controls/` | 安全技术控制 | | `docs/evaluation/` | 评估、groundedness、相关性、safety | | `docs/red-teaming/` | Red teaming、prompt injection、data exfiltration | | `docs/content-safety/` | Content filters、bias mitigation、fairness | | `docs/groundedness/` | Grounding、provenance、citation verification | | `docs/monitoring/` | Post-deployment monitoring、drift、anomalies | | `docs/incident-response/` | Incident classification、escalation、rollback | | `docs/fundamentals/` | 基础概念 | | `docs/guides/` | 如何执行特定评估 | | `docs/reference/` | 精确和参考性信息 | | `docs/explanations/` | 概念与推理 | | `docs/executive/` | 面向决策的简报 | | `assessments/` | 成熟度与技术评估 | | `experiments/` | 假设、PoC 和 benchmark | | `references/` | 来源、词汇表和参考书目 | | `templates/` | Red team、eval、risk assessment 模板 | ## 与治理的关系 - `ai-agent-governance-framework` 定义政策、职责和 gates； - `responsible-ai-engineering` 研究并实施如何以技术方式生成和验证证据； - 治理负责批准，Responsible AI Engineering 负责验证。 ## 状态 本仓库于 2026 年 7 月基于 `technical-knowledge-repository-template` 模板创建。初始内容正在开发中。

标签：防御加固