shibinantony/ai-assurance-orchestrator
GitHub: shibinantony/ai-assurance-orchestrator
基于PyRIT和LLM评估架构的企业级AI红队与保障引擎，用于发现和追踪大语言模型的安全漏洞。
Stars: 0 | Forks: 0
# AI 保障与运行时治理引擎
## 架构概述
本仓库包含一个企业级 AI 保障与红队引擎的概念验证。它利用 Microsoft 的 PyRIT 框架、LLM-as-a-Judge 评估架构以及 Streamlit，来映射大型语言模型中操作和技术漏洞的爆炸半径。
### 核心模块
**1. 确定性验证 (`poc_risk_manual.py`)**
* 静态的、基于回归的策略即代码执行。
* 根据行业标准威胁库（OWASP/MITRE ATLAS）评估目标模型。
* 生成用于合规性跟踪的持久化 CSV 审计产物。
**2. 动态编排器 (`poc_risk_pyrit.py`)**
* 自主 AI-vs-AI 红队循环。
* 通过轻量级 API 驱动架构运行，绕过繁重的本地张量依赖。
* 动态改变攻击策略，以发现目标系统中的零日漏洞。
## 执行要求
* Python 3.11+
* 有效的 OpenAI API 密钥
## 设置协议
1. 克隆仓库。
2. 初始化隔离的虚拟环境：
python -m venv venv
激活环境：
Bash
venv\Scripts\activate
安装核心技术栈：
Bash
pip install -r requirements.txt
在根目录下创建一个 `.env` 文件，并包含以下变量：
Plaintext
OPENAI_CHAT_KEY=your_secret_key_here
启动
要启动治理仪表板，请执行以下命令之一：
Bash
streamlit run poc_risk_manual.py
或者
Bash
streamlit run poc_risk_pyrit.py
标签：AI-vs-AI, AI风控, CISA项目, Kubernetes, LLM-as-a-Judge, LLM漏洞扫描, Microsoft PyRIT, MITRE ATLAS, OpenAI API, OWASP LLM, Petitpotam, PyRIT, Python, Streamlit, 人工智能安全, 企业级AI, 动态编排器, 反取证, 合规性, 多智能体系统, 大模型安全, 安全仪表盘, 安全评估, 密码管理, 无后门, 深度学习安全, 确定性验证, 策略即代码, 聊天机器人安全, 自动化攻击, 访问控制, 运行时治理, 逆向工具, 零日漏洞发现