kallurayaankit/ai-agent-quality-sandbox
GitHub: kallurayaankit/ai-agent-quality-sandbox
一个多代理测试沙盒，用于评估AI系统在对抗性攻击下的安全性、偏差和正确性。
Stars: 0 | Forks: 0
# AI 代理质量沙盒
一个用于在对抗性攻击下评估AI系统安全性、偏差和正确性的多代理测试沙盒。
## 功能说明
- 一个**执行者**代理回答用户查询（模拟 RAG）。
- 一个**对抗者**代理尝试通过提示注入来误导它。
- 一个**评判者**代理对执行者的回答进行安全性、偏差和性能评分。
- 所有场景均由 JSON 文件驱动；无需代码即可添加新测试。
## 本地运行方法
```
git clone https://github.com/kallurayaankit/ai-agent-quality-sandbox.git
cd ai-agent-quality-sandbox
python -m venv venv
venv\Scripts\activate.bat
pip install -r requirements.txt
pytest
```
标签：AI安全, Chat Copilot, Homebrew安装, JSON配置, pocsuite3, pytest, Python, 人工智能测试, 代理测试, 偏见检测, 反取证, 多代理系统, 安全规则引擎, 安全评估, 对抗性测试, 提示注入攻击, 无后门, 机器学习评估, 正确性验证, 测试沙盒, 质量评估, 软件测试, 逆向工具