microsoft/RAMPART
GitHub: microsoft/RAMPART
RAMPART 是一个 pytest 原生的安全测试框架,用于自动化评估和验证智能体 AI 应用的漏洞与风险。
Stars: 351 | Forks: 41
RAMPART
智能体红队风险评估与度量平台
一个面向智能体 AI 应用的 pytest 原生安全测试框架。
RAMPART 提供了一种结构化、开发者友好的方式来编写和运行针对 AI 智能体的安全测试——涵盖**对抗性攻击**、**良性故障**以及广泛的**危害类别**,所有测试均采用基于评估的断言,并与 [pytest](https://docs.pytest.org/) 无缝集成。 ## 商标 本项目可能包含项目、产品或服务的商标或标识。Microsoft 商标或标识的授权使用须遵守且必须遵循 [Microsoft 商标和品牌指南](https://www.microsoft.com/legal/intellectualproperty/trademarks/usage/general)。 在修改后的本项目版本中使用 Microsoft 商标或标识,不得引起混淆或暗示 Microsoft 赞助。 任何第三方商标或标识的使用均须遵守该第三方的政策。标签:AI 代理安全, AI 安全性测试, AI 测试工具, pytest 集成, Python 测试库, 代理型 AI 测试框架, 危害类别覆盖, 多语言支持, 安全性评估工具, 安全性验证, 安全测试框架, 安全规则引擎, 对抗性攻击模拟, 开发者友好测试, 断言驱动测试, 红队模拟, 红队测试平台, 自动化测试框架, 软件测试框架, 逆向工具, 风险管理平台, 风险评估工具