RedHatQuickCourses/nemo-guardrails-garak

GitHub: RedHatQuickCourses/nemo-guardrails-garak

这是一个在Red Hat OpenShift AI环境中动手实践NeMo Guardrails与Garak评估框架的实验课程，帮助开发者理解并实施LLM安全防护与红队评估。

Stars: 0 | Forks: 0

## 使用 NeMo Guardrails 启用 AI 安全并使用 EvalHub 评估 LLM 本课程涵盖了关于 NVIDIA NeMo Guardrails 和 Garak（生成式 AI 红队与评估套件）评估框架的动手实验。本动手实验重点介绍如何在 Red Hat OpenShift AI (RHOAI) 环境中使用 NeMo Guardrails 和 Garak 评估框架的功能。

标签：AI安全, C2, Chat Copilot, DLL 劫持, Red Hat OpenShift, 反取证, 大语言模型, 安全评估, 护栏机制, 逆向工具