NehaKhann/ai-security-garak

# 使用 garak 进行 AI 安全防护 这是一个适合初学者的配套项目，旨在通过官方的 **NVIDIA garak** 漏洞扫描工具来学习 **LLM 安全测试**。 本仓库不仅局限于理论，还提供了实战示例，演示如何使用 garak 扫描本地模型、自定义 AI 应用以及本地托管的 LLM。 ## 📖 从这里开始 👉 **[GUIDE.md](./GUIDE.md)** 该指南介绍了 garak 的核心概念，解释了其工作原理，并链接到了每一个实战示例。 ## 📂 仓库结构 ``` ai-security-garak/ │ ├── GUIDE.md ├── 01-huggingface-local/ ├── 02-springboot-rest/ └── 03-ollama-local/ ``` - **GUIDE.md** — garak 的介绍、架构及核心概念。 - **01-huggingface-local** — 使用 Garak 扫描本地 Hugging Face 模型。 - **02-springboot-rest** — 扫描自定义的 Spring Boot REST 聊天机器人。 - **03-ollama-local** — 扫描本地托管的 Ollama 模型。 ## 🚀 快速上手 克隆仓库： ``` git clone https://github.com/NehaKhann/ai-security-garak.git cd ai-security-garak ``` 每个示例都是独立的，包含： - 专属的 `README.md` - 独立的依赖配置 - 单独的 Python 虚拟环境 (`venv`) - 从配置到扫描的详细操作步骤 ## 📦 前提条件 ### 示例 1 — Hugging Face - Python 3.10+ - pip - 网络连接（首次下载模型时需要） ### 示例 2 — Spring Boot REST - Python 3.10+ - Java 17+ - Maven ### 示例 3 — Ollama - Python 3.10+ - 已安装 Ollama - 约 5–8 GB 的可用磁盘空间（用于存储本地模型） ## 💡 虚拟环境 每个示例都使用**独立的 Python 虚拟环境**，以保持依赖项隔离。 示例： ``` 01-huggingface-local/ └── venv/ 02-springboot-rest/ └── venv/ 03-ollama-local/ └── venv/ ``` 请按照对应示例 README 中的说明来创建并激活虚拟环境。 ## 🎯 你将学到什么 通过学习本仓库，你将掌握如何： - 安装和配置 garak - 理解 Generator、Probe 和 Detector - 扫描本地 Hugging Face 模型 - 扫描基于 REST 的自定义 AI 应用 - 扫描本地 Ollama 模型 - 解读 PASS、FAIL 和 SKIP 结果 - 阅读 Garak 的 HTML 和 JSON 报告 ## 📚 学习路径 建议先从 **[GUIDE.md](./GUIDE.md)** 入手以理解核心概念，然后按照自己的节奏逐步完成各个示例。 每个示例都是独立的，但按数字顺序学习可以让你循序渐进地了解 garak 及其不同的 generator。 ## 📖 参考资料 - garak 官方仓库：https://github.com/NVIDIA/garak - 官方文档：https://reference.garak.ai

标签：AI风险缓解, IaC 扫描, JS文件枚举, 后端开发, 逆向工具