SankarSrinivasan1/AI-API-Security-Lab

GitHub: SankarSrinivasan1/AI-API-Security-Lab

该项目是面向 AI API 安全的动手实验工具包,提供攻击脚本、防御模板和自动化扫描配置,帮助用户测试并修复 LLM 应用中的安全漏洞。

Stars: 0 | Forks: 0

# AI API 安全实验室 ## 图书配套工具包 ## ![API Security for AI Applications](https://github.com/SankarSrinivasan1/API-Security-for-AI-Applications/blob/main/images/file_00000000a2e0720b9c687ca337e6a239.png) # API Security for AI Applications:LLM、Prompt Injection 和数据泄露的实用防御策略 ## 这是什么 这是一个用于测试、破坏和保障 AI API 安全的动手实验室。 不是理论。不是幻灯片。而是你可以实际运行的脚本和配置。 ## 你可以做什么 - 运行 prompt injection 攻击 - 扫描你的 API 漏洞 - 测试输入验证失败 - 模拟真实世界的滥用案例 - 使用 middleware 模板修复问题 ## 包含的工具 - OWASP ZAP(自动化扫描) - Burp Suite Community(手动测试) - Semgrep(代码分析) - Docker(隔离的测试环境) ## 快速开始 ``` git clone https://github.com/yourname/ai-api-security-lab cd ai-api-security-lab docker-compose up ``` 运行你的第一次攻击: ``` python prompt-injection/scripts/basic_injection.py ``` ## 文件夹指南 * `/prompt-injection` → 攻击脚本 * `/middleware` → 防御代码 * `/zap` → 自动化扫描 * `/burp` → 手动测试 * `/semgrep` → 静态分析 * `/threat-modeling` → 模板 ## 重要提示 如果在测试期间你的 API 没有崩溃,那可能是你测试得不够深入。 ## 📘 阅读本书 本仓库旨在配合以下书籍使用: **API Security for AI Applications: Practical Defense Strategies for LLMs, Prompt Injection, and Data Leakage** 这本书解释了*事物为什么会崩溃*。 这个实验室向你展示*它们是如何崩溃的,以及如何修复它们*。 ## 警告 这仅出于教育目的。不是一个完整的产品。
标签:AI安全, API安全, Chat Copilot, CISA项目, JSON输出, 安全专业人员, 安全测试靶场, 请求拦截, 逆向工具