ToyaTech2026/secure-ai-gateway

GitHub: ToyaTech2026/secure-ai-gateway

一个演示性的 Python 脚本,通过在用户 prompt 到达 LLM 之前进行拦截和黑名单筛查来模拟 AI API 网关的提示词注入防护,用于学习 AI 内容安全与输入验证。

Stars: 0 | Forks: 0

# 安全 AI 网关 🛡️🤖 ## 项目概述 本仓库包含一个基础的 Python 脚本,旨在为生成式 AI 应用模拟一个安全的 API 网关。它直接契合 **Microsoft AI-901(负责任的 AI 与内容安全)** 框架和 **CompTIA Security+(输入验证与应用安全)** 概念的核心原则。 ## 工作原理 该脚本会在传入的用户 prompt 到达大型语言模型 (LLM) 之前将其拦截。它会根据架构安全黑名单对文本进行筛查,以识别、标记并阻止 prompt 注入漏洞。 ## 展示的技能 * **Python 自动化:** 脚本读取、字符串操作、循环和条件格式化。 * **AI 内容安全:** 使用 guardrails 来缓解恶意的对抗性 prompt。 * **风险缓解:** 将我基础的质量控制优化经验应用于数字基础设施安全。
标签:AI安全, API密钥检测, C2, Chat Copilot, DLL 劫持, Python, 大语言模型, 安全网关, 无后门, 输入验证, 逆向工具