Samir4142/AgentWarden
GitHub: Samir4142/AgentWarden
AgentWarden 是一款 AI 安全监控工具，通过正则匹配、Groq LLM 语义分析和关键词劫持检测三层机制，对 Agent 日志文件中的提示注入和凭证泄露进行自动化扫描。
Stars: 1 | Forks: 0
# AgentWarden — AI 安全监控工具
## 环境要求
- Python 3.12+
- Groq API Key — 可在 [console.groq.com](https://console.groq.com) 免费获取
```
pip install groq
```
## 如何运行
**第 1 步 — 设置你的 Groq API Key**
Windows (PowerShell - 以管理员身份运行)：
```
[System.Environment]::SetEnvironmentVariable("GROQ_API_KEY", "your_key_here", "User")
```
Linux / Mac：
```
export GROQ_API_KEY="your_key_here"
```
**第 2 步 — 添加日志文件**
将任意 `.txt` 日志文件放入 `logs/` 目录中。
AgentWarden 会自动监控该文件夹中的所有文件。
适用于任何机器 — 无需配置路径。
**第 3 步 — 运行 Watchman**
```
python agentwarden.py
```
按 `Q` + `Enter` 即可安全退出。
## 工作原理 — 三层检测机制
| 层级 | 方法 | 检测内容 |
|-------|----------------------------|---------------------------------------------|
| 1 | 正则表达式匹配 | 凭证泄露、已知注入短语 |
| 2 | Groq LLM 语义分析 | 基于意图的威胁、新型攻击模式 |
| 3 | 关键词劫持检测 | Agent 操纵关键词 |
每个周期都会对文件进行哈希处理 — 跳过未更改的文件以节省资源。
检测到的威胁及其时间戳将记录到 `reports/threat_report.txt` 中。
## 输出示例
```
Analyzing auth_logs.txt...
[SAFE] auth_logs.txt — All Layers Clean
Analyzing system_logs.txt...
[THREAT DETECTED] system_logs.txt
[AgentWarden] Shutting Down. Stay Safe.
```
## 项目结构
```
AgentWarden/
├── agentwarden.py ← Main Monitoring Script
├── validator.py ← Three-Layer Detection Engine
├── logs/ ← Drop Log Files Here
└── reports/ ← Threat Reports Saved Here
```
标签：AI安全, C2, Chat Copilot, DLL 劫持, Python, Sysdig, 大语言模型, 无后门, 逆向工具