abhienix/AI-red-flag-detector

# Red Flag Detector 粘贴可疑的电子邮件、URL 或代码片段，它会像安全分析师那样进行标记：带有红色删除线的文本、针对每个指标的“证据 (exhibit)”、风险评分，以及*为什么*存在风险的通俗语言解释——而不仅仅是一个结论。 两个检测层协同工作： | 层级 | 工作原理 | 捕获内容 | |---|---|---| | **启发式引擎**（客户端，即时执行） | 跨 5 个攻击类别的约 24 条 regex 规则 | 已知模式：紧急催促用语、凭据请求、域名仿冒、SQL/XSS/命令注入、恐吓软件、加密货币诈骗 | | **AI 分析师**（FastAPI + Groq，可选启用） | LLM 阅读文本以理解意图和上下文 | 无法匹配固定模式的新型、改写或伪装良好的攻击 | 启发式层是确定性的且可解释的——每个标记都可以追溯到具体的 regex 和书面理由，没有黑盒。AI 层则用于处理 regex 在结构上无法捕获的情况：例如一封写得非常精妙、足以避开所有“需要紧急处理”陈词滥调的网络钓鱼邮件。 ## 项目结构 ``` red-flag-detector/ ├── frontend/ │ └── index.html # Self-contained UI + heuristic engine (no build step) ├── backend/ │ ├── main.py # FastAPI app, /api/analyze endpoint │ ├── llm_analyzer.py # Groq call + prompt + response validation │ ├── requirements.txt │ └── .env.example └── README.md ``` ## 运行说明 **1. 后端 (AI Analyst)** ``` cd backend python -m venv venv && source venv/bin/activate # Windows: venv\Scripts\activate pip install -r requirements.txt cp .env.example .env # 编辑 .env 并从 https://console.groq.com 添加一个免费 key uvicorn main:app --reload ``` API 运行在 `http://localhost:8000`。健康检查：`GET /`。 **2. 前端** 只需在浏览器中打开 `frontend/index.html` —— 无需构建步骤。启发式引擎无需任何设置即可立即工作。点击 **“Ask AI Analyst for a second opinion”** 将请求发送到后端（需要步骤 1 处于运行状态）。 如果你将后端部署在 `localhost:8000` 以外的位置，请在 `index.html` 的主 script 之前，在 `