xyz031702/ai-threat-newsletter

GitHub: xyz031702/ai-threat-newsletter

一个自动化流水线,从多个公开来源收集AI安全情报并利用LLM进行智能过滤与摘要,生成结构化的双周威胁情报通讯。

Stars: 1 | Forks: 0

# AI 威胁情报通讯 一个自动化流水线,可从 8 个公开来源收集 AI 安全情报,使用 LLM 进行验证和过滤,并以 Markdown 格式生成双周通讯。 ## 工作原理 1. **收集** — 五个抓取脚本从 Google Alerts (Gmail API)、NVD、CISA KEV、OSV.dev、arXiv、Semantic Scholar、GitHub 和安全供应商博客(Snyk、Unit 42、Checkmarx 等)提取原始数据。 2. **验证与过滤** — 通讯 Agent 应用确定性预过滤器,然后使用 Gemini 2.5 Flash 对相关性和重要性进行评分。新闻文章通过 Google Search grounding 针对实时网络结果进行验证。 3. **摘要** — 对重要条目进行去重和摘要,分为五个部分:新闻、事件与漏洞、安全公告、新方法和热门 OSS 工具。 4. **发布** — 生成一个包含来源链接和各条目日期的 Markdown 文件。 ## 快速入门 ``` # 安装依赖项 pip install -r requirements.txt # 设置你的 API 密钥 cp .env.example .env # 使用你的 GEMINI_API_KEY(必填)和 GITHUB_TOKEN(选填)编辑 .env # 首先运行 fetchers(需要 output 目录中有数据) python gmail_fetch.py --days 14 # requires OAuth setup, see GCP_SETUP.md python cve_fetch.py --days 14 python papers_fetch.py --days 14 python github_trending.py --days 14 python security_blog_fetch.py --days 14 # 生成 newsletter python newsletter_agent.py --days 14 ``` 通讯以带有时间戳的 Markdown 文件形式保存在 `newsletters/` 目录中。 ## 脚本 | 脚本 | 来源 | 输出目录 | |---|---|---| | `gmail_fetch.py` | Gmail API (Google Alerts) | `emails/` | | `cve_fetch.py` | NVD API 2.0, CISA KEV, OSV.dev | `cve_reports/` | | `papers_fetch.py` | arXiv, Semantic Scholar | `papers/` | | `github_trending.py` | GitHub Search API | `github_trending/` | | `security_blog_fetch.py` | 安全供应商博客的 RSS 订阅源 | `security_blogs/` | | `newsletter_agent.py` | 以上所有内容 + Gemini LLM | `newsletters/` | | `gen_method_summary.py` | 读取最新通讯及来源数据 | `method_summary.md` | 所有抓取脚本均接受 `--days N`(默认为 14)或 `--start YYYY-MM-DD --end YYYY-MM-DD` 参数。 ## 配置 API 密钥从项目根目录下的 `.env` 文件加载: ``` GEMINI_API_KEY=your_key_here # Required for newsletter generation GITHUB_TOKEN=your_token_here # Optional, increases GitHub API rate limit ``` 有关 Gmail 访问,请参阅 [GCP_SETUP.md](GCP_SETUP.md) 来配置 OAuth2 凭据。 ## 流水线详情 有关完整的 5 阶段流水线说明,包括数据收集、预过滤、LLM 验证、摘要生成和已知限制,请参阅 [methodology.md](methodology.md)。 ## 许可证 [MIT](LICENSE)
标签:AI安全, arXiv论文监控, Chat Copilot, CISA KEV, ESC4, Gemini 2.5 Flash, GitHub Trending, Gmail API, Markdown生成, OSINT, OSV.dev, Python, RSS监控, XSS, 人工智能, 信息聚合, 大模型安全, 威胁情报, 安全态势感知, 安全情报收集, 实时处理, 开发者工具, 开源安全工具, 情报过滤, 数据验证, 无后门, 漏洞情报, 用户模式Hook绕过, 网络安全简报, 自动化Newsletter, 自动化流水线, 逆向工具, 逆向工程平台