roscoe-govan-tech/credible-threatintel-pipeline
GitHub: roscoe-govan-tech/credible-threatintel-pipeline
一个基于Python的威胁情报流水线,用于从可信安全来源摄取、解析、评分和汇总漏洞数据,帮助分析师进行防御优先级排序。
Stars: 0 | Forks: 0
# 可信的 Threat Intel Pipeline
一个基于 Python 的威胁情报流水线,用于从受信任的安全来源摄取、解析、评分和汇总漏洞与威胁数据,以支持分析师的工作流程和防御优先级排序。
## 项目目的
本项目旨在练习 Python、数据解析、自动化以及以安全为核心的数据工程概念。其目标是收集威胁情报数据,提取有用的漏洞详细信息,组织数据,并生成便于分析师查看的摘要,从而为确定优先级和防御决策提供支持。
## 项目功能
* 从已配置的来源收集威胁和漏洞情报
* 解析漏洞数据,例如 CVE ID、供应商、产品、描述和参考信息
* 提取有用的关键字和与安全相关的详细信息
* 存储结构化的威胁情报数据
* 根据可用的上下文对发现进行评分或优先级排序
* 生成供分析师审查的摘要
## 展示技能
* Python 脚本编写
* 威胁情报处理
* 数据解析与转换
* JSON 处理
* 文件和目录组织
* SQLite/数据库概念
* 安全分析基础
* 自动化工作流设计
* Git 和 GitHub 项目文档编写
## 项目结构
```
credible-threatintel-pipeline/
├── config/ # Configuration files
├── data/ # Local data storage
├── src/ # Source code
├── .env.example # Example environment variable file
├── .gitignore # Files excluded from Git tracking
├── README.md # Project documentation
└── requirements.txt # Python dependencies
```
## 示例用例
安全分析师可能需要审查新发布的漏洞,并确定哪些值得关注。此流水线有助于将原始漏洞数据组织成更结构化的格式,以便更高效地进行审查、过滤和优先级排序。
## 如何运行
1. 克隆仓库:
```
git clone https://github.com/roscoe-govan/credible-threatintel-pipeline.git
```
2. 导航至项目文件夹:
```
cd credible-threatintel-pipeline
```
3. 创建并激活虚拟环境:
```
python -m venv .venv
```
```
.venv\Scripts\activate
```
4. 安装依赖项:
```
pip install -r requirements.txt
```
5. 以 `.env.example` 为指南,创建一个本地 `.env` 文件。
6. 运行主脚本:
```
python src/main.py
```
## 当前状态
本项目正在积极开发中。当前的重点领域包括改进来源收集、解析逻辑、评分、数据库存储和摘要生成。
## 未来改进
* 添加更多威胁情报来源
* 改进 CVE 和关键字提取
* 添加更强的评分逻辑
* 添加仪表板或报告输出
* 添加自动化的计划运行
* 改进错误处理和日志记录
* 为解析和评分功能添加测试
## 注意事项
本项目旨在用于学习、作品集开发以及实践安全/数据工程技能的培养。它无意取代商业威胁情报平台。
标签:GPT, Homebrew安装, Python, 代码示例, 威胁情报, 安全运营, 开发者工具, 扫描框架, 数据分析, 数据处理管道, 无后门, 漏洞管理, 逆向工具