AleksaMCode/pnls-data-collector

GitHub: AleksaMCode/pnls-data-collector

PNLS-DC是一款用于大规模收集和分析探测请求的分布式事件驱动解决方案。

Stars: 0 | Forks: 0

# 优先网络列表嗅探数据收集器 - PNLS-DC ## 关键特性 - 基于微服务,独立可部署的组件(ETL、监控、使用检查、清理等)。 - 混合架构:事件驱动摄取 + 定时(批量)作业。 - 边缘设备实时推送事件;定时服务处理批量 ETL、清理和报告。 - 两阶段转换:边缘预处理 + 服务器端 ETL。 - 数据生命周期管理:每5天将旧的 Firebase 数据迁移或删除,以保持在配额内。 - 安全/隐私:边缘加密和服务器端控制处理。 - 通过状态检查和使用报告进行操作监控。 - 通过 Sentry 和 webhook 通道进行集中式警报。 - 实时数据视图:UI 显示实时设备状态、SSID、探测请求计数和处理的分析。 ## 部署 - 仪表板通过 Firebase Hosting 工作流程部署。 - Python 和 Go 服务可以作为独立进程或容器运行。 - `db_backup/docker-compose.yml` 运行 Conductor + 备份工作进程堆栈。 [^1]: 当前捕获窗口在早上7点至晚上6点之间。
标签:Firebase, Go, NIDS, Python, Ruby工具, Sentry, SSID, UI界面, Webhook, 事件驱动, 代码示例, 分布式系统, 力导向图, 命令控制, 响应大小分析, 大规模数据处理, 安全加密, 容器化, 微服务架构, 探针请求, 数据分析, 数据备份, 数据报告, 数据清洗, 数据生命周期管理, 数据监控, 数据迁移, 数据采集, 数据预处理, 无后门, 日志审计, 混合架构, 系统分析, 网络优化, 网络分析, 网络嗅探, 网络安全, 网络安全, 网络性能, 网络流量, 网络监控工具, 网络监控平台, 网络监控技术, 网络监控服务, 网络监控系统, 网络监控解决方案, 网络监控设备, 网络监控软件, 网络维护, 网络设备, 自定义脚本, 请求拦截, 边缘计算, 逆向工具, 隐私保护, 隐私保护