DearStrike4940/archive-scout-linux
GitHub: DearStrike4940/archive-scout-linux
Archive Scout 是一款可断点续传的 Linux 桌面工具,用于通过可视化 CDX 参数批量搜索、下载和关键词扫描 Wayback Machine 的公开网页存档。
Stars: 0 | Forks: 0
[下载最新版本](https://github.com/DearStrike4940/archive-scout-linux/releases/download/v1.2.0/ArchiveScout-Linux-x86_64.zip)
Archive Scout 是一个用于研究公共 Wayback Machine 存档的桌面界面。它可以索引多个域名和路径,应用传统的 CDX 参数,并发下载存档的文本页面,扫描自定义关键词或正则表达式,通过 SQLite 恢复中断的工作,并生成纯 UTF-8 文本报告。
## 主要功能
- 多个 Wayback 目标和路径模式
- 精确的 CDX 开始和结束日期
- 重复的 `filter` 参数
- `collapse=urlkey` 和 `collapse=digest`
- `matchType` 选择
- 经过验证的高级 `key=value` CDX 参数
- 每个规范化 URL 的最早捕获
- 可恢复的索引和下载
- 有边界的并发下载
- 下载期间即时进行关键词扫描
- 仅限 URL 的快速模式
- 纯文本排名报告
- 通过 `truststore` 信任原生系统证书
- 内置 Ogrish September 11 研究预设
## 界面中可用的 CDX 字段
CDX 选项标签页支持 `YYYY`、`YYYYMM`、`YYYYMMDD` 或 `YYYYMMDDhhmmss` 格式的日期、重复的过滤器、collapse 选项、匹配类型、页面大小以及额外的已解码参数。Archive Scout 的 JSON 和恢复解析器所需的保留参数不能被覆盖。
## 输出
每个项目文件夹包含一个可恢复的 SQLite 数据库、下载的存档、保存的项目配置以及包括以下内容的报告:
- `matches_ranked.txt`
- `matched_urls.txt`
- `wayback_urls.txt`
- `interesting_links.txt`
- `keyword_counts.txt`
- `all_indexed_urls.txt`
- `errors.txt`
- `summary.txt`
## 负责任地使用
Archive Scout 旨在用于研究和保存公开的存档资料。请使用保守的 worker 数量和延迟,尊重速率限制,并且不要将其用于绕过访问控制。
## 安装
下载发布版的压缩包,解压它,然后运行 `./install.sh`。它会将其安装在 `~/.local/share/archive-scout` 下,创建 `~/.local/bin/archive-scout`,并且无需管理员权限即可添加桌面条目。`Run Archive Scout.sh` 也可以启动解压后的便携副本。该发布版针对基于 glibc 的 64 位 Linux 系统,适用于 Ubuntu 22.04 或更高版本。
## 创建 GitHub 仓库
1. 解压此仓库包。
2. 显示隐藏文件并确认 `.github/workflows/` 存在。
3. 运行 `python3 scripts/set_github_username.py DearStrike4940` 或手动替换占位符。
4. 创建一个名为 `archive-scout-linux` 的空公开仓库。
5. 上传所有文件和文件夹,包括 `.github`。首选 Git,因为 `git add .` 会包含隐藏文件。
6. 在仓库设置中,启用 GitHub Actions 并将 Workflow 权限设置为 **Read and write permissions**。
7. 打开 **Actions**,选择 **Build Linux x86_64 App**,并从 `main` 运行它。
8. 下载并测试 workflow artifact。
9. 创建一个发布标签,例如 `v1.2.0`;标签构建会自动上传发布资产。
有关完整的逐步点击过程,请参见 `docs/GITHUB_SETUP.md`。
## 源码执行
需要 Python 3.11 或更高版本。
```
python -m pip install -r requirements-runtime.txt
python run_app.py
```
## 测试
```
python -m unittest discover -s tests -v
```
## 许可证
MIT
oading README.md…]()
标签:SQLite, Wayback Machine, 反汇编, 命令控制, 数据泄露, 数据采集, 桌面应用, 网络归档, 逆向工具