vydon-io/vydon
GitHub: vydon-io/vydon
Vydon 是一个开源数据匿名化与合成生成平台,用于在开发测试中安全地使用生产数据,同时满足数据合规要求。
Stars: 0 | Forks: 0
开源数据匿名化与合成数据编排平台
## 简介
[Vydon](https://vydon.io) 是一个开源、开发者优先的数据匿名化、合成数据生成与环境同步工具,旨在提升测试、调试及开发体验。
企业使用 Vydon 来:
1. **安全地基于生产数据进行测试** - 对敏感的生产数据进行匿名化处理,以便安全地在本地使用,从而获得更好的测试和开发体验
2. **轻松在本地重现生产环境缺陷** - 匿名化并精简生产数据,获取安全且具有代表性的数据集,以便快速高效地在本地重现生产环境缺陷
3. **为低层级环境提供高质量数据** - 当您使用类生产数据填充预发布和 QA 环境时,可在缺陷影响生产环境之前将其捕获
4. **解决 GDPR、DPDP、FERPA、HIPAA 等合规性问题** - 使用匿名化和合成数据来降低合规范围,轻松遵守 HIPAA、GDPR 和 DPDP 等法规
5. **填充开发数据库** - 轻松使用合成数据为单元测试、演示等填充开发数据库
## 功能特性
- **根据您的数据结构生成合成数据**
- **匿名化现有生产数据** 以提升开发体验
- **使用任何 SQL 查询精简您的生产数据库** 用于本地和 CI 测试
- **完整的异步管道** 通过事件溯源模型自动处理作业重试、失败和回放
- **自动保持数据的引用完整性**
- **声明式、基于 GitOps 的配置** 作为 CI 流水线中的一步,为您的 CI 数据库注入数据
- **针对所有主要数据类型的预构建数据转换器**
- **使用 JavaScript 或 LLM 自定义数据转换器**
- **预构建的集成** 支持 Postgres、Mysql、S3
## 快速开始
选择与您工作流匹配的路径。
### Docker Compose(默认方式,< 2 分钟)
启动完整技术栈的最快方式。需要安装 Docker 并包含现代 `docker compose` 插件。
```
git clone https://github.com/vydon-io/vydon.git
cd vydon
make dev
```
`make dev` 会构建本地镜像,并启动 Postgres、Redis、Temporal、API 服务、工作进程和前端,同时启用热重载。该命令返回后,可通过以下地址访问技术栈:
| 服务 | URL |
| ------------- | --------------------------------------------------- |
| 前端 |
|
| API 健康检查 | |
| Temporal UI | |
一些有用的后续命令:
```
make dev/logs # tail logs from every container
make dev/down # stop the stack (keeps volumes)
make dev/clean # stop the stack and wipe all volumes (destructive)
```
如果您之前运行过旧版本,并且 API 日志报告 `database "vydon" does not exist`,请运行一次 `make dev/clean` 以重新创建 Postgres 数据卷。
### Tilt + kind(Kubernetes 路径,可选)
适用于希望获得更贴近生产环境的 Kubernetes 风格环境的贡献者。需要 [Tilt](https://tilt.dev) 和一个名为 `vydon-dev` 的运行中的 [kind](https://kind.sigs.k8s.io) 集群。
```
kind create cluster --name vydon-dev
tilt up
```
Tilt 会监视源代码树,并将 Go 和前端的更改实时同步到集群中。Tilt UI 提供了每个资源的日志和健康状态查看功能。
### 生产环境风格 Compose
根目录下的 [compose.yml](./compose.yml) 从 GHCR 拉取已发布的镜像(无需本地构建),并填充演示连接和作业。
```
docker compose up -d # start
docker compose down # stop
```
此路径适用于演示和 CI 冒烟测试,不适用于活跃的开发——因为它不支持热重载。
## Kubernetes、身份验证模式等更多内容
关于环境变量、Kubernetes 部署以及生产就绪指南的更多详细信息,请查看我们文档中的[部署 Vydon](https://docs.vydon.io/deploy/introduction) 部分。
## 资源
一些助您起步的资源:
- [文档](https://docs.vydon.io) 获取全面的文档和指南
- [Discord](https://discord.com/invite/MFAMgnp4HF) 与社区和 Vydon 团队交流讨论
- [X](https://x.com/vydon) 获取最新动态
## 参与贡献
我们欢迎任何形式的贡献,无论大小。以下是您可以参与贡献 Vydon 的几种方式:
- 加入我们的 [Discord](https://discord.com/invite/MFAMgnp4HF) 频道,在那里向我们提问
- 提交 PR(请参阅我们的[在本地开发 Vydon](https://docs.vydon.io/guides/vydon-local-dev)说明)
- 提交[功能请求](https://github.com/vydon-io/vydon/issues/new?assignees=&labels=enhancement%2C+feature&template=feature_request.md)或[缺陷报告](https://github.com/vydon-io/vydon/issues/new?assignees=&labels=bug&template=bug_report.md)
## 许可证
我们坚信自由和开源软件,本仓库在 [MIT expat 许可证](./LICENSE.md)下提供。标签:EVTX分析, Go语言, NIDS, PII处理, SOC Prime, Vydon, XML 请求, 合成数据, 子域名突变, 安全开发, 容器化, 开发工具, 开发者体验, 开源平台, 搜索引擎查询, 数据匿名化, 数据同步, 数据平台, 数据脱敏, 数据隐私, 日志审计, 模拟数据, 测试环境, 测试用例, 漏洞探索, 生产数据处理, 程序破解, 编排工具, 请求拦截