pachyderm
Pachyderm是一个开源的数据工程平台,提供自动化的数据处理流水线和版本控制功能。该平台支持复杂的数据转换,并具备数据血缘跟踪能力。基于Kubernetes构建,Pachyderm实现了自动扩展和并行处理,可部署在主流云平台和本地环境。它为数据工程团队提供了一个高效的CI/CD引擎,适用于各类数据处理场景。