#分布式处理

video2dataset

video2dataset是一个开源工具，用于从视频URL快速创建大规模视频数据集。它支持多种输入输出格式和文件系统，可在12小时内处理1000万个视频。该工具提供增量模式、分布式处理和Weights & Biases集成，适合机器学习训练等场景。其灵活的API和配置选项让用户能够精细控制数据处理流程。