#多模态数据训练

chug

chug是一个面向多模态数据训练的开源库,集成了webdataset和Hugging Face datasets的高效数据处理流程。它支持图像、文档和文本任务,提供实时PDF解码、灵活数据加载和预处理功能,并为文档阅读、视觉问答等任务设计了专用管道。尽管处于alpha阶段,chug已在多个PDF数据集上测试,可为大规模多模态模型训练提供有力支持。