doremi
DoReMi是一种优化语言模型数据集混合的算法。它通过分布鲁棒优化调整数据混合，适应不同目标分布。算法训练小型代理模型动态调整各领域数据权重，并利用预训练参考模型避免对高熵领域过于悲观。DoReMi显著提高大型模型训练效率，如280M代理模型可使8B参数模型达到基线性能的速度提高2.6倍。项目提供PyTorch实现，包含快速可恢复的数据加载器和下游评估工具。
