#稀疏组合专家

PowerMoE-3B是一种稀疏Mixture-of-Experts语言模型，优化于多任务文本生成精度。模型利用Power学习率调度器，每个token激活800M参数，在自然语言、多重选择、代码生成和数学推理任务上表现出色。适用于不同数据集的混合训练，提供高效的文本生成方案。