#ModuleFormer

ModuleFormer

ModuleFormer是一种新型MoE架构，结合棒断注意力头和前馈专家两种专家类型。通过稀疏激活，实现高效性、可扩展性和专业化。基于此架构的MoLM语言模型系列，参数规模40亿到80亿不等，在提高吞吐量的同时保持性能，易于扩展新知识和针对特定任务优化。MoLM在多项基准测试中展现出优秀的效率和性能。