#TorchScale
UniLM学习资源汇总 - 统一的预训练语言模型框架
2 个月前
UniLM: 统一的语言模型预训练框架
3 个月前
相关项目
unilm
Unilm项目跨越100多种语言及包括语言、视觉、语音及其交互的多种模态，专注于基础模型和普适AI的研究。该项目已开发多种新型架构如DeepNet、Magneto，并通过稳定高效的训练方法增强模型的通用性和能力。此外，项目已发布关键技术如E5、BEiT-3，涵盖自然语言处理、机器翻译、文档AI及多模态AI等领域，为AI技术的前沿发展和实际应用做出了显著进展。
torchscale
TorchScale是一个PyTorch开源库，旨在帮助研究人员和开发者有效扩展Transformer模型。该库专注于开发基础模型和AGI架构，提升建模的通用性、能力以及训练的稳定性和效率。其关键功能包括DeepNet的稳定性、Foundation Transformers的通用性、可延展性的Transformer和X-MoE的效率。最新更新涉及LongNet和LongViT等创新架构，支持多种应用，如语言、视觉和多模态任务，用户仅需几行代码即可快速创建和调整模型。