#ruBert

ruBert-base是一个专为俄语遮蔽填充任务优化的预训练语言模型。该模型基于Transformer架构，由SberDevices团队开发，采用BPE分词器，词典大小12万token，模型参数量1.78亿。模型使用30GB训练数据，是俄语自然语言处理领域的重要研究成果。ruBert-base遵循Apache-2.0许可证，为俄语NLP应用提供了强大的基础支持。