#ruRoberta-large

ruRoberta-large是SberDevices团队开发的俄语预训练语言模型，采用Transformer架构。模型使用BBPE分词器，词典规模为50,257，参数量达3.55亿，在250GB数据集上训练。主要应用于掩码填充任务，为俄语自然语言处理提供基础支持。该模型是俄语预训练模型家族中的一员，旨在推进俄语NLP研究与应用。