#蒙版语言模型

XLM-RoBERTa是多语言RoBERTa模型，基于2.5TB的CommonCrawl数据进行预训练，涵盖100种语言。模型通过掩蔽语言目标实现自监督学习，从而掌握多语言的双向表示。在序列分类和问答等下游任务中具有优异表现。该模型主要用于微调以适应具体任务，尤其适合分析整句子以做出决策的场景。可用于掩蔽语言建模，或借助微调版本实现特定应用。