#OLM RoBERTa

OLM项目的OLM RoBERTa/BERT模型于2022年12月更新，提升了在标准基准测试中的表现。该模型利用清理后的Common Crawl和Wikipedia数据集进行训练，适用于掩码语言建模和序列分类等任务，并在GLUE任务中表现出色，提供了详细的使用示例。