#词汇瓶颈

XLM-V是一个多语言模型，拥有百万词汇表，并在2.5TB数据上进行训练。相比于XLM-R，该模型在语言推理、问答与命名实体识别等任务中表现优异。通过减少语言间的词汇共享，这一创新提高了模型的表现，尤其在词汇重叠较少的语言中。XLM-V不仅提高跨语言任务的效果，也在低资源任务中实现重大突破，为机器学习和语言研究带来更多可能性。