#句子顺序预测

该模型使用遮蔽语言建模和句子排序任务在大规模英语语料库上进行预训练，擅长捕捉句子双向语义。通过层共享设计，降低内存消耗，具备12个重复层、128个嵌入和4096个隐藏维度。适合句子分类、标记分类和问答等任务的微调，表现优异。