#DeBERTa V2

该项目介绍了日语DeBERTa V2 base模型，该模型在日语Wikipedia、CC-100和OSCAR数据集上进行字符级分词和整体词遮蔽的预训练，可用于掩码语言建模及下游任务微调，采用了22,012个字符级子词的sentencepiece分词模型，通过transformers库进行训练。