#BERT分词器

GPT2-Chinese项目提供了适用于中文的GPT2训练代码，支持BERT和BPE Tokenizer，能够生成诗词、新闻、小说等内容，适用于大规模语料训练。该项目基于Pytorch实现，支持最新的预训练模型，如通用中文模型和古诗词模型。详细的模型信息可以在Huggingface Model Hub中找到。用户可以自行训练和生成文本，同时支持FP16和梯度累积。