#网页文本处理

ChineseWebText是一个大规模中文网络文本数据集，总容量达1.42TB，每条文本均附带质量评分。该项目还提供了一个600GB的高质量子集，文本质量均超过90%。项目包含EvalWeb工具链，用于从原始网络数据中提取优质中文文本。EvalWeb通过数据准备、预处理和BERT评估模型对文本质量进行筛选和评估。此外，项目还开发了基于FastText的快速分类器，在保持性能的同时提高了处理效率。