#结果评估

该项目再现了BitNet b1.58的研究，通过使用RedPajama数据集训练100B个token，实现了两阶段学习率和权重衰减。模型代码可在开源平台获取。初步结果表明，模型在PPL和零样本准确率方面表现优异，计划在资源允许时进一步扩大训练规模和模型容量。