#NanoGPT

Modded-NanoGPT是一个基于Andrej Karpathy的llm.c项目的GPT-2训练器变体。该项目通过引入旋转嵌入等现代技术，将训练效率提高一倍，仅需5B tokens即可达到与原版相同的验证损失。代码简化至446行，实现了124M参数的transformer模型。在Fineweb验证集上，模型达到3.2818的验证损失。通过架构调整和超参数优化，该项目在保持性能的同时显著提升了训练速度。