#The Large Language Model Training Handbook

llm_training_handbook

该手册为语言模型训练工程师和操作员提供了多种方法和实用脚本，涵盖模型并行性、最大化吞吐量、张量精度和数据类型、训练超参数和模型初始化、不稳定性排查、以及软件和硬件故障调试等方面。适合需要深入技术细节的用户。若需要概述性和概念性内容，请参考姊妹项目The Large Language Model Training Playbook。