#Adam-mini

Adam-mini是一种新型优化器，通过创新的参数分块和学习率分配方法，将内存占用比AdamW降低45%到50%，同时维持或提高模型性能。它支持多种分布式框架，可用于预训练、监督微调和RLHF等任务。Adam-mini基于Hessian结构相关原则，为大规模模型训练提供了高效解决方案。