#Lion

Lion是一种由Google Brain团队开发的新型优化器，部分效果优于Adam(w)。本文介绍了Lion在Pytorch中的实现和使用方法。通过调整学习率、权重衰减和参数β1、β2，Lion在语言建模和文本生成等任务中表现良好。其安装与使用简单，适合各种大型模型的训练。

Lion项目开发了一种对抗蒸馏框架，通过模仿、辨别和生成三个阶段从专有大型语言模型中提取知识。该框架不断挑战学生模型，提升其能力。使用70k指令数据训练后，Lion (7B)模型性能接近ChatGPT。项目公开了模型权重、训练和推理代码，在开放式生成和推理任务中表现出色。Lion致力于推进语言模型研究，仅限研究用途。