#Skill Distillation

该综述介绍了大语言模型（LLMs）中的知识蒸馏（KD）技术，探讨如何将GPT-4等LLM的功能转移到LLaMA和Mistral等开源模型中，并深入分析数据增强在其中的作用。此外，文章分类讨论了知识抽取和蒸馏算法的重要性及其在各领域的应用。项目定期更新相关论文和研究进展，可通过关注仓库获取最新信息。