#学生模型

Knowledge-Distillation-Toolkit

Knowledge-Distillation-Toolkit是一个基于PyTorch和PyTorch Lightning的开源工具包，用于简化机器学习模型压缩过程。通过知识蒸馏技术，用户只需提供教师模型、学生模型、数据加载器和推理管道即可实现模型压缩。该工具包支持多种优化方法和学习率调度器，并提供详细的使用说明和示例代码，方便研究人员和开发者进行模型压缩实验。