#蒸馏

Exploring AI optimization项目是一个聚焦AI优化技术的资源库，收录了量化、剪枝等领域的高质量论文、教程和课程。该项目每周更新AI优化领域的重要研究见解，为研究人员和开发者提供学习参考，推动AI技术发展。资源库开放社区贡献，鼓励知识交流与分享。

Llama-3_1-Nemotron-51B-Instruct是NVIDIA开发的大语言模型，采用神经架构搜索方法平衡准确性和效率。该模型内存占用低，可在单个H100-80GB GPU上运行大型工作负载。模型在英语对话和编程方面表现出色，也支持非英语语言。经过安全评估和对抗性测试，适合商业应用。

DeiT-base-distilled-patch16-224是一种基于Vision Transformer的图像分类模型，通过蒸馏技术从CNN教师模型中学习。该模型在ImageNet-1k数据集上进行预训练和微调，在224x224分辨率下实现83.4%的top-1准确率。模型采用16x16图像块嵌入和蒸馏token，适用于多种计算机视觉任务，尤其在图像分类领域表现优异。

DistilCamemBERT通过效仿CamemBERT的性能，同时显著降低复杂性。该模型基于DistilBERT的策略，使用DistilLoss、CosineLoss和MLMLoss三个损失函数，优化法语自然语言处理。模型使用OSCAR数据集训练，最大限度降低偏差。在FLUE与wikiner_fr数据集上的优秀表现，使其适用于多种法语文本分析。

SuperNova-Medius是由Arcee.ai推出的14B参数语言模型。通过借鉴Qwen2.5-72B-Instruct与Llama-3.1-405B-Instruct的优势，以多架构蒸馏技术达成高效指令执行与复杂推理能力。适合用在客户支持、内容创作及技术帮助等场景，并在低资源需求下和较大模型进行有效竞争。适合追求经济高效高级语言模型应用的组织。

该项目通过非结构化幅度剪枝、量化和蒸馏，在GLUE SST2数据集上优化了BERT模型。模型在Torch和OpenVINO IR模式下准确率达到0.9128，并在Transformer层中实现了80%的稀疏性。此项目适用于OpenVINO 2024.3.0及以上版本及Optimum Intel 1.19.0及更高版本，利用NNCF完成优化，同时提供详细的参数与训练步骤，以实现高效的文本分类。