#TinyCLIP
TinyCLIP-ViT-8M-16-Text-3M-YFCC15M - 高效压缩CLIP模型的跨模态蒸馏方法
CLIP跨模态蒸馏模型图像分类Github开源项目TinyCLIP视觉语言预训练Huggingface
TinyCLIP是一种创新的跨模态蒸馏方法，专门用于压缩大规模语言-图像预训练模型。该方法通过亲和力模仿和权重继承两项核心技术，有效利用大规模模型和预训练数据的优势。TinyCLIP在保持comparable零样本性能的同时，显著减少了模型参数，实现了速度和精度的最佳平衡。这一技术为高效部署CLIP模型提供了实用解决方案，在计算资源受限的场景下尤其有价值。
TinyCLIP-ViT-40M-32-Text-19M-LAION400M - 基于亲和力模仿和权重继承的CLIP模型压缩方法
Github模型模型压缩TinyCLIP开源项目深度学习图像识别HuggingfaceLAION400M
TinyCLIP是一种用于压缩大规模语言-图像预训练模型的跨模态蒸馏方法，采用亲和力模仿和权重继承技术。实验显示，TinyCLIP ViT-45M/32使用ViT-B/32一半的参数达到相似的零样本性能；TinyCLIP ResNet-19M在参数量减少50%的情况下，推理速度提升2倍，在ImageNet数据集上实现56.4%的准确率。