#卷积层

SPViT项目提出了一种单路径自注意力剪枝方法，将预训练ViT模型中的自注意力层剪枝为卷积层，形成混合模型结构。该方法通过权重共享机制降低了模型搜索成本，在减少计算资源消耗的同时保持了模型性能。实验表明，SPViT在多个基准测试中表现良好，为Vision Transformer模型的优化设计提供了新思路。