热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#SparseGPT
SparseGPT:一次性准确剪枝大规模语言模型的创新技术
2 个月前
SparseGPT是一种新的模型剪枝方法,可以在一次剪枝操作中将大规模语言模型剪枝至少50%,且几乎不损失精度。这一突破性技术有望大幅降低大型语言模型的推理成本。
SparseGPT
语言模型
模型压缩
稀疏化
神经网络剪枝
Github
开源项目
2 个月前
相关项目
sparsegpt
SparseGPT是一个致力于大型语言模型压缩的开源项目。它提供了一套工具,可在单次操作中对OPT、BLOOM和LLaMA等大规模语言模型进行精确剪枝。该项目支持非结构化、n:m结构化和稀疏量化压缩方法,并包含在WikiText2、PTB和C4子集上评估模型性能的脚本。SparseGPT能有效缩减模型规模的同时保持准确性,为研究人员和开发者提供了探索语言模型压缩的实用工具。
查看
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号