相关项目
sparsify
Sparsify使用先进的剪枝、量化和蒸馏算法，在加速推理的同时保持模型精度。该工具由两部分组成：Sparsify Cloud，提供实验创建、管理和结果比较的在线平台；Sparsify CLI/API，作为Python包和GitHub库，支持本地实验运行与云端同步。当前版本正逐步转向大语言模型优化。
bge-large-en-v1.5-quant
该量化ONNX模型旨在利用DeepSparse加速bge-large-en-v1.5嵌入模型，提升句子编码效率。通过Sparsify实现的INT8量化和深度稀疏技术，在标准笔记本和AWS实例上分别实现了4.8倍和3.5倍的延迟性能改善。在多个数据集的测试中，该模型在分类和STS任务中展现出较高的编码效率。结合DeepSparse和ONNX技术栈，该模型适用于需要高效自然语言处理的应用场景。