#量化策略

项目利用Quark工具对模型的线性层进行FP8量化，实现更高效的部署和轻微的推理性能提升。使用Pile数据集进行校准，提高模型性能。支持单GPU和多GPU环境，便于在vLLM兼容后端进行高效部署，Perplexity指标略有提升。