#Quark
Meta-Llama-3.1-8B-Instruct-FP8-KV - FP8量化策略提升模型计算效率
QuarkMeta-Llama-3.1-8B-Instruct开源项目FP8GithubHuggingface模型部署量化策略
项目利用Quark工具对模型的线性层进行FP8量化，实现更高效的部署和轻微的推理性能提升。使用Pile数据集进行校准，提高模型性能。支持单GPU和多GPU环境，便于在vLLM兼容后端进行高效部署，Perplexity指标略有提升。
Meta-Llama-3.1-70B-Instruct-FP8-KV - Meta-Llama-3.1的FP8量化方法实现高效部署
HuggingfaceFP8量化推理Quark开源项目模型GithubMeta-Llama-3.1-70B-Instruct
项目使用Quark对Meta-Llama-3.1模型进行FP8量化，优化了线性层（不含lm_head）的权重和激活过程。支持用户在单或多GPU平台上部署并在vLLM兼容平台上高效运行。尽管伪量化评估结果可能与实际推理精确度略有不同，但仍提供关键指标，助力模型开发与优化。通过FP8对称模式的应用，模型性能得到提升，并提供了准确性的参考标准，为后续模型开发提供支持。