#Replete-Coder-Llama3-8B

该开源项目利用llama.cpp进行模型量化，适用于HumanEval和AI2推理挑战等任务，提供多种量化选项如Q8_0和Q6_K，适应不同内存要求，同时优化性能表现。I-quant量化在低于Q4时表现良好，用户可依据自己的设备内存和GPU VRAM选择合适的量化格式，通过huggingface-cli便捷获取所需文件。