#Chinese-Mixtral-8x7B

Chinese-Mixtral-8x7B

Chinese-Mixtral-8x7B通过中文扩词表和增量预训练，提高了在中文编解码和生成理解能力。项目提供完整的开源模型及预训练代码，支持QLoRA训练和多种推理加速方案。其在中文知识和理解上的表现卓越，同时在英文方面也表现不俗，适用于各种中文自然语言处理应用场景。