Aurora项目通过整合三大中文数据集，提升了Mixtral-8x7B稀疏专家模型的中文对话能力。通过数据预处理和指令微调，该模型在C-Eval、MMLU和CMMLU基准测试中表现出色。这项研究首次在稀疏专家模型上应用指令微调，提升了模型的架构能力，特别是在零样本任务中表现卓越。