huozi
活字3.0是一个支持32K上下文的稀疏混合专家模型,具备中英文知识、数学推理和代码生成能力,并在指令遵循和安全性上有所提升。项目开源了中文MT-Bench数据集,支持多种推理框架如Transformers、vLLM和llama.cpp,为自然语言处理研究和应用提供更多选择。