#JetMoE

JetMoE

JetMoE-8B是一款开源大语言模型，以低于10万美元的成本实现了超越LLaMA2-7B的性能。该模型仅使用公开数据集训练，完全开源，适合学术研究。在推理时，JetMoE-8B只激活22亿参数，显著降低计算成本。多项基准测试结果表明，该模型表现优异，展现了AI领域低成本高效能开发的新可能。