#MicroLlama

该项目在有限预算内，通过全面开源的方法构建了一个300M Llama语言模型。尽管性能不及更大型的模型，但以不到500美元的投入，在多数据集上表现出色，并在与类似参数的BERT模型比较时展现优势。项目使用Vast.ai的计算资源和AWS S3存储，对TinyLlama模型进行了调整，重点优化Slimpajama数据集。这一项目展示了低成本大规模模型开发的潜力，并为细化应用如轻量级聊天机器人提供了坚实基础。