#参数模型

OLMo-Bitnet-1B项目验证了1位大型语言模型训练方法的潜力。通过Dolma数据集的60亿标记构建了拥有10亿参数的模型，旨在探索新方法的可行性。项目还进行了fp16权重的对比实验，详情见相关报告。模型支持文本生成，包括示例代码方便研究和应用者评估该技术。