访问官网
Huggingface
论文项目介绍：LDCC-SOLAR-10.7B
项目背景
LDCC-SOLAR-10.7B是由Lotte Data Communication（乐天数据通信）的AI技术团队开发的一项人工智能项目。这个项目的设计旨在通过先进的机器学习技术，提高人工智能应用在不同任务中的表现。
硬件和软件
这项模型训练使用了A100x4 * 1硬件架构。为了提升模型的精度和效率，团队结合使用了 DeepSpeed库 和 HuggingFace TRL Trainer 以及 HuggingFace Accelerate 来微调模型。
模型训练方法
LDCC-SOLAR-10.7B模型的训练方法基于SOLAR论文中介绍的学习方法。这种方法提供了一种创新训练方式，旨在提升模型在处理复杂任务时的表现能力。
基础模型
LDCC-SOLAR-10.7B的基础模型是yanolja/KoSOLAR-10.7B-v0.1，不过由于分词器问题，该基础模型已经不再被支持。
注意事项
在微调LDCC-SOLAR-10.7B模型时，建议使用来自v1.1版本的tokenizer.json和tokenizer_config.json文件。这将有助于确保模型的稳定性和准确性。
通过这一项目，乐天数据通信公司展示了他们在人工智能领域的领先技术，以及推动技术创新和应用的决心。LDCC-SOLAR-10.7B不仅代表了一步技术成果，还为未来的AI发展提供了坚实的基石。
