#韩语预训练

Llama-3-Open-Ko-8B是一个基于Llama-3-8B进行持续预训练的开源韩语语言模型。该模型使用60GB以上的去重文本训练，包含超过17.7B个token，采用优化的Transformer架构，支持8k上下文长度。它适用于商业和研究目的，可用于助手式聊天等多种自然语言生成任务。开发者使用时需遵循相关许可和负责任的AI开发原则。