#语言模型

SciBERT是一款用于科学文本的预训练语言模型，基于Semantic Scholar的114万篇论文和31亿个标记进行训练。其专有的scivocab词汇表利于更好地匹配训练语料，支持cased和uncased模型版本，适合科学文献分析。

POLAR-14B-v0.2由Plateer AI实验室开发，受启于SOLAR，致力于韩文语言模型的持续发展与贡献。