#mGPT

mgpt

mGPT是一个基于GPT-3的多语言模型，覆盖25个语系的61种语言。该模型使用维基百科和C4语料库进行预训练，包含低资源语言。mGPT在语言建模、跨语言自然语言理解和世界知识探测等方面表现出色，上下文学习能力与同期模型相当。项目代码和模型以MIT许可证开源。