#GPT-NeoX-20B

GPT-NeoX-20B是EleutherAI开发的200亿参数大规模语言模型。模型基于The Pile数据集训练，采用与GPT-3相似的架构，包含44层Transformer结构。作为研究导向的开源模型，支持下游任务开发和模型微调，但仅限于英语语言处理，且未经过人类反馈优化，不适合直接用于产品部署。