Project Icon

gpt-neox

大规模语言模型训练库,支持多系统和硬件环境

GPT-NeoX是EleutherAI开发的库,专注于在GPU上训练大规模语言模型。它基于NVIDIA的Megatron,并结合了DeepSpeed技术,提供前沿的架构创新和优化,支持多种系统和硬件环境。广泛应用于学术界、工业界和政府实验室,支持AWS、CoreWeave、ORNL Summit等多个平台。主要功能包括分布式训练、3D并行、旋转和嵌入技术,以及与Hugging Face等开源库的无缝集成。

gpt-neox-20b - EleutherAI开发的大规模开源语言模型
GPT-NeoX-20BGithubHuggingface人工智能大规模语言模型开源项目机器学习模型自然语言处理
GPT-NeoX-20B是EleutherAI开发的200亿参数大规模语言模型。模型基于The Pile数据集训练,采用与GPT-3相似的架构,包含44层Transformer结构。作为研究导向的开源模型,支持下游任务开发和模型微调,但仅限于英语语言处理,且未经过人类反馈优化,不适合直接用于产品部署。
gpt-neo - 使用 mesh-tensorflow 库的模型并行 GPT-2 和 GPT-3 样式模型的实现
GPT-3GPT-NeoGithubTPU支持开源项目模型训练预训练模型
GPT-Neo项目在mesh-tensorflow库的支持下,开发出了类似于GPT-3的高级模型与数据并行技术。项目支持在TPU及GPU上进行高效训练与推理,并集成了局部注意力、线性注意力和多专家系统等先进技术,能有效处理大规模参数模型。GPT-Neo还提供了多项模型评估功能,专注于语言和科学推理,拓宽了其在自然语言处理应用中的领域。
gpt-neo-2.7B - EleutherAI开发的27亿参数GPT-Neo语言模型展现多任务处理能力
EleutherAIGPT-NeoGithubHuggingface开源项目模型深度学习自然语言处理语言模型
GPT-Neo 2.7B是EleutherAI基于GPT-3架构开发的大规模语言模型,在The Pile数据集上训练了4200亿个token。模型在语言理解、科学推理等多个评估任务中表现优异,超越同等规模的GPT-2和GPT-3 Ada。尽管存在潜在偏见,GPT-Neo 2.7B仍为自然语言处理领域提供了新的研究方向和应用可能。
gpt-neo-1.3B - EleutherAI开发的13亿参数语言模型GPT-Neo 1.3B
GPT-NeoGithubHuggingface开源项目文本生成机器学习模型神经网络自然语言处理
GPT-Neo 1.3B是EleutherAI团队开发的大规模语言模型,基于GPT-3架构,拥有13亿参数。该模型在The Pile数据集上训练,适用于文本生成、问答等自然语言处理任务,并在多项基准测试中表现出色。模型采用MIT开源许可证,但使用时需注意可能存在的偏见和不当内容。
gpt-neo-125m - 轻量级自然语言生成模型
EleutherAIGPT-NeoGithubHuggingface开源项目文本生成模型深度学习自然语言处理
GPT-Neo 125M是EleutherAI团队基于GPT-3架构开发的轻量级自然语言处理模型,拥有1.25亿参数。该模型在Pile数据集上经过3000亿token的训练,能够生成连贯文本,适用于多种NLP任务。尽管规模较小,但性能优异。值得注意的是,由于训练数据的多样性,使用时需谨慎筛选输出内容,以避免潜在的偏见或不当表述。
DeeperSpeed - EleutherAI定制的DeepSpeed分支加速框架
DeepSpeedDeeperSpeedEleutherAIGPT-NeoXGithub开源项目深度学习框架
DeeperSpeed是DeepSpeed库的分支,专为EleutherAI的GPT-NeoX项目优化。该项目提供两个版本:1.0版保留了训练GPT-NeoX-20B和Pythia Suite所用的稳定版本,2.0版则基于最新DeepSpeed构建并持续更新。DeeperSpeed通过优化训练流程,提高了大型语言模型的开发效率。
Megatron-LM - 优化GPU训练技术 加速大规模Transformer模型
GPU优化GithubMegatron-CoreMegatron-LM分布式训练大语言模型开源项目
Megatron-LM框架利用GPU优化技术实现Transformer模型的大规模训练。其Megatron-Core组件提供模块化API和系统优化,支持自定义模型训练。该项目可进行BERT、GPT、T5等模型预训练,支持数千GPU分布式训练百亿参数级模型,并提供数据预处理、模型评估和下游任务功能。
Megatron-DeepSpeed - 分布式训练框架助力大规模语言模型预训练
DeepSpeed配置GPT预训练GithubMegatron-DeepSpeed分布式训练开源项目预处理数据
Megatron-DeepSpeed是一个集成DeepSpeed的大规模语言模型预训练框架。它支持多GPU和多节点分布式训练,提供数据预处理、预训练、微调和下游任务评估等完整流程。该框架针对BERT、GPT等模型优化,实现高效大规模训练。集成DeepSpeed的流水线并行和ZeRO-DP技术,进一步提升训练效率和灵活性。
NExT-GPT - NExT-GPT多模态语言大模型的前沿应用和技术
GithubNExT-GPT多模态LLM多模态编码开源项目端到端学习语言模型
NExT-GPT,一个先进的多模态语言处理大型模型,支持文本、图像、视频和音频的综合处理。该模型整合了最新科技,提供代码和数据资源,可广泛应用于内容自动生成和多模态交互等领域。它利用先进的多模态编码器和语言模型进行有效的语义理解与生成,同时能输出特定模态内容,满足多种输入与输出需求。
min-max-gpt - 为大规模GPT模型训练优化的开源框架
GPU训练GithubminGPT分布式训练大规模模型开源项目深度学习
min-max-gpt是一个针对大规模GPT模型训练优化的开源项目。该框架集成了muP初始化、混合精度训练、FSDP和DeepSpeed Zero-3等技术,并提供了不依赖Hugging Face的训练选项。这使得研究人员和开发者能够更灵活地控制训练过程。项目已在8块80GB A100 GPU上成功训练20B参数模型,展现了其在大规模语言模型训练方面的能力。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号