Logo
Project Icon

Merlin

GPU加速推荐系统解决方案 助力大规模数据处理与模型训练

NVIDIA Merlin推荐系统GPU加速深度学习特征工程Github开源项目

Merlin是NVIDIA开发的开源库，为推荐系统提供GPU加速解决方案。它包含多个组件如NVTabular和HugeCTR，支持大规模数据处理、特征工程、模型训练和部署。Merlin能处理数百TB数据，通过GPU加速提升系统性能。它兼容TensorFlow、PyTorch等框架，便于构建和优化推荐模型。

访问官网访问官网GithubGithub文档文档
介绍相关项目
models - 推荐系统深度学习模型库
GPU加速GithubMerlin ModelsTensorFlow开源项目推荐系统深度学习
Merlin Models是专为推荐系统设计的深度学习库，提供从经典机器学习到前沿深度学习的多种高质量模型实现。该库简化了模型训练和部署流程，内置行业最佳实践，并支持GPU加速。Merlin Models主要提供TensorFlow API，包含矩阵分解、双塔模型等经典和最新推荐模型架构。此外，它还提供可重用的构建块，便于自定义模型，并与Merlin平台其他组件无缝集成，支持构建完整的推荐系统流程。
NVTabular - GPU加速的大规模表格数据特征工程库
GPU加速GithubNVTabular开源项目推荐系统数据预处理特征工程
NVTabular是NVIDIA Merlin框架的组件，用于处理TB级数据集和训练深度学习推荐系统。该库利用GPU加速计算，提供高级抽象以简化代码。它可处理超出内存限制的大规模数据集，使数据科学家专注于数据操作，快速准备实验数据，并加速生产模型的数据转换过程。
dataloader - 适用于 TensorFlow、PyTorch 和 JAX 的 GPU 优化数据加载器
GPU优化GithubMerlin DataloaderPyTorchTensorFlow开源项目推荐系统
Merlin Dataloader 提供适用于 TensorFlow、PyTorch 和 JAX 的 GPU 优化数据加载器，大幅提升推荐模型的训练速度。优势包括速度提升超10倍、支持大于内存的数据集、每个周期的数据随机化及分布式训练。这些特点使其成为高效训练推荐模型的理想工具。
HierarchicalKV - 分层键值存储技术助力大规模推荐系统优化
GPU存储GithubHierarchicalKVNVIDIA Merlin开源项目推荐系统键值存储
HierarchicalKV是NVIDIA Merlin项目的组成部分，为推荐系统提供分层键值存储功能。该库可在GPU高带宽内存和主机内存中存储特征嵌入，支持大规模推荐模型训练。通过绕过CPU和实现表大小约束策略，HierarchicalKV提升了性能和内存利用率。这使得NVIDIA GPU更适合训练大型搜索、推荐和广告模型，简化了复杂推荐模型的构建、评估和部署过程。
HugeCTR - GPU加速的大规模深度学习推荐系统框架
GPU加速GithubHugeCTR嵌入开源项目推荐系统深度学习
HugeCTR是专为大规模深度学习模型设计的GPU加速推荐系统框架,支持高效训练和推理。框架在MLPerf等基准测试中性能卓越,提供直观的API接口,并具备大规模嵌入等核心功能。HugeCTR实现了模型并行训练、混合精度计算、嵌入缓存等先进特性,可高效部署超大规模嵌入的推荐模型。
DeepRec - 基于TensorFlow的推荐系统框架 支持万亿级训练和优化
DeepRecGithub分布式训练开源项目推荐系统模型优化深度学习框架
DeepRec是一个基于TensorFlow的推荐系统深度学习框架。它支持万亿级样本和参数的分布式训练，提供嵌入变量、优化器等关键功能。该框架在CPU和GPU平台上进行了性能优化，包括运行时、算子和图级优化。DeepRec还支持增量检查点、分布式服务和在线学习等部署功能，为大规模推荐模型提供全面解决方案。
marlin - 专为LLM推理设计的FP16xINT4优化内核
CUDAFP16xINT4GithubMarlinNVIDIA GPU开源项目高效推理
Marlin是一款专为LLM推理设计的FP16xINT4优化内核，可实现接近4倍的速度提升，并支持16-32个token的batchsize。通过高效利用GPU资源，如全局内存、L2缓存、共享内存和张量核心，Marlin克服了现代GPU的FLOP和字节比率挑战。多种优化技术包括异步权重加载和双缓冲共享内存加载，确保性能最大化。该项目适用于CUDA 11.8及以上版本，支持NVIDIA Ampere或Ada架构的GPU，并与torch 2.0.0和numpy兼容。在各种基准测试中，Marlin展示了卓越的性能，尤其在持久计算和大batchsize处理方面表现出色。
Megatron-LM - 优化GPU训练技术 加速大规模Transformer模型
GPU优化GithubMegatron-CoreMegatron-LM分布式训练大语言模型开源项目
Megatron-LM框架利用GPU优化技术实现Transformer模型的大规模训练。其Megatron-Core组件提供模块化API和系统优化,支持自定义模型训练。该项目可进行BERT、GPT、T5等模型预训练,支持数千GPU分布式训练百亿参数级模型,并提供数据预处理、模型评估和下游任务功能。
HybridBackend - 异构集群上的高性能推荐系统训练框架
GPU优化GithubHybridBackend嵌入层开源项目推荐系统深度学习框架
HybridBackend是一个为异构集群设计的高性能推荐系统训练框架。它优化了分类数据加载、GPU嵌入层处理和大规模训练通信，提高了wide-and-deep模型的训练效率。该框架兼容现有AI工作流，提供多种安装选项和完善的文档。HybridBackend采用开源Apache 2.0许可证，支持社区贡献。
mlgb - 多模型支持的CTR预测和推荐系统库
CTR预测GithubMLGB开源项目推荐系统机器学习深度学习模型
MLGB是一个Python库，集成了50多种CTR预测和推荐系统模型，兼容TensorFlow和PyTorch框架。该库提供简洁的API，方便快速调用复杂模型。通过代码优化，MLGB实现了高效性能，为研究和工程实践提供了多样化的模型选择。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号