HugeCTR

GPU加速的大规模深度学习推荐系统框架

HugeCTR是专为大规模深度学习模型设计的GPU加速推荐系统框架,支持高效训练和推理。框架在MLPerf等基准测试中性能卓越,提供直观的API接口,并具备大规模嵌入等核心功能。HugeCTR实现了模型并行训练、混合精度计算、嵌入缓存等先进特性,可高效部署超大规模嵌入的推荐模型。

访问官网

Github

文档

论文

介绍相关项目

MapTR - 在线向量化高精度地图快速构建框架

GithubMapTR人工智能开源项目模型自动驾驶高精地图

MapTR是一款高效准确的在线向量化高精度地图构建框架，可应用于自动驾驶系统的复杂场景中。该框架采用统一的置换等效建模方法，结合分层查询嵌入和双向匹配策略，提高了学习过程的稳定性，具备实时推理能力，并在nuScenes和Argoverse2数据集中表现出色。MapTR支持多种地图元素，具备良好的扩展性和灵活性。最新版本MapTRv2提升了性能和收敛速度，并引入了额外的语义中心线，进一步优化下游规划需求。

flash-attention - 高效注意力机制加速深度学习模型训练

CUDAFlashAttentionGPU加速GithubPyTorch开源项目注意力机制

FlashAttention是一种高效的注意力机制实现,通过IO感知算法和内存优化提升计算速度并降低内存消耗。它支持NVIDIA和AMD GPU,适用于多种深度学习框架。最新的FlashAttention-3版本针对H100 GPU进行了优化。该项目提供Python接口,可集成到现有模型中,有助于加速大规模深度学习模型的训练过程。

h2o-3 - 支持多编程语言的高性能内存中分布式机器学习平台

GithubH2O-3分布式机器学习开源资源开源项目模型部署算法

H2O-3是一个支持多编程语言的高性能内存中分布式机器学习平台，提供广泛的算法如GLM、随机森林、深度神经网络等，并可扩展以添加自定义算法。平台与Hadoop和Spark等大数据技术完美整合，可通过POJO或MOJO格式轻松导出模型至生产环境，适合各类数据科学家在大数据场景下进行机器学习开发。

embedx - 高性能大规模嵌入向量训练和推理系统

Githubembedx图模型大规模embedding系统开源项目深度排序联合建模

embedx是基于C++开发的大规模嵌入向量训练和推理系统，已在微信看一看、搜一搜、腾讯新闻等12个业务中成功应用。系统可处理十亿级节点、千亿级边的图模型，以及百亿级样本、百亿特征的深度排序和召回模型。embedx支持图与深度学习的联合建模，在推荐、搜索、支付和风控等领域表现出色，实现了性能和效果的双重提升。

Transformers4Rec - 灵活高效的PyTorch兼容序列与会话推荐库

GithubHugging Face TransformersNLPPyTorchRecSysTransformers4Rec开源项目

Transformers4Rec是一个结合Hugging Face Transformers框架的高效库，专注于自然语言处理和推荐系统的结合。通过支持多种输入特征和模块化设计，它提供了与PyTorch兼容的高灵活性架构。集成NVTabular和Triton Inference Server，实现了全GPU加速的管道，优化了序列和会话推荐效果。其在业内竞赛中的优异表现展示了其在会话推荐任务中的高准确性。

CNTK - 深度学习工具包，支持多种模型，包括DNN、CNN和RNN

CNTKGithubONNX开源开源项目深度学习神经网络

CNTK，微软的开源深度学习工具包，支持多种模型，包括DNN、CNN和RNN。具备自动微分和GPU并行化等高级功能，简化开发和训练流程，并完美支持ONNX，兼容多种AI框架。

booster - 大规模GPT模型部署和高效推理加速器

AI绘图BoosterGPTGithubGolangLLM加速开源项目

Large Model Booster利用Golang和C++技术构建高性能且可扩展的LLM推理加速器，适用于生产环境中的GPTs大规模部署和独立模型实验。支持多种现代CPU和GPU，包括Intel、AMD、ARM64、Apple Silicon及Nvidia CUDA等，支持大模型切分及FP16/FP32和量化版本。涵盖LLaMA、Mistral、Gemma等主流LLM架构，提供SOTA Janus Sampling实现。项目提供详细的编译到部署指南，并支持OpenAI和Ollama的兼容API端点。

recommender-system-tutorial - 使用TensorFlow和Keras构建推荐系统的实践教程

GithubMovieLens数据集TensorFlow开源项目推荐系统机器学习深度学习

dgl - 图深度学习框架加速图神经网络应用与研究

DGLGithub分布式训练图神经网络大规模图开源项目深度学习

DGL是一个高效易用的Python包，支持在图上执行深度学习。兼容PyTorch、Apache MXNet和TensorFlow等多种框架，提供GPU加速的图库、丰富的GNN模型示例、全面的教学材料及优化的分布式训练功能。适合从研究人员到行业专家的各类用户。广泛应用于学术及实践领域，无论是基础教学还是高级图分析，DGL均能有效支持。

recommenders - 利用TensorFlow构建推荐系统模型的库

GithubKerasTensorFlow Recommenders开源项目推荐系统数据准备模型训练

TensorFlow Recommenders 是一款利用TensorFlow构建推荐系统模型的库。它涵盖了数据准备、模型构建、训练、评估和部署的完整工作流程，基于Keras，旨在为用户提供易学且灵活的体验，能够支持构建复杂模型。只需确保安装TensorFlow 2.x，并使用pip安装即可开始使用。详细的文档和教程能够帮助用户快速入门。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能，包括文生视频、动态画面和形象生成等，帮助用户快速上手，创造专业级内容。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台，用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品，帮助用户探索创意灵感。

讯飞文书

讯飞文书依托讯飞星火大模型，为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能，满足事务性工作的高频需求，帮助撰稿人节省精力，提高效率，优化工作与生活。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com