serving

灵活且高效的机器学习模型推理平台

TensorFlow Serving 模型部署机器学习高性能推理 Docker Github 开源项目

TensorFlow Serving 是一个为生产环境设计的灵活且高性能的机器学习模型推理系统。它管理训练后的模型生命周期，通过高效查询表提供版本化访问，支持多模型和多版本同时部署。系统支持 gRPC 和 HTTP 推理端点，允许无缝部署新版本，支持金丝雀发布和 A/B 测试，并且延迟极低。调度器将推理请求分组以在 GPU 上联合执行，支持包括 TensorFlow 模型、嵌入、词汇表和特征转换在内的多种服务对象。

访问官网

Github

介绍相关项目

DeepSpeech - 开源的深度学习语音识别引擎

GithubProject DeepSpeechTensorFlow开源开源项目机器学习语音识别

DeepSpeech是一个开源语音转文字引擎，基于百度的Deep Speech研究，并利用Google TensorFlow实现。提供详细的安装、使用和训练模型文档。最新版本及预训练模型可在GitHub获取，支持和贡献指南请参阅相应文件。

DeepSpeed - 一个深度学习优化库，专为大规模模型训练和推理设计

DeepSpeedGithub分布式训练大规模模型训练开源项目模型压缩模型推理

DeepSpeed 是一个深度学习优化软件套件，专为大规模模型训练和推理设计，能显著优化系统性能和降低成本。它支持亿级至万亿级参数的高效管理，兼容各种计算环境，从资源受限的GPU系统到庞大的GPU集群。此外，DeepSpeed 在模型压缩和推理领域亦取得创新成就，提供极低的延迟和极高的处理速率。

mlc-llm - 通用大语言模型高性能部署引擎

AI模型优化GithubMLC LLMMLCEngine开源项目机器学习编译器高性能部署

MLC LLM是一款用于大语言模型的高性能部署引擎，支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API，支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎，与社区共同发展。

serverless-ml-course - 无服务器机器学习课程，用于从模型和功能构建支持 AI 的预测服务

GitHubGithubHopsworksMLOpsPythonServerless Machine Learning开源项目

此课程教授如何使用Python在无服务器环境中构建和部署机器学习预测服务。无需精通Kubernetes或云计算，课程内容包括Pandas与ML管道、数据建模、特征存储、以及训练和推断管道。学习如何使用Hopsworks和Github Actions进行版本管理、测试和数据验证，构建实时无服务器机器学习系统。

TensorFlow-Examples - 探索TensorFlow的最佳实践与全面教程

GithubTensorFlow开源项目数据管理机器学习深度学习神经网络

TensorFlow-Examples提供针对TensorFlow 1和2的详尽教程，涵盖从基础操作到高级模型如深度神经网络，适合初学者通过详细的笔记本和代码解析深入学习，同时介绍最新的API使用实践，如layers、estimator和dataset。

text-generation-inference - 生产级高性能文本生成推理工具

GithubHugging FaceText Generation Inference分布式追踪大语言模型开源项目量化

Text Generation Inference (TGI) 是一个部署和服务大型语言模型的工具包。它支持Llama、Falcon、StarCoder、BLOOM、GPT-NeoX等流行的开源模型，提供简便的启动器、分布式追踪、张量并行、多GPU推理加速、令牌流等特性。TGI还支持权重量化和安全张量加载，具备自定义提示生成和微调功能，兼容Nvidia、AMD、Inferentia、Intel GPU、Gaudi和Google TPU等硬件平台。

Recommender_System - 推荐系统全面指南：从理论基础到工业实践

GithubGolangTensorFlow召回开源项目排序推荐系统

本项目系统介绍工业级推荐系统的理论知识，包括召回、排序、特征交叉和用户行为序列建模等核心环节。内容涵盖基于TensorFlow2的模型训练，以及高性能、高并发、高可用的Golang推理微服务实现。同时提供Scikit-learn和TensorFlow编程基础，为推荐系统学习者提供全面的知识体系和实践指导。

mmdeploy - 多平台支持的深度学习模型部署工具集与推理框架

AI模型GithubMMDeployOpenMMLab开源项目模型部署深度学习

MMDeploy是一个开源的深度学习模型部署工具，支持OpenMMLab的各类模型库。该工具集成了多种推理后端，兼容Linux、Windows、macOS和Android等操作系统。提供灵活可扩展的C/C++ SDK框架，支持模型转换、配置编写、性能剖析和量化。详尽文档指导简化了模型部署过程，使其更加高效。

Gather-Deployment - Python 部署、基础设施与实践指南

DockerFlaskGithubKafkaPySparkTensorflow开源项目

详细介绍Python部署与基础设施的内容，包括Tensorflow部署、简单后端、Apache技术栈、数据管道与实时ETL。涵盖Flask, Docker, Kafka, PySpark, PyFlink等多种技术和工具，并包含单元测试、压力测试、监控和映射方案，让开发者全面了解Python在实际应用中的场景。

nllb-serve - 开源多语言翻译服务器与API实现

GithubNLLBREST API人工智能多语言开源项目机器翻译

nllb-serve是一个开源项目，为Meta的NLLB翻译模型提供web界面和REST API。该项目支持200种语言间的翻译，具有便捷的部署流程。它提供服务器配置、命令行工具、API文档和批量翻译功能，支持GPU加速和自定义模型，适用于需要大规模多语言翻译能力的场景。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号