Logo
Project Icon

serving

灵活且高效的机器学习模型推理平台

TensorFlow Serving模型部署机器学习高性能推理DockerGithub开源项目

TensorFlow Serving 是一个为生产环境设计的灵活且高性能的机器学习模型推理系统。它管理训练后的模型生命周期，通过高效查询表提供版本化访问，支持多模型和多版本同时部署。系统支持 gRPC 和 HTTP 推理端点，允许无缝部署新版本，支持金丝雀发布和 A/B 测试，并且延迟极低。调度器将推理请求分组以在 GPU 上联合执行，支持包括 TensorFlow 模型、嵌入、词汇表和特征转换在内的多种服务对象。

访问官网访问官网GithubGithub文档文档
介绍相关项目
tfjs - 支持浏览器和Node.js的硬件加速JavaScript机器学习库
APIGithubJavaScriptTensorFlow.js开源项目机器学习模型转换
TensorFlow.js 是开源的硬件加速JavaScript库，专用于训练和部署机器学习模型。开发者能利用灵活直观的API在浏览器和Node.js环境中创建和运行模型，包括从头开始构建模型、运行现有模型和使用传感器数据重新训练模型。支持多种后端和平台，满足不同项目的需求。
backend.ai - 灵活高效的容器化计算集群平台 支持多种框架与加速器
APIBackend.AIGithub多租户容器化计算平台开源项目计算资源管理
Backend.AI是一个基于容器的计算集群平台，支持多种计算和机器学习框架及编程语言。平台提供CUDA GPU、ROCm GPU、TPU和IPU等异构加速器支持，可按需分配和隔离计算资源，适合多租户环境。通过REST、GraphQL和WebSocket API暴露功能，为用户提供灵活高效的计算环境。此平台集成了先进的资源调度功能，可实现按需或批量分配计算资源。Backend.AI采用容器技术实现资源隔离，确保多租户环境的安全性和效率。其开放的API架构便于与现有系统集成，为科研、教育和企业用户提供了强大而灵活的计算解决方案。
tensorflow-deep-learning - TensorFlow深度学习教程
GithubTensorFlow开源项目深度学习神经网络训练课程
本项目通过展示如何使用TensorFlow和Keras解决多种问题，教授深度学习的基本技能及其应用。课程内容包括关键视频教程、实践练习和项目实战，确保学习者能通过动手操作全面理解深度学习。适合任何级别的学者，帮助你提升个人和职业技能。
TensorFlow.NET - 用 C# 实现完整的 Tensorflow API，允许 .NET 开发人员使用跨平台的 .NET Standard 框架开发、训练和部署机器学习模型
.NETGithubKerasTensorFlowTensorFlow.NET开源项目机器学习
TensorFlow.NET为.NET Standard框架提供了TensorFlow绑定，使.NET开发者能够使用C#或F#进行机器学习模型的开发、训练和部署。项目内置Keras高级接口，支持将Python代码无缝移植到.NET环境，适用于Windows、Linux和MacOS系统，并支持CPU和GPU版本。
GPT-SoVITS-Server - 轻量级语音克隆模型部署工具
GPT-SoVITSGithub开源项目推理合成服务器部署模型训练语音克隆
GPT-SoVITS-Server是一个简化语音克隆模型部署的轻量级项目。无需复杂环境搭建，用户可在多种设备上轻松运行训练好的GPT-SoVITS模型，包括手机和服务器。项目适用于CPU推理，提供简化的代码结构和配置选项，便于新手使用。未来计划包括优化代码结构、增加语言支持和开发图形界面。
willow-inference-server - 高性能语言推理的开源自托管解决方案
ASRCUDAGithubTTSWebRTCWillow Inference Server开源项目
Willow Inference Server (WIS) 是一个高效的开源语言推理服务器，支持自托管并优化了CUDA和低端设备的使用。在减少内存和显存占用的前提下，能够同时加载多种语言模型。WIS 支持语音识别 (ASR)、文本到语音合成 (TTS) 以及大语言模型 (LLM)，并通过 REST、WebRTC 和 WebSockets 等多种传输方式，实现实时、低延迟的语音与语言处理，适用于各类助理任务和视障用户。
openai-api-proxy - 为OpenAI API提供快速部署和高效管理的代理工具
Docker部署GithubOpenAI API代理SSE流式输出开源项目文本审核腾讯云函数
openai-api-proxy是一个可部署于Docker和腾讯云函数的代理工具，用于简易、快速地配置和管理OpenAI API。支持SSE流输出和内置文本审核功能，允许通过单条Docker命令实施部署。项目提供全面的环境配置选项和详细的客户端使用示例，助力开发者高效利用OpenAI技术并优化应用表现。
tensorflow - TensorFlow与R语言的深度学习框架集成
APIGithubR语言TensorFlow开源项目数据流图机器学习
TensorFlow for R是一个将TensorFlow深度学习框架集成到R语言环境的开源项目。它支持在R中构建和执行TensorFlow计算图，兼容CPU和GPU运算。该项目提供完整的TensorFlow API访问，并包含安装指南和使用文档。适合需要在R中进行机器学习和大规模数值计算的研究人员和数据科学家使用。
DeepRec - 基于TensorFlow的推荐系统框架 支持万亿级训练和优化
DeepRecGithub分布式训练开源项目推荐系统模型优化深度学习框架
DeepRec是一个基于TensorFlow的推荐系统深度学习框架。它支持万亿级样本和参数的分布式训练，提供嵌入变量、优化器等关键功能。该框架在CPU和GPU平台上进行了性能优化，包括运行时、算子和图级优化。DeepRec还支持增量检查点、分布式服务和在线学习等部署功能，为大规模推荐模型提供全面解决方案。
llm-engine - 自定义和部署大语言模型的开源解决方案
GithubLLM EngineScale大语言模型开源项目推理API模型微调
LLM Engine是一款Python库、CLI和Helm图表，能够在Scale托管基础设施或自有Kubernetes云中自定义和部署基础模型。支持LLaMA、MPT和Falcon等开源基础模型的API部署和服务，并允许在自有数据上微调以优化性能。该引擎优化推理功能和开源集成，提高部署和微调效率，未来还将提供K8s安装文档和快速冷启动时间。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号