Logo
Project Icon

serving

灵活且高效的机器学习模型推理平台

TensorFlow Serving模型部署机器学习高性能推理DockerGithub开源项目

TensorFlow Serving 是一个为生产环境设计的灵活且高性能的机器学习模型推理系统。它管理训练后的模型生命周期，通过高效查询表提供版本化访问，支持多模型和多版本同时部署。系统支持 gRPC 和 HTTP 推理端点，允许无缝部署新版本，支持金丝雀发布和 A/B 测试，并且延迟极低。调度器将推理请求分组以在 GPU 上联合执行，支持包括 TensorFlow 模型、嵌入、词汇表和特征转换在内的多种服务对象。

访问官网访问官网GithubGithub文档文档
介绍相关项目
tensorlayer-chinese - 基于TensorFlow的高级深度学习与增强学习开发库
GithubTensorFlowTensorLayer增强学习开源项目深度学习神经网络
TensorLayer是一个基于TensorFlow的高级深度学习与增强学习开发库，提供丰富的神经网络组件和函数，以帮助研究人员及工程师应对复杂的AI挑战。项目包含详细的中文文档，并拥有活跃的中文和英文社群，提供广泛的讨论与支持平台。
onnxruntime - 跨平台的机器学习模型推理与训练加速工具
GithubONNX Runtime开源项目机器学习模型训练深度学习硬件加速
ONNX Runtime是一款跨平台的机器学习推理和训练加速工具，兼容PyTorch、TensorFlow/Keras、scikit-learn等深度学习框架及传统机器学习库。它支持多种硬件和操作系统，通过硬件加速和图优化实现最佳性能，显著提升模型推理和训练速度，尤其在多节点NVIDIA GPU上的Transformer模型训练中表现出色。
BentoML - 简化AI模型推理API的构建与部署
AI模型BentoMLDocker容器Github开源项目模型服务框架生产环境
BentoML是一个开源模型服务框架，简化了AI和ML模型的生产部署。可以将任何模型推理脚本轻松转化为REST API服务器，并通过简单配置文件管理环境、依赖和模型版本。BentoML支持高性能推理API的构建，利用动态批处理、模型并行化和多阶段流水线等优化功能，最大化CPU/GPU利用率。此外，还支持自定义AI应用、异步推理任务和定制化前后处理逻辑。通过Docker容器或BentoCloud可轻松部署至生产环境，适用于各种机器学习框架和推理运行时。
Time-series-prediction - 多功能的TensorFlow时间序列预测平台
GithubTFTSTensorFlow开源项目时间序列深度学习预测
TFTS（TensorFlow Time Series）是一个易用的时间序列预测工具包，支持TensorFlow和Keras中的经典及前沿深度学习方法。适用于预测、分类及异常检测任务。提供适应工业、研究和竞赛所需的深度学习模型，配有详尽文档和教程，帮助用户快速入门。
cloudflare-ai-web - 基于Cloudflare Workers AI的轻量多模态AI平台，支持Serverless部署
ChatGPTCloudflare WorkersGemini ProGithubServerlessStable Diffusion开源项目
Cloudflare Workers AI支持快速搭建轻量化多模态AI平台，提供Serverless部署，无需服务器。支持ChatGPT、Gemini Pro、Stable Diffusion、llama-3和通义千问等模型，具备访问密码和本地存储聊天记录功能。详细的部署说明和环境变量设置指南，支持Docker、Deno Deploy和Vercel等多种部署方式。
machine-learning - 机器学习与数据科学教程，深度学习、模型部署与强化学习
Githubmachine-learning开源项目强化学习时间序列模型部署深度学习
本项目持续更新，介绍了数据科学和机器学习各个主题。内容涵盖深度学习、模型部署、运筹学和强化学习等，提供Jupyter Notebook格式教程，结合Python科学栈（如numpy、pandas）和开源库（如scikit-learn、TensorFlow、PyTorch）进行教学示范，平衡数学符号与实际应用。
AndroidTensorFlowMachineLearningExample - Android应用集成TensorFlow的详细教程
AndroidGithubTensorFlow对象检测开源项目机器学习示例项目
此项目提供了在Android应用中集成TensorFlow的详细指南。开发者可以学习如何构建和使用TensorFlow项目及其库文件（.so和.jar文件），通过具体示例了解如何使用TensorFlow进行物体检测，包括处理从相机拍摄的图像。适合希望将机器学习技术应用在移动设备上的开发者。
metaflow-service - Metaflow元数据服务实现 优化机器学习工作流管理
DockerGithubMetaflowPostgreSQL元数据服务开源项目数据库迁移
Metaflow-service为Metaflow提供元数据服务实现，通过轻量级数据库封装跟踪Flows、Runs、Steps等Metaflow实体的元数据。项目包含元数据服务和迁移服务，支持数据库迁移和版本兼容性管理。提供REST API接口，支持Docker容器部署，简化机器学习工作流的元数据管理流程。
openinference - 开放式AI应用程序追踪标准和工具集
AI应用GithubOpenInferenceOpenTelemetry开源规范开源项目插件
OpenInference是一套用于AI应用程序追踪的开放标准和工具集,与OpenTelemetry相辅相成。它能深入洞察LLM调用过程及其应用环境,包括向量存储检索和外部工具的使用情况。该项目提供了技术规范和多语言支持的机器学习SDK与框架检测库,可无缝对接各类OpenTelemetry兼容后端。OpenInference致力于为AI应用提供全方位的可观测性方案。
Deep-learning-in-cloud - 深度学习云计算资源和工具综合指南
GithubMLOps云GPU免费计算资源开源项目模型部署深度学习
这个开源项目汇集了云端深度学习资源和工具信息。内容包括GPU云服务比较、云GPU提供商列表、定价和试用信息、模型部署平台、MLOps工具以及学术优惠。项目旨在帮助开发者和企业选择合适的云计算资源，提高模型训练效率并降低成本。此外还提供了模型部署和MLOps相关指导，为深度学习全生命周期提供参考。无论是个人开发者还是企业，都能在这里找到适合自己需求的云计算资源和工具。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能，包括文生视频、动态画面和形象生成等，帮助用户快速上手，创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台，用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品，帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型，为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能，满足事务性工作的高频需求，帮助撰稿人节省精力，提高效率，优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

Trae

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号