Logo
Project Icon

server

开源AI推理服务，兼容多种深度学习和机器学习框架

Triton Inference ServerAI推理深度学习框架NVIDIA AI Enterprise模型优化Github开源项目

Triton Inference Server是一款开源推理服务软件，支持TensorRT、TensorFlow、PyTorch等多种深度学习和机器学习框架。它优化了云端、数据中心、边缘和嵌入式设备的推理性能，适用于NVIDIA GPU、x86和ARM CPU，以及AWS Inferentia。主要功能包括动态批处理、模型流水线、HTTP/REST和gRPC协议支持等。通过Triton，用户可以轻松部署和优化AI模型，提升推理效率。

访问官网访问官网GithubGithubHuggingfaceHuggingface文档文档论文论文
介绍相关项目
onnx-tensorrt - ONNX 的 TensorRT 后端
CUDAGithubInstanceNormalizationONNXProtobufTensorRT开源项目
本项目实现对ONNX模型的高效解析，支持在最新TensorRT 10.2版本上运行。还覆盖了多个ONNX操作符，提供详细的安装和构建指南。项目中包含C++和Python的使用示例，方便用户集成和运行ONNX模型。常见问题解答和变更日志有助于解决使用中的问题。
RunPod - 全面的AI开发训练和扩展云平台
AIAI工具GPU云RunPodserverless机器学习
RunPod是专为AI设计的云平台，提供全面的开发、训练和扩展解决方案。平台特点包括按需GPU资源、无服务器推理、自动扩展、全球分布式GPU云、CLI工具和实时监控分析。RunPod简化AI基础设施管理，支持快速部署和高成本效益，适用于各种AI工作负载，是AI应用从开发到规模化的理想选择。
jax-triton - JAX与Triton集成实现GPU计算加速
CUDAGPU加速GithubJAXTritonjax-triton开源项目
jax-triton项目实现了JAX和Triton的集成，让开发者能在JAX中使用Triton的GPU计算功能。通过triton_call函数，可在JAX编译函数中应用Triton内核，提高计算密集型任务效率。项目提供文档和示例，适合机器学习和科学计算领域的GPU计算优化需求。
Novita AI - 模型API、无服务器和GPU实例
AI云AI工具API服务GPU实例Novita AI无服务器
Novita AI作为综合AI云平台，整合了开源模型API、无服务器GPU和按需GPU实例。平台支持图像、视频、音频和大型语言模型应用，提供自动扩展、全球服务和高性能计算能力。Novita AI的解决方案具有成本效益，便于用户构建和扩展AI产品。此外，平台还为初创企业提供专门支持，促进其在AI领域的发展。
ai-on-gke - 在GKE上构建高效AI/ML工作负载平台
AI/MLGKEGithubJupyterHubKubernetesTerraform开源项目
AI on GKE项目提供在Google Kubernetes Engine上运行AI/ML工作负载的资产。项目包含基础设施编排、分布式计算和数据处理框架集成，支持多团队资源共享。通过Jupyter Hub和Ray集群部署模块，开发者可以快速搭建AI/ML环境。利用GKE功能，实现高效的大规模AI训练和服务部署。
Inferkit AI - 多模型AI路由系统 提升AI开发效率与成本优势
AI工具Inferkit人工智能在线平台文本生成
Inferkit AI作为模型路由平台，整合OpenAI等多种大型语言模型API。通过降低开发成本和提高可靠性，助力AI产品开发。平台配备playground、教程和API密钥管理，支持快速上手。测试阶段现提供优惠折扣。
tevatron - 神经检索模型训练与推理工具
GithubHuggingFaceLLM神经检索模型LoRA微调Mistral-7BTevatron开源项目
Tevatron提供高效工具包，支持在GPU和TPU上大规模训练和推理神经检索模型，集成DeepSpeed和LoRA等技术，可加载HuggingFace的预训练模型，适用于神经检索和开放域QA任务。
AI Tools 99 - 高效灵活的GPU计算平台用于AI模型和工作流程
AI工具GPU计算免费额度开源模型按需付费订阅计划
AI Tools 99是一个先进的分布式计算网络平台，专为AI模型和工作流程设计。通过GPU计算资源和AI API，平台按秒计费，根据实际使用量自动扩展，有效避免资源浪费。提供多种定价方案，包括免费试用、按需付费和年付订阅，满足不同需求。支持运行和微调开源模型，并鼓励用户推荐新模型。平台特别适合AI开发者和研究人员，提供高效、灵活的计算环境，帮助用户以低成本实现AI项目。
deep-learning-containers - 高效优化的TensorFlow、PyTorch与MXNet深度学习环境
AWS Deep Learning ContainersAmazon SageMakerGithubMXNetPyTorchTensorFlow开源项目
AWS Deep Learning Containers提供预配置的Docker镜像，支持TensorFlow、PyTorch和MXNet的模型训练与服务。集成了Nvidia CUDA和Intel MKL库，优化了GPU和CPU实例性能。这些容器已在Amazon SageMaker、EC2、ECS和EKS上进行了测试和验证，确保广泛应用和稳定性能。了解更多关于兼容镜像的信息，助力高效开发与部署AI模型。
tiny-tensorrt - 简洁易用的nvidia TensorRT封装库，支持通过C++和Python API快速部署Onnx模型
CUDACUDNNGithubTensorRTonnx modeltiny-tensorrt开源项目
tiny-tensorrt是一个简洁易用的nvidia TensorRT封装库，支持通过C++和Python API快速部署Onnx模型。依赖CUDA、CUDNN和TensorRT，兼容多个版本。项目已停止维护，建议使用TensorRT的Python API或trtexec/polygraphy工具。更多信息请参考项目Wiki。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号