Logo
Project Icon

server

开源AI推理服务，兼容多种深度学习和机器学习框架

Triton Inference ServerAI推理深度学习框架NVIDIA AI Enterprise模型优化Github开源项目

Triton Inference Server是一款开源推理服务软件，支持TensorRT、TensorFlow、PyTorch等多种深度学习和机器学习框架。它优化了云端、数据中心、边缘和嵌入式设备的推理性能，适用于NVIDIA GPU、x86和ARM CPU，以及AWS Inferentia。主要功能包括动态批处理、模型流水线、HTTP/REST和gRPC协议支持等。通过Triton，用户可以轻松部署和优化AI模型，提升推理效率。

访问官网访问官网GithubGithubHuggingfaceHuggingface文档文档论文论文
介绍相关项目
xtts-streaming-server - Docker化流式文本转语音服务 支持GPU加速与模型定制
DockerGPUGithubXTTS开源项目流式服务器语音合成
xtts-streaming-server是一个开源的Docker化流式文本转语音服务。该项目支持GPU加速，提供预构建镜像和自定义构建选项，并可加载微调模型。项目包含简易部署方法和测试工具，适合快速构建演示环境。需注意，当前版本不支持并发流式请求，主要用于演示目的。使用前需同意CPML许可协议。
WhisperFusion - WhisperFusion 低延迟高性能的实时AI语音交互系统
GPU加速GithubTensorRT优化WhisperFusion大语言模型实时语音转文字开源项目
WhisperFusion是一个开源项目，结合WhisperLive和WhisperSpeech技术，集成Mistral大语言模型，实现实时语音转文本和智能对话。项目采用TensorRT引擎优化模型性能，使用torch.compile加速处理，在RTX 4090 GPU上实现低延迟对话。通过Docker Compose简化部署，方便开发者快速搭建AI语音交互系统。
flashinfer - 专注LLM服务的高效GPU内核库
FlashInferGPU内核GithubLLM服务开源项目注意力机制高性能计算
FlashInfer是一个面向大型语言模型(LLM)服务和推理的GPU内核库。它实现了多种注意力机制，如FlashAttention、SparseAttention和PageAttention。通过优化共享前缀批处理解码和压缩KV缓存等技术，FlashInfer提高了LLM推理效率。该项目兼容PyTorch、TVM和C++，便于集成到现有系统，适用于多种LLM应用场景。
infinity - 高效低延迟的REST API用于矢量嵌入，支持多种模型
GithubInfinityREST API低延迟向量嵌入开源项目高吞吐量
Infinity是一个高吞吐量、低延迟的REST API，专为矢量嵌入服务，支持所有SentenceTransformers模型和框架。其内置如torch、optimum、CTranslate2等快速推理后端，兼容多种硬件加速器。API简单易用，基于FastAPI和Swagger，完全文档化，并与OpenAI嵌入规范对齐。Infinity支持动态批处理、多模态、INT8和FP8等功能，提供多种部署方式，包括Docker、Python API和云端服务。
Determined AI - 开源深度学习平台助力模型训练和优化
AI工具GPU资源分布式训练模型训练深度学习超参数调优
Determined AI是一个开源深度学习训练平台，集成了超参数调优和分布式训练功能。该平台支持多种深度学习框架，可在云端或本地运行，提供资源管理、实验跟踪和结果可视化等功能。它能显著加快模型训练速度，提高模型精度，让研究人员更专注于模型开发而非基础设施管理，从而提升深度学习团队的整体效率。
PicoMLXServer - 简化MLX AI模型管理的工具
AI助手GithubHuggingFaceMLXOpenAI APIPico MLX Server开源项目
Pico MLX Server提供简单易用的图形界面，便于管理MLX AI模型。通过菜单栏可以迅速启动和停止服务器，用户还可以从HuggingFace下载MLX模型，安装Python环境和必要依赖，并在多个端口同时运行多个服务器。此外，Pico MLX Server兼容OpenAI API，支持现有的AI聊天客户端。适用于macOS 14.0及以上版本。
infra - 开源云基础设施，专为AI代理打造
AI代理E2BGithub云运行时基础设施开源开源项目
E2B Infra是一个云运行时平台，通过提供SDK和CLI，用户可以定制和管理不同环境以运行AI代理。主要组件包括API服务器、实例内部守护程序及环境管理和构建的Nomad驱动程序。目前系统使用Terraform在GCP上部署，并计划进一步优化部署流程。
SHARK - 跨平台机器学习分发解决方案
GithubSHARKStable DiffusionTurbineVulkantorch-mlir开源项目
SHARK是一个高性能的机器学习分发平台，支持Windows、Linux和macOS，兼容AMD和Nvidia硬件，优化图像和文本生成的效率和稳定性。利用最新的Turbine技术，促进更快速的模型部署和稳定性能体验。详细指南帮助初学者和开发者快速上手，支持稳定扩散、BERT、GPT2等热门模型。
mistral.rs - 支持多种设备、模型量化的大型语言模型(LLM)推理平台，配备与Open-AI API兼容的HTTP服务器和Python绑定
GithubHTTP服务器LLM推理Python APImistral.rs开源项目模型量化
mistral.rs是一款支持多种设备、模型量化的大型语言模型(LLM)推理平台，配备与Open-AI API兼容的HTTP服务器和Python绑定，提供快速、精确的模型推理服务。平台支持文本和视觉模型，如AnyMoE、Llama等，采用LoRA技术和动态适配器，提高推理效率。用户可通过API在多种加速器上部署模型，实现快速计算和灵活应用。
TNN - 轻量级、高效能、多平台支持的开源深度学习框架
GithubTNN人工智能开源项目性能优化模型转换跨平台
TNN，腾讯优图实验室开源的神经网络推理框架，提供针对移动设备和X86/NV GPUs的高效性能优化。该框架已被QQ、微视等多款应用使用，并支持各大平台包括TensorFlow、Pytorch、MxNet。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号