ppl.llm.serving

基于ppl.nn的大型语言模型服务框架

PPL LLM Serving 大型语言模型推理服务 CUDA gRPC Github 开源项目

ppl.llm.serving是基于ppl.nn的大型语言模型服务框架，提供gRPC服务器支持LLaMA等模型推理。该项目支持多GPU、离线推理，并具备模型导出、服务部署和性能测试功能。适用于x86_64和arm64平台，可用于构建和部署大规模语言模型服务。

Github

文档

介绍相关项目

ppl.llm.kernel.cuda - 优化大语言模型计算的CUDA内核库

AI计算CUDAGPU加速GithubPPL LLM开源项目深度学习

ppl.llm.kernel.cuda是PPL.LLM系统的核心组件，为大语言模型提供CUDA内核实现。该项目针对Ampere和Hopper架构优化，支持x86_64和arm64平台。它提供简单的构建流程，包含NCCL和JIT编译选项，便于性能调优。作为开源项目，ppl.llm.kernel.cuda旨在提高大规模语言模型的计算效率，为AI开发提供底层支持。

mllm - 轻量级移动设备多模态大语言模型推理引擎

AI推理引擎Githubmultimodal LLM开源项目移动设备边缘计算量化

mllm是一款针对移动和边缘设备优化的多模态大语言模型推理引擎。该引擎采用纯C/C++实现，无外部依赖，支持ARM NEON和x86 AVX2指令集，并提供4位和6位整数量化。开发者可利用mllm构建智能个人助理、基于文本的图像搜索、屏幕视觉问答等移动应用，实现本地推理而无需上传敏感数据。

fastllm - 纯C++实现的跨平台大语言模型推理库

GPU加速Githubc++实现fastllm多平台大模型推理开源项目

fastllm是一个纯C++实现的大语言模型推理库，无第三方依赖，支持多平台部署。这个开源项目具有快速的推理速度，支持多种模型格式，可实现多卡部署和流式输出。fastllm兼容ChatGLM、Qwen、LLAMA等多种模型，提供Python接口和自定义模型结构功能。该项目适用于需要高效、灵活部署大语言模型的场景。

OpenLLM - 一键部署开源LLM，支持企业级云部署和OpenAI兼容API

GithubOpenAI兼容APIOpenLLM云部署开源项目热门自托管LLM量化模型

OpenLLM为开发者提供一键部署各种开源大型语言模型(LLM)到企业级云环境的解决方案，支持OpenAI兼容的API端点。该项目集成最新的加速解码技术，并提供内置的ChatGPT界面，能够快速实现模型的互动和部署。用户只需简单的命令，即可本地运行或部署到云端，轻松管理和使用各种顶尖LLM，如Llama 3.1、Mistral和Qwen2等。

llm-ls - 基于LLMs的LSP服务器

GithubLSP服务器llm-ls功能特性多后端兼容开发效率开源项目

llm-ls是一个基于LLMs的LSP服务器，致力于提升开发效率。它提供一个通用平台供IDE扩展使用，负责与LLMs的交互，支持代码AST解析、遥测数据收集和多后端兼容。llm-ls兼容Hugging Face和OpenAI API，并支持llm.nvim、llm-vscode、llm-intellij等多种扩展，帮助开发者优化IDE工具。

nllb-serve - 开源多语言翻译服务器与API实现

GithubNLLBREST API人工智能多语言开源项目机器翻译

nllb-serve是一个开源项目，为Meta的NLLB翻译模型提供web界面和REST API。该项目支持200种语言间的翻译，具有便捷的部署流程。它提供服务器配置、命令行工具、API文档和批量翻译功能，支持GPU加速和自定义模型，适用于需要大规模多语言翻译能力的场景。

TensorRT-LLM - NVIDIA开发的大型语言模型推理优化工具

AI推理GPU加速GithubNVIDIATensorRT-LLM大语言模型开源项目

TensorRT-LLM是一个用于优化大型语言模型推理的开源工具。它提供Python API来定义模型和构建TensorRT引擎，支持多GPU和多节点部署。该工具集成了多种量化技术，如INT4/INT8权重量化和SmoothQuant，以提升性能和降低内存占用。TensorRT-LLM预置了多个常用模型，可根据需求进行修改和扩展。

LLMCompiler - 提升大语言模型性能的并行函数调用框架

GithubLLMCompiler优化编排并行函数调用开源项目效率提升模型兼容

LLMCompiler框架通过并行函数调用提升大语言模型的执行效率。它自动识别可并行任务，减少延迟和成本，同时提升准确性。用户只需提供工具和上下文示例，LLMCompiler就能优化函数调用编排。支持开源和闭源模型，包括LLaMA和OpenAI的GPT模型。LLMCompiler在不同任务中展示了显著的延迟加速、成本节省和准确性提升，是处理复杂问题的理想工具。

serving - 灵活且高效的机器学习模型推理平台

DockerGithubTensorFlow Serving开源项目机器学习模型部署高性能推理

TensorFlow Serving 是一个为生产环境设计的灵活且高性能的机器学习模型推理系统。它管理训练后的模型生命周期，通过高效查询表提供版本化访问，支持多模型和多版本同时部署。系统支持 gRPC 和 HTTP 推理端点，允许无缝部署新版本，支持金丝雀发布和 A/B 测试，并且延迟极低。调度器将推理请求分组以在 GPU 上联合执行，支持包括 TensorFlow 模型、嵌入、词汇表和特征转换在内的多种服务对象。

LiteLLM - 集成多种大语言模型的统一API代理平台

AI工具API统一LiteLLM代理服务器大语言模型开源项目

LiteLLM是一个统一的API代理平台，集成了100多种大语言模型，提供认证管理、负载均衡和支出跟踪功能。采用OpenAI格式，简化了多个LLM提供商的接入流程。LiteLLM具有开源和企业版本，支持高可用性，拥有活跃的社区。核心功能涵盖模型添加、负载均衡、密钥创建和支出监控，适合需要灵活管理多个LLM资源的开发团队和企业。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com