wren-engine

专为大型语言模型（LLM）设计的语义引擎

Wren Engine 语义引擎 LLM 可组合数据系统 AI代理 Github 开源项目

Wren Engine是专为大型语言模型（LLM）设计的语义引擎，是Wren AI项目的核心。它注重可嵌入性和互操作性，实现跨AI代理的语义上下文重用，并与各类数据源无缝连接。支持可组合数据系统，提供API接口，兼容云端和本地数据栈，促进AI应用开发。目前为alpha版本，持续更新中。

sglang - 大语言模型和视觉语言模型高效服务框架

GithubSGLang前端语言后端运行时大语言模型开源项目服务框架

SGLang是一款为大语言模型和视觉语言模型设计的服务框架。该框架通过协同优化后端运行时和前端语言，提高了模型交互的速度和可控性。其后端运行时采用前缀缓存、约束解码和连续批处理等技术提升效率。前端语言支持链式生成调用、高级提示、控制流和多模态等功能，增强了灵活性。SGLang适用于各类LLM应用的快速开发和部署。

ai00_server - 基于RWKV模型的高效且易用的推理API服务器

AI00 RWKV ServerChatGPT兼容GithubLLM推理Vulkan加速开源开源项目

AI00 RWKV Server是一款高效且易用的推理API服务器，基于RWKV模型，支持Vulkan兼容的所有GPU进行加速，包括AMD显卡和集成图形。无需依赖庞大的pytorch或CUDA环境，开箱即用，并兼容OpenAI的ChatGPT API接口。此服务器完全开源和商用友好，适用于文本生成、翻译、问答等多种任务，是开发大语言模型应用的理想选择。

TensorRT-LLM - NVIDIA开发的大型语言模型推理优化工具

AI推理GPU加速GithubNVIDIATensorRT-LLM大语言模型开源项目

TensorRT-LLM是一个用于优化大型语言模型推理的开源工具。它提供Python API来定义模型和构建TensorRT引擎，支持多GPU和多节点部署。该工具集成了多种量化技术，如INT4/INT8权重量化和SmoothQuant，以提升性能和降低内存占用。TensorRT-LLM预置了多个常用模型，可根据需求进行修改和扩展。

mmengine - 深度学习训练引擎支持大规模模型训练和多种策略

GithubMMEngineOpenMMLabPyTorch开源项目深度学习训练引擎

MMEngine是基于PyTorch的深度学习模型训练基础库，作为OpenMMLab代码库的训练引擎。它集成主流大规模模型训练框架，支持混合精度训练等多种策略，提供友好的配置系统和主流监控平台支持。MMEngine不仅适用于OpenMMLab项目，还可广泛应用于其他深度学习项目。

Qwen1.5-14B - 基于Transformer的多语言大模型支持32K上下文长度

GithubHuggingfaceQwen1.5多语言支持大规模预训练开源项目模型自然语言处理语言模型

Qwen1.5作为Qwen2的预览版，是一个支持多语言的大规模语言模型。该模型提供多种规模版本，支持长文本理解，具备增强的聊天能力和改进的多语言处理功能。模型在技术架构上采用了先进的Transformer结构，并针对自然语言和代码处理进行了优化。

wunjo.wladradchenko.ru - 集成语音和视觉AI技术的开源创意工具

AI工具GithubWunjo开源项目视频生成语音合成

Wunjo是一款开源的AI创意工具,整合了语音合成、声音克隆、内容重塑和深度伪造动画等功能。该项目提供免费社区版和专业订阅版,适合不同层次用户使用。Wunjo在本地运行,保护用户隐私。2.0版本优化了界面和性能,改进了换脸功能,新增了人脸生成和深度伪造分析等特性。

Qwen2.5-72B-Instruct-GGUF - 新一代多语言模型，提升指令理解与长文本处理

GithubHuggingfaceQwen多语言支持开源项目指令调优模型语言模型长上下文支持

Qwen2.5系列模型通过改进的专家模型，增强编码和数学性能，支持29种语言，提供最长128K的上下文处理与8K tokens的生成能力。其提升的指令跟随与结构化数据生成能力适合多样化系统提示，使聊天机器人更准确。72B模型采用GGUF格式和现代架构技术，提供流畅对话体验。

nm-vllm - 基于vLLM的企业级大语言模型推理引擎

DockerGithubPyPInm-vllmvLLM开源项目模型优化

nm-vllm是Neural Magic维护的企业级大语言模型推理引擎，基于vLLM开发。支持PyPI安装和Docker部署，提供CUDA加速和稀疏化功能，可提高推理效率。项目在Hugging Face上提供多种优化模型，为大规模语言模型部署提供高效解决方案。

mem0 - 为大型语言模型 (LLM) 提供智能、自适应的内存层

GithubMem0个性化AI体验多级记忆大型语言模型开发者友好API开源项目热门

Mem0 通过为大型语言模型（LLMs）提供智能、适应性的内存层，不断利用上下文信息，增强个性化AI体验。这种增强的内存能力对于从客户支持到健康诊断等广泛应用至关重要，使AI能够记住用户偏好、适应个别需求，并持续改进。

cognee - 旨在通过图形、LLMs和向量检索功能，为AI工程师提供精确的输出结果的开源框架

GithubLLMscognee向量检索图数据库开源项目自然语言处理

cognee是一个先进的开源框架，旨在通过图形、LLMs和向量检索功能，为AI工程师提供精确的输出结果。该工具支持自我改进，兼容多种本地配置和存储方案，从而助力AI项目的高效实施和灵活扩展。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com