wren-engine

专为大型语言模型（LLM）设计的语义引擎

Wren Engine 语义引擎 LLM 可组合数据系统 AI代理 Github 开源项目

Wren Engine是专为大型语言模型（LLM）设计的语义引擎，是Wren AI项目的核心。它注重可嵌入性和互操作性，实现跨AI代理的语义上下文重用，并与各类数据源无缝连接。支持可组合数据系统，提供API接口，兼容云端和本地数据栈，促进AI应用开发。目前为alpha版本，持续更新中。

Qwen2-0.5B - 阿里巴巴推出的高性能开源大语言模型

GithubHuggingfaceQwen2人工智能大语言模型开源项目模型模型评估自然语言处理

Qwen2-0.5B是阿里巴巴发布的新一代大语言模型系列中的0.5B参数版本。该模型在语言理解、生成、多语言能力、编程、数学和推理等多个基准测试中表现优异，性能超越大多数开源模型。Qwen2-0.5B采用改进的Transformer架构，包括SwiGLU激活、注意力QKV偏置和分组查询注意力等技术。作为基础语言模型，Qwen2-0.5B可用于进一步的训练和优化，为开发者和研究人员提供了强大的语言处理基础。

Qwen1.5-1.8B - 多语言大规模语言模型支持32K上下文长度

GithubHuggingfaceQwen1.5人工智能多语言支持大语言模型开源项目模型自然语言处理

Qwen1.5是Qwen2的预览版，基于Transformer架构开发的解码器语言模型。它推出了8种不同规模的模型版本，涵盖0.5B至72B的常规模型和一个14B的MoE模型。相较于前代产品，Qwen1.5在对话系统性能、多语言处理能力和32K长文本理解等方面均有显著改进。技术上，该模型采用了SwiGLU激活函数、注意力机制的QKV偏置和分组查询等创新方法，同时优化了针对多语言和编程代码的分词器。

RWKV_Pytorch - RWKV大语言模型的纯PyTorch推理框架

GithubPyTorchRWKV大语言模型开源开源项目推理框架

RWKV_Pytorch是一个基于纯PyTorch实现的RWKV大语言模型推理框架。该框架支持批量和并行推理，充分发挥RWKV模型性能。其代码结构清晰，便于阅读和二次开发。框架支持ONNX格式模型的导出和推理，提供本地部署选项。未来计划适配香橙派AI Pro开发板，以实现在昇腾生态上推理RWKV模型。当前版本仅兼容RWKV v6模型（x060版本）。

vllm - 高性能与易用性的LLM推理与服务平台

GithubLLM服务PagedAttentionvLLM开源项目量化高吞吐量

vLLM是一个高性能且易用的LLM推理与服务平台，具备PagedAttention内存管理、CUDA/HIP图形加速、量化支持、并行解码算法及流式输出等技术优势。vLLM无缝集成Hugging Face模型，兼容多种硬件设备，支持分布式推理和OpenAI API。最新版本支持Llama 3.1和FP8量化。用户可通过pip安装并参考详细文档快速入门。

InferLLM - 轻量化语言模型推理框架，兼容多种模型格式和设备

GithubInferLLMllama.cpp多模型兼容开源项目模型推理高效率

InferLLM 是一个高效简洁的语言模型推理框架，源于 llama.cpp 项目。主要特点包括结构简单、高性能、易于上手，并支持多模型格式。目前兼容 CPU 和 GPU，可优化 Arm、x86、CUDA 和 riscv-vector，并支持移动设备部署。InferLLM 引入了专有 KVstorage 类型以简化缓存和管理，适合多种应用场景。最新支持的模型包括 LLama-2-7B、ChatGLM、Alpaca 等。

Qwen1.5-4B-Chat - 支持多语种与长上下文的高级语言模型

GithubHuggingfaceQwen1.5Transformer多语言支持开源项目性能提升模型语言模型

Qwen1.5是一种基于变压器架构的语言模型，提供八种型号，支持多语言处理和32K字符的上下文长度。这一版本在聊天模型的人类偏好方面表现显著提升，且不需要信任远程代码。改进涉及高级激活函数、注意力机制和多语言适应分词器。模型已在Hugging Face Transformers库上线，建议使用最新版本以避免可能错误。适用于多种文本生成任务，包含多种量化轻量化模型以满足不同需求。

Qwen1.5-1.8B-Chat - 跨语言能力与性能优化的前沿语音模型

GithubHuggingfaceQwen1.5Transformer结构代码生成多语言支持开源项目模型语言模型

Qwen1.5是Qwen2的测试版本，显著提高了聊天模型的人类偏好性能和多语言支持，并能处理32K上下文长度。其基于Transformer架构，采用了SwiGLU激活函数及多种注意力机制，并改进了分词器以增强多语言和代码适应性。通过数据预训练与后期优化，该模型在对话系统中的表现尤为突出。

Qwen2-7B - 开源大语言模型在多项基准测试中展现优异性能

GithubHuggingfaceQwen2人工智能大语言模型开源项目机器学习模型自然语言处理

Qwen2-7B是新一代Qwen大语言模型系列的7B参数基础版本。该模型在语言理解、生成、多语言处理、编程、数学和推理等多个领域的基准测试中展现出优异表现，不仅超越了大多数开源模型，还与专有模型实力相当。Qwen2-7B基于改进的Transformer架构，引入了SwiGLU激活函数、注意力QKV偏置和组查询注意力等创新技术，并优化了分词器以更好地支持多种自然语言和编程语言。

Qwen2-1.5B-Instruct-AWQ - 探索具备多语言能力和高性能的新一代语言模型

GithubHuggingfaceQwen2多语言能力开源项目性能基准模型训练细节语言模型

Qwen2系列大语言模型在语言理解、生成、多语言处理和推理等多个方面表现出色。Qwen2-1.5B-Instruct模型经过指令微调，相较主流开源和专有模型展现出强竞争力。基于SwiGLU激活和自适应分词器，支持多语言和代码应用。通过Hugging Face Transformers可轻松下载并使用。详细了解性能和速度基准测试的信息请查看相关资料。

wanda - 基于权重和激活的大型语言模型剪枝技术

GithubLLM剪枝Wanda开源项目权重激活模型压缩稀疏性

Wanda是一种针对大型语言模型(LLM)的剪枝技术，通过结合权重大小和输入激活范数来选择性移除权重。相比传统的仅基于权重大小的剪枝方法，Wanda展现出更高的效率。该技术支持LLaMA、LLaMA-2等多种模型，可实现非结构化和结构化稀疏。Wanda方法简单实用，在维持模型性能的同时有效降低参数量，为LLM的轻量化和优化开辟了新途径。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com