llmperf-leaderboard

LLM推理服务性能基准测试与比较

LLMPerf LLM推理提供商性能基准测试吞吐量响应时间 Github 开源项目

LLMPerf Leaderboard 项目对多家LLM推理服务进行性能评测，主要衡量输出令牌吞吐量和首个令牌响应时间(TTFT)。测试涵盖Llama-2系列的7B、13B和70B聊天模型，为开发者提供客观透明的性能数据和可复现的测试方法，有助于选择合适的LLM服务。

文档

llm-colosseum - 通过街头霸王对决实时评估LLMs的AI战斗力

ELO排名GithubLLM战斗Mistral 7BStreet Fighter III实时对决开源项目

llm-colosseum利用街头霸王III平台让LLMs展开对战，评测它们的快速决策和策略适应。各模型根据表现获取ELO评分，通过模拟真实对战环境，探索不同LLM在实际竞技表现。项目创设新型基准测试，通过实战对比加深对LLM竞技性和响应智能的了解。

exllama - 为现代GPU优化的快速内存高效Llama实现

AI模型CUDAExLlamaGPU加速Github开源项目深度学习

ExLlama是一个基于Python/C++/CUDA的独立实现,针对4位GPTQ权重进行了优化,旨在提高现代GPU上的运行速度和内存效率。该项目支持NVIDIA 30系列及更新的GPU,可处理Llama、Koala和WizardLM等多种大型语言模型。ExLlama具备基准测试、聊天机器人示例和Web界面等功能,同时支持Docker部署。尽管仍在开发中,项目已展现出卓越的性能和效率。

llama3-chinese - 基于Meta-Llama-3-8B的中英双语大语言模型

GithubLlama3-Chinese人工智能大语言模型开源项目自然语言处理

Llama3-Chinese是基于Meta-Llama-3-8B训练的中英双语大语言模型。该项目使用高质量多语言数据和先进训练方法，提升了模型的对话能力。项目提供完整的模型使用指南，包括下载、合并、推理和部署，并配有Web和CLI演示，方便研究者和开发者使用。

AgentBench - 全面评估大型语言模型在多环境下的自主代理能力

AgentBenchGithubLLM-as-Agent任务设置开源项目测试结果评估框架

AgentBench是首个评估大型语言模型（LLM）作为自主代理的基准，涵盖操作系统、数据库、知识图谱等8个不同环境。该项目通过多任务设置和完整的数据集，深入分析LLM的实际应用能力。新版AgentBench v0.2优化了框架结构，并增加了更多模型的测试结果，方便开发者扩展和使用。

open_llama_3b_v2 - 高性能开源大型语言模型复现LLaMA

GithubHuggingfaceOpenLLaMA大语言模型开源复现开源项目性能评估模型模型权重

OpenLLaMA是一个复现Meta AI的LLaMA大型语言模型的开源项目。它提供3B、7B和13B三种规模的模型，使用开源数据集训练了1万亿个标记。该项目采用与原始LLaMA相同的预处理和训练参数，在多项评估中表现出色。OpenLLaMA提供PyTorch和JAX格式的预训练权重，遵循Apache 2.0许可证发布。

Meta-Llama-3-70B - Meta发布Llama 3开源大语言模型系列

GithubHuggingfaceLlama 3Meta人工智能大型语言模型开源项目模型自然语言处理

Meta推出Llama 3大语言模型系列,包含8B和70B参数规模的预训练和指令微调版本。模型在对话任务中表现出色,性能超越多个现有开源聊天模型。Llama 3采用优化的Transformer架构,使用公开在线数据训练,注重提升模型的实用性和安全性。该模型适用于英语商业和研究用途,Meta提供了使用说明、评估结果及负责任的AI开发实践指南。

Llama-3.1-405B - Meta开发的多语言大规模语言模型集合,支持商业和研究使用

GithubHuggingfaceLlama 3.1人工智能多语言大语言模型开源项目模型自然语言处理

Llama 3.1是Meta开发的多语言大型语言模型系列,提供8B、70B和405B三种规模。模型采用优化的Transformer架构,支持128k上下文长度,使用分组查询注意力机制提升推理效率。经指令微调后,可用于多语言对话等场景,在行业基准测试中表现出色。支持8种语言,适用于商业和研究用途,如助手式聊天和自然语言生成等任务。

RouteLLM - LLM查询智能路由框架优化资源分配与响应质量

GithubLLM路由OpenAI兼容RouteLLM开源项目性能评估成本优化

RouteLLM是一个用于服务和评估大语言模型路由器的开源框架。它根据查询复杂度将请求智能分配至不同语言模型，在保持响应质量的同时降低成本。框架提供预训练路由器，可将成本降低85%，同时保持95%的GPT-4性能。RouteLLM支持新路由器添加和跨基准性能比较，为LLM应用提供灵活高效的解决方案。

Llama-Chinese - Llama大模型中文社区

GithubLlama3Llama中文社区中文预训练模型开源项目模型微调社区活动

Llama中文社区致力于提供最先进的Llama中文模型优化技术，透过持续更新的Llama2和Llama3模型，支持更精准的中文处理。社区集结全球开发者与研究者，通过丰富的在线活动、专业讲座和技术交流，共同推动中文自然语言处理技术的创新与进步。Llama中文模型在技术进步和中文自然语言处理创新方面的影响。

TinyLlama - 3万亿token训练的小型1.1B参数语言模型

AI预训练GithubTinyLlama开源项目模型评估语言模型

TinyLlama是一个使用3万亿token预训练的1.1B参数语言模型。它与Llama 2架构兼容,可集成到现有Llama项目中。TinyLlama体积小巧,适用于计算和内存受限的场景。该项目开源了预训练和微调代码,具有高效的训练和推理性能。TinyLlama可应用于推测解码、边缘计算和实时对话等领域。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com