lm-evaluation-harness

统一测试生成式语言模型的多任务评估框架

Language Model Evaluation Harness Open LLM Leaderboard GPT-NeoX Hugging Face vLLM Github 开源项目

该项目提供统一框架，用于评估生成式语言模型，通过60多个标准学术基准和数百个子任务实现多样化测试。更新包括新的Open LLM Leaderboard任务、内部重构、基于配置的任务创建、Jinja2提示设计支持等高级配置选项，旨在简化和优化模型评估。支持快速高效推理、商业API、本地模型和基准测试。被广泛应用于机构如NVIDIA、Cohere、BigScience等，也支撑了🤗 Hugging Face的Open LLM Leaderboard。

访问官网

Github

Huggingface

介绍相关项目

simple-evals - 开源轻量级语言模型评估库展示AI性能数据

APIGithubOpenAIlanguage models开源项目简单评估库评估

simple-evals是一个开源的轻量级语言模型评估库，用于展示AI模型的准确性数据。该库采用零样本链式思维方法，包含MMLU、MATH、GPQA等评估任务，并支持OpenAI和Claude等API接口。simple-evals为研究人员和开发者提供了评估和比较不同语言模型性能的工具，反映模型在实际应用中的表现。

LiteLLM - 多语言模型的统一API管理和负载均衡解决方案

AI工具API统一LLM代理LiteLLM企业级服务开源

LiteLLM是一个代理服务器，为100多种大型语言模型提供统一API接口。它支持负载均衡、故障转移和支出跟踪，采用OpenAI格式。该工具简化了认证、资源分配和成本控制。LiteLLM提供开源和企业级解决方案，适用于不同规模组织。它拥有大量Docker下载量和请求服务量，得到众多贡献者支持。

ChatEval - 使用多智能体辩论改进大语言模型评估

ChatEvalGithubLLM人工智能多智能体辩论开源项目文本评估

ChatEval项目通过多智能体辩论方式改进大语言模型(LLM)的评估过程。该项目让多个LLM扮演不同角色，自主讨论和评判生成文本，简化了人工评估流程。ChatEval提供互动演示平台，用户可比较不同模型回答，并观察LLM裁判如何评估。这种方法提高了评估的客观性和透明度，为改进LLM性能提供了有价值的见解。

BIG-bench - 评估大型语言模型能力的开放基准

BIG-benchGithub任务创建基准测试开源项目模型评估语言模型

BIG-bench是一个开放的基准测试项目，致力于评估大型语言模型的能力并预测其未来发展。该项目包含200多个多样化任务，涉及算术、推理等多个领域。研究人员可通过JSON或编程方式贡献新任务，并利用公开模型进行评估。BIG-bench Lite作为24个精选任务的子集，提供了高效的模型性能评估方法。这一平台为深入研究语言模型能力提供了宝贵资源。

llama-3.1-openhermes-tr - 高效训练和优化的Llama模型应用

GithubHuggingfaceUnslothllamatransformers开源项目模型模型训练

这个开源项目演示了如何利用Unsloth框架和Huggingface的TRL库，加速Llama模型的训练过程。该模型专为文本生成和问答优化，具备高效的执行能力。尤其适用于需快速处理大规模文本数据的场景，如自然语言处理和人工智能开发。通过Python，用户可以简单地加载并使用模型，以实现高效的内容生成。该项目为技术指导和内容创作提供了高效、高质量的解决方案。

llm - 大型语言模型CLI工具，支持本地和远程模型

GithubLLMPython库命令行工具开源项目插件模型

一款CLI工具和Python库，用于与大型语言模型交互，支持远程API和本地安装模型。可从命令行运行提示、将结果存储在SQLite中、生成嵌入等。通过插件目录，可访问更多模型。

EasyLM - 简化的大规模语言模型训练与部署

EasyLMGPT-JGithubJAXLLaMATPU开源项目

EasyLM提供了一站式解决方案，用于在JAX/Flax中预训练、微调、评估和部署大规模语言模型。通过JAX的pjit功能，可以扩展到数百个TPU/GPU加速器。基于Hugginface的transformers和datasets，EasyLM代码库易于使用和定制。支持Google Cloud TPU Pods上的多TPU/GPU和多主机训练，兼容LLaMA系列模型。推荐加入非官方的Discord社区，了解更多关于Koala聊天机器人和OpenLLaMA的详细信息及安装指南。

vllm - 高性能与易用性的LLM推理与服务平台

GithubLLM服务PagedAttentionvLLM开源项目量化高吞吐量

vLLM是一个高性能且易用的LLM推理与服务平台，具备PagedAttention内存管理、CUDA/HIP图形加速、量化支持、并行解码算法及流式输出等技术优势。vLLM无缝集成Hugging Face模型，兼容多种硬件设备，支持分布式推理和OpenAI API。最新版本支持Llama 3.1和FP8量化。用户可通过pip安装并参考详细文档快速入门。

Llama-3.2-3B - 利用优化技术实现提速和内存节省的开源语言模型项目

GithubHuggingfaceLlama 3.2多语言处理大语言模型开源项目模型模型微调算力优化

这是一个基于Unsloth技术的大型语言模型优化项目。支持8种官方语言，采用改进的transformer架构和GQA技术。训练速度提升2.4倍，内存使用减少58%。提供Google Colab环境，支持对话、文本补全等场景的模型微调，适合各级用户。该项目基于Meta的原始模型，遵循社区许可协议。

LongBench - 双语长文本理解多任务评估

GithubLongBench多语言大模型开源项目评估长文本理解

LongBench首次为大语言模型的长文本理解能力提供双语、多任务的全面评估基准。它覆盖中文和英文，包含六大类共21种任务，适用于单文档QA、多文档QA、摘要提取、少样本学习、合成任务和代码补全等场景。该项目提供自动化评估方法以降低成本，并涵盖平均长度为5k至15k的测试数据。同时，LongBench-E测试集通过统一采样，分析模型在不同输入长度的性能表现。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号