ZeroEval

统一评估框架测试语言模型零样本推理

ZeroEval 语言模型评估零样本学习任务性能 AI框架 Github 开源项目

ZeroEval是一个评估语言模型零样本推理能力的统一框架。它通过控制提示、采样和输出解析等因素，在MMLU、GSM等任务上测试指令微调模型的性能。该框架要求模型以JSON格式输出推理过程和答案，并持续扩展评估任务范围。

simple-evals - 开源轻量级语言模型评估库展示AI性能数据

APIGithubOpenAIlanguage models开源项目简单评估库评估

simple-evals是一个开源的轻量级语言模型评估库，用于展示AI模型的准确性数据。该库采用零样本链式思维方法，包含MMLU、MATH、GPQA等评估任务，并支持OpenAI和Claude等API接口。simple-evals为研究人员和开发者提供了评估和比较不同语言模型性能的工具，反映模型在实际应用中的表现。

T-Eval - 分步骤评估大语言模型工具使用能力的基准测试框架

GithubT-Eval基准测试大语言模型工具使用能力开源项目评估

T-Eval是一个评估大语言模型工具使用能力的基准测试框架。它将评估过程分解为指令遵循、规划、推理、检索、理解和审查等多个子过程，实现了细粒度分析。该项目提供英文和中文评测数据集、测试脚本和排行榜。T-Eval为研究人员和开发者提供了一个深入分析语言模型工具使用能力的新方法。

deepeval - 简化LLM输出评估的开源框架

AI测试DeepEvalGithubLLM评估开源框架开源项目指标评估

DeepEval是一款开源的大型语言模型(LLM)输出评估框架。它提供G-Eval、幻觉检测和答案相关性等多种评估指标，支持本地运行。该框架适用于RAG和微调应用，可与LangChain和LlamaIndex等工具集成。DeepEval具备批量评估、自定义指标创建功能，易于集成到CI/CD环境。此外，它还支持对主流LLM基准进行简易评估，并可与Confident AI平台对接，实现持续评估和结果分析。

evalverse - 开源大语言模型评估工具集

AI研究EvalverseGithubLLM评估开源项目评估报告

Evalverse是一个开源的大语言模型评估工具集，提供统一、标准化的评估解决方案。支持多种评估方法，可无代码进行评估并生成报告。通过子模块扩展评估能力，集成lm-evaluation-harness和FastChat等框架。生成的详细报告包含分数、排名和可视化，便于比较不同模型性能。适用于AI研究人员及LLM领域新手。

evals - 开源框架助力大型语言模型性能评估

API密钥Git-LFSGithubLLM评估OpenAI Evals开源项目评估框架

evals是一个开源框架，用于评估大型语言模型(LLM)及其衍生系统。该框架提供评估注册表，支持测试OpenAI模型的多个维度，同时允许用户创建自定义评估。开发者可利用私有数据构建评估，无需公开敏感信息。evals能够帮助开发者深入分析不同模型版本对特定应用场景的影响，对LLM开发过程具有重要价值。

llmeval-1 - 系统评估中文大语言模型的创新研究项目

GithubLLMEVAL-1大模型大语言模型评测开源项目排行榜评测方法

LLMEVAL-1项目致力于系统研究大语言模型评价方法。该项目涵盖17个大类、453个问题，内容包括事实性问答、阅读理解和框架生成等多个领域。评测采用分项和对比两种方式，从正确性、流畅性、信息量、逻辑性和无害性五个维度进行。LLMEVAL-1通过结合众包和专业评测，为中文大语言模型提供了全面、客观的评估基准。

ceval - 全面评估中文大语言模型能力的基准测试

C-EvalGithub中文评测基础模型多选题学科分类开源项目

C-Eval是一个综合性中文基础模型评估套件，涵盖52个学科和4个难度级别的13948道多选题。该项目通过零样本和少样本评估，展示了主流模型在STEM、社会科学和人文学科等领域的表现。C-Eval旨在帮助开发者追踪模型进展并分析其优缺点。研究者可通过官方网站或相关论文获取详细信息，并利用提供的数据和方法评估自己的模型。

lm-evaluation-harness - 统一测试生成式语言模型的多任务评估框架

GPT-NeoXGithubHugging FaceLanguage Model Evaluation HarnessOpen LLM LeaderboardvLLM开源项目

该项目提供统一框架，用于评估生成式语言模型，通过60多个标准学术基准和数百个子任务实现多样化测试。更新包括新的Open LLM Leaderboard任务、内部重构、基于配置的任务创建、Jinja2提示设计支持等高级配置选项，旨在简化和优化模型评估。支持快速高效推理、商业API、本地模型和基准测试。被广泛应用于机构如NVIDIA、Cohere、BigScience等，也支撑了🤗 Hugging Face的Open LLM Leaderboard。

UHGEval - 中文大语言模型无约束生成幻觉评估基准

Eval SuiteGithubUHGEval中文评估基准大语言模型幻觉评估开源项目

UHGEval是一个评估中文大语言模型在无约束生成任务中幻觉现象的基准。该项目基于文本生成和幻觉收集，融合自动标注与人工审核。UHGEval提供判别式、生成式和选择式等多种评估方法。项目还包含Eval Suite评估框架，支持多个幻觉评估基准，可全面评估单个大语言模型的表现。

seed-tts-eval - 零样本语音生成评估数据集与度量工具

AI安全GithubTTS开源项目测试集评估指标语音合成

seed-tts-eval是一个开源项目，提供评估零样本语音生成能力的客观测试集。该测试集包含英语和中文公开语料库样本，并配备计算词错误率和说话人相似度的脚本。这套工具主要用于评估语音合成模型在跨语言和零样本场景下的性能。项目采用Common Voice和DiDiSpeech-2数据集，包含3000个测试样本。评估指标包括使用Whisper和Paraformer模型的词错误率，以及基于WavLM的说话人相似度。这些工具有助于客观评估语音合成技术的进展。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com