UHGEval

中文大语言模型无约束生成幻觉评估基准

UHGEval 大语言模型幻觉评估中文评估基准 Eval Suite Github 开源项目

UHGEval是一个评估中文大语言模型在无约束生成任务中幻觉现象的基准。该项目基于文本生成和幻觉收集，融合自动标注与人工审核。UHGEval提供判别式、生成式和选择式等多种评估方法。项目还包含Eval Suite评估框架，支持多个幻觉评估基准，可全面评估单个大语言模型的表现。

trulens - 神经网络评估与解释工具，支持大语言模型开发与监控

GithubTruLensTruLens-EvalTruLens-Explain开源项目深度学习神经网络

TruLens 提供开发和监控神经网络的工具，特别是大语言模型。TruLens-Eval 可系统性评估和跟踪LLM应用，帮助识别和改进性能；TruLens-Explain 提供跨框架的深度学习可解释性，支持TensorFlow、PyTorch和Keras。查看官方文档以获取快速安装和使用指南，帮助开发者高效构建与优化模型应用。

gte-large-zh - 中文语义相似度与检索的卓越表现模型

GithubHuggingfaceMTEBgte-large-zhsentence-transformers开源项目模型自然语言处理语义相似度

gte-large-zh模型在MTEB中文基准测试中表现突出，涵盖句子相似度、文本分类、聚类、重排序和检索等多个任务。该模型在CMNLI和JDReview等数据集上的准确率超过80%，为中文自然语言处理应用提供了稳定的语义理解基础。

RLHF-V - 通过细粒度反馈优化多模态大语言模型

GithubRLHF-V人类反馈多模态大语言模型幻觉减少开源项目行为对齐

RLHF-V框架通过细粒度的人类纠正反馈来优化多模态大语言模型的行为。该项目收集高效的纠正反馈数据,让标注者修正模型回答中的幻觉片段。实验表明,仅需1小时训练即可将基础模型的幻觉率降低34.8%。RLHF-V在Muffin模型上的验证展示了显著的性能提升,有效提高了模型的可信度。

helm - 全面评估语言模型和文本图像模型的开源框架

GithubHEIMHELMStanford CRFM开源项目文本生成图像模型语言模型评估

HELM是一个开源的评估框架，用于全面分析语言模型和文本到图像模型的性能。该框架提供标准化数据集、统一模型接口和多维度评估指标。HELM不仅关注准确性，还评估效率、偏见和毒性等方面。对于文本到图像模型，HELM涵盖12个关键评估维度，包括图像质量、推理能力和多语言支持。研究人员可借助HELM深入了解模型的优势和潜在风险。

SuperCLUE - 中文大模型综合能力评估基准

GithubSuperCLUE中文大模型人工智能开源项目评测基准语言模型

SuperCLUE是针对中文大语言模型的综合评测基准，从语言理解生成、专业知识、智能体和安全四个维度评估12项基础能力。包含开放问题、客观题测评及AI Agent能力评估，为中文大模型发展提供全面客观的参考标准。

JudgeLM - 大语言模型开放场景高效评估技术

GithubJudgeLM大语言模型开放式任务开源项目微调模型评估

JudgeLM是一个用于训练和评估大语言模型评判器的开放平台。通过微调技术，该项目实现了对开放场景中大语言模型的高效评估，评判一致性超过人类水平。JudgeLM提供先进的评判器训练和评估代码，能够处理单一回答、多模态模型、多个回答和多轮对话等任务。此外，该平台还集成了分布式多模型服务系统和Web界面，方便用户使用和部署。

MMMU - 多学科多模态理解与推理基准评估专家级AGI

GPT-4V(ision)GithubMMMU专家AGI基准测试多模态理解开源项目

MMMU是一个新型基准测试，设计用于评估多模态模型在多学科任务中的表现，特别是需要大学水平的学科知识和深思熟虑的推理能力。该基准包含11.5K道来自大学考试、测验和教材的多模态题目，覆盖艺术设计、商业、科学、健康医学、人文社会科学及技术工程六大领域。不同于现有基准，MMMU专注于高级感知和领域特定知识的推理，挑战模型执行专家级任务。评估14个开源LMM和GPT-4V(ision)显示，即使是最先进的模型其准确率仅为56%，表明有巨大改进空间。

sql-eval - 开源SQL生成质量评估框架

API集成GithubSQL评估开源项目性能优化数据库查询生成

sql-eval是一个开源项目，提供全面的SQL生成质量评估框架。它基于Spider数据集schema，包含精选问题和查询。支持PostgreSQL、Snowflake等多种数据库，可集成OpenAI、Anthropic API及本地Hugging Face模型。通过比较生成查询与标准查询结果评估性能，为SQL生成模型开发和优化提供支持。

MMBench - 全面评估多模态大模型能力的基准测试

GithubMMBench多模态模型开源项目循环评估视觉语言模型评估基准

MMBench是评估视觉语言模型多模态理解能力的基准测试集。它包含近3000道多项选择题,涵盖20个能力维度,采用循环评估和LLM选项提取等创新方法,提供可靠客观的评估。通过细粒度的能力测试和可重复的评价标准,MMBench为多模态模型开发提供了有价值的反馈。

LLMGA - 用于精确图像生成和编辑的多模态大语言模型

ECCV2024GithubLLMGA图像生成多模态大模型开源项目

LLMGA基于多模态大语言模型，提供图像生成与编辑解决方案。结合Stable Diffusion和详细语言生成提示，项目提升了上下文理解并减少生成过程中的噪音，增强图像内容的精度。LLMGA支持文本到图像（T2I）、补画、扩画及指令编辑，适用于Logo设计、海报制作和故事绘本生成，支持中英文指令。广泛的模型和数据集选择满足不同需求，是理想的图像生成和编辑助手。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com