Project Icon

long-form-factuality

大型语言模型长篇文本事实性评估工具集

Long-form-factuality项目提供了一套完整的工具和方法来评估大型语言模型生成长篇文本的事实准确性。项目包括LongFact提示集、SAFE评估器和F1@K指标。研究人员可以利用这些工具对OpenAI和Anthropic等模型进行基准测试,深入探究语言模型在长篇事实性文本生成方面的表现。项目代码开源,便于复现实验结果和进行further研究。

ToolQA - 评估工具增强型大语言模型的开源数据集
GithubToolQA大语言模型工具增强开源项目数据集评估基准
ToolQA是一个开源数据集,专门用于评估工具增强型大语言模型。数据集涵盖8个领域,包含需要综合使用多个工具解答的问题,分为简单和困难两个级别。ToolQA通过人机协作创建,提供了数据统计、下载链接、工具实现和基准代码,为研究人员评估和改进大语言模型的外部工具使用能力提供全面资源。
chain-of-thought-hub - 大型语言模型复杂推理能力评估基准
Chain-of-ThoughtGithubLLM评估复杂推理能力大语言模型开源项目长文本处理
Chain-of-Thought Hub汇集了数学、科学、符号推理等多个领域的挑战性任务,旨在全面评估大型语言模型的复杂推理能力。该项目通过精选数据集和模型,为语言模型发展提供可靠参考。同时,它将链式思考提示工程视为新一代系统调用,为基于大型语言模型的应用生态系统发展奠定基础。
LLM-eval-survey - 汇集了涵盖自然语言处理、逻辑推理、机器翻译等领域关于大型语言模型(LLMs)的全面评估研究与资源
ChatGPTGithub大型语言模型开源项目自然语言处理论文评估
作为一个独立资源,LLM-eval-survey汇集了关于大型语言模型(LLMs)的全面评估研究与资源。涵盖自然语言处理、逻辑推理、机器翻译等领域,旨在提升对这些先进模型的理解和应用。项目通过多维度的评估方法,助力研究人员和开发者深入探索LLMs的潜力与挑战,推动人工智能技术进步。还定期更新最新研究论文和实用资源,为学术和工业界提供重要信息与工具。
freshqa - 搜索引擎增强技术提升大型语言模型性能
FreshLLMsGithub大语言模型开源项目搜索引擎增强数据集评估方法
FreshLLMs项目开发搜索引擎增强方法,提升大型语言模型性能。核心组件包括FreshQA问答数据集、FreshPrompt回答生成工具和FreshEval自动评估指标。FreshQA每周更新,保持数据时效性。FreshPrompt整合搜索结果生成回答。FreshEval提供客观评估标准。该项目为研究人员提供开放资源,助力提高语言模型的时效性和准确性,推动AI技术创新。
llm_benchmarks - 大语言模型评估基准集合
GithubLLM人工智能开源项目机器学习自然语言处理语言理解
llm_benchmarks是一个全面的大语言模型评估基准集合,涵盖知识理解、推理能力、多轮对话和内容摘要等方面。该项目包含MMLU、ARC、GLUE等知名数据集,用于测试模型在不同任务中的表现。这一标准化工具为评估大语言模型性能提供了可靠依据,有助于相关技术的发展与应用。
xlm-roberta-longformer-base-4096 - 支持超长序列处理的多语言Transformer模型
GithubHuggingfaceWikiText-103XLM-R Longformer低资源语言开源项目模型长序列处理问答任务
该项目结合XLM-R与Longformer模型,提升了对多达4096个标记的处理能力,以提高低资源语言的处理效果。模型在WikiText-103语料库上进行预训练,适用于多语言问答任务。推荐使用NVIDIA Apex和大容量GPU以确保模型性能和效率。项目由Peltarion完成,提供相关代码和训练脚本供开发者参考。
Galactica Demo - 大型语言模型Galactica的研究与开发
AI工具AI研究GalacticaMeta大型语言模型开放透明
Galactica是Meta公司开发的大型语言模型,旨在通过开放、透明和可复现的方式推进AI研究。该模型经过高质量科学和学术数据训练,但可能产生不准确输出。Meta曾发布Galactica演示版以促进公众理解和获取反馈,但因模型可能生成看似真实却不准确的内容而撤下。目前,Galactica仍对研究人员开放,供进一步学习和结果复现。
JudgeLM - 大语言模型开放场景高效评估技术
GithubJudgeLM大语言模型开放式任务开源项目微调模型评估
JudgeLM是一个用于训练和评估大语言模型评判器的开放平台。通过微调技术,该项目实现了对开放场景中大语言模型的高效评估,评判一致性超过人类水平。JudgeLM提供先进的评判器训练和评估代码,能够处理单一回答、多模态模型、多个回答和多轮对话等任务。此外,该平台还集成了分布式多模型服务系统和Web界面,方便用户使用和部署。
RLAIF-V - 多模态大模型对齐的开源AI反馈框架
GithubRLAIF-V人工智能反馈可信性多模态大语言模型开源开源项目
RLAIF-V项目提出了一种新的多模态大模型对齐框架,通过开源AI反馈实现了超越GPT-4V的可信度。该框架利用高质量反馈数据和在线反馈学习算法,有效减少模型幻觉,提高学习效率和性能。项目开源的代码、模型权重和数据集为多模态人工智能研究提供了重要资源。
yet-another-applied-llm-benchmark - 基于真实场景的大语言模型能力评估基准
API密钥Docker容器GithubLLM基准测试开源项目数据流DSL模型评估
yet-another-applied-llm-benchmark是一个评估大语言模型在实际应用场景中表现的基准测试项目。该项目包含近100个源自真实使用情况的测试案例,涵盖代码转换、反编译、SQL生成等多种任务。通过简单的数据流DSL设计测试,项目提供了一个灵活的框架来评估大语言模型的实际能力。这个基准虽不是严格的学术标准,但为开发者提供了衡量大语言模型在日常编程任务中表现的实用方法。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号