Project Icon

instruct-eval

指令调优的大型语言模型的评估和比较

InstructEval项目专注于全面评估和比较指令调优的大型语言模型(如Flan-T5和Alpaca),并提供简便的基准测试库和排行榜。该项目支持多种模型和任务,使研究者能够轻松直观地在学术基准(如MMLU和BBH)上比较模型表现。此外,InstructEval发布了用于评估LLM写作能力的IMPACT数据集和安全评估基准Red-Eval,为用户提供多样的测试工具和资源。

CodeLlama-13B-Instruct-GGUF - 探索GGUF在高效处理与兼容性上的独特优势
CodeLlama 13B InstructGPU加速GithubHuggingface开源项目文本生成模型模型量化编程助手
CodeLlama 13B Instruct项目引入了由llama.cpp团队开发的GGUF格式,提供了比GGML更优的解决方案。在标记分词、特殊标记及元数据支持方面有所改进,并提供多种量化模型选项,从Python到Web UI的广泛兼容性及GPU加速支持,使其成为性能与便捷性的优秀结合。
promptbench - 大语言模型的评估与理解综合工具包
GithubPrompt EngineeringPromptBench大语言模型对抗性提示开源项目评估
基于Pytorch的Python包,提供评估和理解大语言模型的友好API。支持快速模型性能评估、提示工程、对抗性提示评估和动态评估框架。兼容多种模型(如GPT-4、Llama2、BLIP2)和数据集(如GLUE、SQuAD、VQAv2)。适合研究人员和开发者使用与扩展。
Awesome-LLMs-Evaluation-Papers - 大型语言模型评估研究论文综述
GithubLLMs评估大语言模型安全性评估对齐性评估开源项目知识能力评估
该项目汇总了大型语言模型(LLMs)评估领域的前沿研究论文,涵盖知识能力、对齐性和安全性评估等方面。还包括特定领域的LLMs评估和综合评估平台介绍。旨在为研究人员提供全面的LLMs评估资源,推动语言模型的可靠发展,平衡社会效益与潜在风险。
seed-tts-eval - 零样本语音生成评估数据集与度量工具
AI安全GithubTTS开源项目测试集评估指标语音合成
seed-tts-eval是一个开源项目,提供评估零样本语音生成能力的客观测试集。该测试集包含英语和中文公开语料库样本,并配备计算词错误率和说话人相似度的脚本。这套工具主要用于评估语音合成模型在跨语言和零样本场景下的性能。项目采用Common Voice和DiDiSpeech-2数据集,包含3000个测试样本。评估指标包括使用Whisper和Paraformer模型的词错误率,以及基于WavLM的说话人相似度。这些工具有助于客观评估语音合成技术的进展。
Instruct2Act - 利用大语言模型实现多模态指令向机器人操作的映射
GithubInstruct2Act多模态指令大型语言模型开源项目机器人操控零样本方法
Instruct2Act是一种创新框架,通过大语言模型将多模态指令转化为机器人操作。该框架生成Python程序,有效结合感知、规划和动作环节,将复杂指令转化为精准策略代码。在不同场景尤其是桌面操作领域,框架的零样本方法表现优异,超越了许多现有的学习策略。
LLMBox - 全面的大型语言模型训练与评估框架
GithubLLMBox大语言模型开源项目模型评估训练管道高效推理
LLMBox是一个综合性大型语言模型(LLM)库,集成了统一的训练流程和全面的模型评估功能。该框架旨在提供LLM训练和应用的完整解决方案,其设计注重实用性,在训练和使用过程中体现出高度的灵活性和效率。LLMBox支持多样化的训练策略和数据集,提供丰富的评估方法,并具备高效的推理和量化能力,为LLM的研究和开发提供了强大支持。
AlignBench - 多维度评估中文大语言模型对齐性能的基准
AlignBenchGPT-4-0613Github大语言模型对齐水平开源项目评测
AlignBench 是多维度评估中文大语言模型对齐性能的评测基准。最新的 v1.1 版本提供了动态更新的数据、详细评分规则和高质量参考答案,确保评估的可靠性和可解释性。涵盖八大能力类别的数据主要来自真实用户问题,并使用 GPT-4 作为评分模型,通过多维度分析方法系统评估模型性能。
starcoder2-self-align - 自我校准的代码生成大型语言模型
GithubStarCoder2-Instruct代码生成大语言模型开源项目数据生成流水线模型训练
StarCoder2-15B-Instruct-v0.1是一款完全自我校准的代码生成大型语言模型,采用公开透明的工作流程,无需人工注释或专有数据。模型通过生成大量指令-响应对,进一步微调自身。专为Python代码生成任务优化,支持语法验证和定制排序。提供详细的训练和评估信息,包括数据生成、模型优化和性能验证,适用于多种编程任务。模型强调透明度和开放许可,提升代码生成的准确性和效率。
TrustLLM - TrustLLM:全面大语言模型可信度研究工具
GithubICML 2024LLMTrustLLM工具包开源项目性能评估
TrustLLM是一款专注于评估大型语言模型(LLMs)可信度的工具包。涵盖八个维度的可信度原则,并在真相、安全、公平、鲁棒性、隐私和机器伦理等方面建立基准。TrustLLM提供便捷的评估工具,可以快速评估16种主流LLMs,帮助开发者提升模型可信度。项目已被ICML 2024接受,并持续更新以包括最新的模型和功能。详情请访问项目网站。
RoleLLM-public - 评估与提升大语言模型角色扮演能力的框架
GithubRoleLLM基准测试大语言模型开源项目微调角色扮演
RoleLLM框架旨在评估和增强大语言模型的角色扮演能力。该框架包含RoleBench数据集、Context-Instruct知识提取方法、RoleGPT风格模仿技术和RoCIT微调策略。通过这些组件,RoleLLM显著提升了开源模型的角色扮演表现,在某些方面达到了与GPT-4相当的水平。这一框架为大语言模型在角色扮演任务中的应用提供了新的研究方向。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号