Project Icon

lmms-eval

大规模多模态模型评估框架加速AI发展

lmms-eval是专为大规模多模态模型(LMMs)设计的评估框架,整合多种基准和数据集,提供一致高效的评估方法。支持图像、视频等多模态任务,简化评估流程,加速模型开发和性能比较。该框架为研究人员提供灵活工具,助力理解和改进LMMs能力,推动人工智能向通用人工智能(AGI)发展。lmms-eval旨在成为加速LMMs发展的重要生态系统组件。

alpaca_eval - 精确且成本低的指令追随语言模型自动评估工具
AlpacaEvalGPT-4Githubinstruction-following开源项目自动评价评估
AlpacaEval是一款基于LLM的自动评估工具,针对指令追随模型(如ChatGPT)的评估,具备快速、低成本和高度人类相关性(0.98)的特点。主要功能包括模型排行榜、自动评估器、评估器构建工具包及20K人工偏好数据。AlpacaEval 2.0通过长度控制胜率,提高了与ChatBot Arena的对应性,适合模型开发阶段的快速评估。
llm-engine - 自定义和部署大语言模型的开源解决方案
GithubLLM EngineScale大语言模型开源项目推理API模型微调
LLM Engine是一款Python库、CLI和Helm图表,能够在Scale托管基础设施或自有Kubernetes云中自定义和部署基础模型。支持LLaMA、MPT和Falcon等开源基础模型的API部署和服务,并允许在自有数据上微调以优化性能。该引擎优化推理功能和开源集成,提高部署和微调效率,未来还将提供K8s安装文档和快速冷启动时间。
llm-colosseum - 通过街头霸王对决实时评估LLMs的AI战斗力
ELO排名GithubLLM战斗Mistral 7BStreet Fighter III实时对决开源项目
llm-colosseum利用街头霸王III平台让LLMs展开对战,评测它们的快速决策和策略适应。各模型根据表现获取ELO评分,通过模拟真实对战环境,探索不同LLM在实际竞技表现。项目创设新型基准测试,通过实战对比加深对LLM竞技性和响应智能的了解。
llmperf-leaderboard - LLM推理服务性能基准测试与比较
GithubLLMPerfLLM推理提供商吞吐量响应时间开源项目性能基准测试
LLMPerf Leaderboard 项目对多家LLM推理服务进行性能评测,主要衡量输出令牌吞吐量和首个令牌响应时间(TTFT)。测试涵盖Llama-2系列的7B、13B和70B聊天模型,为开发者提供客观透明的性能数据和可复现的测试方法,有助于选择合适的LLM服务。
LLaMA-VID - 支持长视频处理的多模态大语言模型
GithubLLaMA-VID多模态大语言模型开源项目视觉语言模型视频理解
LLaMA-VID是一个新型多模态大语言模型,可处理长达数小时的视频。它通过增加上下文令牌扩展了现有框架的能力,采用编码器-解码器结构和定制令牌生成策略,实现对图像和视频的高效理解。该项目开源了完整的模型、数据集和代码,为视觉语言模型研究提供了有力工具。
awesome-LLMs-In-China - 中国AI大模型全面收录及发展动态
ChatGLMGithubLLaMA人工智能大模型开源开源项目
这个项目系统收录了中国AI大模型的详细信息,涵盖机构、来源和分类等。通过持续更新,记录各类大模型的发展动态,包括百度文心一言、阿里通义千问等知名通用模型,以及医疗、金融等专业领域模型。项目还提供评测数据集和开源基础模型列表,为研究中国AI发展提供全面参考。
LLaMA2-Accessory - 全方位开源工具助力大规模语言与多模态模型研发
GithubLLaMA2-Accessory多模态大语言模型开源项目微调预训练
LLaMA2-Accessory是一个全面的开源工具包,专注于大规模语言模型和多模态语言模型的开发。该工具支持预训练、微调和部署,涵盖多种数据集和任务类型。工具包提供高效的优化和部署方法,并兼容多种视觉编码器和语言模型。其中还包含SPHINX,这是一个融合多种训练任务、数据领域和视觉嵌入的多功能多模态大型语言模型。
Q-Bench - 评测多模态大语言模型的低层视觉能力
GithubICLR2024Q-Bench低层视觉基准测试多模态大语言模型开源项目
Q-Bench是一个评估多模态大语言模型低层视觉能力的基准测试。它通过感知、描述和评估三个领域,使用LLVisionQA和LLDescribe数据集测试模型性能。该项目采用开放式评估框架,支持研究者提交结果或模型。Q-Bench对比了开源和闭源模型的表现,并与人类专家水平进行对照,为深入理解和提升多模态AI的基础视觉处理能力提供了关键洞察。
llmc - 开源工具压缩大型语言模型提升效率
GithubLLMCLLM压缩剪枝开源项目性能优化量化
llmc是一个压缩大型语言模型的开源工具,采用先进压缩算法提高效率和减小模型体积。它支持多种LLM和压缩方法,可在单GPU上量化评估大模型,兼容多种推理后端。项目提供LLM量化基准,帮助用户选择合适的压缩策略。
MultiBench - 多模态学习的多尺度标准基准
BenchmarkGithubMultiBenchMultimodal学习开源项目数据集深度学习
MultiBench是一个系统化、统一的大规模基准,用于多模态表征学习,覆盖15个数据集、10种模态、20个预测任务和6个研究领域。它提供自动化的端到端机器学习管道,简化数据加载、实验设置和模型评估,确保在真实世界中的适用性和鲁棒性。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号