Project Icon

MMVP

探索多模态大语言模型的视觉局限

MMVP基准测试揭示了多模态大语言模型在视觉理解方面的局限。即使是顶尖模型也难以准确完成基本视觉定位任务。项目开发的Interleaved-MoF模型旨在改善这些问题。MMVP还提供了开放的评估工具和数据集,为多模态AI技术的发展做出了贡献。

VisionLLM - 面向视觉任务的开放式多模态大语言模型
GithubVisionLLM人工智能多模态大语言模型开源项目视觉语言任务计算机视觉
VisionLLM 系列是一种多模态大语言模型,专注于视觉相关任务。该模型利用大语言模型作为开放式解码器,支持数百种视觉语言任务,包括视觉理解、感知和生成。VisionLLM v2 进一步提升了模型的通用性,扩展了其在多模态应用场景中的能力,推动了计算机视觉与自然语言处理的融合。
MMStar - 大型视觉语言模型评估的新标准
GithubMMStar人工智能基准测试多模态评估开源项目视觉语言模型
MMStar是一个创新的多模态评估基准,包含1500个精选的视觉关键样本。它解决了现有评估中的视觉冗余和数据泄露问题,提高了多模态性能评估的准确性。MMStar涵盖6大核心能力和18个细分维度,每个核心能力均衡分配250个样本。项目提供评估工具、数据集和在线排行榜,为视觉语言模型研究指明新方向。
ViP-LLaVA - 改进大型多模态模型的视觉提示理解能力
CVPR2024GithubViP-LLaVA多模态模型开源项目视觉提示视觉语言模型
ViP-LLaVA项目旨在提升大型多模态模型对任意视觉提示的理解能力。通过在原始图像上叠加视觉提示进行指令微调,该方法使模型能更好地处理多样化的视觉输入。项目还开发了ViP-Bench,这是首个零样本区域级基准,用于评估多模态模型性能。ViP-LLaVA提供完整的训练流程、模型权重和演示,为视觉语言模型研究提供了有力支持。
MMBench - 全面评估多模态大模型能力的基准测试
GithubMMBench多模态模型开源项目循环评估视觉语言模型评估基准
MMBench是评估视觉语言模型多模态理解能力的基准测试集。它包含近3000道多项选择题,涵盖20个能力维度,采用循环评估和LLM选项提取等创新方法,提供可靠客观的评估。通过细粒度的能力测试和可重复的评价标准,MMBench为多模态模型开发提供了有价值的反馈。
MMMU - 多学科多模态理解与推理基准评估专家级AGI
GPT-4V(ision)GithubMMMU专家AGI基准测试多模态理解开源项目
MMMU是一个新型基准测试,设计用于评估多模态模型在多学科任务中的表现,特别是需要大学水平的学科知识和深思熟虑的推理能力。该基准包含11.5K道来自大学考试、测验和教材的多模态题目,覆盖艺术设计、商业、科学、健康医学、人文社会科学及技术工程六大领域。不同于现有基准,MMMU专注于高级感知和领域特定知识的推理,挑战模型执行专家级任务。评估14个开源LMM和GPT-4V(ision)显示,即使是最先进的模型其准确率仅为56%,表明有巨大改进空间。
Video-MME - 全面评估多模态大语言模型视频分析能力的基准
GithubVideo-MME人工智能基准评估多模态大语言模型开源项目视频分析
Video-MME是一个创新的多模态评估基准,用于评估大语言模型的视频分析能力。该项目包含900个视频和2,700个人工标注的问答对,覆盖多个视觉领域和时间跨度。其特点包括视频时长多样性、类型广泛性、数据模态丰富性和高质量标注。Video-MME为研究人员提供了一个全面评估多模态大语言模型视频理解能力的工具。
Awesome-Multimodal-Large-Language-Models - 多模态大语言模型研究资源与最新进展汇总
Github多模态大语言模型开源项目指令微调模型评估视觉语言模型视频理解
该项目汇总了多模态大语言模型(MLLMs)领域的最新研究成果,包括论文、数据集和评估基准。涵盖多模态指令微调、幻觉、上下文学习等方向,提供相关代码和演示。项目还包含MLLM调查报告及MME、Video-MME等评估基准,为研究人员提供全面参考。
mmf - 多模态视觉与语言研究平台
Facebook AI研究GithubMMFPyTorch多模态研究开源项目热门视觉与语言
MMF是Facebook AI Research开发的用于视觉与语言多模态研究的模块化框架,支持PyTorch,提供分布式训练功能。该框架包括最新的视觉和语言模型实现,并已支持多项Facebook AI研究项目。MMF也是各类视觉和语言数据集挑战赛(如Hateful Memes、TextVQA、TextCaps和VQA挑战赛)的首选代码基础。
LVM - 大规模视觉模型的创新顺序建模方法
GithubLVM大规模视觉模型序列建模开源项目视觉句子视觉预训练模型
LVM是一种创新视觉预训练模型,将多种视觉数据转化为视觉句子,并进行自回归式标记预测。该模型采用顺序建模方法,无需语言数据即可学习大规模视觉模型。通过设计视觉提示,LVM可解决多种视觉任务。兼容GPU和TPU,为大规模视觉模型学习提供新方法。
Multimodal-AND-Large-Language-Models - 多模态与大语言模型前沿研究综述
Github人工智能多模态大语言模型开源项目机器学习视觉语言模型
本项目汇总了多模态和大语言模型领域的最新研究进展,涵盖结构化知识提取、事件抽取、场景图生成和属性识别等核心技术。同时探讨了视觉语言模型在推理、组合性和开放词汇等方面的前沿问题。项目还收录了大量相关综述和立场文章,为研究人员提供全面的领域概览和未来方向参考。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号