Project Icon

Video-MME

全面评估多模态大语言模型视频分析能力的基准

Video-MME是一个创新的多模态评估基准,用于评估大语言模型的视频分析能力。该项目包含900个视频和2,700个人工标注的问答对,覆盖多个视觉领域和时间跨度。其特点包括视频时长多样性、类型广泛性、数据模态丰富性和高质量标注。Video-MME为研究人员提供了一个全面评估多模态大语言模型视频理解能力的工具。

Make-Your-Video - 结合文本和深度信息的智能视频生成模型
AI模型GithubMake-Your-Video开源项目深度学习视频生成计算机视觉
Make-Your-Video是一个结合文本和深度信息的视频生成模型。它继承了图像潜在扩散模型的丰富视觉概念,支持长视频推理。该模型可将真实场景和3D建模场景转化为视频,并支持视频重渲染。相比其他方法,Make-Your-Video在视觉质量和动作控制方面表现优异,为视频创作提供了新的可能性。
mmengine - 深度学习训练引擎支持大规模模型训练和多种策略
GithubMMEngineOpenMMLabPyTorch开源项目深度学习训练引擎
MMEngine是基于PyTorch的深度学习模型训练基础库,作为OpenMMLab代码库的训练引擎。它集成主流大规模模型训练框架,支持混合精度训练等多种策略,提供友好的配置系统和主流监控平台支持。MMEngine不仅适用于OpenMMLab项目,还可广泛应用于其他深度学习项目。
videomae-base - 基于掩码自编码器的视频自监督预训练模型
GithubHuggingfaceVideoMAE开源项目模型自监督学习视觉Transformer视频处理预训练模型
VideoMAE是一种基于掩码自编码器的视频自监督预训练模型。该模型在Kinetics-400数据集上经过1600轮预训练,采用Vision Transformer架构处理固定大小的视频图像块。VideoMAE不仅可预测被遮挡的视频片段,还能通过微调应用于下游任务。作为视频理解领域的重要进展,它为视频分类等任务提供了强大的特征提取能力。
Tarsier-7b - 开源大规模视频语言模型,提升视频描述和理解能力
GithubHuggingfaceTarsier人工智能开源项目机器学习模型视频描述计算机视觉
Tarsier-7b是一个开放源代码的视频语言模型,专注于视频描述和理解。该模型使用两阶段的训练策略以增强性能,能够生成高质量的视频描述。训练过程包括多任务预训练和多粒度微调,并通过多种数据集进行评估,从而保证出色性能。适合从事计算机视觉与自然语言处理研究的研究人员和爱好者使用,可在相关平台获取更多信息。
PixelLM - 像素级推理与理解的大型多模态模型
GithubMUSE数据集PixelLM像素级推理图像分割多模态大模型开源项目
PixelLM是一种创新的大型多模态模型,专注于像素级推理和理解。它能处理开放集目标和复杂推理任务,同时保持LMM的基本结构。通过轻量级像素解码器和分割码本,PixelLM实现高效mask生成。项目同时推出MUSE数据集,为多目标推理分割研究提供高质量基准。在多个基准测试中,PixelLM展现出优越性能。
sharegpt4video-8b - 基于视频指令数据训练的开源视频对话模型
GithubHuggingfaceShareGPT4Video开源项目机器学习模型视频指令数据视频聊天机器人视频语言模型
sharegpt4video-8b是一个开源视频对话模型,基于153K多样化视频指令数据和28K高质量视频字幕数据进行全模型微调。该模型能处理视频问答、描述和分析等任务,旨在推进视频-语言模型研究。它主要面向计算机视觉、自然语言处理和人工智能领域的研究人员,用于探索大规模视频-语言模型和视频聊天机器人的潜力。
DeepSeek-VL - 高性能开源视觉语言模型 多模态理解与复杂场景应用
DeepSeek-VLGithub人工智能多模态理解开源开源项目视觉语言模型
DeepSeek-VL是一个开源视觉语言模型,为实际应用场景而设计。它能处理逻辑图表、网页、公式、科学文献、自然图像等,并在复杂场景中展现智能。模型提供1.3B和7B两种参数规模,支持基础和对话应用,可用于学术研究和商业用途。DeepSeek-VL采用MIT许可证,为研究人员和开发者提供了强大的视觉语言处理工具。
LanguageBind_Video_FT - 基于语言的多模态预训练方法扩展到N种模态
GithubHuggingfaceICLRLanguageBind多模态开源项目模型视频语言预训练
LanguageBind是一种基于语言的多模态预训练方法,将视频-语言预训练扩展到视频、红外、深度、音频等多种模态。该方法以语言作为不同模态间的桥梁,无需中间模态即可实现高性能。项目提出了包含1000万条数据的VIDAL-10M数据集,涵盖5种模态。通过多视角增强的描述训练,LanguageBind在多个下游任务中展现出优异性能。
Multimodal-GPT - 整合视觉与语言功能的多模态对话机器人
GithubOpenFlamingo多模态GPT开源项目联合训练视觉指令语言模型
Multimodal-GPT是一个基于OpenFlamingo多模态模型的项目,通过结合视觉指令和语言指令数据的联合训练,有效提升模型性能。该项目支持VQA、图像描述、视觉推理、文本OCR和视觉对话等多种数据类型,并利用LoRA进行参数高效的微调。探索Multimodal-GPT的广泛应用可能性。
MMRec - 现代多模态推荐系统研究工具箱
GithubMMRec图神经网络多模态推荐开源项目推荐系统深度学习
MMRec是一个现代化的多模态推荐系统工具箱,支持多种先进推荐模型,如图神经网络和自监督学习技术。它提供全面功能,包括数据预处理、模型训练和评估,便于研究人员高效开发和比较推荐算法。该工具箱配有详细文档和示例,适合快速上手和扩展研究。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号