Project Icon

MG-LLaVA

融合多粒度视觉特征的大语言模型

MG-LLaVA是一种创新的多模态大语言模型,通过整合低分辨率、高分辨率和物体中心特征,显著提升了视觉处理能力。模型引入高分辨率视觉编码器捕捉细节,并利用Conv-Gate网络融合视觉特征。同时集成离线检测器的物体级特征,增强了物体识别能力。仅基于公开多模态数据进行指令微调,MG-LLaVA在多项基准测试中展现出优异的感知表现。

Macaw-LLM - 多模态数据与语言模型的前沿整合技术
GithubMacaw-LLM图像集成多模态语言模型开源项目文本处理视频处理
Macaw-LLM项目通过整合图像、视频、音频和文本数据,创新了多模态语言建模。该项目基于CLIP、Whisper和LLaMA等先进模型,实现了高效的数据对齐和一步到位的指令微调,创建了丰富的多模态指令数据集,涵盖多种任务。项目强调简单快速的对齐策略,展示出强大的多模态处理能力,有效提升了跨模态数据的解析和理解。
llava-onevision-qwen2-0.5b-si - 多模态AI模型实现图像、多图和视频的智能交互
GithubHuggingfaceLLaVA-OneVisionQwen2图像处理多模态开源项目模型视觉语言模型
LLaVA-OneVision是一个基于Qwen2的多模态AI模型,能够处理图像、多图和视频输入。它具有32K tokens的上下文窗口,支持英文和中文交互。该模型在AI2D、ChartQA和DocVQA等多项任务中表现优异,为视觉语言应用提供了强大的基础。LLaVA-OneVision采用LLaVA-OneVision数据集进行训练,可轻松集成到各类视觉语言项目中。
Multimodal-AND-Large-Language-Models - 多模态与大语言模型前沿研究综述
Github人工智能多模态大语言模型开源项目机器学习视觉语言模型
本项目汇总了多模态和大语言模型领域的最新研究进展,涵盖结构化知识提取、事件抽取、场景图生成和属性识别等核心技术。同时探讨了视觉语言模型在推理、组合性和开放词汇等方面的前沿问题。项目还收录了大量相关综述和立场文章,为研究人员提供全面的领域概览和未来方向参考。
llava-onevision-qwen2-72b-ov-chat - 多模态大语言模型支持图像、多图和视频交互
GithubHuggingfaceLLaVA-OneVision人工智能图像处理多模态开源项目模型自然语言处理
llava-onevision-qwen2-72b-ov-chat是一个为聊天场景优化的多模态大语言模型。该模型基于llava-onevision-72b-ov构建,通过迭代DPO训练提升了聊天能力,同时保持了良好的指令遵循能力。模型支持图像、多图和视频交互,在英语和中文方面表现出色。研究显示,其采用的迭代DPO训练方法有效增强了模型的聊天表现。
BLIVA - 处理文本视觉问题的多模态LLM
BLIVAGithub多模态开源项目文本富媒体机器学习视觉问答
BLIVA是一款简单有效的多模态大语言模型,专门处理富文本视觉问题。其在多个视觉问答基准中表现出色,并公开了模型权重和训练代码。结合FlanT5和Vicuna版本,BLIVA适用于多种商业用途并提升认知和感知任务性能。演示和安装教程也非常详细。
groundingLMM - 结合视觉分割和对话生成的多模态AI模型
GLaMMGithub图像分割多模态模型对话生成开源项目视觉基础
GLaMM是一种新型多模态AI模型,将自然语言生成与对象分割技术相结合。该模型提出了接地对话生成任务,并基于GranD数据集进行训练。GLaMM能够处理图像和区域级输入,支持视觉对话和指代表达分割等功能,为视觉语言交互提供了新的解决方案。
llava-next-interleave-qwen-7b - 研究大规模多模态与聊天机器人的开源自回归语言模型
GithubHuggingfaceLLaVA-Next Interleave人工智能多模态开源开源项目模型研究
LLaVA-Next Interleave是一个开源的自回归语言模型,通过微调多模态指令数据进行训练。基于Qwen/Qwen1.5-7B-Chat框架,主要用于大规模多模态模型和聊天机器人的研究。目标用户包括计算机视觉、自然语言处理、机器学习和人工智能领域的研究人员和爱好者。项目禁止商业用途,使用者需遵守相关数据集及检查点的原始许可证条款,并确保符合所有适用法律法规。
llava-med-v1.5-mistral-7b - Mistral-7B驱动的生物医学视觉语言模型 快速训练的开源研究工具
GithubHuggingfaceLLaVA-Med人工智能模型医学图像识别开源项目模型生物医学视觉语言处理
LLaVA-Med-v1.5-Mistral-7b是一款专注生物医学领域的大型视觉语言模型。它基于PMC-15M数据集开发,采用课程学习方法训练,能处理多种医学图像类型,如显微镜、放射和组织学图像。该模型在PathVQA和VQA-RAD等基准测试中表现优异,为生物医学视觉语言研究提供了重要工具。值得注意的是,这是一个仅用于研究目的的开源项目,仅支持英语处理,不适用于临床环境。
MGM - 多模态视觉语言模型的潜力挖掘与创新
AI绘图GithubMini-Gemini图像理解多模态视觉语言模型大语言模型开源项目
Mini-Gemini项目探索多模态视觉语言模型的新可能。该项目支持2B至34B规模的大语言模型,实现图像理解、推理和生成功能。基于LLaVA构建的Mini-Gemini提供完整资源,包括预训练权重、数据集和评估基准。通过双视觉编码器和patch信息挖掘等技术创新,Mini-Gemini实现了文本与图像的深度融合。
PointLLM - 多模态大语言模型理解点云数据的突破性进展
3D点云GithubPointLLM多模态大语言模型开源项目计算机视觉
PointLLM是一个创新的多模态大语言模型,可理解物体的彩色点云数据。该模型能够感知物体类型、几何结构和外观,而不受深度模糊、遮挡或视角依赖等问题影响。项目团队收集了包含660K简单和70K复杂点云-文本指令对的数据集,并采用两阶段训练策略。为评估模型的感知和泛化能力,研究人员建立了生成式3D物体分类和3D物体描述两个基准,并使用三种评估方法进行测试。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号