fromage

支持多模态输入输出的语言模型

该页面介绍了FROMAGe项目，为其多模态输入输出任务提供代码和模型权重。包含详细的设置指南、预训练检查点、图像检索预计算嵌入、推理和训练示例以及评估脚本。研究人员可使用这些资源在视觉故事讲述和对话生成等任务中实现突破。欢迎访问项目主页和在线演示参与讨论。

访问官网

i-Code - 打造集成可组合的多模态人工智能框架

GithubProject i-Code基础模型多模态人工智能开源项目文档智能视觉问答

i-Code是一个致力于多模态人工智能研究的开源项目。它提供了多个版本的多模态基础模型，包括i-Code V1、V2和V3(CoDi)，以及i-Code Studio框架。项目还涉及多模态文档智能和基于知识的视觉问答技术。i-Code为AI领域提供了集成视觉、语言和语音的多模态工具，促进了人工智能的跨领域发展。

DeepSeek-VL - 高性能开源视觉语言模型多模态理解与复杂场景应用

DeepSeek-VLGithub人工智能多模态理解开源开源项目视觉语言模型

DeepSeek-VL是一个开源视觉语言模型，为实际应用场景而设计。它能处理逻辑图表、网页、公式、科学文献、自然图像等，并在复杂场景中展现智能。模型提供1.3B和7B两种参数规模，支持基础和对话应用，可用于学术研究和商业用途。DeepSeek-VL采用MIT许可证，为研究人员和开发者提供了强大的视觉语言处理工具。

NVLM-D-72B - 开源前沿级多模态大语言模型实现视觉语言任务的最新突破

GithubHuggingfaceNVLM人工智能多模态大语言模型开源项目模型视觉语言

NVLM-D-72B是一款开源的多模态大语言模型，在视觉语言任务上表现卓越，达到了与顶级专有和开源模型相当的水平。该模型不仅擅长视觉语言任务，在多模态训练后其纯文本处理能力也有所提升。NVLM-D-72B可执行光学字符识别、多模态推理、定位、常识推理等多种任务，为AI研究社区提供了强大的开源多模态能力。

open-muse - 开源项目MUSE模型重现，用于高效文本到图像生成

GithubHuggingfaceMUSEVQGANopen-musetransformer开源项目

open-muse项目致力于重现Transformer MUSE模型，通过LAION-2B和COYO-700M数据集的训练，提供简单且可扩展的代码库。项目包括在Imagenet上训练类别条件模型、在CC12M上进行文本到图像实验，以及训练改进的VQGAN模型，所有结果将上传至Huggingface的openMUSE组织。支持的模型包括MaskGitTransformer和VQGAN，方便使用并可在Huggingface hub上加载和保存。

blip2-flan-t5-xl - 融合视觉和语言的多功能预训练模型用于图像理解和多模态任务

BLIP-2GithubHuggingface图像描述多模态模型开源项目模型自然语言处理视觉问答

BLIP-2 Flan T5-xl是一款融合CLIP图像编码器、查询转换器和Flan T5-xl大语言模型的视觉-语言预训练模型。它擅长图像描述、视觉问答和基于图像的对话等多模态任务，在大规模图像-文本数据集上训练后展现出优秀的零样本和少样本学习能力。该模型为视觉理解和多模态应用研究提供了强大工具，但使用时需注意评估其在特定应用场景中的安全性和公平性。

llava-onevision-qwen2-0.5b-ov-hf - 推动单图、多图和视频理解的多模态大语言模型

GithubHuggingfaceLLaVA-Onevision图像理解多模态语言模型开源项目模型视频理解计算机视觉

LLaVA-Onevision是基于Qwen2的多模态大语言模型，通过微调GPT生成的多模态指令数据训练而成。作为首个同时推动单图、多图和视频场景性能边界的模型，它展现出强大的视频理解和跨场景能力，实现了从图像到视频的任务迁移。该模型支持多图像和多提示生成，为多样化的视觉理解任务提供了灵活解决方案。

blip-itm-large-flickr - 多任务视觉-语言理解与生成模型

BLIPGithubHuggingface图像-文本匹配图像描述开源项目机器学习模型语言-图像理解

BLIP是一个视觉-语言预训练框架，利用Flickr30k数据集提升图像-文本匹配性能。通过合成标题的生成与过滤机制，减少噪声数据对结果的影响。BLIP在多项任务上表现出色，包括图像-文本检索、图像标题生成和视觉问答，此外，还具备视频语言任务的泛化能力。该模型支持条件与无条件的图像标题生成，应用灵活多样。

ml-engineering - 大规模语言模型与多模态模型的训练方法

BLOOM-176BContextual.AIGithubHuggingFaceLarge Language ModelsVLM开源项目

本指南系统介绍了方法、工具和逐步操作说明，帮助工程师成功训练大规模语言模型（LLM）和多模态模型（VLM）。内容涵盖丰富的脚本和命令，适合LLM/VLM训练工程师和操作员使用。基于作者在开源BLOOM-176B和IDEFICS-80B模型训练中的经验，提供有效解决方案，并持续更新，服务于ML社区。

Awesome_Multimodel_LLM - 多模态大语言模型资源集锦及研究动态

Github上下文学习多模态大语言模型开源项目思维链指令微调视觉推理

本项目汇集了多模态大语言模型(MLLM)相关资源,涵盖数据集、指令微调、上下文学习、思维链等多个方面。内容持续更新,跟踪MLLM领域最新进展。项目还将发布LLM和MLLM最新研究综述。这是研究人员和开发者了解MLLM前沿动态的重要参考。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com