Project Icon

vilt-b32-mlm

探索无卷积技术在ViLT模型中的应用

ViLT模型利用无卷积方法在多个数据集进行预训练,专注于掩码语言建模。由Kim等人发布,适用于图像与文本结合场景。可通过PyTorch代码实现简单安装和试用,支持掩码位置的文本填补,推动自然语言处理和图像识别时跨模态学习的进展。

llava-v1.5-7b-llamafile - LLaVA模型实现图像理解与自然语言交互的多模态AI
GithubHuggingfaceLLaVA人工智能多模态模型开源项目机器学习模型自然语言处理
LLaVA-v1.5-7b-llamafile作为一个开源多模态AI模型,通过微调LLaMA/Vicuna而成。它整合了图像理解和自然语言处理功能,能够执行图像相关指令和进行对话。该模型于2023年9月推出,主要用于研究大型多模态模型和聊天机器人。LLaVA的训练数据包括558K图像-文本对和多种指令数据,在12个基准测试中表现优异。这个模型为计算机视觉和自然语言处理领域的研究人员提供了探索AI前沿应用的有力工具。
MIMDet - 掩码图像建模应用于目标检测的开源项目
GithubMIMDet卷积神经网络实例分割开源项目物体检测视觉变换器
MIMDet是一个利用掩码图像建模技术的开源项目,能够提升预训练的Vanilla Vision Transformer在目标检测中的表现。此框架采用混合架构,用随机初始化的卷积体系取代预训练的大核Patchify体系,实现多尺度表示无需上采样。在COCO数据集上的表现亮眼,使用ViT-Base和Mask R-CNN模型时,分别达到51.7的框AP和46.2的掩码AP;使用ViT-L模型时,成绩分别是54.3的框AP和48.2的掩码AP。
ml-fastvit - 高效混合视觉Transformer模型用于图像分类
FastViTGithub图像分类开源项目模型性能结构重参数化视觉Transformer
FastViT是一种采用结构重参数化技术的混合视觉Transformer模型。该模型在ImageNet-1K数据集上实现了准确率和延迟的良好平衡,提供多个变体以适应不同应用场景。FastViT在iPhone 12 Pro上的基准测试显示出优秀的移动端性能。项目开源了预训练模型、训练评估代码和使用文档。
CogVLM - 开源视觉语言模型,提升图像理解与跨模态对话功能
CogAgentCogVLMGithub图像理解多回合对话开源项目跨模态基准测试
CogVLM和CogAgent是领先的开源视觉语言模型,专注于图像理解和跨模态任务。CogVLM-17B拥有100亿视觉参数和70亿语言参数,并在NoCaps、Flicker30k等十个经典跨模态基准测试上表现出色。CogAgent在CogVLM的基础上改进,增添了GUI图像代理能力,支持1120*1120分辨率的图像理解,并在VQAv2、TextVQA等九个基准测试中表现优秀。该项目提供详细的技术文档、示例代码和Web演示,用户可以方便地进行模型推理和微调。了解更多信息,请访问项目主页。
pixel - 像素编码语言模型,无需固定词汇表实现多语言处理
BERTGithubPIXELVision Transformer图像编码开源项目语言模型
PIXEL是一个将文本渲染为图像进行语言处理的模型,消除了固定词汇表的需求。在同样的数据上,PIXEL在非拉丁脚本的语法和语义处理上优于BERT。PIXEL由文本渲染器、编码器和解码器组成,采用ViT-MAE技术实现图像级语言模型。用户可以通过Gradio演示体验PIXEL,并查看预训练和微调指南。未来将提供渲染指南、优化模型及HuggingFace transformers的集成。
blip-itm-large-flickr - 多任务视觉-语言理解与生成模型
BLIPGithubHuggingface图像-文本匹配图像描述开源项目机器学习模型语言-图像理解
BLIP是一个视觉-语言预训练框架,利用Flickr30k数据集提升图像-文本匹配性能。通过合成标题的生成与过滤机制,减少噪声数据对结果的影响。BLIP在多项任务上表现出色,包括图像-文本检索、图像标题生成和视觉问答,此外,还具备视频语言任务的泛化能力。该模型支持条件与无条件的图像标题生成,应用灵活多样。
ViT-L-14-CLIPA-datacomp1B - CLIPA-v2模型实现低成本高性能零样本图像分类
CLIPAGithubHuggingfaceOpenCLIP对比学习开源项目模型视觉语言模型零样本图像分类
ViT-L-14-CLIPA-datacomp1B是一个基于CLIPA-v2架构的视觉-语言模型,在datacomp1B数据集上训练。该模型采用对比学习方法,能够进行零样本图像分类,在ImageNet上实现81.1%的准确率。通过OpenCLIP库,用户可以方便地进行图像和文本的特征编码。这个模型不仅性能优异,还具有训练成本低的特点,为计算机视觉研究提供了新的发展方向。
LanguageBind_Image - 基于语言实现多模态预训练绑定
GithubHuggingfaceICLRLanguageBind多模态开源项目数据集模型视频语言预训练
LanguageBind是一种创新的多模态预训练方法,通过语言将视频、音频、深度图像等不同模态绑定。该项目提出了包含1000万条多模态数据的VIDAL-10M数据集,并在多个模态任务上实现了领先性能。LanguageBind无需中间模态即可扩展到检测等任务,开源了全部模态预处理代码和API接口,为多模态AI研究提供了有力工具。
llava-v1.6-34b - 大规模多模态模型的开源项目介绍
GithubHuggingfaceLLaVA人工智能多模态开源项目模型自然语言处理计算机视觉
模型在大规模多模态模型和聊天机器人领域的研究中有重要应用,采用多样化的数据集提升不同任务表现,适合计算机视觉、自然语言处理及人工智能的研究者使用。
blip-image-captioning-large - BLIP框架驱动的先进图像描述模型
BLIPGithubHuggingface图像描述多模态学习开源项目模型自然语言处理视觉语言预训练
blip-image-captioning-large是基于BLIP框架的图像描述模型,采用ViT大型骨干网络和COCO数据集预训练。它支持条件和无条件图像描述,在图像-文本检索、图像描述和视觉问答等任务中表现卓越。该模型具有出色的泛化能力,支持CPU和GPU(含半精度)推理,为图像理解和生成研究提供了有力工具。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号