Project Icon

vilt-b32-mlm

探索无卷积技术在ViLT模型中的应用

ViLT模型利用无卷积方法在多个数据集进行预训练,专注于掩码语言建模。由Kim等人发布,适用于图像与文本结合场景。可通过PyTorch代码实现简单安装和试用,支持掩码位置的文本填补,推动自然语言处理和图像识别时跨模态学习的进展。

FasterViT - 高效分层注意力的视觉transformer新突破
FasterViTGithub图像分类层级注意力机制开源项目目标检测视觉Transformer
FasterViT是一种创新的视觉transformer模型,采用分层注意力机制高效捕获短程和长程信息。在ImageNet分类任务中,FasterViT实现了精度和吞吐量的新平衡,无需额外训练数据即达到最先进水平。该项目提供多种预训练模型,适应不同计算资源和精度需求,支持任意分辨率输入,为目标检测、分割等下游任务提供灵活选择。
InternVL - 开源多模态模型包提供商业级性能
GPT-4oGithubInternVLSOTA性能多模态模型开源开源项目
InternVL项目,作为一个领先的开源多模态模型套件,提供可媲美商业模型GPT-4o的性能。该项目开放源代码,支持多语种和高效OCR功能,在多个benchmark中展现出顶尖性能。该平台包括多种模型,如InternVL2-Pro和Mini-InternVL系列,适用于从聊天机器人至复杂多模态文档理解的应用场景。完备的文档资料和快速启动指南为社区成员提供便捷的使用和优化体验。
VTimeLLM - 创新视频大语言模型实现精准时刻理解
GithubVTimeLLM多阶段训练大语言模型开源项目时间边界感知视频理解
VTimeLLM是一种先进的视频大语言模型,专注于精细化视频时刻理解和推理。该模型采用边界感知三阶段训练策略,包括图像-文本特征对齐、多事件视频时间边界识别和高质量视频指令微调。这种方法显著提升了模型的时间理解能力,使其在多项视频理解任务中表现优异。
LLaVAR - 优化视觉指令微调的文本丰富图像理解模型
GithubLLaVAROCR能力多模态大语言模型开源项目文本丰富图像理解视觉指令微调
LLaVAR项目致力于增强大型语言模型对文本丰富图像的理解能力。通过改进视觉指令微调方法,该项目显著提升了模型在OCR相关任务上的表现。LLaVAR开源了模型权重、训练数据,并提供了环境配置、训练脚本和评估方法,为相关研究和开发提供了全面支持。
CLIP-ViT-H-14-frozen-xlm-roberta-large-laion5B-s13B-b90k - CLIP架构多语言视觉语言模型实现高效零样本图像分类与检索
CLIPGithubHuggingfaceLAION-5B图像分类多语言模型开源项目模型零样本学习
这是一个基于CLIP架构的多语言视觉语言模型,在LAION-5B数据集上训练。模型结合了冻结的ViT-H/14视觉结构和XLM-RoBERTa大型文本模型,在多语言零样本图像分类和检索任务中表现优异。适用于零样本图像分类、图文检索等应用,也支持下游任务微调。该模型在英语及其他语言中均展现出强大性能,为跨语言视觉AI应用提供了有力支持。
CLIP-ViT-B-32-xlm-roberta-base-laion5B-s13B-b90k - 具备零样本学习与多语言支持的图像模型
CLIP ViT-B/32GithubHuggingfaceLAION-5B图像分类多语言性能开源项目模型零样本学习
该模型基于LAION-5B数据集和OpenCLIP技术,能够进行零样本图像分类和图像-文本检索。通过结合CLIP ViT-B/32和xlm roberta,这一模型在各种图像任务中显示出较高性能。同时,其多语言能力经验证,可提升imagenet1k等多语言数据集上的表现,尤其在意大利语和日语测试中效果显著。依托于高效的OpenCLIP训练,模型在mscooco和flickr30k数据集上有较大性能提升,是图像生成与分类的可靠选择。
Mono-InternVL-2B - 原生多模态大语言模型融合视觉与文本能力
GithubHuggingfaceInternLM2原生模型多模态大语言模型开源项目模型视觉识别语言模型
Mono-InternVL是一个融合视觉编码和文本解码的原生多模态大语言模型。它通过专家混合机制和内生视觉预训练方法优化视觉理解能力,同时保持强大的语言能力。该模型基于InternLM2构建,拥有1.8B激活参数,在多项视觉语言基准测试中表现优异,并将首个token的延迟降低67%,大幅提升了部署效率。
vit-base-patch32-224-in21k - Vision Transformer模型在2100万图像数据集上预训练
GithubHuggingfaceImageNet-21kVision Transformer图像识别开源项目模型深度学习计算机视觉
Vision Transformer (ViT) 是一种基于transformer架构的视觉模型,在ImageNet-21k数据集上预训练。该模型将图像转换为固定大小的patch序列,通过线性嵌入和位置编码输入transformer编码器。ViT可应用于图像分类等多种视觉任务,只需在预训练编码器上添加任务特定层。模型在224x224分辨率下训练,批量大小为4096,在多项图像分类基准测试中展现出优秀性能。
DFN5B-CLIP-ViT-H-14-378 - 大规模数据筛选优化的视觉语言预训练系统
CLIPGithubHuggingface图像分类开源项目数据过滤网络机器学习模型计算机视觉
DFN5B-CLIP-ViT-H-14-378是一款基于CLIP架构的视觉语言模型,采用数据过滤网络(DFN)技术从43B未筛选的图像-文本对中提取5B高质量数据进行训练。该模型在多项视觉任务中表现优异,平均准确率达70.94%。支持零样本图像分类,可与OpenCLIP框架无缝集成,为计算机视觉和自然语言处理研究提供了高性能的预训练模型基础。
TinyCLIP-ViT-40M-32-Text-19M-LAION400M - 基于亲和力模仿和权重继承的CLIP模型压缩方法
GithubHuggingfaceLAION400MTinyCLIP图像识别开源项目模型模型压缩深度学习
TinyCLIP是一种用于压缩大规模语言-图像预训练模型的跨模态蒸馏方法,采用亲和力模仿和权重继承技术。实验显示,TinyCLIP ViT-45M/32使用ViT-B/32一半的参数达到相似的零样本性能;TinyCLIP ResNet-19M在参数量减少50%的情况下,推理速度提升2倍,在ImageNet数据集上实现56.4%的准确率。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号