vilt-b32-mlm

探索无卷积技术在ViLT模型中的应用

语言建模 Github 开源项目 PyTorch 模型 Huggingface ViLT 深度学习图像处理

ViLT模型利用无卷积方法在多个数据集进行预训练，专注于掩码语言建模。由Kim等人发布，适用于图像与文本结合场景。可通过PyTorch代码实现简单安装和试用，支持掩码位置的文本填补，推动自然语言处理和图像识别时跨模态学习的进展。

CLIP-ViT-H-14-laion2B-s32B-b79K - 基于LAION-2B数据集的多功能视觉-语言模型

CLIPGithubHuggingfacezero-shot图像分类开源项目数据集机器学习模型

CLIP-ViT-H-14-laion2B-s32B-b79K是基于LAION-2B数据集训练的视觉-语言模型。该模型在ImageNet-1k上达到78.0%的零样本Top-1准确率,适用于图像分类、图像文本检索等任务。此外,它还支持图像分类微调、线性探测和图像生成指导等下游应用。研究人员可借助该模型探索零样本图像分类技术,并评估其潜在影响。

LLaMA-VID - 支持长视频处理的多模态大语言模型

GithubLLaMA-VID多模态大语言模型开源项目视觉语言模型视频理解

LLaMA-VID是一个新型多模态大语言模型,可处理长达数小时的视频。它通过增加上下文令牌扩展了现有框架的能力,采用编码器-解码器结构和定制令牌生成策略,实现对图像和视频的高效理解。该项目开源了完整的模型、数据集和代码,为视觉语言模型研究提供了有力工具。

mobilevit-xx-small - 轻量级移动端视觉转换模型，适用于通用图像分类

GithubHuggingfaceImageNet-1kMobileViTTransformer卷积神经网络图像分类开源项目模型

MobileViT模型的设计同时保证了轻量和低延迟性能，通过结合MobileNetV2和全局处理变换器块，适合各种图像分类应用。模型无需位置嵌入，已在ImageNet-1k数据集预训练并取得69%的top-1准确率。训练过程中采用简单的数据增强方法，可无须微调即可学到多尺度特征。目前支持PyTorch框架。

clip-vit-base-patch32 - OpenAI CLIP模型实现零样本图像分类的视觉语言预训练

CLIPGithubHuggingfaceOpenAI图像分类开源项目模型计算机视觉零样本学习

CLIP是OpenAI开发的视觉语言预训练模型,使用ViT-B/32和Transformer架构分别作为图像和文本编码器。通过对比学习训练,CLIP能实现零样本图像分类等任务,在多项计算机视觉基准测试中表现优异。尽管在细粒度分类和物体计数方面存在局限,CLIP为研究人员提供了探索模型鲁棒性和泛化能力的重要工具。

AltCLIP - AltCLIP提升中英文视觉语言理解的双语模型

AltCLIPCLIPGithubHuggingfaceStable Diffusion双语模型开源项目文本图像表示模型

AltCLIP是一个双语CLIP模型，通过平行知识蒸馏和双语对比学习提升中英文视觉语言理解能力。在文本-图像检索任务中表现优异，为跨语言视觉应用提供了新可能。该模型支持AltDiffusion，可用于文本生成图像等应用。项目已开源代码和权重，并提供训练和使用说明。

vit-gpt2-image-captioning - ViT-GPT2结合的智能图像描述生成模型

GithubHuggingfacetransformers图像描述开源项目模型深度学习自然语言处理计算机视觉

vit-gpt2-image-captioning是一个结合视觉Transformer和GPT-2的图像描述生成模型。该模型能准确识别图像内容并生成对应文本描述，支持多种图像输入方式，易于集成应用。项目提供简单使用示例和Transformers pipeline部署方法，为开发者提供了实用的开源图像描述解决方案。

LLM2Vec-Mistral-7B-Instruct-v2-mntp - 将大型语言模型转变为高效文本编码器的简单方法

GithubHuggingfaceLLM2Vec开源项目文本编码模型深度学习自然语言处理语义相似度

LLM2Vec-Mistral-7B-Instruct-v2-mntp项目提供了一种将解码器型大语言模型转换为文本编码器的方法。该方法包括启用双向注意力、掩码下一个词预测和无监督对比学习三个步骤。经过转换的模型可生成高质量文本嵌入，适用于信息检索、文本分类和语义相似度等自然语言处理任务，并可通过微调进一步提升性能。

MobileCLIP-S2-OpenCLIP - 高效图像-文本模型通过多模态强化训练实现性能突破

GithubHuggingfaceMobileCLIPOpenCLIP图像文本模型多模态强化训练开源项目模型零样本图像分类

MobileCLIP-S2-OpenCLIP是一款基于多模态强化训练的高效图像-文本模型。相比SigLIP的ViT-B/16模型，它在性能上有所超越，同时速度提升2.3倍，模型体积缩小2.1倍，且仅使用了1/3的训练样本。在ImageNet零样本分类任务中，该模型达到74.4%的Top-1准确率，在38个数据集上的平均性能为63.7%，体现了出色的效率与性能平衡。

CogVLM2 - 基于Llama3-8B的GPT4V级开源多模态模型

CogVLM2CogVLM2-VideoGithubMeta-Llama-3-8B-Instruct图像理解开源项目视频理解

CogVLM2是基于Meta-Llama-3-8B-Instruct的下一代模型系列，在多项基准测试中表现优异，支持中英文内容和高分辨率图像处理。该系列模型适用于图像理解、多轮对话和视频理解，特别适合需要处理长文本和高分辨率图像的场景。CogVLM2系列还支持8K内容长度，并在TextVQA和DocVQA等任务中显著提升表现。体验更先进的CogVLM2和CogVLM2-Video模型，迎接未来视觉智能挑战。

falcon-11B-vlm - 11B参数增强型视觉语言模型，提升细节图像理解与文本生成

Falcon2-11B-vlmGithubHuggingfacePyTorch 2.0图像文本数据大规模语言模型开源项目模型视觉语言模型

Falcon2-11B-vlm是一款11B参数的模型，通过超过5000B RefinedWeb数据训练，结合预训练的CLIP ViT-L/14视觉编码器，专注于增强小物件细节感知及高分辨率图像处理。该模型适用于多种视觉语言研究，特别是在细节复杂的图像理解任务中表现出色。其使用TII Falcon License 2.0许可，提倡负责任的AI使用。

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com