pix2struct

基于截图解析的视觉语言预训练模型

Pix2Struct 视觉语言理解预训练模型数据预处理实验运行 Github 开源项目

Pix2Struct是一个基于截图解析的视觉语言预训练模型。该模型可处理图像描述、图表问答和界面元素理解等多种任务。项目提供预训练的Base和Large模型检查点,以及9个下游任务的微调代码。Pix2Struct在多个视觉语言任务中表现优异,为相关研究提供了有力支持。

Github

论文

介绍相关项目

table-transformer-structure-recognition-v1.1-all - Table Transformer开源表格结构识别模型

GithubHuggingfaceTable Transformer开源项目文档分析模型深度学习表格识别计算机视觉

Table Transformer是一个开源的表格结构识别模型，基于DETR架构设计。该模型在PubTables1M和FinTabNet.c数据集上进行了预训练，采用'normalize before'设置优化了网络结构。Table Transformer能够准确检测文档中的表格，为表格结构分析提供了有力支持。项目提供了详细文档，便于研究人员和开发者进行深入研究和实际应用。

LLaVAR - 优化视觉指令微调的文本丰富图像理解模型

GithubLLaVAROCR能力多模态大语言模型开源项目文本丰富图像理解视觉指令微调

LLaVAR项目致力于增强大型语言模型对文本丰富图像的理解能力。通过改进视觉指令微调方法，该项目显著提升了模型在OCR相关任务上的表现。LLaVAR开源了模型权重、训练数据，并提供了环境配置、训练脚本和评估方法，为相关研究和开发提供了全面支持。

blip-itm-base-flickr - 用于视觉语言理解和生成的多功能开源工具

BLIPGithubHuggingface图像文本匹配开源项目数据集模型生成任务视觉语言理解

BLIP通过生成并过滤图像描述，有效地增强了视觉与语言结合任务的能力，如图像文本检索、图像描述生成和视觉问答。其在实际应用中的优异表现及对视频语言任务的零样本迁移能力，使其成为研究人员的理想工具。

mgp-str-base - 多粒度预测的场景文本识别开源模型

GithubHuggingfaceMGP-STR光学字符识别场景文字识别多粒度预测开源项目模型计算机视觉

MGP-STR base-sized model是一个基于ViT和A^3模块的场景文本识别开源模型。它采用多粒度预测方法，包括字符、子词和单词级别，以提高识别精度。该模型在MJSynth和SynthText数据集上训练，适用于复杂场景的OCR任务，并可方便地集成到PyTorch项目中。

pix2pixHD - 高分辨率图像到图像转换及语义编辑

GANsGithubpix2pixHD图像翻译开源项目语义操控高分辨率

此Pytorch实现的高分辨率图像到图像转换方法（如2048x1024），可以将语义标签图转化为真实感图像，或从面部标签图生成肖像。该项目适用于街景和肖像等图像生成及交互编辑。需要NVIDIA GPU，提供详细的安装、测试和训练指南，支持多GPU和自动混合精度训练。

CLIP-convnext_xxlarge-laion2B-s34B-b82K-augreg - 基于LAION-2B数据集的卷积神经网络达到79%零样本分类准确率

CLIPConvNextGithubHuggingface图像分类开源项目机器学习模型神经网络

CLIP ConvNeXt-XXLarge是一个在LAION-2B数据集上训练的大规模视觉语言模型，总参数量12亿，图像分辨率256x256。模型采用ConvNeXt-XXLarge图像结构和ViT-H-14规模的文本编码器，在ImageNet零样本分类上达到79%准确率。主要应用于图像分类、检索等研究任务。

vit_base_patch16_clip_224.openai - CLIP：跨模态视觉语言理解模型

CLIPGithubHuggingface人工智能图像分类开源项目模型计算机视觉零样本学习

CLIP是OpenAI开发的视觉-语言预训练模型，在timm库中实现。它使用ViT-B/16 Transformer作为图像编码器，masked self-attention Transformer作为文本编码器，通过对比学习优化图像-文本对相似度。CLIP在零样本图像分类任务中展现出优秀的鲁棒性和泛化能力，但在细粒度分类和物体计数方面仍有局限。该模型主要面向AI研究人员，用于探索计算机视觉模型的能力和局限性。

GraphGPT - 基于图指令微调的大语言模型知识对齐框架

GithubGraphGPT图学习图结构知识大语言模型开源项目指令微调

GraphGPT是一个将大语言模型与图结构知识对齐的创新框架。该框架通过文本-图谱接地编码结构信息,采用双阶段图指令微调适应图学习任务,并运用思维链蒸馏提升推理能力。GraphGPT有效增强了语言模型对图数据的理解和处理能力,为图结构数据分析提供了新的研究方向。

AltCLIP - AltCLIP提升中英文视觉语言理解的双语模型

AltCLIPCLIPGithubHuggingfaceStable Diffusion双语模型开源项目文本图像表示模型

AltCLIP是一个双语CLIP模型，通过平行知识蒸馏和双语对比学习提升中英文视觉语言理解能力。在文本-图像检索任务中表现优异，为跨语言视觉应用提供了新可能。该模型支持AltDiffusion，可用于文本生成图像等应用。项目已开源代码和权重，并提供训练和使用说明。

Florence-2-base-ft - 多任务视觉AI模型实现图像理解与分析

Florence-2GithubHuggingface图像处理多任务学习开源项目模型自然语言处理视觉模型

Florence-2-base-ft是一款多任务视觉AI模型，可处理多种视觉和视觉-语言任务。该模型通过解释简单的文本提示，执行图像描述、物体检测和分割等操作。在图像描述、视觉问答和引用表达理解等基准测试中，Florence-2-base-ft展现出优秀性能。这个拥有2.3亿参数的模型为各类视觉任务提供了统一的表示方法，展现了人工智能在视觉理解领域的最新进展。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com