Logo
Project Icon

CrossFormer

融合跨尺度注意力的高效视觉Transformer

CrossFormer++视觉Transformer跨尺度注意力图像分类目标检测Github开源项目

CrossFormer++是一种创新的视觉Transformer模型，通过跨尺度注意力机制解决了不同尺度对象特征间建立关联的问题。该模型引入跨尺度嵌入层和长短距离注意力等设计，并采用渐进式分组策略和激活冷却层来平衡性能与计算效率。在图像分类、目标检测和语义分割等视觉任务中表现优异，尤其在密集预测任务中效果显著。CrossFormer++为计算机视觉领域提供了一种灵活高效的新型架构。

GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
Crossformer - 高效利用跨维度依赖的多变量时间序列预测模型
CrossformerGithubTransformer开源项目时间序列预测注意力机制深度学习
Crossformer是一种新型Transformer模型，针对多变量时间序列预测设计。该模型采用维度分段嵌入、两阶段注意力机制和层次编码器-解码器结构，有效捕捉时间和维度间的依赖关系。Crossformer在多个基准数据集上表现优异，为长序列预测和高维数据处理提供新思路。其开源实现便于研究人员和实践者探索应用。
QFormer - 四边形注意力机制提升视觉Transformer性能
GithubVision Transformer图像分类开源项目注意力机制目标检测计算机视觉
QFormer是一种创新的视觉Transformer模型，采用四边形注意力机制替代传统窗口注意力。该模型通过可学习的四边形回归模块，将默认窗口转换为目标四边形进行计算，从而更好地建模不同形状和方向的目标。在图像分类、目标检测、语义分割和人体姿态估计等多项视觉任务中，QFormer在保持低计算成本的同时，性能显著优于现有的视觉Transformer模型。
GroupMixFormer - 视觉Transformer的群组混合注意力革新
GithubGroupMixFormer图像分类开源项目自注意力机制视觉Transformer计算机视觉
GroupMixFormer是一种创新的视觉Transformer模型,引入群组混合注意力(GMA)机制来增强传统自注意力。GMA可同时捕捉不同尺度的token和群组相关性,显著提升模型表征能力。在多项计算机视觉任务中,GroupMixFormer以较少参数实现了领先性能。其中GroupMixFormer-L在ImageNet-1K分类上达到86.2% Top-1准确率,GroupMixFormer-B在ADE20K分割上获得51.2% mIoU,展现出强大潜力。
VoxFormer - 基于稀疏体素变换器的相机驱动3D语义场景补全方法
3D语义场景补全CVPRGithubVoxFormer开源项目计算机视觉语义分割
VoxFormer是一种基于Transformer的创新框架，仅通过2D图像即可生成完整的3D语义体素。它采用两阶段设计：先从深度估计生成可见占据体素查询，再通过密集化阶段生成完整3D体素。在SemanticKITTI数据集上，VoxFormer在几何和语义方面分别提升了20.0%和18.1%，同时将训练所需GPU内存减少约45%。这为相机驱动的3D语义场景补全任务提供了一个强有力的基线。
poolformer - 视觉任务中MetaFormer架构的应用及其效能
CVPR 2022GithubMetaFormerPoolFormerTransformer图像分类开源项目
该项目展示了MetaFormer架构在视觉任务中的应用，特别通过简单的池化操作实现token混合。研究证实，基于这种方法的PoolFormer模型在ImageNet-1K验证集上表现优于DeiT和ResMLP。此外，后续工作介绍了IdentityFormer、RandFormer等MetaFormer基线模型。本项目证明了Transformer模型的竞争力主要来源于其通用架构MetaFormer，而非特定的token混合器。
metaformer - 一系列视觉基线模型
CAFormerConvFormerGithubIdentityFormerMetaFormerRandFormer开源项目
MetaFormer项目推出多款视觉基线模型，包括IdentityFormer、RandFormer、ConvFormer和CAFormer。这些模型在ImageNet-1K数据集上表现出色，根据不同的token mixer架构，如身份映射、全局随机混合、可分离深度卷积和自注意机制，在224x224分辨率下的Top-1准确率均超过80%。特别是CAFormer，在无外部数据或蒸馏的条件下，达到85.5%的准确率记录。这些模型已集成到timm库中，方便应用和扩展。
LLFormer - 高效处理超高清低光照图像的Transformer模型
AAAIGithubTransformer低光照图像增强开源项目超高清
LLFormer是一种新型Transformer模型,专门用于增强超高清低光照图像。通过创新的轴向多头自注意力和跨层注意力融合机制,LLFormer能高效处理4K和8K分辨率图像。在UHDLOL基准测试中,该模型性能显著优于现有方法。LLFormer不仅提升了图像质量,还能改善低光照条件下人脸检测等下游任务的效果。
multispectral-object-detection - 多光谱图像融合的高效目标检测方法
GithubTransformerYOLOv5多光谱目标检测开源项目计算机视觉跨模态融合
该项目提出了Cross-Modality Fusion Transformer (CFT)多光谱目标检测方法,利用Transformer架构融合RGB和热红外图像信息。CFT在FLIR、LLVIP等数据集上取得了优秀的检测结果,尤其在夜间场景表现突出。这为多光谱目标检测提供了一种新的解决方案。
Transformer_Tracking - 视觉追踪中Transformer应用的全面综述和前沿动态
GithubTransformer开源项目深度学习目标检测视觉跟踪计算机视觉
本项目汇总了Transformer在视觉追踪领域的应用进展,包括统一追踪、单目标追踪和3D单目标追踪等方向。内容涵盖最新研究论文、技术趋势分析、基准测试结果以及学习资源,为相关研究人员和从业者提供全面的参考信息。重点关注自回归时序建模、联合特征提取与交互等前沿技术,展现了视觉追踪的最新发展动态。
MixFormerV2 - 高效全Transformer跟踪模型 实现CPU实时运行
GithubMixFormerV2Transformer开源项目模型蒸馏目标跟踪神经网络
MixFormerV2是一个统一的全Transformer跟踪模型，无需密集卷积操作和复杂评分预测模块。该模型提出四个关键预测token，有效捕捉目标模板与搜索区域的相关性。项目还引入新型蒸馏模型压缩方法，包括密集到稀疏和深层到浅层两个阶段。MixFormerV2在LaSOT和TNL2k等多个基准测试中表现优异，分别达到70.6%和57.4%的AUC，同时在GPU上保持165fps的推理速度。值得注意的是，MixFormerV2-S是首个在CPU上实现实时运行的基于Transformer的单流跟踪器。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号