Github
论文超棒的Mamba
:fire::fire: 这是一个关于Mamba模型的精彩文章集合（特别关注医学图像分析）:fire::fire:
- 我们在arXiv上的综述论文：计算效率新时代：医学图像分析中状态空间模型的全面调查 :heart:
引用
@article{heidari2024computation,
title={计算效率新时代：医学图像分析中状态空间模型的全面调查},
author={Heidari, Moein and Ghorbani Kolahi, Sina and Karimijafarbigloo, Sanaz and Azad, Bobby and Bozorgpour, Afshin and Hatami, Soheila and Azad, Reza and Diba, Ali and Bagci, Ulas and Merhof, Dorit 等人},
journal={arXiv e-prints},
pages={arXiv--2406},
year={2024}
}
更新
- :sunglasses: 首次发布： 2024年6月5日
目录
综述论文
- 从泛化分析到优化设计：状态空间模型研究
- MambaOut：我们真的需要Mamba来处理视觉任务吗？ [Github]
- 新一代网络替代Transformer的状态空间模型：综述 [Github]
- 视觉Mamba综述
- Mamba-360：状态空间模型作为长序列建模的Transformer替代方案综述：方法、应用和挑战 [Github]
- 视觉Mamba：全面综述与分类 [Github]
- 视觉Mamba模型综述：模型、应用和挑战 [Github]
预备知识和状态空间模型
- HiPPO：具有最优多项式投影的循环记忆 [Github]
- S4：使用结构化状态空间高效建模长序列 [Github]
- H3：饥饿的河马：迈向状态空间模型的语言建模 [Github]
- LOCOST：长文档抽象摘要的状态空间模型 [Github]
- 深度选择性状态空间模型的理论基础
- S4++：通过状态记忆回复提升长序列建模
- Hieros：结构化状态空间序列世界模型的分层想象 [Github]
- 状态空间模型作为基础模型：控制理论概述
- 长形式视频理解的选择性结构化状态空间
- 保留网络：大型语言模型中Transformer的继任者[Github]
- 长程时空建模的卷积状态空间模型[Github]
- 笑声鬣狗蒸馏：从卷积中提取紧凑循环[Github]
- 复兴长序列的循环神经网络
- 鬣狗层次结构：迈向更大的卷积语言模型[Github]
架构重新设计
- Transformer 是 SSM:通过结构化状态空间对偶性实现的广义模型和高效算法 [Github]
- Mamba: 具有选择性状态空间的线性时间序列建模 [Github]
- Transformer 是 SSM:通过结构化状态空间对偶性实现的广义模型和高效算法 [Github]
- 在 Mamba 中定位和编辑事实关联 [Github]
- MambaMixer: 具有双重令牌和通道选择的高效选择性状态空间模型 [Github]
- Jamba: 混合 Transformer-Mamba 语言模型
- Mamba-ND: 多维数据的选择性状态空间建模[Github]
- 将指数平滑引入 MLP: 一种简单但有效的序列模型 [Github]
- PlainMamba: 改进视觉识别中的非层次 Mamba [Github]
- 理解视觉状态空间模型在图像分类中的鲁棒性
- Efficientvmamba: 用于轻量级视觉 Mamba 的空洞选择性扫描 [Github]
- Localmamba: 具有窗口选择性扫描的视觉状态空间模型 [Github]
- Mamba4Rec: 使用选择性状态空间模型实现高效序列推荐 [Github]
- Mamba 模型的隐藏注意力 [Github]
- 使用平衡截断的对角状态空间层 S4 学习方法
- BlackMamba: 状态空间模型的专家混合[Github]
- MoE-Mamba: 具有专家混合的高效选择性状态空间模型[Github]
- 具有状态空间骨干的可扩展扩散模型 [Github]
- ZigMa: 之字形 Mamba 扩散模型[Github]
- 谱状态空间模型
- Mamba-unet: 用于医学图像分割的类 Unet 纯视觉 Mamba [Github]
- Mambabyte: 无令牌的选择性状态空间模型
- Vmamba: 视觉状态空间模型 [Github]
- Vision mamba: 使用双向状态空间模型进行高效视觉表示学习 [Github]
遥感
- ChangeMamba: 基于时空状态空间模型的遥感变化检测 [Github]
- 用于大型遥感图像密集预测的 RS-Mamba [Github]
- RS3Mamba: 用于遥感图像语义分割的视觉状态空间模型 [Github]
- HSIMamba: 使用双向状态空间进行高光谱成像高效特征学习的分类方法 [Github]
- Rsmamba: 使用状态空间模型进行遥感图像分类 [Github]
- HSIMamba: 使用双向状态空间进行高光谱成像高效特征学习的分类方法 [Github]
- Samba: 使用状态空间模型进行遥感图像语义分割 [Github]
语音处理
视频处理
- SpikeMba: 用于时间视频定位的多模态脉冲显著性 Mamba
- 视频 Mamba 套件: 视频理解的多功能状态空间模型替代方案 [Github]
- SSM 遇见视频扩散模型: 使用结构化状态空间高效生成视频 [Github]
- Videomamba: 用于高效视频理解的状态空间模型 [Github]
活动识别
图像增强
- 通过选择性状态空间模型聚合局部和全局特征以实现高效图像去模糊
- Serpent：基于多尺度结构化状态空间模型的可扩展高效图像恢复
- VmambaIR：用于图像恢复的视觉状态空间模型 [Github]
- 激活图像超分辨率中的更广区域 [Github]
- MambaIR：基于状态空间模型的图像恢复简单基准 [Github]
- Pan-Mamba：基于状态空间模型的有效全色锐化 [Github]
- U形视觉Mamba用于单图像去雾 [Github]
图像-视频-生成
医学影像
- Vim4Path: 用于组织病理图像的自监督视觉Mamba [Github]
- VMambaMorph: 基于视觉Mamba的跨扫描模块可变形3D图像配准框架 [Github]
- UltraLight VM-UNet: 并行视觉Mamba显著减少皮肤病变分割的参数 [Github]
- 旋转扫描: 具有三重SSM模块的类UNet Mamba用于医学图像分割
- 整合Mamba序列模型和分层上采样网络用于多发性硬化病变的精确语义分割
- CMViM: 用于阿尔茨海默病分类的3D多模态表示学习的对比掩码Vim自编码器
- H-vmunet: 用于医学图像分割的高阶视觉mamba unet [Github]
- ProMamba: 用于息肉分割的提示-Mamba
- Vm-unet-v2 重新思考用于医学图像分割的视觉mamba unet [Github]
- MD-Dose: 基于Mamba的放射治疗剂量预测扩散模型 [Github]
- 大窗口Mamba UNet用于医学图像分割: 超越卷积和自注意力 [Github]
- MambaMIL: 通过序列重排增强计算病理学中的长序列建模 [Github]
- Clinicalmamba: 基于纵向临床记录的生成式临床语言模型 [Github]
- Lightm-unet: Mamba辅助轻量级unet进行医学图像分割 [Github]
- MedMamba: 用于医学图像分类的视觉Mamba [Github]
- Weak-Mamba-UNet: 视觉Mamba使CNN和ViT在基于涂鸦的医学图像分割中表现更佳 [Github]
- P-Mamba: 将Perona Malik扩散与Mamba结合用于高效儿科超声心动图左心室分割
- Semi-Mamba-UNet: 基于像素级对比交叉监督视觉Mamba的UNet用于半监督医学图像分割 [Github]
- FD-Vision Mamba用于内窥镜曝光校正 [Github]
- Swin-umamba: 基于ImageNet预训练的Mamba-based unet [Github]
- Vm-unet: 用于医学图像分割的视觉mamba unet[Github]
- Vivim: 用于医学视频目标分割的视频视觉mamba [Github]
- Segmamba: 用于3D医学图像分割的长程序列建模mamba [Github]
- T-Mamba: 用于牙齿3D CBCT分割的频率增强门控长程依赖 [Github]
- U-mamba: 增强生物医学图像分割的长程依赖 [Github]
- MambaMorph: 基于Mamba的骨干网络与对比特征学习用于可变形MR-CT配准[Github]
- nnMamba: 使用状态空间模型进行3D生物医学图像分割、分类和特征点检测[Github]
- MambaMIR: 用于联合医学图像重建和不确定性估计的任意掩码Mamba[Github]
- ViM-UNet: 用于生物医学分割的视觉Mamba[Github]
- VM-DDPM: 用于医学图像合成的视觉Mamba扩散
- HC-Mamba: 结合混合卷积技术的视觉MAMBA用于医学图像分割
- I2I-Mamba: 通过选择性状态空间建模实现多模态医学图像合成 [GitHub]
- MUCM-Net: 一种用于皮肤病变分割的Mamba驱动UCM-Net [Github]
- 基于BI-Mamba从多视角胸部X光片检测心血管疾病
- 无卷积和注意力的基于Mamba的心脏图像分割
- AC-MAMBASEG: 一种用于增强皮肤病变分割的自适应卷积和基于Mamba的架构 [Github]
- SAM-VMNet: 用于冠状动脉造影血管分割的深度神经网络
- MHS-VM: 视觉Mamba的并行子空间多头扫描[Github]
图像分割
强化学习
自然语言处理
- RankMamba: 在Transformer时代基准测试Mamba的文档排序性能 [Github]
- Densemamba: 具有密集隐藏连接的状态空间模型，用于高效大型语言模型 [Github]
- Mamba能进行上下文学习吗？
- BioMamba: 利用Mamba的预训练生物医学语言表示模型
3D识别
多模态理解
- Meteor: 基于Mamba的大型语言和视觉模型推理遍历[Github]
- ReMamber: 使用Mamba Twister进行指代图像分割
- VL-Mamba: 探索多模态学习的状态空间模型
- Cobra: 扩展Mamba到多模态大型语言模型以实现高效推理[Github]
- SurvMamba: 用于生存预测的多粒度多模态交互状态空间模型
- MambaDFuse: 基于Mamba的双阶段多模态图像融合模型
- APRICOT-Mamba: 重症监护病房(ICU)敏锐度预测：稳定性、转移和生命支持治疗预测模型的开发与验证
时间序列
- SiMBA: 用于视觉和多变量时间序列的简化Mamba架构 [Github]
- Mamba对时间序列预测有效吗？ [Github]
- TimeMachine: 一个时间序列价值4个Mamba用于长期预测 [Github]
- MambaStock: 用于股票预测的选择性状态空间模型 [Github]
- Bi-Mamba4TS: 用于时间序列预测的双向Mamba
图神经网络
- STG-Mamba: 基于选择性状态空间模型的时空图学习
- Graph Mamba: 利用状态空间模型进行图上学习 [Github]
- Graph-Mamba: 利用选择性状态空间实现长程图序列建模 [Github]
- 用于图表示学习的递归距离过滤[Github]
- 使用图神经网络和结构化状态空间模型对多变量生物信号进行建模[Github]
点云
- Point mamba: 基于八叉树排序策略的状态空间模型的新型点云骨干网络 [Github]
- Point Could Mamba: 基于状态空间模型的点云学习 [Github]
- PointMamba: 用于点云分析的简单状态空间模型 [Github]
- 3DMambaIPF: 一种通过可微渲染进行迭代点云过滤的状态空间模型
- 3DMambaComplete: 探索用于点云补全的结构化状态空间模型
