Flowformer

Flowformer 利用保护流网络实现 Transformer 线性化和长序列处理

Flowformer 是一种 Transformer 模型，通过引入保护流网络理论，实现了线性复杂度的注意力机制。它能够处理超过4000多个标记的长序列，在视觉、自然语言处理、时间序列和强化学习等领域表现优异。在长序列建模任务中，Flowformer 的平均准确率达到56.48%，超过了 Performer 和 Reformer 等现有方法。该项目不依赖特定归纳偏置，提供了核心代码实现和多个领域的应用示例，为研究人员和开发者提供了一个通用的基础模型。

注意力机制流网络理论Github开源项目FlowformerTransformer线性复杂度

GitHub

论文

Flowformer（ICML 2022）

Flowformer：利用守恒流线性化Transformer

:triangular_flag_on_post:新闻（2024.07）Mobile-Attention，一个为移动设备量身定制的Flowformer版本，已在ICML 2024发表。注意力代码可以在这里找到。只需将标准注意力机制替换为我们的Mobile-Attention，就可以获得一个更快的模型。

Transformer在多个领域取得了令人印象深刻的成功。然而，注意力机制的二次复杂度严重阻碍了Transformer处理大量token和扩展到更大模型的能力。为了追求线性复杂度和任务通用的基础模型，我们提出了Flowformer [论文]，具有以下优点：

相对于序列长度的线性复杂度，可以处理极长序列（超过4k个token）
无特定归纳偏置，纯粹源自流网络理论
任务通用，在**$\color{red}{\text{长序列、视觉、自然语言处理、时间序列、强化学习}}$**等任务中表现出色。

流注意力设计

我们将注意力机制转化为流网络，信息流通过学习的流容量（注意力）从源（值）聚合到汇（结果）。

通过在源和汇两个方面进行守恒，我们可以将竞争引入流注意力设计，避免琐碎的注意力，体现了"固定资源会导致竞争"的精神。

<img src="https://raw.githubusercontent.com/thuml/Flowformer/main/.\pic\Flow-Attention.png" height = "250" alt="" align=center /> 图1. 具有竞争和分配机制的流注意力。

快速开始

请参考不同文件夹获取详细的实验说明。

注意：我们在为不同任务配置环境时遇到了很多困难。如果您在解决环境问题时也遇到困难，欢迎联系我们并讨论。
基准测试列表

核心代码：见Flow_Attention.py
GPT风格的Pytorch模块：见Flowformer_TorchModule
LRA中的长序列建模：见Flowformer_LRA
ImageNet-1K中的视觉识别：见Flowformer_CV
WikiText-103中的语言建模：见Flowformer_NLP
UEA中的时间序列分类：见Flowformer_TimeSeries
D4RL中的强化学习：见Flowformer_RL
CUDA加速版本

主要结果

详细结果请参见[论文]，包括近20个对比基准。

任务	指标	Flowformer	Performer	Reformer	普通<br>Transformer
长序列建模<br>（LRA）	平均准确率（%）$\uparrow$	56.48	51.41	50.67	OOM
视觉识别<br>（ImageNet-1K）	Top-1准确率（%）$\uparrow$	80.6	78.1	79.6	78.7
语言建模<br>（WikiText-103）	困惑度$\downarrow$	30.8	37.5	33.6	33.0
时间序列分类<br>（UEA）	平均准确率（%）$\uparrow$	73.0	71.5	71.9	71.9
离线强化学习<br>（D4RL）	平均奖励$\uparrow$<br>平均偏差$\downarrow$	73.5 $\pm$ 2.9	63.8 $\pm$ 7.6	63.9 $\pm$ 2.9	72.2 $\pm$ 2.6

普通Transformer在强化学习中指Decision Transformer。

注意力可视化

<img src="https://raw.githubusercontent.com/thuml/Flowformer/main/.\pic\Attention-visualization.png" height = "300" alt="" align=center /> 图2. 注意力可视化。Flowformer能够成功捕捉到关键部分。

引用

如果您觉得本仓库有用，请引用我们的论文。

@inproceedings{wu2022flowformer,
  title={Flowformer: Linearizing Transformers with Conservation Flows},
  author={Haixu Wu and Jialong Wu and Jiehui Xu and Jianmin Wang and Mingsheng Long},
  booktitle={International Conference on Machine Learning},
  year={2022}
}

联系方式

如果您有任何问题或想使用代码，请联系wuhx23@mails.tsinghua.edu.cn。

编辑推荐精选

Manus

全面超越基准的 AI Agent助手

Manus 是一款通用人工智能代理平台，能够将您的创意和想法迅速转化为实际成果。无论是定制旅行规划、深入的数据分析，还是教育支持与商业决策，Manus 都能高效整合信息，提供精准解决方案。它以直观的交互体验和领先的技术，为用户开启了一个智慧驱动、轻松高效的新时代，让每个灵感都能得到完美落地。

飞书知识问答

飞书官方推出的AI知识库上传word pdf即可部署AI私有知识库

基于DeepSeek R1大模型构建的知识管理系统，支持PDF、Word、PPT等常见文档格式解析，实现云端与本地数据的双向同步。系统具备实时网络检索能力，可自动关联外部信息源，通过语义理解技术处理结构化与非结构化数据。免费版本提供基础知识库搭建功能，适用于企业文档管理和个人学习资料整理场景。

Trae

字节跳动发布的AI编程神器IDE

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

TraeAI IDE协作生产力转型热门AI工具

酷表ChatExcel

大模型驱动的Excel数据处理工具

基于大模型交互的表格处理系统，允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令，自动执行排序、公式计算和数据透视等操作，支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内，支持超过100万行数据的即时分析。

使用教程AI工具酷表ChatExcelAI智能客服AI营销产品

DeepEP

DeepSeek开源的专家并行通信优化框架

DeepEP是一个专为大规模分布式计算设计的通信库，重点解决专家并行模式中的通信瓶颈问题。其核心架构采用分层拓扑感知技术，能够自动识别节点间物理连接关系，优化数据传输路径。通过实现动态路由选择与负载均衡机制，系统在千卡级计算集群中维持稳定的低延迟特性，同时兼容主流深度学习框架的通信接口。

DeepSeek

全球领先开源大模型，高效智能助手

DeepSeek是一家幻方量化创办的专注于通用人工智能的中国科技公司，主攻大模型研发与应用。DeepSeek-R1是开源的推理模型，擅长处理复杂任务且可免费商用。

KnowS

AI医学搜索引擎整合4000万+实时更新的全球医学文献

医学领域专用搜索引擎整合4000万+实时更新的全球医学文献，通过自主研发AI模型实现精准知识检索。系统每日更新指南、中英文文献及会议资料，搜索准确率较传统工具提升80%，同时将大模型幻觉率控制在8%以下。支持临床建议生成、文献深度解析、学术报告制作等全流程科研辅助，典型用户反馈显示每周可节省医疗工作者70%时间。

Windsurf Wave 3

Windsurf Editor推出第三次重大更新Wave 3

新增模型上下文协议支持与智能编辑功能。本次更新包含五项核心改进：支持接入MCP协议扩展工具生态，Tab键智能跳转提升编码效率，Turbo模式实现自动化终端操作，图片拖拽功能优化多模态交互，以及面向付费用户的个性化图标定制。系统同步集成DeepSeek、Gemini等新模型，并通过信用点数机制实现差异化的资源调配。

AI IDE