热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#流网络理论
FlowFormer: 变革性的Transformer架构在光流估计领域的应用
2 个月前
FlowFormer是一种新型的基于Transformer的神经网络架构,专门用于光流估计任务。它通过创新性地将4D代价体转化为代价记忆,并利用交替组Transformer层进行编码,再通过递归Transformer解码器与动态位置代价查询进行解码,实现了光流估计性能的显著提升。
注意力机制
流网络理论
Github
开源项目
Flowformer
Transformer
线性复杂度
2 个月前
相关项目
Flowformer
Flowformer 是一种 Transformer 模型,通过引入保护流网络理论,实现了线性复杂度的注意力机制。它能够处理超过4000多个标记的长序列,在视觉、自然语言处理、时间序列和强化学习等领域表现优异。在长序列建模任务中,Flowformer 的平均准确率达到56.48%,超过了 Performer 和 Reformer 等现有方法。该项目不依赖特定归纳偏置,提供了核心代码实现和多个领域的应用示例,为研究人员和开发者提供了一个通用的基础模型。
查看
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号