BEVFormer是一个用于自动驾驶感知的开源框架,通过时空Transformer从多摄像头图像中学习统一的鸟瞰图表示。该方法利用预定义的网格查询,结合空间交叉注意力和时间自注意力机制,有效聚合多视角的空间和时序信息。在nuScenes测试集上,BEVFormer达到56.9%的NDS指标,显著超越现有方法,与激光雷达系统性能相当。这一创新为基于纯视觉的3D目标检测提供了新的基准。

3D-deformable-attention项目提出了3D可变形注意力(DFA3D)操作符，用于2D到3D特征提升。该方法首先利用深度估计将2D特征扩展到3D空间，再通过DFA3D聚合3D特征。这种方法缓解了深度歧义问题，并支持逐层特征细化。在多个基准测试中，DFA3D平均提高1.41 mAP，高质量深度信息下最高提升15.1 mAP。研究结果显示DFA3D在自动驾驶3D目标检测等任务中具有较大潜力。