Radiance Fields from VGGSfM和Mast3r:两种先进3D重建方法的比较与分析

VGGSfM和Mast3r:3D场景重建的新方向

在计算机视觉和3D重建领域,如何从2D图像重建3D场景一直是一个充满挑战的研究课题。近年来,随着深度学习技术的发展,一些新的方法被提出并取得了显著的进展。本文将重点介绍两种最新的基于深度学习的3D重建方法:VGGSfM和Mast3r,并通过Gaussian Splatting技术对它们的性能进行全面比较和分析。

VGGSfM:基于视觉几何的深度结构运动恢复

VGGSfM(Visual Geometry Grounded Deep Structure From Motion)是由Facebook Research团队开发的一种全新的结构运动恢复(Structure from Motion, SfM)方法。它的核心创新点在于引入了一个完全可微分的SfM流程,将深度学习模型集成到SfM过程的每个阶段。

VGGSfM的主要特点包括:

端到端可微分性:整个流程是完全可微分的,这使得端到端的训练和优化成为可能。
高精度相机重建:VGGSfM能提供极其精确的相机参数重建,这对下游任务如神经渲染非常有利。
全局优化:同时优化所有相机姿态,避免了增量方法的缺陷。
可微分光束平差(Bundle Adjustment):同时优化相机参数和3D点以最小化重投影误差。

Mast3r:基于3D的图像匹配技术

Mast3r(Matching And Stereo Triangulation with 3D Reconstruction)是由Naver Labs开发的一种增强型立体匹配方法。它在Dust3r的基础上,集成了密集局部特征预测和快速互反匹配。Mast3r主要聚焦于利用立体视觉来改善3D点和相机参数估计。

Mast3r的主要特点包括:

密集匹配:在密集特征匹配方面表现出色,能提供详细的3D重建结果。
注意力机制:利用图像对之间的交叉注意力进行稳健的特征提取和匹配。
相机参数重建:虽然不是主要关注点,但在相机姿态估计的精度上略逊于VGGSfM和COLMAP。

性能对比与分析

为了全面比较VGGSfM和Mast3r的性能,研究者使用了Gaussian Splatting技术对两种方法进行了测试。测试数据集包括NLE_tower(5张图像)、penguin(10张图像)和guitar(27张图像)。

NLE tower comparison

图1: NLE tower数据集上Mast3r(左)和VGGSfM(右)的点云重建结果对比

从重建结果来看:

点云密度:Mast3r生成的点云通常更加密集和多样化。这得益于其优秀的密集匹配能力。
相机姿态精度:VGGSfM在相机姿态重建方面表现更为出色。与COLMAP相比,VGGSfM的相机姿态误差小于0.01角度距离,而Mast3r的误差超过0.1角度距离。
鲁棒性:两种方法都比传统的COLMAP更加鲁棒。在实验中,COLMAP无法重建上述所有数据集,而VGGSfM和Mast3r都能成功完成重建任务。
内存效率:VGGSfM在处理大规模数据集时表现更好。在单个RTX 4090 GPU上,VGGSfM可以重建超过90张图像,而Mast3r在处理超过30张图像时就会遇到困难。

Radiance Fields重建结果

除了点云重建,研究者还使用两种方法的结果进行了Radiance Fields重建,以评估它们在下游任务中的表现。

NLE tower Radiance Fields

图2: NLE tower数据集上Mast3r(左)和VGGSfM(右)的Radiance Fields重建结果对比

从Radiance Fields重建结果可以看出:

细节保留:VGGSfM由于其更精确的相机姿态估计,在保留场景细节方面表现更好。
视角一致性:VGGSfM重建的场景在不同视角下保持更好的一致性。
边缘锐利度:VGGSfM重建的场景边缘通常更加锐利和清晰。

进一步优化的可能性

值得注意的是,Mast3r(以及VGGSfM)的相机姿态可以作为Radiance Fields训练过程中相机姿态优化的良好初始点。研究者进行了一个玩具实验,将Mast3r的结果与Splatfacto进行进一步的相机姿态优化,取得了令人鼓舞的效果。这表明,结合这些深度学习方法和传统的优化技术可能会带来更好的重建结果。