Patch-based stereo is nowadays a commonly used image-based technique for dense 3D reconstruction in large scale multi-view applications. The typical steps of such a pipeline can be summarized in stereo pair selection, depth map computation, depth map refinement and, finally, fusion in order to generate a complete and accurate representation of the scene in 3D. In this study, we aim to support the standard dense 3D reconstruction of scenes as implemented in the open source library OpenMVS by using semantic priors. To this end, during the depth map fusion step, along with the depth consistency check between depth maps of neighbouring views referring to the same part of the 3D scene, we impose extra semantic constraints in order to remove possible errors and selectively obtain segmented point clouds per label, boosting automation towards this direction. I n order to reassure semantic coherence between neighbouring views, additional semantic criterions can be considered, aiming to elim inate mismatches of pixels belonging in different classes.
MonSter++: Unified Stereo Matching, Multi-view Stereo, and Real-time Stereo with Monodepth Priors
School of Electronic Information and Communications, Huazhong University of Science and Technology(电子信息与通讯学院,华中科技大学);Meta;AI Chip Center, Hong Kong University of Science and Technology(香港科技大学人工智能芯片中心);Nanjing Forestry University(南京林业大学);Autel Robotics
National Key Laboratory of Science and Technology on Multispectral Information Processing(多光谱信息处理科学技术国家重点实验室);School of Artifical Intelligence and Automation, Huazhong University of Science and Technology(华中科技大学人工智能与自动化学院)
National Key Laboratory of Science and Technology on Multispectral Information Processing(多光谱信息处理国家重点实验室);School of Artifical Intelligence and Automation(人工智能与自动化学院);Huazhong University of Science and Technology(华中科技大学)
Accurate Point Measurement in 3DGS -- A New Alternative to Traditional Stereoscopic-View Based Measurements
Dept. of Civil, Environmental and Geodetic Engineering, The Ohio State University, Columbus OH, US(土木、环境与大地测量工程系,俄亥俄州立大学,哥伦布 OH,美国);Dept. of Electrical and Computer Engineering, The Ohio State University, Columbus OH, US(电气与计算机工程系,俄亥俄州立大学,哥伦布 OH,美国)
Non-local Recurrent Regularization Networks for Multi-view Stereo
ETH Zurich(苏黎世联邦理工学院)
在深度多视图立体视觉网络中,代价正则化对于实现精确的深度估计至关重要。由于3D成本体积过滤通常是消耗内存的,经常性的2D成本地图正则化最近变得流行,并在重建不同尺度的3D模型中显示出巨大的潜力。然而,现有的递归方法仅在深度域中对局部依赖进行建模,这极大地限制了沿深度维度捕获全局场景上下文的能力。为了解决这个问题,我们提出了一种新的非局部递归正则化网络的多视图立体视觉,命名为NR 2-Net。具体来说,我们设计了一个深度注意模块来捕获滑动深度块内的非局部深度交互。然后,不同块之间的全局场景上下文被建模在一个门控递归的方式。这样,沿着深度维度的长程依赖性被捕获以促进成本正则化。此外,我们设计了一个动态的深度图融合策略,以提高算法的鲁棒性。我们的方法在DTU和Tanks and Temples数据集上实现了最先进的重建结果。
Stereo-GS: Multi-View Stereo Vision Model for Generalizable 3D Gaussian Splatting Reconstruction
Department of Computer Science, Hong Kong Baptist University(香港 Baptist 大学计算机科学系);NVIDIA AI Technology Center, NVIDIA(NVIDIA 人工智能技术中心);School of Control Science and Engineering, Shandong University(控制科学与工程学院,山东大学)
Pyramid Multi-view Stereo Net with Self-adaptive View Aggregation
PKU(北京大学);HKU(香港大学);Tencent(腾讯);Kwai Inc.(快手)
本文提出了一种高效的金字塔多视图立体视觉(MVS)网络,该网络具有自适应视图聚合功能,能够实现稠密点云的精确、完整重建。与以往基于深度学习的MVS方法中使用均方方差来生成成本体积不同,我们的\textbf{VA-MVSNet}通过引入两种新的自适应视图聚合:像素视图聚合和体素视图聚合,以较小的额外内存消耗来合并不同视图中的成本方差。为了进一步提高三维点云重建的鲁棒性和完整性,我们扩展了VA-MVSNet与金字塔多尺度图像输入为\textbf{PVA-MVSNet},其中多度量约束被利用来聚合可靠的深度估计在较粗的尺度,以填充在较细的尺度不匹配的区域。实验结果表明,我们的方法建立了一个新的国家的最先进的\textsl{\textbf{DTU}}数据集的完整性和整体质量的显着改善,并通过实现与国家的最先进的方法在\textsl{\textbf{Tanks and Temples}}基准相当的性能具有很强的泛化能力。我们的代码库位于\hyperlink{https://github.com/yhw-yhw/PVAMVSNet}{https://github.com/yhw-yhw/PVAMVSNet}
本文提出了一种基于长短期记忆(LSTM)的自适应聚合递归多视图立体视觉网络,即AA-RMVSNet。我们首先引入了一个视图内聚合模块,通过使用上下文感知卷积和多尺度聚合自适应地提取图像特征,有效地提高了具有挑战性的区域,如薄的物体和大的低纹理表面的性能。为了克服复杂场景中变化遮挡的困难,我们提出了一个视图间成本体积聚合模块,用于自适应像素视图聚合,该模块能够在所有视图之间保持更好的匹配对。提出的两个自适应聚合模块是轻量级的,有效的和互补的提高三维重建的准确性和完整性。代替传统的3D CNN,我们利用具有递归结构的混合网络进行成本体积正则化,这允许高分辨率重建和更精细的假设平面扫描。所提出的网络是端到端训练的,在各种数据集上都取得了优异的性能。该算法在Tanks and Temples基准测试中对$1^{st}$进行了排序,并在DTU数据集上取得了较好的结果,具有较强的泛化能力和鲁棒性。我们的方法的实现可在https://github.com/QT-Zhu/AA-RMVSNet上获得。
PatchMVSNet: Patch-wise Unsupervised Multi-View Stereo for Weakly-Textured Surface Reconstruction
Wuhan University(武汉大学)
基于学习的多视图立体视觉(MVS)在流行的数据集上获得了良好的重建效果。然而,监督学习方法需要用于训练的基础事实,这是难以收集的,特别是对于大规模数据集。虽然目前已经提出了无监督学习方法并取得了令人满意的结果,但这些方法仍然无法在具有挑战性的场景中重建完整的结果,例如弱纹理表面,因为这些方法主要依赖于受到各种光照的像素级光度一致性。为了减少这些具有挑战性的场景中的匹配模糊性,本文提出了鲁棒的损失函数,利用多视图图像下的约束:1)逐块光度一致性损失,这扩大了多视图相似性测量中的特征的感受野,2)鲁棒的两视图几何一致性,这包括最小遮挡的跨视图深度一致性检查。我们的无监督策略可以用任意的深度估计框架来实现,并且可以用任意的大规模MVS数据集来训练。实验结果表明,该方法能有效降低匹配二义性,特别是提高弱纹理重建的完整性。此外,我们的方法在流行的基准测试中达到了最先进方法的性能,如DTU,Tanks and Temples和ETH3D。代码将很快发布。
DMS:Diffusion-Based Multi-Baseline Stereo Generation for Improving Self-Supervised Depth Estimation
Institute of Science Tokyo, Japan(东京科学研究所);Sony Semiconductor Solutions Group, Japan(日本索尼半导体解决方案集团);Nanyang Technological University, Singapore(南洋理工大学)
SDL-MVS: View Space and Depth Deformable Learning Paradigm for Multi-View Stereo Reconstruction in Remote Sensing
Aerospace Information Research Institute, Chinese Academy of Sciences(中国科学院空天信息创新研究院);University of Chinese Academy of Sciences(中国科学院大学);School of Electronic, Electrical and Communication Engineering, University of Chinese Academy of Sciences(中国科学院大学电子电气与通信工程学院)
Stereo Radiance Fields (SRF): Learning View Synthesis for Sparse Views of Novel Scenes
University of Tübingen(图宾根大学);Max Planck Institute for Informatics, Saarland Informatics Campus(马克斯·普朗克信息学研究所,萨尔兰信息学园区);Carnegie Mellon University(卡内基梅隆大学)
StereoPose: Category-Level 6D Transparent Object Pose Estimation from Stereo Images via Back-View NOCS
The Chinese University of Hong Kong(香港中文大学);University of California, Berkeley(加州大学伯克利分校);Dyson Robot Learning Lab(戴森机器人学习实验室);Hong Kong Centre for Logistics Robotics(香港物流机器人中心)