CompNVS: Novel View Synthesis with Scene Completion
Zhejiang University(浙江大学);The University of Tokyo(东京大学);Microsoft(微软);University of Amsterdam(阿姆斯特丹大学)
我们介绍了一个可扩展的框架,从RGB-D图像的新的视图合成,在很大程度上不完整的场景覆盖。虽然生成神经方法已经在2D图像上展示了惊人的结果,但它们尚未与场景完成相结合实现类似的真实感结果,其中空间3D场景理解是必不可少的。为此,我们提出了一个生成流水线,在稀疏的基于网格的神经场景表示上执行,以2.5D-3D-2.5D的方式通过场景的学习分布来完成未观察到的场景部分。我们在3D空间中使用几何完成网络和随后的纹理修复网络来处理编码的图像特征,以外推丢失的区域。通过一致性相关的可微分绘制,最终获得真实感图像序列。综合实验表明,我们的方法的图形输出优于最先进的,特别是在未观察到的场景部分。
2022-07-23 cs.AI cs.CV
Reconstruction-Aware Prior Distillation for Semi-supervised Point Cloud Completion
Renmin University of China(中国人民大学);Nreal;Tsinghua University(清华大学)
针对点云补全依赖大量成对训练数据的问题,本文提出半监督方法 RaPD,通过两阶段先验学习与蒸馏及自监督补全模块,在同源和异源场景下均取得优于以往方法的效果。
2023-07-24 cs.CV
SCFusion: Real-time Incremental Scene Reconstruction with Semantic Completion
Technische Universitat München(慕尼黑工业大学);Google Inc.(谷歌公司)
基于深度数据实时的【形】场景重建不可避免地会受到遮挡的影响,从而导致不完整的3D模型。部分重建,反过来,限制了算法的性能,这些算法利用它们来应用于例如,增强现实、机器人导航和3D绘图。大多数方法通过预测缺失的几何形状作为离线优化来解决这个问题,因此与实时的【形】应用程序不兼容。我们提出了一个框架,改善了这个问题,通过执行场景重建和语义场景完成联合在增量和实时的【形】方式,基于深度图的输入序列。我们的框架依赖于一种新的神经架构,旨在处理占用图,并利用体素状态准确,有效地融合语义完成与3D全局模型。我们定量和定性地评估了所提出的方法,证明我们的方法可以获得准确的三维语义场景完成实时的【形】。
2021-03-31 cs.CV cs.NE cs.RO
View-Guided Point Cloud Completion
Tsinghua University(清华大学);Huawei Technologies Canada Co Ltd(华为技术加拿大有限公司);OPPO Research Institute(OPPO研究院)
本文提出了一种视图引导的点云完成任务的解决方案。与大多数现有的方法直接推断丢失的点使用形状先验,我们解决这个任务,通过引入ViPC(视图引导点云完成),需要从一个额外的单视图图像丢失的关键全局结构信息。通过利用顺序执行有效的跨模态和跨级别融合的框架,我们的方法在我们为视图引导点云完成任务收集的新的大规模数据集上实现了比典型的现有解决方案更优越的结果。
2021-04-13 cs.CV
A Three-Dimensional Reverse-Projection Method for Sparse Point Cloud Completion and Its Application to High-Speed Train Nose Reconstruction
本研究提出一种三轴反向投影补全方法,结合FAST-LIVO2与MLS滤波,填补高速列车车头玻璃窗区域的稀疏点云孔洞,并通过贪心投影三角化等生成网格,实现非接触式数字建模。
2026-10-06 cs.CV
Wave-Former: Through-Occlusion 3D Reconstruction via Wireless Shape Completion
Massachusetts Institute of Technology(麻省理工学院)
针对现有毫米波三维重建方法覆盖有限、噪声大的问题,提出融合毫米波物理特性的三阶段Wave-Former方法,可实现完全遮挡物体的高精度重建,在真实场景泛化性和召回率上显著优于现有基线。
2025-11-19 cs.CV
MVCustom: Multi-View Customized Diffusion via Geometric Latent Rendering and Completion
MVCustom通过几何潜在渲染和完成技术,实现多视图定制化扩散,解决多视图一致性和定制化保真度的统一问题。
2026-03-11 cs.AI cs.CV
S&CNet: Monocular Depth Completion for Autonomous Systems and 3D Reconstruction
Beihang University(北京航空航天大学);Peking University(北京大学);Institute for Infocomm Research(信息通信研究院)
密集深度完井对于自主系统和3D重建至关重要。在本文中,提出了一种轻量级而有效的网络(S\&CNet),以获得一个良好的权衡效率和精度之间的密集深度完成。引入双流注意模块(S\&C增强器)来度量提取特征的空间方向和通道方向的全局范围关系,以提高性能。设计了一个由粗到精的网络,并将所提出的S &C增强器插入到粗估计网络的编码器和解码器网络之间。实验结果表明,我们的方法实现了竞争力的性能与现有的作品KITTI数据集,但几乎快四倍。建议的S\&C增强器可以插入到其他现有的作品,并提高其性能显着与一个微不足道的额外的计算成本。
2019-08-29 cs.CV eess.IV
EndoDDC: Learning Sparse to Dense Reconstruction for Endoscopic Robotic Navigation via Diffusion Depth Completion
Department of Electronic Engineering, The Chinese University of Hong Kong(电子工程系,香港中文大学)
EndoDDC通过扩散模型整合图像、稀疏深度信息和深度梯度特征,提升内窥镜环境下深度重建的准确性和鲁棒性。
2026-02-26 cs.CV
Image Tag Completion by Low-rank Factorization with Dual Reconstruction Structure Preserved
本文提出了一种新的标签补全算法,该算法具有以下特点:1)低秩和误差稀疏性:将不完整的初始标签矩阵D分解为完整的标签矩阵A和稀疏的误差矩阵E。然而,不是最小化其核范数,而是将A进一步分解为基矩阵U和稀疏系数矩阵V,即D=UV+E。这种封装稀疏编码的低秩公式使我们的算法能够从有噪声的初始数据中恢复潜在结构,并且避免执行过多的去噪; 2)局部重建结构一致性:为了引导D的完成,分别通过U和V获得并保存特征空间和标签空间中的局部线性重建结构。这样的方案可以减轻由低级特征和不完整标签测量的距离的负面影响。因此,我们可以在利用尽可能多的信息和不被误导到次优性能之间寻求平衡。在Corel 5 k数据集和最新发布的Flickr 30 Concepts数据集上的实验表明了该方法的有效性和高效性。
2014-06-09 cs.CV cs.IR
3D Shape Completion with Multi-view Consistent Inference
University of Maryland, College Park(马里兰大学帕克分校)
3D形状完成对于使机器能够从部分观察中感知对象的完整几何形状非常重要。为了解决这个问题,已经提出了基于视图的方法。这些方法将形状表示为多个深度图像,这些深度图像可以被反向投影以产生对应的3D点云,并且它们通过学习使用神经网络来完成每个深度图像来执行形状完成。虽然基于视图的方法可以得到最先进的结果,但它们目前在推理阶段并不强制执行已完成视图之间的几何一致性。为了解决这个问题,我们提出了一个多视图一致性推理技术的三维形状完成,我们表示为一个能量最小化问题,包括一个数据项和一个正则化项。我们将正则化项制定为一致性损失,鼓励多个视图之间的几何一致性,而数据项保证优化的视图不会偏离学习的形状描述符太多。实验结果表明,我们的方法比以前的技术更准确地完成形状。
2019-11-28 cs.CV
Image Reconstruction using Superpixel Clustering and Tensor Completion
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);University of Sharjah(沙迦大学)
本文提出基于超像素分割与张量补全的像素选择方法,通过选取区域代表像素实现紧凑图像表示,并提出两种平滑张量补全算法进行重建,实验证明其优于均匀采样。
2023-05-16 cs.CV cs.NA math.NA
EscherNet++: Simultaneous Amodal Completion and Scalable View Synthesis through Masked Fine-Tuning and Enhanced Feed-Forward 3D Reconstruction
Georgia Institute of Technology(佐治亚理工学院);Toyota Research Institute(丰田研究机构)
提出EscherNet++,通过输入级和特征级掩码微调扩散模型,实现零样本同步非模态补全与新视图合成,无需额外训练集成前馈模型使重建时间减少95%,并在遮挡任务上取得SOTA表现。
2025-07-10 cs.CV
Active Visuo-Haptic Object Shape Completion
CTU in Prague(布拉格捷克理工大学);Aalto University(阿尔托大学);Czech Institute of Informatics, Robotics, and Cybernetics, CTU in Prague(布拉格捷克理工大学捷克信息学、机器人与控制论研究所)
最近的进步,在对象形状完成,使令人印象深刻的对象重建只使用视觉输入。然而,由于自遮挡,重建在被遮挡的物体部分具有很高的不确定性,这对抓取等下游机器人任务的性能产生了负面影响。在这项工作中,我们提出了一个主动的视觉触觉形状完成方法称为Act-VH,主动计算在哪里触摸的重建不确定性的基础上的对象。Act-VH从点云重建对象,并使用IGR(一种最新的隐式表面深度神经网络)计算重建不确定性。我们通过实验评估了Act-VH在模拟和现实世界中对五个基线的重建精度。为此,我们还提出了一个新的模拟环境。结果表明,Act-VH优于所有基线和不确定性驱动的触觉探索政策导致更高的重建精度比随机政策和高斯过程隐式曲面驱动的政策。作为最后的实验,我们评估Act-VH和最佳重建基线上把握10个新的对象。结果表明,Act-VH在所有物体上的抓取成功率均显著高于基线。总之,这项工作为在更复杂的混乱场景中使用主动视觉触觉形状完成打开了大门。
2022-03-17 cs.CV cs.RO
Cross-View Completion Models are Zero-shot Correspondence Estimators
Samsung Electronics(三星电子);KAIST(韩国科学技术院);Korea University(高丽大学)
该研究类比自监督对应关系学习探索跨视图补全学习新视角,发现跨视图补全模型的交叉注意力图比编码器/解码器特征的其他相关性更能有效捕捉对应关系,并在零样本匹配等任务上验证了其有效性。
2024-12-12 cs.CV
Cascaded Refinement Network for Point Cloud Completion with Self-supervision
National University of Singapore(新加坡国立大学)
点云通常是稀疏和不完整的,这给实际应用带来了困难。现有的形状完成方法往往生成粗糙的形状,没有细粒度的细节。考虑到这一点,我们介绍了一个两个分支网络的形状完成。第一个分支是一个级联的形状完成子网络来合成完整的对象,我们建议使用部分输入与粗输出,以保持密集点重建过程中的对象细节。第二个分支是一个自动编码器,用于重建原始的部分输入。这两个分支共享相同的特征提取器,以学习用于形状完成的准确的全局特征。此外,我们提出了两种策略,使我们的网络训练时,地面真实数据不可用。这是为了减轻现有方法对大量地面实况训练数据的依赖,这些地面实况训练数据在现实世界的应用中通常难以获得。此外,我们提出的策略也能够提高重建质量的完全监督学习。我们验证了我们的方法在自我监督,半监督和完全监督的设置具有优越的性能。在不同数据集上的定量和定性结果表明,我们的方法在点云完成任务上比最先进的方法实现了更真实的输出。
2021-08-26 cs.AI cs.CV
PanoPlane: Plane-Aware Panoramic Completion for Sparse-View Indoor 3D Gaussian Splatting
University of Maryland, College Park(马里兰大学学院公园分校)
PanoPlane通过全景场景完成重建封闭房间几何,利用360度全景完成条件生成过程,通过Layout Anchored Attention Steering机制引导扩散模型注意力至检测到的平面表面,实现基于几何一致性的表面外推,提升稀疏视角下的新型视图合成质量。
2026-05-13 cs.CV
City-Level 3D Surface Reconstruction with Viewpoint Orientation Partitioning and Scene Completion
School of Software, Tsinghua University(清华大学软件学院);Department of Computer Science, Wayne State University(韦恩州立大学计算机科学系)
针对多视图三维表面重建难题,提出基于视点方向的场景划分方法,确保相似方向视图共同参与以精确估计深度,并行计算更均衡,还提出检测修复点云缺失区域策略,提升大规模场景重建质量。
2026-07-07 cs.CV
CF-PRNet: Coarse-to-Fine Prototype Refining Network for Point Cloud Completion and Reconstruction
The University of Queensland(昆士兰大学)
针对农业场景下果实局部视图三维重建难题,提出由粗到细的原型精炼网络CF-PRNet,仅需单张RGB-D图像即可推理,通过渐进式精炼网格原型实现高精度点云补全,在甜椒重建挑战赛中夺冠。
2024-09-13 cs.CV
Multiple View Performers for Shape Completion
Columbia University(哥伦比亚大学);Google(谷歌);U.S. Army Research Laboratory(美国陆军研究实验室)
我们提出了多视图执行器(MVP)-一个新的架构,从一系列的时间顺序的意见,三维形状完成。MVP通过使用称为执行者的线性注意力Transformers来完成此任务。我们的模型允许当前对场景的观察参与到先前的观察中,以获得更准确的填充。过去的观察的历史被压缩通过紧凑的联想记忆近似现代连续Hopfield记忆,但至关重要的是独立于历史长度的大小。我们将我们的模型与几个基线进行比较,以随着时间的推移完成形状,展示MVP提供的泛化增益。据我们所知,MVP是第一种不需要多个深度视图配准的多视图体素重建方法,也是第一种用于3D形状完成的基于因果Transformer的模型。
2022-09-13 cs.CV cs.RO
PPC-MT: Parallel Point Cloud Completion with Mamba-Transformer Hybrid Architecture
Xinjiang University(新疆大学);Institute of Semiconductors, Chinese Academy of Sciences(半导体研究所,中国科学院)
PPC-MT通过混合Mamba-Transformer架构,提出并行点云补全方法,在效率与重建精度间取得平衡。
2026-03-01 cs.AI cs.CV
AutoSDF: Shape Priors for 3D Completion, Reconstruction and Generation
Carnegie Mellon University(卡内基梅隆大学);Verisk Analytics(Verisk分析公司)
强大的先验知识使我们能够在信息不足的情况下进行推理。在本文中,我们提出了一个自回归先验的3D形状,以解决多模态的3D任务,如形状完成,重建和生成。我们在3D形状的离散化,低维,象征性的网格状的潜在表示的非顺序自回归分布的分布模型。这使得我们能够表示以来自任意一组空间锚定查询位置的信息为条件的3D形状上的分布,从而在这样的任意设置(例如,仅给出后腿的视图而产生完整的椅子)。我们还表明,学习的自回归先验可以用于条件任务,如单视图重建和基于语言的生成。这是通过学习任务特定的朴素条件来实现的,这些条件可以通过在最小配对数据上训练的轻量级模型来近似。我们使用定量和定性评估来验证所提出的方法的有效性,并表明所提出的方法优于针对单个任务训练的专业最先进的方法。包含代码和视频可视化的项目页面可以在www.example.com上找到。
2023-03-29 cs.CV cs.LG
Memory-Guided Point Cloud Completion for Dental Reconstruction
College of Information and Intelligent Science, Donghua University, Shanghai, China(信息与智能科学学院,东华大学,上海,中国);Institute of Artificial Intelligence, Shanghai University, Shanghai, China(人工智能研究院,上海大学,上海,中国)
本文提出一种基于记忆的点云补全方法,通过整合可学习的原型记忆来稳定缺失区域推断并提升牙科点云重建的准确性。
2025-12-03 cs.CV
Lose The Views: Limited Angle CT Reconstruction via Implicit Sinogram Completion
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
计算机断层扫描(CT)重建是从安全到医疗保健的各种应用的基本组成部分。经典技术需要从对象的完整180 $^\circ$视图测量投影,称为正弦图。当视角小于180 $^\circ$时,这在有限角度场景中是不切实际的,这可能由于不同的因素而发生,包括对扫描时间的限制、扫描仪旋转的有限灵活性等。因此获得的正弦图导致现有技术产生高度伪影的重建。在本文中,我们建议解决这个问题,通过隐式正弦图完成,在一个具有挑战性的现实世界的数据集包含扫描常见的托运行李。我们提出了一个系统,由1D和2D卷积神经网络,在有限的角度正弦图直接产生重建的最佳估计。接下来,我们在该重建上使用X射线变换以获得“完整的”正弦图,就好像它来自完整的180 $^\circ$测量。我们将其馈送到标准分析和迭代重建技术以获得最终重建。我们通过大量的实验表明,这种组合策略优于许多竞争对手的基线。我们还提出了一个重建的信心措施,使从业者能够衡量我们的网络所做的预测的可靠性。我们表明,这一措施是一个强有力的质量指标,测量的PSNR,而不需要地面真理在测试时。最后,使用分割实验,我们表明,我们的重建有效地保留了物体的三维结构。
2018-07-11 cs.CV stat.ML
High-Resolution Cranial Defect Reconstruction by Iterative, Low-Resolution, Point Cloud Completion Transformers
AGH University of Science and Technology(AGH科技大学);University of Applied Sciences Western Switzerland (HES-SO Valais)(瑞士西部应用科学大学(瓦莱州高等学院));Information Systems Institute(信息系统研究所)
针对现有体素法颅骨缺损重建的局限性,本研究将其重构为点云补全任务,提出迭代式Transformer方法,可实现任意高分辨率重建,且内存效率优于现有先进方法。
2024-05-21 cs.AI cs.CV cs.LG
Deep Reinforcement Learning of Volume-guided Progressive View Inpainting for 3D Point Scene Completion from a Single Depth Image
The Chinese University of Hong Kong(Shenzhen)(香港中文大学(深圳));Dalian University of Technology(大连理工大学);Shenzhen Research Institute of Big Data(深圳大数据研究院);University of Science and Technology of China(中国科学技术大学);Alibaba Group(阿里巴巴集团);Texas A&M University(得克萨斯农工大学)
本文提出了一种基于深度强化学习的渐进式视图修复方法,在体指导下完成三维点场景的修复,实现了从单个深度图像重建高质量的场景。我们的方法是端到端的,由三个模块组成:3D场景体重建,2D深度图修复和多视图选择完成。给定单个深度图像,我们的方法首先通过3D体积分支来获得体积场景重建,作为下一个视图修复步骤的指导,该步骤试图弥补缺失的信息;第三步涉及将体积投影到输入的同一视图下,将它们连接起来以完成当前视图深度,并将所有深度集成到点云中。由于遮挡区域不可用,我们求助于深度Q-Network来环顾四周,并逐步选择下一个最佳视图来完成大洞,直到场景得到充分重建,同时保证有效性。所有步骤都是共同学习的,以实现稳健和一致的结果。我们进行了定性和定量的评估与广泛的实验上的SUCG数据,获得更好的结果比最先进的。
2019-03-12 cs.CV
Boosting Self-Supervision for Single-View Scene Completion via Knowledge Distillation
TU Munich(慕尼黑工业大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本研究提出MVBTS多视图密度场融合自监督方法,通过知识蒸馏训练KDBTS单视图场景补全网络,在占据预测尤其是遮挡区域达到SOTA性能。
2024-04-11 cs.CV
Image Completion for View Synthesis Using Markov Random Fields and Efficient Belief Propagation
视图合成是一个过程,用于生成新的意见,从一个场景,这已经记录了一个3-D相机设置。它在3D后期制作和2D到3D转换中有重要的应用。然而,一个中心问题,在产生新的观点在于处理的disocclusions。在原始视图中被遮挡的背景内容可能在合成视图中变得不被显示。这导致生成的视图中缺少信息,必须以视觉上合理的方式填充。提出了一种基于马尔可夫随机场和有效置信度传播的合成视图去遮挡填充修复算法。我们比较两个国家的最先进的算法的结果,并证明了显着改善图像质量。
2014-06-24 cs.CV
FlatLands: Indoor floormap completion from a single egocentric view
School of Computing, The Australian National University, Canberra, Australia(澳大利亚国立大学计算机学院,堪培拉,澳大利亚)
本文提出FlatLands数据集和基准,用于单视角鸟瞰图地板完成。通过27万次真实室内场景观测,提供对齐的观测、可见性、有效性及真实BEV地图,支持分布内和分布外评估,比较多种模型并提出端到端的RGB到地板地图管道。
2026-11-04 cs.AI cs.CV cs.RO
Unsupervised Shape Completion via Deep Prior in the Neural Tangent Kernel Perspective
University of Hong Kong(香港大学);Microsoft Research Asia(微软亚洲研究院);Texas A&M University(德克萨斯A&M大学)
我们提出了一种新的方法来完成和重建三维形状从不完整的扫描数据,通过使用深度神经网络。网络不是在监督完成任务上进行训练并应用于测试形状,而是在单个测试形状上从头开始优化,以完全适应形状并使用已知区域的上下文指导来完成缺失的数据。由未经训练的神经网络完成缺失数据的能力通常被称为深度先验。在本文中,我们从神经切线核(NTK)的角度解释了深度先验,并表明经过训练的CNN的完整形状补丁与现有补丁自然相似,因为它们在NTK诱导的核特征空间中很接近。解释使我们能够设计更有效的网络结构和学习机制的形状完成和重建任务。与传统的和其他基于无监督学习的重建方法相比,我们的方法更能意识到结构的不稳定性,因此可以用合理的形状来完成大的缺失区域,并补充基于监督学习的方法,这些方法使用数据库先验知识,不需要额外的训练数据集,并显示出对特定形状实例的灵活适应。
2021-04-19 cs.AI cs.CV
Self-Supervised Point Cloud Completion based on Multi-View Augmentations of Single Partial Point Cloud
Hunan University(湖南大学)
本文针对点云补全中监督依赖真值、无监督需完整点云等问题,提出基于单一部分点云多视图增强的自监督方法,并首次引入Mamba提升生成质量,在合成与真实数据集上取得最优结果。
2025-09-26 cs.CV
Tabletop Transparent Scene Reconstruction via Epipolar-Guided Optical Flow with Monocular Depth Completion Prior
University of Michigan(密歇根大学);Amazon Lab126(亚马逊Lab126)
针对RGB-D相机重建透明物体难题,提出两阶段流程:先利用单目深度补全获取形状先验,再通过极线引导光流融合多视角先验,实现高质量跨视角一致的3D重建。
2023-10-15 cs.CV cs.RO
Deep Learned Full-3D Object Completion from Single View
Technische Universität München(慕尼黑工业大学);University of Bologna(博洛尼亚大学);Johns Hopkins University(约翰斯·霍普金斯大学)
在与环境交互和导航时,3D几何体是一个非常有用的提示。本文提出了一种新的3D重建和场景理解方法,该方法隐式地从深度图中学习3D几何形状,将深度卷积神经网络架构与自动编码器配对。基于ModelNet(一个大规模的CAD模型集合)构建合成深度视图和体素化3D表示的数据集,以训练网络。所提出的方法提供了一个显着的优势,目前,明确的重建方法,它学习关键的几何特征离线,并利用这些来预测一个看不见的对象的最有可能的重建。这个相对较小的网络由大约400万个权重组成,通过使用预先训练的解压缩层,在30 x30 x30分辨率下实现了92.9%的重建精度。这大约是当前领先网络权重的1/4。该模型的快速执行时间使其适合于实时应用。
2018-08-21 cs.CV
MVBoost: Boost 3D Reconstruction with Multi-View Refinement
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);The Hong Kong Polytechnic University(香港理工大学)
针对三维重建模型因数据集稀缺泛化能力有限的问题,提出MVBoost框架,结合多视图扩散模型与三维重建模型生成伪GT数据,构建大规模数据集训练前馈模型,还优化输入视角,实现更优重建结果与泛化能力。
2024-12-02 cs.AI cs.CV
PoInit-of-View: Poisoning Initialization of Views Transfers Across Multiple 3D Reconstruction Systems
University of Trento(特伦托大学);Fondazione Bruno Kessler(布鲁诺·科斯勒基金会);Xi’an Jiaotong University(西安交通大学)
本文提出PoInit-of-View方法,通过优化对抗扰动在不同3D重建系统中引发视角污染,破坏关键点检测和特征匹配,从而降低重建质量。
2026-04-17 cs.AI cs.CV
Divergence-Based Adaptive Extreme Video Completion
School of Computer;Communication Sciences, EPFL, Switzerland
极端的图像或视频完成,例如,我们在随机位置只保留1%的像素,允许在所需的预处理方面进行非常便宜的采样。然而,其结果是,重建对人类和修复算法都具有挑战性。我们提出了将最先进的极端图像完成算法扩展到极端视频完成。我们分析了一种基于颜色KL发散的颜色运动估计方法,该方法适用于非常稀疏的场景。我们的算法利用的估计,以适应其空间和时间之间的滤波重建稀疏随机采样的视频。我们使用重建PSNR和平均意见分数对50个公开的视频验证了我们的结果。
2020-04-14 cs.CV eess.IV
Implicit Functions in Feature Space for 3D Shape Reconstruction and Completion
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);TU Braunschweig(布伦瑞克工业大学)
虽然许多工作都集中在从图像的三维重建,在本文中,我们专注于三维形状重建和完成从各种三维输入,这是在某些方面的不足:低和高分辨率的体素,稀疏和密集的点云,完整或不完整。这种3D输入的处理是一个越来越重要的问题,因为它们是3D扫描仪的输出,其变得越来越容易获得,并且是3D计算机视觉算法的中间输出。最近,学习的隐函数显示出很大的希望,因为它们产生连续的重建。然而,我们确定了从3D输入重建的两个限制:1)没有保留输入数据中存在的细节,以及2)对有关节的人的重建较差。为了解决这个问题,我们提出了隐式特征网络(IF-Nets),它提供连续的输出,可以处理多种拓扑结构,并为丢失或稀疏的输入数据提供完整的形状,保留最近学习的隐式函数的良好特性,但关键是它们还可以保留输入数据中存在的细节,并且可以重建有关节的人。我们的工作在两个关键方面不同于以前的工作。首先,我们不是使用单个向量来编码3D形状,而是提取可学习的深度特征的三维多尺度张量,该张量与嵌入形状的原始欧几里得空间对齐。其次,我们不是直接对x-y-z点坐标进行分类,而是对从连续查询点处的张量中提取的深度特征进行分类。我们表明,这迫使我们的模型作出决定的基础上的全球和局部形状结构,而不是点坐标,这是任意的欧几里得变换。实验表明,IF-Nets在ShapeNet中的3D对象重建方面明显优于先前的工作,并获得更准确的3D人体重建。
2020-04-15 cs.CV cs.LG
3D-LatentMapper: View Agnostic Single-View Reconstruction of 3D Shapes
Hugging Face(拥抱脸公司);Bogazici University(海峡大学)
计算机图形学、3D计算机视觉和机器人社区已经产生了多种方法来表示和生成3D形状,以及大量的用例。然而,单视图重建仍然是一个具有挑战性的话题,可以解锁各种有趣的用例,如交互式设计。在这项工作中,我们提出了一个新的框架,利用中间潜在空间的视觉Transformer(ViT)和联合图像-文本表示模型,CLIP,快速和有效的单视图重建(SVR)。更具体地说,我们提出了一种新的映射网络架构,它可以学习从ViT和CLIP中提取的深度特征与基础3D生成模型的潜在空间之间的映射。与以前的工作不同,我们的方法使视图不可知的三维形状重建,即使在存在大的闭塞。我们使用ShapeNetV 2数据集,并与SOTA方法进行了广泛的实验,以证明我们的方法的有效性。
2022-12-05 cs.AI cs.CV
Geometric Matrix Completion: A Functional View
LIX, École Polytechnique(巴黎综合理工学院LIX实验室(LIX, École Polytechnique))
提出了几何矩阵完备化问题的一种全泛函观点。从现有的工作中,我们提出了一种新的正则化的启发,从功能图文献,更可解释的和理论上的声音。在具有强大的底层几何结构的合成任务上,我们的框架以巨大的优势(两个数量级)超过了最先进的技术,这表明了我们方法的潜力。在真实的数据集上,我们以以前方法的一小部分计算工作量实现了最先进的结果。我们的代码可在https://github.com/Not-IITian/functional-matrix-completion上公开获取
2020-09-29 cs.CV cs.LG cs.SI
FrameCrafter: Novel View Synthesis as Video Completion
Carnegie Mellon University(卡内基梅隆大学)
本文提出将稀疏新颖视角合成视为低帧率视频补全任务,通过改进架构实现视角不变性,证明视频模型能以最少监督生成竞争性稀疏视角合成结果。
2026-09-02 cs.CV
SceneCompleter: Dense 3D Scene Completion for Generative Novel View Synthesis
Department of Electronic Engineering, Tsinghua University(电子工程系,清华大学);Department of Automation, Tsinghua University(自动化系,清华大学)
提出SceneCompleter,通过几何-外观双流扩散模型在RGBD潜空间进行密集3D场景补全,并引入场景嵌入器整合全局信息,实现跨视角一致的生成式新视角合成。
2026-06-17 cs.CV
SDFusion: Multimodal 3D Shape Completion, Reconstruction, and Generation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Snap Research(Snap研究院)
在这项工作中,我们提出了一个新的框架,以简化业余用户的3D资产生成。为了实现交互式生成,我们的方法支持可以由人类轻松提供的各种输入方式,包括图像,文本,部分观察到的形状以及这些的组合,进一步允许调整每个输入的强度。我们的方法的核心是一个编码器-解码器,将3D形状压缩成紧凑的潜在表示,并在此基础上学习扩散模型。为了实现各种多模态输入,我们采用了特定于任务的编码器与辍学后,交叉注意力机制。由于其灵活性,我们的模型自然支持各种任务,在形状完成,基于图像的3D重建和文本到3D方面优于以前的工作。最有趣的是,我们的模型可以将所有这些任务组合成一个瑞士军刀工具,使用户能够同时使用不完整的形状,图像和文本描述来执行形状生成,为每个输入提供相对权重并促进交互性。尽管我们的方法是形状,我们进一步展示了一种有效的方法来纹理生成的形状使用大规模的文本到图像模型。
2023-03-22 cs.CV cs.LG
Gaussian Object Carver: Object-Compositional Gaussian Splatting with surfaces completion
Horizon Robotics(Horizon Robotics (地平线机器人))
本文提出GOC框架,将3D Gaussian Splatting与单目几何先验、多视图正则化及零样本OSC结合,实现可编辑、对象组合式且能补全遮挡表面的高质量3D场景重建。
2024-12-03 cs.CV cs.RO
Three-dimentional reconstruction of complex, dynamic population canopy architecture for crops with a novel point cloud completion model: A case study in Brassica napus rapeseed
Zhejiang University(浙江大学)
针对作物冠层遮挡导致三维重建不准确的问题,提出带MRDG、DGCFE模块的CP-PCN点云补全模型,实现油菜冠层高精度重建,提升产量预测准确率,可推广至其他作物。
2025-08-01 cs.CV
Revisiting Cross-View Completion: Self-Supervised Pre-Training via Reconstruction Error Comparison
LIGM, Ecole Nationale des Ponts et Chaussées, IP Paris, Univ Gustave Eiffel, CNRS(LIGM实验室、巴黎国立路桥学校、巴黎IP大学、古斯塔夫·埃菲尔大学、法国国家科学研究中心);Univ. Bordeaux, CNRS, Bordeaux INP, IMS(波尔多大学、法国国家科学研究中心、波尔多国立综合理工学院、IMS研究所)
本研究提出Gekko模型,通过重构误差对比实现跨视图补全的自监督预训练,无需3D标注即可提升多3D视觉任务性能,且可直接从原始视频训练,效果优于现有方法。
2026-09-02 cs.CV
MAGE: View-guided Point Cloud Completion with Efficient Modality Alignment and Adaptive Geometry Enhancement
MAIS, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所MAIS研究室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);GIPSA-lab, Univ. Grenoble Alpes, CNRS, Grenoble INP(格勒诺布尔大学GIPSA实验室,法国国家科学研究中心,格勒诺布尔国立综合理工学院)
提出统一几何感知框架,集成高效模态对齐与自适应几何增强,解决视图引导点云补全的跨模态几何不一致问题,含几何感知模态对齐等模块,实验证明性能优于现有方法。
2026-07-07 cs.CV
Behind the Veil: Enhanced Indoor 3D Scene Reconstruction with Occluded Surfaces Completion
Purdue University(普渡大学);Bosch Research North America(博世北美研究院);Bosch Center for Artificial Intelligence(博世人工智能中心)
针对深度序列下室内遮挡表面缺失问题,提出由粗到细八叉树与Geo-decoder、3D Inpainter双解码器协同框架,在3D-CRS和iTHOR上显著提升重建完整性。
2024-04-03 cs.CV
Transparent Object Depth Completion
Dalian University of Technology(大连理工大学)
针对透明物体深度图不完整的问题,提出结合单视图RGB-D补全与多视图估计的端到端网络,并引入基于置信度的细化模块,在ClearPose和TransCG数据集上取得领先精度与鲁棒性。
2024-05-24 cs.CV
NeuSDFusion: A Spatial-Aware Generative Model for 3D Shape Completion, Reconstruction, and Generation
Australian National University(澳大利亚国立大学);Tencent XR Vision Labs(腾讯XR视觉实验室);Shanghai Jiao Tong University(上海交通大学);The University of Tokyo(东京大学)
针对现有3D形状生成方法忽略空间一致性、通用性不足的问题,提出空间感知框架NeuSDFusion,通过正交2D平面学习连续有符号距离场,结合Transformer自编码器保障空间对应,在多项3D形状任务上性能超越现有最优方法。
2024-07-12 cs.AI cs.CV cs.GR
CVSformer: Cross-View Synthesis Transformer for Semantic Scene Completion
Tianjin University(天津大学);Shenzhen University(深圳大学);A*STAR(新加坡科技研究局);The Hong Kong Polytechnic University(香港理工大学);South China University of Technology(华南理工大学);Alibaba Damo Academy(阿里巴巴达摩院)
针对语义场景补全中跨视图物体关系建模不足的问题,本文提出 CVSformer,通过旋转三维卷积核合成多视图特征并以跨视图 Transformer 融合增强,实现体素占据与语义预测的最优性能。
2023-07-16 cs.CV
Point Cloud Scene Completion with Joint Color and Semantic Estimation from Single RGB-D Image
Dalian University of Technology(大连理工大学);Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong (ShenZhen)(香港中文大学(深圳));Princeton University(普林斯顿大学)
提出了一种基于深度强化学习的渐进式视图修复方法,在体指导下完成彩色语义点云场景的修复,实现了对严重遮挡的单幅RGB-D图像的高质量场景重建。我们的方法是端到端的,由三个模块组成:三维场景体重建,二维RGB-D和分割图像修补,多视图选择完成。对于一幅RGB-D图像,该方法首先预测其语义分割图,并通过3D体积分支获得体积场景重建,作为下一个视图修复步骤的指导,该步骤试图弥补缺失的信息;第三步涉及在输入的相同视图下投影体积,将它们连接以完成当前视图RGB-D和分割图,以及将所有RGB-D和分割图集成到点云中。由于遮挡区域不可用,我们采用A3 C网络扫视周围,并逐步选择下一个最佳视图进行大孔完成,直到场景得到充分重建,同时保证有效性。所有步骤都是共同学习的,以实现稳健和一致的结果。我们对3D-FUTURE数据进行了大量的实验,进行了定性和定量评估,获得了比最先进技术更好的结果。
2022-10-12 cs.CV
Depth Completion Using a View-constrained Deep Prior
University of Maryland(马里兰大学);Microsoft Research(微软研究院)
最近的研究表明,卷积神经网络(CNN)的结构诱导了有利于自然图像的强先验。这种先验被称为深度图像先验(DIP),是图像去噪和修复等逆问题中的有效正则化器。我们将DIP的概念扩展到深度图像。给定彩色图像和噪声和不完整的目标深度图,我们优化一个随机初始化的CNN模型,以重建深度图恢复凭借使用CNN网络结构作为先验结合视图约束的照片一致性损失。该损失是使用来自附近视点的几何校准相机的图像来计算的。我们应用此深度先验来修复和改进双目和多视图立体视觉管道内的不完整和有噪声的深度图。我们的定量和定性评估表明,我们改进的深度图更准确和完整,融合后,产生更高质量的密集3D模型。
2020-12-01 cs.CV
Towards Robust GAN-generated Image Detection: a Multi-view Completion Representation
University of Technology Sydney(悉尼科技大学);The University of Sydney(悉尼大学);City University of Macau(澳门城市大学)
针对GAN图像检测器因过拟合频率伪影而在未知GAN或扰动攻击下失效的问题,提出基于多视图图像补全表示的鲁棒检测框架,通过学习视图到图像任务提取与频率无关的稳定特征,并结合视图内和视图间策略增强分类,显著提升了跨GAN泛化与抗扰动鲁棒性。
2023-06-02 cs.CR cs.CV
View-volume Network for Semantic Scene Completion from a Single Depth Image
University of Electronic Science and Technology of China(中国电子科技大学);Microsoft Research Asia(微软亚洲研究院)
我们介绍了一个视图-体积卷积神经网络(VVNet),用于从单个深度图像推断体积3D场景的占用和语义标签。VVNet将2D视图CNN和3D体积CNN与可区分的投影层连接在一起。给定单个RGBD图像,我们的方法使用2D视图CNN从输入深度图像中提取详细的几何特征,然后根据输入深度图经由投影层将特征投影到3D体积中。之后,我们用3D体积CNN学习场景的3D上下文信息,用于计算结果体积占用和语义标签。通过组合2D和3D表示,VVNet有效地降低了计算成本,能够从多通道高分辨率输入中提取特征提取,从而显著提高了结果的准确性。我们验证了我们的方法,并证明了其效率和有效性的合成SUCG和真正的纽约大学数据集。
2018-06-14 cs.CV