DATR: Diffusion-based 3D Apple Tree Reconstruction Framework with Sparse-View
School of Electrical and Computer Engineering, Cornell University(电气与计算机工程系,康奈尔大学);Sibley School of Mechanical and Aerospace Engineering, Cornell University(机械与航空航天工程系,康奈尔大学);School of Biological and Environmental Engineering, Cornell University(生物与环境工程系,康奈尔大学);School of Integrative Plant Science, Cornell University(整合植物科学系,康奈尔大学)
本文提出DATR两阶段框架,结合扩散模型与大型重建模型,从稀疏视图高保真重建苹果树,性能优于现有方法且吞吐量提升约360倍。
2025-08-27 cs.CV cs.RO
MRI Reconstruction Using Deep Energy-Based Model
Nanchang University(南昌大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
目的:尽管最近的基于能量的深度生成模型(EBM)在许多图像生成任务中显示出令人鼓舞的结果,但如何利用深度EBM中的自对抗思维来提高磁共振成像(MRI)重建的性能仍然是需要的。研究方法:随着深度学习在广泛的MRI重建中的成功应用,一系列新兴的研究涉及在生成模型的空间中制定基于优化的重建方法。利用这一点,本文引入了一种新的正则化策略,该策略利用了基于能量的深度模型的自对抗性思考。更确切地说,我们主张替代学习一个更强大的基于能量的模型与最大似然估计,以获得深层的基于能量的信息,表示为图像先验。同时,朗之万动力学的隐式推理是重构的一个独特性质。与其他生成式重建模型相比,该方法利用基于深度能量的信息作为重建图像的先验信息,提高了重建图像的质量。结果如下:实验结果表明,该技术可以获得显着的性能方面的高重建精度,是有竞争力的国家的最先进的方法,并不会遭受模式崩溃。结论:在理论上,提出了一种利用能量网络梯度来强化循证医学训练的迭代方法。实验验证了算法的鲁棒性和可重复性。更重要的是,所提出的重建框架可以推广到大多数MRI重建场景。
2021-09-09 cs.CV eess.IV
Exploring the Power of Generative Deep Learning for Image-to-Image Translation and MRI Reconstruction: A Cross-Domain Review
Center for Translational Research in Neuroimaging and Data Science (TReNDS)(神经影像与数据科学转化研究中心(TReNDS))
近年来,深度学习已经成为计算机视觉和图像处理领域中的重要计算建模工具。本研究全面分析了自然和医学成像领域用于图像到图像翻译和重建的不同深度学习方法。我们研究了著名的深度学习框架,如卷积神经网络和生成对抗网络及其变体,深入研究了每个框架的基本原理和难点。在自然计算机视觉领域,我们研究了各种深度学习生成模型的开发和扩展。相比之下,我们研究了深度学习在生成医学成像问题中的可能应用,包括医学图像翻译、MRI重建和多对比度MRI合成。这篇全面的综述为生成计算机视觉和医学成像领域的学者和从业者提供了有用的见解,以总结过去的工作并深入了解未来的研究路径。
2023-03-16 cs.CV eess.IV
PCM-TV-TFV: A Novel Two Stage Framework for Image Reconstruction from Fourier Data
Case Western Reserve University(凯斯西储大学);Clarkson University(克拉克森大学)
在本文中,我们提出了一种新的两阶段的投影校正模型(PCM)框架的图像重建(非均匀)傅立叶测量。PCM由多尺度Galerkin方法驱动的投影阶段(P-stage)和边缘引导规则性的校正阶段(C-stage)组成,该校正阶段融合了全变分(TV)和全分数变分(TFV)的优点。P阶段允许对感兴趣的底层图像进行连续建模。将给定的测量值投影到图像被很好地表示的空间上。然后,我们增强了重建结果在C阶段,最大限度地减少了能量泛函组成的变换域中的保真度和一个新的边缘引导的规律性。我们进一步开发了有效的近似算法来解决相应的优化问题。在一维信号和二维图像中的各种数值结果也被提出来证明所提出的两阶段方法的优越性能,其他经典的一阶段的方法。
2017-05-29 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现,我们开发了早期特征重建(ESFR)-一种新的适应方案,具有特征重建和维度驱动的早期停止,可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能,包括最近提出的转导方法。ESFR与transductive方法结合使用,进一步实现了mini-ImageNet,tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上,与之前的最佳性能方法相比,准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Single Pixel Reconstruction for One-stage Instance Segmentation
Hangzhou Dianzi University(杭州电子科技大学);Zhejiang International Studies University(浙江外国语学院);University of Sydney(悉尼大学)
目标实例分割是计算机视觉中最基本也是最具挑战性的任务之一,它要求对图像进行像素级的理解。大多数现有的方法解决这个问题,通过添加一个掩模预测分支的区域建议网络(RPN)的两阶段的对象检测器。虽然产生了良好的分割结果,这些两阶段的方法的效率是远远不能令人满意的,限制了它们在实践中的适用性。在本文中,我们提出了一个一阶段的框架,SPRNet,它执行有效的实例分割通过引入一个单像素重建(SPR)分支,现成的一阶段检测器。增加的SPR分支直接从卷积特征图中的每个像素重建像素级掩模。使用相同的ResNet-50主干,SPRNet以更高的推理速度实现了与Mask R-CNN相当的掩码AP,并在每个尺度上与RetinaNet相比获得了对框AP的全面改进。
2019-05-17 cs.CV
SunStage: Portrait Reconstruction and Relighting using the Sun as a Light Stage
University of Washington(华盛顿大学);Adobe Inc.(奥多比公司)
灯光舞台使用一系列校准过的摄像机和灯光,在不同的照明和视角下捕捉拍摄对象的面部外观。这些捕获的信息对于面部重建和重新照明至关重要。不幸的是,轻型舞台往往是不可接近的:它们是昂贵的,需要大量的技术专长的建设和操作。在本文中,我们介绍了SunStage:一个轻量级的替代光舞台,捕捉可比的数据,只使用智能手机摄像头和太阳。我们的方法只需要用户在户外拍摄自拍视频,旋转到位,并使用太阳和面部之间的不同角度作为面部几何形状,反射率,相机姿势和照明参数的联合重建的指导。尽管在野外未校准的设置,我们的方法是能够重建详细的面部外观和几何形状,使引人注目的效果,如重新照明,新颖的视图合成,和反射编辑。结果和交互式演示可在https://sunstage.cs.washington.edu/上获得。
2023-03-24 cs.CV
Robust Skeletonization for Plant Root Structure Reconstruction from MRI
University of Bonn(波恩大学);Forschungszentrum Jülich GmbH(于利希研究中心有限公司)
植物根系结构的MRI重建具有挑战性,因为低分辨率和低信噪比的3D测量,这可能会导致断开和错误连接的根。我们提出了一个两阶段的方法来完成这项任务。第一阶段是基于语义根与土壤分割,并找到从任何根体素到拍摄的最低成本路径。第二阶段采用第一阶段中生成的最大全连通分量,并使用3D卷积来提取图结构。我们在22次MRI扫描上评估了我们的方法,并与人类专家重建进行了比较。
2020-10-27 cs.CV
Extending Reconstruction: Reconstruction-to-Vector Diffusion for Hyperspectral Anomaly Detection
Rocket Force University of Engineering(火箭军工程大学)
本文提出R2VD方法,通过四阶段流程解决超谱异常检测中重建终点范式的局限,利用向量动力学实现更稳健的目标检测与背景抑制。
2026-10-20 cs.CV
Pursuing 3D Scene Structures with Optical Satellite Images from Affine Reconstruction to Euclidean Reconstruction
University of Northeastern(东北大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
如何利用多幅光学卫星图像恢复场景的三维结构是遥感领域一个具有挑战性的重要问题。现有的大多数方法都是基于经典的RPC(rational polynomial camera)模型,该模型需要至少39个地面控制点,然而,在许多真实场景中要获得如此多的地面控制点并不容易。针对这一问题,我们提出了一个分层重建框架的基础上,多个光学卫星图像,它只需要4个控制点。该框架由仿射稠密重建阶段和仿射到欧氏升级阶段组成:在仿射稠密重建阶段,探索了一种仿射稠密重建方法,用于在没有任何GCP的情况下从输入卫星图像中追求3D仿射场景结构。然后在仿射到欧几里德升级阶段,将获得的3D仿射结构升级为具有4个GCP的欧几里德结构。在两个公开数据集上的实验结果表明,该方法在大多数情况下明显优于三种最先进的方法。
2022-01-16 cs.CV
Joint Background Reconstruction and Foreground Segmentation via A Two-stage Convolutional Neural Network
University of Chinese Academy of Sciences(中国科学院大学)
视频序列中的前景分割是计算机视觉的一个经典课题。由于缺乏语义和先验知识,现有的方法很难很好地处理复杂场景。因此,在本文中,我们提出了一个端到端的两阶段深度卷积神经网络(CNN)框架,用于视频序列中的前景分割。在第一阶段,卷积编码器-解码器子网络被用来重建背景图像和编码丰富的背景场景的先验知识。在第二阶段,重建的背景和当前帧输入到一个多通道全卷积子网络(MCFCN)进行准确的前景分割。在两级CNN中,重建损失和分割损失被联合优化。背景图像和前景对象以端到端的方式同时输出。此外,通过在预训练过程中结合前景和背景的先验语义知识,该方法可以在抑制背景噪声的同时保持前景对象的完整性。在CDNet 2014上的实验表明,我们的方法比最先进的方法高出4.9%。
2017-07-24 cs.CV
MST++: Multi-stage Spectral-wise Transformer for Efficient Spectral Reconstruction
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Harvard University(哈佛大学);ETH Zürich(苏黎世联邦理工学院);CAIDAS, JMU Würzburg(维尔茨堡大学CAIDAS研究所)
现有的光谱重建(SR)的主要方法集中在设计更深或更宽的卷积神经网络(CNN),以学习从RGB图像到其高光谱图像(HSI)的端到端映射。这些基于CNN的方法实现了令人印象深刻的恢复性能,同时在捕获长期依赖性和自相似性方面存在局限性。为了解决这个问题,我们提出了一种新的基于变换器的方法,多级频谱Transformer(MST++),有效的频谱重建。特别地,我们采用基于HSI空间稀疏而频谱自相似性质的频谱智能多头自注意(S-MSA)来组成基本单元,频谱智能注意块(SAB)。然后,SAB建立单级频谱方面的Transformer(SST),利用一个U形结构来提取多分辨率的上下文信息。最后,我们的MST++,级联几个SST,逐步提高重建质量从粗到细。综合实验表明,我们的MST++显着优于其他国家的最先进的方法。在NTIRE 2022光谱重建挑战赛中,我们的方法获得了第一名。代码和预训练模型可在https://github.com/caiyuanhao1998/MST-plus-plus上公开获取。
2022-04-17 cs.CV
Towards Real-World HDR Video Reconstruction: A Large-Scale Benchmark Dataset and A Two-Stage Alignment Network
Shanghai University(上海大学)
针对真实世界HDR视频重建缺乏大规模数据集及现有方法在真实场景表现差的问题,本文提出最大真实基准数据集Real-HDRV,并设计两阶段对齐端到端网络,实验证明其性能优于现有方法。
2024-04-30 cs.CV
Single-Stage Diffusion NeRF: A Unified Approach to 3D Generation and Reconstruction
Tongji University(同济大学);Apple(苹果公司);ETH Zürich(苏黎世联邦理工学院);University of California, San Diego(加利福尼亚大学圣地亚哥分校);University of Pennsylvania(宾夕法尼亚大学)
针对3D感知图像合成任务通用模型构建难题,提出统一框架SSDNeRF,通过单阶段端到端训练联合优化NeRF自解码器与潜在扩散模型,可同时实现3D重建与先验学习,在多类任务上性能比肩或优于专用方法。
2023-08-25 cs.CV
RealDenseFace: Real-time Monocular 3D Face Reconstruction from Dense UV-space Priors
Zhejiang University(浙江大学)
RealDenseFace是一种基于优化的实时单目3D人脸重建方法,通过定制高斯-牛顿求解器实现快速收敛,在NeRSemble SVFR基准上精度顶尖,在线跟踪帧率超80 FPS,离线序列重建速度较基线快20倍以上。
2026-08-11 cs.CV
Towards Accurate Alignment in Real-time 3D Hand-Mesh Reconstruction
The Chinese University of Hong Kong(香港中文大学)
从RGB图像的3D手部网格重建促进了许多应用,包括增强现实(AR)。然而,这不仅需要实时的【形】速度和准确的手部姿势和形状,而且还需要合理的网格图像对齐。虽然现有的工作已经取得了可喜的成果,满足所有三个要求是非常具有挑战性的。本文提出了一种新的流水线通过解耦的手网格重建任务分为三个阶段:一个联合阶段,预测手关节和分割;一个网格阶段,预测一个粗糙的手网格;和一个细化阶段,微调它与网格图像对齐的偏移网格。通过仔细设计网络结构和损失函数,我们可以促进高质量的手指级网格图像对齐,并驱动模型一起提供实时的【形】预测。在基准数据集上的大量定量和定性结果表明,我们的结果的质量优于最先进的方法的手网格/姿态精度和手图像对齐。最后,我们还展示了几个实时的【形】AR场景。
2021-09-03 cs.CV
RED: Reconstruction Evolution Dynamics for Generalizable AI-Generated Image Detection
Shanghai Jiao Tong University(上海交通大学)
针对AI生成图像检测泛化性不足的问题,提出RED框架,利用多尺度重建演化中的token可预测性反转捕获取证线索,在六个基准上达到92.5%平均准确率。
2026-09-30 cs.CV
F2HDR: Two-Stage HDR Video Reconstruction via Flow Adapter and Physical Motion Modeling
School of Electrical and Information Engineering, Tianjin University(天津大学电气与信息工程学院);State Key Laboratory of Smart Power Distribution Equipment and System, Tianjin University(天津大学智能电力分配设备与系统国家重点实验室);Huawei Technologies Co., Ltd.(华为技术有限公司)
本文提出F2HDR框架,通过流适配器和物理运动建模解决HDR视频重建中的动态场景对齐和细节恢复问题,实现高质量重建。
2026-03-18 cs.CV
SwinAD: Multi-stage feature reconstruction for unsupervised industrial anomaly detection
Institute of Artificial Intelligence, University of Engineering and Technology, Vietnam National University(越南国立大学工程技术大学人工智能研究所);Human-Machine Interaction Laboratory, University of Engineering and Technology, Vietnam National University(越南国立大学工程技术大学人机交互实验室);Applied AI Lab, Phenikaa School of Computing, Phenikaa University(费尼卡大学计算学院应用人工智能实验室)
本文针对多类无监督工业异常检测问题,提出SwinAD框架,利用Swin Transformer V2编码器和特征多样性保持重建解码器,结合分层Swin特征与多尺度重建,提升了像素级定位精度,在相关基准测试中取得较好效果。
2026-07-17 cs.CV
Coupled Dictionary Learning for Multi-contrast MRI Reconstruction
University College London(伦敦大学学院);Technion -- Israel Institute of Technology(以色列理工学院);Heriot-Watt University(赫瑞-瓦特大学)
医学成像任务通常涉及多个对比,例如T1和T2加权磁共振成像(MRI)数据。这些对比捕获与相同的基础解剖结构相关联的信息,因此表现出相似性。在本文中,我们提出了一种基于耦合字典学习的多对比度MRI重建(CDLMRI)方法,利用可用的指导对比度来恢复目标对比度。我们的方法包括三个阶段:耦合字典学习,耦合稀疏去噪,和$k$ -空间一致性执行。第一阶段学习一组字典,这些字典捕捉多个对比之间的相关性。通过利用学习的自适应字典,第二阶段进行联合稀疏编码,以消除损坏的目标图像的帮助下的指导对比度。第三阶段在去噪图像和$k$ -空间域中的测量之间强制一致性。对临床MR图像的回顾性欠采样的数值实验表明,与最先进的方法相比,通过我们的设计结合额外的引导对比改善了MRI重建。
2018-06-26 cs.CV
Two-Stage is Enough: A Concise Deep Unfolding Reconstruction Network for Flexible Video Compressive Sensing
Computer Network Information Center, Chinese Academy of Science(中国科学院计算机网络信息中心);University of Chinese Academy of Sciences(中国科学院大学);Westlake University(西湖大学)
本文研究了深度展开/滚动结构下的视频压缩感知重构问题。然而,我们的目标是建立一个灵活和简洁的模型,使用最少的阶段。与现有的用于逆问题的深度展开网络不同,其中使用更多的阶段以获得更高的性能,但对不同的掩码和尺度没有灵活性,因此,我们证明了2阶段深度展开网络可以导致最先进的(SOTA)结果(与单阶段模型相比,PSNR增益为1.7dB,RevSCI)。由于深度展开的优点,所提出的方法具有适应新掩码的特性,并且可以扩展到大数据而无需任何额外的训练。此外,我们扩展了所提出的模型进行联合重建和去马赛克。实验结果表明,本文提出的两阶段模型也实现了SOTA彩色图像重建,与基于即插即用框架的SOTA算法相比,PSNR提高了2.3dB以上,重建速度提高了17倍以上。此外,我们还发现,我们的网络也是灵活的掩模调制和规模大小的颜色重建,使一个单一的训练网络可以应用于不同的硬件系统。代码和模型将向公众发布。
2022-01-21 cs.CV eess.IV
2S-UDF: A Novel Two-stage UDF Learning Method for Robust Non-watertight Model Reconstruction from Multi-view Images
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所计算机科学国家重点实验室);University of Chinese Academy of Sciences(中国科学院大学);School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院)
本文提出两阶段UDF学习方法2S-UDF,通过先粗重建再细化权重函数,解决UDF体积渲染中密度转换的偏差与遮挡敏感性问题,实现从多视角图像鲁棒重建高质量非水密三维模型。
2024-04-16 cs.CV
THOR-Net: End-to-end Graformer-based Realistic Two Hands and Object Reconstruction with Self-supervision
DFKI-AV Kaiserslautern(凯泽斯劳滕德国人工智能研究中心-计算机视觉与应用认知系统研究所);TU Kaiserslautern(凯泽斯劳滕工业大学);NUST-SEECS Pakistan(巴基斯坦国立科技大学电子与计算机工程学院);UPM Saudi Arabia(沙特阿拉伯法赫德国王石油矿产大学)
双手与物体交互的真实感重建是一个新的和具有挑战性的问题,是建立个性化虚拟和增强现实环境的必要条件。图卷积网络(GCN)通过将手的姿势和形状建模为图来允许保持手的姿势和形状的拓扑。在这项工作中,我们提出了THOR-Net,它结合了GCN,Transformer和自我监督的功能,可以从单个RGB图像中逼真地重建双手和物体。我们的网络包括两个阶段,即特征提取阶段和重建阶段。在特征提取阶段,使用Keypoint RCNN从单目RGB图像中提取2D姿势、特征图、热图和边界框。此后,该2D信息被建模为两个图,并被传递到重建阶段的两个分支。形状重建分支使用我们新颖的由粗到细的GraFormer形状网络来估计两只手和一个物体的网格。另一个分支使用GraFormer网络重建手部和物体的3D姿态。最后,一个自我监督的光度损失是用来直接回归的手的网格中的每个顶点的真实感纹理。我们的方法在HO-3D数据集(10.0mm)上获得了最先进的手部形状估计结果,超过了ArtiBoost(10.8mm)。它还在具有挑战性的双手和对象(H2O)数据集上的手部姿势估计中超过其他方法,左手姿势为5 mm,右手姿势为1 mm。
2022-10-25 cs.CV
Unsupervised Two-Stage Anomaly Detection
Beihang University(北京航空航天大学)
从单个图像中进行异常检测具有挑战性,因为异常数据总是罕见的,并且可能具有高度不可预测的类型。在只有无异常数据可用的情况下,大多数现有方法训练AutoEncoder来重建输入图像并找到输入和输出之间的差异以识别异常区域。然而,这样的方法面临一个潜在的问题-粗重建产生额外的图像差异,而高保真的一个可能会画在异常。在本文中,我们解决了这个矛盾,提出了一个两阶段的方法,它产生高保真但无异常重建。我们的无监督两阶段异常检测(UNOMIC)依赖于两个技术组件,即印象提取器(IE-Net)和专家网络。IE-Net和Expert-Net完成了两阶段无异常图像重建任务,同时还生成直观的中间结果,使整个UBER具有可解释性。大量的实验表明,我们的方法优于国家的最先进的四个异常检测数据集与不同类型的真实世界的对象和纹理。
2021-03-22 cs.CV
End-to-end Weakly-supervised Single-stage Multiple 3D Hand Mesh Reconstruction from a Single RGB Image
Zhejiang University(浙江大学);Alibaba-Zhejiang University Joint Research Institute of Frontier Technologies(阿里巴巴-浙江大学前沿技术联合研究院)
本文提出一种端到端弱监督单阶段多手三维重建方法,通过多头自编码器共享特征图,并利用特征一致性约束,在多个基准上超越现有方法。
2023-05-06 cs.CV
Connecting the Dots: Floorplan Reconstruction Using Two-Level Queries
ETH Zurich(苏黎世联邦理工学院)
我们从3D扫描解决2D平面图重建。现有的方法通常采用经验性设计的多级管道。相反,我们制定平面图重建作为一个单阶段的结构化预测任务:找到一组可变大小的多边形,这反过来又是可变长度的有序顶点序列。为了解决这个问题,我们开发了一种新颖的Transformer架构,可以并行生成多个房间的多边形,以整体的方式,而无需手工制作的中间阶段。该模型具有对多边形和角点的两级查询,并包括多边形匹配,使网络具有端到端的可训练性。我们的方法实现了两个具有挑战性的数据集,Structured3D和SceneCAD,以及比以前的方法更快的推理新的最先进的。此外,它可以很容易地扩展到预测额外的信息,即,语义房间类型和建筑元素,如门和窗。我们的代码和模型可在https://github.com/ywyue/RoomFormer上获得。
2023-03-28 cs.CV
AIR: Amortized Image Reconstruction Framework for Self-Supervised Feed-Forward 2D Gaussian Splatting
School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院);School of Software Technology, Zhejiang University(浙江大学软件学院)
本文提出了一种自监督前馈框架AIR,通过将迭代高斯拟合 amortized 到单次网络传递中,消除了每张图像测试时的优化需求。该框架采用分阶段残差架构,逐步从重建残差中预测额外的高斯原始体,并结合显式的阶段控制机制,仅在欠重建区域激活新的原始体。通过预测-优化-蒸馏训练策略,稳定了多阶段预测,最终实现了更高效的图像重建。
2026-05-20 cs.CV
Two-stage Synthetic Supervising and Multi-view Consistency Self-supervising based Animal 3D Reconstruction by Single Image
University of Alberta(阿尔伯塔大学);Zerobox Inc.(Zerobox公司)
本文提出两阶段监督与自监督结合的方法,利用合成动物模型监督学习和二维多视图一致性自监督,从单张图像实现高精度动物三维重建,并在鸟类三维数字化任务中优于现有方法。
2024-02-20 cs.CV
Curve-Aware Gaussian Splatting for 3D Parametric Curve Reconstruction
National University of Defense Technology(国防科技大学)
本文提出CurveGaussian单阶段框架,通过参数曲线与边缘导向高斯分量的双向耦合实现可微渲染,直接从多视图边缘图重建三维参数曲线,并结合动态拓扑优化,在ABC数据集和真实基准上以更少参数取得优于两阶段方法的干净鲁棒重建结果。
2025-07-22 cs.CV
MSDNet: Efficient 4D Radar Super-Resolution via Multi-Stage Distillation
School of Automotive Studies, Tongji University(汽车学院,同济大学)
本文提出多阶段蒸馏框架MSDNet,通过重建引导与扩散引导的两阶段特征蒸馏,将LiDAR先验高效迁移至4D雷达特征,实现高保真、低延迟的点云超分辨率重建并提升下游任务性能。
2025-09-16 cs.CV
Neural Parametric Gaussians for Monocular Non-Rigid Object Reconstruction
Saarland University(萨尔大学);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
本文提出神经参数高斯(NPGs)方法,通过低秩神经形变模型与局部3D高斯表示相结合的两阶段策略,解决了单目视频中非刚性物体的高质量新视角合成问题。
2024-03-31 cs.CV
SO-Mamba: State-Ownership Mamba for Unrolled MRI Reconstruction
University of Southampton(南安普顿大学);University of Queensland(昆士兰大学);Soochow University(苏州大学)
本文提出SO-Mamba,一种用于展开MRI重建的态所有权Mamba正则化器,通过分配每个Mamba阶段的重建证据到递归驻留、态接口访问和非态输出校正,以提升重建质量与效率。
2026-05-21 cs.CV
DeepC-MVS: Deep Confidence Prediction for Multi-View Stereo Reconstruction
Sony Europe B.V.(索尼欧洲公司);Graz University of Technology(格拉茨技术大学);École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
深度神经网络(DNN)具有提高基于图像的3D重建质量的潜力。然而,由于内存和计算的限制,在从大型和高分辨率图像数据集进行3D重建的背景下使用DNN仍然是一个开放的挑战。我们提出了一个管道,它利用DNN来提高3D重建的质量,同时能够处理大型和高分辨率的数据集。特别是,我们提出了一个明确为多视图立体视觉(MVS)量身定制的置信度预测网络,并将其用于我们的管道中的深度图离群值过滤和深度图细化,以提高最终3D重建的质量。我们训练我们的信心预测网络上(半)密集地面实况深度图从公开可用的真实世界MVS数据集。通过对流行的基准测试进行广泛的实验,我们证明了我们的整体管道可以在定性和定量方面产生最先进的3D重建。
2020-08-13 cs.CV
Semi-Supervised Disparity Estimation with Deep Feature Reconstruction
University of Freiburg(弗莱堡大学)
尽管深度学习在差异估计方面取得了成功,但领域泛化差距仍然是一个问题。我们提出了一个半监督管道,通过对标记的合成数据进行联合监督训练和对未标记的真实数据进行自我监督训练,成功地将DispNet适应于真实世界的领域。此外,考虑到广泛使用的光度损失的局限性,我们分析了深度特征重建作为视差估计的有前途的监督信号的影响。
2021-06-01 cs.CV
A Diagnostic Gap Framework for Evaluating Reconstruction Fidelity in Weakly Supervised Mammography
研究针对弱监督医学成像系统各阶段临床信息保留评估有限的问题,提出诊断差距框架,通过对特定病变ROI作物评估三个重建器,依重建保真度衡量决策与解释保留,能识别多阶段管道何时何地丢失诊断信号。
2026-07-28 cs.CV
Dealing with All-stage Missing Modality: Towards A Universal Model with Robust Reconstruction and Personalization
National University of Singapore(新加坡国立大学);Harvard Medical School(哈佛医学院);Massachusetts General Hospital(麻省总医院);National Neuroscience Institute(国家神经科学研究所);Duke-NUS Medical School(杜克-新加坡国立大学医学院)
本文提出结合模态重构与模型个性化的鲁棒通用模型,利用多模态掩码自编码器、分布近似机制、数据-模型协同蒸馏及CLIP驱动的超网络,有效解决多模态学习在训练和测试全阶段的模态缺失问题,在脑肿瘤分割基准上超越现有方法。
2024-06-04 cs.CV
Splat-SAP: Feed-Forward Gaussian Splatting for Human-Centered Scene with Scale-Aware Point Map Reconstruction
Tsinghua University(清华大学)
Splat-SAP通过前馈高斯点扩散方法,利用像素级点图重建和两阶段学习策略,提升大稀疏场景的人为中心渲染稳定性与视觉质量。
2025-11-27 cs.CV
Non-Learning based Deep Parallel MRI Reconstruction (NLDpMRI)
Computational Radiology Laboratory, Boston Children’s Hospital(波士顿儿童医院计算放射实验室);Harvard Medical School(哈佛医学院)
磁共振成像(MRI)中的快速数据采集需求极大,并且扫描时间直接取决于采集的k空间样本的数量。最近,提出了基于深度学习的MRI重建技术来加速MR图像采集。任何基于深度学习的MRI重建方法中最常见的问题是可推广性和可转移性。对于使用这些方法的不同MRI扫描仪配置,每次都必须使用在新配置下获取的新训练数据集从头开始训练网络,以便能够提供良好的重建性能。在这里,我们提出了一种新的基于深度神经网络的广义并行成像方法,称为NLDpMRI,以减少与加速数据采集的不同k空间欠采样模式相关的任何结构化混叠模糊性。提出了基于深度网络优化的并行MRI重建的非正则化和正则化两种损失函数,并通过对网络参数的优化来重建MR图像。与任何基于深度学习的MRI重建方法不同,我们的方法不包括网络从大量训练样本中学习的任何训练步骤,它只需要单个欠采样的多线圈k空间数据进行重建。此外,所提出的方法可以处理k空间数据与不同的欠采样模式,和不同数量的线圈。实验结果表明,该方法的性能优于当前最先进的GRAPPA方法和基于深度学习的变分网络方法.
2019-03-18 cs.CV
Two-stage Geometric Information Guided Image Reconstruction
University of Kentucky(肯塔基大学);Case Western Reserve University(凯斯西储大学)
在压缩感知中,从极少量的噪声线性投影中重建高质量的图像是一个挑战。现有的方法大多适用于分段恒定的图像,但对于自然图像、医学图像等包含大量细节的分段平滑图像效果不佳。我们提出了一个两阶段的方法称为GeoCS恢复图像具有丰富的几何信息,从非常有限的噪声测量。该方法采用剪切波变换,数学上证明是最佳的稀疏表示图像包含各向异性的功能,如边缘,角落,尖峰等,它也使用加权全变差(TV)稀疏空间变化的权重,以保持锐利的边缘,但减少阶梯效应的电视。从阶段I的结果中提取的几何信息用作阶段II的初始先验,其以互利的方式交替图像重建和几何信息更新。GeoCS已经在不完整的傅立叶光谱样本上进行了测试。它也适用于其他类型的测量。对各种复杂图像的实验结果表明,GeoCS是高效的,并且可以生成高质量的图像。
2021-02-16 cs.CV math.OC
Generalizing Deep Learning MRI Reconstruction across Different Domains
Imperial College London(伦敦帝国理工学院);King’s College London(伦敦国王学院)
本文研究深度学习MRI重建在未见对比度和器官上的鲁棒性,提出利用大型公开自然图像数据集结合合成相位信息训练网络,实现具竞争力的跨域重建性能,并分析图像块集合解释其泛化机制。
2023-08-07 cs.CV
Quantifying Sources of Uncertainty in Deep Learning-Based Image Reconstruction
University College London(伦敦大学学院);Huawei Technologies R&D UK(华为技术研发英国公司);University of Oulu(奥卢大学)
基于深度神经网络的图像重建方法已经显示出出色的性能,等于或超过传统方法的最先进的结果,但通常不提供关于重建的不确定性信息。在这项工作中,我们提出了一个可扩展的和有效的框架,同时量化任意和认知的不确定性学习迭代图像重建。我们建立在贝叶斯深度梯度下降方法量化认知的不确定性,并将噪声的异方差占任意的不确定性。我们表明,我们的方法具有竞争力的性能对传统的基准计算机断层扫描稀疏视图和有限的角度数据。估计的不确定性捕获重建中的可变性,由受限的测量模型引起,以及由于有限的角度几何结构而丢失的信息。
2020-11-30 cs.CV
HAIFAI: Human-AI Interaction for Mental Face Reconstruction
University of Stuttgart(斯图加特大学);KU Leuven(鲁汶大学)
HAIFAI通过两阶段人机交互系统,利用用户排序和滑块编辑重建心理人脸,在12人和18人研究中分别验证了优于现有方法的质量和60.6%的识别率。
2025-02-25 cs.CV
Multi-Stage NeRF for Efficient 3D Coronary Artery Reconstruction from Two Narrow-Angle Angiographic Projections
Institute of Biomedical Engineering(生物医学工程研究所);University of Oxford(牛津大学)
针对常规临床中仅两个窄角投影可用的情况,提出多阶段自监督NeRF框架NeCA++,通过两阶段渐进细化及血管特异性正则化,在三个数据集上优于现有方法,每例重建耗时58秒内。
2026-09-15 cs.CG cs.CV
A Deep Cascade of Convolutional Neural Networks for MR Image Reconstruction
Imperial College London(帝国理工学院);King’s College London(伦敦国王学院)
磁共振成像(MRI)的采集本来就很慢。受深度学习最新进展的启发,我们提出了一个框架,用于使用深度级联的卷积神经网络从欠采样数据重建MR图像,以加速数据采集过程。我们表明,对于二维心脏MR图像的笛卡尔欠采样,所提出的方法优于最先进的压缩感知方法,如基于字典学习的MRI(DLMRI)重建,在重建误差,感知质量和重建速度方面的3倍和6倍欠采样。与DLMRI相比,所提出的方法产生的误差大约小两倍,从而可以更忠实地保留解剖结构。使用我们的方法,每个图像可以在23毫秒内重建,这是足够快,使实时应用。
2017-03-01 cs.CV
CUPID: Generative 3D Reconstruction via Joint Object and Pose Modeling
The University of Hong Kong(香港大学);Transcengram;Tencent(腾讯)
CUPID通过联合建模物体和姿态,实现高保真3D重建,优于现有方法,在PSNR和Chamfer距离上分别提升3 dB和10%。
2025-11-24 cs.CV
NeuRodin: A Two-stage Framework for High-Fidelity Neural Surface Reconstruction
Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);State Key Lab of CAD&CG, Zhejiang University(浙江大学CAD&CG国家重点实验室)
提出两阶段神经表面重建框架NeuRodin,通过改进SDF到密度表示与几何正则化,实现高保真表面重建并保留密度方法的灵活优化特性。
2024-12-22 cs.AI cs.CV
Thinking in Blender: Staged Executable Inverse Graphics with Vision-Language Models
Cornell University(康奈尔大学)
提出分阶段可执行逆向图形(SEIG)框架,利用预训练视觉语言模型直接从单张图像重建可编辑的Blender程序,无需专用基础模型或可微渲染,通过逐步细化几何、材质、组合和光照提升重建保真度。
2026-06-01 cs.CV
S3PET: Semi-supervised Standard-dose PET Image Reconstruction via Dose-aware Token Swap
Sichuan University(四川大学)
针对全监督方法依赖大量配对数据且易致图像失真的问题,提出两阶段半监督框架S3PET,通过DsMAEs预训练与剂量知识解耦及传递模块,实现从低剂量PET到标准剂量PET的高质量重建。
2024-07-30 cs.CV eess.IV
HandOS: 3D Hand Reconstruction in One Stage
Peking University(北京大学);International Digital Economy Academy (IDEA Research)(国际数字经济学院(IDEA研究院));University of Chinese Academy of Sciences(中国科学院大学)
针对多阶段手部重建存在冗余计算和累积误差的问题,提出端到端单阶段框架HandOS,以冻结检测器为基础结合交互式2D-3D解码器与分层注意力,实现多任务整合,在公开基准上取得SOTA性能。
2025-03-19 cs.CV cs.GR
MV-DUSt3R+: Single-Stage Scene Reconstruction from Sparse Views In 2 Seconds
Meta Reality Labs(元宇宙现实实验室);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出单阶段前馈网络 MV-DUSt3R 及增强版 MV-DUSt3R+,通过多视图与跨参考视图信息融合实现2秒级稀疏视图重建,并联合 Gaussian splatting 头支持新视图合成。
2024-12-09 cs.AI cs.CV
Inference Stage Denoising for Undersampled MRI Reconstruction
School of Engineering, The University of Edinburgh(爱丁堡大学工程学院);Department of Electrical and Electronic Engineering and I-X, Imperial College London(帝国理工学院电气与电子工程系及I-X)
针对欠采样MRI重建中训练与测试数据分布偏移导致的泛化问题,提出基于条件超参数网络的推理阶段去噪方法,无需数据增强即可在各级高斯噪声下保持稳健性能,并采用超参数采样策略加速训练,在所有设置中实现最高准确性和图像质量。
2024-02-12 cs.CV cs.LG eess.IV
Accelerating Plug-and-Play Image Reconstruction via Multi-Stage Sketched Gradients
University of Cambridge(剑桥大学)
在这项工作中,我们提出了一个新的范例,设计快速即插即用(PAPK)算法,使用降维技术。与现有的利用随机梯度迭代加速的方法不同,我们提出了新的多阶段草图梯度迭代,首先在图像空间中进行下采样降维,然后在低维空间中使用草图梯度有效地近似真实梯度。该梯度格式也可以与PnP-SGD方法自然地结合,以进一步改善计算复杂度。作为一个通用的加速方案,它可以应用于加速任何现有的PPEND/RED算法。X射线扇束CT上的数值实验表明了该方法的有效性,即在图像空间中使用这种降维可以获得计算免费午餐。
2022-03-14 cs.CV eess.IV math.OC
MindDiffuser: Controlled Image Reconstruction from Human Brain Activity with Semantic and Structural Diffusion
Institute of Automation, CAS(中国科学院自动化研究所);Beijing Institute of Technology(北京理工大学)
从测量的功能磁共振成像(fMRI)重建视觉刺激一直是一个有意义和具有挑战性的任务。以前的研究已经成功地实现了重建与原始图像的结构相似,如一些自然图像的轮廓和大小。然而,这些重建缺乏明确的语义信息,很难辨别。近年来,许多研究利用具有更强生成能力的多模态预训练模型来重建与原始图像语义相似的图像。然而,这些图像具有不可控的结构信息,例如位置和方向。为了同时解决上述两个问题,我们提出了一个两阶段的图像重建模型称为MindDiffuser,利用稳定扩散。在第一阶段,VQ-VAE潜在表征和从fMRI解码的CLIP文本嵌入被放入稳定扩散的图像到图像过程中,这产生了包含语义和结构信息的初步图像。在第二阶段,我们利用从fMRI解码的低级别CLIP视觉特征作为监督信息,并通过反向传播不断调整第一阶段的两个特征,以对齐结构信息。定性和定量分析的结果表明,我们提出的模型已经超过了目前的国家的最先进的模型在自然场景数据集(NSD)的重建结果。烧蚀实验结果表明,该模型的各个组成部分对图像重建都是有效的。
2023-03-24 cs.AI cs.CV
Dynamics-Aware Gaussian Splatting Streaming Towards Fast On-the-Fly 4D Reconstruction
Hong Kong University of Science and Technology(香港科技大学);Institute of Artificial Intelligence (TeleAI), China Telecom(中国电信人工智能研究院(TeleAI))
提出一种动力学感知的三阶段流式高斯溅射方法,用于快速即时4D重建,实现最先进性能与实时渲染。
2025-03-27 cs.AI cs.CV