Attention-Aware Linear Depthwise Convolution for Single Image Super-Resolution
Chonnam National University(全南国立大学);Xidian University(西安电子科技大学)
尽管深度卷积神经网络(CNN)在图像超分辨率(SR)方面获得了出色的性能,但随着CNN模型越来越深、越来越宽,其计算成本呈几何级数增长。同时,中间层的特征在整个通道中被平等对待,从而阻碍了CNN的代表能力。在本文中,我们提出了一个注意力感知的线性dependency网络,以解决单图像SR的问题,命名为ALDNet。具体而言,线性去卷积允许基于CNN的SR模型保留用于重建超分辨率图像的有用信息,同时减少计算负担。此外,我们设计了一个注意力感知分支,通过充分利用dependency滤波器的相互依赖性来增强dependency卷积层的表示能力。在公开的基准数据集上的实验表明,ALDNet在定量测量和视觉质量方面优于传统的dependency可分离卷积。
2019-11-29 cs.CV eess.IV
Depth Restoration: A fast low-rank matrix completion via dual-graph regularization
深度信息作为一种真实场景的感知方法得到了广泛的应用。然而,由于深度传感技术的限制,在实际应用中获取的深度图往往存在严重的噪声和大量像素的缺失值。在本文中,我们提出了一个快速的低秩矩阵完成通过双图正则化深度恢复。具体地,深度恢复可以转化为低秩矩阵完成问题。为了完成低秩矩阵并将其恢复到深度图,所提出的包含局部和非局部图正则化的双图方法分别利用深度图的局部相似性和深度颜色对应物的梯度一致性。此外,该方法实现了高速深度恢复由于封闭形式的解决方案。实验结果表明,该方法优于国家的最先进的方法在客观和主观质量评价,特别是对严重的深度退化。
2020-01-08 cs.CV
Co-SemDepth: Fast Joint Semantic Segmentation and Depth Estimation on Aerial Images
University of Genova(热那亚大学)
针对无人机自主导航中场景几何与语义信息的实时获取需求,提出Co-SemDepth联合深度学习架构,可同时快速完成航空图像的深度估计与语义分割,在相关基准上性能优异且速度快、内存占用低。
2025-03-23 cs.AI cs.CV
Fast, Accurate and Object Boundary-Aware Surface Normal Estimation from Depth Maps
Laval University(拉瓦尔大学);University of Isfahan(伊斯法罕大学)
本文提出了一种快速准确的表面法线估计方法,可直接用于深度图(组织点云)。表面法线估计过程被配制为封闭形式的表达式。为了减少测量噪声的影响,在多个方向上使用平均操作。多方向法线估计过程在下一步骤中被重新公式化以被有效地实现。最后,提出了一种简单而有效的方法来消除深度不连续处的错误法线估计。所提出的方法相比,众所周知的表面法线估计算法。实验结果表明,该算法不仅在精度上优于基线算法,而且速度快,可以用于实时应用。
2022-09-17 cs.CV
FastDepth: Fast Monocular Depth Estimation on Embedded Systems
Massachusetts Institute of Technology(麻省理工学院)
深度传感是机器人任务的关键功能,例如定位,绘图和障碍物检测。由于单目相机相对较低的成本和尺寸,对从单个RGB图像进行深度估计的兴趣已经显著且不断增长。然而,现有技术的单视图深度估计算法基于相当复杂的深度神经网络,其对于例如安装在微型飞行器上的嵌入式平台上的实时推断来说太慢。在本文中,我们解决了嵌入式系统上的快速深度估计的问题。我们提出了一个高效和轻量级的编码器-解码器网络架构,并应用网络修剪,以进一步降低计算复杂性和延迟。特别是,我们专注于低延迟解码器的设计。我们的方法表明,这是可能的,以达到类似的精度,以前的工作深度估计,但在推理速度是一个数量级更快。我们提出的网络FastDepth在NVIDIA Jetson TX 2 GPU上运行速度为178 fps,仅使用TX 2 CPU时为27 fps,有功功耗低于10 W。FastDepth在NYU Depth v2数据集上实现了接近最先进的精度。据作者所知,本文演示了实时单目深度估计,使用深度神经网络具有最低的延迟和最高的吞吐量的嵌入式平台上,可以携带的微型飞行器。
2019-03-08 cs.CV cs.RO
In Defense of Classical Image Processing: Fast Depth Completion on the CPU
University Of Waterloo(滑铁卢大学)
随着数据驱动的深度神经网络作为通用函数逼近器的实现的兴起,大多数关于计算机视觉问题的研究已经远离了手工制作的经典图像处理算法。本文表明,与一个设计良好的算法,我们有能力超越神经网络为基础的方法的任务,深度完成。该算法简单、快速,在CPU上运行,仅依赖于基本的图像处理操作来执行稀疏LIDAR深度数据的深度完成。我们在具有挑战性的KITTI深度完成基准上评估了我们的算法,在提交时,我们的方法在KITTI测试服务器上排名第一。此外,我们的算法是数据独立的,不需要训练数据来执行手头的任务。用Python编写的代码将在https://github.com/kujason/ip_basic上公开。
2018-01-31 cs.CV
Fast Depth Estimation for View Synthesis
University of Bristol(布里斯托大学);Braendler Engineering(布伦德勒工程公司)
从立体图像序列中估计视差/深度是3D视觉中的重要元素。由于遮挡、不完美的设置和均匀的亮度,精确的深度估计仍然是一个具有挑战性的问题。针对视图合成,我们提出了一种新型的基于学习的框架,利用扩张卷积、密集连接的卷积模块、紧凑解码器和跳过连接。网络浅而密,所以快速准确。两个额外的贡献-一个非线性调整的深度分辨率和引入的投影损失,导致减少估计误差分别高达20%和25%。结果表明,我们的网络优于最先进的方法,深度估计和视图合成的准确性分别平均提高了约45%和34%。在我们的方法生成的估计深度质量相当的情况下,它的执行速度比那些方法快10倍。
2020-03-14 cs.CV eess.IV
FreDSNet: Joint Monocular Depth and Semantic Segmentation with Fast Fourier Convolutions
FreDSNet利用快速傅里叶卷积从单张全景图像联合实现单目深度估计与语义分割,性能媲美最先进方法。
2024-02-05 cs.AI cs.CV cs.RO
Fast-MVSNet: Sparse-to-Dense Multi-View Stereo With Learned Propagation and Gauss-Newton Refinement
ShanghaiTech University(上海科技大学)
几乎所有先前的基于深度学习的多视图立体视觉(MVS)方法都集中于提高重建质量。除了质量之外,效率也是MVS在实际场景中的理想特性。为此,本文提出了一种快速MVSNet,一种新的稀疏到密集的粗到细的框架,快速和准确的深度估计在MVS。具体来说,在我们的Fast-MVSNet中,我们首先构建一个稀疏成本卷,用于学习稀疏和高分辨率的深度图。然后,我们利用小规模的卷积神经网络来编码局部区域内像素的深度依赖性,以使稀疏的高分辨率深度图致密化。最后,提出了一种简单但有效的高斯牛顿层,以进一步优化深度图。一方面,高分辨率的深度图,数据自适应传播方法和高斯牛顿层共同保证了我们的方法的有效性。另一方面,我们的Fast-MVSNet中的所有模块都是轻量级的,从而保证了我们方法的效率。此外,我们的方法也是内存友好的,因为稀疏的深度表示。大量的实验结果表明,我们的方法是5 $\times$和14 $\times$比Point-MVSNet和R-MVSNet,分别快,同时实现具有挑战性的坦克和寺庙数据集以及DTU数据集上的可比甚至更好的结果。代码可在https://github.com/svip-lab/FastMVSNet上获得。
2020-03-29 cs.CV
Fast and Accurate Optical Flow based Depth Map Estimation from Light Fields
Trinity College Dublin(都柏林圣三一学院)
深度图估计是计算机视觉中的关键任务,并且最近出现了利用光场的新方法,因为与基于立体图像或多视图的常见方法相比,这种新的成像模态捕获关于光线的角方向的更多信息。本文在现有的光流估计方法的基础上,提出了一种新的基于光场的深度估计方法。将光流估计器应用于沿光场的角度维度拍摄的图像序列,这产生若干视差图估计。考虑到准确性和效率,我们选择特征流方法作为我们的光流估计。由于其时空边缘感知滤波特性,我们获得的不同视差图估计非常一致,这允许快速简单的聚合步骤来创建单个视差图,然后可以将其转换为深度图。由于视差图估计是一致的,我们还可以从每个视差估计创建深度图,然后在3D空间中聚合不同的深度图以创建单个密集深度图。
2020-08-11 cs.CV
DepthFM: Fast Monocular Depth Estimation with Flow Matching
LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
本研究提出DepthFM,首次将流匹配应用于单目深度估计,通过图像与深度分布的直接传输及预训练扩散模型知识迁移,在仅需少量合成数据训练下实现了高效采样和具有竞争力的零样本性能。
2024-12-19 cs.CV
SiZeUp: Fast 3D Proxy from Aerial Images via Depth Ordinal Loss
Shenzhen University(深圳大学);Simon Fraser University(西蒙菲莎大学)
SiZeUp是一种从校准倾斜航拍图像构建大规模城市3D代理模型的方法,采用“ footprint 高度”表示法与深度序数一致性损失,实现23-52倍加速,适用于大规模城市建模。
2026-08-26 cs.CV
FastViDAR: Real-Time Omnidirectional Depth Estimation via Alternative Hierarchical Attention
University of Science and Technology of China(中国科学技术大学);East China Normal University(华东师范大学);Xidian University(西安电子科技大学);FAST Lab, Zhejiang University(浙江大学FAST实验室)
提出 FastViDAR 四鱼眼实时全向深度估计框架,利用 AHA 跨视图注意力与 ERP 多视图深度融合,在嵌入式平台实现最高 20 FPS 和有竞争力的零样本性能。
2025-09-28 cs.CV cs.RO
Depth-Guided Robust and Fast Point Cloud Fusion NeRF for Sparse Input Views
Shanghai Jiao Tong University(上海交通大学)
针对稀疏视图 NeRF 中深度图噪声与重建耗时问题,提出深度引导的点云融合及向量-矩阵分解体素网格方法,提升准确性、紧凑性和速度。
2024-03-04 cs.CV
Fast and Efficient Depth Map Estimation from Light Fields
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));University of Kaiserslautern(凯泽斯劳滕大学);Department Augmented Vision, German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI)增强视觉部门);Department of Computer Science, University of Kaiserslautern(凯泽斯劳滕大学计算机科学系)
本文提出了一种基于CPU的单线程算法,在相对较短的时间内从光场图像中估计深度图。该方法改进了现有的四维光场空间直线拟合原理。线拟合基于使用核密度估计的颜色值比较。我们的方法利用半全球匹配(SGM)的结果与普查变换为基础的匹配成本作为边界初始化的直线拟合。它显著减少了找到最佳深度匹配所需的计算。与建议的评价指标,我们表明,所提出的方法是适用于有效的深度图估计,同时保持较低的计算时间相比,其他。
2018-05-01 cs.CV
Mip-NeRF RGB-D: Depth Assisted Fast Neural Radiance Fields
I3S-CNRS/Université Côte d’Azur(I3S-法国国家科学研究中心/蔚蓝海岸大学)
诸如神经辐射场(NeRF)的神经场景表示基于使用具有已知姿态的一组彩色图像来训练多层感知器(MLP)。越来越多的设备现在产生RGB-D(颜色+深度)信息,这已被证明是非常重要的广泛的任务。因此,本文的目的是研究如何改进这些有前途的隐式表示,将深度信息与彩色图像。特别是,最近提出的Mip-NeRF方法,它使用圆锥截头体,而不是射线的体渲染渲染,允许一个帐户的变化面积的像素与距离相机中心。所提出的方法还对深度不确定性进行建模。这允许解决基于NeRF的方法的主要限制,包括提高几何形状的准确性,减少伪影,更快的训练时间和缩短的预测时间。在著名的基准场景上进行了实验,比较表明,场景几何和光度重建的精度得到了提高,同时训练时间减少了3 - 5倍。
2022-11-07 cs.CV
FaDIV-Syn: Fast Depth-Independent View Synthesis using Soft Masks and Implicit Blending
University of Bonn(波恩大学);Delft University of Technology(代尔夫特理工大学)
在虚拟现实遥操作、场景重建等机器人应用中,需要新颖的视点合成技术。现有的方法对于这些上下文通常太慢,不能处理动态场景,并且受到其显式深度估计阶段的限制,其中不正确的深度预测可能导致大的投影误差。我们所提出的方法实时的运行在实时流数据上,并通过有效地将输入图像扭曲到一系列假定深度平面的目标帧中来避免显式深度估计。由此产生的平面扫描体积(PSV)直接输入到我们的网络中,该网络首先以自我监督的方式估计软PSV掩模,然后直接产生新的输出视图。这提高了透明、反射、薄和无特征场景部分的效率和性能。FaDIV-Syn可以实时执行540 p的内插和外推任务,并且在大规模RealEstate 10 k数据集上的性能优于最先进的外推方法。我们彻底评估了消融,例如删除软掩蔽网络,从更少的示例中进行训练,以及泛化到更高的分辨率和更强的深度离散化。我们的实现是可用的。
2022-05-13 cs.CV
SharpNet: Fast and Accurate Recovery of Occluding Contours in Monocular Depth Estimation
École des Ponts(巴黎路桥学院)
我们介绍了SharpNet,一种预测输入彩色图像的准确深度图的方法,特别注意遮挡轮廓的重建:遮挡轮廓是物体识别的重要线索,也是增强现实中虚拟物体的现实整合的重要线索,但它们也是众所周知的难以准确重建。例如,它们对于基于立体的重建方法来说是一个挑战,因为遮挡轮廓周围的点仅在一个图像中可见。最近的方法,引入正常的估计,以提高深度预测的启发,我们引入了一个新的术语,约束深度和遮挡轮廓预测。由于地面实况深度很难沿着遮挡轮廓以像素完美的精度获得,因此我们使用合成图像进行训练,然后对真实数据进行微调。我们在具有挑战性的NYUv 2-Depth数据集上展示了我们的方法,并表明我们的方法在遮挡轮廓上的表现优于最先进的方法,同时在其余图像上的表现与最近的最佳方法不相上下。其沿着遮挡轮廓的准确性实际上优于基于结构光的深度相机所获取的“地面实况”。我们通过引入一个新的基于NYUv 2-Depth的基准来评估单眼重建中的遮挡轮廓,这是我们的第二个贡献。
2019-11-11 cs.CV
Fast Hierarchical Depth Map Computation from Stereo
IIT Delhi(德里印度理工学院)
块匹配立体视差通常用于计算能力有限的应用中,以便获得深度估计。然而,对简单立体方法的研究一直少于基于能量的方法,基于能量的方法保证了更好质量的深度图,具有更大的未来改进潜力。半全局匹配(SGM)方法具有良好的性能和易于实现,但由于它是在全视差空间图像上工作,因此存在非常高的内存占用问题。另一方面,块匹配立体需要更少的内存。在本文中,我们介绍了一种新的多尺度层次块匹配方法,使用金字塔的深度和成本函数的变体,大大提高了标准块匹配立体技术的结果,同时保持低内存占用,进一步降低标准块匹配的复杂性。我们测试了我们的新的多块匹配方案的米德尔伯里立体声基准。对于Middlebury基准测试,我们得到的结果只比最先进的SGM实现略差。
2019-01-28 cs.CV
UDepth: Fast Monocular Depth Estimation for Visually-guided Underwater Robots
University of Florida(佛罗里达大学)
在本文中,我们提出了一种快速的单目深度估计方法,使低成本的水下机器人的三维感知能力。我们制定了一个新的端到端的深度视觉学习管道名为UDepth,它结合了自然水下场景的图像形成特征的领域知识。首先,我们适应一个新的输入空间,从原始RGB图像空间,利用水下光衰减之前,然后设计一个最小二乘公式进行粗略的像素级深度预测。随后,我们将其扩展到域投影损失,以指导UDepth在超过9 K RGB-D训练样本上的端到端学习。UDepth设计了一个计算量小的MobileNetV 2主干和一个基于Transformer的优化器,以确保嵌入式系统的快速推理率。通过域感知的设计选择,并通过全面的实验分析,我们证明,它是可能实现国家的最先进的深度估计性能,同时确保一个小的计算足迹。具体而言,与现有基准相比,网络参数减少了70%-80%,UDepth实现了相当的,通常更好的深度估计性能。虽然完整模型在单个GPU(CPU内核)上提供了超过66 FPS(13 FPS)的推理速率,但我们用于粗略深度预测的域投影在单板NVIDIA Jetson TX 2上的运行速率为51.5 FPS。推理流水线可在https://github.com/uf-robopi/UDepth上获得。
2023-02-02 cs.CV eess.IV
SwiftNDC: Fast Neural Depth Correction for High-Fidelity 3D Reconstruction
La Trobe University(拉特罗布大学);Australian Institute of Marine Science(澳大利亚海洋科学研究所);Cisco Research(思科研究)
SwiftNDC通过神经深度校正和稳健几何初始化,实现快速高质量3D重建,减少优化迭代并提升视图合成保真度。
2026-02-26 cs.CV cs.GR
Confidence Guided Depth Completion Network
Korea Advanced Institute of Science and Technology(韩国科学技术院)
本文提出了一种图像引导的深度补全方法,以快速的计算时间来估计精确的密集深度图。该网络具有两级结构。第一阶段预测第一深度图。然后,第二阶段使用置信度图进一步细化第一深度图。第二阶段由两层组成,每层关注不同的区域,并生成细化的深度图和置信度图。通过使用对应的置信度图组合来自第二阶段的两个深度图来获得最终深度图。与KITTI深度完井在线排行榜上排名靠前的模型相比,该模型显示出更快的计算时间和竞争力。
2022-02-07 cs.CV
FounRef: Robust, Structure-Preserving, and Fast Metric Refinement of Frozen Monocular Foundation Priors with Sparse Anchors
University of the Bundeswehr Munich(慕尼黑联邦国防军大学)
FounRef提出一种无需训练的模块化方法,利用稀疏锚点细化冻结单目基础先验,生成稠密度量深度,在域外数据上显著降低误差并大幅提升推理速度。
2026-09-25 cs.CV
Fast Cylinder and Plane Extraction from Depth Cameras for Visual Odometry
University of Surrey(萨里大学)
本文介绍了CAPE,一种从有组织的点云中提取平面和圆柱体片段的方法,该方法通过在平面单元格的网格上操作,以平均300 Hz的频率在单个CPU核心上处理640 x480深度图像。虽然,与最先进的平面提取相比,CAPE的延迟更一致并且快4-10倍,这取决于场景,但我们还根据经验证明,将CAPE应用于视觉里程计可以改善由圆柱形表面(例如隧道)组成的场景上的轨迹估计,而使用不知道曲线的平面提取方法会降低这些场景上的性能。为了在视觉里程计中使用这些几何基元,我们提出将基于点、线和平面的概率RGB-D里程计框架扩展到圆柱基元。在此框架下,CAPE在融合深度图上运行,并且对圆柱体的参数进行概率建模,以考虑不确定性并相应地对姿态优化残差进行加权。
2018-07-05 cs.CV cs.RO
Im2Fit: Fast 3D Model Fitting and Anthropometrics using Single Consumer Depth Camera and Synthetic Data
University of Delaware(特拉华大学);eBay Research Labs(eBay研究实验室)
消费者深度传感器的最新进展为人体测量和建模创造了许多机会。3D体型的估计对于时尚电子商务应用(诸如虚拟试穿或合身个性化)特别有用。在本文中,我们提出了一种从单个消费级深度传感器捕获精确人体形状和人体测量的方法。我们首先使用真实世界的身体尺寸分布生成合成3D人体模型的大型数据集。接下来,我们从单个单目深度图像估计关键的身体测量。我们将身体测量估计与关键关节位置周围的局部几何特征相结合,形成一个强大的多维特征向量。这使我们能够对数据集中的每个样本进行快速的最近邻搜索,并返回最接近的一个。与现有方法相比,我们的方法能够使用从合成数据集学习的测量参数从局部视图预测准确的全身参数。此外,我们的系统能够实时生成3D人体网格模型,这比试图对形状和姿势变形进行建模的方法要快得多。为了验证我们的系统的效率和适用性,我们收集了一个数据集,其中包含83名穿着衣服的人的正面和背面扫描,这些人具有地面真实的身高和体重。在真实数据集上的实验表明,该方法可以实现实时性能,与竞争的结果实现估计测量的平均误差为1.9厘米。
2014-11-19 cs.CV
FDCT: Fast Depth Completion for Transparent Objects
University of Science and Technology Beijing(北京科技大学);McMaster University(麦克马斯特大学);State University of New York at Buffalo(纽约州立大学布法罗分校)
本文提出面向透明物体的快速深度补全框架FDCT,通过设计融合分支、快捷连接和损失函数抑制过拟合,仅用RGB-D图像即可高效恢复密集深度,在低功耗平台达70 FPS且精度优于现有方法,并提升了抓取任务中的姿态估计。
2023-07-25 cs.CV
EucliDreamer: Fast and High-Quality Texturing for 3D Models with Stable Diffusion Depth
Columbia University(哥伦比亚大学);Carnegie Mellon University(卡内基梅隆大学);University of Michigan(密歇根大学)
本文提出EucliDreamer方法,利用深度条件Stable Diffusion和SDS为3D模型生成高质量纹理,在Objaverse上验证了其速度与质量优势,并进行了全面的消融研究。
2024-03-14 cs.CV cs.GR
PatchRefiner V2: Fast and Lightweight Real-Domain High-Resolution Metric Depth Estimation
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
PatchRefiner V2 通过轻量级编码器、由粗到细模块与引导去噪单元、噪声预训练策略及 SSIGM 损失,在保持高精度的同时大幅降低模型规模和推理时间,并在多个真实域数据集上验证了其高效性与通用性。
2025-01-02 cs.CV
Fast Robust Monocular Depth Estimation for Obstacle Detection with Fully Convolutional Networks
University of Perugia(佩鲁贾大学)
障碍物检测是任何机器人系统的核心问题,对于在不可预测的环境中高速行驶的自主系统至关重要。这通常通过各种手段通过场景深度估计来实现。当考虑快速运动时,检测范围必须足够长,以允许安全回避和路径规划。目前的解决方案通常对车辆的运动做出假设,这限制了它们的适用性,或者由于内在约束而在非常有限的范围内工作。我们提出了一种新的外观为基础的目标检测系统,能够检测障碍物在很长的距离,并在一个非常高的速度(~ 300 Hz),而不作出假设的运动类型。我们使用在真实和合成图像上训练的深度神经网络方法来实现这些结果,并将一些深度精度用于快速,鲁棒和一致的操作。我们展示了照片般逼真的合成图像是如何能够解决训练集维度和各种典型的机器学习方法的问题,以及我们的系统如何对测试图像的大规模模糊具有鲁棒性。
2016-07-21 cs.CV cs.RO
EucliDreamer: Fast and High-Quality Texturing for 3D Models with Depth-Conditioned Stable Diffusion
Columbia University(哥伦比亚大学);Carnegie Mellon University(卡内基梅隆大学);University of Michigan(密歇根大学)
本文提出 EucliDreamer,结合 SDS、可微渲染与深度条件 Stable Diffusion,从文本和网格生成高质量 3D 纹理,在 Objaverse 与用户研究中优于 Text2Tex,且收敛速度为 DreamFusion 的 2 倍。
2024-04-16 cs.CV
FatesGS: Fast and Accurate Sparse-View Surface Reconstruction using Gaussian Splatting with Depth-Feature Consistency
Beijing National Research Center for Information Science and Technology (BNRist), Tsinghua University(北京信息科学与技术国家研究中心(BNRist),清华大学);School of Software, Tsinghua University(清华大学软件学院)
针对 Gaussian Splatting 在稀疏视图下易过拟合、表面不完整的问题,提出 FatesGS 框架,融合单目深度排序、块内一致性与多视图投影特征约束,在 DTU 和 BlendedMVS 上以 60–200 倍加速超越现有方法。
2025-01-08 cs.CV
DAL -- A Deep Depth-aware Long-term Tracker
Tampere University(坦佩雷大学);University of Ljubljana(卢布尔雅那大学);Czech Technical University in Prague(捷克布拉格技术大学)
最好的RGBD跟踪器提供高精度,但运行缓慢。另一方面,最好的RGB跟踪器速度很快,但在RGBD数据集上明显较差。在这项工作中,我们提出了一个深度感知的长期跟踪器,实现了最先进的RGBD跟踪性能,并且运行速度快。我们重新制定的深度判别相关滤波器(DCF)的深度信息嵌入到深层功能。此外,相同的深度感知相关滤波器用于目标重新检测。综合评估表明,所提出的跟踪器实现了最先进的性能在普林斯顿RGBD,STC,和新发布的CDTB基准和运行20 fps。
2019-12-02 cs.CV
LiteDepth: Digging into Fast and Accurate Depth Estimation on Mobile Devices
Harbin Institute of Technology(哈尔滨工业大学);University of Science and Technology of China(中国科学技术大学)
单目深度估计是计算机视觉领域的一项重要任务。虽然大量成功的方法已经取得了很好的效果,但它们中的大多数都是计算昂贵的,不适用于实时的设备上的推理。在本文中,我们的目标是解决单目深度估计的更多实际应用,其中解决方案不仅要考虑精度,还要考虑移动设备上的推理时间。为此,我们首先开发了一个端到端的基于学习的模型,具有很小的权重大小(1.4MB)和很短的推理时间(Raspberry Pi 4上的27 FPS)。然后,我们提出了一个简单而有效的数据增强策略,称为R2作物,以提高模型的性能。此外,我们观察到,只有一个单一的损失项训练的简单的轻量级模型将遭受性能瓶颈。为了缓解这个问题,我们采用多个损失项,以提供足够的约束,在训练阶段。此外,通过一个简单的动态重新加权策略,我们可以避免耗时的损失项超参数选择。最后,我们采用结构感知蒸馏,以进一步提高模型的性能。值得注意的是,我们名为LiteDepth的解决方案在MAI & AIM 2022 Monocular深度估计挑战赛中排名第二,si-RMSE为0.311,RMSE为3.79,推理时间为37 $ms$在Raspberry Pi 4上测试。值得注意的是,我们提供最快的解决方案来应对挑战。代码和型号将在\url{https://github.com/zhyever/LiteDepth}发布。
2022-09-02 cs.CV
EfficientDepth: A Fast and Detail-Preserving Monocular Depth Estimation Model
Leia Inc.(Leia公司);Texas A&M University(德克萨斯农工大学)
EfficientDepth通过Transformer与轻量级卷积解码器、双模态密度头及LPIPS损失,在降低计算资源的同时实现细节保留的高效单目深度估计。
2025-09-26 cs.CV
AsyncMDE: Real-Time Monocular Depth Estimation via Asynchronous Spatial Memory
AsyncMDE通过异步空间记忆系统,结合冻结的基础模型和轻量级快速路径,在边缘设备上实现高效的实时单目深度估计,兼顾精度与速度。
2026-06-28 cs.CV cs.RO
FastV2C-HandNet: Fast Voxel to Coordinate Hand Pose Estimation with 3D Convolutional Neural Networks
Indian Institute of Information Technology Pune(印度信息技术学院浦那分院)
从单目深度图像中估计手部姿态一直是计算机视觉领域的一个重要且具有挑战性的问题。在本文中,我们提出了一种新的方法来估计3D手关节位置从2D深度图像。与以前的大多数方法不同,我们的模型从深度图像中捕获3D空间信息,从而更好地理解输入。我们对输入深度图进行体素化以捕获输入的3D特征,并执行3D数据增强以使我们的网络对真实世界的图像具有鲁棒性。我们的网络以端到端的方式进行训练,与其他方法相比,大大降低了时间和空间复杂度。通过大量的实验,我们表明,我们的模型优于国家的最先进的方法方面所需的时间训练和预测3D手关节位置。这使得我们的方法更适合于现实世界的手姿态估计场景。
2020-02-20 cs.CV cs.HC cs.LG
Fast camera focus estimation for gaze-based focus control
Eberhard Karls University Tübingen(蒂宾根埃伯哈德·卡尔斯大学)
许多相机实现自动对焦功能。然而,它们通常需要用户手动识别要聚焦的位置。虽然这种方法适用于时间稀疏的自动聚焦功能(例如,照片拍摄),但是当焦点必须在多个感兴趣的区域(和深度)之间快速切换时,它呈现出极端的可用性问题,例如,在基于凝视的自动聚焦方法中。这项工作介绍了一种新的,实时的自动对焦方法的基础上,眼睛跟踪,使用户能够迅速转移相机的焦平面的基础上,仅仅是注视信息。此外,所提出的方法构建图像的图形表示以估计深度平面表面并实时的运行(在单个i5内核上需要~ 20 ms),从而允许动态地执行深度图估计。我们评估了我们的基于凝视的深度估计算法对国家的最先进的方法的基础上,8个新的数据集,平面,倾斜,圆形表面,以及公开可用的数据集。
2017-11-09 cs.CV
FA-Depth: Toward Fast and Accurate Self-supervised Monocular Depth Estimation
Guangdong-Hong Kong-Macao Joint Laboratory of Human-Machine Intelligence-Synergy Systems, Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Shenzhen College of Advanced Technology, University of Chinese Academy of Sciences(中国科学院大学深圳先进技术学院);The Chinese University of Hong Kong(香港中文大学)
本文提出 FA-Depth,通过稀疏设计 SmallDepth、等价变换模块、金字塔损失和函数逼近损失蒸馏,在保持约 2M 参数和超过 500 FPS 推理速度的同时,在 KITTI 上实现自监督单目深度估计的最先进精度。
2024-08-12 cs.CV
Rapid Light Field Depth Estimation with Semi-Global Matching
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));University of Kaiserslautern(凯泽斯劳滕大学)
光场深度估计算法的运行时间通常很长。该评估基于现有方法的计算复杂性和所涉及的大量数据。我们的工作的目的是开发一个简单而快速的算法,精确的深度计算。在这种情况下,我们提出了一种方法,其中涉及半全局匹配的光场图像的处理。它是在比较像素与基本上有界的光场空间中的不同度量的对应关系时形成的。我们表明,我们的方法是适合于快速生产的一个适当的结果,在各种光场配置
2019-07-31 cs.CV
RGBTrack: Fast, Robust Depth-Free 6D Pose Estimation and Tracking
Department of Computer Science, Rutgers, the State University of New Jersey(计算机科学系,新泽西州立大学拉特格斯分校)
RGBTrack是一种仅依赖RGB数据的实时6D姿态估计与跟踪框架,通过二分搜索和渲染比较机制免深度推断,结合XMem跟踪、卡尔曼滤波和状态机实现鲁棒跟踪,在基准上达到竞争精度和实时性能。
2025-06-20 cs.CV cs.RO
FaSS-MVS -- Fast Multi-View Stereo with Surface-Aware Semi-Global Matching from UAV-borne Monocular Imagery
Fraunhofer Institute of Optronics, System Technologies and Image Exploitation (IOSB)(弗劳恩霍夫光学技术、系统技术与图像利用研究所);Fraunhofer Center for Machine Learning(弗劳恩霍夫机器学习中心);Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
FaSS-MVS提出一种基于表面感知半全局匹配的快速多视图立体方法,通过分层由粗到精的平面扫描深度估计和法向计算,在精度接近COLMAP的同时将单帧深度与法向图估计时间降至其14%以下,支持无人机全高清影像的1-2 Hz在线增量三维建图。
2021-12-01 cs.CV
Real-time Monocular Depth Estimation on Embedded Systems
Beihang University(北京航空航天大学);Nanchang Hangkong University(南昌航空大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
本文提出 RT-MonoDepth 和 RT-MonoDepth-S 两种轻量级实时单目深度估计架构,在嵌入式平台上以更低计算复杂度实现与现有方法相当甚至更高的精度和更快推理速度。
2024-06-07 cs.CV
Depth-Aware Range Image-Based Model for Point Cloud Segmentation
针对基于距离图像的点云分割模型缺乏显式深度信息、难以充分利用有序深度信息导致性能不佳的问题,提出深度感知模块DAM及Fast FMVNet V3,通过通道依赖建模感知深度信息,在多个基准上以极低计算成本实现显著性能提升。
2025-03-19 cs.CV
Fast and Accurate: Video Enhancement using Sparse Depth
University of Rochester(罗切斯特大学);Arm Research(Arm研究院);Rochester Institute of Technology(罗切斯特理工学院)
本文提出了一个通用的框架,以建立快速和准确的视频增强任务,如超分辨率,去模糊和去噪算法。对我们的框架来说,重要的是认识到像素流的准确性,而不是密度,是高质量视频增强所需要的。大多数先前的作品采取相反的方法:他们估计密集(每像素)-但通常不太鲁棒-流,主要使用计算成本高的算法。相反,我们提出了一个轻量级的流量估计算法,它融合了稀疏的点云数据和(甚至稀疏和不太可靠)IMU数据在现代自主智能体估计流量信息。建立在流估计之上,我们展示了一个通用框架,该框架将流以即插即用的方式与不同的任务特定层集成在一起。在我们的框架中构建的算法实现了1.78x - 187.41x的加速比,同时比竞争方法提供了0.42 dB - 6.70 dB的质量改进。
2021-09-15 cs.CV cs.RO
Fast Self-Supervised depth and mask aware Association for Multi-Object Tracking
Concordia University(康科迪亚大学)
提出一种基于自监督编码器的TBD多目标跟踪方法,融合深度与掩码特征生成稳定目标表示,避免计算掩码IoU,在复杂场景基准上优于现有方法。
2025-10-10 cs.CV
Time of the Flight of the Gaussians: Optimizing Depth Indirectly in Dynamic Radiance Fields
Brown University(布朗大学);Meta Reality Labs(Meta现实实验室);Carnegie Mellon University(卡内基梅隆大学)
本文针对单目连续波飞行时间相机动态场景重建中深度非直接测量导致的优化困难,提出在3D高斯泼溅优化中引入两种启发式策略,实现精度与神经体积方法相当且速度快100倍的高保真重建。
2025-05-08 cs.AI cs.CV cs.GR
Weakly-Supervised Monocular Depth Estimationwith Resolution-Mismatched Data
Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Laboratory(鹏城实验室);Tsinghua University(清华大学)
基于单幅图像的深度估计是计算机视觉中的一个研究热点。最准确的方法是基于完全监督学习模型,它依赖于大量密集和高分辨率(HR)的地面实况深度图。然而,在实践中,彩色图像通常以比深度图高得多的分辨率捕获,导致分辨率失配效应。在本文中,我们提出了一种新的弱监督框架来训练单目深度估计网络,以生成具有分辨率失配监督的HR深度图,即,输入是HR彩色图像,地面实况是低分辨率(LR)深度图。提出的弱监督框架由一个共享权值的单目深度估计网络和一个深度重构网络组成。具体地,对于单目深度估计网络,输入彩色图像首先被下采样以获得其具有与地面实况深度相同的分辨率的LR版本。然后,HR和LR彩色图像都被馈送到所提出的单目深度估计网络,以获得相应的估计深度图。我们引入三个损失来训练网络:1)估计的LR深度和地面实况LR深度之间的重建损失; 2)下采样的估计的HR深度和地面实况LR深度之间的重建损失; 3)估计的LR深度和下采样的估计的HR深度之间的一致性损失。此外,我们还设计了一个从深度到深度的深度重建网络。通过蒸馏损失,两个网络之间的特征在亲和空间中保持结构一致性,最终提高估计网络的性能。实验结果表明,我们的方法取得了优越的性能比无监督和半监督学习为基础的计划,是有竞争力的,甚至更好的监督相比。
2021-09-23 cs.CV
Mind The Edge: Refining Depth Edges in Sparsely-Supervised Monocular Depth Estimation
Samsung Israel R&D Center(三星以色列研发中心);Tel Aviv University(特拉维夫大学)
本文针对LIDAR稀疏监督MDE中深度边缘误差问题,利用合成数据学习边缘检测并生成训练监督,显著提升深度边缘精度且保持逐像素深度性能。
2024-04-03 cs.CV
SuperDepth: Self-Supervised, Super-Resolved Monocular Depth Estimation
Toyota Research Institute (TRI)(丰田研究院(TRI))
自监督单目深度估计中的最新技术正在接近监督方法的性能,但仅在低分辨率下操作。我们表明,高分辨率是高保真自我监督单目深度预测的关键。受最近用于单图像超分辨率的深度学习方法的启发,我们提出了一种用于深度超分辨率的子像素卷积层扩展,该子像素卷积层扩展可以准确地从其对应的低分辨率卷积特征中合成高分辨率视差。此外,我们还引入了一个可区分的翻转增强层,它可以准确地融合图像及其水平翻转版本的预测,减少由于遮挡而在视差图中生成的左右阴影区域的影响。这两个贡献提供了显着的性能增益超过国家的最先进的自我监督的深度和姿态估计的公共KITTI基准。我们的方法的视频可以在https://youtu.be/jKNgBeBMx0I上找到。
2018-10-03 cs.AI cs.CV cs.LG
RA-Depth: Resolution Adaptive Self-Supervised Monocular Depth Estimation
Nanjing University of Science and Technology(南京理工大学)
现有的自监督单目深度估计方法可以摆脱昂贵的注释,并取得有希望的结果。然而,当直接采用在固定分辨率上训练的模型来评估其他不同分辨率时,这些方法遭受严重的性能下降。本文通过学习场景深度的尺度不变性,提出了一种分辨率自适应的自监督单目深度估计方法(RA-Depth)。具体来说,我们提出了一个简单而有效的数据增强方法来生成任意尺度的图像为同一场景。然后,我们开发了一个双重高分辨率网络,它使用具有密集交互的多路径编码器和解码器来聚合多尺度特征以进行准确的深度推断。最后,为了明确地学习场景深度的尺度不变性,我们制定了不同尺度的深度预测的跨尺度深度一致性损失。在KITTI、Make 3D和NYU-V2数据集上的大量实验表明,RA-Depth不仅具有最佳的性能,而且具有良好的分辨率自适应能力。
2022-07-26 cs.CV
Fast and Robust Hand Tracking Using Detection-Guided Optimization
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Saarland University(萨尔大学);Aalto University(阿尔托大学)
手和手指的无标记跟踪是人机交互的一个有前途的使能者。然而,由于跟踪不准确、运动覆盖不完整、低帧率、复杂的相机设置和高计算要求,采用受到限制。在本文中,我们提出了一种快速的方法,准确地跟踪快速和复杂的关节的手使用一个单一的深度相机。我们的算法使用了一种新的检测引导优化策略,提高了姿态估计的鲁棒性和速度。在检测步骤中,随机决策森林将像素分类为手的部分。在优化步骤中,一个新的目标函数将检测到的部分标签和深度的高斯混合表示相结合,以估计最适合深度的姿势。我们的方法需要更少的计算资源,这使得它非常快(50 fps,没有GPU支持)。该方法还支持不同的静态或移动的相机到场景的布置。我们通过在公共数据集上进行评估并与以前的工作进行比较来展示我们的方法的好处。
2016-02-12 cs.CV
Fast and Accurate Single-Image Depth Estimation on Mobile Devices, Mobile AI 2021 Challenge: Report
Raspberry Pi(树莓派)
深度估计是一个重要的计算机视觉问题,在移动设备中有许多实际应用。虽然已经针对该任务提出了许多解决方案,但它们通常在计算上非常昂贵,因此不适用于设备上的推理。为了解决这个问题,我们引入了第一个移动AI挑战,其目标是开发一个端到端的基于深度学习的深度估计解决方案,该解决方案可以在智能手机和物联网平台上展示近乎实时的性能。为此,向参与者提供了一个新的大规模数据集,其中包含使用专用立体ZED相机获得的RGB深度图像对,为位于50米以内的物体生成高分辨率深度图。所有型号的运行时都在流行的Raspberry Pi 4平台上进行了评估,该平台采用基于ARM的Broadcom芯片组。所提出的解决方案可以在Raspberry Pi 4上以高达10 FPS的速度生成VGA分辨率的深度图,同时实现高保真度的结果,并且与任何基于Android或Linux的移动设备兼容。本文提供了在挑战中开发的所有模型的详细描述。
2021-05-17 cs.CV cs.LG eess.IV
Semi-Supervised Deep Learning for Monocular Depth Map Prediction
RWTH Aachen University(亚琛工业大学)
受监督的深度学习经常受到缺乏足够的训练数据的困扰。具体地,在单目深度图预测的上下文中,几乎不可能在现实的动态户外环境中确定密集的地面实况深度图像。例如,当使用LiDAR传感器时,距离测量中存在噪声,传感器之间的校准不可能是完美的,并且测量通常比相机图像稀疏得多。在本文中,我们提出了一种新的方法来从单目图像中预测深度图,以半监督的方式学习。虽然我们使用稀疏地面实况深度进行监督学习,但我们也使用直接图像对齐损失来强制我们的深度网络在立体设置中产生照片一致性密集深度图。在实验中,我们展示了优越的性能,从单个图像的深度图预测相比,国家的最先进的方法。
2017-05-09 cs.CV
Learning Occlusion-Aware Coarse-to-Fine Depth Map for Self-supervised Monocular Depth Estimation
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
自监督的单目深度估计,旨在学习场景深度从单一的图像在一个自我监督的方式,近年来受到了广泛的关注。尽管最近在这一领域的努力,如何学习准确的场景深度和减轻遮挡的负面影响,自我监督的深度估计,仍然是一个悬而未决的问题。针对这一问题,我们首先实证分析了连续和离散深度约束的影响,这是广泛使用的训练过程中的许多现有的作品。然后,受上述实证分析的启发,我们提出了一种新的网络来学习用于自监督单目深度估计的遮挡感知的Coarse-to-Fine Depth map,称为OCFD-Net。给定一个任意的立体图像对训练集,所提出的OCFD-Net不仅采用离散深度约束来学习粗层次的深度图,而且还采用连续深度约束来学习场景深度残差,从而得到细层次的深度图。此外,在OCFD-Net下设计了一个遮挡感知模块,该模块能够提高学习的精细级深度图处理遮挡的能力。KITTI上的实验结果表明,在大多数情况下,该方法优于比较国家的最先进的方法在七个常用的指标。此外,在Make 3D上的实验结果表明,该方法在四种常用度量下的跨数据集泛化能力是有效的.该代码可在https://github.com/ZM-Zhou/OCFD-Net_pytorch上获得。
2022-09-15 cs.CV