Uncertainty Estimation for Safety-critical Scene Segmentation via Fine-grained Reward Maximization
The Chinese University of Hong Kong(香港中文大学);University Hospital of Augsburg(奥格斯堡大学医院);Harvard Medical School & Massachusetts General Hospital(哈佛医学院与麻省总医院)
针对安全关键场景分割中不确定性估计缺乏明确校准指导的问题,提出细粒度奖励最大化框架,结合强化学习与费舍尔信息矩阵实现参数细粒度更新,在手术场景数据集上校准性能优于现有方法且保持高分割精度。
2023-11-05 cs.CV
An Uncertainty Estimation Framework for Probabilistic Object Detection
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
在本文中,我们介绍了一种新的技术,结合两种流行的方法来估计不确定性的目标检测。量化不确定性在现实世界的机器人应用中至关重要。传统的检测模型即使在提供高概率输出时也可能是模糊的。基于高置信度但不可靠的预测的机器人行动可能会导致严重的后果。我们的框架采用深度集成和蒙特卡罗丢弃近似预测的不确定性,它提高了基线方法的不确定性估计质量。所提出的方法进行评估公开可用的合成图像数据集捕获的视频序列。
2021-06-28 cs.CV
Efficient Uncertainty Estimation for Semantic Segmentation in Videos
National Tsing Hua University(国立清华大学);Umbo Computer Vision(Umbo计算机视觉)
深度学习中的不确定性估计最近变得更加重要。如果我们不知道一个深度学习模型对决策是否确定,它就无法应用于实际应用中。一些文献提出了贝叶斯神经网络,它可以估计的不确定性,通过蒙特卡洛辍学(MC辍学)。但是,MC dropout需要将模型转发$N$次,这导致$N$慢$N$次。对于自动驾驶汽车系统等实时应用,需要尽可能快地获得预测和不确定性,因此MC丢弃变得不切实际。在这项工作中,我们提出了基于区域的时间聚合(RTA)的方法,利用视频中的时间信息来模拟采样过程。我们使用提拉米苏主干的RTA方法比使用提拉米苏主干的MC丢弃($N=5$)快10倍。此外,通过我们的RTA方法获得的不确定性估计与MC dropout在像素级和帧级度量上的不确定性估计相当。
2018-07-29 cs.CV
Pose-Oriented Transformer with Uncertainty-Guided Refinement for 2D-to-3D Human Pose Estimation
Qualcomm AI Research(高通人工智能研究院);Qualcomm Technologies, Inc.(高通技术公司);Shanghai Jiao Tong University(上海交通大学)
最近,人们对将Transformers引入3D人体姿态估计(HPE)的兴趣激增,因为它们在建模长期依赖性方面具有强大的功能。然而,现有的基于变换器的方法将身体关节视为同等重要的输入,并且忽略了自我注意力机制中的人体骨架拓扑的先验知识。为了解决这个问题,在本文中,我们提出了一个姿态导向的Transformer(POT)与不确定性指导细化的三维HPE。具体来说,我们首先开发了新的面向姿态的自我注意力机制和距离相关的位置嵌入POT明确利用人体骨架拓扑结构。面向姿态的自我注意力机制明确地对身体关节之间的拓扑相互作用进行建模,而距离相关的位置嵌入对关节到根关节的距离进行编码,以区分具有不同回归难度的关节组。此外,我们提出了一个不确定性指导的细化网络(UGRN),以改善从POT的姿态预测,特别是对于困难的关节,通过考虑估计的不确定性的每个关节的不确定性与不确定性指导的采样策略和自我注意力机制。大量的实验表明,我们的方法在3D HPE基准测试(如Human3.6M和MPI-INF-3DHP)上显著优于具有减少的模型参数的最先进方法
2023-02-15 cs.CV
Gradient-based Uncertainty for Monocular Depth Estimation
Ulm University(乌尔姆大学);Otto von Guericke University Magdeburg(奥托·冯·格里克马格德堡大学)
本文提出一种基于梯度的单目深度估计事后不确定性方法,利用图像水平翻转一致性构造辅助损失,无需真值或重训练,在KITTI和NYU Depth V2上达到最先进水平。
2022-08-03 cs.CV
BayesOD: A Bayesian Approach for Uncertainty Estimation in Deep Object Detectors
University of Toronto(多伦多大学);University of Waterloo(滑铁卢大学)
当将深度神经网络整合到机器人系统中时,一个主要的挑战是缺乏与其输出预测相关的不确定性度量。在最近的工作中已经提出了用于深度对象检测器(DNN)的输出中的不确定性估计的方法,但是由于1)在检测器非最大抑制(NMS)阶段的信息损失,以及2)未能考虑基于锚的目标检测的多任务、多对一性质,因此具有有限的成功。为此,我们引入贝叶斯OD,一个不确定性估计的方法,重新制定了标准的对象检测器的推理和非最大抑制组件从贝叶斯的角度来看。在4个常见的目标检测数据集上进行的实验表明,BayesOD提供的不确定性估计与检测准确性有更好的相关性,表现为最小高斯不确定性误差度量降低了9.77%-13.13%,最小分类不确定性误差度量降低了1.63%-5.23%.代码将在{ \url{https://github.com/asharakeh/bayes-od-rc} }发布。
2019-09-16 cs.CV
Road Grip Uncertainty Estimation Through Surface State Segmentation
Finnish Geospatial Research Institute FGI, National Land Survey of Finland(芬兰地理空间研究所(FGI,芬兰国家土地测量局));Aalto University(阿尔托大学);Amazon(亚马逊公司)
本文针对自动驾驶中湿滑路面的抓地力不确定性估计问题,提出利用路面状态分割预测逐像素抓地力概率分布的新方法,并通过对多种不确定性预测方法的基准测试验证了其能提升预测鲁棒性。
2025-04-11 cs.CV
Uncertainty in multitask learning: joint representations for probabilistic MR-only radiotherapy planning
University College London(伦敦大学学院);King’s College London(伦敦国王学院);National University of Singapore(新加坡国立大学)
多任务神经网络体系结构提供了一种联合集成来自不同来源的信息的机制。它在仅MR放射治疗计划的背景下是理想的,因为它可以联合回归合成CT(synCT)扫描和从MRI分割危险器官(OAR)。我们提出了一个概率多任务网络,估计:1)内在的不确定性,通过异方差噪声模型的空间自适应任务损失加权和2)参数不确定性,通过近似贝叶斯推理。这允许对共享其网络表示的多个分段和同步CT进行采样。我们在前列腺癌扫描上测试了我们的模型,结果表明,它可以产生更准确和一致的synCT,更好地估计误差方差,最先进的OAR分割结果和放射治疗计划中的质量保证方法。
2018-06-18 cs.CV
Uncertainty Propagation for Echocardiography Clinical Metric Estimation via Contour Sampling
University of Sherbrooke(谢布鲁克大学);INSA(国立应用科学学院);Universite Claude Bernard Lyon 1(里昂第一大学(克洛德·贝尔纳));CNRS(法国国家科学研究中心);Inserm(法国国家健康与医学研究院);CREATIS(CREATIS研究机构);Ultromics Ltd.(Ultromics有限公司);King’s College London(伦敦国王学院)
针对分割像素不确定性难以传递到临床指标的问题,本文提出基于轮廓绘制的位置不确定性预测与采样方法,将不确定性传播至超声心动图临床参数,并在两个数据集上验证了准确性。
2026-10-15 cs.CV
Canopy Tree Height Estimation Using Quantile Regression: Modeling and Evaluating Uncertainty in Remote Sensing
University of Münster(明斯特大学);University of Copenhagen(哥本哈根大学)
本文通过分位数回归改进现有树高估计模型,实现不确定性量化,展示如何通过微调预测头实现统计校准,并探讨模型在遥感挑战(如地形复杂性和植被异质性)下的可靠性。
2026-04-08 cs.CV
On the Effect of Inter-observer Variability for a Reliable Estimation of Uncertainty of Medical Image Segmentation
Institute for Surgical Technologies and Biomechanics, University of Bern(伯尔尼大学外科技术与生物力学研究所);SCAN, Institute for Diagnostic and Interventional Neuroradiology(诊断与介入神经放射学研究所SCAN);University Clinic for Radio-oncology, Inselspital, Bern University Hospital, University of Bern(伯尔尼大学因塞尔医院放射肿瘤学大学诊所)
期望不确定性估计方法改进对医学应用中使用的计算机辅助方法的理解和质量(例如,神经外科手术、放射治疗计划),其中自动医学图像分割至关重要。在有监督的机器学习中,生成地面实况标签数据的常见做法是合并观察者注释。然而,由于许多医学图像任务显示出由诸如图像质量、不同水平的用户专业知识和领域知识等因素引起的高观察者间变异性,因此很少有人知道观察者间变异性和常用的融合方法如何影响自动图像分割的不确定性的估计。本文分析了常用的图像标签融合技术对不确定性估计的影响,提出了对观测者之间的不确定性进行学习的方法。结果强调了在深度学习中应用融合方法的负面影响,以获得分割不确定性的可靠估计。此外,我们表明,学习观察员的不确定性,可以结合目前的标准蒙特卡洛脱落贝叶斯神经网络来表征模型的参数的不确定性。
2018-06-07 cs.CV
Localization Uncertainty Estimation for Anchor-Free Object Detection
Electronics and Telecommunications Research Institute (ETRI)(韩国电子通信研究院);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
由于许多安全关键系统,如手术机器人和自动驾驶汽车在传感器噪声和不完整数据的不稳定环境中运行,因此目标检测器需要考虑定位不确定性。然而,现有的用于基于锚点的目标检测的不确定性估计方法存在一些局限性。1)它们对具有不同特征和尺度的异构对象属性的不确定性进行建模,例如位置(中心点)和尺度(宽度,高度),这可能难以估计。2)他们将框偏移建模为高斯分布,这与遵循Dirac delta分布的地面实况边界框不兼容。3)由于基于锚点的方法对锚点超参数敏感,因此它们的定位不确定性也可能对超参数的选择高度敏感。为了解决这些局限性,我们提出了一种新的本地化不确定性估计方法称为UAD无锚目标检测。我们的方法捕获了均匀的框偏移的四个方向(左,右,上,下)的不确定性,因此它可以判断哪个方向是不确定的,并提供[0,1]中的不确定性的定量值。为了实现这种不确定性估计,我们设计了一种新的不确定性损失,负幂对数似然损失,通过其IoU加权似然损失来度量定位不确定性,从而解决了模型误指定问题。此外,我们提出了一个不确定性意识的焦点损失反映估计的不确定性的分类得分。COCO数据集上的实验结果表明,我们的方法显着提高FCOS,高达1.8点,而不牺牲计算效率。
2022-07-06 cs.CV
On the uncertainty of self-supervised monocular depth estimation
University of Bologna(博洛尼亚大学)
用于单目深度估计的自监督范例是非常有吸引力的,因为它们根本不需要地面实况注释。尽管这些方法产生了惊人的结果,但学习推理估计深度图的不确定性对于实际应用来说是至关重要的,但在文献中是未知的。有目的地,我们第一次探索如何估计这项任务的不确定性,以及这如何影响深度准确性,提出了一种专门为自我监督方法设计的新颖的特殊技术。在标准的KITTI数据集上,我们详尽地评估了每种方法在不同自监督范式下的性能。这样的评估强调了我们的建议i)总是显着提高深度准确性,ii)在序列上训练时产生关于不确定性估计的最新结果,并且独特地部署立体声对的竞争结果。
2020-05-13 cs.CV
Measuring and Modeling Uncertainty Degree for Monocular Depth Estimation
Northwestern Polytechnical University(西北工业大学);Australian National University(澳大利亚国立大学)
针对单目深度估计模型不确定度估计的现有方法耗时耗内存、精度与可靠性未 decouple 的问题,提出基于深度概率体固有分布建模、加正则项的简洁方法,实现了SOTA级不确定度估计可靠性,可结合集成方法进一步提升。
2023-07-19 cs.CV
Semi-Local 3D Lane Detection and Uncertainty Estimation
General Motors Advanced Technical Center Israel(通用汽车以色列先进技术中心)
我们提出了一种新的基于摄像机的DNN方法,用于具有不确定性估计的3D车道检测。我们的方法是基于一个半本地,BEV,瓦片表示,分解成简单的车道段车道。它将学习路段的参数模型与深度特征嵌入相结合,然后将路段聚类到完整的车道中。这种组合使我们的方法可以推广到复杂的车道拓扑结构,曲率和表面几何形状。此外,我们的方法是第一个输出基于学习的不确定性估计的车道检测任务。我们的方法的有效性在广泛的实验中得到了证明,实现了基于摄像头的3D车道检测的最先进的结果,同时也显示了我们推广到复杂拓扑结构,曲率和道路几何形状以及不同摄像头的能力。我们还展示了我们的不确定性估计如何与经验误差统计相一致,表明它是校准良好的,并真实地反映了检测噪声。
2020-03-11 cs.CV
Learning Correlation-aware Aleatoric Uncertainty for 3D Hand Pose Estimation
Grad. School of AI POSTECH(POSTECH人工智能研究生院);Dept. of Electrical Engineering POSTECH(POSTECH电气工程系);School of Computing KAIST(KAIST计算学院)
针对3D手部姿态估计中缺乏偶然不确定性建模及关节相关性考量的问题,提出基于单线性层的概率分布参数化方法作为附加任务头,在保证精度的同时实现高效的相关性感知不确定性建模,性能优于现有方法。
2025-09-01 cs.CV
Continuous Normalizing Flows for Uncertainty-Aware Human Pose Estimation
Computer Vision Laboratory, Dept of E. E., Linköping University, Sweden(计算机视觉实验室,电子工程系,利厄普大学,瑞典)
本文提出CFRE,通过整合连续归一化流提升人体姿态估计的精度和不确定性量化能力。
2025-05-04 cs.CV
On the Estimation of Image-matching Uncertainty in Visual Place Recognition
TU Delft(代尔夫特理工大学)
本文首次系统比较视觉地点识别中图像匹配不确定性估计方法,提出利用参考位姿的简单基线SUE,证明L2距离优于数据驱动方法,并可与几何验证互补。
2024-03-31 cs.CV
Self-Paced Uncertainty Estimation for One-shot Person Re-Identification
Beijing Institute of Technology(北京理工大学)
在构建从$X$到$Y$的预测模型时,一次性人员重新识别场景面临两种不确定性。第一个是模型不确定性,由于缺乏训练数据,它会捕获DNN中参数的噪声。第二种是数据不确定性,它可以分为两个子类型:一种是图像噪声,其中严重的遮挡和复杂的背景包含与身份无关的信息;另一种是标签噪声,其中错误标记影响视觉外观学习。针对这些问题,本文提出了一种新的用于one-shot Person Re-ID的自步调不确定性估计网络(SPUE-Net),通过引入自步调采样策略,该方法可以迭代地估计未标记样本的伪标签,从而逐渐扩展标记样本,消除模型的不确定性,而无需额外的监督。我们将伪标签样本分成两个子集,使训练样本的使用更加合理和有效。此外,本文采用局部不确定性估计与确定性估计相结合的协同学习方法,实现了更好的隐藏空间特征挖掘,提高了伪标记样本选取的精度,降低了数据的不确定性。基于视频和图像的数据集上的广泛的比较评估实验表明,SPUE-Net具有显着的优势,比国家的最先进的方法。
2021-04-19 cs.CV
On Attacking Out-Domain Uncertainty Estimation in Deep Neural Networks
University of Notre Dame(圣母大学)
在许多具有现实后果的应用中,为人工智能决策系统所做的预测开发可靠的不确定性估计至关重要。针对估计不确定性的目标,已经提出了各种基于深度神经网络(DNN)的不确定性估计算法。然而,这些算法返回的不确定性的鲁棒性还没有被系统地探讨。在这项工作中,为了提高研究界对鲁棒不确定性估计的认识,我们表明,最先进的不确定性估计算法可能会在我们提出的对抗攻击下发生灾难性失败,尽管它们在不确定性估计方面表现出色。特别是,我们的目标是攻击域外不确定性估计:在我们的攻击下,不确定性模型将被愚弄,对域外数据进行高置信度的预测,而这些数据最初会被拒绝。在各种基准图像数据集上的大量实验结果表明,最先进的方法估计的不确定性很容易被我们的攻击破坏。
2022-10-12 cs.AI cs.CV cs.LG
Training-Free Uncertainty Estimation for Dense Regression: Sensitivity as a Surrogate
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Rutgers University(罗格斯大学)
不确定性估计是评估计算机视觉中深度学习模型鲁棒性的重要步骤,尤其是在应用于风险敏感领域时。然而,大多数最先进的深度学习模型要么无法获得不确定性估计,要么需要进行重大修改(例如,大多数以前的方法都不能把一个任意的模型从货架上拿下来,产生不确定性估计,而不重新训练或重新设计它。为了解决这个差距,我们进行了系统的探索到训练免费密集回归的不确定性估计,一个未被认识到的重要问题,并提供了一个理论建设证明这样的估计。我们提出了三种简单且可扩展的方法来分析训练网络在可容忍扰动下的输出方差:推断转换,推断噪声和推断辍学。它们仅在推理期间操作,而不需要重新训练、重新设计或微调模型,而这通常是最先进的不确定性估计方法所要求的。令人惊讶的是,即使在训练中不涉及这种扰动,与需要训练的最先进的方法相比,我们的方法也能产生相当甚至更好的不确定性估计。
2022-01-11 cs.CV cs.LG
Uncertainty estimation for out-of-distribution detection in computational histopathology
GSK(葛兰素史克)
在计算组织病理学中,算法现在在一系列任务上优于人类,但到目前为止,还没有一种算法用于临床自动诊断。在算法可以参与这样的高风险决策之前,它们需要“知道它们什么时候不知道”,即,他们需要估计他们的预测不确定性。这使得他们能够将潜在的错误预测推迟给人类病理学家,从而提高了他们的安全性。在这里,我们评估的预测性能和校准的几个不确定性估计方法对临床组织病理学数据。我们表明,距离感知的不确定性估计方法优于常用的方法,如蒙特卡罗丢弃和深度集成。然而,我们观察到在所有测试的不确定性估计方法中,新样本的预测性能和校准都有所下降。我们还研究了使用不确定性阈值来拒绝选择性预测的分布外样本。我们证明了这种方法的局限性,并建议未来的研究领域。
2022-10-18 cs.CV cs.LG
Audio-Driven Talking Face Video Generation with Joint Uncertainty Learning
Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)(广东人工智能与数字经济发展实验室);Shenzhen University(深圳大学);Tongji University(同济大学)
针对说话人脸视频生成中因忽略视觉不确定性导致的视觉质量不一致和性能不可靠问题,提出联合不确定性学习网络(JULNet),通过预测误差图和不确定性图并利用KL散度联合优化二者,有效提升了视频的高保真度与音唇同步性能。
2025-04-26 cs.AI cs.CV
Real-Time Uncertainty Estimation in Computer Vision via Uncertainty-Aware Distribution Distillation
Samsung Inc(三星公司);Cornell University(康奈尔大学)
不确定性的校准估计对于深度学习的许多现实世界计算机视觉应用至关重要。虽然有几种广泛使用的不确定性估计方法,辍学推断突出其简单性和有效性。然而,这种技术在推理期间需要通过网络的多次前向传递,因此可能过于资源密集而不能部署在实时的【形】应用中。我们提出了一种简单,易于优化的蒸馏方法,用于学习预训练的辍学模型的条件预测分布,用于计算机视觉任务中的快速,无样本不确定性估计。我们经验性地测试了所提出的方法在语义分割和深度估计任务上的有效性,并证明了我们的方法可以显着减少推理时间,实现实时的【形】不确定性量化,同时实现了比常规辍学模型更高质量的不确定性估计和预测性能。
2020-11-06 cs.CV cs.LG stat.ML
What Can We Learn From The Selective Prediction And Uncertainty Estimation Performance Of 523 Imagenet Classifiers
Technion(以色列理工学院);Amazon(亚马逊)
当部署用于风险敏感型任务时,深度神经网络必须包含不确定性估计机制。在这里,我们研究了深度架构与其各自的训练机制之间的关系,以及相应的选择性预测和不确定性估计性能。我们考虑了一些最流行的估计性能指标,包括AUROC,ECE,AURC以及覆盖率的选择性精度约束。我们提出了一个新的和全面的研究选择性预测和不确定性估计性能的523个现有的预训练的深度ImageNet分类器,可在流行的存储库。我们确定了许多以前未知的因素,影响不确定性估计,并检查不同的度量之间的关系。我们发现,基于蒸馏的训练方案始终比其他训练方案(如香草训练,更大数据集上的预训练和对抗训练)产生更好的不确定性估计。此外,我们发现一个子集的ViT模型,优于任何其他模型的不确定性估计性能。例如,我们发现ImageNet上的ViT模型在47%的覆盖率下获得了前所未有的99%的top-1选择准确率(在80%的覆盖率下获得了95%的top-1准确率),而竞争对手EfficientNet-V2-XL在任何覆盖率水平下都无法获得这些准确率约束。我们的配套论文也发表在ICLR 2023(A framework for benchmarking class-分布外检测and its application to ImageNet)上,研究了这些分类器在class-out-of-distribution设置中的性能。
2023-02-23 cs.CV cs.LG
Dense Uncertainty Estimation
School of Computing, the Australian National University(澳大利亚国立大学计算学院);School of Electronics and Information, Northwestern Polytechnical University(西北工业大学电子信息学院);CS, Nankai University(南开大学计算机学院);CSIRO(澳大利亚联邦科学与工业研究组织);Monash University(莫纳什大学)
深度神经网络大致可以分为确定性神经网络和随机性神经网络,前者通常通过训练权值的最大似然估计实现从输入空间到输出空间的映射,从而导致测试时的确定性预测。以这种方式,在忽略可能发生在适当权重空间中的任何不确定性的同时估计特定权重集合。后者将随机性引入到框架中,通过假设模型参数的先验分布(即贝叶斯神经网络)或包括潜变量(即生成模型)来探索潜变量对模型预测的贡献,从而导致测试期间的随机预测。与前者实现点估计不同,后者旨在估计预测分布,从而可以估计不确定性,表示模型对其预测的无知。我们认为传统的基于确定性神经网络的密集预测任务容易过拟合,导致过度自信的预测,这是不可取的决策。在本文中,我们研究随机神经网络和不确定性估计技术,以实现准确的确定性预测和可靠的不确定性估计。具体来说,我们工作在两种类型的不确定性估计的解决方案,即集成为基础的方法和生成模型为基础的方法,并解释他们的优点和缺点,而使用它们在完全/半/弱监督的框架。由于不确定性估计与模型校准之间的密切联系,我们还介绍了如何将不确定性估计用于深度模型校准,以实现良好校准的模型,即密集模型校准。代码和数据可在https://github.com/JingZhang617/UncertaintyEstimation上获得。
2021-10-13 cs.CV cs.LG
Disentangling Model and Human Data Uncertainty in Apparent Facial Age Estimation
Bernoulli Institute, University of Groningen(格罗宁根大学伯努利研究所)
研究表观面部年龄估计中模型与人类数据的不确定性,利用APPA - REAL数据集,通过三种贝叶斯神经网络近似方法训练模型,可输出预测年龄及两种不确定性量,证实不同来源不确定性可量化。
2026-07-21 cs.CV cs.LG
A Review of Uncertainty Estimation and its Application in Medical Imaging
Sichuan University(四川大学);Tianjin University(天津大学);Institute of High Performance Computing (IHPC), Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局高性能计算研究所(IHPC))
本文综述了深度学习中的不确定性估计方法及其在医学成像中的应用,探讨了偶然与认知不确定性的估计方式,并总结了结合不确定性估计的深度学习模型的最新进展、挑战与未来方向。
2023-05-16 cs.CV eess.IV
CoMet: Context and Multiplicity Decomposition for Multimodal Uncertainty Estimation
Princeton University(普林斯顿大学)
提出CoMet方法,将多模态大模型的不确定性分解为上下文项和多样性项,通过轻量级后验模块高效估计,无需自回归生成或重复采样,在多个基准上优于现有方法。
2026-11-11 cs.CV cs.LG
STUN: Self-Teaching Uncertainty Estimation for Place Recognition
University of Liverpool(利物浦大学);University of Edinburgh(爱丁堡大学)
地点识别是同时定位与地图构建(SLAM)和空间感知的关键。然而,由于图像变化,野外的地点识别经常遭受错误预测,例如,改变视角和街道外观。将不确定性估计集成到位置识别的生存周期中是一种很有前途的方法,以减轻变化对位置识别性能的影响。然而,在这方面现有的不确定性估计方法或者计算效率低(例如,蒙特卡罗丢失)或以准确性下降为代价。本文提出了STUN,这是一个自学框架,可以学习同时预测输入图像的位置并估计预测不确定性。为此,我们首先使用标准度量学习管道训练教师网络以产生嵌入先验。然后,在预训练的教师网络的监督下,训练具有额外方差分支的学生网络来微调嵌入先验并逐个样本地估计不确定性。在在线推理阶段,我们只使用学生网络结合不确定性生成位置预测。与不了解不确定性的位置识别系统相比,我们的框架免费提供了不确定性估计,而不牺牲任何预测精度。我们在大规模数据集上的实验结果表明,STUN在识别精度和不确定性估计的质量上都优于最先进的方法。
2022-09-13 cs.CV cs.RO
On Monocular Depth Estimation and Uncertainty Quantification using Classification Approaches for Regression
Paris-Saclay University(巴黎萨克雷大学);ENSTA Paris(巴黎高等先进技术学院);Institut Polytechnique de Paris(巴黎理工学院)
单目深度在许多任务中都很重要,例如3D重建和自动驾驶。基于深度学习的模型在该领域实现了最先进的性能。一组新的方法来估计单眼深度包括将回归任务转换为分类任务。然而,在社区中缺乏对回归分类方法(CAR)的详细描述和比较,并且没有深入探索其不确定性估计的潜力。为此,本文将介绍CAR方法的分类和总结,CAR的一种新的不确定性估计解决方案,并在KITTI数据集上对基于CAR的模型的深度精度和不确定性量化进行了一系列实验。实验反映了两个主干上的各种CAR方法的可移植性的差异。同时,新提出的不确定性估计的方法可以优于集成方法,只有一个前向传播。
2022-06-29 cs.CV cs.LG
GloPro: Globally-Consistent Uncertainty-Aware 3D Human Pose Estimation & Tracking in the Wild
Technical University of Munich(慕尼黑工业大学);Imperial College London(伦敦帝国学院)
GloPro首次融合视觉线索与运动模型,预测包含形状、姿态和根姿态的3D人体网格不确定性分布,在严重遮挡下仍能实时实现高精度全局一致的人体轨迹估计与跟踪。
2023-09-20 cs.CV cs.RO
CRISP - Reliable Uncertainty Estimation for Medical Image Segmentation
University of Sherbrooke(舍布鲁克大学);University of Lyon(里昂大学);CREATIS(CREATIS实验室);CNRS(法国国家科学研究中心);Inserm(法国国家健康与医学研究院);INSA-Lyon(里昂国立应用科学学院);University of Lyon 1(里昂第一大学);Ultromics Ltd.(Ultromics有限公司)
准确的不确定性估计是医学成像界的迫切需要。已经提出了各种方法,所有的分类不确定性估计技术的直接扩展。独立的逐像素不确定性估计通常基于神经网络的概率解释,不考虑解剖学先验知识,因此为许多分割任务提供次优结果。为此,我们提出了一种基于不确定性预测的图像分割方法--CRISP.在其核心,CRISP实现了一种对比方法来学习联合潜在空间,该空间对有效分割及其相应图像的分布进行编码。我们使用这个联合潜在空间将预测与数千个潜在向量进行比较,并提供解剖学上一致的不确定性地图。在涉及不同模式和器官的四个医学图像数据库上进行的综合研究强调了我们的方法与最先进方法相比的优越性。
2022-06-15 cs.CV eess.IV
Uncertainty Quantification with Deep Ensembles for 6D Object Pose Estimation
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院);Institute of Photogrammetry and Remote Sensing (IPF)(摄影测量与遥感研究所)
本文针对多阶段6D物体姿态估计方法提出基于深度集成的不确定性量化方案,以SurfEmb为例进行评估,并提出新的回归任务不确定性校准分数。
2024-05-02 cs.AI cs.CV
Towards calibrated and scalable uncertainty representations for neural networks
Cornell University(康奈尔大学);Cornell Tech(康奈尔理工学院);Shutterstock(Shutterstock公司);Rochester Institute of Technology(罗切斯特理工学院)
对于许多应用来说,了解神经网络预测的不确定性是至关重要的。虽然已经提出了各种神经网络参数估计方法用于不确定性估计,但是它们没有在不确定性度量之间进行严格的比较。我们评估这些参数估计方法校准不确定性估计使用四种不同的不确定性度量:熵,互信息,任意的不确定性和认知的不确定性。我们评估这些参数估计方法的校准使用预期的校准误差。此外,我们提出了一种新的神经网络参数估计方法,称为RECST,它结合了余弦退火与热重启与随机梯度Langevin动力学,捕捉更多样化的参数分布。当基准对残缺的图像数据,我们表明,RECAST是良好的校准和预测熵和认知不确定性相结合时,它提供了最好的校准措施的不确定性相比,最近的方法。
2019-12-04 cs.CV cs.LG stat.ML
Assessing Reliability and Challenges of Uncertainty Estimations for Medical Image Segmentation
Insel Data Science Center, Inselspital, Bern University Hospital, University of Bern(伯尔尼大学伯尔尼大学医院Inselspital Insel数据科学中心);ARTORG Center, University of Bern(伯尔尼大学ARTORG中心)
尽管最近整体准确性有所提高,但深度学习系统仍然表现出较低的鲁棒性。检测可能的故障对于这些系统的成功临床集成至关重要,其中每个数据点对应于单个患者。不确定性度量是改进故障检测的一个有前途的方向,因为它们提供了系统置信度的度量。尽管已经提出了许多用于深度学习的不确定性估计方法,但对它们在医学图像分割中的好处和当前挑战知之甚少。因此,我们报告的结果,评估常见的体素方面的不确定性措施的可靠性,和两个医学图像分割数据集的限制。结果表明,目前的不确定性方法执行类似,虽然他们是很好的校准在数据集级别,他们往往是在主题级的误校准。因此,不确定性估计的可靠性受到损害,突出了制定主题不确定性估计的重要性。此外,在基准方法中,我们发现辅助网络是常见不确定性方法的有效替代方案,因为它们可以应用于任何先前训练的分割模型。
2019-10-11 cs.CV eess.IV
On uncertainty estimation in active learning for image segmentation
University of Ghent(根特大学);Technical University of Denmark(丹麦技术大学)
不确定性估计在许多应用中对于解释机器学习模型的可信度是重要的。这在数据驱动的主动学习设置中尤其重要,其中目标是以最小的标记工作实现一定的准确性。在这样的设置中,模型学习根据其估计的不确定性选择信息量最大的未标记样本进行注释。高度不确定的预测被认为是更翔实的,以提高模型的性能。在本文中,我们探讨不确定性校准的主动学习框架内的医学图像分割,标签往往是稀缺的。研究了各种不确定性估计方法和采集策略(区域和全图像)。我们观察到,选择区域而不是完整的图像进行注释会导致更好的校准模型。此外,我们的实验表明,与注释完整图像相比,注释区域可以削减50%需要由人类标记的像素。
2020-07-13 cs.CV cs.LG
Factor-Informed Uncertainty Distillation for Gaze Estimation
University of Essex(埃塞克斯大学)
研究注视估计在无约束环境中的问题,提出因子感知不确定性蒸馏框架FIUD,通过梯度提升教师预测误差、神经学生提炼信号,提升了不确定性、误差等级相关性和选择性预测,在无约束环境中效果最佳。
2026-07-23 cs.CV cs.HC
Adaptive Uncertainty Estimation via High-Dimensional Testing on Latent Representations
The University of Hong Kong(香港大学);TCL AI Lab(TCL人工智能实验室);Imperial College London(帝国理工学院)
针对现有不确定性估计方法受限于低维假设且依赖训练时分布外数据的问题,提出一种基于潜在表示的数据自适应高维假设检验框架,无需重训编码器即可提升OOD检测与不确定性估计的准确性。
2023-10-25 cs.AI cs.CV cs.LG
Layer Ensembles: A Single-Pass Uncertainty Estimation in Deep Learning for Segmentation
University of Barcelona(巴塞罗那大学)
深度学习中的不确定性估计已经成为医学图像分析的一个领先研究领域,因为需要在临床实践中安全使用AI算法。大多数不确定性估计方法需要在测试或训练多个网络期间多次对网络权重进行采样。这导致在时间和计算资源方面的更高的训练和测试成本。在本文中,我们提出了层集成,一种新的不确定性估计方法,使用一个单一的网络,只需要一个单一的通道来估计网络的预测不确定性。此外,我们引入了一个图像级的不确定性度量,这是更有益的分割任务相比,常用的像素的度量,如熵和方差。我们评估我们的方法在2D和3D,二进制和多类医学图像分割任务。我们的方法显示了与最先进的Deep Ensembles竞争的结果,只需要一个网络和一个通道。
2022-03-16 cs.CV cs.LG eess.IV
A Simple Probabilistic Model for Uncertainty Estimation
本文以单导联心电图检测心房颤动为例,重点研究了模型的预测不确定性。为此,该模型预测贝塔分布在类概率上的参数,而不是这些概率本身。结果表明,所描述的方法允许检测非典型记录,并显着提高算法的质量,对置信度的预测。
2018-07-24 cs.CV cs.LG stat.ML
Holistic Uncertainty Estimation For Open-Set Recognition
Skoltech(斯克里普丘尔技术大学)
针对开集识别中样本质量无法反映类别重叠歧义的问题,提出基于贝叶斯概率模型的 HolUE,联合建模底库与嵌入不确定性,并在图像、音频及鲸豚识别协议上验证其错误识别优势。
2025-06-11 cs.AI cs.CV cs.LG
Sampling-free Uncertainty Estimation in Gated Recurrent Units with Exponential Families
University of Wisconsin - Madison(威斯康星大学麦迪逊分校)
最近有一个共同的努力,以获得视觉和机器学习系统中的机制,以提供他们所做的预测的不确定性估计。显然,一个不仅准确,而且在不确定的时候也有感觉的系统有巨大的好处。现有的建议围绕现代深度架构的贝叶斯解释-这些是有效的,但通常需要计算。我们展示了如何经典的想法在文献中的指数族概率网络提供了一个很好的起点,得到门控递归单位(GRU)的不确定性估计。我们的建议直接量化的不确定性确定性,而不需要昂贵的采样为基础的估计。我们演示了如何使用我们的模型来定量和定性地测量无监督图像序列预测中的不确定性。据我们所知,这是第一个结果描述无采样不确定性估计的强大的序列模型,如GRU。
2018-09-02 cs.CV cs.LG stat.ML
Diffusion Model Guided Sampling with Pixel-Wise Aleatoric Uncertainty Estimation
针对扩散模型缺乏图像质量定量评估的问题,提出在采样阶段利用扰动去噪分数方差估计逐像素任意不确定性,并以此引导采样,在 ImageNet 和 CIFAR-10 上改善低质样本过滤与 FID。
2024-11-29 cs.CV cs.LG stat.ML
Modal Uncertainty Estimation via Discrete Latent Representation
The Chinese University of Hong Kong(香港中文大学)
现实世界中的许多重要问题并没有独特的解决方案。因此,重要的是机器学习模型能够提出不同的合理的解决方案与有意义的概率措施。在这项工作中,我们引入了这样一个深度学习框架,它学习输入和输出之间的一对多映射,以及忠实的不确定性度量。我们称我们的框架为{ \it模态不确定性估计},因为我们对通过一组离散潜变量生成的一对多映射进行建模,每个潜变量表示解释相应类型的输入-输出关系的潜模式假设。因此,潜在表示的离散性质使我们能够非常有效地估计任何输入的输出的条件概率分布。离散潜在空间及其不确定性估计在训练期间联合学习。我们通过当前条件生成模型中的多模态后验崩溃问题来激励我们使用离散潜在空间,然后发展理论背景,并在合成和现实任务上广泛验证我们的方法。我们的框架展示了更准确的不确定性估计比目前最先进的方法,是翔实的,方便的实际使用。
2020-07-25 cs.CV cs.LG stat.ML
PixCUE: Joint Uncertainty Estimation and Image Reconstruction in MRI using Deep Pixel Classification
Monash University(莫纳什大学)
深度学习(DL)模型能够成功地利用MR数据中的潜在表示,并已成为加速MRI重建的最新技术。然而,k空间中的测量值采样不足以及DL的过度或欠参数化和不透明性质使这些模型暴露于不确定性。因此,不确定性估计已成为DL MRI重建中的主要问题。为了估计不确定性,蒙特卡罗(MC)推断技术已经成为一种常见的实践,其中利用多次重建来计算重建中的方差作为不确定性的测量。然而,这些方法需要高的计算成本,因为它们需要通过DL模型进行多次推断。为此,我们介绍了一种方法来估计在MRI重建过程中使用像素分类框架的不确定性。所提出的方法PixCUE(代表像素分类不确定性估计)在通过DL模型的单个前向传递期间产生重建图像以及不确定性图。我们证明,这种方法产生的不确定性地图,高度相关的重建误差相对于各种MR成像序列和许多敌对条件下。我们还表明,估计的不确定性相关的传统MC方法。我们还提供了使用PixCUE和公认的重建指标,如NMSE,PSNR和SSIM的不确定性估计之间的经验关系。我们的结论是,PixCUE是能够可靠地估计在MRI重建的不确定性,以最小的额外计算成本。
2023-03-08 cs.AI cs.CV cs.LG
Efficient Uncertainty Estimation in Spiking Neural Networks via MC-dropout
CWI(荷兰数学与计算机科学研究所);Rijksuniversiteit Groningen(格罗宁根大学);University of Amsterdam(阿姆斯特丹大学)
针对 SNNs 难以直接采用 ANN 不确定性估计方法的问题,本文利用其时间步机制提出高效 MC-dropout,在低训练与推理开销下实现高准确率和高质量不确定性估计。
2023-04-20 cs.AI cs.CV cs.LG
Probabilistic Neighbourhood Component Analysis: Sample Efficient Uncertainty Estimation in Deep Learning
Carnegie Mellon University(卡内基梅隆大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
虽然深度神经网络(DNN)在各种应用中达到了最先进的精度,但它们通常无法准确估计其预测的不确定性,进而无法识别这些预测何时可能是错误的。在文献中已经提出了几种不确定性感知模型,例如贝叶斯神经网络(BNN)和深度集成,用于量化预测不确定性。然而,这一领域的研究主要局限于大数据领域。在这项工作中,我们表明,当训练数据的量很小时,最先进的BNN和深度包围模型的不确定性估计能力显着下降。为了解决小数据下精确不确定性估计的问题,我们提出了一种流行的样本有效的非参数kNN方法的概率推广。我们的方法使深度kNN分类器能够准确量化其预测中的潜在不确定性。我们证明了所提出的方法的有用性,通过实现优越的不确定性量化相比,最先进的COVID-19诊断的胸部X射线的现实世界中的应用。我们的代码可在https://github.com/ankurmallick/sample-efficient-uq上获得
2020-07-18 cs.CV cs.LG eess.IV