Impact of individual rater style on deep learning uncertainty in medical imaging segmentation
NeuroPoly Lab, Institute of Biomedical Engineering, Polytechnique Montreal（蒙特利尔理工学院生物医学工程研究所NeuroPoly实验室）；Mila - Quebec AI Institute（Mila-魁北克人工智能研究所）；Functional Neuroimaging Unit, CRIUGM, Université de Montréal（蒙特利尔大学CRIUGM功能神经影像单元）
虽然多项研究探讨了医疗分割任务中评分员间变异性与深度学习模型不确定性之间的关系，但对个人评分员风格的影响知之甚少。本研究以偏差和一致性的形式量化评分员风格，并探讨它们在用于训练深度学习模型时的影响。使用了两个多评分器公共数据集，包括脑多发性硬化病变和脊髓灰质分割。在这两个数据集上，结果显示评分者偏见和深度学习不确定性之间存在相关性（$R^2 = 0.60$和$0.93$）。评价者的注释之间的标签融合对这种关系的影响也进行了探讨，我们表明，多中心的共识比单中心的共识，以减少不确定性更有效，因为评分风格主要是中心特定的。
2021-05-05 cs.CV eess.IV
Uncertainty Quantification for Deep Unrolling-Based Computational Imaging
University of Rochester（罗切斯特大学）
深度展开是一种新兴的基于深度学习的图像重建方法，它弥合了基于模型和纯粹基于深度学习的图像重建方法之间的差距。虽然深度展开方法实现了成像问题的最先进性能，并允许将观察模型纳入重建过程，但它们不提供关于重建图像的任何不确定性信息，这严重限制了它们在实践中的使用，特别是对于安全关键成像应用。在本文中，我们提出了一个基于学习的图像重建框架，将观察模型纳入重建任务，并能够量化认识和任意的不确定性，基于深度展开和贝叶斯神经网络。我们证明了所提出的框架的不确定性表征能力的磁共振成像和计算机断层扫描重建问题。我们调查所提出的框架，以激励未来的研究利用不确定性信息，开发更准确的，强大的，值得信赖的，不确定性的，基于学习的图像重建和分析方法的成像问题提供的认识和任意的不确定性信息的特点。我们表明，所提出的框架可以提供不确定性信息，同时实现与最先进的深度展开方法相当的重建性能。
2022-12-19 cs.LG eess.IV eess.SP
Layer Ensembles: A Single-Pass Uncertainty Estimation in Deep Learning for Segmentation
University of Barcelona（巴塞罗那大学）
深度学习中的不确定性估计已经成为医学图像分析的一个领先研究领域，因为需要在临床实践中安全使用AI算法。大多数不确定性估计方法需要在测试或训练多个网络期间多次对网络权重进行采样。这导致在时间和计算资源方面的更高的训练和测试成本。在本文中，我们提出了层集成，一种新的不确定性估计方法，使用一个单一的网络，只需要一个单一的通道来估计网络的预测不确定性。此外，我们引入了一个图像级的不确定性度量，这是更有益的分割任务相比，常用的像素的度量，如熵和方差。我们评估我们的方法在2D和3D，二进制和多类医学图像分割任务。我们的方法显示了与最先进的Deep Ensembles竞争的结果，只需要一个网络和一个通道。
2022-03-16 cs.CV cs.LG eess.IV
A Deep Bayesian Convolutional Spiking Neural Network-based CAD system with Uncertainty Quantification for Medical Images Classification
Tarbiat Modares University（塔比亚特·莫达雷斯大学）
针对深度SNN在医学图像分类中缺乏不确定性量化导致的不可靠问题，提出一种基于贝叶斯卷积SNN的CAD系统，采用蒙特卡洛Dropout量化不确定性，实验证明其准确可靠，可替代传统深度学习方法。
2025-04-23 cs.CV cs.LG eess.IV
Uncertainty Estimation for Computed Tomography with a Linearised Deep Image Prior
University of Cambridge（剑桥大学）；University College London（伦敦大学学院）；University of Bremen（不来梅大学）；The Chinese University of Hong Kong（香港中文大学）
现有的基于深度学习的断层图像重建方法不能提供重建不确定性的准确估计，这阻碍了它们在现实世界中的部署。本文开发了一种方法，称为线性化的深度图像先验（DIP），估计与重建产生的DIP与总变分正则化（TV）的不确定性。具体来说，我们赋予DIP共轭高斯线性模型类型的误差条，从神经网络的局部线性化计算其优化参数。为了保持共轭性，我们用高斯代理近似TV正则化器。这种方法提供了逐像素的不确定性估计和超参数优化的边际似然目标。我们证明了合成数据和实测高分辨率二维$μ$ CT数据的方法，并表明，它提供了优越的校准相对于以前的概率公式的DIP的不确定性估计。我们的代码可在https://github.com/educating-dip/bayes_dip上获得。
2022-11-04 cs.LG eess.IV stat.ML
Probabilistic Neighbourhood Component Analysis: Sample Efficient Uncertainty Estimation in Deep Learning
Carnegie Mellon University（卡内基梅隆大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
虽然深度神经网络（DNN）在各种应用中达到了最先进的精度，但它们通常无法准确估计其预测的不确定性，进而无法识别这些预测何时可能是错误的。在文献中已经提出了几种不确定性感知模型，例如贝叶斯神经网络（BNN）和深度集成，用于量化预测不确定性。然而，这一领域的研究主要局限于大数据领域。在这项工作中，我们表明，当训练数据的量很小时，最先进的BNN和深度包围模型的不确定性估计能力显着下降。为了解决小数据下精确不确定性估计的问题，我们提出了一种流行的样本有效的非参数kNN方法的概率推广。我们的方法使深度kNN分类器能够准确量化其预测中的潜在不确定性。我们证明了所提出的方法的有用性，通过实现优越的不确定性量化相比，最先进的COVID-19诊断的胸部X射线的现实世界中的应用。我们的代码可在https://github.com/ankurmallick/sample-efficient-uq上获得
2020-07-18 cs.CV cs.LG eess.IV
Estimating Uncertainty and Interpretability in Deep Learning for Coronavirus (COVID-19) Detection
Brunel University London（布鲁内尔大学伦敦分校）
深度学习已经在医学成像领域取得了最先进的性能。然而，这些用于疾病检测的方法仅关注于提高分类或预测的准确性，而不量化决策中的不确定性。了解基于计算机的医疗诊断的可信度对于获得临床医生对该技术的信任并因此改善治疗至关重要。今天，2019年冠状病毒（SARS-CoV-2）感染是世界各地的主要医疗挑战。在X射线图像中检测COVID-19对于诊断、评估和治疗至关重要。然而，报告中的诊断不确定性对放射科医生来说是一项具有挑战性且不可避免的任务。在这篇论文中，我们研究了基于下降权重的贝叶斯卷积神经网络（BCNN）如何估计深度学习解决方案中的不确定性，以提高人机团队使用公开的COVID-19胸部X射线数据集的诊断性能，并表明预测中的不确定性与预测的准确性高度相关。我们相信，不确定性感知深度学习解决方案的可用性将使人工智能（AI）在临床环境中得到更广泛的采用。
2020-03-27 cs.CV cs.LG eess.IV
On Calibrated Model Uncertainty in Deep Learning
Brunel University（布鲁内尔大学）
贝叶斯神经网络中的近似后验估计的不确定性容易发生误校准，这会导致在具有明显不对称成本或重大损失的关键任务中过度自信的预测。在这里，我们通过最大化模型后验的预期效用来校准深度学习中的不确定性，将损失校准贝叶斯框架的近似推理扩展到基于dropweights的贝叶斯神经网络。此外，我们发现，损失校准的不确定性的决策可以提高诊断性能，在更大程度上比直接的替代品。我们提出最大不确定性校准误差（MUCE）作为衡量校准置信度的一个指标，除了它的预测，特别是对于高风险的应用程序，其目标是最大限度地减少误差和估计的不确定性之间的最坏情况下的偏差。在实验中，我们通过将Wasserstein距离解释为预测的准确性来显示预测误差和估计不确定性之间的相关性。我们评估了我们从X射线图像中检测Covid-19的方法的有效性。实验结果表明，我们的方法大大减少了误校准，而不影响模型的准确性，并提高了基于计算机的诊断的可靠性。
2022-06-15 cs.CV cs.LG eess.IV
Generalisation effects of predictive uncertainty estimation in deep learning for digital pathology
Linköping University（林雪平大学）；Sectra AB（Sectra公司）
深度学习（DL）在数字病理学应用中显示出巨大的潜力。基于DL的诊断解决方案的稳健性对于安全的临床部署至关重要。在这项工作中，我们评估了在数字病理学中增加DL预测的不确定性估计是否会通过提高一般预测性能或检测错误预测来增加临床应用的价值。我们比较了模型集成方法（MC dropout和Deep ensembles）与模型不可知方法（测试时间增强，TTA）的有效性。此外，四个不确定性度量进行了比较。我们的实验集中在两个领域转移的情况下：转移到不同的医疗中心和代表性不足的癌症亚型。我们的研究结果表明，不确定性估计通过降低模型对分类阈值选择的敏感性以及检测模型所做的70%至90%的错误预测来提高可靠性。总体而言，深度集成方法实现了最佳性能，紧随其后的是TTA。
2022-05-20 cs.AI cs.CV cs.LG
A Simple Framework to Quantify Different Types of Uncertainty in Deep Neural Networks for Image Classification
Shiraz University（设拉子大学）
量化模型预测中的不确定性非常重要，因为它可以通过以知情的方式对模型的输出采取行动来提高AI系统的安全性。这对于错误成本高的应用至关重要，例如自动驾驶汽车控制、医学图像分析、财务估算或法律领域。深度神经网络是强大的预测器，最近在广泛的任务上实现了最先进的性能。量化DNN中的预测不确定性是一个具有挑战性的问题。在本文中，我们提出了一个完整的框架来捕获和量化DNN中三种已知类型的不确定性，用于图像分类任务。该框架包括用于模型不确定性的CNN集合，用于捕获分布不确定性的监督重建自动编码器，以及使用网络最后一层中的激活函数的输出来捕获数据不确定性。最后，我们证明了我们的方法对流行的图像数据集进行分类的效率。
2021-05-28 cs.CV cs.LG cs.NE
Visualizing Uncertainty and Saliency Maps of Deep Convolutional Neural Networks for Medical Imaging Applications
Ryerson University（瑞尔森大学）
深度学习模型现在被用于许多不同的行业，而在某些领域，安全性并不是医疗领域的关键问题，而是一个巨大的问题。我们不仅希望模型能够很好地泛化，而且还想知道模型对其决策的置信度，以及哪些特征最重要。我们的团队旨在开发一个完整的管道，不仅显示模型决策的不确定性，而且还显示显着图，以显示输入图像的哪些像素集对预测贡献最大。
2019-07-05 cs.CV cs.LG eess.IV
Faster Deep Ensemble Averaging for Quantification of DNA Damage from Comet Assay Images With Uncertainty Estimates
Florida International University（佛罗里达国际大学）；Gladstone Institutes（格莱斯顿研究所）
几种神经退行性疾病涉及细胞DNA损伤的积累。彗星试验是评估DNA损伤程度的常用方法。目前关于使用深度学习来量化DNA损伤的文献提出了一种超参数优化的经验方法，并且不包括不确定性估计。深度集合平均是估计不确定性的标准方法，但它需要多次迭代网络训练，这使得它非常耗时。在这里，我们提出了一种量化DNA损伤程度的方法，该方法将深度学习与严格而全面的方法相结合，以在统计测试的帮助下优化超参数。我们还使用了一种架构，可以更快地计算深度集成平均，并使用迁移学习执行适用于网络的统计测试。我们将我们的方法应用于具有超过1300个图像的彗星试验数据集，并实现了0.84的$R^2$，其中输出包括每个预测的置信区间。所提出的架构是对当前方法的改进，因为它将不确定性估计速度提高了30倍，同时在统计上更加严格。
2021-12-23 cs.CV cs.LG eess.IV
