Uncertainty Quantification With Noise Injection in Neural Networks: A Bayesian Perspective
本文从贝叶斯视角建立噪声注入与不确定性量化的联系，提出蒙特卡洛噪声注入方法，在训练时注入噪声、推断时多次前向传播，实验证明其性能优于基线模型。
2025-04-24 cs.LG stat.ML
BayesIMP: Uncertainty Quantification for Causal Data Fusion
University of Oxford（牛津大学）；Microsoft Research Cambridge（微软研究院剑桥分院）
虽然因果模型正在成为机器学习的支柱之一，但因果推断中的不确定性量化问题仍然具有挑战性。在本文中，我们研究的因果数据融合问题，其中有关多个因果图的数据集相结合，以估计目标变量的平均处理效应。由于数据来自多个来源，并且可能在质量和数量上有所不同，因此原则性的不确定性量化变得至关重要。为此，我们引入了贝叶斯干预均值过程，这是一个框架，它结合了概率积分和核均值嵌入的思想来表示再生核希尔伯特空间中的干预分布，同时考虑到每个因果图中的不确定性。为了证明我们的不确定性估计的实用性，我们将我们的方法应用于因果贝叶斯优化任务，并显示了对最先进方法的改进。
2021-06-07 cs.LG stat.ML
An Axiomatic Assessment of Entropy- and Variance-based Uncertainty Quantification in Regression
LMU Munich（慕尼黑莱布尼茨大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）；DLR-German Aerospace Center University of Tromsø（德国航空航天中心图勒大学）；German Research Center for Artificial Intelligence (DFKI, DSA)（德国人工智能研究中心）
针对机器学习中不确定性量化研究多聚焦分类、回归领域形式化论证与评估有限的问题，用通用参数公式表示连续空间不确定性，提出公理集严格评估相关不确定性测度，以熵和方差测度为例分析其局限性。
2026-07-07 cs.LG stat.ML
Uncertainty Quantification for Machine Learning: One Size Does Not Fit All
本文提出了一种灵活的不确定性度量方法，适用于不同任务和场景，强调根据具体应用定制不确定性量化的重要性。
2025-12-13 cs.LG stat.ML
Uncertainty Quantification for Scientific Machine Learning using Sparse Variational Gaussian Process Kolmogorov-Arnold Networks (SVGP KAN)
UCLA（加州大学洛杉矶分校）
本文提出一种结合稀疏变分高斯过程与柯尔莫戈洛夫-阿诺德拓扑的网络架构，用于科学机器学习中的不确定性量化，通过解析矩匹配实现不确定性传播并保持可解释性。
2025-12-09 cs.LG stat.ML
Variable Selection with Rigorous Uncertainty Quantification using Deep Bayesian Neural Networks: Posterior Concentration and Bernstein-von Mises Phenomenon
Google Research（谷歌研究院）；Harvard University（哈佛大学）
该工作为深度贝叶斯神经网络（BNN）是一种具有严格不确定性量化的高维变量选择的有效工具这一事实提供了严格的理论基础。我们开发了新的贝叶斯非参数定理，以表明正确配置的深度BNN（1）在高维中有效地学习变量重要性，其学习率有时可以“打破”维数灾难。(2)BNN对变量重要性的不确定性量化是严格的，在这个意义上，它对变量重要性的95%可信区间确实覆盖了95%的时间的真相（即，Bernstein-von Mises（BvM）现象。理论结果提出了一种简单的基于BNN可信区间的变量选择算法。大量的模拟证实了理论研究结果，并表明，该算法优于现有的经典和基于神经网络的变量选择方法，特别是在高维。
2019-12-03 cs.LG stat.ML
Randomized prior wavelet neural operator for uncertainty quantification
Indian Institute of Technology Delhi（印度理工学院德里分校）
在本文中，我们提出了一种新的数据驱动的算子学习框架称为\textit{Randomized Prior Wavelet Neural Operator}（RP-WNO）。建议的RP-WNO是最近提出的小波神经算子的扩展，该算子具有良好的泛化能力，但不能估计与其预测相关的不确定性。RP-WNO与vanilla WNO不同，具有固有的不确定性量化模块，因此预计对科学家和工程师都非常有用。RP-WNO利用随机先验网络，它可以解释先验信息，并且比贝叶斯网络更容易实现大型复杂的深度学习架构。已经解决了四个例子来测试所提出的框架，产生的结果主张有利的有效性所提出的框架。
2023-02-02 cs.LG stat.ML
Pitfalls of Epistemic Uncertainty Quantification through Loss Minimisation
University of Munich (LMU)（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Ghent University（根特大学）
近年来，不确定性量化在机器学习中受到越来越多的关注。特别是，在这方面，任意和认识的不确定性之间的区别已被发现是有用的。后者指的是学习者的（缺乏）知识，似乎特别难以衡量和量化。在本文中，我们分析了最近的建议的基础上的想法，二阶学习，产生的预测的形式分布的概率分布。虽然标准（一阶）的学习者可以训练预测准确的概率，即通过最小化合适的损失函数的样本数据，我们表明，损失最小化不工作的二阶预测：提出的损失函数诱导这种预测不激励学习者代表其认知的不确定性，在一个忠实的方式。
2022-10-13 cs.LG stat.ML
Scalable Uncertainty Quantification for Deep Operator Networks using Randomized Priors
University of Pennsylvania（宾夕法尼亚大学）
我们提出了一种简单有效的方法，用于深度算子网络（DeepONets）中的后验不确定性量化;这是函数空间中监督学习的一种新兴范式。我们采用了一种基于随机先验集成的频率论方法，并提出了一种有效的加速硬件上的快速并行推理的向量化实现。通过计算力学和气候建模中的代表性例子的收集，我们表明，所提出的方法的优点是四方面的。(1)与确定性DeepONets相比，它可以提供更强大和准确的预测。(2)它显示了巨大的能力，提供可靠的不确定性估计的稀缺数据集与多尺度函数对。(3)它可以有效地检测分布外和对抗性的例子。(4)它可以无缝地量化由于模型偏差以及数据中的噪声破坏而导致的不确定性。最后，我们提供了一个名为{ \em UQDeepONet}的优化JAX库，它可以适应大型模型架构，大型集成尺寸以及大型数据集，在加速硬件上具有出色的并行性能，从而在现实的大规模应用中实现DeepONets的不确定性量化。
2022-03-06 cs.LG stat.ML
Generative Parameter Sampler For Scalable Uncertainty Quantification
Harvard Data Science Initiative（哈佛数据科学倡议）；Harvard University（哈佛大学）
不确定性量化一直是统计机器学习的核心问题，但其计算瓶颈一直是贝叶斯学派和频率学派面临的严峻挑战。我们提出了一个基于模型的框架，在量化的不确定性，称为预测匹配生成参数采样器（GPS）。此过程考虑目标参数的不确定性量化（UQ）分布，该分布将对应的预测分布与观测数据相匹配。该框架采用分层建模的观点，使每个观察是由一个单独的参数建模。这种单独的参数化允许所得到的推断在计算上是可扩展的并且对离群值是鲁棒的。我们的方法说明了线性模型，泊松过程和深层神经网络分类。结果表明，全球定位系统是成功的，在提供不确定性量化以及额外的灵活性超出了经典的统计程序所允许的假设的统计模型。
2019-06-02 cs.LG stat.ME stat.ML
Bayesian meta learning for trustworthy uncertainty quantification
Virginia Tech（弗吉尼亚理工大学）
本文研究具有可信不确定性量化的贝叶斯回归问题，提出了一种无需先验假设的贝叶斯元学习优化框架Trust-Bayes，刻画了概率下界与样本复杂度，并通过高斯过程回归的Monte Carlo模拟验证了其有效性。
2024-07-27 cs.LG cs.SY eess.SY
Robustness Quantification and Uncertainty Quantification: Comparing Two Methods for Assessing the Reliability of Classifier Predictions
Foundations Lab for imprecise probabilities（不精确概率基础实验室）；Ghent University（根特大学）
本文比较了鲁棒性量化和不确定性量化两种方法，发现鲁棒性量化在标准设置和分布偏移下均优于不确定性量化，并展示两者的互补性。
2026-03-24 cs.LG
Bayesian deep learning framework for uncertainty quantification in high dimensions
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
提出了一种基于贝叶斯神经网络（BNN）和哈密顿蒙特卡罗（HMC）的随机偏微分方程不确定性量化深度学习方法。BNN通过对网络参数执行贝叶斯推断来有效地学习深度神经网络中参数的后验分布。利用HMC对系统的后验分布进行有效采样，以量化系统中的不确定性。数值算例表明，在高维的正问题和反问题的不确定性量化所提出的方法的有效性。这些也显示出有希望的结果，计算成本几乎是独立的维度的问题，展示了潜在的方法，用于解决所谓的灾难的维度。
2022-10-21 cs.AI cs.LG stat.ML
Interventional Processes for Causal Uncertainty Quantification
Gatsby Unit, University College London, London, United Kingdom（伦敦大学学院Gatsby单元）
本文提出一种基于高斯过程的方法，通过将干预函数表示为再生核希尔伯特空间中观测函数的内积，实现干预函数的不确定性量化，并给出闭式后验矩和可处理的训练推理过程。
2026-06-01 cs.LG stat.ME stat.ML
Empirical Frequentist Coverage of Deep Learning Uncertainty Quantification Procedures
Harvard Medical School（哈佛医学院）；Google Research（谷歌研究院）；Harvard School of Public Health（哈佛公共卫生学院）
复杂深度学习模型的不确定性量化越来越重要，因为这些技术在高风险的现实环境中的使用越来越多。目前，模型的不确定性的质量是使用点预测度量来评估的，例如负对数似然或保留数据的Brier得分。在这项研究中，我们提供了第一个大规模的评估经验频率覆盖属性的知名的不确定性量化技术的回归和分类任务套件。我们发现，在一般情况下，一些方法确实实现了理想的覆盖率分布样本上的属性，但覆盖率不保持分布外的数据。我们的研究结果表明，随着数据集偏移的增加，当前不确定性量化技术的失败，并将覆盖率作为开发现实应用模型的重要指标。
2021-02-24 cs.LG
A Backward SDE Method for Uncertainty Quantification in Deep Learning
Oak Ridge National Laboratory（橡树岭国家实验室）；Florida State University（佛罗里达州立大学）；Auburn University（奥本大学）；Jilin University（吉林大学）
本文提出了一种概率机器学习方法，通过随机最优控制问题来构造一类随机神经网络。在随机最大值原理框架下，提出了一种有效的随机梯度下降算法。随机神经网络的应用进行了数值实验，以验证我们的方法的有效性。
2021-04-04 cs.LG math.OC stat.ML
Uncertainty Wrapper in the medical domain: Establishing transparent uncertainty quantification for opaque machine learning models in practice
Fraunhofer IESE（弗劳恩霍夫 IESE）；Fraunhofer IZI（弗劳恩霍夫 IZI）
针对医学领域不透明机器学习模型结果存在错误风险、决策过程不透明的问题，本文提出Uncertainty Wrapper方法，以流式细胞术为应用场景，验证了该方法实现可靠透明不确定性量化的适用性与实用价值。
2023-11-09 cs.AI cs.LG stat.ML
Subjective Risk Decomposition: A New View for Uncertainty Quantification
The University of Manchester（曼彻斯特大学）；University of Warwick（沃里克大学）
该研究提出不确定性量化新观点，基于严格恰当损失通过主观风险分解推导认知和偶然不确定性度量，恢复众多UQ度量并提供理论基础，还扩展到学习理论，为不确定性量化完整学习理论框架迈出第一步。
2026-09-17 cs.AI cs.LG stat.ML
Epistemic Wrapping for Uncertainty Quantification
Oxford Brookes University（奥克斯福德布鲁克斯大学）；Delft University of Technology（代尔夫特理工大学）；KU Leuven University（根特大学）
本文提出认知包装方法，将贝叶斯神经网络输出转化为信念函数后验，以高效捕捉认知不确定性，并在多个图像分类数据集上验证其显著提升泛化能力与不确定性量化效果。
2025-08-18 cs.LG
Uncertainty Quantification for cross-subject Motor Imagery classification
University of Groningen（格罗宁根大学）
本研究将多种不确定性量化方法应用于运动想象脑机接口，以预测因被试间变异性导致的错误分类，发现深度集成性能最佳，而标准CNN优于部分先进方法。
2024-03-14 cs.CV cs.LG
Uncertainty quantification using martingales for misspecified Gaussian processes
Stanford University（斯坦福大学）；Carnegie Mellon University（卡内基梅隆大学）
我们解决不确定性量化高斯过程（GP）下错误指定的先验知识，着眼于贝叶斯优化（BO）。GPS在BO中被广泛使用，因为它们很容易实现基于后验不确定性带的探索。然而，这种便利性是以健壮性为代价的：实践中遇到的典型函数不太可能来自数据科学家的先验知识，在这种情况下，不确定性估计可能会产生误导，由此产生的探索可能是次优的。我们提出了一个频率论的方法来GP/BO的不确定性量化。我们利用GP框架作为工作模型，但不假设先验的正确性。相反，我们构造一个置信序列（CS）的未知函数使用鞅技术。实现鲁棒性有必要的代价：如果先验是正确的，那么后验GP带比我们的CS窄。然而，当先验是错误的，我们的CS是统计上有效的，经验上优于标准的GP方法，在BO的覆盖范围和效用方面。此外，我们证明了权力的似然性提供了对模型误设的鲁棒性。
2021-03-02 cs.LG stat.ME stat.ML
Semi Conditional Variational Auto-Encoder for Flow Reconstruction and Uncertainty Quantification from Limited Observations
University of Bergen（卑尔根大学）
我们提出了一个新的数据驱动模型，从空间稀疏的观测数据中重建非线性流。该模型是一个版本的条件变分自动编码器（CVAE），它允许概率重建，从而不确定性量化的预测。我们表明，在我们的模型中，从完整的流量数据的测量条件导致CVAE，只有解码器依赖于测量。因此，我们将该模型称为半条件变分自编码器（SCVAE）。的方法，重建和相关的不确定性估计说明的速度数据从模拟的二维流周围的圆柱和底层电流从卑尔根海洋模型。重建误差进行了比较的间隙本征正交分解（GPOD）方法。
2020-07-19 cs.LG physics.flu-dyn stat.ML
Uncertainty Quantification by Ensemble Learning for Computational Optical Form Measurements
Physikalisch-Technische Bundesanstalt（德国联邦物理技术研究院）
集成学习的不确定性量化的计算光学形式测量的应用方面进行了探讨。该应用程序需要解决一个大规模的，非线性反问题。包围学习用于扩展最近开发的用于该应用的深度学习方法，以便提供其预测的逆问题的解的不确定性量化。通过系统地插入分布外误差以及噪声数据的可靠性开发的不确定性量化进行了探讨。结果是令人鼓舞的，所提出的应用证明了集成方法在现实世界中的应用中对高维数据进行可靠预测的能力。
2021-03-01 cs.LG eess.IV
A General Framework for Uncertainty Quantification via Neural SDE-RNN
Kansas State University（堪萨斯州立大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
针对不规则采样时间序列插补的不确定性量化难题，提出融合 RNN 与神经 SDE 的框架，可在任意时间尺度插补并解析传播两类不确定性，实验显示性能优于现有方法。
2023-06-01 cs.LG
Ensemble-based Uncertainty Quantification: Bayesian versus Credal Inference
Paderborn University（帕德博恩大学）；University of Munich (LMU)（慕尼黑大学）
区分和量化两种重要类型的不确定性（通常称为任意性和认知性）的想法在过去几年的机器学习研究中受到了越来越多的关注。在本文中，我们考虑基于集成的方法来量化不确定性。区分不同类型的不确定性感知的学习算法，我们特别关注贝叶斯方法和基于所谓的信任集的方法，这自然会从集成学习的角度提出自己。对于这两种方法，我们都解决了如何量化任意和认识不确定性的问题。在一个带有拒绝选项的分类问题的实证研究中，对相应措施的有效性进行了评估和比较。
2021-12-10 cs.LG
Uncertainty Quantification for Traffic Forecasting: A Unified Approach
Aalborg University（奥尔堡大学）；University of Electronic Science and Technology of China（电子科技大学）；Southern University of Science and Technology（南方科技大学）
不确定性是时间序列预测任务的重要考虑因素。在这项工作中，我们特别关注量化交通预测的不确定性。为了实现这一目标，我们开发了深度时空不确定性量化（DeepSTUQ），它可以估计任意和认知的不确定性。我们首先利用时空模型来模拟交通数据的复杂时空相关性。随后，两个独立的子神经网络最大化的异质对数似然估计任意的不确定性。为了估计认知不确定性，我们分别通过集成Monte Carlo dropout和Adaptive Weight Averaging再训练方法，结合了变分推理和深度集成的优点。最后，我们提出了一种基于温度标度的后处理校准方法，提高了模型估计不确定性的泛化能力。在四个公共数据集上进行了大量的实验，实验结果表明，该方法在点预测和不确定性量化方面都优于最先进的方法。
2022-08-11 cs.LG
Equivariant Bootstrapping for Uncertainty Quantification in Imaging Inverse Problems
CNRS（法国国家科学研究中心）；ENS Lyon（里昂高等师范学院）；Heriot-Watt University（赫瑞瓦特大学）
本文提出一种基于等变参数自助法的不确定性量化方法，利用成像问题中的对称性，可适配任意重建技术，并在高维置信区域估计精度和计算效率上优于现有贝叶斯方法。
2023-10-20 cs.LG eess.IV eess.SP
Linear Opinion Pooling for Uncertainty Quantification on Graphs
Institute of Informatics, LMU Munich（慕尼黑大学信息学研究所）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文针对图上半监督节点分类的不确定性量化问题，提出用狄利克雷分布混合表示认知不确定性，并利用线性意见池化在相邻节点间传播信息，实验验证了方法的有效性。
2024-06-06 cs.LG
Teaching Models to Express Their Uncertainty in Words
University of Oxford（牛津大学）；OpenAI
我们证明了GPT-3模型可以学习用自然语言表达自己答案的不确定性-而不使用模型logits。当给出一个问题时，模型会生成一个答案和一个置信度（例如“90%置信度”或“高置信度”）。这些水平映射到经过良好校准的概率。该模型在分布偏移下也保持适度校准，并且对自己答案的不确定性敏感，而不是模仿人类的例子。据我们所知，这是第一次一个模型被证明可以用自然语言表达关于自己答案的校准不确定性。对于测试校准，我们引入了CalibratedMath任务套件。我们比较校准的不确定性表示的话（“言语化的概率”），从模型logits提取的不确定性。这两种不确定度都能推广分布偏移下的校准。我们还提供证据表明，GPT-3的能力，概括校准依赖于预先训练的潜在的表征，与认知不确定性的答案。
2022-06-13 cs.AI cs.CL cs.LG
Uncertainty Quantification for Inferring Hawkes Networks
Georgia Institute of Technology（佐治亚理工学院）；Duke University（杜克大学）
多变量Hawkes过程通常用于在各种各样的应用中对流式网络事件数据进行建模。然而，它仍然是一个挑战，从复杂的数据集与不确定性量化提取可靠的推理。针对这一点，我们开发了一个统计推断框架，从网络数据中学习节点之间的因果关系，其中底层有向图隐含格兰杰因果关系。我们提供了一个非渐近的置信集的网络多元Hawkes过程的最大似然估计的不确定性量化。主要技术是基于连续时间鞅的集中不等式。我们比较我们的方法，以前推导出的渐近霍克斯过程置信区间，并证明了我们的方法在神经元连接重建的应用中的优势。
2020-10-28 cs.LG math.ST stat.ML
Efficient Uncertainty Quantification for Dynamic Subsurface Flow with Surrogate by Theory-guided Neural Network
College of Engineering, Peking University（北京大学工学院）；School of Environmental Science and Engineering, Southern University of Science and Technology（南方科技大学环境科学与工程学院）；Peng Cheng Laboratory（鹏城实验室）
地下水流问题通常涉及到某种程度的不确定性。因此，不确定性量化通常是地下水流预测所必需的。在这项工作中，我们提出了一种方法，有效的不确定性量化动态地下水流与理论指导的神经网络（TgNN）构建的代理。这里的TgNN是专门为随机参数问题设计的。在TgNN中，随机参数，时间和位置包括神经网络的输入，而感兴趣的量是输出。神经网络用可用的模拟数据训练，同时由理论（例如，控制方程、边界条件、初始条件等）潜在的问题。训练好的神经网络可以预测具有新随机参数的地下水流问题的解。利用TgNN代理，可以有效地实现蒙特卡罗（MC）方法的不确定性量化。所提出的方法进行了评估与二维动态饱和渗流问题的多孔介质。数值结果表明，基于TgNN的代理可以显着提高效率的不确定性量化任务相比，基于仿真的实现。进一步研究了相关长度较小、方差较大、边界值变化和方差不服从分布的随机场，得到了满意的结果。
2020-04-25 cs.LG eess.SP physics.comp-ph
Light-Weight Diffusion Multiplier and Uncertainty Quantification for Fourier Neural Operators
PhysicsX London, UK（PhysicsX伦敦）
针对傅里叶神经算子过度参数化且缺乏不确定性量化的问题，提出基于扩散乘子的轻量参数化DINOZAUR，以单时间参数替代稠密张量乘子，并借助贝叶斯先验实现校准的不确定性估计，在多个PDE基准上性能优异。
2025-10-17 cs.LG
Output-Weighted Optimal Sampling for Bayesian Experimental Design and Uncertainty Quantification
Massachusetts Institute of Technology（麻省理工学院）
我们介绍了一类采集功能的样本选择，导致更快的收敛，贝叶斯试验设计和不确定性量化相关的应用程序。该方法遵循主动学习的范式，即利用黑盒函数的现有样本来优化下一个信息量最大的样本。所提出的方法旨在利用黑盒函数的某些输入方向对输出的影响比其他方向更大的事实，这对于表现出罕见和极端事件的系统尤其重要。在这项工作中引入的采集函数利用了似然比的属性，该似然比是一个充当概率采样权重并将主动学习算法引导到被认为最相关的输入空间区域的量。我们证明了所提出的方法在水文系统的不确定性量化以及动力系统中罕见事件的概率量化及其前兆识别方面的优越性。
2021-04-08 cs.IT cs.LG math.IT
Functional-level Uncertainty Quantification for Calibrated Fine-tuning on LLMs
Department of Computer Science and Engineering, University of California San Diego（加州大学圣地亚哥分校计算机科学与工程系）
本文提出UQ4CT方法，通过混合专家微调框架校准LLM微调中的功能空间不确定性，减少ECE并提升可靠性与泛化能力。
2026-05-13 cs.LG
Uncertainty Quantification on Graph Learning: A Survey
本文综述了图学习中不确定性量化技术，重点分析了图神经网络和图基础模型的不确定性表示与处理方法，旨在填补对图学习中不确定性量化关键挑战和机遇的理解空白。
2026-04-14 cs.LG
Predictive Uncertainty Quantification for Bird's Eye View Segmentation: A Benchmark and Novel Loss Function
The University of Texas at Dallas（德克萨斯大学达拉斯分校）；Cypress Woods High School（赛普拉斯伍兹高中）
本文提出了一个针对鸟瞰图分割预测不确定性量化的综合基准，并设计了新型损失函数UFCE及正则化项，有效改进了误分类与OOD像素检测及模型校准。
2025-03-02 cs.CV cs.LG
Spatial Uncertainty Quantification in Wildfire Forecasting for Climate-Resilient Emergency Planning
针对野火预测缺乏不确定性量化的问题，首次利用多模态地球观测输入系统分析空间不确定性，发现高不确定性集中在火线周边20-60米缓冲区，并确定植被健康与火活动为主要驱动因素，助力气候适应。
2025-10-08 cs.LG
Score Matching-based Pseudolikelihood Estimation of Neural Marked Spatio-Temporal Point Process with Uncertainty Quantification
Georgia Tech（佐治亚理工学院）；The Chinese University of Hong Kong（香港中文大学）
针对时空点过程学习中的分布受限、积分近似不准及缺乏不确定性量化问题，提出基于分数匹配的伪似然估计器SMASH，采用无归一化目标并通过置信区域实现预测的不确定性量化，实验证明其性能优越。
2023-10-25 cs.LG
Exploring the Limits of Epistemic Uncertainty Quantification in Low-Shot Settings
German Research Center for Artificial Intelligence（德国人工智能研究中心）
神经网络中的不确定性量化有望提高人工智能系统的安全性，但目前尚不清楚性能如何随训练集大小而变化。在本文中，我们评估了七种不确定性方法对时尚MNIST和CIFAR10，因为我们子样本和产生不同的训练集大小。我们发现，校准误差和分布外检测性能强烈依赖于训练集的大小，与大多数方法被误校准的测试集与小的训练集。基于认知的方法似乎很难估计认知的不确定性，并且受训练集大小的影响最大。我们希望我们的结果可以指导未来的研究不确定性量化，并帮助从业者选择基于他们特定的可用数据的方法。
2021-11-18 cs.CV cs.LG
Bayesian Deep Convolutional Encoder-Decoder Networks for Surrogate Modeling and Uncertainty Quantification
University of Notre Dame（圣母大学）
我们感兴趣的是开发代理模型，用于不确定性量化和随机偏微分方程控制的问题的传播，使用深度卷积编码器-解码器网络，其方式与深度学习中考虑的图像到图像回归任务的方法类似。由于普通神经网络是数据密集型的，不能提供预测的不确定性，我们提出了一种卷积神经网络的贝叶斯方法。最近引入的基于Stein方法的变分梯度下降算法被扩展到深度卷积网络，以对数百万个不确定的网络参数执行近似贝叶斯推断。与贝叶斯神经网络中的其他方法以及包括高斯过程和集成方法的技术相比，即使当训练数据大小相对较小时，该方法也在预测准确性和不确定性量化方面实现了最先进的性能。为了评估这种方法的性能，我们考虑标准的不确定性量化基准问题，包括在有限的数据驱动的渗透率实现方面定义的非均匀介质中的流动。代理模型开发的性能是非常好的，即使有没有基本的结构之间共享的输入（渗透率）和输出（流量/压力）字段，通常是在计算机视觉问题中使用的图像到图像的回归模型的情况下。研究的基础随机输入维数高达$4,225$，其中大多数其他不确定性量化方法失败。不确定性传播任务被认为是预测输出贝叶斯统计相比，与蒙特卡洛估计。
2018-01-21 cs.CV cs.LG physics.comp-ph
What is Flagged in Uncertainty Quantification? Latent Density Models for Uncertainty Categorization
University of Cambridge（剑桥大学）
本文提出基于混淆密度矩阵的框架，将UQ方法标记的不确定示例分为OOD、边界和分布内高误分类三类，为评估不同UQ方法差异提供新基准。
2023-10-27 cs.AI cs.LG
Uncertainty-Wizard: Fast and User-Friendly Neural Network Uncertainty Quantification
Università della Svizzera italiana（瑞士意大利语区大学）
不确定性和置信度已被证明是用于深度学习测试的各种技术中的有用指标，包括测试数据选择和系统监督。我们提出了不确定性向导，一个允许量化人工神经网络中的不确定性和置信度的工具。它构建在行业领先的tf.keras深度学习API之上，提供了一个近乎透明且易于理解的界面。同时，它还包括我们在两台不同机器和不同配置上进行基准测试的主要性能优化。
2021-01-28 cs.LG cs.SE
Towards Uncertainty Quantification in Generative Model Learning
Normandie Univ, UNICAEN, ENSICAEN, CNRS, GREYC（诺曼底大学、UNICAEN、ENSICAEN、CNRS、GREYC）
本文针对生成模型评估忽略测量固有不确定性的问题，形式化定义生成模型学习的不确定性量化问题，提出基于集成的精确率-召回率曲线方法，经合成数据集实验验证该方法可有效捕捉模型近似不确定性，支撑不同架构的系统性比较。
2025-11-13 cs.AI cs.LG
Uncertainty Quantification for Rule-Based Models
IBM Research（IBM研究院）
以逻辑语言描述的基于规则的分类模型直接预测布尔值，而不是像统计模型那样对概率建模并将其转换为预测。绝大多数现有的不确定性量化方法依赖于提供基于规则的模型所不能提供的连续输出的模型。在这项工作中，我们提出了一个元模型形式的不确定性量化框架，该框架将具有二进制输出的任何二进制分类器作为黑盒，并估计该基础模型在给定输入下的预测准确性以及对该估计的置信度。信心取决于输入区域的探索程度，并且旨在适用于任何OOD场景。我们证明了这种不确定性模型的有用性，通过构建一个由它驱动的弃权分类器，并观察其在各种情况下的性能。
2022-11-03 cs.AI cs.LG
Old Rules in a New Game: Mapping Uncertainty Quantification to Quantum Machine Learning
Quantum Security Technologies（量子安全技术）；Fraunhofer Institute for Applied and Integrated Security（弗劳恩霍夫应用与集成安全研究所）
本文针对量子机器学习黑箱问题，将经典不确定性量化方法映射到量子领域，通过理论构建与实证评估证明在设计量子模型时引入不确定性意识的必要性。
2025-07-20 cs.LG quant-ph
Nonparametric Multi-shape Modeling with Uncertainty Quantification
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
闭合曲线的建模和不确定性量化是形状分析领域的一个重要问题，并且可以对后续的统计任务产生重大影响。这些任务中的许多涉及闭合曲线的集合，这些闭合曲线通常在多个级别上表现出结构相似性。以有效地结合这种曲线间依赖性的方式对多个闭合曲线进行建模仍然是一个具有挑战性的问题。在这项工作中，我们提出并研究了一个多输出（a.k.a.多输出）、多维高斯过程建模框架。我们说明了所提出的方法的进步，并展示了实用的有意义的不确定性量化，在几个曲线和形状相关的任务。这种基于模型的方法不仅解决了用核结构对闭合曲线（及其形状）进行推断的问题，而且还为一般功能对象的多级依赖的非参数建模打开了大门。
2023-03-13 cs.LG math.DG stat.CO
Uncertainty Quantification and Resource-Demanding Computer Vision Applications of Deep Learning
University of Wuppertal（伍珀塔尔大学）
将深度神经网络（DNN）引入自动驾驶、医疗成像和金融等安全关键应用中，需要彻底处理模型的不确定性。训练深度神经网络已经是资源需求，因此它们的不确定性量化也是如此。在这篇概述文章中，我们调查了我们开发的方法，这些方法用于教导DNN在遇到新对象类时不确定。此外，我们还提出了训练方法，以便在不确定性量化的帮助下仅从少数标签中学习。请注意，与普通的网络训练相比，这通常需要大量的计算开销。最后，我们回顾了我们在神经结构搜索方面的工作，这也是一个数量级的资源需求，然后普通的网络训练。
2022-05-30 cs.CV cs.LG
ESI: Epistemic Uncertainty Quantification via Semantic-preserving Intervention for Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）；Kunming University of Science and Technology（昆明理工大学）
本文提出一种基于因果视角的灰盒不确定性量化方法，通过测量语义保持干预前后模型输出的变化来估计大语言模型的认知不确定性，实验证明该方法在有效性和计算效率上均表现优异。
2025-10-15 cs.AI cs.CL cs.LG
A framework for benchmarking uncertainty in deep regression
Physikal.-Techn. Bundesanstalt（德国联邦物理技术研究院）
我们提出了一个评估深度回归中不确定性量化的框架。该框架是基于回归问题，其中回归函数是非线性函数的线性组合。基本上，任何级别的复杂性都可以通过选择非线性函数及其域的维数来实现。深度回归的不确定性量化结果与通过统计参考方法获得的结果进行比较。参考方法利用了基础非线性函数的知识，并基于使用参考先验的贝叶斯线性回归。不确定性量化的可靠性评估的覆盖概率，并通过计算的不确定性的大小的准确性。我们通过将其应用于深度回归中的不确定性量化的当前方法来说明所提出的框架。这种灵活性，加上参考解决方案的可用性，使该框架适合于定义不确定性量化的基准集。
2021-09-10 cs.AI cs.LG
Uncertainty in Physics and AI: Taxonomy, Quantification, and Validation
University of Southern Denmark（南丹麦大学）；Università degli Studi di Milano & INFN Sezione di Milano, Italy（米兰大学与意大利国家核物理研究所米兰分部）；DAMTP, University of Cambridge, Wilberforce Road, Cambridge CB3 0WA, UK（剑桥大学）
本文探讨了物理中机器学习不确定性量化的关键问题，提出统一的不确定性分类方法，并通过回归和分类示例展示验证工具的应用。
2026-07-31 astro-ph.CO astro-ph.GA hep-ex
Uncertainty Quantification for Bayesian Optimization
针对贝叶斯优化输出不确定性量化研究不足的问题，本文提出通过构建目标函数极值的置信域评估不确定性的方法，依托新推导的序贯高斯过程回归一致误差界保证置信水平，为各类采样策略和停止准则提供统一量化框架。
2023-05-05 math.ST stat.ML stat.TH
Uncertainty quantification and exploration-exploitation trade-off in humans
University of Milano-Bicocca（米兰比可卡大学）
本文的主要目的是勾勒出一个理论框架，分析人类的决策策略下的不确定性管理信息收集（探索）和奖励寻求（剥削）之间的权衡。一个关键的观察，激励这一系列的研究，是认识到人类学习者是惊人的快速和有效地适应陌生的环境，并纳入即将到来的知识：这是一个有趣的行为认知科学以及机器学习的一个重要挑战。所考虑的目标问题是黑盒优化任务中的主动学习，更具体地说，如何在基于高斯过程的贝叶斯优化框架内对探索/开发困境进行建模，该框架又基于不确定性量化。主要贡献是分析人类的决策帕累托理性的两个目标是改善预期和不确定性量化。根据这个帕累托理性模型，如果一个决策集包含一个帕累托有效（主导）策略，理性的决策者应该总是选择主导策略。离帕累托边界的距离决定了一个选择是否是（帕累托）理性的（即，位于边境）或与“令人恼火”的探索有关。然而，由于不确定性是定义帕累托前沿的两个目标之一，我们已经研究了三种不同的不确定性量化措施，并选择了一个更符合帕累托理性模型的建议。关键的结果是一个分析框架来描述偏离“理性”如何依赖于不确定性量化和寻求奖励过程的演变。
2021-02-05 cs.AI cs.LG
Fair Uncertainty Quantification for Depression Prediction
School of Intelligent Engineering and Automation, Beijing University of Posts and Telecommunications（智能工程与自动化学院，北京邮电大学）
本文针对抑郁症预测中不确定性量化的群体公平问题，提出基于保形预测和EOC约束优化的FUQ框架，在多模态抑郁数据集上验证其可兼顾可靠性与公平性。
2025-09-30 cs.AI cs.LG
Uncertainty Quantification in Detecting Choroidal Metastases on MRI via Evolutionary Strategies
Memorial Sloan Kettering Cancer Center（纪念斯隆凯特琳癌症中心）
针对放射学小数据场景，本研究采用深度神经进化训练CNN进行眼部MRI脉络膜转移瘤二分类，通过保存的高准确率模型构建集成方法实现不确定性量化，发现高不确定性影像与放射科医生识别的主观特征相关，验证了其在AI放射分析中的价值。
2024-04-12 cs.CV cs.LG cs.NE
