Uncertainty in Physics and AI: Taxonomy, Quantification, and Validation
University of Southern Denmark（南丹麦大学）；Università degli Studi di Milano & INFN Sezione di Milano, Italy（米兰大学与意大利国家核物理研究所米兰分部）；DAMTP, University of Cambridge, Wilberforce Road, Cambridge CB3 0WA, UK（剑桥大学）
本文探讨了物理中机器学习不确定性量化的关键问题，提出统一的不确定性分类方法，并通过回归和分类示例展示验证工具的应用。
2026-07-31 astro-ph.CO astro-ph.GA hep-ex
Multivariate Bayesian Last Layer for Regression with Uncertainty Quantification and Decomposition
Université Paris Saclay（巴黎萨克雷大学）；CEA LIST（法国原子能和替代能源委员会LIST研究所）；CEA（法国原子能和替代能源委员会）
本文提出了一种多变量回归中的贝叶斯最后层模型，通过EM算法实现参数学习，能够分离不确定性并增强神经网络的不确定性感知能力。
2026-01-30 cs.LG stat.ML
Data-driven inverse uncertainty quantification: application to the Chemical Vapor Deposition Reactor Modeling
University of Luxembourg（卢森堡大学）；Luxembourg Institute of Science and Technology（卢森堡科学与技术研究所）；Johns Hopkins University（约翰斯·霍普金斯大学）；CERATIZIT Luxembourg S.à r.l.（CERATIZIT 卢森堡有限公司）；CERATIZIT Austria GmbH（CERATIZIT 奥地利有限公司）；School of Chemical Engineering, National Technical University of Athens（雅典国立技术大学化学工程学院）
本文提出基于XGBoost代理模型的贝叶斯框架，用于化学气相沉积反应器中参数估计与不确定性量化，通过整合聚类方法提升工业过程控制的鲁棒性。
2025-12-15 stat.AP stat.OT
Uncertainty Quantification for Agent Based Models: A Tutorial
本文以羊狼捕食模型为教程，探讨不确定性量化方法在基于智能体模型中的应用，通过实现高斯过程、序贯设计和历史匹配等高级统计技术，显著提升了模型的鲁棒性、准确性与预测能力。
2024-09-25 stat.AP stat.OT
Uncertainty quantification using martingales for misspecified Gaussian processes
Stanford University（斯坦福大学）；Carnegie Mellon University（卡内基梅隆大学）
我们解决不确定性量化高斯过程（GP）下错误指定的先验知识，着眼于贝叶斯优化（BO）。GPS在BO中被广泛使用，因为它们很容易实现基于后验不确定性带的探索。然而，这种便利性是以健壮性为代价的：实践中遇到的典型函数不太可能来自数据科学家的先验知识，在这种情况下，不确定性估计可能会产生误导，由此产生的探索可能是次优的。我们提出了一个频率论的方法来GP/BO的不确定性量化。我们利用GP框架作为工作模型，但不假设先验的正确性。相反，我们构造一个置信序列（CS）的未知函数使用鞅技术。实现鲁棒性有必要的代价：如果先验是正确的，那么后验GP带比我们的CS窄。然而，当先验是错误的，我们的CS是统计上有效的，经验上优于标准的GP方法，在BO的覆盖范围和效用方面。此外，我们证明了权力的似然性提供了对模型误设的鲁棒性。
2021-03-02 cs.LG stat.ME stat.ML
Contributed Discussion to Bayesian Solution Uncertainty Quantification for Differential Equations
我们首先介绍了讨论中的文件的主要思想，我们给出了一个简短的描述所提出的方法。接下来，我们讨论了一种基于B样条展开的替代方法，最后我们对该方法的收敛速度做了一些评论。
2016-11-17 math.ST stat.TH
Uncertainty quantification of a three-dimensional in-stent restenosis model with surrogate modelling
University of Amsterdam（阿姆斯特丹大学）；ITMO University（圣光机大学）
支架内再狭窄是由于球囊扩张和支架置入引起的血管损伤导致的冠状动脉狭窄的复发。它可能导致心绞痛症状复发或急性冠状动脉综合征。提出了一种具有四个不确定参数（内皮再生时间、平滑肌细胞键断裂的阈值应变、血流速度和内弹性膜中的开窗百分比）的支架内再狭窄模型的不确定性量化。研究了两个感兴趣的量，即血管中的平均横截面积和最大相对面积损失。由于模型的计算强度和不确定度量化中所需的评价次数，开发了一种基于高斯过程回归和适当正交分解的代理模型，随后在不确定度量化中取代了原始支架内滞留模型。详细分析了不确定性传播和灵敏度分析。在平均横截面积和最大相对面积损失上分别观察到约11%和16%的不确定性，并且不确定性估计表明，较高的开窗率主要决定了过程初始阶段新生内膜生长的不确定性。另一方面，血流速度和内皮再生时间的不确定性主要决定了再狭窄过程的后期临床相关阶段的感兴趣量的不确定性。与其他不确定参数相比，阈值应变的不确定性相对较小。
2022-02-27 cs.CE cs.LG physics.bio-ph
Nonparametric Multi-shape Modeling with Uncertainty Quantification
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
闭合曲线的建模和不确定性量化是形状分析领域的一个重要问题，并且可以对后续的统计任务产生重大影响。这些任务中的许多涉及闭合曲线的集合，这些闭合曲线通常在多个级别上表现出结构相似性。以有效地结合这种曲线间依赖性的方式对多个闭合曲线进行建模仍然是一个具有挑战性的问题。在这项工作中，我们提出并研究了一个多输出（a.k.a.多输出）、多维高斯过程建模框架。我们说明了所提出的方法的进步，并展示了实用的有意义的不确定性量化，在几个曲线和形状相关的任务。这种基于模型的方法不仅解决了用核结构对闭合曲线（及其形状）进行推断的问题，而且还为一般功能对象的多级依赖的非参数建模打开了大门。
2023-03-13 cs.LG math.DG stat.CO
Optional Pólya trees: posterior rates and uncertainty quantification
我们考虑统计推断的密度估计模型使用基于树的贝叶斯方法，与可选的波利亚树作为先验分布。我们得到了相应的后验分布的上确界范数的近优收敛速度。对于广泛的类Hölder光滑密度，我们表明，该方法自动适应未知的Hölder正则性参数。我们考虑的不确定性量化的问题，通过提供数学保证，从获得的后验分布的可信集，导致接近最佳的不确定性量化的密度函数，以及相关的泛函，如累积分布函数。通过一个简短的模拟研究的结果说明。
2021-10-11 math.ST stat.TH
Uncertainty Quantification for Bayesian Optimization
针对贝叶斯优化输出不确定性量化研究不足的问题，本文提出通过构建目标函数极值的置信域评估不确定性的方法，依托新推导的序贯高斯过程回归一致误差界保证置信水平，为各类采样策略和停止准则提供统一量化框架。
2023-05-05 math.ST stat.ML stat.TH
Uncertainty Quantification With Noise Injection in Neural Networks: A Bayesian Perspective
本文从贝叶斯视角建立噪声注入与不确定性量化的联系，提出蒙特卡洛噪声注入方法，在训练时注入噪声、推断时多次前向传播，实验证明其性能优于基线模型。
2025-04-24 cs.LG stat.ML
Bayesian deep learning framework for uncertainty quantification in high dimensions
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
提出了一种基于贝叶斯神经网络（BNN）和哈密顿蒙特卡罗（HMC）的随机偏微分方程不确定性量化深度学习方法。BNN通过对网络参数执行贝叶斯推断来有效地学习深度神经网络中参数的后验分布。利用HMC对系统的后验分布进行有效采样，以量化系统中的不确定性。数值算例表明，在高维的正问题和反问题的不确定性量化所提出的方法的有效性。这些也显示出有希望的结果，计算成本几乎是独立的维度的问题，展示了潜在的方法，用于解决所谓的灾难的维度。
2022-10-21 cs.AI cs.LG stat.ML
Uncertainty Quantification for nonparametric regression using Empirical Bayesian neural networks
我们提出了一种新的，两步经验贝叶斯类型的神经网络的方法。我们表明，在上下文中的非参数回归模型的程序（对数因子）提供了最佳的恢复感兴趣的基本功能参数，并提供贝叶斯可信的频率覆盖保证集。该方法只需拟合神经网络一次，因此比Bootstrapping类型的方法快得多。我们证明了我们的方法在合成数据，观察良好的估计性能和可靠的不确定性量化的适用性。
2022-04-28 math.ST stat.TH
Equivariant Bootstrapping for Uncertainty Quantification in Imaging Inverse Problems
CNRS（法国国家科学研究中心）；ENS Lyon（里昂高等师范学院）；Heriot-Watt University（赫瑞瓦特大学）
本文提出一种基于等变参数自助法的不确定性量化方法，利用成像问题中的对称性，可适配任意重建技术，并在高维置信区域估计精度和计算效率上优于现有贝叶斯方法。
2023-10-20 cs.LG eess.IV eess.SP
Comments on "Bayesian Solution Uncertainty Quantification for Differential Equations" by Chkrebtii, Campbell, Calderhead & Girolami
University of Warwick（华威大学）；Imperial College London（伦敦帝国学院）
本文讨论了概率数值方法中先验建模的未来研究方向，强调了在不确定性量化中需深入考虑的先验模型问题。
2016-10-21 cs.NA math.NA stat.CO
Uncertainty Quantification for Scientific Machine Learning using Sparse Variational Gaussian Process Kolmogorov-Arnold Networks (SVGP KAN)
UCLA（加州大学洛杉矶分校）
本文提出一种结合稀疏变分高斯过程与柯尔莫戈洛夫-阿诺德拓扑的网络架构，用于科学机器学习中的不确定性量化，通过解析矩匹配实现不确定性传播并保持可解释性。
2025-12-09 cs.LG stat.ML
Teaching Uncertainty Quantification in Machine Learning through Use Cases
German Research Center for Artificial Intelligence（德国人工智能研究中心）
机器学习中的不确定性通常不作为一般知识在机器学习课程中教授。在本文中，我们提出了一个关于机器学习中不确定性的短期课程，并通过选择用例来补充课程，旨在引发讨论，让学生在编程环境中使用不确定性的概念。我们的用例涵盖了输出不确定性的概念、贝叶斯神经网络和权重分布、不确定性的来源以及分布外检测。我们希望这套课程和用例能够激励社区将这些重要的概念纳入人工智能安全课程。
2021-08-19 cs.LG stat.ML
Contributed Discussion to Uncertainty Quantification for the Horseshoe by Stéphanie van der Pas, Botond Szabó and Aad van der Vaart
我们首先介绍正在讨论的文件的主要思想。我们讨论了一些有趣的问题，自适应组件明智的可信区间。然后，我们简要地触及自相似性和过度偏见限制的概念。其次是对本文进行的广泛模拟研究的一些评论。
2018-01-28 math.ST stat.TH
Variable Selection with Rigorous Uncertainty Quantification using Deep Bayesian Neural Networks: Posterior Concentration and Bernstein-von Mises Phenomenon
Google Research（谷歌研究院）；Harvard University（哈佛大学）
该工作为深度贝叶斯神经网络（BNN）是一种具有严格不确定性量化的高维变量选择的有效工具这一事实提供了严格的理论基础。我们开发了新的贝叶斯非参数定理，以表明正确配置的深度BNN（1）在高维中有效地学习变量重要性，其学习率有时可以“打破”维数灾难。(2)BNN对变量重要性的不确定性量化是严格的，在这个意义上，它对变量重要性的95%可信区间确实覆盖了95%的时间的真相（即，Bernstein-von Mises（BvM）现象。理论结果提出了一种简单的基于BNN可信区间的变量选择算法。大量的模拟证实了理论研究结果，并表明，该算法优于现有的经典和基于神经网络的变量选择方法，特别是在高维。
2019-12-03 cs.LG stat.ML
Randomized prior wavelet neural operator for uncertainty quantification
Indian Institute of Technology Delhi（印度理工学院德里分校）
在本文中，我们提出了一种新的数据驱动的算子学习框架称为\textit{Randomized Prior Wavelet Neural Operator}（RP-WNO）。建议的RP-WNO是最近提出的小波神经算子的扩展，该算子具有良好的泛化能力，但不能估计与其预测相关的不确定性。RP-WNO与vanilla WNO不同，具有固有的不确定性量化模块，因此预计对科学家和工程师都非常有用。RP-WNO利用随机先验网络，它可以解释先验信息，并且比贝叶斯网络更容易实现大型复杂的深度学习架构。已经解决了四个例子来测试所提出的框架，产生的结果主张有利的有效性所提出的框架。
2023-02-02 cs.LG stat.ML
Pointwise uncertainty quantification for sparse variational Gaussian process regression with a Brownian motion prior
本文针对采用特征向量诱导变量和重标度布朗运动先验的稀疏变分高斯过程，建立了逐点可信集频率学派覆盖率的理论保证，并精确刻画其渐近行为，揭示该方法何时保守或过度自信。
2023-10-31 math.ST stat.ML stat.TH
Optimal recovery and uncertainty quantification for distributed Gaussian process regression
高斯过程（GP）被广泛用于非参数回归的概率建模和推断。然而，它们的计算复杂性与样本量成比例，使得它们对于大数据集不可行。为了加快计算速度，在文献中提出了各种分布式方法。然而，这些方法的理论基础有限。在我们的工作中，我们得到频率论的理论保证和限制的范围内的分布式方法一般GP先验的非参数回归模型，恢复和不确定性量化。作为具体的例子，我们考虑多项式和指数衰减特征值的协方差核。我们证明了实际的性能的研究方法在数值研究中使用合成数据集。
2022-05-10 math.ST stat.TH
Bayesian Deep Convolutional Encoder-Decoder Networks for Surrogate Modeling and Uncertainty Quantification
University of Notre Dame（圣母大学）
我们感兴趣的是开发代理模型，用于不确定性量化和随机偏微分方程控制的问题的传播，使用深度卷积编码器-解码器网络，其方式与深度学习中考虑的图像到图像回归任务的方法类似。由于普通神经网络是数据密集型的，不能提供预测的不确定性，我们提出了一种卷积神经网络的贝叶斯方法。最近引入的基于Stein方法的变分梯度下降算法被扩展到深度卷积网络，以对数百万个不确定的网络参数执行近似贝叶斯推断。与贝叶斯神经网络中的其他方法以及包括高斯过程和集成方法的技术相比，即使当训练数据大小相对较小时，该方法也在预测准确性和不确定性量化方面实现了最先进的性能。为了评估这种方法的性能，我们考虑标准的不确定性量化基准问题，包括在有限的数据驱动的渗透率实现方面定义的非均匀介质中的流动。代理模型开发的性能是非常好的，即使有没有基本的结构之间共享的输入（渗透率）和输出（流量/压力）字段，通常是在计算机视觉问题中使用的图像到图像的回归模型的情况下。研究的基础随机输入维数高达$4,225$，其中大多数其他不确定性量化方法失败。不确定性传播任务被认为是预测输出贝叶斯统计相比，与蒙特卡洛估计。
2018-01-21 cs.CV cs.LG physics.comp-ph
Uncertainty Quantification for Bayesian CART
这项工作提供了新的见解贝叶斯CART的背景下，结构化小波收缩。主要的主旨是开发一个正式的推理框架贝叶斯树为基础的回归。我们重新构建贝叶斯CART作为一个g-型先验，从典型的小波产品先验利用相关引起的树拓扑结构。在回归模型中，实际使用的贝叶斯CART先验在上确界范数下可获得自适应的近率极大极小后验集中。针对不确定性量化的基本目标，在自相似条件下，构造了具有均匀覆盖的回归函数的自适应置信带。此外，我们表明，树后验使最佳推理的形式，有效的信心集光滑的回归函数。
2021-05-24 math.ST stat.TH
Uncertainty Quantification with Generative Models
Berkeley Center for Cosmological Physics（伯克利宇宙物理中心）；University of California, Berkeley（加州大学伯克利分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
我们开发了一种基于生成模型的方法来解决贝叶斯逆问题，例如从噪声和不完整图像中重建图像。我们的框架解决了贝叶斯重建的两个常见挑战：1）它利用复杂的数据驱动先验，包括有关未损坏数据分布的所有可用信息。2)它能够以潜在空间和数据空间中的后验分析的形式实现计算上易于处理的不确定性量化。该方法是非常有效的，因为生成模型只需要在未损坏的数据集上训练一次，之后，该过程可以用于任意损坏类型。
2019-10-22 astro-ph.CO cs.LG stat.ML
On Subjective Uncertainty Quantification and Calibration in Natural Language Generation
University of Oxford（牛津大学）
本文从贝叶斯决策理论出发，基于相似性度量提出对黑盒语言模型主观不确定性与认知不确定性的量化及校准方法，并在问答和机器翻译任务中验证其校准效果与在上下文学习数据获取中的延迟策略价值。
2024-10-18 cs.AI cs.CL cs.LG
