Uncertainty Quantification in Bayesian Reduced-Rank Sparse Regressions
提出一种贝叶斯降秩稀疏回归模型,通过混合先验与全局-局部收缩先验估计系数矩阵秩,并引入SAVS及两种新工具实现不确定性量化,在模拟与真实数据中验证了有效性。
2024-02-13 stat.AP stat.ME
Position: There Is No Free Bayesian Uncertainty Quantification
Department of Statistics LMU Munich(慕尼黑大学统计系)
本文从优化视角质疑贝叶斯不确定性量化的有效性,提出与优化表示一致的解释、推断质量度量及未来研究方向。
2025-06-04 cs.LG stat.ML
BOB: Bayesian Optimized Bootstrap for Uncertainty Quantification in Gaussian Mixture Models
针对高斯混合模型中标准MCMC后验采样计算难度大、加权自助法随机权重难选的问题,提出贝叶斯优化自助法BOB,通过贝叶斯优化自动选权以最小化反向KL散度,实现更优的后验还原与不确定性量化。
2024-05-17 stat.CO stat.ME
Bayesian meta learning for trustworthy uncertainty quantification
Virginia Tech(弗吉尼亚理工大学)
本文研究具有可信不确定性量化的贝叶斯回归问题,提出了一种无需先验假设的贝叶斯元学习优化框架Trust-Bayes,刻画了概率下界与样本复杂度,并通过高斯过程回归的Monte Carlo模拟验证了其有效性。
2024-07-27 cs.LG cs.SY eess.SY
Interventional Processes for Causal Uncertainty Quantification
Gatsby Unit, University College London, London, United Kingdom(伦敦大学学院Gatsby单元)
本文提出一种基于高斯过程的方法,通过将干预函数表示为再生核希尔伯特空间中观测函数的内积,实现干预函数的不确定性量化,并给出闭式后验矩和可处理的训练推理过程。
2026-06-01 cs.LG stat.ME stat.ML
Uncertainty Quantification for Bayesian Optimization
针对贝叶斯优化输出不确定性量化研究不足的问题,本文提出通过构建目标函数极值的置信域评估不确定性的方法,依托新推导的序贯高斯过程回归一致误差界保证置信水平,为各类采样策略和停止准则提供统一量化框架。
2023-05-05 math.ST stat.ML stat.TH
Uncertainty Quantification for Bayesian CART
这项工作提供了新的见解贝叶斯CART的背景下,结构化小波收缩。主要的主旨是开发一个正式的推理框架贝叶斯树为基础的回归。我们重新构建贝叶斯CART作为一个g-型先验,从典型的小波产品先验利用相关引起的树拓扑结构。在回归模型中,实际使用的贝叶斯CART先验在上确界范数下可获得自适应的近率极大极小后验集中。针对不确定性量化的基本目标,在自相似条件下,构造了具有均匀覆盖的回归函数的自适应置信带。此外,我们表明,树后验使最佳推理的形式,有效的信心集光滑的回归函数。
2021-05-24 math.ST stat.TH
Multivariate Bayesian Last Layer for Regression with Uncertainty Quantification and Decomposition
Université Paris Saclay(巴黎萨克雷大学);CEA LIST(法国原子能和替代能源委员会LIST研究所);CEA(法国原子能和替代能源委员会)
本文提出了一种多变量回归中的贝叶斯最后层模型,通过EM算法实现参数学习,能够分离不确定性并增强神经网络的不确定性感知能力。
2026-01-30 cs.LG stat.ML
Contributed Discussion to Bayesian Solution Uncertainty Quantification for Differential Equations
我们首先介绍了讨论中的文件的主要思想,我们给出了一个简短的描述所提出的方法。接下来,我们讨论了一种基于B样条展开的替代方法,最后我们对该方法的收敛速度做了一些评论。
2016-11-17 math.ST stat.TH
Bayesian deep learning framework for uncertainty quantification in high dimensions
Pohang University of Science and Technology (POSTECH)(浦项科技大学)
提出了一种基于贝叶斯神经网络(BNN)和哈密顿蒙特卡罗(HMC)的随机偏微分方程不确定性量化深度学习方法。BNN通过对网络参数执行贝叶斯推断来有效地学习深度神经网络中参数的后验分布。利用HMC对系统的后验分布进行有效采样,以量化系统中的不确定性。数值算例表明,在高维的正问题和反问题的不确定性量化所提出的方法的有效性。这些也显示出有希望的结果,计算成本几乎是独立的维度的问题,展示了潜在的方法,用于解决所谓的灾难的维度。
2022-10-21 cs.AI cs.LG stat.ML
Uncertainty Quantification for nonparametric regression using Empirical Bayesian neural networks
我们提出了一种新的,两步经验贝叶斯类型的神经网络的方法。我们表明,在上下文中的非参数回归模型的程序(对数因子)提供了最佳的恢复感兴趣的基本功能参数,并提供贝叶斯可信的频率覆盖保证集。该方法只需拟合神经网络一次,因此比Bootstrapping类型的方法快得多。我们证明了我们的方法在合成数据,观察良好的估计性能和可靠的不确定性量化的适用性。
2022-04-28 math.ST stat.TH
Reliable Bayesian Inference in Misspecified Models
我们提供了一个通用的解决方案,在贝叶斯推断,即穷人的不确定性量化,从频率的角度来看,贝叶斯方法在错误指定的模型中的一个基本的开放问题。虽然现有的解决方案是基于显式高斯近似的后验,或计算繁重的后处理程序,我们证明了正确的不确定性量化可以通过用直观的近似后验替换通常的后验来实现。重要的是,我们的解决方案是适用于基于似然性,和广义,后验以及情况下的可能性是棘手的,必须估计。我们正式证明了我们所提出的方法的可靠的不确定性量化,并表明有效的不确定性量化是不是一个渐近的结果,但即使在小样本。我们通过一系列的例子来说明这种方法,包括线性,广义,混合效应模型。
2023-02-13 math.ST stat.CO stat.ME
Comments on "Bayesian Solution Uncertainty Quantification for Differential Equations" by Chkrebtii, Campbell, Calderhead & Girolami
University of Warwick(华威大学);Imperial College London(伦敦帝国学院)
本文讨论了概率数值方法中先验建模的未来研究方向,强调了在不确定性量化中需深入考虑的先验模型问题。
2016-10-21 cs.NA math.NA stat.CO
Uncertainty Quantification With Noise Injection in Neural Networks: A Bayesian Perspective
本文从贝叶斯视角建立噪声注入与不确定性量化的联系,提出蒙特卡洛噪声注入方法,在训练时注入噪声、推断时多次前向传播,实验证明其性能优于基线模型。
2025-04-24 cs.LG stat.ML
Variable Selection with Rigorous Uncertainty Quantification using Deep Bayesian Neural Networks: Posterior Concentration and Bernstein-von Mises Phenomenon
Google Research(谷歌研究院);Harvard University(哈佛大学)
该工作为深度贝叶斯神经网络(BNN)是一种具有严格不确定性量化的高维变量选择的有效工具这一事实提供了严格的理论基础。我们开发了新的贝叶斯非参数定理,以表明正确配置的深度BNN(1)在高维中有效地学习变量重要性,其学习率有时可以“打破”维数灾难。(2)BNN对变量重要性的不确定性量化是严格的,在这个意义上,它对变量重要性的95%可信区间确实覆盖了95%的时间的真相(即,Bernstein-von Mises(BvM)现象。理论结果提出了一种简单的基于BNN可信区间的变量选择算法。大量的模拟证实了理论研究结果,并表明,该算法优于现有的经典和基于神经网络的变量选择方法,特别是在高维。
2019-12-03 cs.LG stat.ML
Nonparametric Multi-shape Modeling with Uncertainty Quantification
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
闭合曲线的建模和不确定性量化是形状分析领域的一个重要问题,并且可以对后续的统计任务产生重大影响。这些任务中的许多涉及闭合曲线的集合,这些闭合曲线通常在多个级别上表现出结构相似性。以有效地结合这种曲线间依赖性的方式对多个闭合曲线进行建模仍然是一个具有挑战性的问题。在这项工作中,我们提出并研究了一个多输出(a.k.a.多输出)、多维高斯过程建模框架。我们说明了所提出的方法的进步,并展示了实用的有意义的不确定性量化,在几个曲线和形状相关的任务。这种基于模型的方法不仅解决了用核结构对闭合曲线(及其形状)进行推断的问题,而且还为一般功能对象的多级依赖的非参数建模打开了大门。
2023-03-13 cs.LG math.DG stat.CO
Geometry-Aware Bayesian Quantification via Compositional Data Analysis
Istituto di Scienza e Tecnologie dell’Informazione Consiglio Nazionale delle Ricerche(国家研究委员会信息科学与技术研究所);Artificial Intelligence Center University of Oviedo(奥维耶多大学人工智能中心)
研究适应标签转移中估计目标标签分布问题,基于对数比率表示和艾奇逊几何引入几何感知KDE模型及收缩正则化,推导点估计和贝叶斯推理程序,实验表明该方法有竞争力。
2026-07-07 cs.LG stat.ML
Recent Advances in Uncertainty Quantification Methods for Engineering Problems
在过去的几十年中,不确定性量化(UQ)方法已被广泛用于确保工程设计的鲁棒性。本章旨在详细介绍工程应用中常用的不确定性量化方法的最新进展。本章介绍了两种最流行的适用于工程应用的不确定性量化元建模方法(多项式混沌方法和高斯过程)。最后,将UQ方法应用于多不确定性下的工程试验问题。这里考虑的试验问题是在操作不确定性下的超音速喷管。对于确定性解,使用开源计算流体动力学(CFD)求解器SU2。UQ方法在Matlab中开发,并进一步与SU2相结合,用于不确定性和灵敏度估计。结果以输出量的平均值和标准差表示。
2022-11-06 stat.CO
Uncertainty in Physics and AI: Taxonomy, Quantification, and Validation
University of Southern Denmark(南丹麦大学);Università degli Studi di Milano & INFN Sezione di Milano, Italy(米兰大学与意大利国家核物理研究所米兰分部);DAMTP, University of Cambridge, Wilberforce Road, Cambridge CB3 0WA, UK(剑桥大学)
本文探讨了物理中机器学习不确定性量化的关键问题,提出统一的不确定性分类方法,并通过回归和分类示例展示验证工具的应用。
2026-07-31 astro-ph.CO astro-ph.GA hep-ex
Bayesian inference and uncertainty quantification for image reconstruction with Poisson data
我们提供了一个完整的框架进行无限维贝叶斯推理和不确定性量化图像重建泊松数据。特别是,我们解决以下问题,使贝叶斯框架适用于实践。我们首先引入了一个保正的重参数化,并证明了在重参数化和混合先验下,后验分布在无穷维情况下是适定的。其次,我们提供了一个维度无关的MCMC算法,基于预处理的Crank-Nicolson Langevin方法,其中我们使用一个原始-对偶计划来计算偏移方向。第三,提出了一种结合模型偏差法和极大似然估计的混合先验中正则化参数的确定方法。最后,我们建议使用所获得的后验分布来检测恢复图像中的伪影。我们提供了一个例子来证明所提出的方法的有效性。
2019-10-20 cs.NA math.NA stat.CO
Bayesian quantification for coherent anti-Stokes Raman scattering spectroscopy
提出了一种分析相干反斯托克斯拉曼散射(CARS)光谱的贝叶斯统计模型。我们的定量分析包括组成的线形参数的统计估计,潜在的拉曼信号,误差校正的CARS光谱,和测量的CARS光谱。因此,这项工作能够在CARS光谱的背景下进行广泛的不确定性量化。此外,我们提出了一种无监督的方法,用于提高拉曼光谱的光谱分辨率,需要很少或没有\textit{a priori}信息。最后,最近提出的小波棱镜的方法来纠正CARS中的实验文物是通过使用插值技术的小波增强。该方法使用CARS光谱的腺苷单,二,和三磷酸在水中,以及,等摩尔的水溶液的D-果糖,D-葡萄糖,和他们的二糖组合蔗糖进行验证。
2020-05-14 stat.AP
Quality of Uncertainty Quantification for Bayesian Neural Network Inference
Harvard University(哈佛大学);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心)
贝叶斯神经网络(BNN)在神经网络中的参数上放置先验。然而,BNN的推理是困难的; BNN的所有推理方法都是近似的。在这项工作中,我们经验比较的质量预测不确定性估计的10个常见的推理方法回归和分类任务。我们的实验表明,常用的指标(例如测试对数似然)可能会产生误导。我们的实验还表明,设计用于捕获后验结构的推理创新不一定会产生高质量的后验近似。
2019-06-24 cs.LG stat.ML
Bayesian Modeling and Computation for Analyte Quantification in Complex Mixtures Using Raman Spectroscopy
在这项工作中,我们提出了一个两阶段的算法贝叶斯建模和计算的基础上,旨在量化分析物的浓度或数量的复杂混合物与拉曼光谱。建立了用于光谱信号分析的多层贝叶斯模型,并采用可逆跳马尔可夫链蒙特卡罗(RJMCMC)计算方法进行模型选择和光谱变量估计。处理分两个阶段进行。在第一阶段中,学习目标分析物光谱的峰表示。在第二阶段中,从第一阶段学习的峰值变量用于估计混合物中目标分析物的浓度或量。数值实验验证了它的量化性能在广泛的模拟条件下,并建立了其优势,分析物定量任务下的小训练样本量制度比传统的多元回归算法。我们还使用我们的算法来分析收集的实验自发拉曼光谱数据,用于生物制药过程监测应用中的葡萄糖浓度估计。我们的工作表明,该算法可以成为基于拉曼光谱的混合物定量研究中传统多元回归算法的一个有前途的补充工具,特别是当收集高质量的大型训练数据集具有挑战性或资源密集型时。
2018-05-20 physics.data-an stat.AP
Bayesian Deep Convolutional Encoder-Decoder Networks for Surrogate Modeling and Uncertainty Quantification
University of Notre Dame(圣母大学)
我们感兴趣的是开发代理模型,用于不确定性量化和随机偏微分方程控制的问题的传播,使用深度卷积编码器-解码器网络,其方式与深度学习中考虑的图像到图像回归任务的方法类似。由于普通神经网络是数据密集型的,不能提供预测的不确定性,我们提出了一种卷积神经网络的贝叶斯方法。最近引入的基于Stein方法的变分梯度下降算法被扩展到深度卷积网络,以对数百万个不确定的网络参数执行近似贝叶斯推断。与贝叶斯神经网络中的其他方法以及包括高斯过程和集成方法的技术相比,即使当训练数据大小相对较小时,该方法也在预测准确性和不确定性量化方面实现了最先进的性能。为了评估这种方法的性能,我们考虑标准的不确定性量化基准问题,包括在有限的数据驱动的渗透率实现方面定义的非均匀介质中的流动。代理模型开发的性能是非常好的,即使有没有基本的结构之间共享的输入(渗透率)和输出(流量/压力)字段,通常是在计算机视觉问题中使用的图像到图像的回归模型的情况下。研究的基础随机输入维数高达$4,225$,其中大多数其他不确定性量化方法失败。不确定性传播任务被认为是预测输出贝叶斯统计相比,与蒙特卡洛估计。
2018-01-21 cs.CV cs.LG physics.comp-ph
Optional Pólya trees: posterior rates and uncertainty quantification
我们考虑统计推断的密度估计模型使用基于树的贝叶斯方法,与可选的波利亚树作为先验分布。我们得到了相应的后验分布的上确界范数的近优收敛速度。对于广泛的类Hölder光滑密度,我们表明,该方法自动适应未知的Hölder正则性参数。我们考虑的不确定性量化的问题,通过提供数学保证,从获得的后验分布的可信集,导致接近最佳的不确定性量化的密度函数,以及相关的泛函,如累积分布函数。通过一个简短的模拟研究的结果说明。
2021-10-11 math.ST stat.TH
NeuralSurv: Deep Survival Analysis with Bayesian Uncertainty Quantification
Imperial College London(帝国学院伦敦分校);University of Copenhagen(哥本哈根大学)
NeuralSurv通过贝叶斯不确定性量化提升深度生存分析的校准性能,结合新颖的数据增强方案和高效变分算法,在合成和真实数据中均表现出优越的模型性能。
2025-11-05 cs.LG stat.ML
Seismic Bayesian evidential learning: Estimation and uncertainty quantification of sub-resolution reservoir properties
我们提出了一个框架,使估计低维次分辨率储层属性直接从地震资料,而不需要解决一个高维地震逆问题。我们的工作流程基于贝叶斯证据学习方法,并利用学习地震资料和储层性质之间的直接关系来有效地估计储层性质。我们开发的理论框架允许将非线性统计模型用于地震估计问题。使用近似贝叶斯计算进行不确定性量化。借助一个估算次分辨率薄砂岩储层中储层净总饱和度和平均流体饱和度的综合实例,展望了无监督和监督学习方法在地震估算问题中的适用性。最后,我们通过使用三维叠前地震资料估计来自海上三角洲数据集的亚分辨率薄砂岩储层中储层净对总的后验不确定性来证明我们的方法的有效性。
2019-05-14 physics.geo-ph stat.ML
Uncertainty quantification of molecular property prediction using Bayesian neural network models
KAIST(韩国科学技术院);Seoul National University(首尔国立大学);KAIST Institute for Artificial Intelligence(韩国科学技术院人工智能研究所)
在化学领域,深度神经网络模型越来越多地用于各种应用,如分子性质预测、新型分子设计和规划化学反应。尽管最先进的模型和算法的使用迅速增加,但深度神经网络模型在实际应用中的预测效果往往很差,因为模型性能高度依赖于训练数据的质量。在分子分析领域,数据大多来自复杂的化学实验或近似的数学方程,数据的质量可能受到质疑,本文将贝叶斯神经网络用于分子性质预测,量化预测的不确定性。我们估计模型驱动和数据驱动的不确定性,证明了有用的不确定性量化作为质量检查和置信度指标与三个实验。我们的研究结果表明,不确定性量化是必要的,更可靠的分子应用和贝叶斯神经网络模型可以是一个实用的方法。
2018-11-19 cs.LG physics.chem-ph stat.ML
Equivariant Bootstrapping for Uncertainty Quantification in Imaging Inverse Problems
CNRS(法国国家科学研究中心);ENS Lyon(里昂高等师范学院);Heriot-Watt University(赫瑞瓦特大学)
本文提出一种基于等变参数自助法的不确定性量化方法,利用成像问题中的对称性,可适配任意重建技术,并在高维置信区域估计精度和计算效率上优于现有贝叶斯方法。
2023-10-20 cs.LG eess.IV eess.SP
Bayesian Optical Flow with Uncertainty Quantification
Clarkson University(克拉克森大学)
光流是指在两个连续图像之间观察到的视觉运动。由于自由度通常比图像观测所施加的约束大得多,因此光流作为逆问题的直接公式化是不适定的。确定光流的标准方法依赖于公式化和求解包含数据保真度项和正则化项的优化问题,后者有效地解决了逆问题的不适定性。在这项工作中,我们离开了确定性的形式主义,而不是把光流作为一个统计逆问题。我们讨论了如何一个经典的光流解决方案可以被解释为一个点估计在这个更一般的框架。统计方法,其“解决方案”是流场的分布,我们称之为贝叶斯光流,不仅允许“点”估计(例如,平均流场的计算),而且统计估计(例如,不确定性的量化),其超出了用于光流的任何标准方法。作为应用,我们基准贝叶斯光流一起使用几种类型的规定地面实况流场和图像的不确定性量化。
2018-08-20 cs.CV physics.data-an stat.ML
A deep-learning based Bayesian approach to seismic imaging and uncertainty quantification
Georgia Institute of Technology(佐治亚理工学院)
不确定性量化是必不可少的,当处理病态的反问题,由于固有的非唯一性的解决方案。贝叶斯方法允许我们通过公式化后验分布来确定未知参数的估计的可能性。不幸的是,通常不可能用公式表示一个先验分布,它精确地编码了我们关于未知的先验知识。此外,坚持手工制作的先验可能会极大地偏倚贝叶斯分析的结果。为了解决这个问题,我们建议使用随机初始化的卷积神经网络的函数形式作为隐式结构化先验,这被证明可以促进自然图像并排除具有非自然噪声的图像。为了将模型的不确定性纳入最终估计,我们使用随机梯度Langevin动力学对后验分布进行采样,并对获得的样本进行贝叶斯模型平均。我们的合成数值实验验证了深度先验与贝叶斯模型平均相结合能够部分规避成像伪影并降低极端噪声存在下过拟合的风险。最后,我们提出了逐点方差的估计作为衡量的不确定性,这与更难以成像的区域相吻合。
2020-01-15 cs.LG physics.geo-ph stat.ML
Bayesian multi--dipole localization and uncertainty quantification from simultaneous EEG and MEG recordings
我们处理估计多个偶极子从组合MEG和EEG时间序列。我们使用顺序蒙特卡罗算法来表征后验分布的偶极子的数量和它们的位置。通过考虑三个测试案例,我们表明,使用组合数据的方法可以本地化的来源,不容易(或根本不)单独与两个单独的数据可见。此外,来自组合数据的后验分布显示出比来自单个器械的后验分布更低的方差,即更低的不确定性。
2017-06-19 q-bio.QM stat.AP
SPUX Framework: a Scalable Package for Bayesian Uncertainty Quantification and Propagation
我们提出SPUX -一个模块化的框架,贝叶斯推断,使不确定性量化和传播的线性和非线性,确定性和随机模型,并支持贝叶斯模型选择。SPUX可以耦合到以任何编程语言编写的任何串行或并行应用程序(例如,包括Python,R,Julia,C/C++,Fortran,Java或二进制可执行文件),可以轻松地从个人计算机上的串行运行扩展到并行高性能计算集群,并旨在提供一个特别适合支持和促进计算科学可重复性的平台。我们说明了SPUX的功能,一个简单而有代表性的随机游动模型,描述了如何耦合不同类型的用户应用程序,并展示了几个现成的例子,从环境科学。除了现有的最先进的数值推理算法,包括EMCEE,PMCMC(PF)和SABC,SPUX框架的开源性质和层次并行SPUX执行器的明确描述也应该大大简化其他推理和优化技术的实现和使用。
2021-05-12 cs.CE cs.MS stat.CO
Inverse Uncertainty Quantification by Hierarchical Bayesian Modeling and Application in Nuclear System Thermal-Hydraulics Codes
本文提出一种新颖的分层贝叶斯模型,有效缓解了核热工水力系统逆向不确定性量化中物理模型参数高变异性和过拟合问题,提供更优的后验分布估计并具备推广至大型数据库的潜力。
2024-03-26 physics.data-an stat.CO
Uncertainty quantification of a three-dimensional in-stent restenosis model with surrogate modelling
University of Amsterdam(阿姆斯特丹大学);ITMO University(圣光机大学)
支架内再狭窄是由于球囊扩张和支架置入引起的血管损伤导致的冠状动脉狭窄的复发。它可能导致心绞痛症状复发或急性冠状动脉综合征。提出了一种具有四个不确定参数(内皮再生时间、平滑肌细胞键断裂的阈值应变、血流速度和内弹性膜中的开窗百分比)的支架内再狭窄模型的不确定性量化。研究了两个感兴趣的量,即血管中的平均横截面积和最大相对面积损失。由于模型的计算强度和不确定度量化中所需的评价次数,开发了一种基于高斯过程回归和适当正交分解的代理模型,随后在不确定度量化中取代了原始支架内滞留模型。详细分析了不确定性传播和灵敏度分析。在平均横截面积和最大相对面积损失上分别观察到约11%和16%的不确定性,并且不确定性估计表明,较高的开窗率主要决定了过程初始阶段新生内膜生长的不确定性。另一方面,血流速度和内皮再生时间的不确定性主要决定了再狭窄过程的后期临床相关阶段的感兴趣量的不确定性。与其他不确定参数相比,阈值应变的不确定性相对较小。
2022-02-27 cs.CE cs.LG physics.bio-ph
Uncertainty Quantification for Scientific Machine Learning using Sparse Variational Gaussian Process Kolmogorov-Arnold Networks (SVGP KAN)
UCLA(加州大学洛杉矶分校)
本文提出一种结合稀疏变分高斯过程与柯尔莫戈洛夫-阿诺德拓扑的网络架构,用于科学机器学习中的不确定性量化,通过解析矩匹配实现不确定性传播并保持可解释性。
2025-12-09 cs.LG stat.ML
Teaching Uncertainty Quantification in Machine Learning through Use Cases
German Research Center for Artificial Intelligence(德国人工智能研究中心)
机器学习中的不确定性通常不作为一般知识在机器学习课程中教授。在本文中,我们提出了一个关于机器学习中不确定性的短期课程,并通过选择用例来补充课程,旨在引发讨论,让学生在编程环境中使用不确定性的概念。我们的用例涵盖了输出不确定性的概念、贝叶斯神经网络和权重分布、不确定性的来源以及分布外检测。我们希望这套课程和用例能够激励社区将这些重要的概念纳入人工智能安全课程。
2021-08-19 cs.LG stat.ML
Bayesian Hidden Physics Models: Uncertainty Quantification for Discovery of Nonlinear Partial Differential Operators from Data
GE Research(通用电气研究中心)
关于物理学,数据告诉了我们什么,它们没有告诉我们什么?人们对使用机器学习模型从数据中发现微分方程等支配性物理定律的兴趣激增,但目前的方法缺乏不确定性量化来传达其可信度。这项工作从贝叶斯的角度解决了这个缺点。我们介绍了一种新的模型,包括“叶”模块,学习代表不同的实验的时空功能数据作为神经网络和一个单一的“根”模块,表示其管理的非线性微分算子作为高斯过程的非参数分布。自动微分用于从叶函数计算所需的偏导数作为根的输入。我们的方法量化的可靠性的学习物理学的后验分布在运营商和传播这种不确定性的解决方案的新的初边值问题的实例。数值实验证明了该方法对几个非线性偏微分方程。
2020-06-07 cs.LG stat.ML
Hierarchical Bayesian Modeling for Time-Dependent Inverse Uncertainty Quantification
本文提出一种新型分层贝叶斯模型,结合高斯过程、主成分分析与神经网络构建代理模型,利用NUTS实现高效后验采样,有效解决了核热工水力系统时变反问题不确定性量化,显著提升了参数估计精度并降低了过拟合倾向。
2024-03-26 stat.AP
Contributed Discussion to Uncertainty Quantification for the Horseshoe by Stéphanie van der Pas, Botond Szabó and Aad van der Vaart
我们首先介绍正在讨论的文件的主要思想。我们讨论了一些有趣的问题,自适应组件明智的可信区间。然后,我们简要地触及自相似性和过度偏见限制的概念。其次是对本文进行的广泛模拟研究的一些评论。
2018-01-28 math.ST stat.TH
Bayesian autoencoders with uncertainty quantification: Towards trustworthy anomaly detection
University of Cambridge(剑桥大学)
尽管针对无监督异常检测的深度自动编码器(AE)进行了大量研究,但AE仍然缺乏表达其预测不确定性的方法,这对于确保高风险应用中安全可靠的机器学习系统至关重要。因此,在这项工作中,贝叶斯自动编码器(BAE)的制定采用量化的总异常的不确定性,包括认知和任意的不确定性。为了评估不确定性的质量,我们考虑了异常分类的任务,并附加了拒绝高不确定性预测的选项。此外,我们使用的精度拒绝曲线,并提出加权平均精度作为性能指标。我们的实验证明了BAE和总异常不确定性对一组基准数据集和两个真实的制造数据集的有效性:一个用于状态监测,另一个用于质量检测。
2022-02-25 cs.LG stat.ML
Permutation-based uncertainty quantification about a mixing distribution
基于混合模型数据的混合分布的非参数估计是一个具有挑战性的问题。除了估计之外,还有对不确定性量化的兴趣,例如,混合分布特征的置信区间。本文着重于通过预测递归算法估计,在这里,我们利用这个估计的看似不可取的依赖于数据排序,以获得一个基于置换的近似抽样分布,可用于量化的不确定性。理论和数值结果证实,所提出的方法导致有效的置信区间,至少近似。
2019-06-12 stat.ME
A Distributionally Robust Optimization Approach to the NASA Langley Uncertainty Quantification Challenge
我们研究了一种方法来解决NASA兰利不确定性量化挑战问题,基于集成的强大的优化,更具体地说,最近的一系列研究被称为分布式鲁棒优化,和重要性抽样蒙特卡罗模拟。在这种综合方法的主要计算机器归结为解决采样线性规划。我们将说明我们的数值性能和理论统计保证通过连接到非参数假设检验。
2020-06-28 stat.ME
Parameter estimation and uncertainty quantification using information geometry
在这项工作中,我们:(1)回顾参数估计和置信区域的构造的基于似然的推断;以及(2)探索使用来自信息几何的技术,包括测地线曲线和黎曼标量曲率,以补充用于不确定性量化的典型技术,例如贝叶斯方法、轮廓似然、渐近分析和自举。这些来自信息几何的技术提供了对不确定性和可识别性的独立于数据的见解,并可用于为数据收集决策提供信息。本工作中用于实现推理和信息几何技术的所有代码都可以在GitHub上获得。
2022-03-31 stat.AP stat.ME
Uncertainty Quantification by Random Measures and Fields
我们提出了一个不确定性量化的一般框架,这是一个相互关联的模型马赛克。我们定义了全球第一和第二阶结构和相关的灵敏度分析随机计数措施的风险泛函的输入输出地图。这些是强度度量的ANOVA分解和随机度量方差的分解,每个分解到子空间中。正交随机测度提供灵敏度分布。我们证明了随机计数测度可以用来构造正的随机场,它允许协方差和灵敏度指标的分解,并可以用来表示相互作用的粒子系统。通过随机计数测量传达的一阶和二阶全局灵敏度分析阐明并整合了不确定性量化的不同概念,而随机场的全局灵敏度分析传达了对协方差的比例函数贡献。当与例如算法不确定性和模型选择不确定性框架结合使用时,该框架补充了其他框架。
2020-12-31 math.PR stat.ME
Generative Parameter Sampler For Scalable Uncertainty Quantification
Harvard Data Science Initiative(哈佛数据科学倡议);Harvard University(哈佛大学)
不确定性量化一直是统计机器学习的核心问题,但其计算瓶颈一直是贝叶斯学派和频率学派面临的严峻挑战。我们提出了一个基于模型的框架,在量化的不确定性,称为预测匹配生成参数采样器(GPS)。此过程考虑目标参数的不确定性量化(UQ)分布,该分布将对应的预测分布与观测数据相匹配。该框架采用分层建模的观点,使每个观察是由一个单独的参数建模。这种单独的参数化允许所得到的推断在计算上是可扩展的并且对离群值是鲁棒的。我们的方法说明了线性模型,泊松过程和深层神经网络分类。结果表明,全球定位系统是成功的,在提供不确定性量化以及额外的灵活性超出了经典的统计程序所允许的假设的统计模型。
2019-06-02 cs.LG stat.ME stat.ML
Model Calibration via Distributionally Robust Optimization: On the NASA Langley Uncertainty Quantification Challenge
我们研究了一种方法来解决NASA兰利不确定性量化挑战,一个模型校准问题下的偶然性和认识的不确定性。我们的方法是基于集成的强大的优化,更具体地说,最近的一系列研究被称为分布式鲁棒优化,和重要性抽样蒙特卡罗模拟。在这种综合方法中的主要计算机器相当于求解采样线性规划。我们目前的理论统计保证我们的方法,通过连接到非参数假设检验,和数值性能,包括参数校准和下游决策和风险评估任务。
2021-02-03 math.OC stat.ME
Valid uncertainty quantification about the model in a linear regression setting
在科学应用中,经常有几个相互竞争的模型可以拟合观测数据,因此量化模型的不确定性是至关重要的。在本文中,我们开发了一个推理模型(IM)的方法,同时有效的概率推理在一个集合的断言的兴趣,而不需要任何事先输入。我们的建设保证的方法是最佳的意义上说,它是最有效的。IM的同时有效性和后选择推理之间的连接。我们应用一般的结果,以获得有效的不确定性量化的预测变量的集合被包括在一个线性回归模型。
2016-06-06 math.ST stat.ME stat.TH
Optimal Uncertainty Quantification on moment class using canonical moments
通过考虑污染计算机代码输入的所有不确定性来源,我们获得了风险度量量化的鲁棒性。我们评估的最大分位数一类分布只定义的约束,他们的时刻。该方法是基于规范矩的理论,这似乎是一个非常适合的框架,用于实际优化。
2018-11-30 math.ST stat.AP stat.CO
PoissonRatioUQ: An R package for band ratio uncertainty quantification
University of Colorado Boulder(科罗拉多大学博尔德分校)
该研究提出一个 R 包,用于处理计数比的贝叶斯建模和不确定性量化,核心方法基于假设感兴趣量是泊松均值的比值而非计数比值,并提供了多种获取该量的方法,包括有空间信息和无空间信息的情况,同时增加了对形式为 $Z=(mT+z_0)^{p}$ 的问题的不确定性量化能力。
2026-06-04 physics.data-an stat.CO stat.ME