Global Estimation of Neonatal Mortality using a Bayesian Hierarchical Splines Regression Model
近年来,监测儿童死亡率的重点主要是评估五岁以下儿童死亡率的变化。然而,随着五岁以下幼儿死亡率的下降,新生儿死亡率(第一个月内)的比例趋于上升,因此,除了五岁以下幼儿死亡率之外,还需要加强监测这一指标的努力。贝叶斯样条回归模型估计新生儿死亡率(NMR)的所有国家。在该模型中,对死亡率和五岁以下儿童死亡率之间的关系进行了评估,并用于提供估计数,而样条回归模型则用于掌握具体国家的趋势。因此,由此产生的死亡率估计数纳入了总体儿童死亡率的趋势,同时也捕捉了数据驱动的趋势。该模型使用联合国儿童死亡率估算机构间小组的数据库,对195个国家进行了拟合,产生了从1990年到2015年的估计数,如果有数据的话,估计数可以更早。结果表明,在全球一级,五岁以下幼儿死亡率超过每1 000名活产死亡34人,五岁以下幼儿死亡率每增加1%,五岁以下幼儿死亡率与五岁以下幼儿死亡率的比率就会下降0.6%。在五岁以下幼儿死亡率为每1 000名活产死亡34人以下的情况下,五岁以下幼儿的新生儿死亡率保持在54%左右,但是,五岁以下幼儿死亡率与死亡率之间的关系因国家而异。联合国儿童死亡率估算机构间小组现已采用这一模式。
2016-12-12 stat.AP
Multivariate Bayesian Last Layer for Regression with Uncertainty Quantification and Decomposition
Université Paris Saclay(巴黎萨克雷大学);CEA LIST(法国原子能和替代能源委员会LIST研究所);CEA(法国原子能和替代能源委员会)
本文提出了一种多变量回归中的贝叶斯最后层模型,通过EM算法实现参数学习,能够分离不确定性并增强神经网络的不确定性感知能力。
2026-01-30 cs.LG stat.ML
Bayesian Uncertainty Quantification for Low-Rank Matrix Completion
我们考虑未知低秩矩阵$\mathbf{X}$的不确定性量化问题,给出了其条目的部分和噪声观测。这种不确定性的量化对于许多现实问题至关重要,包括图像处理,卫星成像和地震学,为验证科学结论和指导决策提供了原则性框架。然而,现有的文献主要集中在完成(即,点估计)的矩阵$\mathbf{X}$,几乎没有工作调查其不确定性。为此,我们在这项工作中提出了一个新的贝叶斯建模框架,称为BayeSMG,参数化未知的$\mathbf{X}$通过其底层的行和列子空间。这种贝叶斯子空间参数化使得能够在矩阵子空间上进行有效的后验推理,这在许多应用中代表了可解释的现象。然后可以利用这一点来改善基质回收。我们证明了BayeSMG的有效性,现有的贝叶斯矩阵恢复方法在数值实验中,图像修复,和地震传感器网络应用。
2022-03-25 stat.ME
Uncertainty Quantification for Bayesian Optimization
针对贝叶斯优化输出不确定性量化研究不足的问题,本文提出通过构建目标函数极值的置信域评估不确定性的方法,依托新推导的序贯高斯过程回归一致误差界保证置信水平,为各类采样策略和停止准则提供统一量化框架。
2023-05-05 math.ST stat.ML stat.TH
Bayesian meta learning for trustworthy uncertainty quantification
Virginia Tech(弗吉尼亚理工大学)
本文研究具有可信不确定性量化的贝叶斯回归问题,提出了一种无需先验假设的贝叶斯元学习优化框架Trust-Bayes,刻画了概率下界与样本复杂度,并通过高斯过程回归的Monte Carlo模拟验证了其有效性。
2024-07-27 cs.LG cs.SY eess.SY
Bayesian deep learning framework for uncertainty quantification in high dimensions
Pohang University of Science and Technology (POSTECH)(浦项科技大学)
提出了一种基于贝叶斯神经网络(BNN)和哈密顿蒙特卡罗(HMC)的随机偏微分方程不确定性量化深度学习方法。BNN通过对网络参数执行贝叶斯推断来有效地学习深度神经网络中参数的后验分布。利用HMC对系统的后验分布进行有效采样,以量化系统中的不确定性。数值算例表明,在高维的正问题和反问题的不确定性量化所提出的方法的有效性。这些也显示出有希望的结果,计算成本几乎是独立的维度的问题,展示了潜在的方法,用于解决所谓的灾难的维度。
2022-10-21 cs.AI cs.LG stat.ML
Bayesian quantification for coherent anti-Stokes Raman scattering spectroscopy
提出了一种分析相干反斯托克斯拉曼散射(CARS)光谱的贝叶斯统计模型。我们的定量分析包括组成的线形参数的统计估计,潜在的拉曼信号,误差校正的CARS光谱,和测量的CARS光谱。因此,这项工作能够在CARS光谱的背景下进行广泛的不确定性量化。此外,我们提出了一种无监督的方法,用于提高拉曼光谱的光谱分辨率,需要很少或没有\textit{a priori}信息。最后,最近提出的小波棱镜的方法来纠正CARS中的实验文物是通过使用插值技术的小波增强。该方法使用CARS光谱的腺苷单,二,和三磷酸在水中,以及,等摩尔的水溶液的D-果糖,D-葡萄糖,和他们的二糖组合蔗糖进行验证。
2020-05-14 stat.AP
A Physics Based Surrogate Model in Bayesian Uncertainty Quantification involving Elliptic PDEs
针对含线性椭圆偏微分方程正演映射的贝叶斯反问题计算成本高的问题,提出基于物理的代理模型,证明后验分布一致性,实验显示其将计算时间从数月缩至数分钟且精度损失极小。
2023-12-14 stat.ME
Uncertainty Quantification With Noise Injection in Neural Networks: A Bayesian Perspective
本文从贝叶斯视角建立噪声注入与不确定性量化的联系,提出蒙特卡洛噪声注入方法,在训练时注入噪声、推断时多次前向传播,实验证明其性能优于基线模型。
2025-04-24 cs.LG stat.ML
Variable Selection with Rigorous Uncertainty Quantification using Deep Bayesian Neural Networks: Posterior Concentration and Bernstein-von Mises Phenomenon
Google Research(谷歌研究院);Harvard University(哈佛大学)
该工作为深度贝叶斯神经网络(BNN)是一种具有严格不确定性量化的高维变量选择的有效工具这一事实提供了严格的理论基础。我们开发了新的贝叶斯非参数定理,以表明正确配置的深度BNN(1)在高维中有效地学习变量重要性,其学习率有时可以“打破”维数灾难。(2)BNN对变量重要性的不确定性量化是严格的,在这个意义上,它对变量重要性的95%可信区间确实覆盖了95%的时间的真相(即,Bernstein-von Mises(BvM)现象。理论结果提出了一种简单的基于BNN可信区间的变量选择算法。大量的模拟证实了理论研究结果,并表明,该算法优于现有的经典和基于神经网络的变量选择方法,特别是在高维。
2019-12-03 cs.LG stat.ML
Scalable Bayesian uncertainty quantification in imaging inverse problems via convex optimization
提出了一种大规模成像逆问题的贝叶斯不确定性量化方法。我们的方法适用于所有的贝叶斯模型是对数凹,最大后验概率(MAP)估计是一个凸优化问题。该方法是一个框架,用于分析MAP估计中观察到的特定结构的置信度(例如,医学成像中的病变,天文成像中的天体来源),以便能够将它们用作证据,为决策和结论提供信息。准确地说,根据贝叶斯决策理论,我们试图通过执行贝叶斯假设检验来断言仔细检查下的结构,该贝叶斯假设检验如下进行:首先,它假设结构不存在于真实图像中,然后试图使用数据和先验知识以高概率拒绝该原假设。计算成像问题的这种测试通常是非常困难的,因为涉及的高维数。这项工作的一个主要特点是利用概率集中现象和底层凸几何制定贝叶斯假设检验作为一个凸问题,我们然后有效地解决了使用可扩展的优化算法。这允许缩放到其他贝叶斯计算方法在计算上无法负担的高分辨率和高灵敏度成像问题。我们说明了我们的方法,称为BUQO(贝叶斯不确定性量化优化),在一系列具有挑战性的傅立叶成像问题在天文学和医学。
2018-11-06 astro-ph.IM stat.ME
Geometry-Aware Bayesian Quantification via Compositional Data Analysis
Istituto di Scienza e Tecnologie dell’Informazione Consiglio Nazionale delle Ricerche(国家研究委员会信息科学与技术研究所);Artificial Intelligence Center University of Oviedo(奥维耶多大学人工智能中心)
研究适应标签转移中估计目标标签分布问题,基于对数比率表示和艾奇逊几何引入几何感知KDE模型及收缩正则化,推导点估计和贝叶斯推理程序,实验表明该方法有竞争力。
2026-07-07 cs.LG stat.ML
Surrogate-Based Bayesian Inference: Uncertainty Quantification and Active Learning
Boston University(波士顿大学)
本文综述了代理模型在贝叶斯推断中的应用,重点探讨了代理不确定性传播和主动学习在提升鲁棒性中的作用,为从业者和方法开发者提供统一框架。
2026-03-13 stat.ME
Fully Bayesian Spectral Clustering and Benchmarking with Uncertainty Quantification for Small Area Estimation
Department of Statistics and Data Science, University of California, Davis(加州大学戴维斯分校统计与数据科学系)
本文提出了一种基于频谱聚类的贝叶斯模型,用于小区域估计,通过引入条件后验均方误差来量化不确定性,并通过模拟和案例研究验证了其有效性。
2026-10-14 stat.ME stat.ML
Quality of Uncertainty Quantification for Bayesian Neural Network Inference
Harvard University(哈佛大学);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心)
贝叶斯神经网络(BNN)在神经网络中的参数上放置先验。然而,BNN的推理是困难的; BNN的所有推理方法都是近似的。在这项工作中,我们经验比较的质量预测不确定性估计的10个常见的推理方法回归和分类任务。我们的实验表明,常用的指标(例如测试对数似然)可能会产生误导。我们的实验还表明,设计用于捕获后验结构的推理创新不一定会产生高质量的后验近似。
2019-06-24 cs.LG stat.ML
Bayesian Modeling and Computation for Analyte Quantification in Complex Mixtures Using Raman Spectroscopy
在这项工作中,我们提出了一个两阶段的算法贝叶斯建模和计算的基础上,旨在量化分析物的浓度或数量的复杂混合物与拉曼光谱。建立了用于光谱信号分析的多层贝叶斯模型,并采用可逆跳马尔可夫链蒙特卡罗(RJMCMC)计算方法进行模型选择和光谱变量估计。处理分两个阶段进行。在第一阶段中,学习目标分析物光谱的峰表示。在第二阶段中,从第一阶段学习的峰值变量用于估计混合物中目标分析物的浓度或量。数值实验验证了它的量化性能在广泛的模拟条件下,并建立了其优势,分析物定量任务下的小训练样本量制度比传统的多元回归算法。我们还使用我们的算法来分析收集的实验自发拉曼光谱数据,用于生物制药过程监测应用中的葡萄糖浓度估计。我们的工作表明,该算法可以成为基于拉曼光谱的混合物定量研究中传统多元回归算法的一个有前途的补充工具,特别是当收集高质量的大型训练数据集具有挑战性或资源密集型时。
2018-05-20 physics.data-an stat.AP
Understanding the Trade-offs in Accuracy and Uncertainty Quantification: Architecture and Inference Choices in Bayesian Neural Networks
School of Mathematics and Maxwell Institute for Mathematical Sciences, University of Edinburgh(数学系和Maxwell数学科学研究所,爱丁堡大学)
针对贝叶斯神经网络后验近似的准确率与不确定性量化权衡问题,本文对比MCMC与变分推理的特性及架构影响,验证了变分近似堆叠与集成可低成本实现与MCMC相当的准确率,且不确定性量化更优。
2025-06-17 cs.LG stat.ME stat.ML
Posterior Quantification of Borrowing from Multiple Historical Control Data in Bayesian Dynamic Borrowing Methods: A Scoping Review
Tokyo University of Science(东京科学大学);University of Tsukuba(筑波大学)
本文通过范围综述,聚焦贝叶斯动态借用方法中从多个历史对照借用的后验量化,区分了整体和源级别的借用度量,并通过案例展示了不同方法在借用总量和源特异性模式上的差异。
2026-05-26 stat.AP stat.ME
Generalized Bayesian Inference using the Bayesian Bootstrap for Survival Models
The University of Sydney(悉尼大学);Kids Research Institute, The Children’s Hospital at Westmead(西梅德儿童医院儿童研究所)
本文提出结合贝叶斯自助法与广义贝叶斯更新的生存分析贝叶斯方法,可稳健量化不确定性、整合先验信息,已开发Cox比例风险模型框架并通过模拟与实际数据验证,对应开源R包为BayesBoots。
2026-09-09 stat.AP stat.ME
Uncertainty Quantification for Bayesian CART
这项工作提供了新的见解贝叶斯CART的背景下,结构化小波收缩。主要的主旨是开发一个正式的推理框架贝叶斯树为基础的回归。我们重新构建贝叶斯CART作为一个g-型先验,从典型的小波产品先验利用相关引起的树拓扑结构。在回归模型中,实际使用的贝叶斯CART先验在上确界范数下可获得自适应的近率极大极小后验集中。针对不确定性量化的基本目标,在自相似条件下,构造了具有均匀覆盖的回归函数的自适应置信带。此外,我们表明,树后验使最佳推理的形式,有效的信心集光滑的回归函数。
2021-05-24 math.ST stat.TH
NeuralSurv: Deep Survival Analysis with Bayesian Uncertainty Quantification
Imperial College London(帝国学院伦敦分校);University of Copenhagen(哥本哈根大学)
NeuralSurv通过贝叶斯不确定性量化提升深度生存分析的校准性能,结合新颖的数据增强方案和高效变分算法,在合成和真实数据中均表现出优越的模型性能。
2025-11-05 cs.LG stat.ML
Seismic Bayesian evidential learning: Estimation and uncertainty quantification of sub-resolution reservoir properties
我们提出了一个框架,使估计低维次分辨率储层属性直接从地震资料,而不需要解决一个高维地震逆问题。我们的工作流程基于贝叶斯证据学习方法,并利用学习地震资料和储层性质之间的直接关系来有效地估计储层性质。我们开发的理论框架允许将非线性统计模型用于地震估计问题。使用近似贝叶斯计算进行不确定性量化。借助一个估算次分辨率薄砂岩储层中储层净总饱和度和平均流体饱和度的综合实例,展望了无监督和监督学习方法在地震估算问题中的适用性。最后,我们通过使用三维叠前地震资料估计来自海上三角洲数据集的亚分辨率薄砂岩储层中储层净对总的后验不确定性来证明我们的方法的有效性。
2019-05-14 physics.geo-ph stat.ML
Contributed Discussion to Bayesian Solution Uncertainty Quantification for Differential Equations
我们首先介绍了讨论中的文件的主要思想,我们给出了一个简短的描述所提出的方法。接下来,我们讨论了一种基于B样条展开的替代方法,最后我们对该方法的收敛速度做了一些评论。
2016-11-17 math.ST stat.TH
Hierarchical Bayesian Modeling for Time-Dependent Inverse Uncertainty Quantification
本文提出一种新型分层贝叶斯模型,结合高斯过程、主成分分析与神经网络构建代理模型,利用NUTS实现高效后验采样,有效解决了核热工水力系统时变反问题不确定性量化,显著提升了参数估计精度并降低了过拟合倾向。
2024-03-26 stat.AP
Hierarchical Bayesian Modeling for Uncertainty Quantification and Reliability Updating using Data
本文提出分层贝叶斯建模框架,利用数据同时处理静态与动态背景下的多源不确定性,在线性和动力学结构模型中实现高效的不确定性量化与可靠度更新。
2024-12-29 stat.ME
Partial Trace-Class Bayesian Neural Networks
School of Mathematics University of Edinburgh(数学学院爱丁堡大学)
针对贝叶斯神经网络计算成本高的问题,提出三种部分迹类贝叶斯神经网络架构,通过减少贝叶斯参数数量,在保持不确定性量化能力的同时显著提升计算与统计效率。
2025-11-03 cs.LG stat.ME stat.ML
Bayesian Data Synthesis and Disclosure Risk Quantification: An Application to the Consumer Expenditure Surveys
发布根据数据估算的模型生成的合成数据有助于统计机构传播具有高度实用性和隐私保护的答卷人数据。在美国劳工统计局的消费者支出调查(CE)中传播包含地理信息的敏感变量的挑战,我们提出了两个非参数贝叶斯模型作为每个数据记录的县标识符的数据合成器:贝叶斯潜在类模型和贝叶斯面积模型。这两种数据合成器都使用Dirichlet Process先验来聚类具有相似特征的观测值,并允许在观测值之间借用信息。我们开发了创新的披露风险措施,以量化CE机密数据中的固有风险,以及我们提出的合成器如何改善这些数据风险。通过分别在最小和最大披露风险情景下创建披露风险的下限和上限,我们提出的固有风险度量提供了一系列可接受的披露风险,用于评估合成数据集中的风险水平。
2021-02-02 stat.AP
Dynamical System Identification, Model Selection and Model Uncertainty Quantification by Bayesian Inference
本研究提出了一种用于动力学系统辨识的贝叶斯MAP框架,等价于广义Tikhonov正则化,并证明其后验高斯范数为不同系统和噪声模型下的定量模型选择提供了稳健度量。
2024-07-22 nlin.CD stat.ME stat.ML
Uncertainty Quantification for nonparametric regression using Empirical Bayesian neural networks
我们提出了一种新的,两步经验贝叶斯类型的神经网络的方法。我们表明,在上下文中的非参数回归模型的程序(对数因子)提供了最佳的恢复感兴趣的基本功能参数,并提供贝叶斯可信的频率覆盖保证集。该方法只需拟合神经网络一次,因此比Bootstrapping类型的方法快得多。我们证明了我们的方法在合成数据,观察良好的估计性能和可靠的不确定性量化的适用性。
2022-04-28 math.ST stat.TH
Batch simulations and uncertainty quantification in Gaussian process surrogate approximate Bayesian computation
Department of Biostatistics, University of Oslo(奥斯陆大学生物统计系);Helsinki Institute for Information Technology HIIT, Department of Computer Science, Aalto University(赫尔辛基信息技术研究所,阿尔托大学计算机科学系)
近似贝叶斯计算(ABC)的计算效率已被提高,通过使用代理模型,如高斯过程(GP)。在这样一个有前途的框架模拟和观察到的数据之间的差异建模与GP,这是进一步用于形成一个基于模型的估计难以处理的后验。在本文中,我们将从几个方面改进这种方法。我们开发了批序贝叶斯试验设计策略,并行化昂贵的模拟。在早期的工作中,只使用了顺序策略。目前基于替代的ABC方法也没有充分考虑到由于模拟预算有限而导致的不确定性,因为它们仅输出ABC后验的点估计。我们提出了一种数值方法来充分量化的不确定性,例如,ABC后验矩。我们还提供了一些新的分析GP建模的假设,在由此产生的改进框架称为贝叶斯ABC,并讨论其连接到贝叶斯正交(BQ)和贝叶斯优化(BO)。玩具和现实世界的仿真模型的实验证明了所提出的技术的优势。
2020-08-06 cs.LG stat.CO stat.ME
Generation and analysis of synthetic data via Bayesian networks: a robust approach for uncertainty quantification via Bayesian paradigm
本文提出基于完全贝叶斯范式的 Bayesian networks 合成数据生成与分析方法,利用后验预测分布、Monte Carlo 算法和惩罚先验实现可靠的不确定性量化。
2024-03-01 stat.ME
Bayesian multi--dipole localization and uncertainty quantification from simultaneous EEG and MEG recordings
我们处理估计多个偶极子从组合MEG和EEG时间序列。我们使用顺序蒙特卡罗算法来表征后验分布的偶极子的数量和它们的位置。通过考虑三个测试案例,我们表明,使用组合数据的方法可以本地化的来源,不容易(或根本不)单独与两个单独的数据可见。此外,来自组合数据的后验分布显示出比来自单个器械的后验分布更低的方差,即更低的不确定性。
2017-06-19 q-bio.QM stat.AP
Bayesian Deep Convolutional Encoder-Decoder Networks for Surrogate Modeling and Uncertainty Quantification
University of Notre Dame(圣母大学)
我们感兴趣的是开发代理模型,用于不确定性量化和随机偏微分方程控制的问题的传播,使用深度卷积编码器-解码器网络,其方式与深度学习中考虑的图像到图像回归任务的方法类似。由于普通神经网络是数据密集型的,不能提供预测的不确定性,我们提出了一种卷积神经网络的贝叶斯方法。最近引入的基于Stein方法的变分梯度下降算法被扩展到深度卷积网络,以对数百万个不确定的网络参数执行近似贝叶斯推断。与贝叶斯神经网络中的其他方法以及包括高斯过程和集成方法的技术相比,即使当训练数据大小相对较小时,该方法也在预测准确性和不确定性量化方面实现了最先进的性能。为了评估这种方法的性能,我们考虑标准的不确定性量化基准问题,包括在有限的数据驱动的渗透率实现方面定义的非均匀介质中的流动。代理模型开发的性能是非常好的,即使有没有基本的结构之间共享的输入(渗透率)和输出(流量/压力)字段,通常是在计算机视觉问题中使用的图像到图像的回归模型的情况下。研究的基础随机输入维数高达$4,225$,其中大多数其他不确定性量化方法失败。不确定性传播任务被认为是预测输出贝叶斯统计相比,与蒙特卡洛估计。
2018-01-21 cs.CV cs.LG physics.comp-ph
Uncertainty quantification of molecular property prediction using Bayesian neural network models
KAIST(韩国科学技术院);Seoul National University(首尔国立大学);KAIST Institute for Artificial Intelligence(韩国科学技术院人工智能研究所)
在化学领域,深度神经网络模型越来越多地用于各种应用,如分子性质预测、新型分子设计和规划化学反应。尽管最先进的模型和算法的使用迅速增加,但深度神经网络模型在实际应用中的预测效果往往很差,因为模型性能高度依赖于训练数据的质量。在分子分析领域,数据大多来自复杂的化学实验或近似的数学方程,数据的质量可能受到质疑,本文将贝叶斯神经网络用于分子性质预测,量化预测的不确定性。我们估计模型驱动和数据驱动的不确定性,证明了有用的不确定性量化作为质量检查和置信度指标与三个实验。我们的研究结果表明,不确定性量化是必要的,更可靠的分子应用和贝叶斯神经网络模型可以是一个实用的方法。
2018-11-19 cs.LG physics.chem-ph stat.ML
BOB: Bayesian Optimized Bootstrap for Uncertainty Quantification in Gaussian Mixture Models
针对高斯混合模型中标准MCMC后验采样计算难度大、加权自助法随机权重难选的问题,提出贝叶斯优化自助法BOB,通过贝叶斯优化自动选权以最小化反向KL散度,实现更优的后验还原与不确定性量化。
2024-05-17 stat.CO stat.ME
Bayesian Hidden Physics Models: Uncertainty Quantification for Discovery of Nonlinear Partial Differential Operators from Data
GE Research(通用电气研究中心)
关于物理学,数据告诉了我们什么,它们没有告诉我们什么?人们对使用机器学习模型从数据中发现微分方程等支配性物理定律的兴趣激增,但目前的方法缺乏不确定性量化来传达其可信度。这项工作从贝叶斯的角度解决了这个缺点。我们介绍了一种新的模型,包括“叶”模块,学习代表不同的实验的时空功能数据作为神经网络和一个单一的“根”模块,表示其管理的非线性微分算子作为高斯过程的非参数分布。自动微分用于从叶函数计算所需的偏导数作为根的输入。我们的方法量化的可靠性的学习物理学的后验分布在运营商和传播这种不确定性的解决方案的新的初边值问题的实例。数值实验证明了该方法对几个非线性偏微分方程。
2020-06-07 cs.LG stat.ML
Bayesian Optical Flow with Uncertainty Quantification
Clarkson University(克拉克森大学)
光流是指在两个连续图像之间观察到的视觉运动。由于自由度通常比图像观测所施加的约束大得多,因此光流作为逆问题的直接公式化是不适定的。确定光流的标准方法依赖于公式化和求解包含数据保真度项和正则化项的优化问题,后者有效地解决了逆问题的不适定性。在这项工作中,我们离开了确定性的形式主义,而不是把光流作为一个统计逆问题。我们讨论了如何一个经典的光流解决方案可以被解释为一个点估计在这个更一般的框架。统计方法,其“解决方案”是流场的分布,我们称之为贝叶斯光流,不仅允许“点”估计(例如,平均流场的计算),而且统计估计(例如,不确定性的量化),其超出了用于光流的任何标准方法。作为应用,我们基准贝叶斯光流一起使用几种类型的规定地面实况流场和图像的不确定性量化。
2018-08-20 cs.CV physics.data-an stat.ML
Reliable Bayesian Inference in Misspecified Models
我们提供了一个通用的解决方案,在贝叶斯推断,即穷人的不确定性量化,从频率的角度来看,贝叶斯方法在错误指定的模型中的一个基本的开放问题。虽然现有的解决方案是基于显式高斯近似的后验,或计算繁重的后处理程序,我们证明了正确的不确定性量化可以通过用直观的近似后验替换通常的后验来实现。重要的是,我们的解决方案是适用于基于似然性,和广义,后验以及情况下的可能性是棘手的,必须估计。我们正式证明了我们所提出的方法的可靠的不确定性量化,并表明有效的不确定性量化是不是一个渐近的结果,但即使在小样本。我们通过一系列的例子来说明这种方法,包括线性,广义,混合效应模型。
2023-02-13 math.ST stat.CO stat.ME
Bayesian autoencoders with uncertainty quantification: Towards trustworthy anomaly detection
University of Cambridge(剑桥大学)
尽管针对无监督异常检测的深度自动编码器(AE)进行了大量研究,但AE仍然缺乏表达其预测不确定性的方法,这对于确保高风险应用中安全可靠的机器学习系统至关重要。因此,在这项工作中,贝叶斯自动编码器(BAE)的制定采用量化的总异常的不确定性,包括认知和任意的不确定性。为了评估不确定性的质量,我们考虑了异常分类的任务,并附加了拒绝高不确定性预测的选项。此外,我们使用的精度拒绝曲线,并提出加权平均精度作为性能指标。我们的实验证明了BAE和总异常不确定性对一组基准数据集和两个真实的制造数据集的有效性:一个用于状态监测,另一个用于质量检测。
2022-02-25 cs.LG stat.ML
A deep-learning based Bayesian approach to seismic imaging and uncertainty quantification
Georgia Institute of Technology(佐治亚理工学院)
不确定性量化是必不可少的,当处理病态的反问题,由于固有的非唯一性的解决方案。贝叶斯方法允许我们通过公式化后验分布来确定未知参数的估计的可能性。不幸的是,通常不可能用公式表示一个先验分布,它精确地编码了我们关于未知的先验知识。此外,坚持手工制作的先验可能会极大地偏倚贝叶斯分析的结果。为了解决这个问题,我们建议使用随机初始化的卷积神经网络的函数形式作为隐式结构化先验,这被证明可以促进自然图像并排除具有非自然噪声的图像。为了将模型的不确定性纳入最终估计,我们使用随机梯度Langevin动力学对后验分布进行采样,并对获得的样本进行贝叶斯模型平均。我们的合成数值实验验证了深度先验与贝叶斯模型平均相结合能够部分规避成像伪影并降低极端噪声存在下过拟合的风险。最后,我们提出了逐点方差的估计作为衡量的不确定性,这与更难以成像的区域相吻合。
2020-01-15 cs.LG physics.geo-ph stat.ML
Comments on "Bayesian Solution Uncertainty Quantification for Differential Equations" by Chkrebtii, Campbell, Calderhead & Girolami
University of Warwick(华威大学);Imperial College London(伦敦帝国学院)
本文讨论了概率数值方法中先验建模的未来研究方向,强调了在不确定性量化中需深入考虑的先验模型问题。
2016-10-21 cs.NA math.NA stat.CO
Scaling Up Bayesian Uncertainty Quantification for Inverse Problems using Deep Neural Networks
由于不确定性量化(UQ)的重要性,贝叶斯反问题方法近年来在应用数学、物理和工程领域得到了广泛的应用。然而,传统的贝叶斯推理方法基于马尔可夫链蒙特卡罗(MCMC)往往是计算密集型和效率低下的高维问题。为了解决这个问题,已经提出了几种基于代理模型的方法来加快推理过程。更具体地说,校准仿真采样(CES)计划已被证明是成功的,在大尺寸的UQ问题。在这项工作中,我们提出了一种新的CES方法的贝叶斯推断的基础上,深神经网络模型的仿真阶段。由此产生的算法在计算上更有效,并且对训练集中的变化更鲁棒。此外,通过使用自动编码器(AE)的降维,我们已经能够加快我们的贝叶斯推断方法高达三个数量级。总的来说,我们的方法,此后称为\emph{Dimension-Reduced Emulative Autoencoder Monte Carlo (DREAMC)}算法,是能够规模贝叶斯UQ高达数千维的逆问题。使用两个低维(线性和非线性)反问题,我们说明了这种方法的有效性。接下来,我们将我们的方法应用到两个高维数值例子(椭圆和对流-微分),以证明其计算优势,现有的算法。
2022-04-25 stat.CO stat.ML
Bayesian Uncertainty Quantification for Systems Biology Models Parameterized Using Qualitative Data
动机:最近的工作已经证明了使用非数值的定性数据来参数化数学模型的可行性。然而,这种参数化模型的不确定性量化(UQ)仍然是具有挑战性的,因为缺乏一个统计解释的优化中使用的目标函数。结果如下:我们制定了似然函数适用于使用定性数据或定性和定量数据的组合进行贝叶斯UQ。为了证明所得到的UQ能力,我们使用合成的定性和定量数据集分析了IgE受体信号传导的已发表模型。值得注意的是,来自定性数据的参数值的估计值与来自较低通量定量数据的估计值几乎一致。这些结果为在生物建模中利用定性数据提供了进一步的动力。供货情况:这里介绍的似然函数是在PyBioNetFit的新版本中实现的,PyBioNetFit是一个用于分析SBML和BNGL格式模型的开源应用程序,可在www.example.com在线获得www.github.com/lanl/PyBNF。
2019-08-30 q-bio.QM stat.ME
Data-Driven Uncertainty Quantification and Propagation in Structural Dynamics through a Hierarchical Bayesian Framework
在存在建模误差的情况下,主流贝叶斯方法通常低估了参数的固有变异性,因此很少对不确定性进行真实的描述。这个问题不是由于贝叶斯框架中的任何误解,因为它相对于建模假设和观察到的数据是绝对鲁棒的。相反,这个问题的根源在于用户无法开发适当的概率模型。本文弥合了这一重大差距,引入了一种新的贝叶斯分层设置,打破了时间历史的振动响应到几个部分,以捕捉和识别多个部分的推断参数的变异性。由于计算的后验分布在分层模型是昂贵和繁琐的,新的边缘化策略,渐近近似,和最大后验估计提出和概述的计算算法,旨在处理不确定性量化和传播任务。首次通过近似估计刻画了总体协方差阵与超分布参数之间的联系。实验和数值例子来说明所提出的方法的有效性和效率。据观察,当段对应于各种系统条件和输入特性,所提出的方法提供了强大的参数不确定性,如环境条件,输入特性和环境因素的未知现象。
2019-12-06 stat.AP
Data-driven inverse uncertainty quantification: application to the Chemical Vapor Deposition Reactor Modeling
University of Luxembourg(卢森堡大学);Luxembourg Institute of Science and Technology(卢森堡科学与技术研究所);Johns Hopkins University(约翰斯·霍普金斯大学);CERATIZIT Luxembourg S.à r.l.(CERATIZIT 卢森堡有限公司);CERATIZIT Austria GmbH(CERATIZIT 奥地利有限公司);School of Chemical Engineering, National Technical University of Athens(雅典国立技术大学化学工程学院)
本文提出基于XGBoost代理模型的贝叶斯框架,用于化学气相沉积反应器中参数估计与不确定性量化,通过整合聚类方法提升工业过程控制的鲁棒性。
2025-12-15 stat.AP stat.OT
Density Regression and Uncertainty Quantification with Bayesian Deep Noise Neural Networks
University of Pennsylvania(宾夕法尼亚大学);Purdue University(普渡大学);University of Michigan(密歇根大学)
深度神经网络(DNN)模型在广泛的监督学习应用中实现了最先进的预测精度。然而,准确量化DNN预测中的不确定性仍然是一项具有挑战性的任务。对于连续的结果变量,一个更困难的问题是估计预测密度函数,它不仅提供了预测不确定性的自然量化,而且还完全捕获了结果中的随机变化。在这项工作中,我们提出了贝叶斯深度噪声神经网络(B-DeepNoise),它通过将随机噪声变量从输出层扩展到所有隐藏层来推广标准贝叶斯DNN。潜在的随机噪声使B-DeepNoise能够灵活地近似高度复杂的预测分布,并准确量化预测的不确定性。对于后验计算,B-DeepNoise的独特结构导致了一种封闭形式的Gibbs采样算法,该算法从模型参数的后验全条件分布迭代模拟,从而规避了计算密集型Metropolis-Hastings方法。B-DeepNoise的理论分析建立了预测分布的递归表示,并分解了关于潜在参数的预测方差。我们在基准回归数据集上对B-DeepNoise与现有方法进行了评估,证明了其在预测精度、不确定性量化精度和不确定性量化效率方面的卓越性能。为了说明我们的方法在科学研究中的有用性,我们在青少年大脑认知发展(ABCD)项目中应用B-DeepNoise来预测神经成像特征的一般智力。
2022-06-12 cs.LG stat.ML
Bayesian Solution Uncertainty Quantification for Differential Equations
我们探讨了概率建模的离散化不确定性的系统状态定义隐含的普通或偏微分方程。考虑到这种不确定性,可以避免后覆盖不足时,似然构造从一个粗略的离散近似系统方程。提出了一种形式主义的推断一个固定的,但先验未知的模型轨迹,通过贝叶斯更新的先验过程条件的模型信息。一个一步前进的采样方案询问模型,其一致性和一阶收敛性证明,其计算复杂性是成正比的数值显式一步求解器。例子说明了这个框架的灵活性,以处理各种各样的复杂和大规模的系统。在校准问题中,离散化不确定性定义了贝叶斯层次结构中的一层,并提出了一种针对该后验分布的马尔可夫链蒙特卡罗算法。这种形式主义是用于推理的JAK-STAT延迟微分方程模型的蛋白质动力学间接观察到的测量。讨论概述了新领域的概率数值的影响。
2016-10-23 stat.ME
Aitchison Geometry on the Simplex for Uncertainty Quantification in Bayesian Hyperspectral Image Unmixing
IMT Atlantique(大西洋高等理工学院);INRIA ODYSSEY team-project(法国国家信息与自动化研究所奥德赛项目组)
本文提出利用Aitchison几何为超分辨率图像解混提供替代的先验丰度分布建模工具,通过设计简单集值高斯过程先验并提出符合丰度向量约束的不确定性诊断方法。
2026-03-25 eess.SP stat.ME
Uncertainty Quantification in Bayesian Clustering
本文提出了一种基于贝叶斯聚类模型的后处理方法,用于生成易于使用、快速计算和直观解释的可信集,并提供新的聚类不确定性度量。
2025-11-20 stat.ME
Uncertainty quantification of molecular property prediction with Bayesian neural networks
KAIST(韩国科学技术院);Seoul National University(首尔国立大学)
深度神经网络在各种分子应用中的表现优于现有的机器学习模型。在实际应用中,由于训练数据的质量和数量不足,导致预测的不确定性,仍然很难做出有信心的决策。在这里,我们表明,贝叶斯神经网络是有用的量化的分子性质预测的不确定性与三个数值实验。特别是,它使我们能够将预测方差分解为模型和数据驱动的不确定性,这有助于阐明错误的来源。在logP预测中,我们发现数据噪声对数据驱动的不确定性的影响比模型驱动的更显著。基于这种分析,我们能够在哈佛清洁能源项目数据集中发现意想不到的错误。最后,我们通过对生物活性和毒性分类问题的研究表明,预测的置信度与预测的不确定性密切相关。
2019-03-20 cs.LG stat.ML
Bayesian inference and uncertainty quantification for image reconstruction with Poisson data
我们提供了一个完整的框架进行无限维贝叶斯推理和不确定性量化图像重建泊松数据。特别是,我们解决以下问题,使贝叶斯框架适用于实践。我们首先引入了一个保正的重参数化,并证明了在重参数化和混合先验下,后验分布在无穷维情况下是适定的。其次,我们提供了一个维度无关的MCMC算法,基于预处理的Crank-Nicolson Langevin方法,其中我们使用一个原始-对偶计划来计算偏移方向。第三,提出了一种结合模型偏差法和极大似然估计的混合先验中正则化参数的确定方法。最后,我们建议使用所获得的后验分布来检测恢复图像中的伪影。我们提供了一个例子来证明所提出的方法的有效性。
2019-10-20 cs.NA math.NA stat.CO
Bayesian Uncertainty Quantification of Local Volatility Model
局部波动率是期权定价、投资组合套期保值和风险管理中的一个重要量。它不能直接从市场上观察到,因此需要使用可观察到的市场数据来校准本地波动模型。与大多数现有的点估计方法不同,我们将大规模非线性逆问题转换为贝叶斯框架,得到局部波动率的后验分布,从而自然地量化其不确定性。这些额外的不确定性信息使交易员和风险管理人员能够做出更好的决策。为了减轻计算成本,我们应用Karhunen-Lücieve展开来降低局部波动率之前的高斯过程的维数。采用一种改进的两阶段自适应Metropolis算法对后验概率分布进行采样,进一步减少了数值型远期期权定价模型求解器的重复性和启发式调整时间带来的计算负担.我们用合成数据和市场数据来证明我们的方法。
2022-05-17 cs.NA math.NA stat.AP
Stable Bayesian Optimisation via Direct Stability Quantification
Center for Pattern Recognition and Data Analytics (PRaDA)(模式识别与数据分析中心(PRaDA));Deakin University(迪肯大学)
在本文中,我们考虑的问题找到稳定的最大值昂贵(评估)的功能。我们的动机是优化物理和工业过程,在某些输入范围内,输入的微小和不可避免的变化会导致输出的不可接受的大变化。我们的方法使用多个梯度高斯过程模型来估计指定输入扰动的最坏情况输出变化超过期望最大值的概率,然后这些概率用于(a)引导优化过程朝向满足我们的稳定性标准的解决方案,以及(b)后滤波结果以找到最佳稳定解决方案。我们展示我们的算法在合成和现实世界的问题,并证明它能够有效地找到稳定的最大值。
2019-02-21 cs.LG stat.ML
Uncertainty Quantification and Propagation in Surrogate-based Bayesian Inference
University of Stuttgart(斯图加特大学);TU Dortmund University(多特蒙德工业大学)
本文提出了一种可扩展的贝叶斯框架,用于代理建模中的不确定性量化与传播,通过三种方法提升对现实世界建模任务中参数估计的可靠性。
2025-02-05 cs.LG stat.ML