Likelihood-free inference with emulator networks
Uber(优步)
近似贝叶斯计算(ABC)提供了在基于模拟的随机模型中进行贝叶斯推断的方法,这些随机模型不允许易处理的可能性。我们提出了一种新的ABC方法,它使用概率神经仿真器网络来学习模拟数据的合成似然性-既有局部仿真器,它近似于特定观测数据的可能性,也有适用于一系列数据的全局仿真器。使用采集函数自适应地选择模拟,该采集函数考虑了感兴趣的后验分布或仿真器参数的不确定性。我们的方法不依赖于用户定义的拒绝阈值或距离函数。我们说明推理与仿真器网络上的合成的例子和生物物理神经元模型,并表明,仿真器允许准确和有效的推理,即使在高维的问题,这是传统的ABC方法的挑战。
2019-05-20 cs.LG stat.ML
Surrogate-Based Bayesian Inference: Uncertainty Quantification and Active Learning
Boston University(波士顿大学)
本文综述了代理模型在贝叶斯推断中的应用,重点探讨了代理不确定性传播和主动学习在提升鲁棒性中的作用,为从业者和方法开发者提供统一框架。
2026-03-13 stat.ME
Bayesian Emulation of Grey-Box Multi-Model Ensembles Exploiting Known Interior Structure
本研究提出一种灰盒多模型集合的贝叶斯仿真方法框架,通过子采样、分而治之和结构化仿真等技术提升物理可解释性与预测准确性,并应用于TNO OLYMPUS井控制优化挑战赛。
2025-05-02 stat.AP stat.ME
Residual Gaussian Process: A Tractable Nonparametric Bayesian Emulator for Multi-fidelity Simulations
Beijing University of Aeronautics and Astronautics(北京航空航天大学);University of Utah(犹他大学);Chongqing University(重庆大学);Beihang University(北京航空航天大学)
多保真度建模中的挑战涉及准确性、不确定性估计和高维性。引入了一种新的添加剂结构,其中最高保真度的解决方案被写为最低保真度的解决方案和在连续的保真度水平的解决方案之间的残差的总和,与高斯过程先验放置在低保真度的解决方案和每个残差。由此产生的模型配备了一个封闭形式的解决方案的预测后,使其适用于先进的,高维的任务,需要不确定性估计。它的优点表现在单变量基准和三个具有挑战性的多变量问题。它示出了如何可以使用主动学习来增强模型,特别是在有限的计算预算。此外,在单变量的情况下,平均预测的误差界。
2021-04-08 cs.CE cs.LG stat.AP
History matching with probabilistic emulators and active learning
多年来,通过计算机模拟,对现实世界过程的科学理解已经大大提高。这样的模拟器表示复杂的数学模型,其被实现为通常昂贵的计算机代码。使用特定模拟器得出准确结论的有效性依赖于计算机代码被正确校准的假设。这种校准程序通常是在广泛的实验和与来自现实世界的过程的数据比较下进行的。问题是,数据收集可能非常昂贵,只有少数实验是可行的。历史匹配是一种校准技术,在给定模拟器的情况下,它使用不可信性度量迭代地丢弃输入空间的区域。当模拟器在计算上是昂贵的时,使用模拟器来探索输入空间。在本文中,一个高斯过程提供了一个完整的概率输出,被纳入不可信性措施。感兴趣的区域的识别是完成最近开发的退火采样技术。主动学习功能被纳入到历史匹配过程中,以重新关注输入空间并改进仿真器。该框架的效率进行了测试,在著名的例子,从历史匹配的文献,以及在一个建议的测试床的功能更高的维度。
2020-04-16 stat.CO
Known Boundary Emulation of Complex Computer Models
计算机模型现在被广泛用于一系列科学学科来描述各种复杂的物理系统,但是要执行完全的不确定性量化,我们通常需要使用仿真器。仿真器是一种快速的统计结构,它模仿复杂的计算机模型,并极大地帮助了严重的科学分析经常需要的计算密集型不确定性量化计算。在某些情况下,对于某些参数设置,复杂模型可以更有效地求解,从而导致输入参数空间中的边界或超平面,其中模型基本上是已知的。我们发现,对于一大类的高斯过程风格的仿真器,多个边界可以正式纳入仿真过程中,贝叶斯更新的仿真器的边界,微不足道的计算成本。由此产生的更新仿真器方程给出解析。这导致仿真器在输入参数空间的大部分上具有增加的精度。我们还描述了用户如何可以将这些边界内的标准黑盒GP仿真软件包,目前可用的,而不改变核心代码。适当的设计模型运行在已知的边界的存在下,然后进行了分析,提出了两种通用的设计。然后,我们应用改进的仿真和设计方法的一个重要的系统生物学模型的激素串扰在拟南芥。
2019-05-03 stat.CO stat.ME
Bayesian Emulation for Computer Models with Multiple Partial Discontinuities
计算机模型被广泛用于一系列科学学科来描述各种复杂的物理系统,但是要执行完全的不确定性量化,我们通常需要使用仿真器。仿真器是一种快速的统计结构,它模仿了评估计算机模型的缓慢过程,并极大地帮助了重要科学分析经常需要的计算密集型不确定性量化计算。我们研究的问题,具有多个,部分不连续性发生在已知的非线性位置的仿真计算机模型。我们引入时态框架,基于精心设计的相关结构,尊重不连续性,同时充分利用任何其他地方的平滑性/连续性。这导致了一个单一的模拟器对象,可以由所有运行同时更新,也用于有效的设计。这种方法避免了必须将输入空间分割成多个子区域。我们将TENSE框架应用于TNO挑战II,模拟奥林巴斯水库模型,该模型具有多个这样的不连续性。
2022-10-19 stat.AP stat.ME stat.ML
A Bayesian Framework for Extrapolative Emulation of Spatially Gridded Simulation Data
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
该研究针对空间网格化模拟数据跨分辨率外推问题,提出贝叶斯模拟器,将像素视为遵循非线性曲线并通过高斯过程先验连接,在合成实验及辐射流体动力学示例中表现良好,可为高保真行为研究提供统计工具。
2026-07-24 stat.ME
Sequential Bayesian experimental design for calibration of expensive simulation models
针对昂贵仿真模型校准效率低的问题,提出一种以学习参数后验密度为目标的序贯贝叶斯实验设计框架,可同时兼顾后验不确定区探索与高后验密度区利用,经多组仿真及核物理反应模型验证有效。
2023-05-25 stat.ME
Multivariate emulation of computer simulators: model selection and diagnostics with application to a humanitarian relief model
我们提出了一个共同的框架贝叶斯仿真方法的多变量输出模拟器,或计算机模型,采用参数线性模型或非参数高斯过程。新型诊断适合多元协方差可分离仿真器的开发和技术,以提高仿真器的充分性进行了讨论和实施。各种仿真器进行比较的人道主义救济模拟器,模拟援助任务后,西西里岛火山爆发和地震,并进行敏感性分析,以确定敏感性的模拟器输出的输入变量的变化。从参数和非参数仿真器的结果进行比较,在预测精度,不确定性量化和科学的可解释性。
2015-11-17 stat.ME
Computational methods for fast Bayesian model assessment via calibrated posterior p-values
针对校准后验预测p值(cppps)计算成本高的问题,提出高效近似方法,通过短MCMC链优化计算权衡、设计方差估计量,在NIMBLE框架实现快速贝叶斯模型评估。
2024-01-30 stat.CO stat.ME
Fast and Locally Adaptive Bayesian Quantile Smoothing using Calibrated Variational Approximations
提出一种贝叶斯分位数趋势滤波方法,利用收缩先验和校准变分近似实现局部自适应的非平稳分位数趋势快速推断,计算效率优于Gibbs采样器且结果稳定。
2023-10-20 stat.ME
Bayesian Calibration for Activity Based Models
我们认为基于活动的交通模拟器的校准和不确定性分析的问题。基于活动的模型(ABM)依赖于对个人旅行者行为的统计建模来预测大都市地区的高阶旅行模式。输入参数通常使用极大似然从旅行者调查中估计。我们开发了一种方法,使用一个高斯过程仿真器来校准这些参数使用交通流数据。我们的方法扩展了传统的仿真器来处理高维和非静态性质的交通模拟器。我们引入了一个深度学习降维模型,该模型与高斯过程模型联合估计以近似模拟器。我们展示了使用几个模拟的例子,以及通过校准的关键参数的布卢明顿,伊利诺伊州模型的方法。
2022-09-05 stat.AP stat.ML
Calibrated Bayesian inference for overall and subgroup-specific causal effects in stepped-wedge cluster-randomized trials
Yale School of Public Health(耶鲁公共卫生学院);University of Florida(佛罗里达大学);Medical College of Wisconsin(威斯康星医科大学)
本研究针对阶梯楔形整群随机试验,开发了校准贝叶斯推断方法,采用模型稳健标准化结合校准方差估计量,在模拟及创伤幸存者试验重分析中验证了其因果效应估计的可靠性。
2026-10-16 stat.ME
Calibrated Generalized Bayesian Inference
Monash University(莫纳什大学);Queensland University of Technology(昆士兰科技大学);University of New South Wales(新南威尔士大学)
本文提出了一种校准的广义贝叶斯推断方法,通过替代后验来实现准确的不确定性量化,适用于多种模型。
2026-03-10 stat.ME
A Gaussian Process Emulator Approach for Rapid Contaminant Characterization with an Integrated Multizone-CFD Model
本文探讨了一种基于高斯过程仿真器的室内环境污染源位置和特性的快速贝叶斯推断方法。在事件前检测阶段,该方法将污染物的瞬态归宿和迁移表示为具有多元高斯过程先验的随机函数。超参数的高斯过程先验推断使用一组污染物的命运和运输模拟运行在预定义的源位置和特性。本文采用一个集成的多区域CFD模型来模拟污染物的归宿和传输。平均值的高斯过程,推断的超参数的条件下,被用来作为计算效率的统计模拟器的多区CFD模拟器。在事件检测阶段,贝叶斯框架是用来推断源的位置和特性,通过传感器网络获得的污染物浓度数据。污染物归宿和迁移的高斯过程模拟器用于马尔可夫链蒙特卡罗采样,以有效地探索源位置和特性的后验分布。所提出的方法的有效性证明了一个假设的污染物释放通过多个来源在一个单层七间房的建筑物。该方法可以准确地推断多个源的位置和特性。使用所提出的方法得到的后验分布,发现同意密切通过直接耦合的多区CFD模拟器与马尔可夫链蒙特卡罗采样得到的后验分布。
2013-05-14 stat.AP
Appraisal of data-driven and mechanistic emulators of nonlinear hydrodynamic urban drainage simulators
Swiss Federal Institute of Aquatic Science and Technology, Eawag(瑞士联邦水科学与技术研究所(Eawag))
许多基于模型的科学和工程方法,如系统辨识、敏感性分析、优化和控制,都需要大量的模型评估。特别是,基于模型的实时控制的城市水基础设施和在线洪水报警系统需要快速预测的网络响应在不同的驱动和/或参数值。一般用途的城市排水模拟器对于这种应用来说太慢了。快速代理模型,即所谓的仿真器,为这种效率需求提供了解决方案。仿真器很有吸引力,因为它们为了速度而牺牲了不必要的准确性。然而,它们必须被微调以令人满意地预测系统行为。此外,一些仿真器无法推断出训练集之外的系统行为。虽然,有许多策略开发仿真器,到目前为止,选择的仿真策略仍然是主观的。因此,在本文中,我们比较了两个家庭的模拟器的性能为明渠流量的背景下,城市排水模拟器。我们比较仿真器,明确使用知识的模拟器的方程,即基于高斯过程的机械仿真器,与纯粹的数据驱动的仿真器使用矩阵分解。我们的研究结果表明,在许多城市应用中,天真的数据驱动的仿真优于机械仿真。然而,我们讨论的场景中,我们认为,机械仿真可能有利于i)外推的时间和ii)处理稀疏和不均匀的采样数据。我们还提供了许多关于机器学习领域进展的参考资料,这些进展尚未渗透到贝叶斯环境科学社区。
2017-02-03 cs.CE cs.LG stat.ME
Calibrated Bayes analysis of cluster-randomized trials
Yale School of Public Health(耶鲁大学公共卫生学院);Rutgers University(罗格斯大学)
本文提出一种校准的贝叶斯方法,用于在群组随机试验中处理模型不恰当情况下的估计量对齐分析。
2026-08-26 stat.ME
FaIRGP: A Bayesian Energy Balance Model for Surface Temperatures Emulation
本文提出贝叶斯能量平衡模拟器 FaIRGP,将数据驱动机器学习灵活性与物理温度响应方程结合,实现可信的全球及空间地表温度模拟和不确定性量化。
2024-03-04 stat.AP stat.ML
Calibrated Bayesian inference for random fields on large irregular domains using the debiased spatial Whittle likelihood
针对空间数据Whittle似然存在偏差的问题,提出基于去偏空间Whittle似然并结合复合似然调整的平稳随机场贝叶斯推断方法,在保持准线性计算时间的同时实现了校准良好的后验,并验证了其有效性。
2025-05-29 stat.ME
Scalable and Calibrated Sampling for Bayesian Generalized Linear Mixed Model via Stochastic Gradient Markov Chain Monte Carlo
Duke University(杜克大学);Universität Bern(伯尔尼大学);University of Miami(迈阿密大学)
本文提出了一种针对广义线性混合模型的随机梯度马尔可夫链蒙特卡洛算法,通过Fisher恒等式构建梯度估计器,实现大规模数据下的准确后验推断,并通过模拟和电子健康记录分析验证了方法的有效性。
2026-11-11 stat.CO stat.ME stat.ML
Frequentist-calibrated Bayesian group sequential design with dynamic borrowing
Sapienza University of Rome(罗马第一大学);McGill University(麦吉尔大学)
该研究针对临床试验设计的监管要求,提出带动态借用的贝叶斯组序贯设计,利用贝叶斯与频率学派检验的对应关系,通过数值研究及结核病预防试验验证了其性能。
2026-08-03 stat.ME
Gaussian process hyper-parameter estimation using parallel asymptotically independent Markov sampling
计算上昂贵的计算机代码的高斯过程仿真器提供快速的统计近似来模拟物理过程。这些代理的训练取决于选择运行模拟器的设计点集。由于计算成本,这样的训练集必然是有限的,并且通过单峰分布量化仿真器的超参数中产生的不确定性可能会引起偏差。为了量化这种不确定性,本文提出了一种计算效率高的采样器的基础上扩展的渐近独立马尔可夫抽样,最近开发的算法贝叶斯推断。仿真器的结构不确定性作为超参数的贝叶斯处理的副产品而获得。此外,用户可以选择执行随机优化,以从最大后验估计的邻域中采样,即使在存在多模态的情况下也是如此。模型的不确定性也承认通过数值稳定措施,包括一个块金长期制定的概率模型。所提出的采样器的效率示出的例子中遇到的多模态分布。为了重复性、进一步开发和在其他应用中使用,用于生成示例的代码可在https://github.com/agarbuno/paims_codes免费下载
2016-08-15 stat.CO
Computer Model Emulation with High-Dimensional Functional Output in Large-Scale Observing System Uncertainty Experiments
观测系统不确定性实验(OSUE)最近被提出作为一种具有成本效益的方法来执行概率评估的检索NASA的轨道碳观测站-2(OCO-2)的任务。OCO-2反演算法的一个重要组成部分是一个全物理正演模型,该模型描述了二氧化碳等大气变量与遥感仪器测量的辐射之间的数学关系。该正演模型复杂且计算量大,但大规模OSUE需要多次评估该模型,这使得它不适合于综合实验。为了解决这个问题,我们开发了一个统计仿真器,以促进大规模OSUE在OCO-2任务与独立的仿真。在每个不同的光谱带内,仿真器通过基函数和随机系数的线性组合来表示在不规则波长处输出的辐射度。这些随机系数,然后与最近邻高斯过程与内置的输入降维通过活动子空间建模。建议的仿真器降低了输入空间和输出空间的维数,从而在一个完全的贝叶斯推断框架内实现快速计算。验证实验表明,该仿真器优于其他竞争的统计方法和降阶模型,近似的全物理正演模型。
2020-11-02 stat.AP stat.CO stat.ME
Calibrated Bayesian Nonparametric Tolerance Intervals
Data and Statistical Sciences, AbbVie(AbbVie 数据与统计科学);Department of Statistics, Brigham Young University(杨百翰大学统计系);Department of Statistics, University of California, Santa Cruz(加州大学圣克鲁兹分校统计系)
本文提出了一种基于校准Gibbs后验的非参数方法,用于构建更短且可靠的容忍区间,适用于多种分布和应用场景。
2026-03-11 stat.ME
Computer emulation with non-stationary Gaussian processes
高斯过程(GP)模型在计算机实验中被广泛用于模拟传播不确定性。GP仿真舒适地坐落在一个易于分析的贝叶斯框架内。除了传播输入变量的不确定性外,在多次实验运行中训练的GP仿真器还为未知输入值的响应面估计提供了误差条。这有助于选择未来的输入值,以便将响应曲面估计中的不确定性降至最低。然而,传统的GP仿真器使用固定的协方差函数,这表现不佳,并导致次优选择的未来输入点时,响应表面具有尖锐的局部特征,如跳跃不连续性或孤立的高峰。我们提出了一个易于实现的非平稳GP仿真器,基于两个固定的GP,一个嵌套到其他,并展示其优越的能力,在处理本地功能和选择未来的输入点从这些功能的边界。
2015-01-29 stat.ME
Bayesian--AI Fusion for Epidemiological Decision Making: Calibrated Risk, Honest Uncertainty, and Hyperparameter Intelligence
Department of Statistics, Visva–Bharati University(统计系,维萨-巴哈蒂大学);S. N. Bose National Centre for Basic Sciences(S. N. Bose基础科学国家中心)
针对流行病学AI模型不确定性校准不足、贝叶斯方法难与现有AI工作流整合的问题,本文提出融合贝叶斯预测与贝叶斯超参数优化的双层框架,经多数据集验证可输出校准风险、优化模型性能,支撑流行病学决策。
2025-11-15 cs.LG stat.ML
A Globally Calibrated Bayesian Optimal Phase II Design for Adaptive Enrichment Trials
Kyowa Kirin Co., Ltd.(协和麒麟株式会社);Faculty of Science and Engineering, Chuo University(中央大学理工学部);Graduate School of Medicine, The University of Osaka(大阪大学大学院医学系研究科)
研究针对适应性富集试验,开发路径全局校准的BOP2框架,通过联合校准全人群和生物标志物阳性阈值,推导精确有限状态递归枚举,控制全局I型错误率,优于单独校准的BOP2方法。
2026-08-19 stat.ME
Loss-calibrated expectation propagation for approximate Bayesian decision-making
Princeton Neuroscience Institute(普林斯顿神经科学研究所);Princeton University(普林斯顿大学)
近似贝叶斯推断方法提供了一套强大的工具,找到近似的棘手的后验分布。然而,机器学习应用程序通常涉及选择动作,在贝叶斯设置中,这些动作仅通过其对预期效用的贡献取决于后验分布。因此,越来越多的关于损失校准近似推理方法的工作试图开发对效用函数的影响敏感的后验近似。在这里,我们引入损失校准期望传播(Loss-EP),期望传播的损失校准变体。这种方法类似于标准EP,但有一个额外的因素使后验概率向更高效用的决策“倾斜”。我们展示了应用程序的高斯过程分类下的二进制效用函数与不对称的罚款假阴性和假阳性错误,并显示这种不对称性如何可以有戏剧性的后果,什么信息是“有用的”捕捉在一个近似。
2022-01-10 cs.LG stat.ML
A Bayesian Decision Support System in Energy Systems Planning
高斯过程(GP)仿真器被广泛用于在输入空间上近似复杂的计算机模型行为。受计算机模型耦合问题的影响,近年来在连通GP仿真器网络分析理论方面取得了一些进展。在本文中,我们结合这些最新的方法与经典的状态空间模型来构建贝叶斯决策支持系统。这种方法给出了一个连贯的概率模型,产生的预测与测量的不确定性方面的两个第一时刻,使不确定性的传播,从个人的决策组件。这种方法是用来产生一个决策支持工具,英国郡议会考虑低碳技术改造其基础设施,以达到净零碳目标。特别是,我们演示了如何耦合来自能源模型,供热需求模型,天然气和电力价格时间序列的信息,以定量评估各种政策选择和能源市场变化对运营成本的影响。
2022-04-19 stat.AP
An Initial Exploration of Bayesian Model Calibration for Estimating the Composition of Rocks and Soils on Mars
火星探测器携带一台仪器ChemCam,旨在使用激光诱导击穿光谱(LIBS)测量表面岩石和土壤的成分。必须分析该仪器测得的光谱,以识别目标样品中的组成元素及其相对比例。这个过程,我们称之为解聚,是复杂的所谓的矩阵效应,它描述了发射线的相对高度的非线性变化作为一个未知的组合物的函数,由于原子相互作用在LIBS等离子体。在这项工作中,我们将探讨使用等离子体物理代码原子,在洛斯阿拉莫斯国家实验室开发的解聚任务。ATOMIC最近被用来模拟LIBS光谱,并可以从第一原理稳健地再现基质效应。ATOMIC预测LIBS光谱的能力提供了一个令人兴奋的机会,可以以LIBS界尚未尝试过的方式(即通过贝叶斯模型校准)执行分解。然而,直接使用它来解决我们的逆问题是计算上棘手的,由于大的参数空间和计算时间需要产生一个单一的输出。因此,我们还探索使用仿真器作为这种分析的快速解决方案。我们讨论了一个概念证明高斯过程仿真器分解钠和铜的两个元素的化合物。训练和测试数据集使用拉丁超立方体设计与ATOMIC进行模拟。在测试了仿真器的性能后,我们成功地恢复了25个测试光谱的贝叶斯模型校正的组成。
2020-08-11 stat.AP
Non-Deterministic Extension of Plasma Wind Tunnel Data Calibrated Model Predictions to Flight Conditions
本文提出一种实验数据非确定性扩展方法,通过模型误差模拟器与贝叶斯模型平均解决模型不足及先验数据差异,将HyMETS设施材料性能数据扩展至MSL飞行场景,提升了预测不确定性量化能力并有效管理计算需求。
2024-01-09 physics.comp-ph physics.data-an stat.AP
Bayesian Deep Gaussian Processes for Correlated Functional Data: A Case Study in Cosmological Matter Power Spectra
Elms College(埃尔姆斯学院);Virginia Tech(弗吉尼亚理工大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Argonne National Laboratory(阿贡国家实验室)
提出贝叶斯深度高斯过程分层模型,综合多保真度模拟数据估计物质功率谱并量化不确定性,利用基函数表示训练独立GP模拟器预测新宇宙学下的功率谱。
2026-06-08 astro-ph.CO astro-ph.IM stat.AP
Bayesian hierarchical models with calibrated mixtures of g-priors for assessing treatment effect moderation in meta-analysis
针对IPD-MA中传统贝叶斯收缩法无法区分异质性研究的问题,提出带试验样本量调整和调节因子收缩参数的校准g先验混合方法,模拟及抑郁治疗IPD实例验证其在高异质性等场景下效率与风险表现更优。
2024-10-31 stat.AP stat.ME
Diffeomorphic registration distances for Bayesian calibration of infinite-dimensional computer models
CEA, DAM, DIF(法国原子能和替代能源委员会,核能部,核研究与发展局)
本文提出利用LDDMM框架中的diffeomorphic距离进行贝叶斯校准,以处理无限维输出空间中的参数不确定性,提供可解释的校准方法。
2026-07-03 stat.ME
Fast Emulation, Modular Calibration, and Active Learning for Simulators with Functional Response
针对高斯过程仿真器在大规模函数输出数据下扩展性差、速度慢的问题,提出融合局部高斯过程回归的高可扩展函数数据仿真器,通过全局长度尺度缩放输入空间提速,可替代全贝叶斯方法降本,已用于20000次运行的多物理场模拟器校准并集成于R包FlaGP。
2025-10-06 stat.AP stat.ME
Calibrated Bayesian Inference for Stochastic Intervention Effects
University of Iowa(爱荷华大学)
本研究针对随机干预效应的贝叶斯推断,提出一种不改变先验或拟合算法的后处理校正方法,经理论与模拟验证可提升推断的校准度与性能,并通过他汀类药物对LDL胆固醇影响的实例说明其应用。
2026-08-05 math.ST stat.ME stat.ML
Bayesian Conservative Policy Optimization (BCPO): A Novel Uncertainty-Calibrated Offline Reinforcement Learning with Credible Lower Bounds
Visva-Bharati University(维萨瓦巴拉蒂大学);S. N. Bose National Centre for Basic Sciences(S.N. 玻色基础科学国立中心)
BCPO通过贝叶斯方法构建可信下界,将不确定性转化为保守策略改进,提升离线强化学习的鲁棒性和稳定性。
2026-03-06 stat.ME stat.ML
Loss-Calibrated Approximate Inference in Bayesian Neural Networks
University of Oxford(牛津大学)
贝叶斯神经网络的近似推理中的当前方法最小化库尔贝克-莱布勒散度以近似权重上的真实后验。然而,这种近似没有最终应用的知识,因此不能保证给定任务的最佳预测。为了使更合适的特定于任务的近似,我们引入了一个新的损失校准证据下限贝叶斯神经网络的监督学习的背景下,通知贝叶斯决策理论。通过引入依赖于效用函数的下限,我们确保我们的近似比具有非对称效用函数的应用程序的传统方法实现更高的效用。此外,在使用dropout推理时,我们强调我们的新目标与标准dropout神经网络的目标相同,只是增加了一个依赖于效用的惩罚项。我们展示了我们的新的损失校准模型与说明性的医疗例子和限制模型容量实验,并突出故障模式的可比加权交叉熵的方法。最后,我们展示了我们的方法的可扩展性,以现实世界的应用程序与自动驾驶数据集上的每像素语义分割。
2018-05-10 cs.LG stat.ML
An ensemble-based approach for multi-fidelity emulation and adaptive sampling
Faculty of Environment, Science and Economy, University of Exeter(埃克塞特大学环境、科学与经济学院)
本文提出基于集成学习的多保真度仿真方法,通过层次化克里金仿真实现低保真度信息的整合,结合贝叶斯模型平均进行不确定性量化,并利用方差作为自适应采样准则提升预测性能。
2026-07-07 stat.ME
Asymptotically well-calibrated Bayesian $p$-value using the Kolmogorov-Smirnov statistic
Duke University(杜克大学)
本文提出了一种基于 Kolmogorov-Smirnov 统计量的渐近良好的贝叶斯 p 值方法,适用于多种数据类型和模型检验。
2026-01-12 math.ST stat.ME stat.TH
Eliciting prior information from clinical trials via calibrated Bayes factor
针对贝叶斯power prior中权重参数先验分布的确定难题,提出基于模拟的校准贝叶斯因子方法,依据数据证据强度动态更新先验,有效平衡历史数据整合与先验-数据冲突,并通过模拟与真实临床试验数据验证了其性能。
2025-01-24 stat.AP stat.ME
Randomised Postiterations for Calibrated BayesCG
University of Southampton, United Kingdom(南安普顿大学,英国)
针对BayesCG方法校准差的问题,提出随机后迭代策略,在保持收敛特性的同时增强后验校准,并通过理论保证与数值实验验证其在不确定性量化中的有效性。
2025-08-12 cs.LG cs.NA math.NA
Curvature-Calibrated Quasi-Bayesian Updating for Moment-Restricted Models
Faculty of Economics, Fukuoka University(福冈大学经济学部)
针对矩约束模型,提出曲率校准准贝叶斯更新方法,经理论证明与模拟验证,可改善协方差校准与区间覆盖率,适用于含被试内依赖的纵向二元响应数据。
2026-11-05 econ.EM math.ST stat.ME
Bayesian Calibration and Uncertainty Quantification for a Large Nutrient Load Impact Model
针对芬兰 FICOS 营养盐负荷模型计算昂贵、预测不确定性难评估的问题,提出结合贝叶斯优化与高斯过程仿真器的校准和概率预测方法,揭示大幅减排下群岛海达标概率仍低。
2024-10-03 stat.ME
Accurate Uncertainties for Deep Learning Using Calibrated Regression
Stanford University(斯坦福大学)
在不确定性条件下进行推理的方法是准确可靠的机器学习系统的关键组成部分。贝叶斯方法提供了一个量化不确定性的一般框架。然而,由于模型错误指定和近似推理的使用,贝叶斯不确定性估计通常是不准确的-例如,90%的可信区间可能不包含90%的真实结果。在这里,我们提出了一个校准任何回归算法的简单过程;当应用于贝叶斯和概率模型时,它保证在给定足够数据的情况下产生校准的不确定性估计。我们的程序的灵感来自普拉特缩放和扩展以前的工作分类。我们在贝叶斯线性回归、前馈和递归神经网络上评估了这种方法,发现它始终输出校准良好的可信区间,同时提高了时间序列预测和基于基于模型的强化学习任务的性能。
2018-07-01 cs.LG stat.ML
Statistical emulation of a tsunami model for sensitivity analysis and uncertainty quantification
由于海啸的灾难性后果,需要迅速发布预警,以减轻危害。此外,需要表示与不确定触发特征(例如,滑坡的位置、形状和速度,或与地震相关的海底变形)相对应的海啸特征预测中的不确定性。不幸的是,计算机模型运行起来很昂贵。这导致预测的显著延迟,并且使得不确定性量化不切实际。统计模拟器几乎是瞬时运行的,可以很好地代表计算机模型的输出。在本文中,我们使用外积仿真器建立一个快速的滑坡产生的海啸计算机模型的统计代理。这个贝叶斯框架使我们能够通过结合计算机模型属性的先验知识与一些精心选择的模型评估来构建仿真器。采用留一法验证了仿真器的良好性能。
2012-03-28 physics.ao-ph stat.AP
Bayesian semi-supervised learning for uncertainty-calibrated prediction of molecular properties and active learning
University of Cambridge(剑桥大学)
预测小分子的生物活性和物理性质是药物发现的核心挑战。深度学习正在成为首选方法,但迄今为止的研究都集中在平均准确度作为主要指标。然而,要用模型取代昂贵的关键任务实验,高平均精度是不够的:离群值可能会破坏发现活动,因此模型需要可靠地预测何时会失败,即使训练数据有偏差;实验是昂贵的,因此模型需要数据高效,并使用主动学习建议信息丰富的训练集。我们表明,不确定性量化和主动学习可以实现贝叶斯半监督图卷积神经网络。贝叶斯方法通过从后验分布中采样,以统计学原则的方式估计不确定性。半监督学习将表示学习和回归分离,在低数据限制下保持不确定性估计的准确性,并允许模型从一个小的初始训练数据池开始主动学习。我们的研究强调了贝叶斯深度学习在化学领域的前景。
2019-07-25 cs.LG physics.chem-ph stat.ML
Bayesian Functional Emulation of CO2 Emissions on Future Climate Change Scenarios
Politecnico di Milano(米兰理工大学);Università degli Studi di Milano Bicocca(米兰比可卡大学);European Commission, Joint Research Centre (JRC)(欧盟委员会联合研究中心)
本文提出基于函数回归框架的统计模拟器,用于气候-经济确定性综合评估模型集合。通过混合效应分层模型进行参数推断,并采用自回归参数化协方差矩阵,实现对离散输出的连续时间评估。
2022-09-13 econ.EM stat.AP stat.ME
Calibrated One Round Federated Learning with Bayesian Inference in the Predictive Space
University of Waterloo(滑铁卢大学);Vector Institute(矢量研究所)
针对贝叶斯联邦学习中局部预测后验乘积导致过度自信的问题,提出β-Predictive Bayes算法,通过可调参数β在混合与乘积之间插值以改善全局集成校准,并在多种数据集上验证了其优于基线。
2024-01-09 cs.LG stat.ML
On the performance of multi-fidelity and reduced-dimensional neural emulators for inference of physiological boundary conditions
Stanford University(斯坦福大学);Centro di Ricerca Matematica Ennio De Giorgi, Scuola Normale Superiore(比萨高等师范学院恩尼奥·德·乔治数学研究中心);University of Notre Dame(圣母大学)
本文研究了多保真度与降维神经模拟器在心血管边界条件推断中的性能,通过不同方法减少计算成本并提升反问题求解效率。
2025-12-19 cs.CE cs.LG math.ST
Variational Routing: A Scalable Bayesian Framework for Calibrated Mixture-of-Experts Transformers
Department of Computing, Imperial College London(伦敦帝国理工学院计算机系)
提出变分混合专家路由(VMoER),通过将贝叶斯推断限制在专家选择阶段,实现大规模模型的不确定性校准,在微调基础模型上显著提升路由稳定性、降低校准误差并提高分布外检测AUROC,且额外计算开销极小。
2026-05-28 cs.AI cs.LG stat.ML
Gaussian process emulators for computer experiments with inequality constraints
物理现象在许多领域(科学和工程)中被观察到,并且通常通过耗时的计算机代码进行研究。这些代码使用统计模型进行分析,通常称为仿真器。在许多情况下,物理系统(计算机模型输出)可能已知满足关于一些或所有输入变量的不等式约束。我们的目标是建立一个模型,能够将数据插值和不等式约束到高斯过程仿真器。通过使用功能分解,我们提出了近似的原始高斯过程的有限维高斯过程,使所有的条件模拟满足不等式约束在整个区域。计算条件高斯过程的均值、众数(最大后验概率)和预测区间(不确定性量化)。为了研究所提出的模型的性能,一些条件模拟与不等式约束,如边界,单调性或凸性条件。1.导论.在工程活动中,计算机代码的运行可能是昂贵且耗时的。一种解决方案是使用统计代理来调节某些输入位置(设计点)处的计算机模型输出。高斯过程(GP)仿真器是最受欢迎的选择之一[23]。原因在于GP的属性,即可以计算不确定度量化。此外,它还有几个很好的特性。例如,观察数据的条件GP(线性等式约束)仍然是GP [5]。此外,输出计算机响应的一些不等式约束(例如单调性和凸性)与偏导数有关。在这种情况下,GP的偏导数也是GP。将无穷多个线性不等式约束表示到GP仿真器中,问题变得更加困难。原因是产生的条件进程不是GP。在不等式约束插值的文献中,我们发现了两类方法。第一种是确定性的,基于样条,其优点是在整个输入域中满足不等式约束(参见例如[16],[24]和…
2016-05-24 math.PR stat.ME
Bayesian Emulation of Geotechnical Deterioration Curves Using Quadratic and B-Spline Hierarchical Models
本研究利用贝叶斯高斯过程仿真器,基于75个计算机实验,通过二次和B样条模型预测路堑边坡安全系数,以支持边坡设计与管理。
2024-07-16 stat.AP