Clustered active-subspace based local Gaussian Process emulator for high-dimensional and complex computer models
量化物理或工程系统中的不确定性通常需要大量计算密集型的底层计算机模型的模拟。仿真器或代理模型通常用于加速此类问题中的计算,并且在这方面,高斯过程(GP)仿真器由于其能够量化仿真器本身中的近似误差而成为流行的选择。然而,GP仿真器的一个主要限制是它不能处理非常高维的问题,这通常是通过降维技术来解决的。在这项工作中,我们希望解决的问题,感兴趣的模型是如此复杂,他们承认不同的低维结构在不同的参数制度。基于主动子空间方法的降维,我们提出了一种聚类的主动子空间方法,该方法识别局部低维结构以及它们所处的参数区域(表示为聚类),然后在聚类内构造低维和局部GP仿真器。具体来说,我们设计了一个聚类方法的基础上的梯度信息,以确定这些集群,和一个本地GP的建设过程中构建的GP模拟器在一个本地集群。数值算例表明,当底层模型具有复杂的低维结构时,该方法是有效的。
2021-11-09 cs.NA math.NA stat.ME
Multivariate emulation of computer simulators: model selection and diagnostics with application to a humanitarian relief model
我们提出了一个共同的框架贝叶斯仿真方法的多变量输出模拟器,或计算机模型,采用参数线性模型或非参数高斯过程。新型诊断适合多元协方差可分离仿真器的开发和技术,以提高仿真器的充分性进行了讨论和实施。各种仿真器进行比较的人道主义救济模拟器,模拟援助任务后,西西里岛火山爆发和地震,并进行敏感性分析,以确定敏感性的模拟器输出的输入变量的变化。从参数和非参数仿真器的结果进行比较,在预测精度,不确定性量化和科学的可解释性。
2015-11-17 stat.ME
History matching with probabilistic emulators and active learning
多年来,通过计算机模拟,对现实世界过程的科学理解已经大大提高。这样的模拟器表示复杂的数学模型,其被实现为通常昂贵的计算机代码。使用特定模拟器得出准确结论的有效性依赖于计算机代码被正确校准的假设。这种校准程序通常是在广泛的实验和与来自现实世界的过程的数据比较下进行的。问题是,数据收集可能非常昂贵,只有少数实验是可行的。历史匹配是一种校准技术,在给定模拟器的情况下,它使用不可信性度量迭代地丢弃输入空间的区域。当模拟器在计算上是昂贵的时,使用模拟器来探索输入空间。在本文中,一个高斯过程提供了一个完整的概率输出,被纳入不可信性措施。感兴趣的区域的识别是完成最近开发的退火采样技术。主动学习功能被纳入到历史匹配过程中,以重新关注输入空间并改进仿真器。该框架的效率进行了测试,在著名的例子,从历史匹配的文献,以及在一个建议的测试床的功能更高的维度。
2020-04-16 stat.CO
Gaussian process emulators for computer experiments with inequality constraints
物理现象在许多领域(科学和工程)中被观察到,并且通常通过耗时的计算机代码进行研究。这些代码使用统计模型进行分析,通常称为仿真器。在许多情况下,物理系统(计算机模型输出)可能已知满足关于一些或所有输入变量的不等式约束。我们的目标是建立一个模型,能够将数据插值和不等式约束到高斯过程仿真器。通过使用功能分解,我们提出了近似的原始高斯过程的有限维高斯过程,使所有的条件模拟满足不等式约束在整个区域。计算条件高斯过程的均值、众数(最大后验概率)和预测区间(不确定性量化)。为了研究所提出的模型的性能,一些条件模拟与不等式约束,如边界,单调性或凸性条件。1.导论.在工程活动中,计算机代码的运行可能是昂贵且耗时的。一种解决方案是使用统计代理来调节某些输入位置(设计点)处的计算机模型输出。高斯过程(GP)仿真器是最受欢迎的选择之一[23]。原因在于GP的属性,即可以计算不确定度量化。此外,它还有几个很好的特性。例如,观察数据的条件GP(线性等式约束)仍然是GP [5]。此外,输出计算机响应的一些不等式约束(例如单调性和凸性)与偏导数有关。在这种情况下,GP的偏导数也是GP。将无穷多个线性不等式约束表示到GP仿真器中,问题变得更加困难。原因是产生的条件进程不是GP。在不等式约束插值的文献中,我们发现了两类方法。第一种是确定性的,基于样条,其优点是在整个输入域中满足不等式约束(参见例如[16],[24]和…
2016-05-24 math.PR stat.ME
Computer emulation with non-stationary Gaussian processes
高斯过程(GP)模型在计算机实验中被广泛用于模拟传播不确定性。GP仿真舒适地坐落在一个易于分析的贝叶斯框架内。除了传播输入变量的不确定性外,在多次实验运行中训练的GP仿真器还为未知输入值的响应面估计提供了误差条。这有助于选择未来的输入值,以便将响应曲面估计中的不确定性降至最低。然而,传统的GP仿真器使用固定的协方差函数,这表现不佳,并导致次优选择的未来输入点时,响应表面具有尖锐的局部特征,如跳跃不连续性或孤立的高峰。我们提出了一个易于实现的非平稳GP仿真器,基于两个固定的GP,一个嵌套到其他,并展示其优越的能力,在处理本地功能和选择未来的输入点从这些功能的边界。
2015-01-29 stat.ME
Computer Model Emulation with High-Dimensional Functional Output in Large-Scale Observing System Uncertainty Experiments
观测系统不确定性实验(OSUE)最近被提出作为一种具有成本效益的方法来执行概率评估的检索NASA的轨道碳观测站-2(OCO-2)的任务。OCO-2反演算法的一个重要组成部分是一个全物理正演模型,该模型描述了二氧化碳等大气变量与遥感仪器测量的辐射之间的数学关系。该正演模型复杂且计算量大,但大规模OSUE需要多次评估该模型,这使得它不适合于综合实验。为了解决这个问题,我们开发了一个统计仿真器,以促进大规模OSUE在OCO-2任务与独立的仿真。在每个不同的光谱带内,仿真器通过基函数和随机系数的线性组合来表示在不规则波长处输出的辐射度。这些随机系数,然后与最近邻高斯过程与内置的输入降维通过活动子空间建模。建议的仿真器降低了输入空间和输出空间的维数,从而在一个完全的贝叶斯推断框架内实现快速计算。验证实验表明,该仿真器优于其他竞争的统计方法和降阶模型,近似的全物理正演模型。
2020-11-02 stat.AP stat.CO stat.ME
Diagnostic-Driven Nonstationary Emulators Using Kernel Mixtures
弱平稳高斯过程(GPs)是计算机实验(或不确定性量化)设计和分析的统计方法中的主要工具。使用一组训练运行来学习过程协方差核的参数,将这样的过程拟合到计算机模型输出。平稳性假设通常是足够的,但当模型响应表现出非平稳性时,例如,如果其平滑度在输入空间中变化,则可能导致预测性能较差。在本文中,我们介绍了一种诊断为主导的方法来拟合非平稳GP仿真器,通过指定有限的混合特定区域的协方差内核。我们的方法首先适合一个固定的GP,如果传统的诊断表现出非平稳性,这些诊断被用来适应适当的混合函数的协方差内核混合设计,以捕捉非平稳性,确保仿真器是连续的参数空间和易于解释。我们比较我们的方法在文献中的主要非平稳GP模型,并说明其性能的一些理想化的测试用例和应用程序建模的云参数化的法国气候模型。
2019-02-27 stat.ME
Adaptive Partitioning Design and Analysis for Emulation of a Complex Computer Code
计算机模型在许多应用中被用作物理实验的替代品。然而,直接使用计算机模型的最终科学目标往往是有限的复杂性和成本的模型。从历史上看,高斯过程回归已被证明是几乎无处不在的选择,快速统计仿真器这样的计算机模型,由于其灵活的形式和分析表达式的预测不确定性的措施。然而,由于计算时间随着设计尺寸的立方而增加,即使这种统计仿真器对于大型设计也可能在计算上难以处理。已经提出了多种方法来解决这个问题。我们讨论了其中的几个,并比较其预测和计算性能在几种情况下。然后,我们提出解决这个问题,使用自适应分区仿真器(APE)。新方法的动机是大多数计算机模型只在输入空间的特定区域是复杂的。通过采用数据自适应的方法来开发设计,并选择在最高变异性的区域中划分空间,我们在这些区域中获得了更高的点密度,从而获得了准确的预测。
2019-07-02 stat.ME
Uncertainty Quantification of a Computer Model for Binary Black Hole Formation
本文介绍了一种基于高斯过程的快速并行方法,用于模拟大质量恒星演化过程中双星黑洞形成的计算机模型。在这种应用中出现的两个障碍是BBH形成的先验未知条件和模拟数据的大规模。我们提出了一个本地仿真器,它结合了GP分类器和GP回归模型来解决这些问题。由此产生的仿真器也可以用于规划未来的计算机模拟,通过顺序设计的建议标准。通过仿真器传播模拟输入的不确定性,我们能够得到BBH性质的分布下的物理参数分布。
2021-06-03 astro-ph.HE astro-ph.IM stat.AP
Bayesian Hierarchical Emulators for Multi-Level Models: BayHEm
针对多层级模型仿真中顶层运行昂贵的问题,提出BayHEm方法,通过将上一层后验作为下一层先验构建贝叶斯分层GP仿真器,共享信息并限制参数总数,提升顶层仿真精度。
2025-02-24 stat.ME
Bayesian Emulation for Computer Models with Multiple Partial Discontinuities
计算机模型被广泛用于一系列科学学科来描述各种复杂的物理系统,但是要执行完全的不确定性量化,我们通常需要使用仿真器。仿真器是一种快速的统计结构,它模仿了评估计算机模型的缓慢过程,并极大地帮助了重要科学分析经常需要的计算密集型不确定性量化计算。我们研究的问题,具有多个,部分不连续性发生在已知的非线性位置的仿真计算机模型。我们引入时态框架,基于精心设计的相关结构,尊重不连续性,同时充分利用任何其他地方的平滑性/连续性。这导致了一个单一的模拟器对象,可以由所有运行同时更新,也用于有效的设计。这种方法避免了必须将输入空间分割成多个子区域。我们将TENSE框架应用于TNO挑战II,模拟奥林巴斯水库模型,该模型具有多个这样的不连续性。
2022-10-19 stat.AP stat.ME stat.ML
Linked Gaussian Process Emulation for Systems of Computer Models using Matérn Kernels and Adaptive Design
最先进的关联高斯过程提供了一种为计算机模型系统构建分析仿真器的方法。我们推广了平方指数核下的链接高斯过程的封闭形式表达式到一类Matérn核,这在高级应用中是必不可少的。本文提出了一种迭代的方法来构造链接高斯过程作为任何前馈系统的计算机模型的代理模型,并在一个反馈耦合卫星系统上进行了说明。我们还介绍了一种自适应设计算法,可以增加近似精度的链接高斯过程代理与运行昂贵的计算机系统上的计算成本降低,通过分配运行和细化仿真的各个子模型的基础上,其异构功能的复杂性。
2021-02-07 stat.AP stat.ME
Statistical emulation of a tsunami model for sensitivity analysis and uncertainty quantification
由于海啸的灾难性后果,需要迅速发布预警,以减轻危害。此外,需要表示与不确定触发特征(例如,滑坡的位置、形状和速度,或与地震相关的海底变形)相对应的海啸特征预测中的不确定性。不幸的是,计算机模型运行起来很昂贵。这导致预测的显著延迟,并且使得不确定性量化不切实际。统计模拟器几乎是瞬时运行的,可以很好地代表计算机模型的输出。在本文中,我们使用外积仿真器建立一个快速的滑坡产生的海啸计算机模型的统计代理。这个贝叶斯框架使我们能够通过结合计算机模型属性的先验知识与一些精心选择的模型评估来构建仿真器。采用留一法验证了仿真器的良好性能。
2012-03-28 physics.ao-ph stat.AP
Multilevel Emulation for Stochastic Computer Models with Application to Large Offshore Wind farms
大型海上风电场等可再生能源项目对于实现政府设定的低排放目标至关重要。随机计算机模型使我们能够探索未来的情景,以帮助决策,同时考虑最相关的不确定性。复杂的随机计算机模型可能非常慢,因此可以构建和部署仿真器以允许有效的计算。我们提出了一种新的异方差高斯过程仿真器,利用廉价的近似随机海上风电场模拟器。我们还进行了概率敏感性分析,以了解风电场模型中关键参数的影响,这将有助于我们计划未来的概率启发。
2021-12-06 stat.AP stat.ME
Multiobjective optimization using Gaussian process emulators via stepwise uncertainty reduction
在高斯过程仿真器的帮助下优化昂贵的计算机模型现在很常见。然而,当考虑几个(竞争)目标时,选择适当的抽样策略仍然是一个悬而未决的问题。我们在这里提出了一个新的算法的基础上逐步减少不确定性的原则来解决这个问题。优化被看作是一个连续的减少量的偏移集低于当前的最佳解决方案,我们的采样策略选择的点,给出最高的预期减少。提供了封闭形式的公式来计算采样标准,避免使用繁琐的模拟。我们测试我们的方法的数值例子,表明它提供了一个有效的权衡探索和集约化。
2013-10-02 math.OC stat.ME
The Double Emulator
针对仿真器在输入空间大面积“接地”导致传统高斯过程仿真器平稳性与平滑性假设失效的问题,本文提出双重仿真器方法,并通过腐蚀仿真与合成实验验证其优于GPE的性能。
2024-11-22 stat.CO
Emulation of multivariate simulators using thin-plate splines with application to atmospheric dispersion
通常需要建立复杂计算机模拟器的统计仿真器,以便执行否则在计算上不可行的分析。我们提出的方法来模拟多变量输出的计算机模拟器考虑到输出结构的响应。这种方法的实用性证明了将其应用到化学和生物危害预测模型。预测意外或蓄意的化学或生物释放所造成的危险区域对于民事和军事规划以及应急反应都是必不可少的。从这样的释放所产生的危险区域是高度结构化的空间,因此,我们建议使用薄板样条来捕获的空间结构和适合的高斯过程仿真器的系数所得到的基函数。我们比较和对比四种不同的技术来模拟多变量输出:降维使用(i)一个完全贝叶斯方法与主成分的基础上,(ii)一个完全贝叶斯方法与薄板样条的基础上,假设基础系数是独立的,和(iii)一个“插件”贝叶斯方法与薄板样条的基础和一个可分离的协方差结构;以及(iv)使用张量积(可分离)高斯过程的函数数据建模方法。我们开发的两个薄板样条仿真器的方法,并证明这些仿真器显着优于主成分仿真器。此外,可分离的薄板样条仿真器,它占基础系数之间的依赖性,提供了实质上更现实的量化的不确定性,也是计算上更容易处理,允许快速仿真。对于高分辨率的输出数据,它还提供了大量的预测和计算的优势,比张量积高斯过程仿真器。
2016-10-26 stat.ME
Bayesian Emulation of Grey-Box Multi-Model Ensembles Exploiting Known Interior Structure
本研究提出一种灰盒多模型集合的贝叶斯仿真方法框架,通过子采样、分而治之和结构化仿真等技术提升物理可解释性与预测准确性,并应用于TNO OLYMPUS井控制优化挑战赛。
2025-05-02 stat.AP stat.ME
Linked Deep Gaussian Process Emulation for Model Networks
University College London(伦敦大学学院);University of Exeter(埃克塞特大学)
本文提出部分暴露隐藏层的链接深度高斯过程仿真方法,以克服LGP的平稳性限制,并在合成与实证示例中提升预测及不确定性量化性能。
2023-06-02 cs.LG stat.AP stat.CO
Potentially Predictive Variance Reducing Subsample Locations in Local Gaussian Process Regression
高斯过程模型通常用作计算机实验的仿真器。然而,开发一个高斯过程仿真器可以是计算上禁止时,实验样本的数量甚至适度大。局部高斯过程近似(Gramacy and Apley,2015)被提出作为一种精确且计算上可行的仿真替代方案。然而,构建特定于特定感兴趣位置处的预测的局部子设计仍然是该技术的实质性计算瓶颈。本文提出了两种计算效率高的邻域搜索限制技术,最大距离法和特征近似法。两个例子表明,所提出的方法确实节省了大量的计算,同时保持仿真精度。
2016-11-26 stat.CO stat.ME
Adaptive numerical designs for the calibration of computer codes
使用计算机代码对物理系统进行良好的预测需要仔细指定输入。这些输入中的一些称为控制变量,必须再现物理条件,而其他输入称为参数,是特定于计算机代码的,并且通常是不确定的。统计校准的目标在于借助统计模型估计这些参数,该模型将代码输出与现场测量相关联。在贝叶斯设置中,这些参数的后验分布通常使用MCMC方法进行采样。然而,当代码运行非常耗时时,它们是不切实际的。一种解决方法是用高斯过程模拟器代替计算机代码,然后根据它采样一个便宜的后验后验分布,这样做的话,校准会受到误差的影响,而误差很大程度上取决于用于拟合模拟器的实验的数值设计。我们的目的是通过建立一个适当的序列设计,通过预期改善标准,以减少这种错误。在几个方面的数值说明评估这种顺序策略的效率。
2018-04-03 stat.CO
Multivariate Gaussian process emulation for multifidelity computer models with high-dimensional spatial outputs
Iowa State University(爱荷华州立大学)
本文提出多变量高斯过程模拟方法,用于在高维空间中处理多保真度计算机模型,通过自回归协克里金框架开发两种交叉协方差结构,以提高风暴潮风险评估的预测精度与效率。
2026-03-29 stat.ME
Emulating computer models with step-discontinuous outputs using Gaussian processes
在许多现实世界的应用中,我们感兴趣的是近似昂贵的功能,是分析未知的,例如复杂的计算机代码。仿真器提供了依赖于有限数量的评估的这样的函数的快速近似。高斯过程(GP)是常见的仿真器,由于其统计特性,如估计自己的不确定性的能力。GP本质上是为了适应光滑、连续的函数而开发的。然而,在许多情况下,连续性和平滑性的假设是没有根据的。例如,在出现分叉或临界点的计算机模型中,输出可能是不连续的。这项工作探讨的能力,全球定位系统的仿真步骤不连续的功能。为此提出了若干办法。两个特殊的协方差函数/内核适应的能力,模型的不连续性。它们是神经网络和吉布斯内核,其属性使用几个例子来证明。另一种方法,称为扭曲,是将输入空间转换为一个新的空间,其中具有标准内核的GP(如Matern家族)能够很好地预测函数。该变换是通过一个参数映射来执行,该参数映射的参数是通过极大似然估计的。结果表明,所提出的方法具有更优越的性能与标准的核GP在捕捉真正的功能急剧跳跃。
2020-09-30 stat.ME
Active emulation of computer codes with Gaussian processes -- Application to remote sensing
Universitat de València(瓦伦西亚大学);Universidad Rey Juan Carlos(胡安·卡洛斯国王大学)
许多科学和工程领域依赖于使用复杂且计算昂贵的模型来运行模拟,以了解感兴趣系统中的相关过程。然而,所涉及的高成本妨碍了可靠和详尽的模拟。这种守则往往包含一些具有讽刺意味的技巧,使它们不那么容易处理和透明。本文介绍了一种主动学习方法,自适应地构建代理模型,即仿真器,这样昂贵的计算机代码在多输出设置。所提出的技术是顺序和自适应的,是基于一个合适的采集功能的优化。它旨在实现精确的近似,模型的易处理性,以及紧凑和表达的模拟数据集。为了实现这一点,建议的主动多输出高斯过程仿真器(AMOGAPE)结合高斯过程(GP)的预测能力与采集功能的设计,有利于采样在低密度和波动区域的近似函数。比较不同的采集功能,我们说明了有前途的性能的方法与玩具的例子,以及广泛使用的遥感传输代码的仿真器的建设。
2019-12-13 cs.LG stat.ML
Hierarchical shrinkage Gaussian processes: applications to computer code emulation and dynamical system recovery
Duke University(杜克大学)
在科学和工程的许多领域,计算机模拟被广泛用作物理实验的替代品,这可能是不可行或不道德的。这种模拟通常在计算上是昂贵的,并且可以训练仿真器以有效地预测期望的响应表面。一个广泛使用的仿真器是高斯过程(GP),它提供了一个灵活的框架,有效的预测和不确定性量化。然而,标准GP不捕获底层响应表面上的结构化稀疏性,这在许多应用中存在,特别是在物理科学中。因此,我们提出了一个新的分层收缩GP(HierGP),它通过GP框架内的累积收缩先验,将这种结构。我们表明,HierGP隐式地嵌入了众所周知的原则的效果稀疏性,遗传性和层次分析的实验,这使得我们的模型,以确定结构化的稀疏功能,从响应面有限的数据。我们提出了有效的后验采样算法的模型训练和预测,并证明了理想的HierGP的一致性属性。最后,我们证明了HierGP在现有模型的改进性能,在一套数值实验和应用程序的动力系统恢复。
2023-02-01 cs.LG stat.ME stat.ML
Deep Gaussian Process Emulation using Stochastic Imputation
University College London(伦敦大学学院);University of Exeter(埃克塞特大学)
深度高斯过程(DGP)提供了丰富的模型,与传统的GP相比,可以更好地表示具有变化机制或急剧变化的函数。在这项工作中,我们提出了一种新的推理方法DGP的计算机模型仿真。通过随机输入的潜在层,我们的方法将一个DGP到一个链接的GP:一个新的仿真器开发的系统链接的计算机模型。这种变换允许仅涉及常规GP的优化的高效DGP训练过程。此外,DGP仿真器的预测可以通过自然地利用链接的GP仿真器的封闭形式预测手段和方差以快速且易于分析的方式进行。我们证明了该方法在一系列的合成例子和实证应用,并表明它是一个有竞争力的候选人DGP代理推理,结合效率相媲美的双随机变分推断和不确定性量化,是完全贝叶斯方法。实施该方法的$\texttt{Python}$包$\texttt{dgpsi}$也可在https://github.com/mingdeyu/DGP上生产和获得。
2022-08-17 cs.LG stat.AP stat.CO
Fast Emulation, Modular Calibration, and Active Learning for Simulators with Functional Response
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Simon Fraser University(西蒙菲莎大学)
针对高斯过程仿真器在大规模函数输出数据下扩展性差、速度慢的问题,提出融合局部高斯过程回归的高可扩展函数数据仿真器,通过全局长度尺度缩放输入空间提速,可替代全贝叶斯方法降本,已用于20000次运行的多物理场模拟器校准并集成于R包FlaGP。
2025-10-06 stat.AP stat.ME
EzGP: Easy-to-Interpret Gaussian Process Models for Computer Experiments with Both Quantitative and Qualitative Factors
定量和定性输入的计算机实验(QQ)通常用于科学和工程应用。构建理想的仿真器,这样的计算机实验仍然是一个具有挑战性的问题。本文提出了一种易于解释的高斯过程(EzGP)模型,用于计算机实验,以反映定性因素不同水平组合下计算机模型的变化。所提出的建模策略,基于一个加性高斯过程,是灵活的,以解决涉及多个定性因素的计算机模型的异质性。我们还开发了EzGP模型的两个有用的变体,以实现高维和大尺寸数据的计算效率。数值算例和实际数据应用表明了这些模型的优点。
2022-03-18 stat.ME
Sequential adaptive design for emulating costly computer codes
本文提出自适应采样准则 VIGF 及其批量和多保真度扩展,通过分层克里金法以最少评估次数提升高斯过程仿真精度,实验表明其在多数基准函数上优于现有序贯采样策略。
2024-11-25 stat.ME
A Computationally Stable Approach to Gaussian Process Interpolation of Deterministic Computer Simulation Data
对于许多昂贵的确定性计算机模拟器,输出没有复制错误,所需的元模型(或统计模拟器)是观测数据的一个子集。高斯空间过程(GP)的实现通常用于对这样的模拟器输出进行建模。将GP模型拟合到$n$数据点需要计算$n \times n$相关矩阵$R$的逆矩阵和行列式,由于$R$的近奇异性,这些逆矩阵和行列式有时在计算上是不稳定的。如果任何一对设计点在输入空间中非常接近,就会发生这种情况。克服近奇异性的流行方法是在模型中引入一个小的块金(或抖动)参数,该参数与其他模型参数一起估计。在模型中包含块金通常会导致数据不必要的过度平滑。在本文中,我们提出了一个下界的块金,最大限度地减少过度平滑和迭代正则化方法来构建一个预测,进一步提高插值精度。我们还表明,建议的预测收敛到GP的。
2012-03-06 stat.CO stat.ME
VPPE: Application of Scaled Vecchia Approximations to Parallel Partial Emulation
本文提出VPPE方法,将缩放Vecchia近似融入并行部分模拟框架,以加速处理大规模训练数据,并在三个实验中保持预测精度同时大幅降低运行时间。
2025-08-26 stat.AP stat.CO
Discrepancy Modeling with Intermediate Variables: A New Framework for Robust Gaussian Process Calibration
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);Argonne National Laboratory(阿贡国家实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
提出利用中间变量进行差异建模的鲁棒高斯过程校准框架,通过结构化变量选择、离散化缩放高斯过程约束和空间填充设计,联合建模仿真器与差异,提升预测性能并缓解可辨识性问题。
2026-06-12 stat.CO stat.ME
Local Gaussian Process Model for Large-scale Dynamic Computer Experiments
最近加速增长的计算能力产生了普及的实验与动态计算机模型在各种物理和工程应用。尽管在计算机实验中进行了广泛的统计研究,但大部分重点都放在设计和分析具有标量响应的计算机模型的理论和算法创新上。在本文中,我们提出了一个计算效率的统计模拟器的大规模动态计算机模拟器(即,给出时间序列输出的模拟器)。其主要思想是首先为每个输入位置找到一个好的局部邻域,然后通过基于奇异值分解(SVD)的高斯过程(GP)模型仿真模拟器输出。我们开发了一个新的设计标准,依次找到这个本地邻域集的训练点。已使用几个测试函数和实际应用来证明所提出的方法相对于使用设计点之间的欧几里得距离选择局部邻近集的朴素方法的性能。
2018-04-03 stat.ME
Gaussian process hyper-parameter estimation using parallel asymptotically independent Markov sampling
计算上昂贵的计算机代码的高斯过程仿真器提供快速的统计近似来模拟物理过程。这些代理的训练取决于选择运行模拟器的设计点集。由于计算成本,这样的训练集必然是有限的,并且通过单峰分布量化仿真器的超参数中产生的不确定性可能会引起偏差。为了量化这种不确定性,本文提出了一种计算效率高的采样器的基础上扩展的渐近独立马尔可夫抽样,最近开发的算法贝叶斯推断。仿真器的结构不确定性作为超参数的贝叶斯处理的副产品而获得。此外,用户可以选择执行随机优化,以从最大后验估计的邻域中采样,即使在存在多模态的情况下也是如此。模型的不确定性也承认通过数值稳定措施,包括一个块金长期制定的概率模型。所提出的采样器的效率示出的例子中遇到的多模态分布。为了重复性、进一步开发和在其他应用中使用,用于生成示例的代码可在https://github.com/agarbuno/paims_codes免费下载
2016-08-15 stat.CO
Multi-Resolution Functional ANOVA for Large-Scale, Many-Input Computer Experiments
高斯过程是为确定性和随机计算机实验构建仿真器的标准工具。然而,高斯过程模型的应用在实践中受到很大的限制,特别是对于已经成为典型的大规模和多输入计算机实验。我们提出了一个多分辨率的功能方差分析模型作为计算上可行的仿真替代。更一般地,该模型可用于大规模和多输入非线性回归问题。重叠组套索方法用于估计,确保在大规模和多输入设置的计算可行性。新的结果的一致性和推理(可能重叠)组套索在高维设置开发和应用到建议的多分辨率功能方差分析模型。重要的是,这些结果使我们能够量化预测中的不确定性。数值算例表明,该模型具有明显的计算优势。无论是在样本量还是维度方面,数据能力都达到或超过了最佳的仿真工具,同时达到或超过了仿真精度。
2019-01-08 stat.ME
A Bayesian Decision Support System in Energy Systems Planning
高斯过程(GP)仿真器被广泛用于在输入空间上近似复杂的计算机模型行为。受计算机模型耦合问题的影响,近年来在连通GP仿真器网络分析理论方面取得了一些进展。在本文中,我们结合这些最新的方法与经典的状态空间模型来构建贝叶斯决策支持系统。这种方法给出了一个连贯的概率模型,产生的预测与测量的不确定性方面的两个第一时刻,使不确定性的传播,从个人的决策组件。这种方法是用来产生一个决策支持工具,英国郡议会考虑低碳技术改造其基础设施,以达到净零碳目标。特别是,我们演示了如何耦合来自能源模型,供热需求模型,天然气和电力价格时间序列的信息,以定量评估各种政策选择和能源市场变化对运营成本的影响。
2022-04-19 stat.AP
RobustCalibration: Robust Calibration of Computer Models in R
本文介绍R包RobustCalibration,通过统计模拟器、贝叶斯与最大似然方法及高斯随机过程,解决计算昂贵的计算机模型校准与数据反演问题。
2024-02-19 stat.AP stat.CO
Deep Gaussian Process Emulation and Uncertainty Quantification for Large Computer Experiments
本文针对大型计算机实验中平稳高斯过程仿真器无法刻画非平稳响应的问题,提出引入平滑性控制参数的深度高斯过程模型,并结合随机变分推断实现不确定性量化,可扩展至任意大规模仿真设计,成功应用于双黑洞并合形成天体物理模型的仿真。
2024-11-22 astro-ph.IM stat.AP stat.ME
Bayesian Emulation of Geotechnical Deterioration Curves Using Quadratic and B-Spline Hierarchical Models
本研究利用贝叶斯高斯过程仿真器,基于75个计算机实验,通过二次和B样条模型预测路堑边坡安全系数,以支持边坡设计与管理。
2024-07-16 stat.AP
Calibrating a large computer experiment simulating radiative shock hydrodynamics
我们考虑适应一个典型的计算机模型校准装置,涉及耦合高斯过程(GP)仿真器,模拟辐射冲击流体力学的计算机实验是数量级大于通常可以容纳。传统的方法需要成千上万的大型矩阵求逆来评估MCMC方案中的似然性。我们的方法取代了昂贵的理想与节俭采取的基本成分,协同仿真,校准和优化的三个现代思想:本地近似GP回归,模块化和网格自适应直接搜索。新的方法是出于必要性-考虑到我们的特殊应用-和最近的趋势,在超级计算机模拟文献。合成数据应用程序使我们能够探索在受控环境中的几种变化的优点,并与我们激励真实数据实验的结果一起,导致对辐射冲击动力学的显着见解以及校准企业的局限性。
2015-11-05 stat.AP stat.ME
Finite-dimensional approximation of Gaussian processes with inequality constraints
高斯过程由于其灵活性,在非参数函数估计中得到了广泛的应用。关于底层函数的先验信息通常是可用的。例如,物理系统(计算机模型输出)可能已知满足关于一些或所有输入的不等式约束。我们开发了一个有限维近似的GPS能够将不等式约束和嘈杂的观察计算机模型仿真器。它是基于高斯随机系数和确定性基函数之间的线性组合。通过这种方法,不等式约束在整个域中得到尊重。后验分布的平均值和最大值被很好地定义。仿真研究表明,该模型的效率和性能的预测精度和不确定性量化。
2017-11-20 math.PR stat.ME
Uncertainty quantification for computer models with spatial output using calibration-optimal bases
使用不确定性量化(UQ)方法校准复杂的计算机代码是统计方法学发展的一个丰富领域。当将这些技术应用于具有空间输出的模拟器时,现在标准的是使用主成分分解来减少输出的维度,以便允许高斯过程模拟器预测用于校准的输出。我们介绍了“终端的情况下”,在该模型不能复制的观测模型内的差异,并在UQ的标准校准方法未能给出合理的结果。我们表明,即使模型没有这样的问题,对输出的标准分解也可以而且通常会导致终端案例分析。我们提出了一个简单的测试,让医生来确定他们的实验是否会导致终端的情况下分析,并定义校准最佳基地,避免这种情况下,它是不可避免的方法。我们提出的最佳旋转算法,这样做,并证明其有效性的理想化的例子,通常的主成分方法失败。我们将这些想法应用到CanAM4模型中,以证明气候模型中出现的终端案例问题。我们讨论气候模式调整和模型差异的估计在这方面,并显示如何最佳旋转算法可以用于开发实用的气候模式调整工具。
2018-06-01 stat.ME
Emulating dynamic non-linear simulators using Gaussian processes
非线性确定性计算机代码的动态仿真,其中的输出是一个时间序列,可能是多变量,检查。这种计算机模型模拟了一些现实世界现象随时间的演变,例如气候模型或人脑功能。我们感兴趣的模型是高度非线性的,表现出临界点,分叉和混沌行为。但是,每次模拟运行可能太耗时,无法执行需要多次运行的分析,包括量化模型输出相对于输入变化的变化。因此,使用高斯过程仿真器来近似代码的输出。要做到这一点,所研究的系统的流程图是在很短的时间内模拟。然后,以迭代的方式使用它来预测整个时间序列。在固定初始条件后,提出了一些方法来考虑仿真器输入的不确定性,以及它们之间通过时间序列的相关性。该方法说明了两个例子:高度非线性动力系统描述的洛伦兹和范德波尔方程。在这两种情况下,预测性能相对较高,该方法提供的不确定性度量反映了每个系统的可预测性程度。
2019-02-18 math.DS stat.AP stat.ML
Predicting the Output From a Stochastic Computer Model When a Deterministic Approximation is Available
计算机模型的分析可以通过构建替代模型或仿真器来辅助,这些替代模型或仿真器对数值计算机模型进行统计建模。越来越多的计算机模型变得随机,每次运行时产生不同的输出,即使使用相同的输入值。随机计算机模型更难以分析和模拟-通常需要更多的计算机模型运行来拟合。我们提出了一种方法,使用确定性近似的计算机模型,以更好地构建仿真器。该方法被应用到许多玩具的例子,以及一个理想的流行病学模型,从建筑性能领域的模型。
2019-02-04 stat.ME
Cross-validation based adaptive sampling for Gaussian process models
在许多现实世界的应用中,我们感兴趣的是近似黑盒,昂贵的功能,尽可能准确地与最小数量的功能评估。一个复杂的计算机代码就是这样一个功能的例子。在这项工作中,一个高斯过程(GP)仿真器被用来近似复杂的计算机代码的输出。我们考虑的问题,扩展初始实验(一组模型运行)顺序,以提高仿真器。提出了一种基于留一交叉验证的序贯抽样方法,该方法可以方便地扩展到批处理模式。这是一个理想的属性,因为当并行计算可用时,它节省了用户时间。在将GP拟合到训练数据点之后,在每个设计点处计算期望平方LOO(ES-LOO)误差。ES-LOO被用作识别重要数据点的一种措施。更准确地说,当这个量在一个点上很大时,这意味着预测的质量在很大程度上取决于该点,并且在附近添加更多的样本可以提高GP的准确性。因此,选择ES-LOO最大化的下一个样本是合理的。然而,ES-LOO仅在试验设计中已知,需要在未观察到的点进行估计。为此,将第二个GP拟合到ES-LOO误差,并且选择发生修改的预期改善(EI)标准的最大值作为下一个样本。EI是贝叶斯优化中常用的获取函数,用于在局部/全局搜索之间进行权衡。然而,它有一种剥削的倾向,这意味着它的最大值接近(当前)“最佳”样本。为了避免聚类,采用了EI的修改版本,称为伪预期改进,这是更具探索性比EI还允许我们发现未探索的区域。我们的结果表明,所提出的采样方法是有前途的。
2021-10-15 stat.CO
An adaptive strategy for sequential designs of multilevel computer experiments
在计算机模拟中调查不确定性在计算成本方面可能是令人望而却步的,因为模拟器需要在大量输入值上运行。构建仿真器,即使用由相对少量的正向求解器的评估组成的实验设计构建的仿真器的统计代理模型,极大地减轻了进行这种调查的计算负担。尽管如此,这仍然可能高于许多研究的计算预算。两种主要的方法已被用来减少所需的预算,以建立仿真器:有效的实验设计,如顺序设计,并结合训练数据的复杂程度不同,在所谓的多保真度的方法,或多层次的情况下,这些复杂性通常是为了增加分辨率。在这里,我们提出了一种新的方法,结合这两种方法,多级自适应顺序设计的计算机实验(MLASCE)的框架内的高斯过程(GP)仿真器。我们利用再生核希尔伯特空间作为我们的GP近似的两个连续水平之间的差异的工具。这种双重策略使我们能够有效地分配有限的计算资源,在不同级别的保真度的模拟,并建立GP仿真器。计算资源的分配被证明是一个简单的优化问题的解决方案,在一个特殊的情况下,我们从理论上证明了我们的方法的有效性。我们提出的方法进行了比较与其他现有的模型的多保真度高斯过程仿真。在精度或计算预算的数量级的增益证明在一些数值例子中的一些设置。
2022-10-16 stat.ME
Dynamic Bayesian Learning for Spatiotemporal Mechanistic Models
本文提出一种动态贝叶斯学习方法,通过高斯过程回归仿真时空机制模型,实现高效推断与大规模迁移学习,并应用于微分方程反问题。
2025-07-09 stat.ME stat.ML
Propagating uncertainty in a network of energy models
计算机模型广泛用于能源系统运行、规划和政策的决策支持。通常采用模型系统,其中模型输入本身来自其他计算机模型,每个模型由不同的专家团队开发。高斯过程仿真器可用于近似复杂的计算密集型模型的行为,并用于生成预测以及预测模型输出的不确定性度量。本文提出了一种计算效率高的框架内传播的不确定性与高维输出用于能源规划的模型网络。我们提出了一个案例研究,从英国县议会考虑低碳技术改造其基础设施,以达到净零碳目标。本案例研究所考虑的系统模型很简单,但是该框架可以应用于更复杂模型的更大网络。
2022-04-19 stat.AP
History matching for functional data: Application to tsunami warnings in the Indian Ocean
University College London(伦敦大学学院);Alan Turing Institute(艾伦·图灵研究所);Queen Mary University of London(伦敦大学玛丽女王学院)
研究针对传统历史匹配不适用于泛函数据的问题,提出泛函历史匹配方法,通过函数级差异度量等定义不合理性,采用多输出高斯过程框架模拟,在海啸预测案例中表现优于传统方法,能缩小未排除区域并集中下游海岸预测。
2026-09-01 stat.AP stat.ME
Dimension reduction for Gaussian process emulation: an application to the influence of bathymetry on tsunami heights
高精度的复杂计算机模型或模拟器需要大量的时间和内存资源来产生逼真的结果。统计模拟器是这种模拟器在计算上廉价的近似。它们可以取代模拟器用于各种目的,例如将不确定性从输入传播到输出或根据观察值校准某些内部参数。然而,当输入空间是高维的时,仿真器的构造可能变得过于昂贵。为了克服这一障碍,本文提出了一种结合降维的框架合并仿真方法。选择基于梯度的核降维技术是因为它能够在几乎不损失信息的情况下大幅降低维度。高斯过程仿真技术与这种降维方法相结合。我们提出的方法提供了一个答案,降维问题,在仿真的范围广泛的仿真问题,不能使用现有的方法来解决。该框架的效率和准确性的理论证明,并与其他方法的椭圆型偏微分方程(PDE)问题。最后,我们提出了一个现实的应用海啸建模。水深测量(海底高程)的不确定性建模为高维实现的空间过程中使用的地质统计方法。我们的降维仿真使我们能够计算这些不确定性对近岸和岸上可能产生的海啸波高的影响。我们观察到,由于水深测量不确定性的贡献,海啸高度的不确定性的传播显着增加。这些结果突出表明,有必要在海啸预警和风险评估中考虑水深测量不确定性的影响。
2016-08-24 stat.AP stat.CO
Data-Augmented Few-Shot Neural Emulator for Computer-Model System Identification
Brookhaven National Laboratory(布鲁克海文国家实验室);University of Notre Dame(Notre Dame 大学);Texas A&M University(德克萨斯农工大学)
提出一种基于空间填充模板采样的数据增强策略,仅用相当于10个时间步的模拟数据即可高效训练神经PDE模板算子,在多个系统中超越传统模拟器,显著提升样本效率与长时程精度。
2025-09-25 cs.AI cs.LG stat.ME
A new sample-based algorithms to compute the total sensitivity index
基于方差的敏感性指数已成为模型输出的敏感性分析从业者的参考。基于方差的敏感性分析如果对所分析的数学模型的所有不确定因素至少产生一阶敏感性指标Sj和所谓的总效应敏感性指标Tj,则认为它是有用的。计算经济在敏感性分析中至关重要。它主要取决于获得稳定的估计值所需的模型评估的数量。虽然有效的估计程序独立于分析中的因素的数量可用于一阶指数,这是总的敏感性指数的情况下。当估计T_j时,可以使用基于样本的方法,其计算成本取决于因子的数量,或者使用基于元建模/仿真器的方法,例如基于高斯过程。目前的工作重点是基于样本的估计程序的T_j,并尝试不同的途径,以实现算法的改进,在现有的最佳实践中提出的设计。我们的结论是,在文献中发现的一些建议的基于样本的改进并不像声称的那样工作,并且改进现有的最佳实践确实充满了困难。我们激励我们的结论引入的概念,探索性和效率的设计。
2019-05-08 stat.AP
Bayes Linear Emulation of Simulator Networks
在计算机代码中实现数学模型的计算上昂贵的模拟器通常使用统计模拟器来近似。我们开发和评估新的仿真方法,通过模拟器链,系列或网络最好地模拟系统。使用贝叶斯线性框架,我们链接的组件模拟器的统计仿真器,明确占模拟器输入的不确定性引起的模型之间的链接在任意大的网络。我们证明了这些方法的优势相比,使用一个单一的仿真器的复合模拟器网络的各种例子,包括激励流行病学模拟器链模拟空气传播的传染病的影响。
2021-08-25 stat.ME
Stacking designs: designing multi-fidelity computer experiments with target predictive accuracy
本文提出堆叠设计方法,通过多层RKHS插值器序贯设计多保真实验,在保证目标预测误差的同时降低成本,并证明其优于单保真度方法。
2023-10-27 stat.AP stat.ME