Gaussian process single-index models as emulators for computer experiments
单指数模型(SIM)通过将参数(线性)投影与单变量非参数(非线性)回归模型相结合来提供简约的多维非线性回归。我们表明,一个特定的高斯过程(GP)制定是简单的工作和理想的模拟器,为某些类型的计算机实验,因为它可以优于典型的可分离的GP回归模型通常用于这种设置。我们的贡献集中在大幅简化,重新解释,然后推广最近提出的完全贝叶斯GP-SIM组合,然后说明其良好的性能合成数据和真实数据的计算机实验。在CRAN上发布的两个R软件包已经被增强,以便于在我们提出的模型下进行推理。
2011-08-17 stat.CO stat.ME
Residual Gaussian Process: A Tractable Nonparametric Bayesian Emulator for Multi-fidelity Simulations
Beijing University of Aeronautics and Astronautics(北京航空航天大学);University of Utah(犹他大学);Chongqing University(重庆大学);Beihang University(北京航空航天大学)
多保真度建模中的挑战涉及准确性、不确定性估计和高维性。引入了一种新的添加剂结构,其中最高保真度的解决方案被写为最低保真度的解决方案和在连续的保真度水平的解决方案之间的残差的总和,与高斯过程先验放置在低保真度的解决方案和每个残差。由此产生的模型配备了一个封闭形式的解决方案的预测后,使其适用于先进的,高维的任务,需要不确定性估计。它的优点表现在单变量基准和三个具有挑战性的多变量问题。它示出了如何可以使用主动学习来增强模型,特别是在有限的计算预算。此外,在单变量的情况下,平均预测的误差界。
2021-04-08 cs.CE cs.LG stat.AP
Rapid calibration of atrial electrophysiology models using Gaussian process emulators in the ensemble Kalman filter
本研究提出利用高斯过程仿真器与集成卡尔曼滤波器相结合,快速校准心房电生理模型,实现近实时患者特异性校准,以预测房颤治疗结果。
2025-10-07 stat.AP
Mesh-clustered Gaussian process emulator for partial differential equation boundary value problems
本文提出一种高效的网格聚类高斯过程模拟器,通过Dirichlet过程先验对网格节点进行聚类并拟合GP模型,以同时预测PDEs空间域解并量化不确定性,相比竞争方法预测误差更小且能揭示具有物理意义的聚类结构。
2024-02-14 stat.AP stat.ME
Active learning for efficiently training emulators of computationally expensive mathematical models
仿真器是一种快速评估详细数学模型(模拟器)的统计近似。当代替仿真器使用时,仿真器可以加快需要多次重复评估的任务,例如敏感性分析、策略优化、模型校准和信息价值分析。仿真器是使用特定输入值(设计点)的仿真器输出开发的。开发与模拟器非常接近的模拟器可能需要许多设计点,这在计算上变得昂贵。我们描述了一种自终止主动学习算法,以有效地开发针对特定仿真任务的仿真器,并将其与优化几何标准(随机拉丁超立方体采样和最大投影设计)和其他主动学习算法(优化典型主动学习标准的树形高斯过程)的算法进行比较。我们比较了算法的均方根误差(RMSE)和模拟器的最大绝对偏差(MAX)的七个基准函数和前列腺癌筛查模型。在实证分析中,在输入域平滑度变化很大的模拟器中,主动学习算法导致相同数量的设计点的模拟器具有较小的RMSE和MAX。在所有其他情况下,所有算法都执行了重复。所提出的算法在所有分析中都获得了令人满意的性能,具有比树状高斯过程更小的变异性(它是确定性的),并且平均而言,在7个基准函数中的6个和前列腺癌模型中具有与树状高斯过程相似或更好的性能。
2020-01-03 stat.CO stat.ME
Linked Deep Gaussian Process Emulation for Model Networks
University College London(伦敦大学学院);University of Exeter(埃克塞特大学)
本文提出部分暴露隐藏层的链接深度高斯过程仿真方法,以克服LGP的平稳性限制,并在合成与实证示例中提升预测及不确定性量化性能。
2023-06-02 cs.LG stat.AP stat.CO
Gaussian process emulators for computer experiments with inequality constraints
物理现象在许多领域(科学和工程)中被观察到,并且通常通过耗时的计算机代码进行研究。这些代码使用统计模型进行分析,通常称为仿真器。在许多情况下,物理系统(计算机模型输出)可能已知满足关于一些或所有输入变量的不等式约束。我们的目标是建立一个模型,能够将数据插值和不等式约束到高斯过程仿真器。通过使用功能分解,我们提出了近似的原始高斯过程的有限维高斯过程,使所有的条件模拟满足不等式约束在整个区域。计算条件高斯过程的均值、众数(最大后验概率)和预测区间(不确定性量化)。为了研究所提出的模型的性能,一些条件模拟与不等式约束,如边界,单调性或凸性条件。1.导论.在工程活动中,计算机代码的运行可能是昂贵且耗时的。一种解决方案是使用统计代理来调节某些输入位置(设计点)处的计算机模型输出。高斯过程(GP)仿真器是最受欢迎的选择之一[23]。原因在于GP的属性,即可以计算不确定度量化。此外,它还有几个很好的特性。例如,观察数据的条件GP(线性等式约束)仍然是GP [5]。此外,输出计算机响应的一些不等式约束(例如单调性和凸性)与偏导数有关。在这种情况下,GP的偏导数也是GP。将无穷多个线性不等式约束表示到GP仿真器中,问题变得更加困难。原因是产生的条件进程不是GP。在不等式约束插值的文献中,我们发现了两类方法。第一种是确定性的,基于样条,其优点是在整个输入域中满足不等式约束(参见例如[16],[24]和…
2016-05-24 math.PR stat.ME
A Gaussian-process approximation to a spatial SIR process using moment closures and emulators
控制疾病传播的动力学很难建模,因为感染是潜在病原体以及人类或动物行为的功能。当对疾病如何在不同空间位置之间传播进行建模时,这一挑战会增加。许多提出的空间流行病学模型需要权衡,以适应,要么抽象出理论传播动力学,拟合确定性模型,或需要大量的计算资源,许多模拟。我们提出了一种用高斯过程来近似复杂的空间扩散动态的方法。我们首先提出了一个灵活的空间扩展著名的SIR随机过程,然后我们推导出一个时刻封闭近似这个随机过程。这一时刻关闭近似产生的平均值和协方差的易感染性和通过时间的演变常微分方程。因为这些ODE是MCMC拟合模型的瓶颈,所以我们使用低秩仿真器来近似它们。这种近似值作为我们的分层模型的基础,用于按空间位置和时间对新感染的噪声,漏报计数。我们演示了使用我们的模型进行推理模拟感染的基础,真正的空间SIR跳跃过程。然后,我们将我们的方法应用于2015年底至2016年初巴西新寨卡病毒感染的模型计数。
2022-08-05 stat.ME
Uncertainty Quantification in Stochastic Economic Dispatch using Gaussian Process Emulation
随着可再生能源在电力系统中的广泛应用,传统的确定性经济调度问题转化为随机性经济调度问题。为了解决这种随机经济调度,传统的蒙特卡罗方法是非常耗时的中型和大型电力系统。为了克服这个问题,本文提出了一种新的高斯过程仿真器为基础的方法来量化的不确定性,在随机经济调度考虑风电穿透。基于Karhunen-Loève展开的降维结果,构造了高斯过程仿真器。该代理允许我们以可忽略的计算成本在采样值处评估经济调度求解器,同时保持期望的精度。IEEE 118节点系统的仿真结果表明,该方法具有良好的性能相比,传统的蒙特卡罗方法。
2019-09-20 cs.SY eess.SY stat.CO
Linked Gaussian Process Emulation for Systems of Computer Models using Matérn Kernels and Adaptive Design
最先进的关联高斯过程提供了一种为计算机模型系统构建分析仿真器的方法。我们推广了平方指数核下的链接高斯过程的封闭形式表达式到一类Matérn核,这在高级应用中是必不可少的。本文提出了一种迭代的方法来构造链接高斯过程作为任何前馈系统的计算机模型的代理模型,并在一个反馈耦合卫星系统上进行了说明。我们还介绍了一种自适应设计算法,可以增加近似精度的链接高斯过程代理与运行昂贵的计算机系统上的计算成本降低,通过分配运行和细化仿真的各个子模型的基础上,其异构功能的复杂性。
2021-02-07 stat.AP stat.ME
A Fast and Calibrated Computer Model Emulator: An Empirical Bayes Approach
在计算机上实现的数学模型已经成为加速科学过程周期的驱动力。这是因为计算机模型通常比物理实验运行得更快和更经济。在这项工作中,我们开发了一种经验贝叶斯方法,使用计算机模型来预测物理量,我们假设所考虑的计算机模型需要校准,并且计算成本很高。我们提出了一个高斯过程仿真器和一个高斯过程模型的计算机模型和底层的物理过程之间的系统差异。这允许由高斯过程引起的条件分布给出的封闭形式和易于计算的预测。我们提供了一个严格的理论依据所提出的方法,通过建立后验的一致性估计的物理过程。在一个广泛的模拟研究和一个真实的数据示例中证明了该方法的计算效率。新建立的方法从实践和理论的角度加强了计算机模型的使用。
2021-07-02 stat.CO stat.ME
Multilevel Emulation for Stochastic Computer Models with Application to Large Offshore Wind farms
大型海上风电场等可再生能源项目对于实现政府设定的低排放目标至关重要。随机计算机模型使我们能够探索未来的情景,以帮助决策,同时考虑最相关的不确定性。复杂的随机计算机模型可能非常慢,因此可以构建和部署仿真器以允许有效的计算。我们提出了一种新的异方差高斯过程仿真器,利用廉价的近似随机海上风电场模拟器。我们还进行了概率敏感性分析,以了解风电场模型中关键参数的影响,这将有助于我们计划未来的概率启发。
2021-12-06 stat.AP stat.ME
Computer emulation with non-stationary Gaussian processes
高斯过程(GP)模型在计算机实验中被广泛用于模拟传播不确定性。GP仿真舒适地坐落在一个易于分析的贝叶斯框架内。除了传播输入变量的不确定性外,在多次实验运行中训练的GP仿真器还为未知输入值的响应面估计提供了误差条。这有助于选择未来的输入值,以便将响应曲面估计中的不确定性降至最低。然而,传统的GP仿真器使用固定的协方差函数,这表现不佳,并导致次优选择的未来输入点时,响应表面具有尖锐的局部特征,如跳跃不连续性或孤立的高峰。我们提出了一个易于实现的非平稳GP仿真器,基于两个固定的GP,一个嵌套到其他,并展示其优越的能力,在处理本地功能和选择未来的输入点从这些功能的边界。
2015-01-29 stat.ME
Deep Gaussian Process Emulation using Stochastic Imputation
University College London(伦敦大学学院);University of Exeter(埃克塞特大学)
深度高斯过程(DGP)提供了丰富的模型,与传统的GP相比,可以更好地表示具有变化机制或急剧变化的函数。在这项工作中,我们提出了一种新的推理方法DGP的计算机模型仿真。通过随机输入的潜在层,我们的方法将一个DGP到一个链接的GP:一个新的仿真器开发的系统链接的计算机模型。这种变换允许仅涉及常规GP的优化的高效DGP训练过程。此外,DGP仿真器的预测可以通过自然地利用链接的GP仿真器的封闭形式预测手段和方差以快速且易于分析的方式进行。我们证明了该方法在一系列的合成例子和实证应用,并表明它是一个有竞争力的候选人DGP代理推理,结合效率相媲美的双随机变分推断和不确定性量化,是完全贝叶斯方法。实施该方法的$\texttt{Python}$包$\texttt{dgpsi}$也可在https://github.com/mingdeyu/DGP上生产和获得。
2022-08-17 cs.LG stat.AP stat.CO
Likelihood-free inference with emulator networks
Uber(优步)
近似贝叶斯计算(ABC)提供了在基于模拟的随机模型中进行贝叶斯推断的方法,这些随机模型不允许易处理的可能性。我们提出了一种新的ABC方法,它使用概率神经仿真器网络来学习模拟数据的合成似然性-既有局部仿真器,它近似于特定观测数据的可能性,也有适用于一系列数据的全局仿真器。使用采集函数自适应地选择模拟,该采集函数考虑了感兴趣的后验分布或仿真器参数的不确定性。我们的方法不依赖于用户定义的拒绝阈值或距离函数。我们说明推理与仿真器网络上的合成的例子和生物物理神经元模型,并表明,仿真器允许准确和有效的推理,即使在高维的问题,这是传统的ABC方法的挑战。
2019-05-20 cs.LG stat.ML
Potentially Predictive Variance Reducing Subsample Locations in Local Gaussian Process Regression
高斯过程模型通常用作计算机实验的仿真器。然而,开发一个高斯过程仿真器可以是计算上禁止时,实验样本的数量甚至适度大。局部高斯过程近似(Gramacy and Apley,2015)被提出作为一种精确且计算上可行的仿真替代方案。然而,构建特定于特定感兴趣位置处的预测的局部子设计仍然是该技术的实质性计算瓶颈。本文提出了两种计算效率高的邻域搜索限制技术,最大距离法和特征近似法。两个例子表明,所提出的方法确实节省了大量的计算,同时保持仿真精度。
2016-11-26 stat.CO stat.ME
Emulation of multivariate simulators using thin-plate splines with application to atmospheric dispersion
通常需要建立复杂计算机模拟器的统计仿真器,以便执行否则在计算上不可行的分析。我们提出的方法来模拟多变量输出的计算机模拟器考虑到输出结构的响应。这种方法的实用性证明了将其应用到化学和生物危害预测模型。预测意外或蓄意的化学或生物释放所造成的危险区域对于民事和军事规划以及应急反应都是必不可少的。从这样的释放所产生的危险区域是高度结构化的空间,因此,我们建议使用薄板样条来捕获的空间结构和适合的高斯过程仿真器的系数所得到的基函数。我们比较和对比四种不同的技术来模拟多变量输出:降维使用(i)一个完全贝叶斯方法与主成分的基础上,(ii)一个完全贝叶斯方法与薄板样条的基础上,假设基础系数是独立的,和(iii)一个“插件”贝叶斯方法与薄板样条的基础和一个可分离的协方差结构;以及(iv)使用张量积(可分离)高斯过程的函数数据建模方法。我们开发的两个薄板样条仿真器的方法,并证明这些仿真器显着优于主成分仿真器。此外,可分离的薄板样条仿真器,它占基础系数之间的依赖性,提供了实质上更现实的量化的不确定性,也是计算上更容易处理,允许快速仿真。对于高分辨率的输出数据,它还提供了大量的预测和计算的优势,比张量积高斯过程仿真器。
2016-10-26 stat.ME
Fast Emulation, Modular Calibration, and Active Learning for Simulators with Functional Response
针对高斯过程仿真器在大规模函数输出数据下扩展性差、速度慢的问题,提出融合局部高斯过程回归的高可扩展函数数据仿真器,通过全局长度尺度缩放输入空间提速,可替代全贝叶斯方法降本,已用于20000次运行的多物理场模拟器校准并集成于R包FlaGP。
2025-10-06 stat.AP stat.ME
A simple emulator that enables interpretation of parameter-output relationships, applied to two climate model PPEs
本研究提出简化加性高斯过程模拟器sage,适配气候模型PPE的稀疏特性,可量化参数对输出的影响,性能与全连接神经网络相当,还能提供参数重要性洞见与PPE设计优化参考。
2024-10-08 physics.ao-ph stat.ME
Probabilistic Load-Margin Assessment using Vine Copula and Gaussian Process Emulation
随着可再生能源的日益普及和负荷的变化,电力系统状态的不确定性越来越大,威胁着电力系统规划和运行的安全性。面对这些挑战,本文提出了一种具有成本效益的,非参数的方法来量化不确定的功率注入对负载裕度的影响。首先,我们提出了一种新的藤蔓Copula,由于其模拟复杂的多变量高度依赖的模型输入的能力,产生系统的不确定输入。此外,为了减少传统的蒙特卡罗方法所需的计算时间,我们建议使用一个非参数,高斯过程仿真器为基础的降阶模型,以取代原来复杂的连续潮流模型。该仿真器允许我们以可忽略的计算成本在采样值处执行耗时的连续潮流求解器。IEEE 57节点系统,其中相关的可再生能源发电附加进行的仿真,揭示了所提出的方法的优良性能。
2020-04-13 cs.SY eess.SP eess.SY
Efficient emulators of computer experiments using compactly supported correlation functions, with an application to cosmology
计算机模拟器的统计模拟器已被证明在各种应用中是有用的。广泛采用的仿真器构建模型,使用具有严格正相关函数的高斯过程模型,当仿真器评估的数量很大时,在计算上是难以处理的。我们提出了一个新的模型,它使用低阶回归项和composite支持的相关函数的组合来重新创建所需的预测行为的仿真器在一小部分的计算成本。按照通常的方法,采取的相关性是在每个输入维度的相关性的产品,我们展示了如何对相关性的范围施加限制,提供稀疏性,同时也允许范围相互权衡,从而提供良好的预测性能。我们说明了该方法使用的数据从计算机模拟器的光度红移与20,000模拟器评估和80,000预测。
2012-02-28 stat.AP stat.ME
Generalized and Scalable Deep Gaussian Process Emulation
University College London(伦敦大学学院)
本文提出广义深度高斯过程框架,用于处理异方差高斯输出和多种非高斯响应分布,通过Vecchia近似和高效推断方法提升可扩展性,展示其在合成和实际数据中的应用。
2026-11-05 stat.CO
Scalable, Likelihood-Free Calibration of Ice-Sheet Models with Deep Diffusion Emulators and Feature Matching
Yonsei University(延世大学);Bayer AG(拜耳股份公司);Seoul National University(首尔大学)
本文提出SC-DS方法,结合扩散模型与孪生网络实现冰盖模型可扩展无似然校准,精度相当且成本低,可应用于现有方法无法处理的全分辨率冰盖模拟场景。
2026-09-01 stat.AP
Active emulation of computer codes with Gaussian processes -- Application to remote sensing
Universitat de València(瓦伦西亚大学);Universidad Rey Juan Carlos(胡安·卡洛斯国王大学)
许多科学和工程领域依赖于使用复杂且计算昂贵的模型来运行模拟,以了解感兴趣系统中的相关过程。然而,所涉及的高成本妨碍了可靠和详尽的模拟。这种守则往往包含一些具有讽刺意味的技巧,使它们不那么容易处理和透明。本文介绍了一种主动学习方法,自适应地构建代理模型,即仿真器,这样昂贵的计算机代码在多输出设置。所提出的技术是顺序和自适应的,是基于一个合适的采集功能的优化。它旨在实现精确的近似,模型的易处理性,以及紧凑和表达的模拟数据集。为了实现这一点,建议的主动多输出高斯过程仿真器(AMOGAPE)结合高斯过程(GP)的预测能力与采集功能的设计,有利于采样在低密度和波动区域的近似函数。比较不同的采集功能,我们说明了有前途的性能的方法与玩具的例子,以及广泛使用的遥感传输代码的仿真器的建设。
2019-12-13 cs.LG stat.ML
Emulators for Large-scale Computer Experiments with Quantitative and Qualitative Inputs
Queen’s University(女王大学);Paul H. Chook Department of Information Systems and Statistics, Baruch College, The City University of New York(纽约市立大学巴鲁克学院保罗·H·丘克信息系统与统计系)
提出一种基于加性高斯过程和Vecchia近似的可扩展框架,用于处理混合输入的大规模计算机实验模拟。
2026-06-01 stat.CO stat.ME
The Double Emulator
针对仿真器在输入空间大面积“接地”导致传统高斯过程仿真器平稳性与平滑性假设失效的问题,本文提出双重仿真器方法,并通过腐蚀仿真与合成实验验证其优于GPE的性能。
2024-11-22 stat.CO
Gaussian process emulation for discontinuous response surfaces with applications for cardiac electrophysiology models
生物系统的数学模型开始用于安全关键应用,其中需要大量重复的模型评估来执行不确定性量化和敏感性分析。这些模型中的大多数在变量和参数/输入方面都是非线性的,这有两个后果。首先,解析解是很少可用的,因此通过数值求解微分方程来重复评估这些模型会带来显着的计算负担。第二,许多模型在参数变化时会发生行为分叉。因此,当我们改变参数值并在参数/输入空间中移动时,仿真输出通常包含不连续性。统计仿真器,如高斯过程,经常被用来减少不确定性量化的计算成本,但不连续性使标准的高斯过程仿真方法不合适,因为这些仿真器假设一个平滑和连续的响应参数值的变化。在这篇文章中,我们提出了一种新的两步方法来建立一个高斯过程仿真模型与不连续的响应面。我们首先使用一个高斯过程分类器来检测边界的不连续性,然后约束这些边界内的响应面的高斯过程仿真。我们引入了一种新的“确定性度量”来指导多类概率分类器的主动学习。我们将新的分类器应用于心脏电生理模型上的药物作用模拟,将药物作用的不确定性传播到心脏动作电位变化的预测。所提出的两步主动学习方法显着降低了仿真模型,经历多个分叉的计算成本。
2018-05-25 stat.CO
Bayesian Deep Gaussian Processes for Correlated Functional Data: A Case Study in Cosmological Matter Power Spectra
Elms College(埃尔姆斯学院);Virginia Tech(弗吉尼亚理工大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Argonne National Laboratory(阿贡国家实验室)
提出贝叶斯深度高斯过程分层模型,综合多保真度模拟数据估计物质功率谱并量化不确定性,利用基函数表示训练独立GP模拟器预测新宇宙学下的功率谱。
2026-06-08 astro-ph.CO astro-ph.IM stat.AP
Gaussian process hyper-parameter estimation using parallel asymptotically independent Markov sampling
计算上昂贵的计算机代码的高斯过程仿真器提供快速的统计近似来模拟物理过程。这些代理的训练取决于选择运行模拟器的设计点集。由于计算成本,这样的训练集必然是有限的,并且通过单峰分布量化仿真器的超参数中产生的不确定性可能会引起偏差。为了量化这种不确定性,本文提出了一种计算效率高的采样器的基础上扩展的渐近独立马尔可夫抽样,最近开发的算法贝叶斯推断。仿真器的结构不确定性作为超参数的贝叶斯处理的副产品而获得。此外,用户可以选择执行随机优化,以从最大后验估计的邻域中采样,即使在存在多模态的情况下也是如此。模型的不确定性也承认通过数值稳定措施,包括一个块金长期制定的概率模型。所提出的采样器的效率示出的例子中遇到的多模态分布。为了重复性、进一步开发和在其他应用中使用,用于生成示例的代码可在https://github.com/agarbuno/paims_codes免费下载
2016-08-15 stat.CO
Appraisal of data-driven and mechanistic emulators of nonlinear hydrodynamic urban drainage simulators
Swiss Federal Institute of Aquatic Science and Technology, Eawag(瑞士联邦水科学与技术研究所(Eawag))
许多基于模型的科学和工程方法,如系统辨识、敏感性分析、优化和控制,都需要大量的模型评估。特别是,基于模型的实时控制的城市水基础设施和在线洪水报警系统需要快速预测的网络响应在不同的驱动和/或参数值。一般用途的城市排水模拟器对于这种应用来说太慢了。快速代理模型,即所谓的仿真器,为这种效率需求提供了解决方案。仿真器很有吸引力,因为它们为了速度而牺牲了不必要的准确性。然而,它们必须被微调以令人满意地预测系统行为。此外,一些仿真器无法推断出训练集之外的系统行为。虽然,有许多策略开发仿真器,到目前为止,选择的仿真策略仍然是主观的。因此,在本文中,我们比较了两个家庭的模拟器的性能为明渠流量的背景下,城市排水模拟器。我们比较仿真器,明确使用知识的模拟器的方程,即基于高斯过程的机械仿真器,与纯粹的数据驱动的仿真器使用矩阵分解。我们的研究结果表明,在许多城市应用中,天真的数据驱动的仿真优于机械仿真。然而,我们讨论的场景中,我们认为,机械仿真可能有利于i)外推的时间和ii)处理稀疏和不均匀的采样数据。我们还提供了许多关于机器学习领域进展的参考资料,这些进展尚未渗透到贝叶斯环境科学社区。
2017-02-03 cs.CE cs.LG stat.ME
Diagnostic-Driven Nonstationary Emulators Using Kernel Mixtures
弱平稳高斯过程(GPs)是计算机实验(或不确定性量化)设计和分析的统计方法中的主要工具。使用一组训练运行来学习过程协方差核的参数,将这样的过程拟合到计算机模型输出。平稳性假设通常是足够的,但当模型响应表现出非平稳性时,例如,如果其平滑度在输入空间中变化,则可能导致预测性能较差。在本文中,我们介绍了一种诊断为主导的方法来拟合非平稳GP仿真器,通过指定有限的混合特定区域的协方差内核。我们的方法首先适合一个固定的GP,如果传统的诊断表现出非平稳性,这些诊断被用来适应适当的混合函数的协方差内核混合设计,以捕捉非平稳性,确保仿真器是连续的参数空间和易于解释。我们比较我们的方法在文献中的主要非平稳GP模型,并说明其性能的一些理想化的测试用例和应用程序建模的云参数化的法国气候模型。
2019-02-27 stat.ME
Multivariate emulation of computer simulators: model selection and diagnostics with application to a humanitarian relief model
我们提出了一个共同的框架贝叶斯仿真方法的多变量输出模拟器,或计算机模型,采用参数线性模型或非参数高斯过程。新型诊断适合多元协方差可分离仿真器的开发和技术,以提高仿真器的充分性进行了讨论和实施。各种仿真器进行比较的人道主义救济模拟器,模拟援助任务后,西西里岛火山爆发和地震,并进行敏感性分析,以确定敏感性的模拟器输出的输入变量的变化。从参数和非参数仿真器的结果进行比较,在预测精度,不确定性量化和科学的可解释性。
2015-11-17 stat.ME
Fast emulation of density functional theory simulations using approximate Gaussian processes
University of Washington(华盛顿大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
使用马尔可夫链蒙特卡罗以贝叶斯方式将理论模型拟合到实验数据通常需要对模型进行数千次(或数百万次)评估。当模型是计算速度慢的物理模拟时,贝叶斯模型拟合变得不可行。为了补救这一点,可以在模型拟合期间使用预测模拟输出的第二个统计模型-“仿真器”--来代替完整的模拟。典型的仿真器选择是高斯过程(GP),这是一种灵活的非线性模型,在每个输入点提供预测均值和方差。高斯过程回归适用于少量训练数据($n < 10^3$),但当数据集大小变得很大时,它在训练和用于预测时变得很慢。可以使用各种方法来加速中大型数据集体系($n > 10^5$)中的高斯过程,从而以大幅减少的运行时间来换取预测准确性。这项工作研究了几个近似的高斯过程模型-稀疏变分GP,随机变分GP和深内核学习GP -模拟密度泛函理论(DFT)模型的预测时的准确性-运行时间的权衡。此外,我们使用模拟器校准,在贝叶斯的方式,DFT模型参数使用观测数据,解决由数据集大小施加的计算障碍,并比较校准结果与以前的工作。这些校准的DFT模型的效用是基于观测数据对实验上未观测到的感兴趣的核素(例如超重核)的性质进行预测。
2022-08-24 cs.LG stat.ML
Uncertainty Quantification of a Computer Model for Binary Black Hole Formation
本文介绍了一种基于高斯过程的快速并行方法,用于模拟大质量恒星演化过程中双星黑洞形成的计算机模型。在这种应用中出现的两个障碍是BBH形成的先验未知条件和模拟数据的大规模。我们提出了一个本地仿真器,它结合了GP分类器和GP回归模型来解决这些问题。由此产生的仿真器也可以用于规划未来的计算机模拟,通过顺序设计的建议标准。通过仿真器传播模拟输入的不确定性,我们能够得到BBH性质的分布下的物理参数分布。
2021-06-03 astro-ph.HE astro-ph.IM stat.AP
Bayesian Hierarchical Emulators for Multi-Level Models: BayHEm
针对多层级模型仿真中顶层运行昂贵的问题,提出BayHEm方法,通过将上一层后验作为下一层先验构建贝叶斯分层GP仿真器,共享信息并限制参数总数,提升顶层仿真精度。
2025-02-24 stat.ME
History matching with probabilistic emulators and active learning
多年来,通过计算机模拟,对现实世界过程的科学理解已经大大提高。这样的模拟器表示复杂的数学模型,其被实现为通常昂贵的计算机代码。使用特定模拟器得出准确结论的有效性依赖于计算机代码被正确校准的假设。这种校准程序通常是在广泛的实验和与来自现实世界的过程的数据比较下进行的。问题是,数据收集可能非常昂贵,只有少数实验是可行的。历史匹配是一种校准技术,在给定模拟器的情况下,它使用不可信性度量迭代地丢弃输入空间的区域。当模拟器在计算上是昂贵的时,使用模拟器来探索输入空间。在本文中,一个高斯过程提供了一个完整的概率输出,被纳入不可信性措施。感兴趣的区域的识别是完成最近开发的退火采样技术。主动学习功能被纳入到历史匹配过程中,以重新关注输入空间并改进仿真器。该框架的效率进行了测试,在著名的例子,从历史匹配的文献,以及在一个建议的测试床的功能更高的维度。
2020-04-16 stat.CO
Active Learning for a Recursive Non-Additive Emulator for Multi-Fidelity Computer Experiments
提出递归非加性(RNA)仿真器,利用高斯过程先验递归建模多保真度数据关系,推导闭式后验预测并设计四种主动学习策略,在提升计算效率的同时有效平衡模拟成本与准确性。
2024-06-04 stat.ME
Discrepancy Modeling with Intermediate Variables: A New Framework for Robust Gaussian Process Calibration
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);Argonne National Laboratory(阿贡国家实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
提出利用中间变量进行差异建模的鲁棒高斯过程校准框架,通过结构化变量选择、离散化缩放高斯过程约束和空间填充设计,联合建模仿真器与差异,提升预测性能并缓解可辨识性问题。
2026-06-12 stat.CO stat.ME
Emulating dynamic non-linear simulators using Gaussian processes
非线性确定性计算机代码的动态仿真,其中的输出是一个时间序列,可能是多变量,检查。这种计算机模型模拟了一些现实世界现象随时间的演变,例如气候模型或人脑功能。我们感兴趣的模型是高度非线性的,表现出临界点,分叉和混沌行为。但是,每次模拟运行可能太耗时,无法执行需要多次运行的分析,包括量化模型输出相对于输入变化的变化。因此,使用高斯过程仿真器来近似代码的输出。要做到这一点,所研究的系统的流程图是在很短的时间内模拟。然后,以迭代的方式使用它来预测整个时间序列。在固定初始条件后,提出了一些方法来考虑仿真器输入的不确定性,以及它们之间通过时间序列的相关性。该方法说明了两个例子:高度非线性动力系统描述的洛伦兹和范德波尔方程。在这两种情况下,预测性能相对较高,该方法提供的不确定性度量反映了每个系统的可预测性程度。
2019-02-18 math.DS stat.AP stat.ML
Hierarchical shrinkage Gaussian processes: applications to computer code emulation and dynamical system recovery
Duke University(杜克大学)
在科学和工程的许多领域,计算机模拟被广泛用作物理实验的替代品,这可能是不可行或不道德的。这种模拟通常在计算上是昂贵的,并且可以训练仿真器以有效地预测期望的响应表面。一个广泛使用的仿真器是高斯过程(GP),它提供了一个灵活的框架,有效的预测和不确定性量化。然而,标准GP不捕获底层响应表面上的结构化稀疏性,这在许多应用中存在,特别是在物理科学中。因此,我们提出了一个新的分层收缩GP(HierGP),它通过GP框架内的累积收缩先验,将这种结构。我们表明,HierGP隐式地嵌入了众所周知的原则的效果稀疏性,遗传性和层次分析的实验,这使得我们的模型,以确定结构化的稀疏功能,从响应面有限的数据。我们提出了有效的后验采样算法的模型训练和预测,并证明了理想的HierGP的一致性属性。最后,我们证明了HierGP在现有模型的改进性能,在一套数值实验和应用程序的动力系统恢复。
2023-02-01 cs.LG stat.ME stat.ML
Known Boundary Emulation of Complex Computer Models
计算机模型现在被广泛用于一系列科学学科来描述各种复杂的物理系统,但是要执行完全的不确定性量化,我们通常需要使用仿真器。仿真器是一种快速的统计结构,它模仿复杂的计算机模型,并极大地帮助了严重的科学分析经常需要的计算密集型不确定性量化计算。在某些情况下,对于某些参数设置,复杂模型可以更有效地求解,从而导致输入参数空间中的边界或超平面,其中模型基本上是已知的。我们发现,对于一大类的高斯过程风格的仿真器,多个边界可以正式纳入仿真过程中,贝叶斯更新的仿真器的边界,微不足道的计算成本。由此产生的更新仿真器方程给出解析。这导致仿真器在输入参数空间的大部分上具有增加的精度。我们还描述了用户如何可以将这些边界内的标准黑盒GP仿真软件包,目前可用的,而不改变核心代码。适当的设计模型运行在已知的边界的存在下,然后进行了分析,提出了两种通用的设计。然后,我们应用改进的仿真和设计方法的一个重要的系统生物学模型的激素串扰在拟南芥。
2019-05-03 stat.CO stat.ME
Computer Model Emulation with High-Dimensional Functional Output in Large-Scale Observing System Uncertainty Experiments
观测系统不确定性实验(OSUE)最近被提出作为一种具有成本效益的方法来执行概率评估的检索NASA的轨道碳观测站-2(OCO-2)的任务。OCO-2反演算法的一个重要组成部分是一个全物理正演模型,该模型描述了二氧化碳等大气变量与遥感仪器测量的辐射之间的数学关系。该正演模型复杂且计算量大,但大规模OSUE需要多次评估该模型,这使得它不适合于综合实验。为了解决这个问题,我们开发了一个统计仿真器,以促进大规模OSUE在OCO-2任务与独立的仿真。在每个不同的光谱带内,仿真器通过基函数和随机系数的线性组合来表示在不规则波长处输出的辐射度。这些随机系数,然后与最近邻高斯过程与内置的输入降维通过活动子空间建模。建议的仿真器降低了输入空间和输出空间的维数,从而在一个完全的贝叶斯推断框架内实现快速计算。验证实验表明,该仿真器优于其他竞争的统计方法和降阶模型,近似的全物理正演模型。
2020-11-02 stat.AP stat.CO stat.ME
Bayesian Calibration for Activity Based Models
我们认为基于活动的交通模拟器的校准和不确定性分析的问题。基于活动的模型(ABM)依赖于对个人旅行者行为的统计建模来预测大都市地区的高阶旅行模式。输入参数通常使用极大似然从旅行者调查中估计。我们开发了一种方法,使用一个高斯过程仿真器来校准这些参数使用交通流数据。我们的方法扩展了传统的仿真器来处理高维和非静态性质的交通模拟器。我们引入了一个深度学习降维模型,该模型与高斯过程模型联合估计以近似模拟器。我们展示了使用几个模拟的例子,以及通过校准的关键参数的布卢明顿,伊利诺伊州模型的方法。
2022-09-05 stat.AP stat.ML
VPPE: Application of Scaled Vecchia Approximations to Parallel Partial Emulation
本文提出VPPE方法,将缩放Vecchia近似融入并行部分模拟框架,以加速处理大规模训练数据,并在三个实验中保持预测精度同时大幅降低运行时间。
2025-08-26 stat.AP stat.CO
Emulation of greenhouse-gas sensitivities using variational autoencoders
University of Wollongong(伍伦贡大学)
通量反演是通过观测气体摩尔分数来识别气体源和汇的过程。反演通常涉及运行拉格朗日粒子弥散模型(LPDM),以生成感兴趣的空间域上的观测值和通量之间的灵敏度。对于每次气体测量,LPDM必须在时间上向后运行,并且这在计算上可能是禁止的。为了解决这个问题,在这里,我们开发了一种新的时空模拟器LPDM的灵敏度,是建立使用卷积变分自编码器(CVAE)。通过CVAE的编码器部分,我们获得了低维空间中潜变量的近似(变分)后验分布。然后,我们在低维空间上使用时空高斯过程仿真器来仿真预测位置和时间点的新变量。然后,仿真变量通过CVAE的解码器段以产生仿真灵敏度。我们表明,我们的CVAE为基础的仿真器优于更传统的仿真器使用经验正交函数,它可以用于不同的LPDM。我们的结论是,我们的仿真为基础的方法可以用来可靠地减少所需的计算时间,以产生LPDM输出用于高分辨率通量反演。
2021-12-22 cs.LG physics.ao-ph stat.AP
Multivariate Gaussian process emulation for multifidelity computer models with high-dimensional spatial outputs
Iowa State University(爱荷华州立大学)
本文提出多变量高斯过程模拟方法,用于在高维空间中处理多保真度计算机模型,通过自回归协克里金框架开发两种交叉协方差结构,以提高风暴潮风险评估的预测精度与效率。
2026-03-29 stat.ME
Emulating computer models with step-discontinuous outputs using Gaussian processes
在许多现实世界的应用中,我们感兴趣的是近似昂贵的功能,是分析未知的,例如复杂的计算机代码。仿真器提供了依赖于有限数量的评估的这样的函数的快速近似。高斯过程(GP)是常见的仿真器,由于其统计特性,如估计自己的不确定性的能力。GP本质上是为了适应光滑、连续的函数而开发的。然而,在许多情况下,连续性和平滑性的假设是没有根据的。例如,在出现分叉或临界点的计算机模型中,输出可能是不连续的。这项工作探讨的能力,全球定位系统的仿真步骤不连续的功能。为此提出了若干办法。两个特殊的协方差函数/内核适应的能力,模型的不连续性。它们是神经网络和吉布斯内核,其属性使用几个例子来证明。另一种方法,称为扭曲,是将输入空间转换为一个新的空间,其中具有标准内核的GP(如Matern家族)能够很好地预测函数。该变换是通过一个参数映射来执行,该参数映射的参数是通过极大似然估计的。结果表明,所提出的方法具有更优越的性能与标准的核GP在捕捉真正的功能急剧跳跃。
2020-09-30 stat.ME
Inverse Uncertainty Quantification using the Modular Bayesian Approach based on Gaussian Process, Part 2: Application to TRACE
逆不确定性量化(UQ)是量化随机输入参数中的不确定性同时实现代码模拟与物理观测之间的一致性的过程。在本文中,我们进行了反UQ使用改进的模块贝叶斯方法的基础上高斯过程(GP)的TRACE物理模型参数使用BWR全尺寸细网格束试验(BFBT)基准稳态空隙率数据。用GP仿真器描述了模型差异。数值试验表明,这种对模型偏差的处理可以避免过拟合。在此基础上,构建了一个运行速度快、精度高的GP仿真器来代替马尔可夫链蒙特卡罗(MCMC)采样过程中的TRACE全模型。计算成本被证明是减少了几个数量级。一个顺序的方法也被开发为有效的测试源分配(TSA)的逆UQ和验证。该顺序TSA方法首先选择实验测试进行验证,该实验测试具有测试域的完全覆盖,以避免在逆UQ测试的输入设置处进行评估时模型差异项的外推。然后,它选择的测试,往往驻留在测试域的未填充区的逆UQ,这样就可以提取的校准参数的后验概率分布的信息,只有相对较少的测试数量。该研究解决了TRACE物理输入参数“缺乏输入不确定性信息”的问题,在以前的工作中,该问题通常被忽略或使用专家意见或用户自评估来描述。所得到的TRACE参数的后验概率分布可用于未来TRACE程序的不确定性、灵敏度和验证研究,用于核反应堆系统设计和安全分析。
2018-01-28 stat.AP
Reliable emulation of complex functionals by active learning with error control
针对高维输入下传统统计仿真器效率低、精度差的问题,提出带误差控制的主动学习算法ALEC,用于复杂泛函仿真,在精度和效率上均优于传统方法,可作为高成本泛函仿真的可靠组件。
2024-01-30 physics.chem-ph stat.AP
Dimension reduction for Gaussian process emulation: an application to the influence of bathymetry on tsunami heights
高精度的复杂计算机模型或模拟器需要大量的时间和内存资源来产生逼真的结果。统计模拟器是这种模拟器在计算上廉价的近似。它们可以取代模拟器用于各种目的,例如将不确定性从输入传播到输出或根据观察值校准某些内部参数。然而,当输入空间是高维的时,仿真器的构造可能变得过于昂贵。为了克服这一障碍,本文提出了一种结合降维的框架合并仿真方法。选择基于梯度的核降维技术是因为它能够在几乎不损失信息的情况下大幅降低维度。高斯过程仿真技术与这种降维方法相结合。我们提出的方法提供了一个答案,降维问题,在仿真的范围广泛的仿真问题,不能使用现有的方法来解决。该框架的效率和准确性的理论证明,并与其他方法的椭圆型偏微分方程(PDE)问题。最后,我们提出了一个现实的应用海啸建模。水深测量(海底高程)的不确定性建模为高维实现的空间过程中使用的地质统计方法。我们的降维仿真使我们能够计算这些不确定性对近岸和岸上可能产生的海啸波高的影响。我们观察到,由于水深测量不确定性的贡献,海啸高度的不确定性的传播显着增加。这些结果突出表明,有必要在海啸预警和风险评估中考虑水深测量不确定性的影响。
2016-08-24 stat.AP stat.CO
Bayesian Emulation of Multi-fidelity Earth System Modelling Using Hierarchical Gaussian Processes
University of Exeter(埃克塞特大学);University of Greenwich(格林威治大学);Chinese Academy of Sciences(中国科学院)
本文比较四种基于高斯过程的多保真仿真方法,在海啸和JULES模拟中评估性能,发现无单一方法普遍最优,选择需依保真度关系、高保真数据量和精度需求而定。
2026-09-09 stat.AP stat.ME
Active Learning for Data-Efficient Calibration of Stochastic Simulation Models
Farmer School of Business, Miami University(迈阿密大学法默商学院)
本文提出一种主动学习框架,平衡探索与复制以实现数据高效的随机仿真模型校准,经实验验证可减少仿真数量并提升后验分布学习效果。
2026-08-03 stat.ME
Additive Covariance Kernels for High-Dimensional Gaussian Process Modeling
高斯过程模型-也称为克里格模型-通常用作昂贵实验的数学近似。然而,当输入的维数增加时,使用经典的协方差核时,构建仿真器所需的观测数变得不切实际。为了避免维数灾难,一种流行的方法是考虑简化模型,如添加剂模型。目前的工作的野心是提供一个洞察协方差内核,非常适合于建立添加剂克里格模型,并描述所得到的模型的一些属性。
2011-11-27 stat.ML
A Bayesian Decision Support System in Energy Systems Planning
高斯过程(GP)仿真器被广泛用于在输入空间上近似复杂的计算机模型行为。受计算机模型耦合问题的影响,近年来在连通GP仿真器网络分析理论方面取得了一些进展。在本文中,我们结合这些最新的方法与经典的状态空间模型来构建贝叶斯决策支持系统。这种方法给出了一个连贯的概率模型,产生的预测与测量的不确定性方面的两个第一时刻,使不确定性的传播,从个人的决策组件。这种方法是用来产生一个决策支持工具,英国郡议会考虑低碳技术改造其基础设施,以达到净零碳目标。特别是,我们演示了如何耦合来自能源模型,供热需求模型,天然气和电力价格时间序列的信息,以定量评估各种政策选择和能源市场变化对运营成本的影响。
2022-04-19 stat.AP