Scalable Stochastic Kriging with Markovian Covariances
随机克立格法由于其灵活性和分析易处理性，是一种流行的模拟元建模技术。它的计算瓶颈是协方差阵的求逆，这通常需要$O(n^3)$时间，并且对于大的n变得令人望而却步，其中n是设计点的数量。此外，对于大的n，协方差阵通常是病态的，并且因此反演易于数值不稳定，导致错误的参数估计和预测。这两个数值问题排除了在大尺度上使用随机克里金法。本文提出了一种新的方法来解决这些问题。我们构造了一类称为马尔可夫协方差函数（MCFs）的协方差函数，它具有两个性质：（i）相关的协方差阵可以解析求逆，（ii）逆矩阵是稀疏的.与MCFs的使用，反演相关的计算时间一般减少到$O(n^2)$，并可以进一步减少的数量级与模拟误差和设计点的额外假设。解析可逆性也大大提高了数值稳定性。在我们的方法的关键是，我们确定了一个一般的函数形式的协方差函数，可以诱导稀疏在相应的逆矩阵。我们还建立了MCFs和线性常微分方程之间的联系。这样的连接提供了一个灵活的，原则性的方法来构建一个广泛的类的MCF。大量的数值实验表明，随机克里金与MCFs可以处理大规模的问题，在计算效率和数值稳定的方式。
2018-03-07 stat.ME
Reduced Basis Kriging for Big Spatial Fields
在空间统计学中，高斯随机场（GRF）预测的一种常用方法是结合克里金法的极大似然估计。对于海量数据集，克里金法在CPU时间和内存方面都是计算密集型的，因此固定秩克里金法已被提出作为一种解决方案。然而，该方法仍然涉及大型矩阵上的操作，所以我们开发了一种改变这种方法，利用固定秩克里金结合限制极大似然估计和稀疏矩阵方法的近似。实验表明，我们的方法可以提供额外的收益，在计算效率固定秩克里金法，而不会损失预测的准确性。该方法被应用于美国国家气候数据中心存档的气候数据，取得了很好的结果。
2018-04-25 stat.AP stat.CO stat.ME
Maximum Likelihood Estimation for Stochastic Differential Equations Using Sequential Kriging-Based Optimization
随机微分方程（SDEs）在许多学科中被用作统计模型。然而，难以处理的似然函数的随机微分方程的推理具有挑战性，我们需要诉诸基于模拟的技术来估计和最大化的似然函数。虽然序贯蒙特卡罗方法允许在固定的参数值的可能性的准确评估，仍然有一个问题，如何找到最大似然估计。在这篇文章中，我们提出了一个有效的高斯过程为基础的方法，探索参数空间使用估计的可能性从序贯蒙特卡罗采样器。我们的方法占固有的蒙特卡罗变异的估计可能性，并不需要梯度的知识。该过程通过最大化所谓的预期改进来增加潜在的参数值，利用假设似然函数是平滑的这一事实。我们的模拟表明，我们的方法具有显着的计算和效率增益比现有的网格和梯度为基础的技术。我们的方法被应用到三个科技公司的收盘价建模。
2014-08-11 stat.ME
Efficient global estimation of conditional-value-at-risk through stochastic kriging and extreme value theory
本文提出将极值理论与随机克里金元建模相结合，用于对复杂随机仿真系统中的条件风险价值进行全局估计，并通过推导基于极值理论的内在方差估计量避免设计点上的重复仿真，从而显著降低计算成本。
2024-03-27 math.OC stat.ME
Convergence Analysis of Stochastic Kriging-Assisted Simulation with Random Covariates
我们考虑在存在协变量的情况下进行模拟实验。这里，协变量指的是除了系统设计之外的一些输入信息，这些信息也会影响系统性能。为了做出决策，决策者需要知道问题的协变量值。传统的基于模拟的决策中，模拟样本是在协变量值已知之后收集的;相比之下，作为一种新的框架，协变量模拟在协变量值被揭示之前开始模拟，并收集可能出现的协变量值的样本。然后，当协变量值被揭示时，所收集的模拟样本被直接用于预测期望的结果。与传统的仿真方法相比，该框架大大缩短了决策时间。在本文中，我们遵循这个框架，并假设有一个有限数量的系统设计。我们采用随机克里格（SK）的元模型，并使用它来预测每个设计和最佳设计的系统性能。我们的目标是研究预测误差随着协变量采样点的数量减少的速度。这是协变量模拟中的一个基本问题，有助于量化离线模拟工作与在线预测精度之间的关系。特别地，我们采用最大综合均方误差（IMSE）和综合错误选择概率（IPFS）来评估系统性能和最佳设计预测的误差。然后，我们建立收敛速度的两个措施在温和的条件下。最后，通过数值算例说明了这些收敛性.
2022-11-24 math.OC stat.ME
A Comparison of Spatial Predictors when Datasets Could be Very Large
在这篇文章中，我们回顾和比较了一些空间预测的方法。为了展示可用选择的广度，我们考虑了传统的和最近引入的空间预测因子。具体来说，在我们的论述中，我们回顾：传统的固定克里格，平滑样条，负指数距离加权，固定秩克里格，修改后的预测过程，随机偏微分方程的方法，格克里格。这种比较的目的是为希望在空间预测因子之间做出决定的从业者提供服务。因此，我们为不熟悉的人提供了技术材料，其中包括每个（确定性和随机性）空间预测因子的定义和动机。我们使用一个基准数据集的$\mathrm{CO}_{2}$数据从美国宇航局的AIRS仪器，以解决计算效率，包括CPU时间和内存使用。此外，每个空间预测器的预测性能进行评估经验使用的AIRS数据的一个保持了子集。
2014-10-28 stat.ME
Optimal design, financial and risk modelling with stochastic processes having semicontinuous covariances
A.N. Kolmogorov提出了几个随机过程的问题，这些问题后来很少涉及，其中一个公开问题是具有不连续协方差函数的随机过程。例如，最近统计学中的许多作者在回归和克里格中使用了连续的协方差函数。在本文中，我们引入纯粹的拓扑定义的协方差核的正则条件，仍然适用于增加和填充域渐近回归问题，克里格和金融。这些条件与Ornstein-Uhlenbeck过程的连续映射有关。此外，新的正则条件通过考虑协方差的连续性，放松了协方差函数的连续性。我们提供了几个新的应用介绍类的最优设计的随机场，随机游动在金融和概率的废墟有关的冲击，如地震。特别地，我们构造了一个协方差连续的随机游动模型。
2015-12-03 stat.ME
A Low-Rank Bayesian Approach for Geoadditive Modeling
本文提出一种新的贝叶斯低秩地理加性模型方法，整合样条与克里金法以处理空间相关性和协变量非线性依赖，利用Laplace近似提升计算效率，为空间数据分析提供了灵活高效的框架。
2024-07-08 stat.ME
Estimating Basis Functions in Massive Fields under the Spatial Mixed Effects Model
空间预测通常在高斯随机场（GRF）的假设下通过获得参数的最大似然估计，然后使用克里格方程来得到预测值来实现。对于大规模数据集，使用期望最大化（EM）算法进行估计的固定秩克里金法已被提出作为通常但计算量大的克里金法的替代方法。该方法通过将空间过程重新定义为基函数和空间随机效应的线性组合，降低了估计的计算成本。这种方法的缺点是它对观测位置和节点之间的关系施加了约束。我们开发了一种替代方法，利用空间混合效应（SME）模型，但允许额外的灵活性，通过交替期望条件最大化（AECM）算法估计的观测和节点之间的空间依赖性的范围。实验表明，我们的方法提高了估计，而不牺牲预测精度，同时也最大限度地减少了额外的参数估计的额外计算负担。该方法适用于由美国国家气候数据中心存档的温度数据集，与以前的方法相比，结果有所改善。
2020-03-12 stat.AP stat.ME stat.ML
High-dimensional reliability-based design optimization using stochastic emulators
ETH Zurich（苏黎世联邦理工学院）
本文提出一种基于随机模拟器的可靠性设计优化框架，通过统一的随机表示结合确定性极限状态函数和输入不确定性，实现高维问题的高效求解。
2026-10-06 stat.CO stat.ME stat.ML
Prediction Intervals for Simulation Metamodeling
仿真元建模是指使用较少的仿真运行构建较低保真度的模型来表示输入输出关系。基于高斯过程的随机克里格法是一种通用的、常用的方法。然而，这种方法依赖于特定的模型假设，可能会遇到可扩展性的挑战。在本文中，我们研究了一种替代的元建模方法，使用预测区间来捕捉仿真输出的不确定性。我们将元建模任务作为一个经验约束优化框架来训练预测区间，以获得准确的预测覆盖率和窄宽度。我们特别使用神经网络来表示这些区间，并讨论近似解决这个优化问题的程序。我们还提出了一个适应的共形预测工具作为另一种方法来构建预测区间的元建模。最后，我们提出了一个验证机器，并展示了我们的方法如何在预测性能上享受无分布有限样本保证。我们证明并比较我们提出的方法与现有的方法，包括随机克里格通过数值例子。
2022-04-05 stat.ME
Statistical Uncertainty Analysis for Stochastic Simulation
当我们使用仿真来评估随机系统的性能时，仿真通常包含从真实世界数据估计的输入分布;因此，在性能估计中存在仿真和输入不确定性。忽略任何一个不确定性来源都会低估总体统计误差。模拟不确定性可以通过额外的计算（例如，更多的复制品）。在可行的情况下，可以通过收集更多的真实数据来减少输入的不确定性。本文提出了一种方法来量化整体的统计不确定性时，模拟是由独立的参数输入分布，具体来说，我们产生了一个置信区间，占模拟和输入的不确定性，通过使用元模型辅助自举方法。输入的不确定性是通过自举测量，基于方程的随机克里格元模型传播的输入不确定性的输出均值，和模拟和元模型的不确定性，使用元模型的属性。提出了一种方差分解来估计输入对总体不确定性的相对贡献;该信息表明是否可以单独通过额外的模拟来显着降低总体不确定性。渐近分析为我们的方法提供了理论支持，而实证研究表明，它具有良好的有限样本性能。
2020-11-09 stat.ME
Computationally Efficient Estimation of Factor Multivariate Stochastic Volatility Models
提出了一种基于两阶段延迟拒绝梅特罗波利斯-黑斯廷斯算法的MCMC仿真方法，用于估计因子多元随机波动模型。第一阶段使用朝向模式的kstep迭代，其中k小，并且第二阶段使用自适应随机游动建议密度。Chib（1995）的边际似然方法用于选择因子的数量，后验密度坐标由高斯copula近似。模拟和实际数据的应用表明，所提出的模拟方法是计算效率比Chib的方法。Nardari和Shephard（2006年）。这种计算效率的提高在计算边际似然性时特别重要，因为需要多次进行模拟以估计给定边际似然性的后验坐标。除了MCMC方法外，本文还提出了一种快速近似EM方法来估计因子多元随机波动模型。近似EM方法的估计值本身就很有趣，但作为MCMC方法的初始输入特别有用，使其在计算上更有效。使用模拟和真实的例子说明了该方法。
2010-02-10 stat.CO stat.ME
Diagnostics for Stochastic Gaussian Process Emulators
计算机模型，也被称为模拟器，运行起来可能在计算上是昂贵的，因此经常使用被称为仿真器的统计代理。任何统计模型，包括模拟器，在使用之前都应该进行验证，否则可能会误导最终的决策。我们讨论如何验证高斯过程仿真器的确定性模型的方法是不够的随机计算机模型的仿真器，并开发一个框架，诊断随机仿真器中的问题。这些诊断基于使用样本外、重复、模拟器运行独立验证均值和方差预测。然后，我们还使用建筑性能模拟器作为案例研究的例子。
2021-01-25 stat.ME
Stochastic partial differential equation based modelling of large space-time data sets
空间和时间上的过程的数据集越来越大，需要能够处理这些数据的统计模型和方法。我们发现，随机对流扩散偏微分方程的解决方案提供了一个灵活的模型类的时空过程，这是计算上可行的，也为大型数据集。通过随机偏微分方程定义的高斯过程一般具有不可分离的协方差结构。此外，它的参数可以被物理解释为明确建模的现象，如运输和扩散，发生在许多自然过程中的不同领域，从环境科学到生态学。为了获得计算效率高的统计算法，我们使用谱方法来解决随机偏微分方程。这具有近似误差不随时间累积的优点，并且在谱空间中计算成本随维度线性增长，贝叶斯或频率论推理的总计算成本由快速傅立叶变换支配。该模型被应用到瑞士北部的数值天气预报模型的降水预报的后处理。与数值模型的原始预测相比，后处理的预测是经过校准的，并量化了预测的不确定性。此外，它们的表现优于原始预测，因为它们的平均绝对误差较低。
2016-02-11 stat.ME
A linear noise approximation for stochastic epidemic models fit to partially observed incidence counts
拟合发病率数据的随机流行病模型（SEM）对于阐明疫情动态、制定应对策略和为未来流行病做准备至关重要。SEM通常表示使用马尔可夫跳跃过程（MJPs）的离散感染状态中的个体计数，但由于不完善的监测、缺乏受试者级别的信息以及数据的时间粗糙度掩盖了真实的流行病，因此在计算上具有挑战性。潜在的流行病过程的分析积分是不可能的，和集成通过马尔可夫链蒙特卡罗（MCMC）是繁琐的，由于潜在的状态空间的维数和离散性。基于模拟的计算方法可以解决MJP可能性的棘手问题，但对于复杂的模型来说，数值上是脆弱的，而且过于昂贵。一个线性噪声近似（LNA），近似MJP过渡密度与高斯密度已被探索用于分析流行率数据在大人口环境中，但需要修改分析发病率计数，而不假设数据是正态分布。我们演示了如何重新参数化SEM以适当地分析发病率数据，并将LNA折叠成数据增强MCMC框架，该框架在统计学上优于确定性方法，并且在计算上优于基于模拟的方法。我们的框架是计算强大的模型动力学是复杂的，适用于广泛的一类SEM。我们在反映埃博拉病毒，流感和SARS-CoV-2动态的模拟中评估了我们的方法，并将我们的方法应用于2013- 2015年西非埃博拉疫情的国家监测计数。
2021-04-27 q-bio.PE stat.ME
Inference in stochastic differential equations using the Laplace approximation: Demonstration and examples
Technical University of Denmark（丹麦技术大学）
本文展示如何正确使用拉普拉斯逼近来估计随机微分方程中的状态和参数，特别关注非线性动力学、状态依赖噪声和非高斯测量误差，并通过模拟案例验证其计算可行性和灵活性。
2026-06-03 math.PR stat.ME
Inference for SDE models via Approximate Bayesian Computation
由随机微分方程（SDEs）定义的模型允许表示动态系统中的随机变化。这类模型的相关性在许多应用研究领域中不断增长，并且已经是模拟例如金融、神经元和人口增长动态的标准工具。然而，多维模型的推理仍然是非常具有挑战性的，无论是在计算上还是在理论上。近似贝叶斯计算（ABC）允许对足够复杂的模型执行贝叶斯推断，所述模型使得似然函数在分析上不可用或在计算上禁止评估。提出了一种计算效率高的ABC-MCMC算法，在我们的模拟运行时间减半。重点是在这种情况下，在状态空间模型中描述潜在的动态，但该方法并不限于状态空间框架。药代动力学/药效学模型和随机化学反应的模拟研究被认为是一个MATLAB软件包实现我们的ABC-MCMC算法。
2013-11-08 stat.AP stat.CO stat.ME
Time-variant reliability using time-dependent surrogate models
ETH Zürich（苏黎世联邦理工学院）
本文提出两种替代模型框架，用于处理动态系统时变可靠性问题，通过减少辅助状态变量的高维输入和提取系统轨迹的主成分特征，提高计算效率和精度。
2026-05-12 stat.AP stat.CO stat.ME
Sampling Gaussian Stationary Random Fields: A Stochastic Realization Approach
平稳随机场大规模样本的生成在岩土材料建模和不确定性量化等领域具有重要意义。传统的基于协方差阵分解的方法存在计算量大的问题，当随机场维数较大时，这一问题更加突出。本文从系统和控制的观点出发，提出了一种有效的高斯平稳随机场采样的随机实现方法。具体地说，我们以指数和高斯协方差函数为例，并作出解耦假设时，有多个维度。然后利用协方差延拓技术在每一维上构造一个有理谱密度，并通过谱分解得到相应的自回归滑动平均（ARMA）模型。结果，通过使用白噪声输入实现ARMA递归，可以在空间域中非常有效地生成具有特定协方差函数的随机场的样本。由于所构造的ARMA模型的阶数较低，因此这种方法在计算上是便宜的。此外，相同的方法被集成到多尺度模拟中，其中当放大到更精细的尺度时，实现所生成的样本的插值。理论分析和仿真结果表明，该方法的性能优于协方差阵分解方法。
2022-08-22 cs.SY eess.SY stat.ME
