Sample correlation adjustments for robust Multi-fidelity Monte Carlo under limited pilot sampling
University of Michigan(密歇根大学);NASA Langley Research Center(美国国家航空航天局兰利研究中心);Analytical Mechanics Associates(分析力学联合公司)
针对多保真蒙特卡洛(MFMC)中因有限试点样本导致相关性估计不准的问题,提出一种基于样本协方差矩阵概率信息改进相关性估计的方法,通过最小化最坏情况期望差异来优化估计器,在NASA进入、下降与着陆(EDL)问题中验证了有效性。
2026-05-21 stat.CO stat.ME
Covariance Expressions for Multi-Fidelity Sampling with Multi-Output, Multi-Statistic Estimators: Application to Approximate Control Variates
本文推导了多保真度采样中多输出、多统计量估计量的协方差表达式,并在approximate control variate方案中证明利用多输出能显著降低估计量方差。
2024-06-28 stat.CO stat.ME
Markov-chain Monte-Carlo Sampling for Optimal Fidelity Determination in Dynamic Decision-Making
由于动态系统的规模和动态性,动态系统的决策是具有挑战性的,它包括战略,战术和操作层面的决策。决策制定的最重要方面之一是纳入反映系统即时状态的实时信息。这种类型的决策,这可能适用于任何动态系统,需要符合系统的当前能力,并要求一个动态的数据驱动的规划框架。动态数据驱动规划框架的性能依赖于决策过程,而决策过程反过来又与可用数据的质量相关。这意味着规划框架应该能够根据系统的当前状态设置决策级别,这是通过连续读取传感数据来学习的。在这项工作中,一个马尔可夫链蒙特卡罗抽样方法,提出了一个动态的数据驱动的框架,以确定决策的最佳保真度。为了评估所提出的方法的性能,进行了一个实验,工人的表现对生产能力和决策的保真度水平的影响进行了研究。
2019-11-09 stat.AP
Context-aware learning of hierarchies of low-fidelity models for multi-fidelity uncertainty quantification
Oden Institute for Computational Engineering and Sciences, The University of Texas at Austin(德克萨斯大学奥斯汀分校奥登计算工程与科学研究所);Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所);Max Planck Institute for Plasma Physics(马克斯·普朗克等离子体物理研究所);Technical University of Munich(慕尼黑工业大学)
多保真度蒙特卡罗方法利用低保真度和替代模型来减少方差,从而即使在使用高保真模型对感兴趣的物理系统进行数值模拟的计算成本很高时,也可以进行易于处理的不确定性量化。这项工作提出了一种上下文感知的多保真度蒙特卡罗方法,最佳地平衡训练低保真度模型的成本与蒙特卡罗采样的成本。它概括了以前开发的上下文感知的双保真度蒙特卡罗方法的层次结构的多个模型和更一般类型的低保真度模型。当训练低保真模型时,所提出的方法考虑到将使用所学习的低保真模型的上下文,即用于Monte Carlo估计中的方差减小,这使得它能够找到训练和采样之间的最佳权衡,以最小化给定计算预算的估计量的均方误差的上界。这与传统的替代建模和模型简化技术形成鲜明对比,传统的替代建模和模型简化技术构造低保真度模型,其主要目标是很好地近似高保真模型输出,并且通常忽略学习的模型将用于上游任务的上下文。所提出的上下文感知多保真度蒙特卡罗方法适用于各种类型的低保真度模型的层次结构,例如稀疏网格和深度网络模型。与gyrokinetic模拟代码\textsc{Gene}的数值实验表明,加速高达两个数量级相比,标准的估计时,量化的不确定性在小尺度波动约束等离子体在聚变反应堆。这相当于在德克萨斯州高级计算中心的Lonestar6超级计算机的一个节点上将运行时间从72天减少到大约4小时。
2022-11-20 cs.LG cs.NA math.NA
Towards Sampling Data Structures for Tensor Products in Turnstile Streams
University of California, Berkeley(加州大学伯克利分校);Texas A&M University(德克萨斯农工大学)
本文提出注意力采样器,在流式环境中利用重要性采样降低大规模注意力模型的计算负担,并从理论上分析其空间与更新时间,展现出可扩展性与广泛适用性。
2025-10-04 cs.LG stat.ML
Covariance-free Bi-fidelity Control Variates Importance Sampling for Rare Event Reliability Analysis
本文提出CVIS框架,将控制变量与重要性采样创新性耦合用于双保真稀有事件可靠性分析,通过估计控制变量均值和巧妙选择调节常数避免协方差估计,并给出效率诊断指标,经解析与数值算例验证其性能。
2024-11-24 stat.ME
Importance Sampling-based Transport Map Hamiltonian Monte Carlo for Bayesian Hierarchical Models
我们提出了一个基于重要性抽样(IS)的传输映射哈密顿蒙特卡罗程序进行全面的贝叶斯分析在一般的非线性高维层次模型。使用IS技术来构建一个运输地图,所提出的方法转换成一个目标,这是很容易使用标准的哈密顿蒙特卡罗采样的分层模型的典型的高度挑战性的目标分布。传统的应用高维IS,无限变化的IS权重可能是一个严重的问题,需要计算成本高的高保真IS分布。我们的方法的一个有吸引力的属性是,所采用的IS分布可以是相当低的保真度,使其计算便宜。我们说明了我们的算法在应用程序中具有挑战性的动态状态空间模型,它具有非常高的仿真效率相比,相关的基准,即使是所提出的方法的变体使用几十行代码中的斯坦统计软件。
2019-12-10 stat.CO
Proposal-Guided Greedy Surrogate Refinement for PDE-Driven High-Dimensional Rare-Event Estimation
Brown University(布朗大学)
本文提出一种替代模型辅助的自适应重要采样框架,通过局部细化替代模型提升高维稀有事件模拟的准确性,减少高保真评估次数。
2026-05-14 cs.NA math.NA stat.ML
A Generalized Approximate Control Variate Framework for Multifidelity Uncertainty Quantification
我们描述和分析的方差减少方法的蒙特卡罗(MC)采样,加速计算昂贵的仿真模型的统计估计,使用一个整体的模型具有较低的成本。这些较低成本的模型-通常是较低的保真度与未知的统计数据-用于减少方差的统计估计相对于MC估计具有同等的成本。我们推导出的条件下,我们提出的近似控制变量框架恢复现有的多模型方差减少计划的特殊情况。我们证明,这些现有的策略使用递归采样策略,因此,他们的最大可能的方差减少是有限的控制变量算法,只使用一个低保真模型与已知的平均值。无论用于构建估计量的低保真度模型和/或样本的数量如何,该理论结果都成立。然后,我们得出新的抽样策略,在我们的框架内,绕过这一限制,有效地利用所有可用的信息源。特别是,我们证明了一个显着的差距,可以存在的数量级在某些情况下,通过使用一个单一的低保真模型和我们的非递归方法实现的方差减少之间。我们还提出了利用这一差距的初始样本分配方法。当增强高保真度模型评估不切实际时,它们会产生最大的好处,因为例如,它们来自遗留数据库。几个分析的例子和一个例子与双曲偏微分方程描述弹性波在非均匀介质中的传播来说明该方法的主要特点。
2019-06-06 stat.CO
mfEGRA: Multifidelity Efficient Global Reliability Analysis through Active Learning for Failure Boundary Location
Massachusetts Institute of Technology(麻省理工学院);University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出多保真主动学习方法 mfEGRA,通过多保真高斯过程代理模型和两阶段自适应采样准则定位失效边界,在多个测试问题上相比单保真 EGRA 显著降低可靠性分析计算成本。
2021-09-23 cs.LG physics.data-an stat.CO
FIS-GAN: GAN with Flow-based Importance Sampling
Sichuan University(四川大学);Huazhong University of Technology(华中理工大学);New York University(纽约大学)
生成对抗网络(GAN)的训练过程在大多数情况下在潜在空间中采用均匀或高斯采样方法,这可能将大部分计算花费在可以正确处理且易于生成的示例上。从理论上讲,重要性采样通过对训练样本进行优先排序,加快了监督学习中的随机优化。在本文中,我们探讨了适应重要性采样到对抗学习的可能性。在潜空间中,用重要性采样代替均匀采样和高斯采样,用归一化流密度估计逼近潜空间后验分布。从经验上讲,MNIST和Fashion-MNIST的结果表明,我们的方法显着加快了GAN的优化,同时保持生成的样本的视觉保真度。
2022-12-16 cs.LG stat.ML
A multi-fidelity neural network surrogate sampling method for uncertainty quantification
提出了一种多保真度神经网络替代抽样方法,用于描述由常微分方程或偏微分方程描述的物理/生物系统的不确定性量化。我们首先通过低/高保真度计算模型生成一组低/高保真度数据,例如使用控制微分方程的较粗/较细离散化。然后,我们构建了一个两级神经网络,其中利用了大量的低保真度数据,以加速构建一个高保真的代理模型与一个小的高保真数据集。然后,我们嵌入构造的高保真代理模型的蒙特卡罗抽样的框架。该算法结合了神经网络的逼近能力和多保真度框架内的蒙特卡罗采样的优点。我们提出了两个数值例子来证明所提出的方法的准确性和效率。我们表明,显着节省计算成本时,可以实现输出预测是准确的小公差。
2020-05-05 cs.NA math.NA physics.comp-ph
Multi-fidelity robust controller design with gradient sampling
针对高维动力系统鲁棒控制中非光滑非凸优化代价高昂的问题,提出两种多保真梯度采样方法并证明可加速收敛,实验显示最高提速两个数量级。
2022-12-05 cs.NA math.NA math.OC
Tempered Multifidelity Importance Sampling for Gravitational Wave Parameter Estimation
针对引力波参数估计中高维或低保真度模型近似差导致多保真度重要性采样失效的问题,提出一种回火多保真度重要性采样方法,通过回火偏置分布并低成本近似最佳温度提升采样效率,在真实探测中验证了有效性。
2024-05-29 astro-ph.IM gr-qc stat.ME
Extensions to Multifidelity Monte Carlo Methods for Simulations of Chaotic Systems
多保真度蒙特卡罗方法通常依赖于由标准蒙特卡罗采样组成的预处理阶段来估计不同保真度模型之间的相关系数,以确定每个水平的权重和样本数量。对于计算密集型模型,如在混沌系统的模拟中经常遇到的那样,这种前期成本可能是过高的。在这项工作中,开发的相关性估计程序的情况下,其中最高和下一个最高的保真度模型是通过使用不同的分辨率离散化相同的数学模型。该过程使用离散化误差估计来估计所需的相关系数,而无需对最高保真度的模型进行采样,这可以显着降低预处理阶段的成本。该方法被扩展到混沌问题,通过使用离散化误差估计,占共同的数量的统计性质的利益和伴随的有限采样误差,污染估计这些数量的利益。该方法,然后证明了一个模型问题的基础上Kuramoto-Sivashinsky方程。
2021-06-25 physics.data-an stat.CO
SpreadNUTS -- Moderate Dynamic Extension of Paths for No-U-Turn Sampling & Partitioning Visited Regions
本文针对 NUTS 采样效率问题提出 SpreadNUTS,通过适度动态扩展路径并划分已访问区域,加快样本空间探索与真实分布收敛。
2023-07-09 cs.LG stat.CO
Hyper-differential sensitivity analysis with respect to model discrepancy: Posterior Optimal Solution Sampling
本文提出一种贝叶斯框架,通过估计模型差异并利用后最优性灵敏度算子传播后验分布,实现基于低保真模型优化解的高保真更新与不确定性量化。
2024-05-31 cs.NA math.NA
Multi-Fidelity Delayed Acceptance: hierarchical MCMC sampling for Bayesian inverse problems combining multiple solvers through deep neural networks
The Alan Turing Institute, London, NW1 2DB, UK(艾伦·图灵研究所)
本文提出多保真度延迟接受方法,通过深度神经网络结合多个求解器,提升贝叶斯反问题的计算效率和精度。
2025-12-18 cs.LG cs.NA math.NA
On multi-fidelity methods for a tumor growth model with uncertainties
School of Mathematics and Statistics, Wuhan University(武汉大学数学与统计学院);The Chinese University of Hong Kong(香港中文大学);The Great Bay University(大湾区大学)
针对具有移动自由边界的多孔介质方程肿瘤生长模型,提出了一种结合粗网格求解器、水平集近似和渐近保持离散化的分层多保真框架,并引入残差最远点采样准则,实现高效的不确定性量化。
2026-06-02 cs.NA math.NA
Sampling through iterated approximation: Gradient-free and multi-fidelity Bayesian inference via transport
Massachusetts Institute of Technology(麻省理工学院);Sandia National Laboratories(桑迪亚国家实验室)
本文提出一种迭代框架,用于贝叶斯推断问题,结合几何退火与多保真度建模,通过变分学习生成测度传输代理,结合重要性加权方案,高效准确地解决低维强非高斯贝叶斯逆问题。
2026-03-12 cs.NA math.NA stat.CO
Quadrature Sampling of Parametric Models with Bi-fidelity Boosting
针对随机求积草图回归误差波动大的问题,提出利用低保真度数据选择最佳草图的 BFB 方法,并给出残差界与实验验证。
2022-09-13 cs.NA math.NA
An iterative multi-fidelity approach for model order reduction of multi-dimensional input parametric PDE systems
Nantes Université(南特大学);Ecole Centrale Nantes(南特中央理工学院);CNRS(法国国家科学研究中心)
我们提出了一个参数采样策略,减少大规模PDE系统的多维输入参数空间,利用不同的保真度模型。该方法的设计允许用户自适应地从离散训练集中自组织样本点,而不需要误差估计器。它是通过利用整个参数空间的低保真度模型的样本点使用一个有效的采样策略,并在采样的参数点,高保真模型进行评估,以恢复减少基函数。低保真度模型,然后适应与降阶模型(ROM)通过投影到子空间上所跨越的恢复基函数。该过程继续,直到低保真度模型可以针对参数空间中的所有参数充分地表示高保真度模型。由于所提出的方法利用低保真度模型来同化解决方案数据库,它显着降低了离线阶段的计算成本。本文的重点是提出了初始低保真模型的构建,以及基于离散经验插值方法(DEIM)的抽样策略。在二维稳态热传导问题上对该方法进行了两种不同输入参数的测试,并与经典的贪婪缩减基方法(RBM)进行了定性比较;在9维参数非强制椭圆问题上进一步测试,并分析了基于不同贪婪选点调整的计算性能.
2023-01-23 cs.LG cs.NA math.AP
CAMERA: A Method for Cost-aware, Adaptive, Multifidelity, Efficient Reliability Analysis
估算航空航天系统的故障概率是飞行认证和鉴定的关键要求。失效概率估计涉及到解决概率分布的尾部,当必须查询昂贵的高保真模拟时,蒙特卡罗抽样方法是难以处理的。我们提出了一种方法来使用贸易的准确性为计算效率的多个并行模型。具体来说,我们建议使用多保真度高斯过程模型,以有效地融合模型在多个保真度,从而提供了一个廉价的代理模型,模拟原始模型在所有的qualityities。此外,我们提出了一种新的顺序\emph{acquisition function}为基础的实验设计框架,可以自动选择样本从适当的保真度模型,使预测量的兴趣在最高的保真度。我们使用我们提出的方法在一个重要的抽样设置,并证明我们的方法的故障水平集估计和概率估计的综合检验函数,以及两个现实世界的应用,即,可靠性分析的燃气涡轮发动机叶片使用有限元法和跨音速气动机翼测试情况下,使用雷诺平均Navier-斯托克斯方程。我们证明,我们的方法预测故障边界和概率更准确,计算效率更高,同时使用不同的保真度模型相比,只使用一个昂贵的高保真模型。
2022-09-20 cs.NA math.NA
A multi-fidelity stochastic collocation method for parabolic PDEs with random input data
George Mason University(乔治梅森大学)
本文提出一种结合确定性模型降阶技术的随机插值方法,用于求解带有随机强迫项的抛物型偏微分方程,通过严谨的收敛分析和数值实验证明其可靠性、鲁棒性和高效性。
2013-06-01 cs.NA math.NA
A multi-fidelity stochastic collocation method using locally improved reduced-order models
George Mason University(乔治梅森大学)
本文提出一种改进的随机置信法,通过局部改进的降阶模型处理复杂方程,如Burgers方程和纳维-斯托克斯方程,展现高效可靠的特点。
2013-06-01 cs.NA math.NA
Toward a certified greedy Loewner framework with minimal sampling
本文提出一种基于低成本误差指示器的贪心采样策略,结合Loewner框架,以少量高保真样本高效逼近复杂系统传递函数。
2023-12-05 cs.NA cs.SY eess.SY