Efficient Importance Sampling for Rare Event Simulation with Applications
重要性抽样已被认为是一个强有力的工具,以减少方差的蒙特卡罗估计的稀有事件模拟。基于参数族内蒙特卡罗估计方差最小的准则,本文给出了寻找最优倾斜测度的一般性说明。为此,当底层分布的矩母函数存在时,我们得到了最优替代分布的简单而显式的表达式。该算法具有很强的通用性,可以覆盖正态分布、非中心$χ^2$分布和复合泊松过程等许多有趣的情形。为了说明我们的方法的广泛适用性,我们研究了金融风险管理中的风险价值(VaR)计算和统计推断中的自举置信区域。
2013-02-04 q-fin.RM stat.ME
Importance Sampling for rare events and conditioned random walks
本文介绍了一种新的重要性抽样方案,称为自适应扭曲重要性抽样,它适用于在与实际独立同分布经验均值有关的中等偏差范围内改进稀有事件概率的估计。summands。它是基于从随机游动中提取的长游程密度的尖锐近似,该随机游动以其端点值为条件。
2009-10-09 math.PR math.ST stat.CO
Importance Sampling for multi-constraints rare event probability
改进罕见事件概率的重要抽样估计量需要最佳密度的精确近似,从而得到接近零方差的估计量。本文提出了一种新的方法来处理定义为子集的有限交的罕见事件的概率估计。我们提供了一个尖锐的近似的密度的长期运行的随机游动条件下的倍数的限制,其中每个定义的平均值的函数的被加数,因为它们的数量趋于无穷大。
2014-01-14 math.ST stat.TH
Efficient rare event estimation for multimodal and high-dimensional system reliability via subset adaptive importance sampling
针对多模态高维系统可靠性稀有事件估计难题,提出融合子集模拟与自适应多重重要性抽样的SAIS策略,以更少样本实现低方差、高精度失效概率估计,性能优于现有前沿方法。
2025-07-31 stat.CO stat.ME
Active Importance Sampling for Variational Objectives Dominated by Rare Events: Consequences for Optimization and Generalization
深度神经网络在使用足够的数据进行优化时,可以提供高维函数的准确表示;相比之下,在科学计算中占主导地位的函数近似技术不能很好地扩展维度。因此,许多曾经被认为难以解决的高维采样和近似问题正在通过机器学习的镜头重新审视。虽然无与伦比的准确性的承诺可能意味着需要参数化复杂系统表示的应用程序的复兴,但在许多应用程序中,收集足够的数据来开发这样的表示仍然是一个重大的挑战。在这里,我们介绍了一种方法,结合罕见事件采样技术与神经网络优化,以优化目标函数,由罕见事件占主导地位。我们发现,重要性抽样减少了学习问题的解决方案的渐近方差,这表明有利于推广。我们研究我们的算法的背景下学习动态的两个状态之间的过渡路径的系统,在统计物理和机器学习理论的影响的应用程序的问题。我们的数值实验表明,我们可以成功地学习,即使是复杂的困难,高维和罕见的数据。
2021-03-12 cond-mat.stat-mech physics.data-an stat.ML
Covariance-free Bi-fidelity Control Variates Importance Sampling for Rare Event Reliability Analysis
本文提出CVIS框架,将控制变量与重要性采样创新性耦合用于双保真稀有事件可靠性分析,通过估计控制变量均值和巧妙选择调节常数避免协方差估计,并给出效率诊断指标,经解析与数值算例验证其性能。
2024-11-24 stat.ME
Niching Importance Sampling for Multi-modal Rare-event Simulation
Clinical Operational Research Unit, Department of Mathematics, UCL(临床运筹学单元,数学系,伦敦大学学院)
本文提出 niching 重要性抽样框架,结合可靠性分析和进化多模态优化技术,提高故障概率估计的鲁棒性,有效应对可靠性问题的几何挑战。
2026-04-07 stat.CO
Affine invariant interacting Langevin dynamics in Markov chain importance sampling for rare event estimation
本文提出一种用于稀有事件估计的基于梯度的MCIS新方案ALDI-IS,利用ALDI对平滑零方差密度采样,并建立了非渐近误差界,揭示了平滑参数在采样误差与采样难度间的权衡。
2025-06-25 math.ST stat.TH
Large deviation theory-based adaptive importance sampling for rare events in high dimensions
我们提出了一种方法,精确估计罕见事件或故障概率昂贵的评估数值模型在高维。该方法结合了大偏差理论和自适应重要性抽样的思想。重要性采样器使用交叉熵方法来找到最佳的高斯偏置分布,并重新使用整个过程中的所有样本,用于目标概率估计和更新偏置分布。大偏差理论用于通过优化问题的解来找到一个好的初始偏置分布。此外,它是用来确定一个低维的子空间,是最有用的罕见事件的概率。该子空间用于交叉熵方法,已知交叉熵方法在高维中会失去效率。所提出的方法不需要平滑的指示函数,也不涉及数值调整参数。我们比较的方法与最先进的交叉熵为基础的重要性抽样计划使用三个例子:高维故障概率估计基准,扩散方程的问题,海啸问题的时间依赖性浅水系统在一个空间维度。
2023-03-26 cs.NA math.NA math.OC
Scalable Importance Sampling in High Dimensions with Low-Rank Mixture Proposals
Stanford Intelligent Systems Laboratory(斯坦福智能系统实验室);Department of Aeronautics and Astronautics(航空与航天系)
针对高维下全秩高斯混合模型作为重要性采样提议分布存在数值不稳定的问题,提出采用低秩MPPCA作为提议分布,可通过期望最大化快速拟合,在三个仿真系统上实现了样本效率与失效分布刻画质量的稳定提升。
2025-05-19 cs.RO stat.ML
Efficient Rare-Event Simulation for Random Geometric Graphs via Importance Sampling
School of Mathematics and Statistics, University of New South Wales(新南威尔士大学数学与统计学院);Data Science and Statistics, Aarhus University(奥胡斯大学数据科学与统计学);Institute of Stochastics, Ulm University(乌尔姆大学随机过程研究所);School of Mathematics and Physics, The University of Queensland(昆士兰大学数学与物理学院)
本文提出通过重要性采样方法高效估计随机几何图中稀有事件概率,通过渐近分析和数值研究验证了方法的有效性,提升了对Gilbert图的分析能力。
2026-04-22 math.PR stat.CO
Semiparametric Cross Entropy for rare-event simulation
交叉熵方法是用于稀有事件概率估计的众所周知的自适应重要性抽样方法,其需要估计参数类内的最佳重要性抽样密度。在这篇文章中,我们估计一个最佳的重要性抽样密度在更广泛的半参数类分布。我们表明,这种半参数版本的交叉熵方法经常产生有效的估计。我们用数值实验说明了该方法的优良的实际性能,并表明,对于我们认为它通常优于替代方案的数量级的问题。
2013-10-14 stat.CO
Rare event estimation with sequential directional importance sampling (SDIS)
本文提出了一种用于稀有事件估计的顺序方向重要性抽样(SDIS)方法。SDIS用一系列辅助失效概率来表示一个小的失效概率,通过放大输入变异性来定义。在笛卡尔坐标系下,用蒙特卡罗模拟估计序列中的第一个概率,在极坐标系下,用方向性重要性抽样计算序列中的所有概率。从用于估计中间概率的定向重要性抽样密度中抽取的样本通过重采样移动方案以顺序方式绘制。后者方便地在笛卡尔坐标系中执行,并且通过适当的变换获得方向样本。对于移动步,我们讨论了两种马尔可夫链蒙特卡罗(MCMC)算法,分别应用于低维和高维问题。最后,提出了一种自适应选择的参数定义的中间失效概率和由此产生的失效概率估计的变异系数进行了分析。提出的SDIS方法进行了测试,在不同的问题设置的五个例子,这表明该方法优于现有的序贯抽样可靠性方法。
2022-01-12 stat.CO
Cross-entropy-based importance sampling with failure-informed dimension reduction for rare event simulation
在高维空间中,稀有事件或故障概率的估计在许多科学和技术领域都是有意义的。我们考虑的问题,罕见的事件表示在一个计算成本高的数值模型。重要性抽样与交叉熵方法提供了一种有效的方法来解决这些问题,提供了一个合适的偏置密度的参数家庭。虽然一些现有的参数分布族被设计为在高维中有效地执行,但它们在交叉熵方法中的适用性仅限于维数为O(1e2)的问题。在这项工作中,而不是直接在高维中建立采样密度,我们专注于识别罕见事件模拟问题的内在低维结构。为此,我们利用稀有事件模拟和贝叶斯逆问题之间的连接。这使我们能够适应降维技术从贝叶斯推断,以构建新的,有效的低维,偏置分布内的交叉熵方法。特别是,我们采用[47]中的方法,因为它能够控制最佳偏置分布近似中的误差。我们说明我们的方法使用两个标准的高维可靠性基准问题和一个结构力学应用程序涉及随机场。
2020-06-09 stat.CO
Rare Event Probability Learning by Normalizing Flows
Mila – Quebec AI Institute(魁北克人工智能研究所);Université de Montréal(蒙特利尔大学)
本文提出NOFIS方法,利用归一化流学习嵌套提议分布并结合重要性采样,高效估计稀有事件概率,在10个测试用例上优于基线方法。
2023-10-29 cs.AI cs.LG stat.ML
Rare event simulation for multiscale diffusions in random environments
考虑多尺度小噪声随机微分方程系统,假定方程系数为遍历平稳随机场。我们的目标是构建可证明有效的重要性抽样蒙特卡罗方法,允许有效的计算罕见事件的概率或期望的泛函,可以与罕见事件。标准蒙特卡罗算法在小噪声限制下表现不佳,因此快速模拟算法变得相关。多尺度的存在使有效的重要性抽样方案的设计和分析变得复杂。另一个复杂因素是环境的随机性。我们构造明确的变化的措施,被证明是对数渐近有效的概率为1相对于随机环境(即,在淬火的意义上)。数值模拟支持理论结果。
2015-09-28 math.PR stat.ME
Multilevel Sequential Importance Sampling for Rare Event Estimation
稀有事件发生概率的估计是可靠性和风险评估中的一项重要任务。我们考虑的故障事件表示的极限状态函数,这取决于一个偏微分方程(PDE)的解决方案。由于偏微分方程的数值计算是昂贵的,估计这样的概率的失败,蒙特卡罗抽样是棘手的。可靠性分析中更有效的抽样方法,如子集模拟,很受欢迎,但如果PDE评估成本很高,则仍然不可行。在这篇文章中,我们开发了一种新的,高效的估计罕见事件的概率。我们的方法是基于序贯重要性采样器使用离散化的PDE为基础的极限状态函数具有不同的精度。一个双重的自适应算法,确保我们得到一个估计的基础上所需的离散化精度。与[Ullmann,Papaioannou 2015; SIAM/ASA J. Uncertain.数量。3(1):922-953],我们的估计克服了嵌套问题。在顺序重要性采样算法中,特别重要的是正确选择MCMC内核。而不是流行的自适应条件采样方法,我们提出了一种新的算法,使用独立的建议,从自适应构造的冯Mises-Fischer-Nakagami分布。该算法分别应用于1D和2D空间中的测试问题,并与多级子集模拟估计量和单级版本的序贯重要性抽样和子集模拟进行比较。
2020-03-29 cs.NA math.NA stat.CO
Efficient Importance Sampling for Wrong Exit Probabilities over Combinatorially Many Rare Regions
本文研究轻尾随机游走从众多罕见区域错误出口概率的重要性采样估计,提出通过结合少量区域的最优倾斜与控制方差的额外提议来构建分量更少的渐近高效混合方法,解决了高维下指数级区域导致的计算不可行问题。
2025-09-18 math.PR stat.CO
Importance sampling for slow-fast diffusions based on moderate deviations
我们考虑系统的慢-快扩散与小噪声的慢组件。基于中偏差原理,我们构造了估计罕见事件的可证对数渐近最优重要性方案。使用子解的方法,我们构造的计划,并确定条件下,该计划将是渐近最优的。当事件不太罕见时,基于中偏差的重要性抽样提供了一种可行的替代大偏差重要性抽样的方法。特别是,在许多情况下的利益之一,确实可以构建所需的变化的措施,在封闭的形式,这是一项任务,这是更复杂的使用大偏差-基于重要性抽样,特别是当它涉及到多尺度动态演变的过程。多尺度的存在和事实上,我们不做任何周期性假设的系数驱动的过程中,复杂的设计和分析有效的重要性抽样方案。仿真研究说明了这一理论。
2020-01-06 math.OC math.PR stat.ME
Multilevel Importance Sampling for Rare Events Associated With the McKean--Vlasov Equation
针对McKean-Vlasov方程解的罕见事件估计问题,提出多层双循环蒙特卡洛估计器,结合反演采样器与基于随机最优控制的重要性采样方案,将计算复杂度降低一个数量级。
2024-04-08 cs.NA math.NA stat.CO
Repulsive normalizing flow mixtures for adaptive importance sampling: reliability analysis of complex systems
School of Mathematics, University of Edinburgh(爱丁堡大学数学学院)
提出FAMIS框架,利用归一化流非均匀混合进行自适应重要性采样,无需先验失效数据,通过斥力项增强多样性,实现复杂系统稀有事件概率的稳定高效估计。
2026-09-21 stat.CO stat.ML
Importance sampling the union of rare events with an application to power systems analysis
我们考虑重要性抽样来估计由随机变量$\boldsymbol{x}$定义的$J$罕见事件$H_j$的联合的概率$μ$。我们研究的采样器已经被用于空间统计,基因组学和组合学,至少可以追溯到Karp和Luby(1983)。它的工作原理是随机采样一个事件,然后采样$\boldsymbol{x}$有条件的事件发生,它构建了一个无偏估计$μ$的发生事件的数量乘以联合界的倒数矩。我们证明了该采样器的一些方差界。对于$n$的样本量,其方差不大于$μ(\barμ-μ)/n$,其中$\barμ$为联合界。无论$J$事件之间的重叠模式如何,其变异系数也不大于$\sqrt{(J+J^{-1}-2)/(4n)}$。我们的激励问题来自电力系统的可靠性,其中连接的节点之间的相位差有一个联合高斯分布和$J$罕见的事件产生不可接受的大相位差。在网格可靠性问题中,即使是由$326$维中的$5772$约束定义的概率低于$10^{-22}$的一些事件,也可以用仅具有$n=10{,}000$样本值的约$0.0024$的变异系数来估计。
2018-12-19 cs.NA math.NA stat.CO
A Direct Importance Sampling-based Framework for Rare Event Uncertainty Quantification in Non-Gaussian Spaces
本文提出基于 ASTPA 与 QNp-HMCMC 的直接重要性采样框架,用于高维非高斯空间的罕见事件概率估计,并证明估计量无偏及采样收敛性。
2025-01-08 stat.AP stat.CO stat.ME
Gradient-free Importance Sampling Scheme for Efficient Reliability Estimation
本文提出基于ASTPA的无梯度重要性采样框架,结合改进的pCN算法与罕见事件域发现机制,高效估计工程系统可靠性中的罕见事件概率。
2025-01-29 stat.AP stat.CO stat.ME
Proposal-Guided Greedy Surrogate Refinement for PDE-Driven High-Dimensional Rare-Event Estimation
Brown University(布朗大学)
本文提出一种替代模型辅助的自适应重要采样框架,通过局部细化替代模型提升高维稀有事件模拟的准确性,减少高保真评估次数。
2026-05-14 cs.NA math.NA stat.ML
A Koopman framework for rare event simulation in stochastic differential equations
利用随机Koopman算子和Kolmogorov倒向方程之间的关系,构造了随机微分方程的重要性抽样方案.具体地,我们提出使用随机Koopman算子的本征函数来近似感兴趣的可观测量的Doob变换(例如,与罕见事件相关联),这又产生对应的零方差重要性抽样估计量的近似。我们的方法是广泛适用的和系统的,治疗非正常系统,非梯度系统,和系统的振荡动力学或秩亏噪声在一个共同的框架。在非线性设置的随机库普曼特征函数不能推导出解析,我们使用动态模式分解(DMD)的方法来计算它们的数值,但框架是不可知的特定的数值方法。数值实验表明,即使是粗糙的近似的几个特征函数,后者是建立从非罕见的轨迹,可以产生有效的重要性抽样计划罕见的事件。
2022-02-07 math.DS math.PR stat.CO
Rare-Event Estimation for Dynamic Fault Trees
文章描述了用于动态故障树估计的稀有事件蒙特卡罗模拟算法的开发和使用结果。对于故障树估计,通常使用分析方法(最小割集、马尔可夫链等),但对于具有动态门的复杂模型,则需要采用重要性抽样法与蒙特卡罗模拟相结合的方法。本文针对动态故障树的特点,提出了解决该问题的方法.假设故障是不可修复的,故障时间服从一般分布函数(可能是指数分布、威布尔分布、正态分布和对数正态分布等)。提出了重要性抽样重算的表达式,并考虑了一些数值结果
2016-01-24 cs.CE stat.AP
Importance Sampling for Minimization of Tail Risks: A Tutorial
本文以教程形式介绍如何将重要性采样用于最小化条件风险价值等尾部风险的随机优化问题,重点阐述测度变换处方的构造及其与优化求解范式的集成方法。
2023-07-10 q-fin.RM stat.ME
Analysis and Simulation of Extremes and Rare Events in Complex Systems
罕见的天气和气候事件,如热浪和洪水,可能带来巨大的社会成本。气候数据的持续时间和空间覆盖范围往往有限,气候预测往往转向气候模型的模拟,以便更好地预测罕见的天气事件。然而,为了获得准确的概率估计,复杂模型的非常长的模拟可能慢得令人望而却步。发展概率和动力学技术,从有限的数据中准确地估计罕见事件的概率是一个重要的科学问题。在本文中,我们比较了四个现代方法估计罕见事件的概率:广义极值(GEV)的方法,从经典极值理论;两个重要性抽样技术,系谱粒子分析(GPA)和Giardina-Kurchan-Lecomte-Taillem(GKLT)算法;以及蛮力蒙特卡罗(MC)。利用这些技术,我们估计了三种动力学模型中罕见事件的概率:Ornstein-Uhlenbeck过程,Lorenz '96系统和PlaSim(气候模型)。我们保持计算工作量不变,看看每种技术的罕见事件概率估计与长期控制提供的黄金标准相比有多好。令人惊讶的是,我们发现经典的极值理论方法优于GPA,GKLT和MC在估计罕见事件。
2020-05-11 stat.ME
Insight from the Kullback--Leibler divergence into adaptive importance sampling schemes for rare event analysis in high dimension
本文研究高维稀有事件概率估计的两种自适应重要性抽样方案,证明学习步骤中多项式样本量即可保证一致性,并揭示投影方法的样本复杂度优势。
2025-03-24 math.PR math.ST stat.TH
Rare event simulation for electronic circuit design
在这项工作中,我们提出了一个算法来模拟电子电路设计的罕见事件。我们的方法在很大程度上依赖于重要性抽样的巧妙使用,这使我们能够处理10 - 10级的概率。我们不仅可以计算非常罕见的违约概率,还可以计算与给定违约概率及其预期缺口相关的分位数。我们展示了令人印象深刻的效率的方法对实际电路。
2021-09-17 math.PR stat.AP
Safe cross-entropy-based importance sampling for rare event simulations
针对稀有事件模拟中改进交叉熵方法收敛慢、不稳定及需预设混合成分数的问题,提出Safe-ICE方法,采用加权交叉熵惩罚EM算法自动剪枝,并引入轻重尾两成分混合,加速极小失效概率估计,数值验证更优。
2025-09-08 cs.NA math.NA stat.CO
Logarithmic Accuracy in Importance Sampling via Large Deviations
本研究通过大偏差理论分析了非最优重要性测度下重要性采样的渐近效率与样本需求,提出新的稀有事件模拟诊断方法。
2025-12-31 math.ST stat.TH
Wasserstein Distributionally Robust Rare-Event Simulation
The Chinese University of Hong Kong(香港中文大学);Huawei Hong Kong Research Center(华为香港研究中心)
本文提出了一种基于Wasserstein模糊集的分布鲁棒重要性采样方法,用于高效估计存在分布不确定性下的稀有事件概率,实现了最优的误差收敛性。
2026-01-04 q-fin.CP stat.CO stat.ME
Adaptive Importance Sampling and Quasi-Monte Carlo Methods for 6G URLLC Systems
本文提出了一种基于自适应重要性抽样的高效仿真方法,该方法可以根据先前的样本在高斯族中自动找到最优方案,以评估误比特率(BER)或误字率(WER)的概率。这两种测度分别涉及到高维黑箱积分和稀有事件采样,可以用来表征编码调制的性能。我们进一步整合拟蒙特卡罗方法在我们的框架,以提高收敛速度。实验结果表明,在AWGN环境下,所提出的重要性抽样算法比标准的蒙特卡罗方法具有更高的效率.
2023-03-07 eess.SP stat.CO stat.ME
Monte-Carlo acceleration: importance sampling and hybrid dynamic systems
一个复杂的工业系统的可靠性很少能通过分析来评估。由于系统故障通常是罕见的事件,从计算的角度来看,粗糙的蒙特卡罗方法是昂贵的。为了减少计算时间,可以使用诸如重要性抽样的方差减少方法。我们提出了一个适应这种方法的一类多分量动力系统。我们解决一个系统,其故障对应于系统的物理变量(温度,压力,水位)进入临界区域。这种系统在液压和核工业中很常见。在这些系统中,组件的状态(开、关或乱序)决定了物理变量的动态特性,并通过确定性反馈机制和随机故障或修复来改变。为了处理组件状态和物理变量之间的这种相互作用,我们使用分段确定性马尔可夫过程(PSTV)的轨迹模型。我们展示了如何适应重要性抽样方法PSTK,通过引入一个参考措施的轨迹空间,我们提出了一个偏置策略的重要性抽样。模拟研究比较了我们的重要性抽样方法的原油蒙特卡罗方法的三组分系统。
2019-05-31 stat.CO
A Flow-Based Generative Model for Rare-Event Simulation
The University of Queensland(昆士兰大学)
本文提出基于归一化流生成模型的条件采样方法,结合重要性采样,高效模拟稀有事件并精确估计复杂期望,适用于高维场景。
2023-05-13 cs.LG stat.CO stat.ML
Deep Probabilistic Accelerated Evaluation: A Robust Certifiable Rare-Event Simulation Methodology for Black-Box Safety-Critical Systems
Carnegie Mellon University(卡内基梅隆大学);Columbia University(哥伦比亚大学)
评估智能物理系统对罕见安全关键事件的可靠性对现实世界的应用造成了巨大的测试负担。仿真提供了一个有用的平台,以评估这些系统的极端风险之前,他们的部署。重要性采样(IS),虽然被证明是强大的罕见事件模拟,面临着挑战,在处理这些基于学习的系统,由于其黑盒性质,从根本上破坏了其效率保证,这可能会导致低估没有诊断检测。我们提出了一个框架,称为深概率加速评估(深PrAE)设计统计保证的是,通过转换黑盒采样器,是通用的,但可能缺乏保证,到一个我们称之为一个宽松的效率证书,允许准确估计的安全关键事件概率的界限。我们提出了Deep-PrAE理论,该理论将主导点概念与通过深度神经网络分类器进行的稀有事件集学习相结合,并在包括智能驾驶算法的安全测试在内的数值示例中证明了其有效性。
2021-03-08 cs.LG stat.ML
Scalable End-to-End Autonomous Vehicle Testing via Rare-event Simulation
University of Pennsylvania(宾夕法尼亚大学);Stanford University(斯坦福大学);Massachusetts Institute of Technology(麻省理工学院)
虽然自动驾驶汽车(AV)技术的最新发展突出了重大进展,但我们缺乏严格和可扩展的测试工具。真实世界的测试,即$\textit{de facto}$评估环境,将公众置于危险之中,并且由于事故的罕见性,将需要数十亿英里才能统计验证性能声明。我们实现了一个模拟框架,可以测试整个现代自动驾驶系统,特别是包括采用深度学习感知和控制算法的系统。使用自适应重要性抽样方法,以加速罕见事件的概率评估,我们估计的基础分布下的标准交通行为的事故概率。我们证明了我们的框架在高速公路上的情况下,加速系统评估$2$ - $20$倍天真的蒙特卡罗抽样方法和$10$ - $300 \mathsf{P}$倍(其中$\mathsf{P}$是处理器的数量)在现实世界的测试。
2019-01-12 cs.LG cs.RO stat.ML
Importance sampling for metastable and multiscale dynamical systems
在这篇文章中,我们解决的问题,出现在与随机动力系统的罕见事件的重要性抽样方案的设计。我们重点关注亚稳态问题和多尺度的影响。我们讨论了为什么看似合理的计划,遵循大偏差的最优路径可能在实践中表现不佳,即使他们是渐近最优的。前渐近最优性是很重要的,当一个处理亚稳态动力学,我们讨论了可能的方法,如何解决这个问题。此外,我们还讨论了多尺度(无论是在周期性或随机环境中)对重要性抽样的有效设计的影响。我们讨论了出现的数学和实际问题,如何克服一些问题,并讨论未来的挑战。
2017-07-27 math.OC math.PR stat.ME
A new gradient-free active subspace estimation method with application to rare event probability estimation
University of Bristol(布里斯托大学);IFP Énergies Nouvelles(法国石油研究院);Univ. Grenoble Alpes, Inria, CNRS, Grenoble INP*, LJK(格勒诺布尔阿尔卑斯大学、法国国家信息与自动化研究所、法国国家科学研究中心、格勒诺布尔理工学院);University of Nottingham(诺丁汉大学)
本文提出一种新的无梯度主动子空间估计方法,通过结合替代模型减少大规模随机参数稀有事件概率估计的计算成本,并在基准测试问题中验证了其有效性。
2026-11-04 stat.CO
Over-Conservativeness of Variance-Based Efficiency Criteria and Probabilistic Efficiency in Rare-Event Simulation
在稀有事件模拟中,如果重要抽样(IS)估计量的相对误差(即其标准差与均值之比)得到充分控制,则IS估计量被认为是有效的。众所周知,当一个稀有事件集包含多个由所谓的支配点编码的“重要区域”时,IS需要通过混合来考虑所有这些区域以实现效率。我们认为,在典型的实验中,错过不太重要的主导点可能不一定会导致效率低下,和传统的分析配方可能会遭受固有的松散使用相对误差,或反过来估计方差,作为一个效率标准。我们提出了一个新的效率概念,我们称之为概率效率,以缩小这一差距。特别是,我们表明,在标准的Gartner-Ellis大偏差制度下,一个IS,只使用最重要的支配点是足以达到这个效率的概念。我们的发现是特别相关的高维设置中的计算工作,以找到所有的主导点是巨大的。
2022-10-28 math.ST stat.ME stat.TH
Hamiltonian MCMC methods for estimating rare events probabilities in high-dimensional problems
针对高维复杂工程系统中的稀有事件概率估计问题,提出集成 ASTPA 框架与梯度 HMCMC 的方法,开发高效 QNp-HMCMC 采样方案及逆重要性抽样后处理步骤,性能优于 Subset Simulation。
2023-05-19 stat.AP stat.CO stat.ME
Rare Event Simulation
罕见事件是指预期不经常发生的事件,或者更严格地说,根据概率模型,发生概率较低(例如,$10^{-3}$或更低)的事件。在不确定性量化的背景下,罕见事件通常对应于设计用于高可靠性的系统的故障,这意味着系统性能未能满足某些设计或操作规范。正如本节所述,计算这种罕见事件的概率是具有挑战性的。对于非平凡的问题,通常没有解析解,并且标准的蒙特卡罗模拟在计算上是低效的。因此,许多研究工作都集中在开发先进的随机模拟方法,更有效。在这一节中,我们将讨论通过蒙特卡罗模拟、重要性抽样和子集模拟来估计高可靠动态系统的罕见事件概率的问题。
2015-08-20 stat.AP stat.CO
Quantifying rare events in spotting: How far do wildfires spread?
发现是指燃烧的火把碎片被风吹走,在着陆时,可能在主火的直接点火区之外点燃新的火灾。发生在远离原始燃烧单元的地方的火灾是罕见的,但由于其预测和控制仍然具有挑战性,因此会产生相应的后果。为了便于他们的预测,我们研究了三种方法来量化的着陆分布的火种:原油蒙特卡罗模拟,重要性抽样,大偏差理论(LDT)。特别是,我们提出了一个LDT方法,准确和吝啬量化的低概率事件的尾部着陆分布。相比之下,蒙特卡罗和重要性抽样方法是最有效的量化的高概率着陆距离附近的分布模式。然而,由于所需的大样本量,它们在计算上难以量化分布的尾部。我们还表明,最可能的着陆距离与风场的平均特征速度线性增长。此外,定义的相对降落质量的质量降落在一个给定的距离从主火的比例,我们推导出一个明确的公式,允许计算这个数量作为一个函数的降落分布在一个可以忽略不计的计算成本。我们数值证明我们的研究结果在两个规定的风场。
2022-05-03 math.DS math.OC physics.data-an
Split Sampling: Expectations, Normalisation and Rare Events
在本文中,我们开发了一种方法,我们称之为分裂抽样方法来估计高维期望和罕见事件的概率。分裂抽样使用辅助变量MCMC模拟,并将感兴趣的期望表达为一组完整的罕见事件概率。我们从一个边缘辅助变量分布的Rao-Blackwellised估计得到我们的估计。我们说明我们的方法与两个应用程序。首先,我们计算一个最短的网络路径罕见事件的概率,并比较我们的方法估计交叉熵的方法。然后,我们计算一个高维高斯混合的归一化常数,并将我们的估计值与基于嵌套采样的估计值进行比较。我们讨论了我们的方法和其他替代品,如产品的条件概率估计和重要性抽样之间的关系。这里开发的方法在R包中可用:SplitSampling。
2013-10-31 stat.CO
Markov chain Monte Carlo for computing rare-event probabilities for a heavy-tailed random walk
本文提出了一种基于马尔可夫链蒙特卡罗(MCMC)算法的计算罕见事件概率的方法。给定稀有事件发生的基本过程的条件分布以稀有事件的概率作为其归一化常数。利用MCMC方法模拟了一个马尔可夫链,将该条件分布作为其不变分布,并从其轨迹中提取了关于归一化常数的信息。该算法被描述在充分的一般性和应用的问题计算的概率,一个重尾随机游动超过一个高阈值。构造了倒概率的一个无偏估计,其归一化方差渐近为零。该算法被扩展到随机和其性能的数值说明,并与现有的重要性抽样算法。
2012-11-09 math.PR stat.CO
Efficient importance sampling for copula models
本文提出一种通用的高效重要性采样算法,通过变换似然比方法在copula模型下计算最优替代概率测度,实现了显著的方差缩减,并证明了对数效率和有界相对误差。
2025-04-04 stat.CO
BIMC: The Bayesian Inverse Monte Carlo method for goal-oriented uncertainty quantification. Part II
在本文的第一部分(arXiv:1911.00619)中,我们提出了一种重要性抽样算法来计算前向不确定性量化问题中的稀有事件概率。该算法,我们称之为“贝叶斯逆蒙特卡罗(BIMC)方法”,被证明是最佳的问题,其中的输入输出算子是近线性的。但是,将原始BIMC应用于高度非线性系统可能会导致几种不同的故障模式。在本文中,我们修改的BIMC方法,以扩大其适用范围更广泛的系统。改进的算法,我们称之为“自适应BIMC(A-BIMC)”,有两个阶段。在第一阶段,我们解决了一系列的优化问题,以粗略地确定那些区域的参数空间触发的罕见事件。在第二阶段中,我们使用第一阶段的结果来构建高斯混合,然后可以在重要性抽样算法中使用该高斯混合来估计罕见事件的概率。我们建议使用本地代理,最大限度地减少昂贵的向前解决。A-BIMC的有效性证明通过几个合成的例子。再一次,修改后的算法容易失败。我们系统地确定条件下,它不能导致一个有效的重要性抽样分布。
2019-11-05 stat.CO
Rare event simulation for processes generated via stochastic fixed point equations
在许多应用中,特别是在金融和精算数学中,人们感兴趣的是表征随机变量$V$满足分布方程$V\stackrel{\mathcal{D}}{=}f(V)$的尾部分布,其中$f(v)=A\max\{v,D\}+B$为$(A,B,D)\in(0,\infty)\times {\mathbb{R}}^2$。本文关注的是计算方法来评估这些尾部概率。我们介绍了一种新的重要性抽样算法,涉及指数移动在一个随机的时间间隔,估计这些罕见的事件概率。我们证明了所提出的估计是:(i)一致的,(ii)强有效的和(iii)最优的一类动态重要性抽样估计。此外,使用扩展的想法,从非线性更新理论,我们提供了一个精确的描述的算法的运行时间。为了建立这些结果,我们开发了新的技术,关于停止的永恒序列的时刻的收敛性,以及相关的马尔可夫链的第一个入口和最后一个出口时间$\mathbb{R}$。我们用各种数值例子说明我们的方法,这些例子证明了实施的容易性和范围。
2014-07-03 math.PR math.ST stat.TH
Efficient Importance Sampling for Large Sums of Independent and Identically Distributed Random Variables
我们讨论估计非负独立同分布随机变量之和低于给定阈值的概率,即,$\mathbb{P}(\sum_{i=1}^{N}{X_i} \leq γ)$,通过重要性抽样(IS)。当$N$较大和/或$γ$较小时,我们对罕见事件机制特别感兴趣。指数扭曲是一种流行的技术,类似的问题,在大多数情况下,相比其他估计。然而,它有一些局限性:i)它假设$X_i$的矩生成函数的知识,以及ii)在新的IS PDF下的采样不是直接的并且可能是昂贵的。这项工作的目的是提出一种替代的IS PDF,大约产量,对于某些类别的分布和罕见的事件制度,至少相同的性能作为指数扭曲技术,并在同一时间,不引入严重的限制。对于$p>-1$和$b>0$,第一类包括概率密度函数(PDF)渐近等价的分布,如$x \rightarrow 0$与$bx^{p}$。对于这类分布,具有适当选择的参数的Gamma IS PDF在对应于$γ$的小值和/或$N$的大值的罕见事件状态中近似地检索基于使用指数扭曲技术的估计器的相同性能。在第二类中,我们考虑对数正态设置,其PDF在零比任何多项式消失得更快,我们数值表明,优化参数的Gamma IS PDF明显优于指数扭曲IS PDF。数值实验验证了所提出的估计器在大$N$和/或小$γ$的政权提供一个高度准确的估计的效率。
2021-10-01 stat.CO
State-dependent Importance Sampling for Estimating Expectations of Functionals of Sums of Independent Random Variables
估计应用于随机变量之和(RV)的泛函的期望是在许多具有挑战性的应用中遇到的众所周知的问题。一般来说,这些量的封闭式表达式是无法得到的。朴素蒙特卡罗模拟是一种替代方法。然而,这种方法需要大量的样本来解决罕见事件问题。因此,使用方差缩减技术来开发快速有效的估计方法至关重要。在这项工作中,我们使用重要性采样(IS),其效率,需要更少的计算,以达到相同的精度要求。我们提出了一个依赖于状态的IS计划的基础上的随机最优控制制定,其中的控制是依赖于状态和时间。我们的目标是计算罕见的事件数量,可以写为一个独立的RV的总和功能的期望。所提出的算法是通用的,可以不受限制的单变量分布的RV或功能适用于总和。我们将这种方法应用于对数正态分布来计算独立RV比率的左尾和累积分布。对于每一种情况下,我们数值证明,建议的状态相关的IS算法相比,最知名的估计处理类似的问题。
2022-10-26 cs.IT math.IT stat.CO
Efficient Black-Box Importance Sampling for VaR and CVaR Estimation
Singapore University of Technology and Design(新加坡科技设计大学)
本文认为重要性抽样(IS)的损失定义在一个复杂的对象,如机器学习特征映射或混合整数线性优化公式的尾部风险的估计。假设损失和潜在随机向量的分布是黑箱的,本文提出了一种有效的IS算法来估计风险价值和条件风险价值。任何IS程序中的关键挑战,即确定适当的测量变化,是自动化的自结构IS转换,学习和复制的浓度特性的条件过剩不太罕见的样品。从对数尺度来看,所得估计量具有渐进最优的方差缩减。仿真实验验证了该方案的有效性和实用性
2021-06-16 cs.LG math.PR q-fin.RM
Adaptive Reduced Multilevel Splitting
针对昂贵评分函数下的稀有事件采样,本文提出利用带误差界的约简替代评分,并扩展自适应多层分裂框架,实现临界水平完全自适应的重要性采样算法。
2024-10-24 math.PR stat.CO