Consistency of Importance Sampling estimates based on dependent sample sets and an application to models with factorizing likelihoods
本文证明了基于相依样本集的重要性抽样估计在一定条件下是相合的。这可以用来减少贝叶斯模型中的方差，使用比可能性评估数量大得多的样本集，这种技术被称为样本膨胀。我评估了一个玩具高斯问题和两个混合模型的样本膨胀。
2015-03-01 stat.ME
Split Sampling: Expectations, Normalisation and Rare Events
在本文中，我们开发了一种方法，我们称之为分裂抽样方法来估计高维期望和罕见事件的概率。分裂抽样使用辅助变量MCMC模拟，并将感兴趣的期望表达为一组完整的罕见事件概率。我们从一个边缘辅助变量分布的Rao-Blackwellised估计得到我们的估计。我们说明我们的方法与两个应用程序。首先，我们计算一个最短的网络路径罕见事件的概率，并比较我们的方法估计交叉熵的方法。然后，我们计算一个高维高斯混合的归一化常数，并将我们的估计值与基于嵌套采样的估计值进行比较。我们讨论了我们的方法和其他替代品，如产品的条件概率估计和重要性抽样之间的关系。这里开发的方法在R包中可用：SplitSampling。
2013-10-31 stat.CO
Efficient rare event estimation for multimodal and high-dimensional system reliability via subset adaptive importance sampling
针对多模态高维系统可靠性稀有事件估计难题，提出融合子集模拟与自适应多重重要性抽样的SAIS策略，以更少样本实现低方差、高精度失效概率估计，性能优于现有前沿方法。
2025-07-31 stat.CO stat.ME
Implicitly Adaptive Importance Sampling
自适应重要性抽样是一类用于为重要性抽样找到良好的建议分布的技术。通常，建议分布是标准概率分布，其参数基于当前建议与目标分布之间的失配而被适配。在这项工作中，我们提出了一个隐式自适应重要性抽样方法，适用于复杂的分布，这是不是在封闭的形式。该方法迭代地匹配一组蒙特卡罗绘制的矩到基于重要性权重的加权矩。我们将该方法应用于贝叶斯留一交叉验证，并表明它比许多现有的参数自适应重要性抽样方法，同时计算成本低廉。
2020-05-06 stat.CO stat.ME stat.ML
Adaptive Importance Sampling via Stochastic Convex Programming
我们证明了从指数族重要抽样的蒙特卡罗估计的方差是分布的自然参数的凸函数。有了这个见解，我们提出了一个自适应重要性抽样算法，同时提高了抽样分布的选择，同时积累了蒙特卡罗估计。利用凸性，我们证明了该方法的无偏估计量的方差是渐近最优的指数家庭。
2015-01-09 math.OC stat.CO stat.ME
Deep importance sampling using tensor trains with application to a priori and a posteriori rare event estimation
Monash University（莫纳什大学）；University of Bath（巴斯大学）；Heidelberg University（海德堡大学）
本文提出基于平方张量列分解的保序变换复合来构建深度重要性采样方法，用于高维稀有事件概率估计，并通过比率估计器改进方差缩减，在微分方程约束问题上实现了此前无法达到的高维后验稀有事件概率计算。
2023-05-25 cs.LG stat.CO stat.ME
Importance sampling methods for Bayesian discrimination between embedded models
本文综述了贝叶斯模型选择中使用的贝叶斯因子近似的一些成熟方法，主要是Chen et al.（2000）中的方法。我们的重点是在这里的方法，是基于重要性抽样战略，而不是可变尺寸的技术，如可逆跳MCMC，包括：原油蒙特卡罗，极大似然重要性抽样，桥梁和谐波平均采样，以及Chib的方法的基础上开发的功能平等。我们将在本次调查中展示如何有效地实施这些不同的方法来测试概率单位模型中预测变量的显著性。最后，我们在一个真实的数据集上比较了它们的性能。
2009-10-13 stat.CO stat.ME
Affine invariant interacting Langevin dynamics in Markov chain importance sampling for rare event estimation
本文提出一种用于稀有事件估计的基于梯度的MCIS新方案ALDI-IS，利用ALDI对平滑零方差密度采样，并建立了非渐近误差界，揭示了平滑参数在采样误差与采样难度间的权衡。
2025-06-25 math.ST stat.TH
Niching Importance Sampling for Multi-modal Rare-event Simulation
Clinical Operational Research Unit, Department of Mathematics, UCL（临床运筹学单元，数学系，伦敦大学学院）
本文提出 niching 重要性抽样框架，结合可靠性分析和进化多模态优化技术，提高故障概率估计的鲁棒性，有效应对可靠性问题的几何挑战。
2026-04-07 stat.CO
Importance is Important: Generalized Markov Chain Importance Sampling Methods
本文提出基于重要性权重的无拒绝MCMC抽样方案，将多重尝试Metropolis算法推广为无需拒绝的通用框架，并拓展至离散空间，证明其比原始Metropolis--Hastings算法更高效。
2024-10-02 stat.CO stat.ME stat.ML
Importance sampling for slow-fast diffusions based on moderate deviations
我们考虑系统的慢-快扩散与小噪声的慢组件。基于中偏差原理，我们构造了估计罕见事件的可证对数渐近最优重要性方案。使用子解的方法，我们构造的计划，并确定条件下，该计划将是渐近最优的。当事件不太罕见时，基于中偏差的重要性抽样提供了一种可行的替代大偏差重要性抽样的方法。特别是，在许多情况下的利益之一，确实可以构建所需的变化的措施，在封闭的形式，这是一项任务，这是更复杂的使用大偏差-基于重要性抽样，特别是当它涉及到多尺度动态演变的过程。多尺度的存在和事实上，我们不做任何周期性假设的系数驱动的过程中，复杂的设计和分析有效的重要性抽样方案。仿真研究说明了这一理论。
2020-01-06 math.OC math.PR stat.ME
An importance sampling approach for copula models in insurance
提出了一种用于Copula模型抽样的重要性抽样方法。我们提出了两种算法，提高蒙特卡罗估计的功能时，主要取决于基本的随机向量的行为时，至少有一个组件是大的。这类问题通常源于金融和保险中的依赖模型。我们提出的重要性抽样框架是通用的，可以很容易地实现的所有类的Copula模型的采样是可行的。我们展示了如何优化这两种算法的建议分布，以减少采样误差。在一个典型的多变量保险应用程序的启发下的案例研究中，我们得到了10和30之间的标准蒙特卡罗估计相比，方差减少因子。
2015-04-07 q-fin.RM stat.AP stat.CO
MCMC Importance Sampling via Moreau-Yosida Envelopes
本文提出利用Moreau-Yosida包络作为重要性分布进行MCMC重要性采样，以解决不可微先验下基于梯度采样受限的问题，并证明其估计量渐近正态且数值上方差更低。
2025-07-23 stat.CO stat.ME
Active Importance Sampling for Variational Objectives Dominated by Rare Events: Consequences for Optimization and Generalization
深度神经网络在使用足够的数据进行优化时，可以提供高维函数的准确表示;相比之下，在科学计算中占主导地位的函数近似技术不能很好地扩展维度。因此，许多曾经被认为难以解决的高维采样和近似问题正在通过机器学习的镜头重新审视。虽然无与伦比的准确性的承诺可能意味着需要参数化复杂系统表示的应用程序的复兴，但在许多应用程序中，收集足够的数据来开发这样的表示仍然是一个重大的挑战。在这里，我们介绍了一种方法，结合罕见事件采样技术与神经网络优化，以优化目标函数，由罕见事件占主导地位。我们发现，重要性抽样减少了学习问题的解决方案的渐近方差，这表明有利于推广。我们研究我们的算法的背景下学习动态的两个状态之间的过渡路径的系统，在统计物理和机器学习理论的影响的应用程序的问题。我们的数值实验表明，我们可以成功地学习，即使是复杂的困难，高维和罕见的数据。
2021-03-12 cond-mat.stat-mech physics.data-an stat.ML
Robust Importance Sampling with Adaptive Winsorization
重要性抽样是一种广泛使用的估计分布性质的技术。本文研究了通过自适应温索化重要性抽样估计量来权衡方差的某些偏差。新的winsorizing过程，平衡原则（或Lepskii的方法）的基础上，选择一个阈值水平之间的一个预定义的集合，粗略平衡的偏差和方差的估计时，winsorized在不同的水平。因此，它提供了一种原则性的方法来执行winsorization有限样本最优性保证下最小的假设。在各种示例中，所提出的估计器被示出为具有比领先的替代方案更小的均方误差和平均绝对偏差。
2021-02-08 physics.data-an stat.CO stat.ME
Importance Sampling with Unequal Support
Carnegie Mellon University（卡内基梅隆大学）
重要性采样常用于机器学习中，当训练和测试数据来自不同的分布时。在本文中，我们提出了一个新的变种的重要性采样，可以减少方差的重要性采样为基础的估计数量级时，支持的训练和测试分布不同。在激励和介绍我们的新的重要性采样估计量，我们提供了一个详细的理论分析，其特点是它的偏差和方差相对于普通的重要性采样估计量（在各种设置，其中包括普通的重要性采样是有偏见的情况下，而我们的新的估计量不是，反之亦然）。我们的结论与我们的新的重要性采样估计如何可以用来改善如何以及一个新的糖尿病治疗策略将工作的个人，使用数据时，个人使用以前的治疗策略的估计的一个例子。
2016-11-10 cs.AI cs.LG stat.ML
Adaptive Importance Sampling and Quasi-Monte Carlo Methods for 6G URLLC Systems
本文提出了一种基于自适应重要性抽样的高效仿真方法，该方法可以根据先前的样本在高斯族中自动找到最优方案，以评估误比特率（BER）或误字率（WER）的概率。这两种测度分别涉及到高维黑箱积分和稀有事件采样，可以用来表征编码调制的性能。我们进一步整合拟蒙特卡罗方法在我们的框架，以提高收敛速度。实验结果表明，在AWGN环境下，所提出的重要性抽样算法比标准的蒙特卡罗方法具有更高的效率.
2023-03-07 eess.SP stat.CO stat.ME
A Flow-Based Generative Model for Rare-Event Simulation
The University of Queensland（昆士兰大学）
本文提出基于归一化流生成模型的条件采样方法，结合重要性采样，高效模拟稀有事件并精确估计复杂期望，适用于高维场景。
2023-05-13 cs.LG stat.CO stat.ML
Black-box Importance Sampling
重要性抽样被广泛应用于机器学习和统计学中，但它的能力受到使用简单建议的限制，这些建议的重要性权重可以被可追踪地计算。我们通过研究黑盒重要性抽样方法来解决这个问题，该方法计算从任何未知提案或黑盒机制生成的样本的重要性权重。我们的方法使我们能够使用更好和更丰富的建议来解决困难的问题，（有点违反直觉）也有额外的好处，提高估计精度超过典型的重要性抽样。理论和实证分析提供。
2016-10-17 stat.ML
Cross-entropy-based importance sampling with failure-informed dimension reduction for rare event simulation
在高维空间中，稀有事件或故障概率的估计在许多科学和技术领域都是有意义的。我们考虑的问题，罕见的事件表示在一个计算成本高的数值模型。重要性抽样与交叉熵方法提供了一种有效的方法来解决这些问题，提供了一个合适的偏置密度的参数家庭。虽然一些现有的参数分布族被设计为在高维中有效地执行，但它们在交叉熵方法中的适用性仅限于维数为O（1e2）的问题。在这项工作中，而不是直接在高维中建立采样密度，我们专注于识别罕见事件模拟问题的内在低维结构。为此，我们利用稀有事件模拟和贝叶斯逆问题之间的连接。这使我们能够适应降维技术从贝叶斯推断，以构建新的，有效的低维，偏置分布内的交叉熵方法。特别是，我们采用[47]中的方法，因为它能够控制最佳偏置分布近似中的误差。我们说明我们的方法使用两个标准的高维可靠性基准问题和一个结构力学应用程序涉及随机场。
2020-06-09 stat.CO
Relaxation-based importance sampling for structural reliability analysis
提出基于自适应松弛指示函数或概率密度函数参数的重要性抽样统一框架，并给出低维与高维两种策略，可一次生成完整易损性曲面。
2023-09-13 stat.AP stat.CO
Rare event estimation with sequential directional importance sampling (SDIS)
本文提出了一种用于稀有事件估计的顺序方向重要性抽样（SDIS）方法。SDIS用一系列辅助失效概率来表示一个小的失效概率，通过放大输入变异性来定义。在笛卡尔坐标系下，用蒙特卡罗模拟估计序列中的第一个概率，在极坐标系下，用方向性重要性抽样计算序列中的所有概率。从用于估计中间概率的定向重要性抽样密度中抽取的样本通过重采样移动方案以顺序方式绘制。后者方便地在笛卡尔坐标系中执行，并且通过适当的变换获得方向样本。对于移动步，我们讨论了两种马尔可夫链蒙特卡罗（MCMC）算法，分别应用于低维和高维问题。最后，提出了一种自适应选择的参数定义的中间失效概率和由此产生的失效概率估计的变异系数进行了分析。提出的SDIS方法进行了测试，在不同的问题设置的五个例子，这表明该方法优于现有的序贯抽样可靠性方法。
2022-01-12 stat.CO
An attempt to trace the birth of importance sampling
在本文中，我们试图将重要性抽样（IS）的诞生追溯到1949年。我们发现经典的制定是在一份文件中卡恩在1949年6月。至于“重要性抽样”这个词的出现，它可能是在几个月后出现的，也许是在1949年的会议上，但在1950年之前没有发表过这个名字的文章。
2022-06-21 math.HO physics.hist-ph stat.CO
Stochastic Optimization with Importance Sampling
Rutgers University（罗格斯大学）
训练数据的均匀采样通常用于传统的随机最优化算法中，例如近端随机梯度下降（Proximal Stochastic Gradient Descent，简称SGD）和近端随机双坐标上升（Proximal Stochastic Dual Coordinate Ascent，简称SDCA）。虽然均匀采样可以保证采样的随机量是相应真实量的无偏估计，但所得估计量可能具有相当高的方差，这对底层优化过程的收敛性产生负面影响。本文研究了具有重要性抽样的随机最优化问题，通过减小随机方差来提高收敛速度。具体地说，我们研究了具有重要性抽样的随机镜像下降（SGD）和具有重要性抽样的随机镜像下降（SDCA）。对于非线性随机梯度算法，该算法采用重要性抽样来最小化随机梯度的方差，而不是在整个训练过程中采用均匀抽样。对于SDCA算法，提出的重要性抽样方案的目标是在每一个对偶坐标上升步骤获得更高的期望对偶值。我们提供了广泛的理论分析表明，建议的重要性抽样方法的收敛速度可以显着提高在适当的条件下，无论是对EST-SGD和EST-SDCA。实验结果验证了理论分析的正确性。
2015-01-02 cs.LG stat.ML
Bayesian Update with Importance Sampling: Required Sample Size
重要性抽样在贝叶斯逆问题、数据同化和机器学习的许多计算方法中被用来逼近贝叶斯规则。本文回顾并进一步研究了重要性抽样所需的样本量的$χ^2$ -目标和建议之间的分歧。我们发展一般的抽象理论，并通过大量的例子说明尺寸，噪声水平和其他模型参数在近似的贝叶斯更新重要性抽样的作用。我们的例子也方便了一个新的直接比较标准和最佳的粒子滤波的建议。
2020-09-22 stat.CO
Efficient Rare-Event Simulation for Random Geometric Graphs via Importance Sampling
School of Mathematics and Statistics, University of New South Wales（新南威尔士大学数学与统计学院）；Data Science and Statistics, Aarhus University（奥胡斯大学数据科学与统计学）；Institute of Stochastics, Ulm University（乌尔姆大学随机过程研究所）；School of Mathematics and Physics, The University of Queensland（昆士兰大学数学与物理学院）
本文提出通过重要性采样方法高效估计随机几何图中稀有事件概率，通过渐近分析和数值研究验证了方法的有效性，提升了对Gilbert图的分析能力。
2026-04-22 math.PR stat.CO
Semiparametric Cross Entropy for rare-event simulation
交叉熵方法是用于稀有事件概率估计的众所周知的自适应重要性抽样方法，其需要估计参数类内的最佳重要性抽样密度。在这篇文章中，我们估计一个最佳的重要性抽样密度在更广泛的半参数类分布。我们表明，这种半参数版本的交叉熵方法经常产生有效的估计。我们用数值实验说明了该方法的优良的实际性能，并表明，对于我们认为它通常优于替代方案的数量级的问题。
2013-10-14 stat.CO
Adaptive Multiple Importance Sampling
自适应多重要性抽样（AMIS）算法的目的是在迭代重要性抽样方案中对过去的模拟进行最佳回收。与早期的自适应重要性抽样实现（如人口蒙特卡罗）的区别在于，所有模拟值的重要性权重，过去和现在，在每次迭代时重新计算，遵循Owen和Zhou（2000）的确定性多重混合估计器技术。虽然该算法的收敛性能不能得到充分的研究，我们通过一个具有挑战性的香蕉形状的目标分布和人口遗传学的例子表明，这种技术带来的改善是巨大的。
2011-10-03 stat.AP stat.CO
Monte Carlo Inference via Greedy Importance Sampling
University of Waterloo（滑铁卢大学）
本文提出了一种新的图模型蒙特卡罗推理方法，它结合了显式搜索和广义重要性采样。其思想是通过搜索目标分布中的显著点来减小重要性采样的方差。我们证明，它是可以引入搜索，仍然保持无偏性。然后，我们展示了我们的程序在一些简单的推理任务，并表明它可以提高标准MCMC方法，包括吉布斯抽样，大都会抽样，混合蒙特卡罗的推理质量。本文扩展了以往的工作，表明如何贪婪重要性采样可以正确地实现在一维的情况下。
2013-01-16 cs.LG stat.CO stat.ML
Large deviation theory-based adaptive importance sampling for rare events in high dimensions
我们提出了一种方法，精确估计罕见事件或故障概率昂贵的评估数值模型在高维。该方法结合了大偏差理论和自适应重要性抽样的思想。重要性采样器使用交叉熵方法来找到最佳的高斯偏置分布，并重新使用整个过程中的所有样本，用于目标概率估计和更新偏置分布。大偏差理论用于通过优化问题的解来找到一个好的初始偏置分布。此外，它是用来确定一个低维的子空间，是最有用的罕见事件的概率。该子空间用于交叉熵方法，已知交叉熵方法在高维中会失去效率。所提出的方法不需要平滑的指示函数，也不涉及数值调整参数。我们比较的方法与最先进的交叉熵为基础的重要性抽样计划使用三个例子：高维故障概率估计基准，扩散方程的问题，海啸问题的时间依赖性浅水系统在一个空间维度。
2023-03-26 cs.NA math.NA math.OC
Jeffreys Flow: Robust Boltzmann Generators for Rare Event Sampling via Parallel Tempering Distillation
Department of Mathematics, Purdue University（普渡大学数学系）
本文提出Jeffreys流，通过并行退火轨迹蒸馏数据，利用对称Jeffreys散度缓解玻尔兹曼生成器的模式崩溃问题，提升多模分布的采样精度与全局模式覆盖。
2026-04-07 cs.LG cs.NA math.NA
Exploring Variance Reduction in Importance Sampling for Efficient DNN Training
Takuro Kutsuna（独立研究者）
针对重要性采样中方差减少评估的计算挑战，本文提出基于小批量样本的方差减少估计方法、自动学习率调整的有效小批量大小及相关量化指标与算法，提升DNN训练效率与精度。
2025-11-18 cs.LG stat.ML
Resampling: an improvement of Importance Sampling in varying population size models
序贯重要性抽样算法已被定义为估计祖先种群过程模型中的似然性。然而，这些算法是基于恒定的总体规模的模型的特征，并且当总体规模随时间变化时变得低效，使得在许多人口统计情况下基于似然性的推断变得困难。在这项工作中，我们修改了以前的序贯重要性抽样算法，以提高效率的似然估计。我们的程序仍然是基于恒定大小的模型的功能，但使用一个新的rescue概率分布取决于成对的复合似然rescue技术。我们测试了我们的算法，称为序列重要性抽样与reservation（SISR）在不同的人口情况下的模拟数据集。在大多数情况下，对于相同的推理精度，我们将计算成本除以2，在某些情况下甚至除以100。这项研究提供了第一次评估的影响，这种rescue技术的参数推断使用序贯重要性抽样，并扩展了范围的情况下，可能性推断可以很容易地进行。
2016-03-23 math.PR math.ST stat.AP
Importance sampling the union of rare events with an application to power systems analysis
我们考虑重要性抽样来估计由随机变量$\boldsymbol{x}$定义的$J$罕见事件$H_j$的联合的概率$μ$。我们研究的采样器已经被用于空间统计，基因组学和组合学，至少可以追溯到Karp和Luby（1983）。它的工作原理是随机采样一个事件，然后采样$\boldsymbol{x}$有条件的事件发生，它构建了一个无偏估计$μ$的发生事件的数量乘以联合界的倒数矩。我们证明了该采样器的一些方差界。对于$n$的样本量，其方差不大于$μ(\barμ-μ)/n$，其中$\barμ$为联合界。无论$J$事件之间的重叠模式如何，其变异系数也不大于$\sqrt{(J+J^{-1}-2)/(4n)}$。我们的激励问题来自电力系统的可靠性，其中连接的节点之间的相位差有一个联合高斯分布和$J$罕见的事件产生不可接受的大相位差。在网格可靠性问题中，即使是由$326$维中的$5772$约束定义的概率低于$10^{-22}$的一些事件，也可以用仅具有$n=10{,}000$样本值的约$0.0024$的变异系数来估计。
2018-12-19 cs.NA math.NA stat.CO
Risk-neutral limit of adaptive importance sampling of random stopping times
本文研究涉及无界停时的退出问题的重要性抽样，指出方差最小化技术的朴素应用可能导致病态，并提出基于风险敏感最优控制框架的解决方案。
2024-02-13 math.PR stat.CO
Non-asymptotic performance analysis of importance sampling schemes for small noise diffusions
在本说明中，我们开发了一个prelimit分析的性能指标的重要性抽样计划有关的小噪声扩散过程。在重要性抽样中，任何测度变化的表现都是由它的二阶矩来表征的。对于一个给定的变化的措施，我们的特点是相应的估计的二阶矩作为解决方案的偏微分方程，我们分析通过一个完整的渐近展开相对于噪声的大小，并获得一个精确的声明，其准确性。二阶矩衰减率的主要修正项求解了一个可以显式求解的输运方程。我们得到的渐近展开识别的来源，但渐近最优的重要性抽样方案可能表现不佳，并允许更准确的竞争重要性抽样方案之间的比较。
2014-07-29 math.OC math.PR math.ST
Multilevel Sequential Importance Sampling for Rare Event Estimation
稀有事件发生概率的估计是可靠性和风险评估中的一项重要任务。我们考虑的故障事件表示的极限状态函数，这取决于一个偏微分方程（PDE）的解决方案。由于偏微分方程的数值计算是昂贵的，估计这样的概率的失败，蒙特卡罗抽样是棘手的。可靠性分析中更有效的抽样方法，如子集模拟，很受欢迎，但如果PDE评估成本很高，则仍然不可行。在这篇文章中，我们开发了一种新的，高效的估计罕见事件的概率。我们的方法是基于序贯重要性采样器使用离散化的PDE为基础的极限状态函数具有不同的精度。一个双重的自适应算法，确保我们得到一个估计的基础上所需的离散化精度。与[Ullmann，Papaioannou 2015; SIAM/ASA J. Uncertain.数量。3（1）：922-953]，我们的估计克服了嵌套问题。在顺序重要性采样算法中，特别重要的是正确选择MCMC内核。而不是流行的自适应条件采样方法，我们提出了一种新的算法，使用独立的建议，从自适应构造的冯Mises-Fischer-Nakagami分布。该算法分别应用于1D和2D空间中的测试问题，并与多级子集模拟估计量和单级版本的序贯重要性抽样和子集模拟进行比较。
2020-03-29 cs.NA math.NA stat.CO
Variance-reduced sampling importance resampling
本文将对立抽样和拉丁超立方抽样两种方差缩减技术引入抽样重要性重抽样方法，提出两种改进方法，理论证明其显著减少了估计误差，并通过数值研究和真实数据分析验证了有效性。
2024-06-04 stat.CO
Annealed importance sampling for Ising models with mixed boundary conditions
本文介绍一种对具有混合边界条件的伊辛模型进行抽样的方法。作为退火重要抽样和Swendsen-Wang算法的应用，该方法采用一系列中间分布，保持温度不变，但逐渐打开边界条件。数值结果表明，样本权重的方差相对较小。
2022-05-17 cs.NA math.NA math.ST
Gradient Importance Sampling
自适应蒙特卡罗计划在过去几年中发展通常寻求确保遍历性的采样过程符合MCMC的传统。这就限制了适应方面的可能性。在一般情况下，遍历性只有在适应性以一定的速率减少时才能得到保证。重要性抽样方法提供了一种方法来规避这种限制，并设计不断适应的抽样算法。在这里，我提出了一个梯度知情的SMC（及其特殊情况下人口蒙特卡罗）的静态问题的变体。
2015-07-21 stat.ML
FIS-GAN: GAN with Flow-based Importance Sampling
Sichuan University（四川大学）；Huazhong University of Technology（华中理工大学）；New York University（纽约大学）
生成对抗网络（GAN）的训练过程在大多数情况下在潜在空间中采用均匀或高斯采样方法，这可能将大部分计算花费在可以正确处理且易于生成的示例上。从理论上讲，重要性采样通过对训练样本进行优先排序，加快了监督学习中的随机优化。在本文中，我们探讨了适应重要性采样到对抗学习的可能性。在潜空间中，用重要性采样代替均匀采样和高斯采样，用归一化流密度估计逼近潜空间后验分布。从经验上讲，MNIST和Fashion-MNIST的结果表明，我们的方法显着加快了GAN的优化，同时保持生成的样本的视觉保真度。
2022-12-16 cs.LG stat.ML
Least Squares Importance Sampling for Monte Carlo Security Pricing
我们描述了一个简单的重要性抽样策略的蒙特卡罗模拟的基础上最小二乘优化过程。与几个数值例子，我们表明，这种最小二乘重要性采样（LSIS）提供的效率增益相比，最先进的技术，当后者被称为执行良好。然而，与传统方法相比，LSIS不限于确定高斯采样分布的最佳均值。因此，当调整采样分布的高阶矩或处理非高斯或多模态密度的能力对于实现方差减小至关重要时，它优于其他方法。
2007-03-18 cond-mat.other math.ST physics.comp-ph
Adaptive Importance Sampling in General Mixture Classes
在本文中，我们提出了一种自适应算法，迭代更新的权重和组件参数的混合重要性抽样密度，以优化的重要性抽样的性能，作为衡量的熵标准。该方法被证明是适用于广泛的一类重要性抽样密度，其中包括特别是混合物的多元学生t分布。人工和真实的例子，特别强调的好处，一种新的饶Blackwellisation设备，可以很容易地纳入更新计划的建议方案的性能进行了研究。
2008-05-30 stat.CO
Understanding the Curse of Horizon in Off-Policy Evaluation via Conditional Importance Sampling
Stanford University（斯坦福大学）；Mila - University of Montreal（米拉研究所 - 蒙特利尔大学）
使用重要性采样（IS）的非策略策略估计器可能会在长时间域中遭受高方差，并且对利用马尔可夫决策过程结构的新IS方法特别兴奋。我们通过条件蒙特卡罗的观点分析了最流行的方法的方差。令人惊讶的是，我们发现在有限时域MDP中，每决策重要性采样或平稳重要性采样与普通重要性采样相比，没有严格的方差减少。然后，我们提供了充分的条件下，每决策或平稳估计将可证明减少方差重要性采样有限的视野。对于渐近（在地平线$T$）的情况下，我们开发的上限和下限的方差的估计产生的充分条件下，存在一个指数与。重要性采样方差与预决策估计量方差或平稳估计量方差之间的多项式间隙。这些结果有助于推进我们的理解，如果和新类型的IS估计将提高离政策估计的准确性。
2020-06-06 cs.LG stat.ML
Imprecise Monte Carlo simulation and iterative importance sampling for the estimation of lower previsions
我们开发了一个理论框架，研究数值估计较低的预测，一般适用于两级蒙特卡罗方法，重要性抽样方法，以及广泛的其他抽样方法之一可能会设计。我们将这些估计的一致性链接到Glivenko-Cantelli类，对于亚高斯的情况，我们展示了如何使用此过程的相关结构来约束偏差并证明一致性。我们还提出了一个新的上估计，它可以与标准的下估计一起使用，以提供一个简单的置信区间。作为这个框架的一个案例研究，我们然后讨论如何利用重要性抽样提供准确的数值估计较低的预测。我们提出了一种迭代的重要性抽样方法，以大大提高性能的不精确重要性抽样。我们证明了我们的结果不精确的Dirichlet模型。
2018-06-27 math.PR math.ST stat.CO
Stein Variational Adaptive Importance Sampling
提出了一种新的自适应重要性抽样算法，该算法将Stein变分梯度下降算法（SVGD）与重要性抽样（IS）相结合。我们的算法利用SVGD中的非参数变换来迭代地减少我们的重要性建议和目标分布之间的库尔贝克-莱布勒散度。该算法的优点是双重的：首先，我们的算法变成SVGD到一个标准的IS算法，使我们能够使用标准的诊断和分析工具的IS评估和解释的结果;第二，我们不限制我们的重要性建议的选择预定义的分布家庭像传统的（自适应）IS方法。实验结果表明，该算法在求解受限玻尔兹曼机的配分函数和检验变分自动编码器的似然性方面具有良好的性能。
2017-07-25 stat.ML
Single-Index Importance Sampling with Stratification
在许多随机问题中，感兴趣的输出取决于输入随机向量，主要通过单个随机变量（或指数），通过输入的适当单变量变换。我们利用这一特点，提出了一个重要性抽样方法，使罕见的事件更有可能通过改变所选择的指数的分布。通过将这种单指标重要性抽样方法与分层抽样相结合，保证了进一步的方差减小。单指标重要性抽样的降维效果也增强了准蒙特卡罗方法的有效性。所提出的方法适用于广泛的金融或风险管理问题。我们证明了它的效率估计大损失率的信贷组合下正常和t-copula模型，并表明我们的方法优于目前的标准，这些问题。
2021-11-15 stat.CO
Counting the number of group orbits by marrying the Burnside process with importance sampling
本研究提出结合Burnside过程与重要性采样的通用群轨道近似计数新算法，应用于单位上三角群时可高效估算其共轭类数量。
2025-03-19 math.CO math.GR math.PR
Optimal mixture weights in multiple importance sampling
Stanford University（斯坦福大学）
本文研究了多重重要性采样中混合权重的优化问题，通过凸优化方法提升效率，并提出一种序列重要性采样算法来估计最优混合比例。
2014-11-14 cs.NA math.NA stat.CO
Nonasymptotic bounds for suboptimal importance sampling
重要性抽样是蒙特卡罗估计的一种流行的方差缩减方法，其中一个臭名昭著的问题是如何设计好的建议分布。虽然在大多数情况下，最佳（零方差）估计理论上是可能的，但在实践中，只有次优的建议分布是可用的，它往往可以观察到的数字，这些可以显着降低统计性能，导致大的相对误差，因此抵消了最初的意图。在这篇文章中，我们提供了非渐近下限和上界的相对误差的重要性抽样，取决于实际的建议从最优的偏差，因此，我们确定潜在的鲁棒性问题，重要性抽样可能有，特别是在高维度。我们专注于扩散过程的路径采样问题，生成好的建议带来了额外的技术挑战，我们提供了许多支持我们的研究结果的数值例子。
2021-02-18 cs.NA math.NA math.PR
Failure Probability Estimation for Black-Box Autonomous Systems using State-Dependent Importance Sampling Proposals
Stanford University（斯坦福大学）
针对黑盒安全关键自主系统罕见失效难以估计的问题，提出基于状态依赖提议和Markov得分上升的自适应重要性采样算法，在四个序贯系统上显著提升估计精度并开源。
2024-12-03 cs.AI cs.LG cs.RO
Initializing adaptive importance sampling with Markov chains
自适应重要性抽样是从复杂目标密度中抽样的有力工具，但其成功与否敏感地依赖于初始建议密度。提出了一种利用马尔可夫链和层次聚类自动进行初始化的算法。在多达20个维度的具有挑战性的多峰示例上检查性能，并与嵌套采样的结果进行比较。我们的方法产生了一个建议，导致快速收敛和准确估计的整体归一化和边缘分布。
2013-04-29 stat.CO
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数，通过非参数核密度估计和变分过程，获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Tempered, Anti-trunctated, Multiple Importance Sampling
重要性抽样是一种蒙特卡罗方法，它引入一个建议分布，根据目标分布对空间进行抽样。然而，校准的建议分布是必不可少的，以实现效率，因此诉诸自适应算法来调整这个分布。本文提出了一种新的自适应重要性抽样方案--回火抗截断自适应多重重要性抽样（TAMIS）算法。我们结合了回火计划和一个新的非线性变换的权重，我们命名为反截断。为了提高效率，我们还考虑不增加目标密度的评估次数。因此，我们的建议是一个自动调整的顺序算法，是强大的穷人的初始提案，不需要梯度计算和规模以及与尺寸。
2022-06-16 stat.CO
