Initializing adaptive importance sampling with Markov chains
自适应重要性抽样是从复杂目标密度中抽样的有力工具，但其成功与否敏感地依赖于初始建议密度。提出了一种利用马尔可夫链和层次聚类自动进行初始化的算法。在多达20个维度的具有挑战性的多峰示例上检查性能，并与嵌套采样的结果进行比较。我们的方法产生了一个建议，导致快速收敛和准确估计的整体归一化和边缘分布。
2013-04-29 stat.CO
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数，通过非参数核密度估计和变分过程，获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Tempered, Anti-trunctated, Multiple Importance Sampling
重要性抽样是一种蒙特卡罗方法，它引入一个建议分布，根据目标分布对空间进行抽样。然而，校准的建议分布是必不可少的，以实现效率，因此诉诸自适应算法来调整这个分布。本文提出了一种新的自适应重要性抽样方案--回火抗截断自适应多重重要性抽样（TAMIS）算法。我们结合了回火计划和一个新的非线性变换的权重，我们命名为反截断。为了提高效率，我们还考虑不增加目标密度的评估次数。因此，我们的建议是一个自动调整的顺序算法，是强大的穷人的初始提案，不需要梯度计算和规模以及与尺寸。
2022-06-16 stat.CO
Importance Sampling and Necessary Sample Size: an Information Theory Approach
重要性抽样通过使用来自建议度量的样本来近似关于目标度量的期望。该方法在大类测试函数上的性能在很大程度上取决于两种测量之间的接近程度。我们推导出一个一般的界限，需要举行重要性抽样是成功的，并涉及$f$之间的分歧的目标和建议的样本量。该界是从一个新的和简单的信息论范式推导出的重要性抽样的研究。作为一般理论的例子，我们给出了样本量的Kullback-Leibler和$χ^2$的分歧，和总的变化和Hellinger距离的必要条件。我们的方法是非渐近的，其一般性允许区分这些指标的相对优点。不出所料，非对称发散比全变分或海林格给出了更清晰的边界。我们的研究结果扩展了现有的必要条件-和补充充分的-所需的样本量的重要性抽样。
2016-08-31 stat.CO
Approximations of the Optimal Importance Density using Gaussian Particle Flow Importance Sampling
最近开发的粒子流算法提供了一种替代重要性抽样的方法，用于从后验分布中提取粒子，并且已经提出了许多基于该原理的粒子滤波器。样本从先验中提取，然后根据伪时间间隔上的一些动态来移动，使得它们的最终值根据期望的后验分布。在实践中，实现粒子流采样器需要多层近似，结果是最终样本通常不具有正确的后验分布。本文考虑用近似高斯流对一类非线性高斯模型进行采样。我们使用粒子流的重要性采样器，校正目标和实际密度与重要性权重之间的差异。我们提出了一个合适的数值积分过程中使用此流量和相应的步长控制算法。在过滤上下文中，我们使用粒子流从最佳重要性密度中采样，而不是过滤密度本身，从而避免了对预测密度进行分析或数值近似的需要。在粒子滤波器中使用粒子流重要性抽样的模拟表明，与最佳重要性密度的标准近似相比，该算法有显著的改进，并且该算法属于标准的序贯蒙特卡罗框架。
2014-11-27 stat.CO
On the use of marginal posteriors in marginal likelihood estimation via importance-sampling
我们研究了边际后验分布的乘积作为重要性抽样函数的边际似然估计的有效性。该方法通常适用于多块参数向量设置，不需要额外的马尔可夫链蒙特卡罗（MCMC）采样，并且不依赖于用于从后验采样的MCMC方案的类型。所提出的方法适用于正态回归模型，有限正态混合和纵向泊松模型，并导致准确的边际似然估计。
2014-01-11 stat.CO
Model comparison with missing data using MCMC and importance sampling
在竞争统计模型之间进行选择是一个具有挑战性的问题，特别是当竞争模型是非嵌套的时。在本文中，我们提供了一个简单的解决方案，设计一个算法，结合MCMC和重要性抽样，以获得计算有效估计的边际似然，然后可以用来比较模型。该算法成功应用于纵向流行病和时间序列数据集，并显示出优于现有的计算边缘可能性的方法。
2015-12-15 stat.CO
Rare event estimation with sequential directional importance sampling (SDIS)
本文提出了一种用于稀有事件估计的顺序方向重要性抽样（SDIS）方法。SDIS用一系列辅助失效概率来表示一个小的失效概率，通过放大输入变异性来定义。在笛卡尔坐标系下，用蒙特卡罗模拟估计序列中的第一个概率，在极坐标系下，用方向性重要性抽样计算序列中的所有概率。从用于估计中间概率的定向重要性抽样密度中抽取的样本通过重采样移动方案以顺序方式绘制。后者方便地在笛卡尔坐标系中执行，并且通过适当的变换获得方向样本。对于移动步，我们讨论了两种马尔可夫链蒙特卡罗（MCMC）算法，分别应用于低维和高维问题。最后，提出了一种自适应选择的参数定义的中间失效概率和由此产生的失效概率估计的变异系数进行了分析。提出的SDIS方法进行了测试，在不同的问题设置的五个例子，这表明该方法优于现有的序贯抽样可靠性方法。
2022-01-12 stat.CO
Particle Efficient Importance Sampling
高效重要性抽样（EIS）方法是高维积分数值计算的一般原理，它利用目标被积函数的序列结构来构造方差最小化重要性抽样器。尽管在高维中有许多成功的应用，但众所周知，重要性抽样策略的方差随着积分维数的增加而呈指数增长。我们解决这个问题，认识到EIS框架有一个离线的序贯蒙特卡罗解释。粒子EIS方法是基于非标准的响应权重，考虑到前瞻建设的重要性采样器。我们将该方法应用于一系列单变量和双变量随机波动率规范。我们还开发了一个新的应用程序的EIS方法与学生的t状态创新的状态空间模型。我们的研究结果表明，粒子EIS方法大大优于标准EIS方法和粒子滤波器的似然估计在高维。此外，随着时间序列维数的增加，粒子EIS和粒子滤波器方法的方差之间的比率保持稳定。我们说明了使用粒子边际Metropolis-Hastings和重要性抽样平方算法的贝叶斯推断的方法的效率。
2013-09-26 stat.CO
Monte-Carlo acceleration: importance sampling and hybrid dynamic systems
一个复杂的工业系统的可靠性很少能通过分析来评估。由于系统故障通常是罕见的事件，从计算的角度来看，粗糙的蒙特卡罗方法是昂贵的。为了减少计算时间，可以使用诸如重要性抽样的方差减少方法。我们提出了一个适应这种方法的一类多分量动力系统。我们解决一个系统，其故障对应于系统的物理变量（温度，压力，水位）进入临界区域。这种系统在液压和核工业中很常见。在这些系统中，组件的状态（开、关或乱序）决定了物理变量的动态特性，并通过确定性反馈机制和随机故障或修复来改变。为了处理组件状态和物理变量之间的这种相互作用，我们使用分段确定性马尔可夫过程（PSTV）的轨迹模型。我们展示了如何适应重要性抽样方法PSTK，通过引入一个参考措施的轨迹空间，我们提出了一个偏置策略的重要性抽样。模拟研究比较了我们的重要性抽样方法的原油蒙特卡罗方法的三组分系统。
2019-05-31 stat.CO
Star discrepancy bounds based on Hilbert space filling curve stratified sampling and its applications
本文研究基于Hilbert空间填充曲线抽样的概率星偏差上界，将收敛阶从$O(N^{-1/2})$提升至$O(N^{-1/2-1/(2d)})$，并给出加权空间积分误差界及Koksma-Hlawka不等式改进等应用。
2023-04-19 math.ST stat.TH
Computationally Efficient Nonparametric Importance Sampling
由重要性抽样建立的方差减少强烈地依赖于重要性抽样分布的选择。一个好的选择往往很难实现，特别是对于高维集成问题。最优重要性抽样分布的非参数估计（称为非参数重要性抽样）是参数估计的一种合理的替代方法，本文提出并研究了自归一化和非归一化重要性抽样估计的非参数变体。对非参数重要性抽样的一个常见批评是与参数方法相比增加了计算负担。我们解决了这个问题，在很大程度上利用线性混合频率多边形估计，而不是核估计。均方误差收敛特性的影响，导致非参数重要性抽样的有效应用的建议。特别地，我们证明了非参数重要性抽样渐近地达到最佳的重要性抽样方差。非参数重要性抽样算法的效率在很大程度上依赖于所采用的非参数估计量的计算效率。线性混合频率多边形优于核估计在某些标准，如有效的采样和评估。此外，它是兼容的反演方法的样本生成。这使得我们的算法与其他方差减少技术，如分层抽样。通过三个基准集成问题的建议算法的实用性的经验证据。作为一个应用，我们估计了基于实际数据的垃圾邮件过滤器排队系统的队列长度分布。
2008-10-20 stat.CO stat.ME
Iterative importance sampling with Markov chain Monte Carlo sampling in robust Bayesian analysis
在一组先验下的贝叶斯推断，称为鲁棒贝叶斯分析，允许通过有界（或不精确）概率来估计模型内的参数和量化感兴趣的数量中的认识不确定性。迭代重要性抽样可用于通过优化先验集合来估计感兴趣的量的界限。针对稳健贝叶斯推断依赖于马尔可夫链蒙特卡罗（MCMC）抽样的情况，提出了一种迭代重要性抽样方法。为了适应迭代重要性抽样中的MCMC抽样，推导了一个新的表达式的有效样本量的重要性抽样，它考虑了相关性的MCMC样本。为了说明所提出的方法，稳健的贝叶斯分析，迭代重要性抽样与MCMC抽样应用于估计下限的总体效果在以前发表的荟萃分析与随机效应模型。该方法的性能相比，网格搜索方法，并根据不同程度的先验数据冲突进行了探讨。
2022-06-17 stat.CO stat.ME
Relaxation-based importance sampling for structural reliability analysis
提出基于自适应松弛指示函数或概率密度函数参数的重要性抽样统一框架，并给出低维与高维两种策略，可一次生成完整易损性曲面。
2023-09-13 stat.AP stat.CO
A Deterministic Sampling Method via Maximum Mean Discrepancy Flow with Adaptive Kernel
Illinois Institute of Technology（伊利诺伊理工学院）；University of California, Riverside（加州大学河滨分校）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）
本文提出EVI-MMD方法，通过最小化核差异近似目标分布，采用能量变分推断框架和隐式欧拉方案解决ODE动态系统，动态选择高斯核带宽提升性能，应用于密度指定和两样本问题。
2026-06-29 cs.LG stat.CO stat.ML
Adaptive Multiple Importance Sampling
自适应多重要性抽样（AMIS）算法的目的是在迭代重要性抽样方案中对过去的模拟进行最佳回收。与早期的自适应重要性抽样实现（如人口蒙特卡罗）的区别在于，所有模拟值的重要性权重，过去和现在，在每次迭代时重新计算，遵循Owen和Zhou（2000）的确定性多重混合估计器技术。虽然该算法的收敛性能不能得到充分的研究，我们通过一个具有挑战性的香蕉形状的目标分布和人口遗传学的例子表明，这种技术带来的改善是巨大的。
2011-10-03 stat.AP stat.CO
Risk-neutral limit of adaptive importance sampling of random stopping times
本文研究涉及无界停时的退出问题的重要性抽样，指出方差最小化技术的朴素应用可能导致病态，并提出基于风险敏感最优控制框架的解决方案。
2024-02-13 math.PR stat.CO
Importance sampling methods for Bayesian discrimination between embedded models
本文综述了贝叶斯模型选择中使用的贝叶斯因子近似的一些成熟方法，主要是Chen et al.（2000）中的方法。我们的重点是在这里的方法，是基于重要性抽样战略，而不是可变尺寸的技术，如可逆跳MCMC，包括：原油蒙特卡罗，极大似然重要性抽样，桥梁和谐波平均采样，以及Chib的方法的基础上开发的功能平等。我们将在本次调查中展示如何有效地实施这些不同的方法来测试概率单位模型中预测变量的显著性。最后，我们在一个真实的数据集上比较了它们的性能。
2009-10-13 stat.CO stat.ME
An attempt to trace the birth of importance sampling
在本文中，我们试图将重要性抽样（IS）的诞生追溯到1949年。我们发现经典的制定是在一份文件中卡恩在1949年6月。至于“重要性抽样”这个词的出现，它可能是在几个月后出现的，也许是在1949年的会议上，但在1950年之前没有发表过这个名字的文章。
2022-06-21 math.HO physics.hist-ph stat.CO
Importance Sampling via Variational Optimization
Technion（以色列理工学院）
在由数千个顶点组成的大型贝叶斯网络中计算数据的精确可能性通常是一项困难的任务。当这些模型包含许多确定性的条件概率表时，当观测值极不可能时，即使是变分方法和随机抽样等替代算法也常常表现不佳。提出了一种新的基于变分技术的贝叶斯网络重要性抽样算法。我们使用重要性函数的更新来预测随机抽样是否收敛于真实似然之上或之下，并相应地改变提案分布。该方法的有效性和它的贡献，收敛证明了大型遗传连锁分析任务的硬网络。
2012-06-20 cs.AI stat.CO
Implicitly Adaptive Importance Sampling
自适应重要性抽样是一类用于为重要性抽样找到良好的建议分布的技术。通常，建议分布是标准概率分布，其参数基于当前建议与目标分布之间的失配而被适配。在这项工作中，我们提出了一个隐式自适应重要性抽样方法，适用于复杂的分布，这是不是在封闭的形式。该方法迭代地匹配一组蒙特卡罗绘制的矩到基于重要性权重的加权矩。我们将该方法应用于贝叶斯留一交叉验证，并表明它比许多现有的参数自适应重要性抽样方法，同时计算成本低廉。
2020-05-06 stat.CO stat.ME stat.ML
Monte Carlo Inference via Greedy Importance Sampling
University of Waterloo（滑铁卢大学）
本文提出了一种新的图模型蒙特卡罗推理方法，它结合了显式搜索和广义重要性采样。其思想是通过搜索目标分布中的显著点来减小重要性采样的方差。我们证明，它是可以引入搜索，仍然保持无偏性。然后，我们展示了我们的程序在一些简单的推理任务，并表明它可以提高标准MCMC方法，包括吉布斯抽样，大都会抽样，混合蒙特卡罗的推理质量。本文扩展了以往的工作，表明如何贪婪重要性采样可以正确地实现在一维的情况下。
2013-01-16 cs.LG stat.CO stat.ML
Adaptive Importance Sampling via Stochastic Convex Programming
我们证明了从指数族重要抽样的蒙特卡罗估计的方差是分布的自然参数的凸函数。有了这个见解，我们提出了一个自适应重要性抽样算法，同时提高了抽样分布的选择，同时积累了蒙特卡罗估计。利用凸性，我们证明了该方法的无偏估计量的方差是渐近最优的指数家庭。
2015-01-09 math.OC stat.CO stat.ME
MCMC Importance Sampling via Moreau-Yosida Envelopes
本文提出利用Moreau-Yosida包络作为重要性分布进行MCMC重要性采样，以解决不可微先验下基于梯度采样受限的问题，并证明其估计量渐近正态且数值上方差更低。
2025-07-23 stat.CO stat.ME
Importance Sampling and its Optimality for Stochastic Simulation Models
我们考虑的问题，估计一个预期的结果，从随机模拟模型。我们的目标是发展一个理论框架的重要性抽样，这样的估计。通过研究重要性抽样估计量的方差，我们提出了一个两阶段的过程，包括回归阶段和抽样阶段，以构建最终的估计量。我们在第一阶段引入了参数和非参数回归估计，并研究了两个阶段之间的分配如何影响最终估计的性能。我们分析了这两种方法的方差减少率，并推导出它们的预言性质。我们使用两个数值例子和风力涡轮机可靠性评估的案例研究评估的方法的经验性能。
2019-09-25 stat.CO stat.ME
Large-Flip Importance Sampling
Computer Science, UBC（不列颠哥伦比亚大学计算机科学系）
提出了一种新的求解复杂离散分布的蒙特卡罗算法。该算法的动机是N-Fold Way，这是一种巧妙的事件驱动MCMC采样器，可以避免在任何特定状态下的拒绝移动。然而，N重方式可能会被“困”在循环中。我们通过修改采样过程克服了这个问题。这种校正确实会引入偏差，但随后会使用精心设计的重要性采样器来校正偏差。
2012-06-20 cs.AI stat.CO
Discrepancy-based Inference for Intractable Generative Models using Quasi-Monte Carlo
不可解的生成模型是可能性不可用但采样是可能的模型。在这种情况下，大多数参数推断方法需要计算数据和生成模型之间的一些差异。例如，这是最小距离估计和近似贝叶斯计算的情况。这些方法需要针对不同的参数值从模型中采样大量的实现，当仿真是昂贵的操作时，这可能是一个重大的挑战。在本文中，我们建议通过在我们的模型模拟中执行“样本多样性”来增强这种方法。这将通过使用准蒙特卡罗（QMC）点集来实现。我们的主要结果是样本的复杂性界限表明，在平滑条件下的发电机，QMC可以显着减少所需的样本数量，以获得一个给定的精度水平时，使用三个最常见的差异：最大的平均差异，瓦瑟斯坦距离，和Sinkhorn分歧。这是由一个模拟研究，其中强调，提高精度有时也是可能的，在某些设置不包括的理论。
2022-07-04 stat.CO stat.ME
Importance is Important: Generalized Markov Chain Importance Sampling Methods
本文提出基于重要性权重的无拒绝MCMC抽样方案，将多重尝试Metropolis算法推广为无需拒绝的通用框架，并拓展至离散空间，证明其比原始Metropolis--Hastings算法更高效。
2024-10-02 stat.CO stat.ME stat.ML
Importance Sampling for rare events and conditioned random walks
本文介绍了一种新的重要性抽样方案，称为自适应扭曲重要性抽样，它适用于在与实际独立同分布经验均值有关的中等偏差范围内改进稀有事件概率的估计。summands。它是基于从随机游动中提取的长游程密度的尖锐近似，该随机游动以其端点值为条件。
2009-10-09 math.PR math.ST stat.CO
A layered multiple importance sampling scheme for focused optimal Bayesian experimental design
我们开发了一种新的计算方法“集中”最优贝叶斯试验设计与非线性模型，目标是最大限度地提高预期的信息增益在目标子集的模型参数。我们的方法考虑了整个模型参数集的不确定性，但采用了一个设计目标，可以利用不同的参数子集之间的学习权衡。我们引入了一个新的分层多重要性抽样计划，提供相合估计的预期信息增益在这个集中的设置。这种抽样方案产生显着减少估计偏差和方差为一个给定的计算工作量，使最优设计更易于处理的计算密集型问题的范围广泛。
2019-03-26 stat.CO stat.ME
The Gibbs Sampler with Particle Efficient Importance Sampling for State-Space Models
我们认为粒子吉布斯（PG）的贝叶斯分析的非线性非高斯状态空间模型的工具。PG是标准吉布斯过程的蒙特卡罗（MC）近似，其在吉布斯过程内部使用顺序MC（SMC）重要性抽样来更新潜在的和潜在的高维状态轨迹。我们建议结合PG与一个通用的和易于实现的SMC方法称为粒子有效的重要性抽样（PEIS）。通过使用SMC重要性抽样密度，其近似地完全全局地适应于状态的目标密度，PEIS可以相对于现有PG实现从状态和参数的后验实质上改善PG抽取的混合和效率。PEIS实现的效率增益说明PG应用程序的一个单变量随机波动模型的资产收益，非高斯非线性局部水平模型的利率，和一个多变量随机波动模型的实现协方差阵的资产收益。
2018-04-17 stat.CO stat.ME
An importance sampling approach for copula models in insurance
提出了一种用于Copula模型抽样的重要性抽样方法。我们提出了两种算法，提高蒙特卡罗估计的功能时，主要取决于基本的随机向量的行为时，至少有一个组件是大的。这类问题通常源于金融和保险中的依赖模型。我们提出的重要性抽样框架是通用的，可以很容易地实现的所有类的Copula模型的采样是可行的。我们展示了如何优化这两种算法的建议分布，以减少采样误差。在一个典型的多变量保险应用程序的启发下的案例研究中，我们得到了10和30之间的标准蒙特卡罗估计相比，方差减少因子。
2015-04-07 q-fin.RM stat.AP stat.CO
Optimal mixture weights in multiple importance sampling
Stanford University（斯坦福大学）
本文研究了多重重要性采样中混合权重的优化问题，通过凸优化方法提升效率，并提出一种序列重要性采样算法来估计最优混合比例。
2014-11-14 cs.NA math.NA stat.CO
Robust Importance Sampling with Adaptive Winsorization
重要性抽样是一种广泛使用的估计分布性质的技术。本文研究了通过自适应温索化重要性抽样估计量来权衡方差的某些偏差。新的winsorizing过程，平衡原则（或Lepskii的方法）的基础上，选择一个阈值水平之间的一个预定义的集合，粗略平衡的偏差和方差的估计时，winsorized在不同的水平。因此，它提供了一种原则性的方法来执行winsorization有限样本最优性保证下最小的假设。在各种示例中，所提出的估计器被示出为具有比领先的替代方案更小的均方误差和平均绝对偏差。
2021-02-08 physics.data-an stat.CO stat.ME
Adaptive Importance Sampling and Quasi-Monte Carlo Methods for 6G URLLC Systems
本文提出了一种基于自适应重要性抽样的高效仿真方法，该方法可以根据先前的样本在高斯族中自动找到最优方案，以评估误比特率（BER）或误字率（WER）的概率。这两种测度分别涉及到高维黑箱积分和稀有事件采样，可以用来表征编码调制的性能。我们进一步整合拟蒙特卡罗方法在我们的框架，以提高收敛速度。实验结果表明，在AWGN环境下，所提出的重要性抽样算法比标准的蒙特卡罗方法具有更高的效率.
2023-03-07 eess.SP stat.CO stat.ME
Imprecise Monte Carlo simulation and iterative importance sampling for the estimation of lower previsions
我们开发了一个理论框架，研究数值估计较低的预测，一般适用于两级蒙特卡罗方法，重要性抽样方法，以及广泛的其他抽样方法之一可能会设计。我们将这些估计的一致性链接到Glivenko-Cantelli类，对于亚高斯的情况，我们展示了如何使用此过程的相关结构来约束偏差并证明一致性。我们还提出了一个新的上估计，它可以与标准的下估计一起使用，以提供一个简单的置信区间。作为这个框架的一个案例研究，我们然后讨论如何利用重要性抽样提供准确的数值估计较低的预测。我们提出了一种迭代的重要性抽样方法，以大大提高性能的不精确重要性抽样。我们证明了我们的结果不精确的Dirichlet模型。
2018-06-27 math.PR math.ST stat.CO
Tree pyramidal adaptive importance sampling
Intel Labs, Intel Corporation（英特尔公司英特尔研究院）
本文介绍了树-金字塔自适应重要性抽样（TP-AIS），一种新的迭代抽样方法，它优于确定性混合总体蒙特卡罗（DM-PMC）、混合总体蒙特卡罗（M-PMC）和分层自适应重要性抽样（LAIS）等最先进的方法。TP-AIS迭代地构建由树金字塔参数化的建议分布，其中每个树叶跨越表示其重要性密度的子空间。在每个新的采样操作之后，一组树叶被细分，以改善建议分布对目标密度的近似。与文献中的其他方法不同，TP-AIS是无参数的，不需要调整就能达到最佳性能。我们评估TP-AIS与不同的复杂性随机目标概率密度函数（PDF），并分析其应用到不同的维度。最先进的迭代重要性抽样方法和其他基线MCMC方法使用归一化有效样本量（N-ESS），詹森-香农发散和时间复杂度的结果进行比较。
2020-03-23 cs.LG stat.CO stat.ML
Counting the number of group orbits by marrying the Burnside process with importance sampling
本研究提出结合Burnside过程与重要性采样的通用群轨道近似计数新算法，应用于单位上三角群时可高效估算其共轭类数量。
2025-03-19 math.CO math.GR math.PR
Uniform ergodicity and spectral gap of importance-tempered MCMC with heavy-tailed targets
本文提出重要性温度化MCMC方法，证明其一致遍历条件，可提高估计精度并消除预热期。
2026-10-26 math.PR stat.CO stat.ML
Importance Sampling with Unequal Support
Carnegie Mellon University（卡内基梅隆大学）
重要性采样常用于机器学习中，当训练和测试数据来自不同的分布时。在本文中，我们提出了一个新的变种的重要性采样，可以减少方差的重要性采样为基础的估计数量级时，支持的训练和测试分布不同。在激励和介绍我们的新的重要性采样估计量，我们提供了一个详细的理论分析，其特点是它的偏差和方差相对于普通的重要性采样估计量（在各种设置，其中包括普通的重要性采样是有偏见的情况下，而我们的新的估计量不是，反之亦然）。我们的结论与我们的新的重要性采样估计如何可以用来改善如何以及一个新的糖尿病治疗策略将工作的个人，使用数据时，个人使用以前的治疗策略的估计的一个例子。
2016-11-10 cs.AI cs.LG stat.ML
An Importance Sampling Algorithm for the Ising Model with Strong Couplings
考虑了在一致外磁场中铁磁伊辛模型配分函数的估计问题。通过代表模型的Forney因子图的对偶中的重要性抽样进行估计。重点是在低温下的模型（对应于具有强耦合的模型）和具有强耦合和弱耦合参数的混合物的模型。
2017-01-26 cs.IT math.IT physics.comp-ph
Black-box Importance Sampling
重要性抽样被广泛应用于机器学习和统计学中，但它的能力受到使用简单建议的限制，这些建议的重要性权重可以被可追踪地计算。我们通过研究黑盒重要性抽样方法来解决这个问题，该方法计算从任何未知提案或黑盒机制生成的样本的重要性权重。我们的方法使我们能够使用更好和更丰富的建议来解决困难的问题，（有点违反直觉）也有额外的好处，提高估计精度超过典型的重要性抽样。理论和实证分析提供。
2016-10-17 stat.ML
An Importance Sampling Scheme on Dual Factor Graphs. I. Models in a Strong External Field
我们提出了一个重要性抽样方案来估计二维铁磁Ising模型和二维铁磁$q$ -态Potts模型的配分函数，这两个模型都是在外部磁场的存在下。该方案在对偶Forney因子图中运行，并且能够有效地计算在宽范围的模型参数下的配分函数的估计。特别是，我们考虑的模型是在一个强大的外部磁场。
2015-02-05 cond-mat.stat-mech cs.IT math.IT
Zero variance self-normalized importance sampling via estimating equations
针对自归一化重要性采样比率估计无法趋近零方差的问题，本文结合Fieller技巧与正化策略提出基于估计方程的零方差方案，给出解的存在唯一性、大样本性质及渐近方差可任意趋近零的结论。
2025-10-01 cs.NA math.NA math.ST
Estimating standard errors for importance sampling estimators with multiple Markov chains
朴素的重要性抽样估计，从一个单一的重要性密度的样本的基础上，可以是数字不稳定的。相反，我们考虑广义重要性抽样估计的样本从一个以上的概率分布相结合。我们研究这个问题的马尔可夫链蒙特卡洛的背景下，独立的样本被替换为马尔可夫链样本。如果链以多项式速度收敛到各自的目标分布，那么在两个有限矩条件下，我们证明了广义估计的中心极限定理成立。此外，我们开发了一个易于实现的方法来计算有效的渐近标准误差的基础上批平均值。我们还提供了一个批均值估计量来计算Geyer（1994）的反向Logistic估计量的渐近有效的标准误差。我们使用贝叶斯变量选择过程中的线性回归说明的方法。特别是，广义重要性抽样估计是用来执行经验贝叶斯变量的选择和批均值估计是用来获得标准误差在一个高维设置，目前的方法是不适用的。
2016-08-11 math.ST stat.CO stat.ME
Stochastic Optimization with Importance Sampling
Rutgers University（罗格斯大学）
训练数据的均匀采样通常用于传统的随机最优化算法中，例如近端随机梯度下降（Proximal Stochastic Gradient Descent，简称SGD）和近端随机双坐标上升（Proximal Stochastic Dual Coordinate Ascent，简称SDCA）。虽然均匀采样可以保证采样的随机量是相应真实量的无偏估计，但所得估计量可能具有相当高的方差，这对底层优化过程的收敛性产生负面影响。本文研究了具有重要性抽样的随机最优化问题，通过减小随机方差来提高收敛速度。具体地说，我们研究了具有重要性抽样的随机镜像下降（SGD）和具有重要性抽样的随机镜像下降（SDCA）。对于非线性随机梯度算法，该算法采用重要性抽样来最小化随机梯度的方差，而不是在整个训练过程中采用均匀抽样。对于SDCA算法，提出的重要性抽样方案的目标是在每一个对偶坐标上升步骤获得更高的期望对偶值。我们提供了广泛的理论分析表明，建议的重要性抽样方法的收敛速度可以显着提高在适当的条件下，无论是对EST-SGD和EST-SDCA。实验结果验证了理论分析的正确性。
2015-01-02 cs.LG stat.ML
Resampling: an improvement of Importance Sampling in varying population size models
序贯重要性抽样算法已被定义为估计祖先种群过程模型中的似然性。然而，这些算法是基于恒定的总体规模的模型的特征，并且当总体规模随时间变化时变得低效，使得在许多人口统计情况下基于似然性的推断变得困难。在这项工作中，我们修改了以前的序贯重要性抽样算法，以提高效率的似然估计。我们的程序仍然是基于恒定大小的模型的功能，但使用一个新的rescue概率分布取决于成对的复合似然rescue技术。我们测试了我们的算法，称为序列重要性抽样与reservation（SISR）在不同的人口情况下的模拟数据集。在大多数情况下，对于相同的推理精度，我们将计算成本除以2，在某些情况下甚至除以100。这项研究提供了第一次评估的影响，这种rescue技术的参数推断使用序贯重要性抽样，并扩展了范围的情况下，可能性推断可以很容易地进行。
2016-03-23 math.PR math.ST stat.AP
Exploring Variance Reduction in Importance Sampling for Efficient DNN Training
Takuro Kutsuna（独立研究者）
针对重要性采样中方差减少评估的计算挑战，本文提出基于小批量样本的方差减少估计方法、自动学习率调整的有效小批量大小及相关量化指标与算法，提升DNN训练效率与精度。
2025-11-18 cs.LG stat.ML
Non-asymptotic performance analysis of importance sampling schemes for small noise diffusions
在本说明中，我们开发了一个prelimit分析的性能指标的重要性抽样计划有关的小噪声扩散过程。在重要性抽样中，任何测度变化的表现都是由它的二阶矩来表征的。对于一个给定的变化的措施，我们的特点是相应的估计的二阶矩作为解决方案的偏微分方程，我们分析通过一个完整的渐近展开相对于噪声的大小，并获得一个精确的声明，其准确性。二阶矩衰减率的主要修正项求解了一个可以显式求解的输运方程。我们得到的渐近展开识别的来源，但渐近最优的重要性抽样方案可能表现不佳，并允许更准确的竞争重要性抽样方案之间的比较。
2014-07-29 math.OC math.PR math.ST
Annealed importance sampling for Ising models with mixed boundary conditions
本文介绍一种对具有混合边界条件的伊辛模型进行抽样的方法。作为退火重要抽样和Swendsen-Wang算法的应用，该方法采用一系列中间分布，保持温度不变，但逐渐打开边界条件。数值结果表明，样本权重的方差相对较小。
2022-05-17 cs.NA math.NA math.ST
Gradient Importance Sampling
自适应蒙特卡罗计划在过去几年中发展通常寻求确保遍历性的采样过程符合MCMC的传统。这就限制了适应方面的可能性。在一般情况下，遍历性只有在适应性以一定的速率减少时才能得到保证。重要性抽样方法提供了一种方法来规避这种限制，并设计不断适应的抽样算法。在这里，我提出了一个梯度知情的SMC（及其特殊情况下人口蒙特卡罗）的静态问题的变体。
2015-07-21 stat.ML
FIS-GAN: GAN with Flow-based Importance Sampling
Sichuan University（四川大学）；Huazhong University of Technology（华中理工大学）；New York University（纽约大学）
生成对抗网络（GAN）的训练过程在大多数情况下在潜在空间中采用均匀或高斯采样方法，这可能将大部分计算花费在可以正确处理且易于生成的示例上。从理论上讲，重要性采样通过对训练样本进行优先排序，加快了监督学习中的随机优化。在本文中，我们探讨了适应重要性采样到对抗学习的可能性。在潜空间中，用重要性采样代替均匀采样和高斯采样，用归一化流密度估计逼近潜空间后验分布。从经验上讲，MNIST和Fashion-MNIST的结果表明，我们的方法显着加快了GAN的优化，同时保持生成的样本的视觉保真度。
2022-12-16 cs.LG stat.ML
Least Squares Importance Sampling for Monte Carlo Security Pricing
我们描述了一个简单的重要性抽样策略的蒙特卡罗模拟的基础上最小二乘优化过程。与几个数值例子，我们表明，这种最小二乘重要性采样（LSIS）提供的效率增益相比，最先进的技术，当后者被称为执行良好。然而，与传统方法相比，LSIS不限于确定高斯采样分布的最佳均值。因此，当调整采样分布的高阶矩或处理非高斯或多模态密度的能力对于实现方差减小至关重要时，它优于其他方法。
2007-03-18 cond-mat.other math.ST physics.comp-ph
Importance sampling for slow-fast diffusions based on moderate deviations
我们考虑系统的慢-快扩散与小噪声的慢组件。基于中偏差原理，我们构造了估计罕见事件的可证对数渐近最优重要性方案。使用子解的方法，我们构造的计划，并确定条件下，该计划将是渐近最优的。当事件不太罕见时，基于中偏差的重要性抽样提供了一种可行的替代大偏差重要性抽样的方法。特别是，在许多情况下的利益之一，确实可以构建所需的变化的措施，在封闭的形式，这是一项任务，这是更复杂的使用大偏差-基于重要性抽样，特别是当它涉及到多尺度动态演变的过程。多尺度的存在和事实上，我们不做任何周期性假设的系数驱动的过程中，复杂的设计和分析有效的重要性抽样方案。仿真研究说明了这一理论。
2020-01-06 math.OC math.PR stat.ME
