Importance Sampling with Unequal Support
Carnegie Mellon University(卡内基梅隆大学)
重要性采样常用于机器学习中,当训练和测试数据来自不同的分布时。在本文中,我们提出了一个新的变种的重要性采样,可以减少方差的重要性采样为基础的估计数量级时,支持的训练和测试分布不同。在激励和介绍我们的新的重要性采样估计量,我们提供了一个详细的理论分析,其特点是它的偏差和方差相对于普通的重要性采样估计量(在各种设置,其中包括普通的重要性采样是有偏见的情况下,而我们的新的估计量不是,反之亦然)。我们的结论与我们的新的重要性采样估计如何可以用来改善如何以及一个新的糖尿病治疗策略将工作的个人,使用数据时,个人使用以前的治疗策略的估计的一个例子。
2016-11-10 cs.AI cs.LG stat.ML
Black-box Importance Sampling
重要性抽样被广泛应用于机器学习和统计学中,但它的能力受到使用简单建议的限制,这些建议的重要性权重可以被可追踪地计算。我们通过研究黑盒重要性抽样方法来解决这个问题,该方法计算从任何未知提案或黑盒机制生成的样本的重要性权重。我们的方法使我们能够使用更好和更丰富的建议来解决困难的问题,(有点违反直觉)也有额外的好处,提高估计精度超过典型的重要性抽样。理论和实证分析提供。
2016-10-17 stat.ML
Computationally Efficient Nonparametric Importance Sampling
由重要性抽样建立的方差减少强烈地依赖于重要性抽样分布的选择。一个好的选择往往很难实现,特别是对于高维集成问题。最优重要性抽样分布的非参数估计(称为非参数重要性抽样)是参数估计的一种合理的替代方法,本文提出并研究了自归一化和非归一化重要性抽样估计的非参数变体。对非参数重要性抽样的一个常见批评是与参数方法相比增加了计算负担。我们解决了这个问题,在很大程度上利用线性混合频率多边形估计,而不是核估计。均方误差收敛特性的影响,导致非参数重要性抽样的有效应用的建议。特别地,我们证明了非参数重要性抽样渐近地达到最佳的重要性抽样方差。非参数重要性抽样算法的效率在很大程度上依赖于所采用的非参数估计量的计算效率。线性混合频率多边形优于核估计在某些标准,如有效的采样和评估。此外,它是兼容的反演方法的样本生成。这使得我们的算法与其他方差减少技术,如分层抽样。通过三个基准集成问题的建议算法的实用性的经验证据。作为一个应用,我们估计了基于实际数据的垃圾邮件过滤器排队系统的队列长度分布。
2008-10-20 stat.CO stat.ME
Iterative importance sampling with Markov chain Monte Carlo sampling in robust Bayesian analysis
在一组先验下的贝叶斯推断,称为鲁棒贝叶斯分析,允许通过有界(或不精确)概率来估计模型内的参数和量化感兴趣的数量中的认识不确定性。迭代重要性抽样可用于通过优化先验集合来估计感兴趣的量的界限。针对稳健贝叶斯推断依赖于马尔可夫链蒙特卡罗(MCMC)抽样的情况,提出了一种迭代重要性抽样方法。为了适应迭代重要性抽样中的MCMC抽样,推导了一个新的表达式的有效样本量的重要性抽样,它考虑了相关性的MCMC样本。为了说明所提出的方法,稳健的贝叶斯分析,迭代重要性抽样与MCMC抽样应用于估计下限的总体效果在以前发表的荟萃分析与随机效应模型。该方法的性能相比,网格搜索方法,并根据不同程度的先验数据冲突进行了探讨。
2022-06-17 stat.CO stat.ME
Gradient-free Importance Sampling Scheme for Efficient Reliability Estimation
本文提出基于ASTPA的无梯度重要性采样框架,结合改进的pCN算法与罕见事件域发现机制,高效估计工程系统可靠性中的罕见事件概率。
2025-01-29 stat.AP stat.CO stat.ME
An attempt to trace the birth of importance sampling
在本文中,我们试图将重要性抽样(IS)的诞生追溯到1949年。我们发现经典的制定是在一份文件中卡恩在1949年6月。至于“重要性抽样”这个词的出现,它可能是在几个月后出现的,也许是在1949年的会议上,但在1950年之前没有发表过这个名字的文章。
2022-06-21 math.HO physics.hist-ph stat.CO
Stochastic Optimization with Importance Sampling
Rutgers University(罗格斯大学)
训练数据的均匀采样通常用于传统的随机最优化算法中,例如近端随机梯度下降(Proximal Stochastic Gradient Descent,简称SGD)和近端随机双坐标上升(Proximal Stochastic Dual Coordinate Ascent,简称SDCA)。虽然均匀采样可以保证采样的随机量是相应真实量的无偏估计,但所得估计量可能具有相当高的方差,这对底层优化过程的收敛性产生负面影响。本文研究了具有重要性抽样的随机最优化问题,通过减小随机方差来提高收敛速度。具体地说,我们研究了具有重要性抽样的随机镜像下降(SGD)和具有重要性抽样的随机镜像下降(SDCA)。对于非线性随机梯度算法,该算法采用重要性抽样来最小化随机梯度的方差,而不是在整个训练过程中采用均匀抽样。对于SDCA算法,提出的重要性抽样方案的目标是在每一个对偶坐标上升步骤获得更高的期望对偶值。我们提供了广泛的理论分析表明,建议的重要性抽样方法的收敛速度可以显着提高在适当的条件下,无论是对EST-SGD和EST-SDCA。实验结果验证了理论分析的正确性。
2015-01-02 cs.LG stat.ML
Importance Sampling for rare events and conditioned random walks
本文介绍了一种新的重要性抽样方案,称为自适应扭曲重要性抽样,它适用于在与实际独立同分布经验均值有关的中等偏差范围内改进稀有事件概率的估计。summands。它是基于从随机游动中提取的长游程密度的尖锐近似,该随机游动以其端点值为条件。
2009-10-09 math.PR math.ST stat.CO
Bayesian Update with Importance Sampling: Required Sample Size
重要性抽样在贝叶斯逆问题、数据同化和机器学习的许多计算方法中被用来逼近贝叶斯规则。本文回顾并进一步研究了重要性抽样所需的样本量的$χ^2$ -目标和建议之间的分歧。我们发展一般的抽象理论,并通过大量的例子说明尺寸,噪声水平和其他模型参数在近似的贝叶斯更新重要性抽样的作用。我们的例子也方便了一个新的直接比较标准和最佳的粒子滤波的建议。
2020-09-22 stat.CO
Implicitly Adaptive Importance Sampling
自适应重要性抽样是一类用于为重要性抽样找到良好的建议分布的技术。通常,建议分布是标准概率分布,其参数基于当前建议与目标分布之间的失配而被适配。在这项工作中,我们提出了一个隐式自适应重要性抽样方法,适用于复杂的分布,这是不是在封闭的形式。该方法迭代地匹配一组蒙特卡罗绘制的矩到基于重要性权重的加权矩。我们将该方法应用于贝叶斯留一交叉验证,并表明它比许多现有的参数自适应重要性抽样方法,同时计算成本低廉。
2020-05-06 stat.CO stat.ME stat.ML
Importance sampling for online variational learning
本文提出一种结合蒙特卡洛重要性采样的在线变分算法,用于高效估计状态空间模型中的平滑分布及ELBO梯度,适用于流式数据场景。
2024-02-05 stat.AP stat.ME stat.ML
Monte Carlo Inference via Greedy Importance Sampling
University of Waterloo(滑铁卢大学)
本文提出了一种新的图模型蒙特卡罗推理方法,它结合了显式搜索和广义重要性采样。其思想是通过搜索目标分布中的显著点来减小重要性采样的方差。我们证明,它是可以引入搜索,仍然保持无偏性。然后,我们展示了我们的程序在一些简单的推理任务,并表明它可以提高标准MCMC方法,包括吉布斯抽样,大都会抽样,混合蒙特卡罗的推理质量。本文扩展了以往的工作,表明如何贪婪重要性采样可以正确地实现在一维的情况下。
2013-01-16 cs.LG stat.CO stat.ML
Adaptive Importance Sampling via Stochastic Convex Programming
我们证明了从指数族重要抽样的蒙特卡罗估计的方差是分布的自然参数的凸函数。有了这个见解,我们提出了一个自适应重要性抽样算法,同时提高了抽样分布的选择,同时积累了蒙特卡罗估计。利用凸性,我们证明了该方法的无偏估计量的方差是渐近最优的指数家庭。
2015-01-09 math.OC stat.CO stat.ME
Niching Importance Sampling for Multi-modal Rare-event Simulation
Clinical Operational Research Unit, Department of Mathematics, UCL(临床运筹学单元,数学系,伦敦大学学院)
本文提出 niching 重要性抽样框架,结合可靠性分析和进化多模态优化技术,提高故障概率估计的鲁棒性,有效应对可靠性问题的几何挑战。
2026-04-07 stat.CO
Resampling: an improvement of Importance Sampling in varying population size models
序贯重要性抽样算法已被定义为估计祖先种群过程模型中的似然性。然而,这些算法是基于恒定的总体规模的模型的特征,并且当总体规模随时间变化时变得低效,使得在许多人口统计情况下基于似然性的推断变得困难。在这项工作中,我们修改了以前的序贯重要性抽样算法,以提高效率的似然估计。我们的程序仍然是基于恒定大小的模型的功能,但使用一个新的rescue概率分布取决于成对的复合似然rescue技术。我们测试了我们的算法,称为序列重要性抽样与reservation(SISR)在不同的人口情况下的模拟数据集。在大多数情况下,对于相同的推理精度,我们将计算成本除以2,在某些情况下甚至除以100。这项研究提供了第一次评估的影响,这种rescue技术的参数推断使用序贯重要性抽样,并扩展了范围的情况下,可能性推断可以很容易地进行。
2016-03-23 math.PR math.ST stat.AP
Exploring Variance Reduction in Importance Sampling for Efficient DNN Training
Takuro Kutsuna(独立研究者)
针对重要性采样中方差减少评估的计算挑战,本文提出基于小批量样本的方差减少估计方法、自动学习率调整的有效小批量大小及相关量化指标与算法,提升DNN训练效率与精度。
2025-11-18 cs.LG stat.ML
Risk-neutral limit of adaptive importance sampling of random stopping times
本文研究涉及无界停时的退出问题的重要性抽样,指出方差最小化技术的朴素应用可能导致病态,并提出基于风险敏感最优控制框架的解决方案。
2024-02-13 math.PR stat.CO
Non-asymptotic performance analysis of importance sampling schemes for small noise diffusions
在本说明中,我们开发了一个prelimit分析的性能指标的重要性抽样计划有关的小噪声扩散过程。在重要性抽样中,任何测度变化的表现都是由它的二阶矩来表征的。对于一个给定的变化的措施,我们的特点是相应的估计的二阶矩作为解决方案的偏微分方程,我们分析通过一个完整的渐近展开相对于噪声的大小,并获得一个精确的声明,其准确性。二阶矩衰减率的主要修正项求解了一个可以显式求解的输运方程。我们得到的渐近展开识别的来源,但渐近最优的重要性抽样方案可能表现不佳,并允许更准确的竞争重要性抽样方案之间的比较。
2014-07-29 math.OC math.PR math.ST
Variance-reduced sampling importance resampling
本文将对立抽样和拉丁超立方抽样两种方差缩减技术引入抽样重要性重抽样方法,提出两种改进方法,理论证明其显著减少了估计误差,并通过数值研究和真实数据分析验证了有效性。
2024-06-04 stat.CO
A population Monte Carlo scheme with transformed weights and its application to stochastic kinetic models
本文讨论了后验概率分布的蒙特卡罗逼近问题。特别是,我们考虑了最近提出的技术称为人口蒙特卡罗(PMC),这是基于迭代重要性抽样的方法。这种方法的一个重要缺点是退化的重要性权重时,无论是观察或感兴趣的变量的维度是高的。为了缓解这一困难,我们提出了一种新的方法,进行非线性变换的重要性权重。这种操作减少了权重变化,因此避免了它们的退化,并提高了重要性抽样方案的效率,特别是当从不适合真实后验的建议函数中提取时。为了便于说明,我们已经应用所提出的算法估计的高斯混合模型的参数。这是一个非常简单的问题,使我们能够清楚地显示和讨论所提出的技术的主要特点。作为一个实际应用,我们还考虑了流行的(和具有挑战性的)问题的随机动力学模型(SKM)的速率参数估计。SKM是高度多变量的系统,其模拟生物和化学问题中的分子相互作用。我们介绍了一个特殊的SKMs算法和目前的数值结果。
2012-08-28 math.ST stat.CO stat.TH
Annealed importance sampling for Ising models with mixed boundary conditions
本文介绍一种对具有混合边界条件的伊辛模型进行抽样的方法。作为退火重要抽样和Swendsen-Wang算法的应用,该方法采用一系列中间分布,保持温度不变,但逐渐打开边界条件。数值结果表明,样本权重的方差相对较小。
2022-05-17 cs.NA math.NA math.ST
Gradient Importance Sampling
自适应蒙特卡罗计划在过去几年中发展通常寻求确保遍历性的采样过程符合MCMC的传统。这就限制了适应方面的可能性。在一般情况下,遍历性只有在适应性以一定的速率减少时才能得到保证。重要性抽样方法提供了一种方法来规避这种限制,并设计不断适应的抽样算法。在这里,我提出了一个梯度知情的SMC(及其特殊情况下人口蒙特卡罗)的静态问题的变体。
2015-07-21 stat.ML
FIS-GAN: GAN with Flow-based Importance Sampling
Sichuan University(四川大学);Huazhong University of Technology(华中理工大学);New York University(纽约大学)
生成对抗网络(GAN)的训练过程在大多数情况下在潜在空间中采用均匀或高斯采样方法,这可能将大部分计算花费在可以正确处理且易于生成的示例上。从理论上讲,重要性采样通过对训练样本进行优先排序,加快了监督学习中的随机优化。在本文中,我们探讨了适应重要性采样到对抗学习的可能性。在潜空间中,用重要性采样代替均匀采样和高斯采样,用归一化流密度估计逼近潜空间后验分布。从经验上讲,MNIST和Fashion-MNIST的结果表明,我们的方法显着加快了GAN的优化,同时保持生成的样本的视觉保真度。
2022-12-16 cs.LG stat.ML
Least Squares Importance Sampling for Monte Carlo Security Pricing
我们描述了一个简单的重要性抽样策略的蒙特卡罗模拟的基础上最小二乘优化过程。与几个数值例子,我们表明,这种最小二乘重要性采样(LSIS)提供的效率增益相比,最先进的技术,当后者被称为执行良好。然而,与传统方法相比,LSIS不限于确定高斯采样分布的最佳均值。因此,当调整采样分布的高阶矩或处理非高斯或多模态密度的能力对于实现方差减小至关重要时,它优于其他方法。
2007-03-18 cond-mat.other math.ST physics.comp-ph
Importance is Important: Generalized Markov Chain Importance Sampling Methods
本文提出基于重要性权重的无拒绝MCMC抽样方案,将多重尝试Metropolis算法推广为无需拒绝的通用框架,并拓展至离散空间,证明其比原始Metropolis--Hastings算法更高效。
2024-10-02 stat.CO stat.ME stat.ML
Importance sampling for slow-fast diffusions based on moderate deviations
我们考虑系统的慢-快扩散与小噪声的慢组件。基于中偏差原理,我们构造了估计罕见事件的可证对数渐近最优重要性方案。使用子解的方法,我们构造的计划,并确定条件下,该计划将是渐近最优的。当事件不太罕见时,基于中偏差的重要性抽样提供了一种可行的替代大偏差重要性抽样的方法。特别是,在许多情况下的利益之一,确实可以构建所需的变化的措施,在封闭的形式,这是一项任务,这是更复杂的使用大偏差-基于重要性抽样,特别是当它涉及到多尺度动态演变的过程。多尺度的存在和事实上,我们不做任何周期性假设的系数驱动的过程中,复杂的设计和分析有效的重要性抽样方案。仿真研究说明了这一理论。
2020-01-06 math.OC math.PR stat.ME
Adaptive Importance Sampling in General Mixture Classes
在本文中,我们提出了一种自适应算法,迭代更新的权重和组件参数的混合重要性抽样密度,以优化的重要性抽样的性能,作为衡量的熵标准。该方法被证明是适用于广泛的一类重要性抽样密度,其中包括特别是混合物的多元学生t分布。人工和真实的例子,特别强调的好处,一种新的饶Blackwellisation设备,可以很容易地纳入更新计划的建议方案的性能进行了研究。
2008-05-30 stat.CO
Understanding the Curse of Horizon in Off-Policy Evaluation via Conditional Importance Sampling
Stanford University(斯坦福大学);Mila - University of Montreal(米拉研究所 - 蒙特利尔大学)
使用重要性采样(IS)的非策略策略估计器可能会在长时间域中遭受高方差,并且对利用马尔可夫决策过程结构的新IS方法特别兴奋。我们通过条件蒙特卡罗的观点分析了最流行的方法的方差。令人惊讶的是,我们发现在有限时域MDP中,每决策重要性采样或平稳重要性采样与普通重要性采样相比,没有严格的方差减少。然后,我们提供了充分的条件下,每决策或平稳估计将可证明减少方差重要性采样有限的视野。对于渐近(在地平线$T$)的情况下,我们开发的上限和下限的方差的估计产生的充分条件下,存在一个指数与。重要性采样方差与预决策估计量方差或平稳估计量方差之间的多项式间隙。这些结果有助于推进我们的理解,如果和新类型的IS估计将提高离政策估计的准确性。
2020-06-06 cs.LG stat.ML
Imprecise Monte Carlo simulation and iterative importance sampling for the estimation of lower previsions
我们开发了一个理论框架,研究数值估计较低的预测,一般适用于两级蒙特卡罗方法,重要性抽样方法,以及广泛的其他抽样方法之一可能会设计。我们将这些估计的一致性链接到Glivenko-Cantelli类,对于亚高斯的情况,我们展示了如何使用此过程的相关结构来约束偏差并证明一致性。我们还提出了一个新的上估计,它可以与标准的下估计一起使用,以提供一个简单的置信区间。作为这个框架的一个案例研究,我们然后讨论如何利用重要性抽样提供准确的数值估计较低的预测。我们提出了一种迭代的重要性抽样方法,以大大提高性能的不精确重要性抽样。我们证明了我们的结果不精确的Dirichlet模型。
2018-06-27 math.PR math.ST stat.CO
Stein Variational Adaptive Importance Sampling
提出了一种新的自适应重要性抽样算法,该算法将Stein变分梯度下降算法(SVGD)与重要性抽样(IS)相结合。我们的算法利用SVGD中的非参数变换来迭代地减少我们的重要性建议和目标分布之间的库尔贝克-莱布勒散度。该算法的优点是双重的:首先,我们的算法变成SVGD到一个标准的IS算法,使我们能够使用标准的诊断和分析工具的IS评估和解释的结果;第二,我们不限制我们的重要性建议的选择预定义的分布家庭像传统的(自适应)IS方法。实验结果表明,该算法在求解受限玻尔兹曼机的配分函数和检验变分自动编码器的似然性方面具有良好的性能。
2017-07-25 stat.ML
Single-Index Importance Sampling with Stratification
在许多随机问题中,感兴趣的输出取决于输入随机向量,主要通过单个随机变量(或指数),通过输入的适当单变量变换。我们利用这一特点,提出了一个重要性抽样方法,使罕见的事件更有可能通过改变所选择的指数的分布。通过将这种单指标重要性抽样方法与分层抽样相结合,保证了进一步的方差减小。单指标重要性抽样的降维效果也增强了准蒙特卡罗方法的有效性。所提出的方法适用于广泛的金融或风险管理问题。我们证明了它的效率估计大损失率的信贷组合下正常和t-copula模型,并表明我们的方法优于目前的标准,这些问题。
2021-11-15 stat.CO
Counting the number of group orbits by marrying the Burnside process with importance sampling
本研究提出结合Burnside过程与重要性采样的通用群轨道近似计数新算法,应用于单位上三角群时可高效估算其共轭类数量。
2025-03-19 math.CO math.GR math.PR
Optimal mixture weights in multiple importance sampling
Stanford University(斯坦福大学)
本文研究了多重重要性采样中混合权重的优化问题,通过凸优化方法提升效率,并提出一种序列重要性采样算法来估计最优混合比例。
2014-11-14 cs.NA math.NA stat.CO
Nonasymptotic bounds for suboptimal importance sampling
重要性抽样是蒙特卡罗估计的一种流行的方差缩减方法,其中一个臭名昭著的问题是如何设计好的建议分布。虽然在大多数情况下,最佳(零方差)估计理论上是可能的,但在实践中,只有次优的建议分布是可用的,它往往可以观察到的数字,这些可以显着降低统计性能,导致大的相对误差,因此抵消了最初的意图。在这篇文章中,我们提供了非渐近下限和上界的相对误差的重要性抽样,取决于实际的建议从最优的偏差,因此,我们确定潜在的鲁棒性问题,重要性抽样可能有,特别是在高维度。我们专注于扩散过程的路径采样问题,生成好的建议带来了额外的技术挑战,我们提供了许多支持我们的研究结果的数值例子。
2021-02-18 cs.NA math.NA math.PR
Failure Probability Estimation for Black-Box Autonomous Systems using State-Dependent Importance Sampling Proposals
Stanford University(斯坦福大学)
针对黑盒安全关键自主系统罕见失效难以估计的问题,提出基于状态依赖提议和Markov得分上升的自适应重要性采样算法,在四个序贯系统上显著提升估计精度并开源。
2024-12-03 cs.AI cs.LG cs.RO
Initializing adaptive importance sampling with Markov chains
自适应重要性抽样是从复杂目标密度中抽样的有力工具,但其成功与否敏感地依赖于初始建议密度。提出了一种利用马尔可夫链和层次聚类自动进行初始化的算法。在多达20个维度的具有挑战性的多峰示例上检查性能,并与嵌套采样的结果进行比较。我们的方法产生了一个建议,导致快速收敛和准确估计的整体归一化和边缘分布。
2013-04-29 stat.CO
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数,通过非参数核密度估计和变分过程,获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Tempered, Anti-trunctated, Multiple Importance Sampling
重要性抽样是一种蒙特卡罗方法,它引入一个建议分布,根据目标分布对空间进行抽样。然而,校准的建议分布是必不可少的,以实现效率,因此诉诸自适应算法来调整这个分布。本文提出了一种新的自适应重要性抽样方案--回火抗截断自适应多重重要性抽样(TAMIS)算法。我们结合了回火计划和一个新的非线性变换的权重,我们命名为反截断。为了提高效率,我们还考虑不增加目标密度的评估次数。因此,我们的建议是一个自动调整的顺序算法,是强大的穷人的初始提案,不需要梯度计算和规模以及与尺寸。
2022-06-16 stat.CO
Importance Sampling for Minibatches
School of Mathematics(数学学院);University of Edinburgh(爱丁堡大学)
Minimetry是监督学习中一种研究得很好且非常流行的技术,由于其通过更好地利用并行处理能力和减少随机方差来加速训练的能力而被从业者使用。另一种流行的技术是重要性采样--一种对更重要的样本进行优先采样的策略,也能够加速训练过程。然而,尽管社区在这些领域做出了相当大的努力,并且由于该问题固有的技术难度,目前还没有将重要性采样的力量与小型化的力量相结合的工作。在本文中,我们提出了第一个{ \em重要性采样的小批量},并给出了简单而严格的复杂性分析其性能。我们说明了合成问题,对于某些属性的训练数据,我们的采样可以导致几个数量级的改进训练时间。然后,我们在几个流行的数据集上测试了新的采样,并表明改进可以达到一个数量级。
2016-02-06 cs.LG math.OC stat.ML
Importance Sampling Policy Evaluation with an Estimated Behavior Policy
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑马尔可夫决策过程中的离政策评估问题。政策外评估是评估一个政策的预期回报与不同的,行为政策产生的数据的任务。重要性采样是一种用于政策外评估的技术,该技术重新加权政策外回报,以考虑两个政策之间回报可能性的差异。在本文中,我们研究了重要性采样与估计的行为政策,其中的行为政策估计来自同一组数据用于计算重要性采样估计。我们发现,这种估计往往降低了均方误差的政策评估相比,重要性采样与真正的行为政策或使用的行为政策,估计从一个单独的数据集。直观地,以这种方式估计行为策略校正了由于动作空间中的采样而引起的误差。我们的实证结果也扩展到其他流行的变种的重要性采样,并表明,估计一个非马尔可夫行为的政策,可以进一步降低大样本的均方误差,即使真正的行为政策是马尔可夫。
2019-05-09 cs.AI cs.LG stat.ML
Transport Elliptical Slice Sampling
我们提出了一个新的框架,用于使用归一化流和椭圆切片采样的组合从复杂的概率分布中有效地采样(Murray等人,2010年)。其中心思想是通过规范化流来学习一个自同构,将目标分布的非高斯结构映射到近似高斯分布。然后,我们使用椭圆切片采样器,一个有效的和调谐免费的马尔可夫链蒙特卡罗(MCMC)算法,从转换后的分布样本。然后使用逆归一化流将样本拉回,从而产生近似于感兴趣的固定目标分布的样本。我们的传输椭圆切片采样器(TESS)是针对现代计算机架构进行优化的,其自适应机制利用并行内核快速运行多个马尔可夫链进行几次迭代。数值模拟表明,TESS产生蒙特卡罗样本的目标分布与较低的自相关性相比,非变换采样器,并表现出显着的效率提高相比,基于梯度的建议设计的并行计算机架构,给出了一个足够灵活的仿射。
2023-03-27 stat.CO stat.ME
Importance sampling methods for Bayesian discrimination between embedded models
本文综述了贝叶斯模型选择中使用的贝叶斯因子近似的一些成熟方法,主要是Chen et al.(2000)中的方法。我们的重点是在这里的方法,是基于重要性抽样战略,而不是可变尺寸的技术,如可逆跳MCMC,包括:原油蒙特卡罗,极大似然重要性抽样,桥梁和谐波平均采样,以及Chib的方法的基础上开发的功能平等。我们将在本次调查中展示如何有效地实施这些不同的方法来测试概率单位模型中预测变量的显著性。最后,我们在一个真实的数据集上比较了它们的性能。
2009-10-13 stat.CO stat.ME
Randomized sequential importance sampling for estimating the number of perfect matchings in bipartite graphs
本文针对二部图完美匹配数估计问题,提出随机序贯重要性抽样算法,分析性能时建立非标准中心极限定理,方法有望拓展至其他应用场景。
2020-07-29 math.PR math.ST stat.TH
Importance sampling for Sobol' indices estimation
ONERA/DTIS, Université de Toulouse(法国国家航空航天研究院DTIS,图卢兹大学);Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse(ENAC ISAE-SUPAERO ONERA联盟,图卢兹大学)
本文提出了一种重要性采样方法,用于高效估计Sobol'指数,并通过反向采样支持分布敏感性分析。
2026-03-01 math.ST stat.TH
Consistency of Importance Sampling estimates based on dependent sample sets and an application to models with factorizing likelihoods
本文证明了基于相依样本集的重要性抽样估计在一定条件下是相合的。这可以用来减少贝叶斯模型中的方差,使用比可能性评估数量大得多的样本集,这种技术被称为样本膨胀。我评估了一个玩具高斯问题和两个混合模型的样本膨胀。
2015-03-01 stat.ME
Robust Importance Sampling with Adaptive Winsorization
重要性抽样是一种广泛使用的估计分布性质的技术。本文研究了通过自适应温索化重要性抽样估计量来权衡方差的某些偏差。新的winsorizing过程,平衡原则(或Lepskii的方法)的基础上,选择一个阈值水平之间的一个预定义的集合,粗略平衡的偏差和方差的估计时,winsorized在不同的水平。因此,它提供了一种原则性的方法来执行winsorization有限样本最优性保证下最小的假设。在各种示例中,所提出的估计器被示出为具有比领先的替代方案更小的均方误差和平均绝对偏差。
2021-02-08 physics.data-an stat.CO stat.ME
Importance Sampling and Necessary Sample Size: an Information Theory Approach
重要性抽样通过使用来自建议度量的样本来近似关于目标度量的期望。该方法在大类测试函数上的性能在很大程度上取决于两种测量之间的接近程度。我们推导出一个一般的界限,需要举行重要性抽样是成功的,并涉及$f$之间的分歧的目标和建议的样本量。该界是从一个新的和简单的信息论范式推导出的重要性抽样的研究。作为一般理论的例子,我们给出了样本量的Kullback-Leibler和$χ^2$的分歧,和总的变化和Hellinger距离的必要条件。我们的方法是非渐近的,其一般性允许区分这些指标的相对优点。不出所料,非对称发散比全变分或海林格给出了更清晰的边界。我们的研究结果扩展了现有的必要条件-和补充充分的-所需的样本量的重要性抽样。
2016-08-31 stat.CO
Adaptive Importance Sampling and Quasi-Monte Carlo Methods for 6G URLLC Systems
本文提出了一种基于自适应重要性抽样的高效仿真方法,该方法可以根据先前的样本在高斯族中自动找到最优方案,以评估误比特率(BER)或误字率(WER)的概率。这两种测度分别涉及到高维黑箱积分和稀有事件采样,可以用来表征编码调制的性能。我们进一步整合拟蒙特卡罗方法在我们的框架,以提高收敛速度。实验结果表明,在AWGN环境下,所提出的重要性抽样算法比标准的蒙特卡罗方法具有更高的效率.
2023-03-07 eess.SP stat.CO stat.ME
Conditional Importance Sampling for Off-Policy Learning
DeepMind
本文的主要贡献是基于重要性采样比率的条件期望的离线强化学习的概念框架。这个框架产生了新的观点和理解现有的政策外算法,并揭示了广阔的空间未开发的算法。我们从理论上分析了这个空间,并具体研究了从这个框架中产生的几个算法。
2020-07-30 cs.LG stat.ML
Rare event simulation via importance sampling for linear SPDE's
本文的目的是发展可证明有效的重要抽样蒙特卡罗方法估计的罕见事件类线性随机偏微分方程(SPDE)。我们发现,如果存在一个适当大小的谱隙,那么人们可以确定一个低维流形的罕见事件发生。这允许建立测量的重要性采样变化,其甚至在渐近前(即对于小但非零大小的噪声)也可证明表现良好,而不会由于无限维度或由于长的模拟时间范围而降低性能。仿真研究补充和说明的理论结果。
2017-05-04 math.OC math.PR stat.ME
Affine invariant interacting Langevin dynamics in Markov chain importance sampling for rare event estimation
本文提出一种用于稀有事件估计的基于梯度的MCIS新方案ALDI-IS,利用ALDI对平滑零方差密度采样,并建立了非渐近误差界,揭示了平滑参数在采样误差与采样难度间的权衡。
2025-06-25 math.ST stat.TH
Approximations of the Optimal Importance Density using Gaussian Particle Flow Importance Sampling
最近开发的粒子流算法提供了一种替代重要性抽样的方法,用于从后验分布中提取粒子,并且已经提出了许多基于该原理的粒子滤波器。样本从先验中提取,然后根据伪时间间隔上的一些动态来移动,使得它们的最终值根据期望的后验分布。在实践中,实现粒子流采样器需要多层近似,结果是最终样本通常不具有正确的后验分布。本文考虑用近似高斯流对一类非线性高斯模型进行采样。我们使用粒子流的重要性采样器,校正目标和实际密度与重要性权重之间的差异。我们提出了一个合适的数值积分过程中使用此流量和相应的步长控制算法。在过滤上下文中,我们使用粒子流从最佳重要性密度中采样,而不是过滤密度本身,从而避免了对预测密度进行分析或数值近似的需要。在粒子滤波器中使用粒子流重要性抽样的模拟表明,与最佳重要性密度的标准近似相比,该算法有显著的改进,并且该算法属于标准的序贯蒙特卡罗框架。
2014-11-27 stat.CO
Importance Sampling via Variational Optimization
Technion(以色列理工学院)
在由数千个顶点组成的大型贝叶斯网络中计算数据的精确可能性通常是一项困难的任务。当这些模型包含许多确定性的条件概率表时,当观测值极不可能时,即使是变分方法和随机抽样等替代算法也常常表现不佳。提出了一种新的基于变分技术的贝叶斯网络重要性抽样算法。我们使用重要性函数的更新来预测随机抽样是否收敛于真实似然之上或之下,并相应地改变提案分布。该方法的有效性和它的贡献,收敛证明了大型遗传连锁分析任务的硬网络。
2012-06-20 cs.AI stat.CO
An Importance Sampling Algorithm for the Ising Model with Strong Couplings
考虑了在一致外磁场中铁磁伊辛模型配分函数的估计问题。通过代表模型的Forney因子图的对偶中的重要性抽样进行估计。重点是在低温下的模型(对应于具有强耦合的模型)和具有强耦合和弱耦合参数的混合物的模型。
2017-01-26 cs.IT math.IT physics.comp-ph