Initializing adaptive importance sampling with Markov chains
自适应重要性抽样是从复杂目标密度中抽样的有力工具,但其成功与否敏感地依赖于初始建议密度。提出了一种利用马尔可夫链和层次聚类自动进行初始化的算法。在多达20个维度的具有挑战性的多峰示例上检查性能,并与嵌套采样的结果进行比较。我们的方法产生了一个建议,导致快速收敛和准确估计的整体归一化和边缘分布。
2013-04-29 stat.CO
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数,通过非参数核密度估计和变分过程,获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Tempered, Anti-trunctated, Multiple Importance Sampling
重要性抽样是一种蒙特卡罗方法,它引入一个建议分布,根据目标分布对空间进行抽样。然而,校准的建议分布是必不可少的,以实现效率,因此诉诸自适应算法来调整这个分布。本文提出了一种新的自适应重要性抽样方案--回火抗截断自适应多重重要性抽样(TAMIS)算法。我们结合了回火计划和一个新的非线性变换的权重,我们命名为反截断。为了提高效率,我们还考虑不增加目标密度的评估次数。因此,我们的建议是一个自动调整的顺序算法,是强大的穷人的初始提案,不需要梯度计算和规模以及与尺寸。
2022-06-16 stat.CO
Iterative importance sampling with Markov chain Monte Carlo sampling in robust Bayesian analysis
在一组先验下的贝叶斯推断,称为鲁棒贝叶斯分析,允许通过有界(或不精确)概率来估计模型内的参数和量化感兴趣的数量中的认识不确定性。迭代重要性抽样可用于通过优化先验集合来估计感兴趣的量的界限。针对稳健贝叶斯推断依赖于马尔可夫链蒙特卡罗(MCMC)抽样的情况,提出了一种迭代重要性抽样方法。为了适应迭代重要性抽样中的MCMC抽样,推导了一个新的表达式的有效样本量的重要性抽样,它考虑了相关性的MCMC样本。为了说明所提出的方法,稳健的贝叶斯分析,迭代重要性抽样与MCMC抽样应用于估计下限的总体效果在以前发表的荟萃分析与随机效应模型。该方法的性能相比,网格搜索方法,并根据不同程度的先验数据冲突进行了探讨。
2022-06-17 stat.CO stat.ME
Relaxation-based importance sampling for structural reliability analysis
提出基于自适应松弛指示函数或概率密度函数参数的重要性抽样统一框架,并给出低维与高维两种策略,可一次生成完整易损性曲面。
2023-09-13 stat.AP stat.CO
Importance Sampling and Necessary Sample Size: an Information Theory Approach
重要性抽样通过使用来自建议度量的样本来近似关于目标度量的期望。该方法在大类测试函数上的性能在很大程度上取决于两种测量之间的接近程度。我们推导出一个一般的界限,需要举行重要性抽样是成功的,并涉及$f$之间的分歧的目标和建议的样本量。该界是从一个新的和简单的信息论范式推导出的重要性抽样的研究。作为一般理论的例子,我们给出了样本量的Kullback-Leibler和$χ^2$的分歧,和总的变化和Hellinger距离的必要条件。我们的方法是非渐近的,其一般性允许区分这些指标的相对优点。不出所料,非对称发散比全变分或海林格给出了更清晰的边界。我们的研究结果扩展了现有的必要条件-和补充充分的-所需的样本量的重要性抽样。
2016-08-31 stat.CO
Adaptive Multiple Importance Sampling
自适应多重要性抽样(AMIS)算法的目的是在迭代重要性抽样方案中对过去的模拟进行最佳回收。与早期的自适应重要性抽样实现(如人口蒙特卡罗)的区别在于,所有模拟值的重要性权重,过去和现在,在每次迭代时重新计算,遵循Owen和Zhou(2000)的确定性多重混合估计器技术。虽然该算法的收敛性能不能得到充分的研究,我们通过一个具有挑战性的香蕉形状的目标分布和人口遗传学的例子表明,这种技术带来的改善是巨大的。
2011-10-03 stat.AP stat.CO
Approximations of the Optimal Importance Density using Gaussian Particle Flow Importance Sampling
最近开发的粒子流算法提供了一种替代重要性抽样的方法,用于从后验分布中提取粒子,并且已经提出了许多基于该原理的粒子滤波器。样本从先验中提取,然后根据伪时间间隔上的一些动态来移动,使得它们的最终值根据期望的后验分布。在实践中,实现粒子流采样器需要多层近似,结果是最终样本通常不具有正确的后验分布。本文考虑用近似高斯流对一类非线性高斯模型进行采样。我们使用粒子流的重要性采样器,校正目标和实际密度与重要性权重之间的差异。我们提出了一个合适的数值积分过程中使用此流量和相应的步长控制算法。在过滤上下文中,我们使用粒子流从最佳重要性密度中采样,而不是过滤密度本身,从而避免了对预测密度进行分析或数值近似的需要。在粒子滤波器中使用粒子流重要性抽样的模拟表明,与最佳重要性密度的标准近似相比,该算法有显著的改进,并且该算法属于标准的序贯蒙特卡罗框架。
2014-11-27 stat.CO
Risk-neutral limit of adaptive importance sampling of random stopping times
本文研究涉及无界停时的退出问题的重要性抽样,指出方差最小化技术的朴素应用可能导致病态,并提出基于风险敏感最优控制框架的解决方案。
2024-02-13 math.PR stat.CO
An attempt to trace the birth of importance sampling
在本文中,我们试图将重要性抽样(IS)的诞生追溯到1949年。我们发现经典的制定是在一份文件中卡恩在1949年6月。至于“重要性抽样”这个词的出现,它可能是在几个月后出现的,也许是在1949年的会议上,但在1950年之前没有发表过这个名字的文章。
2022-06-21 math.HO physics.hist-ph stat.CO
On the use of marginal posteriors in marginal likelihood estimation via importance-sampling
我们研究了边际后验分布的乘积作为重要性抽样函数的边际似然估计的有效性。该方法通常适用于多块参数向量设置,不需要额外的马尔可夫链蒙特卡罗(MCMC)采样,并且不依赖于用于从后验采样的MCMC方案的类型。所提出的方法适用于正态回归模型,有限正态混合和纵向泊松模型,并导致准确的边际似然估计。
2014-01-11 stat.CO
Model comparison with missing data using MCMC and importance sampling
在竞争统计模型之间进行选择是一个具有挑战性的问题,特别是当竞争模型是非嵌套的时。在本文中,我们提供了一个简单的解决方案,设计一个算法,结合MCMC和重要性抽样,以获得计算有效估计的边际似然,然后可以用来比较模型。该算法成功应用于纵向流行病和时间序列数据集,并显示出优于现有的计算边缘可能性的方法。
2015-12-15 stat.CO
Implicitly Adaptive Importance Sampling
自适应重要性抽样是一类用于为重要性抽样找到良好的建议分布的技术。通常,建议分布是标准概率分布,其参数基于当前建议与目标分布之间的失配而被适配。在这项工作中,我们提出了一个隐式自适应重要性抽样方法,适用于复杂的分布,这是不是在封闭的形式。该方法迭代地匹配一组蒙特卡罗绘制的矩到基于重要性权重的加权矩。我们将该方法应用于贝叶斯留一交叉验证,并表明它比许多现有的参数自适应重要性抽样方法,同时计算成本低廉。
2020-05-06 stat.CO stat.ME stat.ML
Monte Carlo Inference via Greedy Importance Sampling
University of Waterloo(滑铁卢大学)
本文提出了一种新的图模型蒙特卡罗推理方法,它结合了显式搜索和广义重要性采样。其思想是通过搜索目标分布中的显著点来减小重要性采样的方差。我们证明,它是可以引入搜索,仍然保持无偏性。然后,我们展示了我们的程序在一些简单的推理任务,并表明它可以提高标准MCMC方法,包括吉布斯抽样,大都会抽样,混合蒙特卡罗的推理质量。本文扩展了以往的工作,表明如何贪婪重要性采样可以正确地实现在一维的情况下。
2013-01-16 cs.LG stat.CO stat.ML
Adaptive Importance Sampling via Stochastic Convex Programming
我们证明了从指数族重要抽样的蒙特卡罗估计的方差是分布的自然参数的凸函数。有了这个见解,我们提出了一个自适应重要性抽样算法,同时提高了抽样分布的选择,同时积累了蒙特卡罗估计。利用凸性,我们证明了该方法的无偏估计量的方差是渐近最优的指数家庭。
2015-01-09 math.OC stat.CO stat.ME
Rare event estimation with sequential directional importance sampling (SDIS)
本文提出了一种用于稀有事件估计的顺序方向重要性抽样(SDIS)方法。SDIS用一系列辅助失效概率来表示一个小的失效概率,通过放大输入变异性来定义。在笛卡尔坐标系下,用蒙特卡罗模拟估计序列中的第一个概率,在极坐标系下,用方向性重要性抽样计算序列中的所有概率。从用于估计中间概率的定向重要性抽样密度中抽取的样本通过重采样移动方案以顺序方式绘制。后者方便地在笛卡尔坐标系中执行,并且通过适当的变换获得方向样本。对于移动步,我们讨论了两种马尔可夫链蒙特卡罗(MCMC)算法,分别应用于低维和高维问题。最后,提出了一种自适应选择的参数定义的中间失效概率和由此产生的失效概率估计的变异系数进行了分析。提出的SDIS方法进行了测试,在不同的问题设置的五个例子,这表明该方法优于现有的序贯抽样可靠性方法。
2022-01-12 stat.CO
Particle Efficient Importance Sampling
高效重要性抽样(EIS)方法是高维积分数值计算的一般原理,它利用目标被积函数的序列结构来构造方差最小化重要性抽样器。尽管在高维中有许多成功的应用,但众所周知,重要性抽样策略的方差随着积分维数的增加而呈指数增长。我们解决这个问题,认识到EIS框架有一个离线的序贯蒙特卡罗解释。粒子EIS方法是基于非标准的响应权重,考虑到前瞻建设的重要性采样器。我们将该方法应用于一系列单变量和双变量随机波动率规范。我们还开发了一个新的应用程序的EIS方法与学生的t状态创新的状态空间模型。我们的研究结果表明,粒子EIS方法大大优于标准EIS方法和粒子滤波器的似然估计在高维。此外,随着时间序列维数的增加,粒子EIS和粒子滤波器方法的方差之间的比率保持稳定。我们说明了使用粒子边际Metropolis-Hastings和重要性抽样平方算法的贝叶斯推断的方法的效率。
2013-09-26 stat.CO
Importance Sampling for rare events and conditioned random walks
本文介绍了一种新的重要性抽样方案,称为自适应扭曲重要性抽样,它适用于在与实际独立同分布经验均值有关的中等偏差范围内改进稀有事件概率的估计。summands。它是基于从随机游动中提取的长游程密度的尖锐近似,该随机游动以其端点值为条件。
2009-10-09 math.PR math.ST stat.CO
Monte-Carlo acceleration: importance sampling and hybrid dynamic systems
一个复杂的工业系统的可靠性很少能通过分析来评估。由于系统故障通常是罕见的事件,从计算的角度来看,粗糙的蒙特卡罗方法是昂贵的。为了减少计算时间,可以使用诸如重要性抽样的方差减少方法。我们提出了一个适应这种方法的一类多分量动力系统。我们解决一个系统,其故障对应于系统的物理变量(温度,压力,水位)进入临界区域。这种系统在液压和核工业中很常见。在这些系统中,组件的状态(开、关或乱序)决定了物理变量的动态特性,并通过确定性反馈机制和随机故障或修复来改变。为了处理组件状态和物理变量之间的这种相互作用,我们使用分段确定性马尔可夫过程(PSTV)的轨迹模型。我们展示了如何适应重要性抽样方法PSTK,通过引入一个参考措施的轨迹空间,我们提出了一个偏置策略的重要性抽样。模拟研究比较了我们的重要性抽样方法的原油蒙特卡罗方法的三组分系统。
2019-05-31 stat.CO
Importance sampling methods for Bayesian discrimination between embedded models
本文综述了贝叶斯模型选择中使用的贝叶斯因子近似的一些成熟方法,主要是Chen et al.(2000)中的方法。我们的重点是在这里的方法,是基于重要性抽样战略,而不是可变尺寸的技术,如可逆跳MCMC,包括:原油蒙特卡罗,极大似然重要性抽样,桥梁和谐波平均采样,以及Chib的方法的基础上开发的功能平等。我们将在本次调查中展示如何有效地实施这些不同的方法来测试概率单位模型中预测变量的显著性。最后,我们在一个真实的数据集上比较了它们的性能。
2009-10-13 stat.CO stat.ME
Importance Sampling: Intrinsic Dimension and Computational Cost
重要性抽样的基本思想是使用来自建议度量的独立样本,以便近似关于目标度量的期望。关键是要了解需要多少样本才能保证准确的近似值。直觉上,目标和建议之间的距离的一些概念应该决定该方法的计算成本。一个主要的挑战是量化这一距离的参数或统计数据,是相关的从业者。这一主题引起了各社区的极大兴趣。本文的目的是通过创建一个总体框架来概述和统一由此产生的文献。提出了一个一般的理论,重点是使用重要性抽样贝叶斯逆问题和过滤。
2017-01-14 stat.CO
Efficient Multiple Importance Sampling Estimators
多重要性抽样(MIS)方法使用一组从中抽取样本的建议分布。然后,每个样本被分配一个重要性权重,可以根据不同的策略获得。这项工作的动机是权衡方差减少和计算复杂性的不同方法(经典与确定性混合)的权重计算。本文介绍了一种新的方法,实现了这两个因素之间的有效折衷。它是基于形成一个分区的建议分布的集合,并相应地计算权重。计算机模拟表明,相关的\mbox { \emph{partial deterministic mixture} MIS估计的优良性能。
2015-05-20 stat.CO
Generalized Multiple Importance Sampling
重要性抽样方法被广泛用于近似后验分布或它们的某些矩。在其标准方法中,样本是从单个提案分布中抽取的,并进行适当的加权。然而,由于性能取决于目标分布和建议分布之间的失配,因此通常采用几个建议密度来生成样本。在这种多重要性抽样(MIS)的情况下,许多作品已经解决了选择或适应的建议分布,解释抽样和加权步骤以不同的方式。在本文中,我们建立了一个通用的框架,采样和称重程序时,有一个以上的建议。在文献中最相关的MIS计划包含在新的框架内,而且,新的有效计划自然出现。所有的MIS计划进行了比较,并在相关估计的方差方面排名。最后,我们提供了说明性的例子表明,即使有一个很好的选择的建议密度,仔细解释的采样和加权程序可以显着不同的方法的性能。
2019-11-03 stat.CO
Importance is Important: Generalized Markov Chain Importance Sampling Methods
本文提出基于重要性权重的无拒绝MCMC抽样方案,将多重尝试Metropolis算法推广为无需拒绝的通用框架,并拓展至离散空间,证明其比原始Metropolis--Hastings算法更高效。
2024-10-02 stat.CO stat.ME stat.ML
Importance Sampling via Variational Optimization
Technion(以色列理工学院)
在由数千个顶点组成的大型贝叶斯网络中计算数据的精确可能性通常是一项困难的任务。当这些模型包含许多确定性的条件概率表时,当观测值极不可能时,即使是变分方法和随机抽样等替代算法也常常表现不佳。提出了一种新的基于变分技术的贝叶斯网络重要性抽样算法。我们使用重要性函数的更新来预测随机抽样是否收敛于真实似然之上或之下,并相应地改变提案分布。该方法的有效性和它的贡献,收敛证明了大型遗传连锁分析任务的硬网络。
2012-06-20 cs.AI stat.CO
An importance sampling approach for copula models in insurance
提出了一种用于Copula模型抽样的重要性抽样方法。我们提出了两种算法,提高蒙特卡罗估计的功能时,主要取决于基本的随机向量的行为时,至少有一个组件是大的。这类问题通常源于金融和保险中的依赖模型。我们提出的重要性抽样框架是通用的,可以很容易地实现的所有类的Copula模型的采样是可行的。我们展示了如何优化这两种算法的建议分布,以减少采样误差。在一个典型的多变量保险应用程序的启发下的案例研究中,我们得到了10和30之间的标准蒙特卡罗估计相比,方差减少因子。
2015-04-07 q-fin.RM stat.AP stat.CO
Optimal mixture weights in multiple importance sampling
Stanford University(斯坦福大学)
本文研究了多重重要性采样中混合权重的优化问题,通过凸优化方法提升效率,并提出一种序列重要性采样算法来估计最优混合比例。
2014-11-14 cs.NA math.NA stat.CO
Importance Sampling with Unequal Support
Carnegie Mellon University(卡内基梅隆大学)
重要性采样常用于机器学习中,当训练和测试数据来自不同的分布时。在本文中,我们提出了一个新的变种的重要性采样,可以减少方差的重要性采样为基础的估计数量级时,支持的训练和测试分布不同。在激励和介绍我们的新的重要性采样估计量,我们提供了一个详细的理论分析,其特点是它的偏差和方差相对于普通的重要性采样估计量(在各种设置,其中包括普通的重要性采样是有偏见的情况下,而我们的新的估计量不是,反之亦然)。我们的结论与我们的新的重要性采样估计如何可以用来改善如何以及一个新的糖尿病治疗策略将工作的个人,使用数据时,个人使用以前的治疗策略的估计的一个例子。
2016-11-10 cs.AI cs.LG stat.ML
MCMC Importance Sampling via Moreau-Yosida Envelopes
本文提出利用Moreau-Yosida包络作为重要性分布进行MCMC重要性采样,以解决不可微先验下基于梯度采样受限的问题,并证明其估计量渐近正态且数值上方差更低。
2025-07-23 stat.CO stat.ME
Importance Sampling and its Optimality for Stochastic Simulation Models
我们考虑的问题,估计一个预期的结果,从随机模拟模型。我们的目标是发展一个理论框架的重要性抽样,这样的估计。通过研究重要性抽样估计量的方差,我们提出了一个两阶段的过程,包括回归阶段和抽样阶段,以构建最终的估计量。我们在第一阶段引入了参数和非参数回归估计,并研究了两个阶段之间的分配如何影响最终估计的性能。我们分析了这两种方法的方差减少率,并推导出它们的预言性质。我们使用两个数值例子和风力涡轮机可靠性评估的案例研究评估的方法的经验性能。
2019-09-25 stat.CO stat.ME
Large-Flip Importance Sampling
Computer Science, UBC(不列颠哥伦比亚大学计算机科学系)
提出了一种新的求解复杂离散分布的蒙特卡罗算法。该算法的动机是N-Fold Way,这是一种巧妙的事件驱动MCMC采样器,可以避免在任何特定状态下的拒绝移动。然而,N重方式可能会被“困”在循环中。我们通过修改采样过程克服了这个问题。这种校正确实会引入偏差,但随后会使用精心设计的重要性采样器来校正偏差。
2012-06-20 cs.AI stat.CO
Robust Importance Sampling with Adaptive Winsorization
重要性抽样是一种广泛使用的估计分布性质的技术。本文研究了通过自适应温索化重要性抽样估计量来权衡方差的某些偏差。新的winsorizing过程,平衡原则(或Lepskii的方法)的基础上,选择一个阈值水平之间的一个预定义的集合,粗略平衡的偏差和方差的估计时,winsorized在不同的水平。因此,它提供了一种原则性的方法来执行winsorization有限样本最优性保证下最小的假设。在各种示例中,所提出的估计器被示出为具有比领先的替代方案更小的均方误差和平均绝对偏差。
2021-02-08 physics.data-an stat.CO stat.ME
Imprecise Monte Carlo simulation and iterative importance sampling for the estimation of lower previsions
我们开发了一个理论框架,研究数值估计较低的预测,一般适用于两级蒙特卡罗方法,重要性抽样方法,以及广泛的其他抽样方法之一可能会设计。我们将这些估计的一致性链接到Glivenko-Cantelli类,对于亚高斯的情况,我们展示了如何使用此过程的相关结构来约束偏差并证明一致性。我们还提出了一个新的上估计,它可以与标准的下估计一起使用,以提供一个简单的置信区间。作为这个框架的一个案例研究,我们然后讨论如何利用重要性抽样提供准确的数值估计较低的预测。我们提出了一种迭代的重要性抽样方法,以大大提高性能的不精确重要性抽样。我们证明了我们的结果不精确的Dirichlet模型。
2018-06-27 math.PR math.ST stat.CO
Counting the number of group orbits by marrying the Burnside process with importance sampling
本研究提出结合Burnside过程与重要性采样的通用群轨道近似计数新算法,应用于单位上三角群时可高效估算其共轭类数量。
2025-03-19 math.CO math.GR math.PR
Adaptive Importance Sampling and Quasi-Monte Carlo Methods for 6G URLLC Systems
本文提出了一种基于自适应重要性抽样的高效仿真方法,该方法可以根据先前的样本在高斯族中自动找到最优方案,以评估误比特率(BER)或误字率(WER)的概率。这两种测度分别涉及到高维黑箱积分和稀有事件采样,可以用来表征编码调制的性能。我们进一步整合拟蒙特卡罗方法在我们的框架,以提高收敛速度。实验结果表明,在AWGN环境下,所提出的重要性抽样算法比标准的蒙特卡罗方法具有更高的效率.
2023-03-07 eess.SP stat.CO stat.ME
Black-box Importance Sampling
重要性抽样被广泛应用于机器学习和统计学中,但它的能力受到使用简单建议的限制,这些建议的重要性权重可以被可追踪地计算。我们通过研究黑盒重要性抽样方法来解决这个问题,该方法计算从任何未知提案或黑盒机制生成的样本的重要性权重。我们的方法使我们能够使用更好和更丰富的建议来解决困难的问题,(有点违反直觉)也有额外的好处,提高估计精度超过典型的重要性抽样。理论和实证分析提供。
2016-10-17 stat.ML
A layered multiple importance sampling scheme for focused optimal Bayesian experimental design
我们开发了一种新的计算方法“集中”最优贝叶斯试验设计与非线性模型,目标是最大限度地提高预期的信息增益在目标子集的模型参数。我们的方法考虑了整个模型参数集的不确定性,但采用了一个设计目标,可以利用不同的参数子集之间的学习权衡。我们引入了一个新的分层多重要性抽样计划,提供相合估计的预期信息增益在这个集中的设置。这种抽样方案产生显着减少估计偏差和方差为一个给定的计算工作量,使最优设计更易于处理的计算密集型问题的范围广泛。
2019-03-26 stat.CO stat.ME
The Gibbs Sampler with Particle Efficient Importance Sampling for State-Space Models
我们认为粒子吉布斯(PG)的贝叶斯分析的非线性非高斯状态空间模型的工具。PG是标准吉布斯过程的蒙特卡罗(MC)近似,其在吉布斯过程内部使用顺序MC(SMC)重要性抽样来更新潜在的和潜在的高维状态轨迹。我们建议结合PG与一个通用的和易于实现的SMC方法称为粒子有效的重要性抽样(PEIS)。通过使用SMC重要性抽样密度,其近似地完全全局地适应于状态的目标密度,PEIS可以相对于现有PG实现从状态和参数的后验实质上改善PG抽取的混合和效率。PEIS实现的效率增益说明PG应用程序的一个单变量随机波动模型的资产收益,非高斯非线性局部水平模型的利率,和一个多变量随机波动模型的实现协方差阵的资产收益。
2018-04-17 stat.CO stat.ME
Tree pyramidal adaptive importance sampling
Intel Labs, Intel Corporation(英特尔公司英特尔研究院)
本文介绍了树-金字塔自适应重要性抽样(TP-AIS),一种新的迭代抽样方法,它优于确定性混合总体蒙特卡罗(DM-PMC)、混合总体蒙特卡罗(M-PMC)和分层自适应重要性抽样(LAIS)等最先进的方法。TP-AIS迭代地构建由树金字塔参数化的建议分布,其中每个树叶跨越表示其重要性密度的子空间。在每个新的采样操作之后,一组树叶被细分,以改善建议分布对目标密度的近似。与文献中的其他方法不同,TP-AIS是无参数的,不需要调整就能达到最佳性能。我们评估TP-AIS与不同的复杂性随机目标概率密度函数(PDF),并分析其应用到不同的维度。最先进的迭代重要性抽样方法和其他基线MCMC方法使用归一化有效样本量(N-ESS),詹森-香农发散和时间复杂度的结果进行比较。
2020-03-23 cs.LG stat.CO stat.ML
Nonparametric Partial Importance Sampling for Financial Derivative Pricing
重要性抽样是基于蒙特卡罗模拟的衍生品定价中一种很有前途的方差缩减技术。现有的重要性抽样方法是基于对建议的参数选择。本文提出了一种算法,估计最佳的建议,非参数使用多元频率多边形估计。与参数方法相反,非参数估计允许最优方案的近似。标准的非参数重要性抽样对于高维问题是低效的。我们解决了这个问题,通过应用程序的低维子空间,这是通过主成分分析和有效维的概念确定的。研究了算法的均方误差性质,证明了算法的渐近最优性。采用准蒙特卡罗方法对该方法作了进一步的改进。它很容易实现,特别是它不需要任何分析计算,并且它在计算上非常有效。我们通过路径相关和多资产期权定价问题证明,与文献中的其他算法相比,该算法可以显着提高效率。
2009-04-14 stat.AP stat.CO
A weighted Discrepancy Bound of quasi-Monte Carlo Importance Sampling
本文研究基于拟蒙特卡洛的重要性采样估计量的确定性版本,并获得了该方法在星差异方面的显式误差界。
2019-01-21 cs.NA math.NA stat.CO
Uniform ergodicity and spectral gap of importance-tempered MCMC with heavy-tailed targets
本文提出重要性温度化MCMC方法,证明其一致遍历条件,可提高估计精度并消除预热期。
2026-10-26 math.PR stat.CO stat.ML
Stochastic Optimization with Importance Sampling
Rutgers University(罗格斯大学)
训练数据的均匀采样通常用于传统的随机最优化算法中,例如近端随机梯度下降(Proximal Stochastic Gradient Descent,简称SGD)和近端随机双坐标上升(Proximal Stochastic Dual Coordinate Ascent,简称SDCA)。虽然均匀采样可以保证采样的随机量是相应真实量的无偏估计,但所得估计量可能具有相当高的方差,这对底层优化过程的收敛性产生负面影响。本文研究了具有重要性抽样的随机最优化问题,通过减小随机方差来提高收敛速度。具体地说,我们研究了具有重要性抽样的随机镜像下降(SGD)和具有重要性抽样的随机镜像下降(SDCA)。对于非线性随机梯度算法,该算法采用重要性抽样来最小化随机梯度的方差,而不是在整个训练过程中采用均匀抽样。对于SDCA算法,提出的重要性抽样方案的目标是在每一个对偶坐标上升步骤获得更高的期望对偶值。我们提供了广泛的理论分析表明,建议的重要性抽样方法的收敛速度可以显着提高在适当的条件下,无论是对EST-SGD和EST-SDCA。实验结果验证了理论分析的正确性。
2015-01-02 cs.LG stat.ML
Importance sampling for weighted binary random matrices with specified margins
一个顺序的重要性抽样算法的分布,结果时,一个矩阵的独立,但不相同的分布,伯努利随机变量是一个给定的序列的行和列和的条件。这种条件分布出现在各种应用中,并包括具有指定边距的0 - 1表上的均匀分布作为特例。该算法使用动态规划结合硬利润约束,组合近似,并在一个原则性的方式,以提供国家的最先进的结果额外的非均匀加权。
2013-01-16 math.CO stat.CO
An Importance Sampling Algorithm for the Ising Model with Strong Couplings
考虑了在一致外磁场中铁磁伊辛模型配分函数的估计问题。通过代表模型的Forney因子图的对偶中的重要性抽样进行估计。重点是在低温下的模型(对应于具有强耦合的模型)和具有强耦合和弱耦合参数的混合物的模型。
2017-01-26 cs.IT math.IT physics.comp-ph
An Importance Sampling Scheme on Dual Factor Graphs. I. Models in a Strong External Field
我们提出了一个重要性抽样方案来估计二维铁磁Ising模型和二维铁磁$q$ -态Potts模型的配分函数,这两个模型都是在外部磁场的存在下。该方案在对偶Forney因子图中运行,并且能够有效地计算在宽范围的模型参数下的配分函数的估计。特别是,我们考虑的模型是在一个强大的外部磁场。
2015-02-05 cond-mat.stat-mech cs.IT math.IT
Zero variance self-normalized importance sampling via estimating equations
针对自归一化重要性采样比率估计无法趋近零方差的问题,本文结合Fieller技巧与正化策略提出基于估计方程的零方差方案,给出解的存在唯一性、大样本性质及渐近方差可任意趋近零的结论。
2025-10-01 cs.NA math.NA math.ST
A General Framework for Importance Sampling with Markov Random Walks
针对潜在马尔可夫过程模型经典重要性采样的局限,提出通过链接函数分别扭曲可观测与潜在过程以直接最小化估计量方差的通用框架,证明其具备对数效率,并成功应用于流行病溢出概率与金融系统性风险度量 CoVaR 的估计。
2026-10-23 q-fin.CP q-fin.RM stat.CO
Gradient-free Importance Sampling Scheme for Efficient Reliability Estimation
本文提出基于ASTPA的无梯度重要性采样框架,结合改进的pCN算法与罕见事件域发现机制,高效估计工程系统可靠性中的罕见事件概率。
2025-01-29 stat.AP stat.CO stat.ME
Optimality in Noisy Importance Sampling
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Universidad Rey Juan Carlos(胡安·卡洛斯国王大学);École Polytechnique(巴黎综合理工学院)
在这项工作中,我们分析了噪声重要性抽样(IS),即,正在对目标密度进行噪声评估。我们提出的一般框架,并获得最佳的建议密度嘈杂的IS估计。最优建议结合了噪声实现的方差的信息,提出了噪声功率较高的区域中的点。我们还比较了使用的最优建议与以前的最优性的方法,认为在嘈杂的IS框架。
2022-01-07 cs.LG stat.CO stat.ML
Exploring Variance Reduction in Importance Sampling for Efficient DNN Training
Takuro Kutsuna(独立研究者)
针对重要性采样中方差减少评估的计算挑战,本文提出基于小批量样本的方差减少估计方法、自动学习率调整的有效小批量大小及相关量化指标与算法,提升DNN训练效率与精度。
2025-11-18 cs.LG stat.ML
Non-asymptotic performance analysis of importance sampling schemes for small noise diffusions
在本说明中,我们开发了一个prelimit分析的性能指标的重要性抽样计划有关的小噪声扩散过程。在重要性抽样中,任何测度变化的表现都是由它的二阶矩来表征的。对于一个给定的变化的措施,我们的特点是相应的估计的二阶矩作为解决方案的偏微分方程,我们分析通过一个完整的渐近展开相对于噪声的大小,并获得一个精确的声明,其准确性。二阶矩衰减率的主要修正项求解了一个可以显式求解的输运方程。我们得到的渐近展开识别的来源,但渐近最优的重要性抽样方案可能表现不佳,并允许更准确的竞争重要性抽样方案之间的比较。
2014-07-29 math.OC math.PR math.ST
Consistency of the Adaptive Multiple Importance Sampling
在蒙特卡罗技术中,重要性抽样需要对建议分布进行微调,这现在可以通过迭代方案顺利解决。Cornuet等人(2012)的自适应多重要性抽样(AMIS)由于引入了回收程序,在稳定性和有效样本量方面提供了显著改善。然而,非盟特派团信息系统估计数的一致性在很大程度上仍然没有定论。在这项工作中,我们证明了AMIS的收敛性,在学习过程中略有修改的成本。与Douc et al.(2007 a)相反,这里的结果是在渐近状态下得到的,其中迭代次数趋于无穷大,而每次迭代的绘图次数是固定的,但整数序列不断增长。因此,在最后一个政权的自适应人口蒙特卡罗算法的一些结果揭示了新的光。
2014-05-26 math.ST stat.CO stat.TH
Resampling: an improvement of Importance Sampling in varying population size models
序贯重要性抽样算法已被定义为估计祖先种群过程模型中的似然性。然而,这些算法是基于恒定的总体规模的模型的特征,并且当总体规模随时间变化时变得低效,使得在许多人口统计情况下基于似然性的推断变得困难。在这项工作中,我们修改了以前的序贯重要性抽样算法,以提高效率的似然估计。我们的程序仍然是基于恒定大小的模型的功能,但使用一个新的rescue概率分布取决于成对的复合似然rescue技术。我们测试了我们的算法,称为序列重要性抽样与reservation(SISR)在不同的人口情况下的模拟数据集。在大多数情况下,对于相同的推理精度,我们将计算成本除以2,在某些情况下甚至除以100。这项研究提供了第一次评估的影响,这种rescue技术的参数推断使用序贯重要性抽样,并扩展了范围的情况下,可能性推断可以很容易地进行。
2016-03-23 math.PR math.ST stat.AP