Rate-Informed Discovery via Bayesian Adaptive Multifidelity Sampling
Waymo, LLC(Waymo有限责任公司)
针对自动驾驶车辆安全性需准确估计性能与高效发现故障案例的问题,本文提出贝叶斯自适应多保真采样(BAMS),其优先探索低性能区域,发现的问题数量是MC和IS的10倍,速率估计方差分别窄15倍和6倍。
2024-11-26 cs.LG cs.RO stat.ML
Fast Sampling for Bayesian Max-Margin Models
贝叶斯最大边际模型结合了贝叶斯建模的灵活性和最大边际学习的预测优势,在文本分类、协同预测、社交网络链接预测和众包等实际应用中表现出了优越性。然而,这些模型的蒙特卡罗采样仍然具有挑战性,特别是对于涉及大规模数据集的应用程序。本文提出了随机次梯度哈密顿蒙特卡罗(HMC)方法,该方法易于实现,计算效率高。我们展示了次梯度HMC的近似详细平衡性质,揭示了普通HMC的自然和有效的推广。此外,我们研究了使用随机子采样和恒温器的变体,以获得更好的可扩展性和混合。利用随机次梯度马尔可夫链蒙特卡罗(MCMC)方法,我们有效地解决了各种贝叶斯最大间隔模型的后验推理问题,大量的实验结果证明了我们方法的有效性.
2016-10-18 cs.AI cs.LG stat.ML
Monte Carlo Inference via Greedy Importance Sampling
University of Waterloo(滑铁卢大学)
本文提出了一种新的图模型蒙特卡罗推理方法,它结合了显式搜索和广义重要性采样。其思想是通过搜索目标分布中的显著点来减小重要性采样的方差。我们证明,它是可以引入搜索,仍然保持无偏性。然后,我们展示了我们的程序在一些简单的推理任务,并表明它可以提高标准MCMC方法,包括吉布斯抽样,大都会抽样,混合蒙特卡罗的推理质量。本文扩展了以往的工作,表明如何贪婪重要性采样可以正确地实现在一维的情况下。
2013-01-16 cs.LG stat.CO stat.ML
Regularization by denoising: Bayesian model and Langevin-within-split Gibbs sampling
Institut Denis Poisson, University of Orléans(德尼·泊松研究所,奥尔良大学);University of Toulouse, IRIT/INP-ENSEEIHT, CNRS(图卢兹大学,法国国家信息与自动化研究所/国立高等电子、电子技术、计算机与机械学院,法国国家科学研究中心)
本文提出一种基于去噪正则化(RED)的图像反演贝叶斯框架,并设计了内含Langevin Monte Carlo步骤的分裂Gibbs采样算法,通过去模糊等任务验证了其有效性。
2024-02-19 cs.CV cs.LG stat.ML
Unified PAC-Bayesian Study of Pessimism for Offline Policy Learning with Regularized Importance Sampling
CREST(CREST(法国统计研究中心));ENSAE(法国国立统计与经济管理学校);IP Paris(巴黎理工学院);Criteo AI Lab(Criteo人工智能实验室)
针对离线策略学习悲观主义缺乏统一分析框架的问题,提出全面的PAC-Bayesian框架,推导出适用于常见重要性权重正则化的泛化界,并在单一框架内比较,实证证明了标准IW正则化技术的有效性。
2024-06-05 cs.AI cs.LG stat.ML
Black-box Importance Sampling
重要性抽样被广泛应用于机器学习和统计学中,但它的能力受到使用简单建议的限制,这些建议的重要性权重可以被可追踪地计算。我们通过研究黑盒重要性抽样方法来解决这个问题,该方法计算从任何未知提案或黑盒机制生成的样本的重要性权重。我们的方法使我们能够使用更好和更丰富的建议来解决困难的问题,(有点违反直觉)也有额外的好处,提高估计精度超过典型的重要性抽样。理论和实证分析提供。
2016-10-17 stat.ML
Importance Sampling for Minibatches
School of Mathematics(数学学院);University of Edinburgh(爱丁堡大学)
Minimetry是监督学习中一种研究得很好且非常流行的技术,由于其通过更好地利用并行处理能力和减少随机方差来加速训练的能力而被从业者使用。另一种流行的技术是重要性采样--一种对更重要的样本进行优先采样的策略,也能够加速训练过程。然而,尽管社区在这些领域做出了相当大的努力,并且由于该问题固有的技术难度,目前还没有将重要性采样的力量与小型化的力量相结合的工作。在本文中,我们提出了第一个{ \em重要性采样的小批量},并给出了简单而严格的复杂性分析其性能。我们说明了合成问题,对于某些属性的训练数据,我们的采样可以导致几个数量级的改进训练时间。然后,我们在几个流行的数据集上测试了新的采样,并表明改进可以达到一个数量级。
2016-02-06 cs.LG math.OC stat.ML
Importance Sampling Policy Evaluation with an Estimated Behavior Policy
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑马尔可夫决策过程中的离政策评估问题。政策外评估是评估一个政策的预期回报与不同的,行为政策产生的数据的任务。重要性采样是一种用于政策外评估的技术,该技术重新加权政策外回报,以考虑两个政策之间回报可能性的差异。在本文中,我们研究了重要性采样与估计的行为政策,其中的行为政策估计来自同一组数据用于计算重要性采样估计。我们发现,这种估计往往降低了均方误差的政策评估相比,重要性采样与真正的行为政策或使用的行为政策,估计从一个单独的数据集。直观地,以这种方式估计行为策略校正了由于动作空间中的采样而引起的误差。我们的实证结果也扩展到其他流行的变种的重要性采样,并表明,估计一个非马尔可夫行为的政策,可以进一步降低大样本的均方误差,即使真正的行为政策是马尔可夫。
2019-05-09 cs.AI cs.LG stat.ML
Gradient Importance Sampling
自适应蒙特卡罗计划在过去几年中发展通常寻求确保遍历性的采样过程符合MCMC的传统。这就限制了适应方面的可能性。在一般情况下,遍历性只有在适应性以一定的速率减少时才能得到保证。重要性抽样方法提供了一种方法来规避这种限制,并设计不断适应的抽样算法。在这里,我提出了一个梯度知情的SMC(及其特殊情况下人口蒙特卡罗)的静态问题的变体。
2015-07-21 stat.ML
Stein Variational Adaptive Importance Sampling
提出了一种新的自适应重要性抽样算法,该算法将Stein变分梯度下降算法(SVGD)与重要性抽样(IS)相结合。我们的算法利用SVGD中的非参数变换来迭代地减少我们的重要性建议和目标分布之间的库尔贝克-莱布勒散度。该算法的优点是双重的:首先,我们的算法变成SVGD到一个标准的IS算法,使我们能够使用标准的诊断和分析工具的IS评估和解释的结果;第二,我们不限制我们的重要性建议的选择预定义的分布家庭像传统的(自适应)IS方法。实验结果表明,该算法在求解受限玻尔兹曼机的配分函数和检验变分自动编码器的似然性方面具有良好的性能。
2017-07-25 stat.ML
Failure Probability Estimation for Black-Box Autonomous Systems using State-Dependent Importance Sampling Proposals
Stanford University(斯坦福大学)
针对黑盒安全关键自主系统罕见失效难以估计的问题,提出基于状态依赖提议和Markov得分上升的自适应重要性采样算法,在四个序贯系统上显著提升估计精度并开源。
2024-12-03 cs.AI cs.LG cs.RO
Multilevel rejection sampling for approximate Bayesian computation
无似然方法,如近似贝叶斯计算,是解决具有复杂似然函数的实际推理问题的有力工具。近似贝叶斯计算的马尔可夫链蒙特卡罗和序贯蒙特卡罗变体可以是在近似贝叶斯计算设置中对后验分布进行采样的有效技术。然而,如果不仔细考虑收敛标准和建议内核的选择,这种方法可能会导致非常有偏见的推理或计算效率低下的采样。相比之下,用于近似贝叶斯计算的拒绝抽样尽管计算密集,但会导致来自近似后验的独立的、相同分布的样本。提出了一种加速无似然贝叶斯推断的替代方法,该方法将多级蒙特卡罗方差缩减技术直接应用于拒绝抽样。所得到的方法保留了拒绝抽样的精度优势,同时显着提高了计算效率。
2018-02-28 stat.CO
Multilevel Gibbs Sampling for Bayesian Regression
Departement of Computer Science, KU Leuven(计算机科学系,鲁汶大学);Department of Electrical Engineering, ESAT - STADIUS, KU Leuven(电气工程系,ESAT - STADIUS,鲁汶大学)
贝叶斯回归仍然是一个简单而有效的工具,基于贝叶斯推断技术。对于大规模的应用,复杂的后验分布,马尔可夫链蒙特卡罗方法被应用。针对马尔可夫链蒙特卡罗方法在贝叶斯回归中的计算量大的问题,提出了一种适用于线性混合模型贝叶斯回归的多级Gibbs抽样方法.通过对数据矩阵的特征和/或样本进行聚类来创建数据矩阵的层级。此外,使用相关样本的方差减少,以改善马尔可夫链的收敛性进行了研究。在不同的数据集上进行测试,几乎所有数据集都实现了加速,而预测性能没有显著损失。
2020-09-25 cs.LG cs.NA math.NA
Approximate blocked Gibbs sampling for Bayesian neural networks
The University of Manchester(曼彻斯特大学)
本文提出近似分块 Gibbs 采样以提升前馈神经网络小批量 MCMC 的可行性,通过参数分组与深层降方差缓解深度增加导致的接受率消失,从而支持更长链运行并改善分类准确率与不确定性量化。
2023-07-24 cs.LG stat.CO stat.ME
Iterative importance sampling with Markov chain Monte Carlo sampling in robust Bayesian analysis
在一组先验下的贝叶斯推断,称为鲁棒贝叶斯分析,允许通过有界(或不精确)概率来估计模型内的参数和量化感兴趣的数量中的认识不确定性。迭代重要性抽样可用于通过优化先验集合来估计感兴趣的量的界限。针对稳健贝叶斯推断依赖于马尔可夫链蒙特卡罗(MCMC)抽样的情况,提出了一种迭代重要性抽样方法。为了适应迭代重要性抽样中的MCMC抽样,推导了一个新的表达式的有效样本量的重要性抽样,它考虑了相关性的MCMC样本。为了说明所提出的方法,稳健的贝叶斯分析,迭代重要性抽样与MCMC抽样应用于估计下限的总体效果在以前发表的荟萃分析与随机效应模型。该方法的性能相比,网格搜索方法,并根据不同程度的先验数据冲突进行了探讨。
2022-06-17 stat.CO stat.ME
Bayesian Update with Importance Sampling: Required Sample Size
重要性抽样在贝叶斯逆问题、数据同化和机器学习的许多计算方法中被用来逼近贝叶斯规则。本文回顾并进一步研究了重要性抽样所需的样本量的$χ^2$ -目标和建议之间的分歧。我们发展一般的抽象理论,并通过大量的例子说明尺寸,噪声水平和其他模型参数在近似的贝叶斯更新重要性抽样的作用。我们的例子也方便了一个新的直接比较标准和最佳的粒子滤波的建议。
2020-09-22 stat.CO
On Bayesian inference for the M/G/1 queue with efficient MCMC sampling
我们引入了一个有效的MCMC抽样方案来执行贝叶斯推断的M/G/1模型中只给观测值的出发间隔时间。我们的MCMC方案使用了吉布斯抽样和简单的大都会更新的组合,以及三个新的“移位”和“规模”更新。我们表明,我们的新的更新大大提高了采样速度,通过各种模拟数据集的约60至约180倍。
2014-01-22 stat.CO
Asymptotically Independent Markov Sampling: a new MCMC scheme for Bayesian Inference
在贝叶斯统计中,许多问题都可以表示为关于后验分布的期望值的估计。由于遇到的后验分布不能直接采样,标准蒙特卡罗方法往往不适用。在这种情况下,最流行的策略是重要性抽样方法、马尔可夫链蒙特卡罗和退火。在本文中,我们介绍了一种新的方案,称为渐近独立马尔可夫抽样(AIMS)的贝叶斯推断,这是基于上述方法。我们得到重要的遍历性质的AIMS。特别是,它表明,在一定条件下,AIMS算法产生一个一致遍历的马尔可夫链。的算法的自由参数的选择进行了讨论,并提供了这种选择的建议,无论是理论上和实践上的基础。三个数值例子证明了AIMS的有效性,其中包括多模态和高维目标后验分布。
2011-10-09 stat.CO stat.ML
Prune Sampling: a MCMC inference technique for discrete and deterministic Bayesian networks
TNO(荷兰应用科学研究组织);Utrecht University(乌得勒支大学);University of Amsterdam(阿姆斯特丹大学)
本文介绍了马尔可夫链蒙特卡罗(MCMC)推理方法Prune Sampling,并对它在离散和确定性贝叶斯网络(BN)中的性能进行了分析。我们开发了一个程序,以获得性能的MCMC采样方法在无限的模拟时间的限制,从相对较短的模拟外推。这种方法被用来进行一项研究,以比较准确性,收敛速度和时间消耗的修剪采样与两个传统的MCMC采样方法:吉布斯和大都会采样。我们发现,修剪采样创建的马尔可夫链总是收敛到所需的后验分布,也为传统的吉布斯抽样失败的网络。除此之外,我们证明了修剪优于吉布斯抽样,至少对于某一类BN。不过,这个诱人的功能是有代价的。在Prune Sampling的第一个版本中,对于大BN,统一选择下一个迭代步骤的过程是相当耗时的。我们的结论是,修剪采样是所有类型的小型和中型BN的竞争力的方法,但(现在)标准方法仍然表现更好的所有类型的大型BN。
2019-08-17 cs.AI cs.LG stat.CO
Implicitly Adaptive Importance Sampling
自适应重要性抽样是一类用于为重要性抽样找到良好的建议分布的技术。通常,建议分布是标准概率分布,其参数基于当前建议与目标分布之间的失配而被适配。在这项工作中,我们提出了一个隐式自适应重要性抽样方法,适用于复杂的分布,这是不是在封闭的形式。该方法迭代地匹配一组蒙特卡罗绘制的矩到基于重要性权重的加权矩。我们将该方法应用于贝叶斯留一交叉验证,并表明它比许多现有的参数自适应重要性抽样方法,同时计算成本低廉。
2020-05-06 stat.CO stat.ME stat.ML
Scalable Importance Tempering and Bayesian Variable Selection
提出了一种结合马尔可夫链蒙特卡罗和重要性抽样的高维概率分布抽样的蒙特卡罗算法。我们提供了一个仔细的理论分析,包括高维度的鲁棒性的保证,明确的比较与标准的马尔可夫链蒙特卡罗方法和插图的潜在改进的效率。简单而具体的直觉提供了新的计划时,预计将优于标准计划。当应用于贝叶斯变量选择问题时,新算法比现有的替代抽样方案效率高出几个数量级,并且能够使用数万个回归变量进行快速可靠的完全贝叶斯推断。
2019-09-17 stat.CO stat.ME stat.ML
Importance is Important: Generalized Markov Chain Importance Sampling Methods
本文提出基于重要性权重的无拒绝MCMC抽样方案,将多重尝试Metropolis算法推广为无需拒绝的通用框架,并拓展至离散空间,证明其比原始Metropolis--Hastings算法更高效。
2024-10-02 stat.CO stat.ME stat.ML
Importance sampling methods for Bayesian discrimination between embedded models
本文综述了贝叶斯模型选择中使用的贝叶斯因子近似的一些成熟方法,主要是Chen et al.(2000)中的方法。我们的重点是在这里的方法,是基于重要性抽样战略,而不是可变尺寸的技术,如可逆跳MCMC,包括:原油蒙特卡罗,极大似然重要性抽样,桥梁和谐波平均采样,以及Chib的方法的基础上开发的功能平等。我们将在本次调查中展示如何有效地实施这些不同的方法来测试概率单位模型中预测变量的显著性。最后,我们在一个真实的数据集上比较了它们的性能。
2009-10-13 stat.CO stat.ME
On Gibbs Sampling for Structured Bayesian Models Discussion of paper by Zanella and Roberts
本文讨论了Zanella和Roberts的论文:多层线性模型、吉布斯采样器和多重网格分解。我们考虑了几个扩展,其中多重网格分解会给我们带来有趣的见解,包括向量层次模型,线性混合效应模型和部分中心参数化。
2021-12-16 math.PR stat.CO
Computationally Efficient Nonparametric Importance Sampling
由重要性抽样建立的方差减少强烈地依赖于重要性抽样分布的选择。一个好的选择往往很难实现,特别是对于高维集成问题。最优重要性抽样分布的非参数估计(称为非参数重要性抽样)是参数估计的一种合理的替代方法,本文提出并研究了自归一化和非归一化重要性抽样估计的非参数变体。对非参数重要性抽样的一个常见批评是与参数方法相比增加了计算负担。我们解决了这个问题,在很大程度上利用线性混合频率多边形估计,而不是核估计。均方误差收敛特性的影响,导致非参数重要性抽样的有效应用的建议。特别地,我们证明了非参数重要性抽样渐近地达到最佳的重要性抽样方差。非参数重要性抽样算法的效率在很大程度上依赖于所采用的非参数估计量的计算效率。线性混合频率多边形优于核估计在某些标准,如有效的采样和评估。此外,它是兼容的反演方法的样本生成。这使得我们的算法与其他方差减少技术,如分层抽样。通过三个基准集成问题的建议算法的实用性的经验证据。作为一个应用,我们估计了基于实际数据的垃圾邮件过滤器排队系统的队列长度分布。
2008-10-20 stat.CO stat.ME
A layered multiple importance sampling scheme for focused optimal Bayesian experimental design
我们开发了一种新的计算方法“集中”最优贝叶斯试验设计与非线性模型,目标是最大限度地提高预期的信息增益在目标子集的模型参数。我们的方法考虑了整个模型参数集的不确定性,但采用了一个设计目标,可以利用不同的参数子集之间的学习权衡。我们引入了一个新的分层多重要性抽样计划,提供相合估计的预期信息增益在这个集中的设置。这种抽样方案产生显着减少估计偏差和方差为一个给定的计算工作量,使最优设计更易于处理的计算密集型问题的范围广泛。
2019-03-26 stat.CO stat.ME
Relaxation-based importance sampling for structural reliability analysis
提出基于自适应松弛指示函数或概率密度函数参数的重要性抽样统一框架,并给出低维与高维两种策略,可一次生成完整易损性曲面。
2023-09-13 stat.AP stat.CO
An attempt to trace the birth of importance sampling
在本文中,我们试图将重要性抽样(IS)的诞生追溯到1949年。我们发现经典的制定是在一份文件中卡恩在1949年6月。至于“重要性抽样”这个词的出现,它可能是在几个月后出现的,也许是在1949年的会议上,但在1950年之前没有发表过这个名字的文章。
2022-06-21 math.HO physics.hist-ph stat.CO
Importance Sampling for rare events and conditioned random walks
本文介绍了一种新的重要性抽样方案,称为自适应扭曲重要性抽样,它适用于在与实际独立同分布经验均值有关的中等偏差范围内改进稀有事件概率的估计。summands。它是基于从随机游动中提取的长游程密度的尖锐近似,该随机游动以其端点值为条件。
2009-10-09 math.PR math.ST stat.CO
Bayesian Post-Processing Methods for Jitter Mitigation in Sampling
即使在信号先验分布和加性噪声具有正态分布的情况下,来自被抖动(定时噪声)和加性噪声破坏的样本的信号的最小均方误差(MMSE)估计也是非线性的。本文提出了一种基于吉布斯抽样和切片抽样的随机算法来逼近贝叶斯公式中的最优MMSE估计。仿真结果表明,该非线性算法比线性MMSE估计有明显的改进,同时也比期望最大化算法逼近经典估计中的极大似然(ML)估计有明显的提高。通过有效的片外后处理来缓解抖动,可以容忍更大的抖动,从而潜在地降低片内ADC功耗。
2010-10-08 stat.AP
Adaptive Multiple Importance Sampling
自适应多重要性抽样(AMIS)算法的目的是在迭代重要性抽样方案中对过去的模拟进行最佳回收。与早期的自适应重要性抽样实现(如人口蒙特卡罗)的区别在于,所有模拟值的重要性权重,过去和现在,在每次迭代时重新计算,遵循Owen和Zhou(2000)的确定性多重混合估计器技术。虽然该算法的收敛性能不能得到充分的研究,我们通过一个具有挑战性的香蕉形状的目标分布和人口遗传学的例子表明,这种技术带来的改善是巨大的。
2011-10-03 stat.AP stat.CO
Adaptive Importance Sampling via Stochastic Convex Programming
我们证明了从指数族重要抽样的蒙特卡罗估计的方差是分布的自然参数的凸函数。有了这个见解,我们提出了一个自适应重要性抽样算法,同时提高了抽样分布的选择,同时积累了蒙特卡罗估计。利用凸性,我们证明了该方法的无偏估计量的方差是渐近最优的指数家庭。
2015-01-09 math.OC stat.CO stat.ME
Multifidelity Approximate Bayesian Computation with Sequential Monte Carlo Parameter Sampling
多保真度近似贝叶斯计算(MF-ABC)是一种用于参数推断的无可能性技术,它利用模型近似来显着提高ABC算法的速度(Prescott和Baker,2020)。以前的工作只考虑MF-ABC的上下文中的拒绝抽样,这并不特别有效地探索参数空间。在这项工作中,我们集成了多保真度的方法与ABC序贯蒙特卡罗(ABC-SMC)算法到一个新的MF-ABC-SMC算法。我们表明,ABC-SMC和MF-ABC产生的改进,以产生蒙特卡罗样本的效率和估计的ABC后被放大时,这两种技术一起使用。
2020-10-12 stat.CO
Niching Importance Sampling for Multi-modal Rare-event Simulation
Clinical Operational Research Unit, Department of Mathematics, UCL(临床运筹学单元,数学系,伦敦大学学院)
本文提出 niching 重要性抽样框架,结合可靠性分析和进化多模态优化技术,提高故障概率估计的鲁棒性,有效应对可靠性问题的几何挑战。
2026-04-07 stat.CO
Risk-neutral limit of adaptive importance sampling of random stopping times
本文研究涉及无界停时的退出问题的重要性抽样,指出方差最小化技术的朴素应用可能导致病态,并提出基于风险敏感最优控制框架的解决方案。
2024-02-13 math.PR stat.CO
Non-asymptotic performance analysis of importance sampling schemes for small noise diffusions
在本说明中,我们开发了一个prelimit分析的性能指标的重要性抽样计划有关的小噪声扩散过程。在重要性抽样中,任何测度变化的表现都是由它的二阶矩来表征的。对于一个给定的变化的措施,我们的特点是相应的估计的二阶矩作为解决方案的偏微分方程,我们分析通过一个完整的渐近展开相对于噪声的大小,并获得一个精确的声明,其准确性。二阶矩衰减率的主要修正项求解了一个可以显式求解的输运方程。我们得到的渐近展开识别的来源,但渐近最优的重要性抽样方案可能表现不佳,并允许更准确的竞争重要性抽样方案之间的比较。
2014-07-29 math.OC math.PR math.ST
Variance-reduced sampling importance resampling
本文将对立抽样和拉丁超立方抽样两种方差缩减技术引入抽样重要性重抽样方法,提出两种改进方法,理论证明其显著减少了估计误差,并通过数值研究和真实数据分析验证了有效性。
2024-06-04 stat.CO
Annealed importance sampling for Ising models with mixed boundary conditions
本文介绍一种对具有混合边界条件的伊辛模型进行抽样的方法。作为退火重要抽样和Swendsen-Wang算法的应用,该方法采用一系列中间分布,保持温度不变,但逐渐打开边界条件。数值结果表明,样本权重的方差相对较小。
2022-05-17 cs.NA math.NA math.ST
A new Monte Carlo sampling in Bayesian probit regression
本文从贝叶斯的角度研究了概率单位回归问题,并给出了当回归参数的先验分布为均匀分布时的后验分布的另一种形式。这种新的形式允许简单的蒙特卡罗模拟的后,而不是MCMC模拟研究的文献中,因此可能是更有效的计算。我们还提供了第一时刻和第二时刻的替代显式表达式。此外,我们提供类似的结果高斯先验。
2012-03-14 stat.ME
Least Squares Importance Sampling for Monte Carlo Security Pricing
我们描述了一个简单的重要性抽样策略的蒙特卡罗模拟的基础上最小二乘优化过程。与几个数值例子,我们表明,这种最小二乘重要性采样(LSIS)提供的效率增益相比,最先进的技术,当后者被称为执行良好。然而,与传统方法相比,LSIS不限于确定高斯采样分布的最佳均值。因此,当调整采样分布的高阶矩或处理非高斯或多模态密度的能力对于实现方差减小至关重要时,它优于其他方法。
2007-03-18 cond-mat.other math.ST physics.comp-ph
Importance sampling for slow-fast diffusions based on moderate deviations
我们考虑系统的慢-快扩散与小噪声的慢组件。基于中偏差原理,我们构造了估计罕见事件的可证对数渐近最优重要性方案。使用子解的方法,我们构造的计划,并确定条件下,该计划将是渐近最优的。当事件不太罕见时,基于中偏差的重要性抽样提供了一种可行的替代大偏差重要性抽样的方法。特别是,在许多情况下的利益之一,确实可以构建所需的变化的措施,在封闭的形式,这是一项任务,这是更复杂的使用大偏差-基于重要性抽样,特别是当它涉及到多尺度动态演变的过程。多尺度的存在和事实上,我们不做任何周期性假设的系数驱动的过程中,复杂的设计和分析有效的重要性抽样方案。仿真研究说明了这一理论。
2020-01-06 math.OC math.PR stat.ME
Adaptive Importance Sampling in General Mixture Classes
在本文中,我们提出了一种自适应算法,迭代更新的权重和组件参数的混合重要性抽样密度,以优化的重要性抽样的性能,作为衡量的熵标准。该方法被证明是适用于广泛的一类重要性抽样密度,其中包括特别是混合物的多元学生t分布。人工和真实的例子,特别强调的好处,一种新的饶Blackwellisation设备,可以很容易地纳入更新计划的建议方案的性能进行了研究。
2008-05-30 stat.CO
Imprecise Monte Carlo simulation and iterative importance sampling for the estimation of lower previsions
我们开发了一个理论框架,研究数值估计较低的预测,一般适用于两级蒙特卡罗方法,重要性抽样方法,以及广泛的其他抽样方法之一可能会设计。我们将这些估计的一致性链接到Glivenko-Cantelli类,对于亚高斯的情况,我们展示了如何使用此过程的相关结构来约束偏差并证明一致性。我们还提出了一个新的上估计,它可以与标准的下估计一起使用,以提供一个简单的置信区间。作为这个框架的一个案例研究,我们然后讨论如何利用重要性抽样提供准确的数值估计较低的预测。我们提出了一种迭代的重要性抽样方法,以大大提高性能的不精确重要性抽样。我们证明了我们的结果不精确的Dirichlet模型。
2018-06-27 math.PR math.ST stat.CO
Single-Index Importance Sampling with Stratification
在许多随机问题中,感兴趣的输出取决于输入随机向量,主要通过单个随机变量(或指数),通过输入的适当单变量变换。我们利用这一特点,提出了一个重要性抽样方法,使罕见的事件更有可能通过改变所选择的指数的分布。通过将这种单指标重要性抽样方法与分层抽样相结合,保证了进一步的方差减小。单指标重要性抽样的降维效果也增强了准蒙特卡罗方法的有效性。所提出的方法适用于广泛的金融或风险管理问题。我们证明了它的效率估计大损失率的信贷组合下正常和t-copula模型,并表明我们的方法优于目前的标准,这些问题。
2021-11-15 stat.CO
An importance sampling approach for copula models in insurance
提出了一种用于Copula模型抽样的重要性抽样方法。我们提出了两种算法,提高蒙特卡罗估计的功能时,主要取决于基本的随机向量的行为时,至少有一个组件是大的。这类问题通常源于金融和保险中的依赖模型。我们提出的重要性抽样框架是通用的,可以很容易地实现的所有类的Copula模型的采样是可行的。我们展示了如何优化这两种算法的建议分布,以减少采样误差。在一个典型的多变量保险应用程序的启发下的案例研究中,我们得到了10和30之间的标准蒙特卡罗估计相比,方差减少因子。
2015-04-07 q-fin.RM stat.AP stat.CO
Counting the number of group orbits by marrying the Burnside process with importance sampling
本研究提出结合Burnside过程与重要性采样的通用群轨道近似计数新算法,应用于单位上三角群时可高效估算其共轭类数量。
2025-03-19 math.CO math.GR math.PR
Optimal mixture weights in multiple importance sampling
Stanford University(斯坦福大学)
本文研究了多重重要性采样中混合权重的优化问题,通过凸优化方法提升效率,并提出一种序列重要性采样算法来估计最优混合比例。
2014-11-14 cs.NA math.NA stat.CO
Nonasymptotic bounds for suboptimal importance sampling
重要性抽样是蒙特卡罗估计的一种流行的方差缩减方法,其中一个臭名昭著的问题是如何设计好的建议分布。虽然在大多数情况下,最佳(零方差)估计理论上是可能的,但在实践中,只有次优的建议分布是可用的,它往往可以观察到的数字,这些可以显着降低统计性能,导致大的相对误差,因此抵消了最初的意图。在这篇文章中,我们提供了非渐近下限和上界的相对误差的重要性抽样,取决于实际的建议从最优的偏差,因此,我们确定潜在的鲁棒性问题,重要性抽样可能有,特别是在高维度。我们专注于扩散过程的路径采样问题,生成好的建议带来了额外的技术挑战,我们提供了许多支持我们的研究结果的数值例子。
2021-02-18 cs.NA math.NA math.PR
Initializing adaptive importance sampling with Markov chains
自适应重要性抽样是从复杂目标密度中抽样的有力工具,但其成功与否敏感地依赖于初始建议密度。提出了一种利用马尔可夫链和层次聚类自动进行初始化的算法。在多达20个维度的具有挑战性的多峰示例上检查性能,并与嵌套采样的结果进行比较。我们的方法产生了一个建议,导致快速收敛和准确估计的整体归一化和边缘分布。
2013-04-29 stat.CO
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数,通过非参数核密度估计和变分过程,获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Tempered, Anti-trunctated, Multiple Importance Sampling
重要性抽样是一种蒙特卡罗方法,它引入一个建议分布,根据目标分布对空间进行抽样。然而,校准的建议分布是必不可少的,以实现效率,因此诉诸自适应算法来调整这个分布。本文提出了一种新的自适应重要性抽样方案--回火抗截断自适应多重重要性抽样(TAMIS)算法。我们结合了回火计划和一个新的非线性变换的权重,我们命名为反截断。为了提高效率,我们还考虑不增加目标密度的评估次数。因此,我们的建议是一个自动调整的顺序算法,是强大的穷人的初始提案,不需要梯度计算和规模以及与尺寸。
2022-06-16 stat.CO
Sampling, feasibility, and priors in Bayesian estimation
详细讨论了重要性抽样算法,重点是隐式抽样,并通过粒子滤波器应用于数据同化。隐式抽样使得有可能使用数据以相对较低的成本找到高概率样本,使同化更有效。本文对资料同化的可行性作了一个新的分析,详细说明了为什么可行性取决于噪声的协方差阵的Frobenius范数,而不取决于变量的数目。下面讨论特定粒子滤波器的收敛性。数值资料同化中的一个主要问题是确定合适的先验,本文就这一问题的最新研究进展作了介绍。分析强调,需要仔细注意的数据和数据同化问题的物理。
2015-05-29 stat.CO
Randomized sequential importance sampling for estimating the number of perfect matchings in bipartite graphs
本文针对二部图完美匹配数估计问题,提出随机序贯重要性抽样算法,分析性能时建立非标准中心极限定理,方法有望拓展至其他应用场景。
2020-07-29 math.PR math.ST stat.TH
Importance sampling for Sobol' indices estimation
ONERA/DTIS, Université de Toulouse(法国国家航空航天研究院DTIS,图卢兹大学);Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse(ENAC ISAE-SUPAERO ONERA联盟,图卢兹大学)
本文提出了一种重要性采样方法,用于高效估计Sobol'指数,并通过反向采样支持分布敏感性分析。
2026-03-01 math.ST stat.TH