A survey of Monte Carlo methods for noisy and costly densities with application to reinforcement learning and ABC
Stony Brook University（石溪大学）；Universitá degli Studi di Catania（卡塔尼亚大学）；École Polytechnique（巴黎高等理工学院）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
本文综述了基于代理模型的蒙特卡洛方法，用于处理难解、高成本或带噪密度，并将其系统分类并应用于强化学习和无似然推断等场景。
2025-01-02 cs.LG stat.CO stat.ME
Does Hamiltonian Monte Carlo mix faster than a random walk on multimodal densities?
Harvard University（哈佛大学）；University of Ottawa（渥太华大学）
汉密尔顿蒙特卡罗（HMC）是一种非常流行且通用的马尔可夫链蒙特卡罗（MCMC）算法集合。HMC算法流行的一个解释是它们在目标的维度$d$变大时的优异性能：在满足许多常见统计模型的条件下，优化的HMC算法具有像$d^{0.25}$那样缩放的运行时间。与此形成鲜明对比的是，通常的随机行走大都会（RWM）算法的运行时间，优化调整，规模像$d$。这种优越的缩放的HMC算法的尺寸归因于这样一个事实，即它，不像RWM，在建议分布中的梯度信息。在本文中，我们调查了一个不同的缩放问题：高$\textit{multimodal}$目标的HMC击败RWM？我们发现答案往往是$\textit{no}$。我们计算的频谱间隙的算法为一个特定的类的多模态目标密度，并表明它们是相同的。关键原因在于，在一个模式内，梯度有效地忽略了其他模式，从而否定了HMC算法在单峰目标中享有的优势。我们也给启发式的论点表明，上述观察可能持有相当普遍。我们回答这个问题的主要工具是一个新的简单公式的HMC电导刘维尔定理。这一结果使我们能够计算谱间隙的HMC算法，为经典的HMC与各向同性的动量和最近的黎曼HMC，多模态目标。
2018-09-04 cs.LG math.PR stat.CO
Recursive Monte Carlo and Variational Inference with Auxiliary Variables
Massachusetts Institute of Technology（麻省理工学院）
在实施蒙特卡罗和变分推理算法时，一个关键的设计约束是必须能够廉价和准确地评估建议分布和变分族的边缘密度。这使得许多有趣的建议从桌面上消失，例如那些基于相关模拟或随机优化的建议。本文拓宽了设计空间，提出了一个框架，应用蒙特卡罗和变分推理算法时，建议密度不能准确评估。我们的框架，递归随机变量推理（RAVI），而是使用元推理近似必要的密度：蒙特卡洛或变分推理的附加层，目标是建议，而不是模型。RAVI推广和统一了现有的几种推理方法与表达近似的家庭，我们显示对应的元推理算法的具体选择，并提供了新的理论分析其偏差和方差。我们说明RAVI的设计框架和定理，使用它们来分析和改进Salimans等人。的马尔可夫链变分推理，并设计了一个新的采样器狄利克雷过程的混合物，实现了最先进的结果，从天文学的标准基准数据集和具有挑战性的医疗保险医院数据的重复学习任务。
2022-11-19 cs.LG stat.CO
Parallelized Midpoint Randomization for Langevin Monte Carlo
City University of Hong Kong（香港城市大学）
本文针对光滑强对数凹密度，在可并行评估梯度的设定下分析并行化随机中点 Langevin Monte Carlo，给出 Wasserstein 距离上界并证明并行处理带来显著运行时间提升。
2025-01-08 cs.LG math.PR math.ST
Riemannian Manifold Hamiltonian Monte Carlo
针对现有蒙特卡罗算法在对高维、强相关的目标密度进行采样时存在的不足，提出了一种黎曼流形哈密顿蒙特卡罗采样器.该方法提供了一个完全自动化的适应机制，避免了昂贵的试点运行所需的调整建议密度的大都市黑斯廷斯或实际上混合蒙特卡罗和大都市调整朗之万算法。这允许即使在非常高的维度中也进行高效采样，其中对于马尔可夫链的瞬态和稳态阶段可能需要不同的缩放。该方法利用了统计模型的参数空间的黎曼结构，从而在每一步基于度量张量自动适应局部流形结构。一个半显式的二阶辛积分的不可分的哈密顿推导出模拟路径通过这个流形，提供了高效的收敛和探索的目标密度。通过对逻辑斯谛回归模型、对数高斯Cox点过程、随机波动率模型和非线性微分方程描述的动力系统参数后验的贝叶斯估计进行后验推断，对黎曼流形哈密顿蒙特卡罗方法的性能进行了评估。与替代抽样方法相比，报告了时间标准化有效样本量的实质性改进。\url{http://www.dcs.gla.ac.uk/inference/rmhmc}中的Matlab代码允许复制所有结果。
2019-12-17 cs.NA math.NA math.ST
Diffusive Limits for Adaptive MCMC for Normal Target densities
本文将扩散近似方法应用于目标分布为标准正态分布时的离散时间自适应马尔可夫链蒙特卡罗（AMCMC）方法。我们表明，扩散的极限分布承认一个密度，我们确定为标准正态分布。
2014-11-28 math.PR math.ST stat.TH
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数，通过非参数核密度估计和变分过程，获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques
三种抽样方法进行了比较，效率的各种复杂性的测试问题，其中解析求积。比较的方法是伪随机数的蒙特卡罗，拉丁超立方抽样，准蒙特卡罗抽样的基础上Sobol序列。一般的结果显示出优越的性能的准蒙特卡罗方法的基础上Sobol序列与理论预测。拉丁超立方抽样可以比蒙特卡罗方法和准蒙特卡罗方法更有效，但后者的不等式适用于减少的函数类型集和少量的采样点。总之，拟蒙特卡罗方法将出现最安全的赌注时，集成功能的未知类型。
2015-05-10 stat.AP stat.CO
A pseudo-marginal sequential Monte Carlo online smoothing algorithm
我们考虑在线计算的期望值的添加剂状态泛函下的一般路径概率测度成比例的产品的非归一化的过渡密度。这些转换密度被认为是棘手的，但有可能估计，有或没有偏见。使用伪边缘化技术，我们能够扩展粒子为基础的，快速增量平滑（PaRIS）算法提出的[J.Olsson和J. Westerfield。一般隐马尔可夫模型中基于粒子的有效在线平滑：PaRIS算法。Bernoulli，23（3）：1951- 1996，2017]。由此产生的算法在粒子数量和恒定内存要求方面具有线性复杂性，适用于广泛的具有挑战性的路径空间蒙特卡罗问题，包括部分观察到的扩散过程和具有棘手可能性的模型中的平滑。该算法提供了几个理论结果，包括中心极限定理，建立其收敛性和数值稳定性。此外，在强混合假设下，我们建立了一个新的$O(n \varepsilon)$的渐近偏差的算法，其中$n$是路径长度和$\varepsilon$控制密度估计的偏差。
2021-04-12 stat.CO stat.ME
Pre-integration via Active Subspaces
预积分是条件蒙特卡罗方法向拟蒙特卡罗方法和随机拟蒙特卡罗方法的推广。它可以减少而不是增加蒙特卡罗的方差。对于拟蒙特卡罗方法，它可以带来改进的规则性的被积函数与潜在的大大提高的精度。预积分通常通过将$d$输入变量之一积分到函数中来完成。在高斯积分的常见情况下，也可以对变量的任何线性组合进行预积分。我们建议这样做，我们选择在一个积极的子空间分解的第一个特征向量是预集成的线性组合。我们发现，在数值例子中，这种主动子空间预集成策略是有竞争力的预集成的第一个变量的主成分构造的亚洲选项，其中主成分是已知的是非常有效的。它优于其他预集成方法对一些篮子选项，没有很好地建立默认。我们从理论上证明，就像在蒙特卡罗中一样，当使用加扰净积分时，预积分可以减少但不会增加方差。我们发现，在一个积极的子空间分解的领导特征向量是密切相关的向量，最大化一个不太容易处理的标准使用Sobol'指数找到最重要的线性组合的高斯变量。它们优化了涉及梯度的类似期望。我们表明，Sobol指数标准的领导特征向量是不变的方式，一个选择其余的$d-1$特征向量与高斯向量的采样。
2022-02-06 cs.NA math.NA math.ST
Sequentially Constrained Monte Carlo
约束可以从广义上解释为对参数的任何类型的显式限制。虽然某些约束直接在参数空间上定义，但当它们由模型上的已知行为定义时，将约束转换为参数空间上的特征可能是不可能的。由于将约束结合到模型中而导致难以从后验分布进行采样是导致参数空间中的截断和低效采样算法的常见挑战。我们提出了一个变种的序贯蒙特卡罗算法的后验抽样存在的约束，通过定义一个序列的密度，通过施加的约束。从无约束或轻度约束分布生成的粒子经过过滤并通过采样和重采样步骤移动，以从完全约束的目标分布中获取样本。一般和模型特定形式的约束执行策略的定义。顺序约束蒙特卡罗算法证明了由函数的单调性定义的约束，密度约束到低维流形，坚持理论推导的模型，和模型特征匹配。
2015-02-25 stat.ME
Hamiltonian Monte Carlo in Inverse Problems; Ill-Conditioning and Multi-Modality
哈密顿蒙特卡罗（HMC）方法允许从连续密度采样。有利的缩放维度导致统计界广泛采用HMC。现代自动微分软件应该允许更广泛地使用贝叶斯逆问题。本文分析了HMC在求解反问题时遇到的两个主要困难：条件差和多模态。新的结果预处理和副本交换蒙特卡罗参数选择的背景下，光谱。对积分步骤的数目、步长、预处理器的类型和安装、退火形式和时间表提出了建议。这些建议进行了严格的分析，在高斯的情况下，并概括在融合等离子体重建。
2022-08-15 stat.CO
Efficient Approximation of Expected Hypervolume Improvement using Gauss-Hermite Quadrature
Swansea University（斯旺西大学）；University of Exeter（埃克塞特大学）；The University of Manchester（曼彻斯特大学）；University of Jyvaskyla（于韦斯屈莱大学）
最近提出了许多方法来执行多目标优化的计算昂贵的问题。通常，每个目标的概率代理是从初始数据集构建的。然后可以使用代理来为任何解决方案在目标空间中产生预测密度。使用预测密度，我们可以计算由于解决方案而产生的预期超体积改善（EHVI）。最大化EHVI，我们可以找到最有前途的解决方案，可能是昂贵的下一个评估。存在用于计算EHVI的封闭形式表达式，其在多变量预测密度上积分。然而，它们需要分割目标空间，这对于三个以上的目标来说可能非常昂贵。此外，对于预测密度相关的问题，没有封闭形式的表达式来捕获目标之间的相关性。在这种情况下，使用蒙特卡罗近似，这是不便宜的。因此，仍然需要开发新的精确但更便宜的近似方法。在这里，我们研究了一种替代方法，接近EHVI使用高斯-厄米积分。我们表明，它可以是一个准确的替代Monte Carlo的独立和相关的预测密度与统计上显着的等级相关性的一系列流行的测试问题。
2022-06-15 cs.AI cs.LG stat.CO
Proximal Markov chain Monte Carlo algorithms
提出了一种新的Metropolis调整的Langevin算法（MALA），该算法利用凸分析有效地模拟对数凹的高维密度，这是一类广泛应用于现代高维统计和数据分析的概率分布。该方法是基于一个新的一阶近似朗之万扩散，利用对数时间来构建马尔可夫链具有良好的收敛性能。这种近似与凸函数的Moreau-Yoshida正则化密切相关，并且使用邻近映射而不是梯度映射来近似连续时间过程。所提出的方法补充现有的MALA方法在两个方面。首先，该方法被证明具有非常强大的稳定性和几何收敛的许多目标密度，其他MALA是不是几何，或只有当步长足够小。第二，该方法可以应用于高维目标密度是不连续可微的，一类分布，越来越多地用于图像处理和机器学习，这是超出现有的MALA和HMC算法的范围。为了使用这种方法，有必要有效地计算或近似目标密度的对数的邻近映射。对于几种流行的模型，包括现代信号和图像处理以及机器学习中使用的许多贝叶斯模型，这可以通过凸优化算法和基于近似分裂技术的近似来实现，这些近似可以并行实现。所提出的方法证明了两个具有挑战性的高维和不可微的模型，图像分辨率增强和低秩矩阵估计，没有很好地解决现有的MCMC方法。
2015-04-03 stat.CO stat.ME
Curved Markov Chain Monte Carlo for Network Learning
Imperial College London（伦敦帝国学院）；ORT Braude College of Engineering（ORT Braude工程学院）
基于图上定义的离散曲率测度，提出了一种几何增强的网络马尔可夫链蒙特卡罗采样器。具体来说，我们将图形福尔曼曲率的概念纳入到网络的节点和边缘上的采样过程中，通过马尔可夫链的转移概率，以及隐式地，通过目标平稳分布，这给出了一种新的，弯曲的马尔可夫链蒙特卡罗方法来学习网络。我们表明，将曲率集成到采样器中会导致更快地收敛到从真实世界数据中提取的确定性网络上展示的各种网络统计数据。
2021-10-11 cs.LG stat.CO stat.ML
Multivariate Smoothing via the Fourier Integral Theorem and Fourier Kernel
从傅里叶积分定理出发，给出了多元函数的自然蒙特卡罗估计，包括密度、混合密度、转移密度、回归函数，以及多元密度函数的模式搜索（模式回归）.收敛速率被建立，并且在许多情况下，提供优于当前标准估计器的速率，诸如基于核的那些，包括核密度估计器和核回归函数。数值例子。
2020-12-28 math.ST stat.ME stat.ML
Discontinuous Hamiltonian Monte Carlo for discrete parameters and discontinuous likelihoods
哈密顿蒙特卡罗已成为后验计算的标准工具。在这篇文章中，我们提出了一个扩展，可以有效地探索不连续密度的目标分布。我们的扩展，特别是使有效的采样顺序参数，通过嵌入到连续空间的概率质量函数。我们激励我们的方法通过不连续的哈密顿动力学理论，并开发相应的数值求解器。建议的求解器是第一个同类的，具有显着的能力，完全保持汉密尔顿。我们将我们的算法应用于具有挑战性的后验推理问题，以证明其广泛的适用性和竞争力。
2019-08-23 stat.CO
Monte Carlo Estimation of the Density of the Sum of Dependent Random Variables
本文研究由计算机模型模拟的随机变量和的密度的无偏估计。与Copula依赖的例子进行了数值研究，所提出的估计表现良好的方差相比，其他无偏估计。我们提供的应用和扩展贝叶斯统计的边缘密度估计和估计的随机变量的高斯copula依赖下的和的密度。
2018-09-18 math.PR math.ST stat.TH
Robust Coordinate Ascent Variational Inference with Markov chain Monte Carlo simulations
变分推断（VI）是一种使用表现更好的分布族来近似难以计算的后验密度的方法。VI是一种替代已经研究得很好的马尔可夫链蒙特卡罗（MCMC）方法近似密度。每种算法都有优点和缺点;是否存在两者的组合，以减轻两者的缺陷？提出了一种将坐标上升变分推断（CAVI）与MCMC相结合的方法。这种新的方法，称为混合CAVI，旨在提高初始化和收敛问题的CAVI的敏感性，提出了一个初始化使用的矩估计方法从一个短的MCMC老化期间。与CAVI不同的是，混合CAVI被证明在后验不是来自条件共轭指数族时也是有效的。
2022-03-23 stat.CO
Modified Cholesky Riemann Manifold Hamiltonian Monte Carlo: Exploiting Sparsity for Fast Sampling of High-dimensional Targets
黎曼流形哈密顿蒙特卡罗（RMHMC）有可能产生高质量的马尔可夫链蒙特卡罗输出，即使是非常具有挑战性的目标分布。为此，一个对称正定的缩放矩阵RMHMC，它来自，通过修改的Cholesky分解，从潜在的不确定的负Hessian的目标对数密度提出。该方法是能够利用稀疏的Hessian，源于条件独立建模假设，从而承认快速实施RMHMC，即使是高维目标分布。此外，该方法可以利用对数凹条件目标密度，经常遇到贝叶斯分层模型，更快的采样和更直接的调整。所提出的方法相比，一些具有挑战性的目标的替代品，并说明了应用状态空间模型的真实数据。
2017-05-16 stat.CO stat.ME
A divide and conquer sequential Monte Carlo approach to high dimensional filtering
我们提出了一个分而治之的方法来过滤，将状态变量分解成低维组件，标准的粒子滤波工具可以成功地应用和递归合并它们，以恢复完整的过滤分布。它是较少依赖于因式分解的过渡密度和观测似然比竞争的方法，可以应用到更广泛的一类模型。性能比较与国家的最先进的方法的基准问题，它表明，所提出的方法是广泛可比的设置中，这些方法是适用的，它可以应用于设置中，他们不能。
2022-11-25 stat.CO stat.ME
Least Squares Importance Sampling for Monte Carlo Security Pricing
我们描述了一个简单的重要性抽样策略的蒙特卡罗模拟的基础上最小二乘优化过程。与几个数值例子，我们表明，这种最小二乘重要性采样（LSIS）提供的效率增益相比，最先进的技术，当后者被称为执行良好。然而，与传统方法相比，LSIS不限于确定高斯采样分布的最佳均值。因此，当调整采样分布的高阶矩或处理非高斯或多模态密度的能力对于实现方差减小至关重要时，它优于其他方法。
2007-03-18 cond-mat.other math.ST physics.comp-ph
Gradient-free Hamiltonian Monte Carlo with Efficient Kernel Exponential Families
提出了一种基于哈密顿蒙特卡罗（HMC）的无梯度自适应MCMC算法--核哈密顿蒙特卡罗（KMC）。在目标密度上，由于难以处理的梯度，经典HMC不是一种选择，KMC通过在再生核希尔伯特空间中拟合指数族模型来自适应地学习目标的梯度结构。计算成本降低了两个新的有效的近似这个梯度。虽然是渐近精确的，但KMC在抽样效率方面模仿了HMC，并提供了比最先进的无梯度采样器更大的混合改进。我们通过对玩具和现实世界应用的实验研究来支持我们的主张，包括近似贝叶斯计算和精确近似MCMC。
2015-11-24 stat.ML
Monte Carlo Greeks for financial products via approximative transition densities
Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机性研究所）
本文通过WKB方法得到的近似转移密度，提出了高效的高维衍生品估值及其敏感性（“Greeks”）的蒙特卡洛估计量，并应用于Libor市场模型。
2008-07-08 cs.NA math.NA math.PR
Analysis of preintegration followed by quasi-Monte Carlo integration for distribution functions and densities
在本文中，我们分析了一种方法，用于近似的分布函数和密度的随机变量，依赖于在一个非平凡的方式在一个可能的高数量的独立的随机变量，每个支持整个实数线。从分布和密度的积分公式开始，该方法涉及通过相对于一个适当选择的变量进行预积分来平滑原始被积函数，然后应用合适的拟蒙特卡罗方法（QMC）来计算所得平滑函数的积分。然后使用插值来重建间隔上的分布或密度。预积分技术是条件抽样的一种特殊情况，这种方法以前曾被应用于统计学和计算金融学中的广泛问题。特别是，在这项工作中研究的逐点近似是一个特定的情况下，以前考虑的条件密度估计L 'Ecuyer等人，arXiv：1906.04607。我们的理论提供了一个严格的正则性分析的预积分函数，然后使用它来表明逐点和插值估计的误差都可以达到近一阶收敛。数值结果支持这一理论。
2022-10-06 cs.NA math.NA
Differentiating densities on smooth manifolds
强振荡函数导数的Lebesgue积分是计算科学和工程中经常遇到的挑战。分部积分法是解决蒙特卡罗积分法计算量大的有效方法。然而，在光滑流形上的勒贝格积分的情况下，分部积分法产生描述域流形的图表所暗示的密度的导数。本文主要研究一般光滑流形上密度梯度函数的计算。我们解析地推导出密度梯度的公式，并给出了由流行的微分方程驱动系统确定的流形的例子。我们强调的密度梯度的意义，通过演示一个数值例子的Monte Carlo积分涉及振荡被积。
2021-03-12 cs.NA math.DS math.NA
Low-rank tensor reconstruction of concentrated densities with application to Bayesian inversion
传输图已经成为一种流行的机制，通过优化的前推使用样本传播来表达复杂的概率密度。除了其广泛的适用性和众所周知的成功，运输地图遭受几个缺点，如数值不准确引起的优化过程和采样计划时，必须采用感兴趣的数量，例如时刻计算的事实。本文提出了一种新的方法，精确的函数逼近的密度函数（PDF），处理这些问题。通过将目标PDF的回拉结果通过不精确的输运图解释为扰动的参考密度，随后的函数表示以更易于访问的格式允许有效且更准确地计算所需的量。我们引入了一个基于层的近似扰动参考密度在一个适当的坐标系分裂成一组独立的近似分别选择规范正交基函数的高维表示问题。这有效地激发了h-和p-细化（即"网格步长“和多项式次数）的概念，用于高维PDF的近似。为了避免维数灾难，并使采样自由访问某些数量的利益，张量训练格式的低秩重建采用变分蒙特卡罗方法。一个先验的收敛性分析的方法是来自Hellinger距离和Kullback-Leibler发散。应用程序包括贝叶斯逆问题和几个程度的集中密度照亮（优越）的收敛相比，蒙特卡罗和马尔可夫链蒙特卡罗方法。
2020-08-10 cs.NA math.NA
Multilevel Monte Carlo with Numerical Smoothing for Robust and Efficient Computation of Probabilities and Densities
本文将数值平滑技术扩展到多层蒙特卡洛方法中，通过求根与一维数值积分相结合，显著改善了低正则性泛函下的强收敛性、复杂度与稳健性，并成功应用于概率计算、不连续收益期权定价及密度估计。
2023-10-02 cs.NA math.NA q-fin.CP
Direct simulation Monte Carlo for new regimes in aggregation-fragmentation kinetics
我们重温两个基本的直接模拟蒙特卡罗方法模型聚集动力学和扩展它们的聚集过程与碰撞破碎（粉碎）。我们测试的扩展方法的性能和精度，并比较其性能与有效的确定性有限差分法适用于同一模型。我们验证测试问题的随机方法，并应用它们来验证最近在确定性模拟中检测到的聚集-碎裂动力学中振荡制度的存在。我们证实了在这样的系统中的密度稳定振荡的出现，并证明了波动和噪声的振荡的稳定性。
2021-04-25 cond-mat.stat-mech cs.NA math.NA
Surrogate-based multilevel Monte Carlo methods for uncertainty quantification in the Grad-Shafranov free boundary problem
University of Maryland（马里兰大学）；Rice University（莱斯大学）；The University of Arizona（亚利桑那大学）
本文提出基于代理模型的多级蒙特卡洛方法，用于高效量化等离子体边界问题的不确定性，显著降低计算成本并验证方法有效性。
2026-03-01 cs.NA math.NA physics.comp-ph
The spectrogram expansion of Wigner functions
Technische Universität München（慕尼黑工业大学）
本文通过Hermite谱图展开Wigner函数，提供精确的量子期望公式，并在高频极限下实现任意精度的近似。
2018-05-01 cs.NA math-ph math.MP
