A Short Review of Ergodicity and Convergence of Markov chain Monte Carlo Estimators
这篇短文回顾了量化马尔可夫链蒙特卡罗估计的渐近收敛和前渐近收敛的基本理论。
2021-10-13 math.PR math.ST stat.ME
Regularizing nested Monte Carlo Sobol' index estimators to balance the trade-off between explorations and repetitions in global sensitivity analysis of stochastic models
针对随机模型全局敏感性分析中 Sobol' 指数估计器作为嵌套蒙特卡洛估计器函数时探索与重复分配不清的问题，提出正则化方法限制均方误差，并基于启发式提出最小化偏差-方差权衡的分配策略，给出适应随机性水平的实用算法。
2024-03-19 math.ST stat.CO stat.TH
Weighted batch means estimators in Markov chain Monte Carlo
本文提出了一类加权批均值方差估计量，它具有计算效率高，便于实际应用的特点。重点是马尔可夫链蒙特卡罗模拟和马尔可夫链中心极限定理中渐进协方差阵的估计，其中提供了确保强一致性的条件。有限样本的性能进行评估，通过自回归，贝叶斯时空，贝叶斯逻辑斯谛回归的例子，其中新的估计显示出显着的计算增益与现有的方法相比，在方差较小的牺牲。
2018-05-21 math.ST stat.CO stat.TH
Toeplitz Monte Carlo
基于随机系数的偏微分方程的应用，我们引入了一类新的蒙特卡罗估计，称为Toeplitz蒙特卡罗（TMC）估计，用于逼近一个多元函数关于一个相同的单变量概率测度的直积的积分. TMC估计器生成i.i.d.对一个随机变量进行采样，然后使用具有$n=1,2,\ldots$的$(x_{n+s-1},x_{n+s-2}\ldots,x_n)$作为正交点，其中$s$表示维数。虽然连续的点有一些依赖性，但所有正交节点的级联由Toeplitz矩阵表示，这允许快速矩阵向量乘法。本文研究了TMC估计的方差及其对维数$s$的依赖性。数值实验证实了相当大的效率提高了标准的蒙特卡罗估计的应用程序的随机系数偏微分方程，特别是当尺寸$s$是大的。
2020-09-04 cs.NA math.NA stat.ME
Zero Variance Markov Chain Monte Carlo for Bayesian Estimators
兴趣在于通过马尔可夫链蒙特卡罗（MCMC）模拟来评估函数关于可能未归一化的概率分布的期望值。基于物理学文献中引入的零方差原理，提出了MCMC估计的通用方差缩减技术。零方差估计量的渐近无偏的条件。在正则条件下证明了一个中心极限定理。的潜在的想法是说明与实际应用的概率，logit和Gesthet-Bayesian模型。对于所有这些模型，证明了零方差估计量的中心极限定理和无偏性（见在线提供的补充材料）。
2012-06-26 stat.CO
Doubly Robust Stein-Kernelized Monte Carlo Estimator: Simultaneous Bias-Variance Reduction and Supercanonical Convergence
众所周知，标准蒙特卡罗计算在样本量方面表现出典型的平方根收敛速度。最近的两种技术，一个基于控制变量和重要性抽样，都来自再生核和Stein的身份的整合，已被提出，以减少错误的蒙特卡罗计算超正则收敛。本文提出了一个更一般的框架，以涵盖这两种技术，特别是有益的样本发生器时，有偏见和噪声损坏。我们表明我们的一般估计，我们称之为双鲁棒斯坦核化估计，优于现有的方法在不同的情况下的均方误差率。我们还通过数值例子证明了我们的方法的优越性能。
2023-03-10 stat.CO stat.ME
Product-form estimators: exploiting independence to scale up Monte Carlo
我们介绍了一类蒙特卡罗估计，旨在克服快速增长的方差与尺寸经常观察到的标准估计，利用目标的独立性结构。我们用一类广义U-统计量确定了这些估计量的最基本的体现，从而建立了它们的无偏性、相合性和渐近正态性。此外，我们表明，他们获得了最小可能的方差之间的广泛的一类估计，我们调查他们的计算成本和划定的设置中，他们是最有效的。我们将这些估计与其他著名的蒙特卡罗估计合并，以使后者更好地适应目标的独立性结构，并提高其性能。我们通过三个简单的合并来实现这一点：一个是重要性抽样，另一个是重要性抽样平方，最后一个是伪边缘Metropolis-Hasting。在所有情况下，我们表明所得估计量都是有根据的，并且比标准估计量实现更低的方差。最后，我们通过几个例子说明了各种方差减少。
2021-11-01 math.PR math.ST stat.CO
Finite Sample Complexity of Sequential Monte Carlo Estimators
本文给出了静态空间上序贯蒙特卡罗采样器的有限样本误差的界。我们的方法明确地将算法的性能与所选分布序列的属性和相关马尔可夫核的混合属性联系起来。这使我们能够给出第一个有限样本比较其他蒙特卡罗计划。我们得到了各种目标分布的序贯蒙特卡罗近似的复杂性的界限，包括有限空间，产品措施，和对数凹分布，包括贝叶斯逻辑斯谛回归。所得到的界限是在一个对数因子内的类似界限可获得马尔可夫链蒙特卡罗。
2022-08-18 math.PR stat.CO stat.ME
Density Estimation by Monte Carlo and Quasi-Monte Carlo
估计连续随机变量X的密度在统计学中已经被广泛研究，在设置中，X的n个独立观测值被先验地给出，并且人们希望从中估计密度。流行的方法包括直方图和核密度估计。在这篇综述论文中，我们感兴趣的是，而不是在这种情况下，观察产生的蒙特卡罗模拟从一个模型。然后，可以利用方差缩减方法，如分层，条件蒙特卡罗，和随机准蒙特卡罗（RQMC），并获得一个更准确的密度估计比标准的蒙特卡罗对于给定的计算预算。我们讨论了几种方法，在最近的论文中提出，重点是利用RQMC的方法。第一个想法是直接将RQMC与标准核密度估计器相结合。另一种方法是采用基于模拟的导数估计方法，如平滑扰动分析或似然比方法，以获得cdf的连续估计量，其导数是密度的无偏估计量。这可以与RQMC结合使用。我们总结了最近的理论结果与这些方法，并给出了它们如何提高均方积分误差的收敛性的数值例子。
2021-09-07 stat.CO
On Nesting Monte Carlo Estimators
机器学习和统计学中的许多问题涉及嵌套期望，因此不允许传统的蒙特卡罗（MC）估计。对于这样的问题，我们必须嵌套估计量，使得外部估计量中的项本身涉及单独的嵌套估计的计算。我们调查嵌套MC估计的统计含义，包括多层嵌套的情况下，并建立它们收敛的条件。我们得出相应的收敛速度，并提供经验证据，这些速度在实践中观察到。我们进一步建立了一些陷阱，可能会出现从天真的嵌套MC估计，提供有关如何避免这些的指导方针，并制定了新的方法，将某些类别的嵌套期望问题转化为单一的期望，从而提高收敛速度。我们证明了我们的工作的适用性，通过使用我们的研究结果开发一个新的估计离散贝叶斯试验设计问题，并推导出误差界的一类变分目标。
2018-05-23 stat.CO stat.ME stat.ML
Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗（MCMC）是一种模拟方法，通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer（1992）开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法，提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME
Efficient implementation of Markov chain Monte Carlo when using an unbiased likelihood estimator
当一个无偏估计量的可能性内使用的大都会-黑斯廷斯链，它是必要的权衡的数量的蒙特卡罗样本用于构建这个估计对渐近方差的平均值计算在这个链。许多蒙特卡罗样本通常会导致Metropolis-Hastings平均值的渐近方差低于使用较少样本的相应Metropolis-Hastings平均值。然而，构造似然估计量所需的计算时间随着蒙特卡罗样本的数量而增加。假设对数似然估计引入的加性噪声的分布是高斯分布，方差与蒙特卡罗样本的数量成反比，并且与评估的参数值无关，我们提供了选择样本数量的指南。我们证明了我们的结果，考虑随机波动模型应用于股票指数收益。
2014-09-13 stat.ME
Mostly Harmless Simulations? Using Monte Carlo Studies for Estimator Selection
我们考虑最近的两个建议，如何进行经验动机的蒙特卡罗研究，以帮助选择一个处理效应估计unconfoundedness。我们从理论上表明，既不可能是信息，除非在限制性条件下，不太可能在许多情况下得到满足。为了测试经验相关性，我们还将这些方法应用到真实世界的环境中，其中估计器性能是已知的。这两种方法在选择最小化绝对偏差的估计量时都比随机方法差。当选择最小化均方误差的估计量时，它们更好。然而，使用简单的引导程序至少同样好，而且往往更好。目前，研究人员最好使用一系列估计值，并比较估计值的稳健性。
2019-04-17 econ.EM stat.ME stat.OT
Unbiased Monte Carlo estimation for the expected value of partial perfect information
部分完全信息期望值（EVPPI）表示决策模型中未知参数子集的不确定性消除值。EVPPI可以看作是决策理论的灵敏度指标，并已被广泛用于识别相对重要的未知参数。然而，从Jensen不等式可以看出，EVPPI的标准嵌套蒙特卡罗计算会导致有偏估计。本文介绍了Heinrich（1998）和Giles（2008）提出的基于多层蒙特卡罗方法的EVPPI的两种无偏蒙特卡罗估计，以及Rhee和Glynn（2012，2015）的扩展。我们的无偏估计量是简单和直接的实现，因此是非常实用的。数值实验表明，我们的无偏估计量的收敛性甚至优于标准的套蒙特卡罗估计。
2016-04-05 stat.CO stat.ME
Estimating Monte Carlo variance from multiple Markov chains
针对并行MCMC中方差估计低估问题，提出多元复制批量均值（RBM）估计器，利用多链信息纠正偏差，在弱混合条件下具有强一致性和更优理论性质，小样本下表现显著优越。
2024-07-21 stat.CO stat.ME
Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions
我们证明了有限样本复杂性的序贯蒙特卡罗（SMC）算法，只需要当地的混合时间相关联的马尔可夫内核。我们的边界是特别有用的，当目标分布是多模态和全球混合的马尔可夫内核是缓慢的，在这种情况下，我们的方法建立了相应的马尔可夫链蒙特卡罗（MCMC）估计SMC的好处。通过顺序控制由SMC再循环程序引入的偏差来解决全局混合的缺乏。我们应用这些结果来获得的复杂性界限下的混合物的对数凹分布的近似期望，并表明SMC提供了一个完全多项式时间的随机逼近方案，一些困难的多峰问题，相应的马尔可夫链采样器是指数缓慢。最后，我们比较我们的方法得到的边界，现有的边界上的回火马尔可夫链相同的问题。
2022-08-13 math.PR stat.CO stat.ML
Positive-shrinkage and Pretest Estimation in Multiple Regression: A Monte Carlo study with Applications
考虑在线性回归模型中使用一组协变量预测响应变量的问题。如果\emph{a priori}已知或怀疑协变量的子集对模型的总体拟合没有显著贡献，则排除这些协变量的限制模型可能就足够了。另一方面，如果子集提供了有用的信息，则收缩方法结合限制和非限制估计量来获得参数估计。这样的估计优于经典的极大似然估计。任何\emph{prior}信息都可以通过初步测试（或预测试）进行验证，并且根据有效性，可以作为参数限制并入模型中。因此，预检验估计量根据预检验的结果在限制估计量和非限制估计量之间进行选择。使用三个现实生活中的数据集的例子来说明收缩和预测试估计的应用。在不同程度的先验信息的不确定性下，正收缩和预检验估计的性能与无限制估计进行了比较。蒙特卡罗研究再次证实了文献中的估计量的渐近性质。
2011-09-12 stat.AP stat.CO
Unbiased Multilevel Monte Carlo: Stochastic Optimization, Steady-state Simulation, Quantiles, and Other Applications
我们提出了一般原则的设计和分析无偏蒙特卡罗估计在广泛的设置。我们的估计量在轻度正则性条件下是有限的工作归一化方差。我们将我们的估计应用于各种感兴趣的设置，包括样本平均近似的无偏优化，再生过程的无偏稳态模拟，分位数估计和嵌套模拟问题。
2019-04-22 math.OC math.ST stat.CO
Meta variance reduction for Monte Carlo estimation of energetic particle confinement during stellarator optimization
这项工作介绍了Meta估计，结合多个多保真度技术的基础上控制变量，重要性抽样，和信息重用，以产生一个准乘法量的方差减少。当不确定性的输入分布在外环期间发生变化时，所提出的Meta估计在外环应用中特别有效，这通常是基于可靠性的设计和形状优化中的情况。我们得到的外环结果的收敛极限的Meta估计的方差减少的渐近界。我们证明了Meta估计，使用数据驱动的代理模型和偏置密度，在不确定性的动机下的设计问题的磁约束融合，即优化仿星器线圈的设计，以最大限度地提高估计约束的高能粒子。的Meta估计优于所有的成分方差减少技术单独，最终产生两个数量级的加速相比，在相同的计算预算的标准蒙特卡洛估计。
2023-01-18 cs.NA math.NA physics.comp-ph
Regeneration and Fixed-Width Analysis of Markov Chain Monte Carlo Algorithms
在本论文中，我们采用分裂链的方法来分析马尔可夫链，并使用它来建立固定宽度的结果估计得到的马尔可夫链蒙特卡罗程序（MCMC）。理论结果包括再生的必要条件和充分条件的遍历马尔可夫链和再生的CLT版本的一致遍历马尔可夫链与$E_πf^2< \infty.$为了获得MCMC估计的渐近置信区间，强相合估计量的渐近方差是必不可少的。我们放宽了获得这样的估计所需的假设。此外，漂移条件下，非渐近固定宽度的MCMC估计的一般状态空间设置（不一定紧凑），不一定有界的目标函数$f$的结果。最后一章讨论了自适应蒙特卡罗模拟的思想，并给出了在过渡核的路径稳定条件下自适应过程的收敛结果和大数定律。
2009-07-27 stat.CO stat.ME
A Monte Carlo Estimator for an Isolated Polynomial Zero via Contour Integral Representations
University of Missouri（密苏里大学）
提出一种基于围道积分表示的蒙特卡洛估计器，用于无偏估计孤立多项式零点，并给出方差与概率误差界，数值实验验证其有效性。
2026-10-02 math.CV stat.CO
On the Optimization of Approximate Control Variates with Parametrically Defined Estimators
多模型蒙特卡罗方法，例如多级蒙特卡罗（MLMC）和多保真度蒙特卡罗（MFMC），允许在给定一组不同概率的模型的情况下有效地估计感兴趣的量的期望。最近，研究表明MLMC和MFMC估计量都是近似控制变量（ACV）框架的实例[Gorodetsky等人，2020]。在同一项工作中，还表明手工定制的ACV估计量可以在各种模型场景中优于MLMC和MFMC。因为没有理由相信，这些手工定制的估计是最好的无数可能的ACV估计，一个更一般的方法来估计建设追求这项工作。首先，ACV估计方差的一般形式制定。然后，该公式被用来生成参数定义的估计。这些参数定义的估计量允许在可能的ACV估计量的更大域上进行优化。参数定义的估计量进行了测试，在一个大的模型场景，它被发现，更广泛的搜索域启用参数定义的估计量导致更大的方差减少。
2020-12-04 stat.CO
Kernel estimators of asymptotic variance for adaptive Markov chain Monte Carlo
研究了一类自适应马尔可夫链渐近方差（或长期方差）核估计的渐近性态。收敛性研究都在$L^p$和几乎必然。结果也适用于马尔可夫链和改进现有的文献中施加较弱的条件。我们说明的结果与应用程序的$\operatorname {GARCH}(1,1)$马尔可夫模型和贝叶斯逻辑斯谛回归的自适应MCMC算法。
2011-05-16 math.PR math.ST stat.CO
Bayesian Conditional Monte Carlo Algorithms for Sequential Single and Multi-Object filtering
贝叶斯滤波的目的是从一个观察到的过程中顺序跟踪一个隐藏的过程。特别是，序贯蒙特卡罗（SMC）技术传播的时间加权的轨迹，表示的后验概率密度函数（pdf）的隐藏过程给定的可用的意见。另一方面，条件蒙特卡罗（CMC）是一种方差缩减技术，它用给定另一个变量的条件期望来代替感兴趣时刻的估计量。在本文中，我们表明，一些适应，可以利用SMC算法的时间递归性质，以提出自然的时间CMC估计的一些点估计的隐藏过程，这优于相关的粗蒙特卡罗（MC）估计无论样本数。我们接下来表明，我们的贝叶斯CMC估计可以准确地计算，或有效地近似，在一些隐藏的马尔可夫链（HMC）模型，在一些跳跃马尔可夫状态空间系统（JMSS），以及在多目标滤波。最后通过仿真验证了算法的有效性。
2012-10-18 stat.CO
A Monte Carlo Method to Approximate Conditional Expectations based on a Theorem of Besicovitch: Application to Equivariant Estimation of the Parameters of the General Half-Normal Distribution
一个自然的蒙特卡罗方法来近似条件期望的概率框架是合理的启发贝西科维奇覆盖定理微分措施的一般结果。当密度不可用或不容易计算时，该方法特别有用。该方法是通过一些例子来说明，也可以用于统计设置，以近似的条件期望给定的充分统计量，例如。事实上，它被应用于评估一般半正态分布的位置参数的最小风险同变估计（MRE），因为该估计是根据位置和尺度参数的已知值的条件期望来描述的。为了完备性，给出了尺度参数的最小风险同变估计的显式表达式。据我们所知，这些估计还没有在文献中给出。仿真研究实现了这些估计的行为与极大似然和无偏估计量。
2013-06-05 stat.CO
Monte Carlo estimators of first-and total-orders Sobol' indices
本研究比较了两种基于抽样的策略同时估计一阶和全阶方差敏感性指数（又名Sobol指数）的性能。第一种策略是由[8]提出的，是从业者目前采用的方法。第二种方法是本文作者最近才提出的。他们都依赖于不同的估计的一阶和总阶Sobol指数。建立了这两组估计量的渐近正态方差，并从理论和数值上比较了它们的精度。关键词：全局敏感性分析，基于方差的敏感性指标，一阶Sobol指标，全阶Sobol指标，蒙特卡罗估计，渐近正态性
2020-06-15 stat.AP stat.ML
Smoothing with Couplings of Conditional Particle Filters
在状态空间模型中，平滑是指在给定与过程相关的噪声测量的情况下估计潜在的随机过程的任务。我们提出了一个平滑期望的无偏估计量。无偏属性具有方法上的优势：可以并行生成独立估计量，并且可以根据中心极限定理构建置信区间以量化近似误差。为了设计无偏估计量，我们结合了一个通用的去偏技术的马尔可夫链与马尔可夫链蒙特卡罗算法平滑。由此产生的程序是广泛适用的，我们在数值实验中表明，去除的偏见是在一个可控的方差增加。我们建立了温和的假设下提出的估计的有效性。玩具模型，包括一组高信息量的观察，和一个现实的Lotka-Volterra模型与一个棘手的过渡密度提供了数值实验。
2018-09-05 stat.CO stat.ME
Scalable simulation-based inference for implicitly defined models using a metamodel for Monte Carlo log-likelihood estimator
本文针对隐式定义模型提出一种基于蒙特卡洛对数似然估计器元模型的可扩展仿真推断方法，利用局部渐近正态性量化参数不确定性，并通过多个示例验证其准确性与可扩展性。
2025-04-16 math.ST stat.ME stat.TH
Monte Carlo Simulation for Lasso-Type Problems by Estimator Augmentation
在$\ell_1$惩罚下的正则化线性回归，如Lasso，已被证明在变量选择和稀疏建模中是有效的。$\ell_1$惩罚估计量$\hatβ$的采样分布很难确定，因为估计量是由优化问题定义的，该优化问题通常只能用数值求解，并且其许多分量可能正好为零。令$S$为在$\hatβ$处评估的系数向量$β$的$\ell_1$范数的次梯度。我们发现，联合抽样分布的$\hatβ$和$S$，一起被称为一个增广估计，是更容易处理的，并在低维（$p\leq n$）和高维（$p>n$）设置的正态误差分布下具有封闭形式的密度。给定$β$和误差方差$σ^2$，可以采用标准蒙特卡罗方法，例如马尔可夫链蒙特卡罗和重要性抽样，从增广估计量的分布中抽取样本，并计算关于$\hatβ$的抽样分布的期望值。我们开发了一些具体的Monte Carlo算法，并证明了数值例子，我们的方法可以提供巨大的优势和极大的灵活性，在研究$\ell_1$惩罚线性回归的抽样分布。我们还建立了非渐近界$\hatβ$的真实抽样分布和估计值之间的差异，通过插入估计参数，这证明了蒙特卡罗模拟的有效性，即使当$p\gg n\to \infty$从估计的抽样分布。
2014-07-13 stat.ME stat.ML
Unbiased Hamiltonian Monte Carlo with couplings
我们提出了一种方法来并行化哈密顿蒙特卡罗估计。我们的方法构造了一对哈密顿蒙特卡罗链，它们以这样一种方式耦合，即它们在经过一些随机数的迭代后完全相遇。然后可以将这些链组合起来，以便得到的估计量是无偏的。这使得我们可以并行地产生独立的重复，并对它们进行平均，以获得在重复次数限制下一致的估计量，而不是通常的马尔可夫链迭代次数限制。我们调查的可扩展性，我们的耦合在高维度上的一个玩具的例子。算法参数的选择和我们提出的方法的效率，然后说明了一个逻辑斯谛回归与300协变量，和低到细粒度离散化的对数高斯Cox点过程模型。
2018-08-27 stat.CO
Eficient Monte Carlo Simulation of the Left Tail of Positive Gaussian Quadratic Forms
估计高斯随机向量中二次型的左尾在许多应用中具有重要的实际意义。在本文中，我们提出了一个有效的和强大的重要性抽样估计，并赋予有界相对误差性质。与朴素的蒙特卡罗方法相比，该方法显著减少了所需的模拟次数。因此，我们的重要性抽样估计是特别有用的，当感兴趣的概率非常小。选定的模拟结果来说明我们的估计相比，天真的蒙特卡罗在中心和非中心的情况下，以及真实和复杂的设置的效率。
2019-01-26 stat.ME
Stochastic comparisons of stratified sampling techniques for some Monte Carlo estimators
我们比较估计的（本质）上确界和积分的函数$f$定义在一个可测空间时，$f$可以观察到在其域中的点的样本，可能有错误。比较的估计量不同的层次的域，其结果是，更精细的分层是更好的不同的标准。重点是与随机订单的标准。例如，我们不是通过方差（对于无偏估计量）或均方误差来比较$f$的积分估计量，而是在可能的情况下尝试更强的凸阶比较。对于上确界，该准则是基于估计量的随机序。
2011-04-22 math.ST stat.TH
Batch means and spectral variance estimators in Markov chain Monte Carlo
计算蒙特卡罗标准误差（MCSE）是对从马尔可夫链蒙特卡罗实验获得的模拟输出进行统计分析的重要步骤。MCSE通常基于渐近正态分布的方差估计。我们认为谱和批平均值的方法来估计这个方差。特别是，我们建立的条件，保证这些估计是强一致的模拟工作的增加。此外，对于批平均值和重叠批平均值方法，我们建立了确保均方意义上的一致性的条件，这反过来又使我们能够计算最佳批量大小，直到比例的比例常数。最后，我们研究了谱方差和批量均值估计的经验有限样本性质，并为从业者提供了建议。
2010-02-25 math.ST stat.TH
Analytically Optimal Sample Allocations for Nested Multivariate Multifidelity Control Variate Estimators
Georgia Tech（佐治亚理工学院）
本研究针对嵌套多元多保真度控制 variate 估计器，推导了最优分数样本分配的闭式解，提出整数值预算分配新方法与控制 variate 系数鲁棒近似方法，经数值示例验证其估计精度优于现有方法。
2026-10-27 stat.CO
On the use of approximate Bayesian computation Markov chain Monte Carlo with inflated tolerance and post-correction
近似贝叶斯计算允许使用模型模拟来推断具有棘手可能性的复杂概率模型。近似贝叶斯计算的马尔可夫链蒙特卡罗实现通常对容差参数敏感：低容差导致不良混合，大容差导致过度偏差。我们考虑一种方法，使用一个相对较大的公差的马尔可夫链蒙特卡罗采样器，以确保其充分的混合，和后处理的输出导致估计的范围内更精细的公差。我们引入了一个近似的置信区间相关的后校正估计，并提出了一个自适应的近似贝叶斯计算马尔可夫链蒙特卡罗，找到一个“平衡”的容忍度自动水平，接受率优化的基础上。我们的实验表明，基于后处理的估计器可以执行更好的比直接马尔可夫链瞄准一个很好的公差，我们的置信区间是可靠的，我们的自适应算法导致可靠的推理与用户规格很少。
2019-05-16 stat.CO
Randomized Dimension Reduction for Monte Carlo Simulations
我们提出了一种新的无偏算法，通过蒙特卡罗模拟估计f（U）的期望值，其中U是一个向量的d个独立的随机变量，和f是一个函数的d个变量。我们假设f不相等地依赖于它的所有参数。在一定的条件下，我们证明了，对于相同的计算成本，我们的估计的方差是低于标准的蒙特卡罗估计的方差的一个因素的顺序d。我们的方法可以用来获得一个低方差无偏估计量的期望的函数的状态的马尔可夫链在给定的时间步长。我们研究应用波动性预测和随时间变化的队列。数值实验表明，我们的算法大大提高了标准的蒙特卡罗方法的大值d，是高度弹性的间断。
2018-10-26 stat.CO
Markov Chain Truncation for Doubly-Intractable Inference
Stanford University（斯坦福大学）；University of Edinburgh（爱丁堡大学）
计算配分函数（概率分布的归一化常数）通常很困难。重要性抽样的变量给出了正规化子Z的无偏估计，然而，倒数1/Z的无偏估计更难获得。1/Z的无偏估计允许对“双重难处理”分布进行马尔可夫链蒙特卡罗采样，例如马尔可夫随机场或指数随机图的参数后验。我们演示了如何构建无偏估计1/Z给定访问黑盒重要性抽样估计Z。我们适应最近的工作随机序列截断和马尔可夫链耦合，产生估计较低的方差和较高的百分比的积极估计比以前。我们的去偏算法实现简单，并有一些理论和经验的优势，现有的方法。
2017-03-11 cs.LG stat.ML
Smoothing complex-valued signals on Graphs with Monte-Carlo
我们引入新的平滑估计复杂的信号图，最近研究的决定性点过程（DPP）的基础上。这些估计器是从根据该DPP绘制的边和节点的子集构建的，构成树和单循环，即，包含一个循环的连通分量。我们提供了一个朱莉娅实现这些估计，并研究其性能时，适用于排名问题。
2023-02-28 math.ST stat.ME stat.TH
Monte Carlo Simulations on robustness of functional location estimator based on several functional depth
函数型数据分析是近几十年来一个不断发展的研究领域，函数型数据分析的一个基本任务是估计样本位置。一个叫做统计深度的概念已经从多元数据扩展到函数数据，它可以为函数曲线样本中的每个观察提供一个中心向外的顺序。利用深度方法的这种直观性质，基于深度的修剪平均值（其中排除具有较低深度值的曲线）可以用作样本的鲁棒位置估计器。在这个项目中，我们首先介绍了几种最先进的函数数据深度方法。这些深度是半区深度、功能多数深度、带深度、修正带深度和功能空间深度。然后，我们描述了一种基于功能深度的鲁棒位置估计器，并通过仿真测试研究了这些估计器基于不同功能深度方法的性能。最后，测试结果表明，基于功能空间深度和修正的波段深度的估计器表现出更好的性能。
2018-11-05 stat.AP stat.OT
Computing the variance of a conditional expectation via non-nested Monte Carlo
计算条件期望的方差在不确定性量化中经常是重要的。Sun等人介绍了一种无偏嵌套蒙特卡罗估计量，他们称之为$1\frac{1}{2}$级模拟，因为随着计算预算的增加，最佳内部水平样本量是有界的。在这封信中，我们构造无偏非嵌套蒙特卡罗估计的基础上所谓的挑选冻结计划，由于Sobol '。我们的方法来计算高阶矩的条件期望的扩展也进行了讨论。
2016-09-27 stat.CO stat.ME
Quantum Monte Carlo simulation
当代科学研究通常依赖于通过计算机模拟来理解复杂的量子系统。本文开创了量子模拟的统计研究，并提出了一种估计解析难处理量的蒙特卡罗方法。我们推导了所提出的蒙特卡罗量子模拟估计量的偏差和方差，并建立了估计量的渐近理论。该理论被用来设计一个计算方案，以最小化估计的均方误差。
2011-08-03 stat.AP
Monte Carlo Estimation of the Density of the Sum of Dependent Random Variables
本文研究由计算机模型模拟的随机变量和的密度的无偏估计。与Copula依赖的例子进行了数值研究，所提出的估计表现良好的方差相比，其他无偏估计。我们提供的应用和扩展贝叶斯统计的边缘密度估计和估计的随机变量的高斯copula依赖下的和的密度。
2018-09-18 math.PR math.ST stat.TH
Improved multifidelity Monte Carlo estimators based on normalizing flows and dimensionality reduction techniques
针对参数化不同的昂贵模型不确定性传播问题，提出用归一化流与活动子空间、自编码器构建共享高斯子空间，以增强低保真模型相关性并降低多保真蒙特卡洛估计方差。
2024-06-14 stat.ME
Estimation of Local Degree Distributions via Local Weighted Averaging and Monte Carlo Cross-Validation
由于它们能够总结系统元素之间的交互作用，网络已成为许多领域的常见数据类型。由于网络可以是非均匀的，网络的不同区域可能呈现不同的拓扑结构，因此一个重要的主题是它们的局部性质。研究了非齐次网络中顶点的局部度分布估计问题。这些贡献是双重的：我们提出了一个基于局部加权平均的估计器，并建立了一个蒙特卡罗交叉验证过程来选择这个估计器的参数。在一个特定的建模假设下，我们推导出一个预言不等式，该不等式显示了模型参数如何影响估计量的精度。我们说明了我们的方法，通过几个数值实验，真实和合成数据，特别是表明，该方法大大提高了自然，经验估计。
2018-02-26 math.ST stat.AP stat.ME
Variance estimation for Sequential Monte Carlo Algorithms: a backward sampling approach
针对粒子滤波和平滑的在线渐近方差估计问题，提出基于后向权重的新估计器及受PaRIS算法启发的高效估计器，提升了稳定性并降低了方差。
2023-01-02 stat.ME
Usefulness of the Reversible Jump Markov Chain Monte Carlo Model in Regional Flood Frequency Analysis
区域洪水频率分析是一种方便的方法，以减少估计的不确定性时，很少的数据在测量现场。在这项工作中，一个模型，允许一个非零概率区域固定的形状参数。该方法集成在贝叶斯框架内，并使用可逆跳跃技术。随机数据的性能，这个新的估计相比，其他两个模型：传统的贝叶斯分析和指数洪水的方法。结果表明，所提出的估计是绝对适合于区域估计时，只有少数数据在目标网站。此外，与指数洪水估计，目标网站指数洪水误差估计似乎有贝叶斯估计的影响较小。文中还提出了一些关于合并组配置的建议，以提高每个估计器的性能。
2008-02-04 stat.AP
Strong Consistency of Multivariate Spectral Variance Estimators
马尔可夫链蒙特卡罗（MCMC）算法用于估计分布的感兴趣特征。估计中的Monte Carlo误差具有渐近正态分布，其多变量性质迄今为止在MCMC社区中被忽略。给出了马尔可夫链中心极限定理中渐近协方差阵的一类多元谱方差估计，并给出了强相合性的条件。本文研究了向量自回归过程中多元谱方差估计及其特征值的有限样本性质。
2016-07-02 math.ST stat.TH
Doubly Reparameterized Gradient Estimators for Monte Carlo Objectives
Google Brain（谷歌大脑）；New York University（纽约大学）；University of Oxford（牛津大学）；DeepMind（深度思维）
深度潜变量模型已经成为一种流行的模型选择，这是由于引入了可扩展的学习算法（Kingma & Welling，2013; Rezelvis等人，2014年）。这些方法最大限度地提高了观测数据的难处理的对数似然的变分下界。Burda等人（2015）引入了多样本变分界IWAE，它至少与标准变分下界一样紧，并且随着样本数量的增加而变得越来越紧。与直觉相反，随着样本数量的增加，IWAE界限的典型推理网络梯度估计器表现不佳（Rainforth等人，2018; Le等人，2018年）。Roeder等人（2017）提出了一种改进的梯度估计器，但是无法证明它是无偏的。我们表明，它实际上是有偏见的，可以有效地估计与第二个应用程序的重新参数化技巧的偏见。双重重新参数化梯度（DReG）估计器不会随着样本数量的增加而受到影响，解决了先前提出的问题。同样的想法可以用来改进许多最近引入的潜变量模型的训练技术。特别是，我们证明了这个估计量减少了IWAE梯度的方差，重新加权的唤醒-睡眠更新（RWS）（Bornschein & Bengio，2014）和刀切变分推理（JVI）梯度（Nowozin，2018）。最后，我们表明，这种计算效率高，无偏下降的梯度估计转化为提高性能的所有三个目标上的几个建模任务。
2018-11-19 cs.LG stat.ML
On two ways to use determinantal point processes for Monte Carlo integration
Univ. Lille, CNRS, Centrale Lille, UMR 9189 – CRIStAL（里尔大学，法国国家科学研究中心，里尔中央理工大学，UMR 9189 – CRIStAL）
本文探讨了两种基于行列式点过程的蒙特卡洛积分方法，分析了其方差特性，并提出新的采样算法以适应连续空间。
2026-10-06 cs.LG math.ST stat.ML
Online Sequential Monte Carlo smoother for partially observed stochastic differential equations
本文提出了一种新的算法来逼近部分可观测随机微分方程的光滑可加泛函。该方法依赖于最近的程序，该程序允许在线计算这样的近似，即，当接收到观测时，并且计算复杂度随着蒙特卡罗样本的数量线性增长。这种在线平滑器不能直接用于部分观测的随机微分方程的情况下，因为潜在数据的转移密度通常是未知的。我们证明了一个类似的算法仍然可以定义为部分观察到的连续过程，通过替换这个未知量的无偏估计量获得，例如使用一般泊松估计。我们证明了这个估计是一致的，并使用两个模型的数据说明了它的性能。
2017-03-06 stat.AP stat.ME
Control variate selection for Monte Carlo integration
在以被积函数为响应函数、以控制变量为协变量的多元线性回归模型中，通过对截距的普通最小二乘估计，可以实现通过控制变量进行方差缩减的Monte Carlo积分。即使没有关于被积函数的特殊知识，如果控制变量空间足够大，也可以获得显着的效率增益。然而，在普通最小二乘过程中计算大量控制变量可能导致（i）普通最小二乘估计器的某种不稳定性和（ii）可能过高的计算时间。通过Lasso预先选择适当的控制变量来正则化普通最小二乘估计量，结果证明可以在不增加计算成本的情况下提高精度。数值实验的结果证实了浓度不等式的积分误差。
2021-04-01 math.ST stat.TH
Renewal Monte Carlo: Renewal theory based reinforcement learning
McGill University（麦吉尔大学）
针对具有指定起始状态的无限时域马尔可夫决策过程，提出了一种在线强化学习算法，称为更新蒙特卡罗（RMC）。RMC是一种蒙特卡罗算法，保留了蒙特卡罗方法的优点，包括低偏差，简单性和易于实现，同时避免了其高方差和延迟（事件结束）更新的关键缺点。RMC背后的关键思想如下。首先，在任何合理的策略下，奖励过程都是遍历的。因此，根据更新理论，策略的性能等于在一个再生周期内期望的折扣报酬与期望的折扣时间之比。其次，通过仔细检查性能梯度的表达式，我们提出了一个随机近似算法，只需要估计的预期折扣奖励和折扣时间在一个再生周期和它们的梯度。我们提出了两个无偏估计评估性能梯度-一个似然比估计和同时扰动估计-并表明，对于这两个估计，RMC收敛到一个局部最优的政策。我们将RMC算法推广到决策后的状态模型，并提出了一个更快收敛到近似最优策略的变体。最后，我们提出了一个随机生成的MDP，事件触发的通信和库存管理的数值实验。
2018-04-03 cs.LG stat.ML
Monte Carlo Greeks for financial products via approximative transition densities
Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机性研究所）
本文通过WKB方法得到的近似转移密度，提出了高效的高维衍生品估值及其敏感性（“Greeks”）的蒙特卡洛估计量，并应用于Libor市场模型。
2008-07-08 cs.NA math.NA math.PR
Monte Carlo-based tail exponent estimator
本文提出了一种新的金融股票市场尾部指数的估计方法。我们从α-稳定分布下Hill估计的有限样本行为开始研究。使用大的蒙特卡罗模拟，我们表明，希尔估计高估了真正的尾部指数，几乎不能用于小长度的样本。利用我们的结果，我们介绍了一个基于蒙特卡罗的方法估计的尾部指数。我们提出的方法是不敏感的尾部大小的选择，也适用于小数据样本。新的估计量也给出了对称置信区间的无偏结果。最后，我们证明了我们的估计的国际世界股票市场指数的权力。在2002-2005年和2006-2009年两个不同的时期，我们估计了尾部指数。
2012-01-23 q-fin.CP q-fin.ST
