Unbiased Monte Carlo Cluster Updates with Autoregressive Neural Networks
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
复杂高维概率分布的有效采样是计算科学中的一项中心任务。机器学习方法,如自回归神经网络,与马尔可夫链蒙特卡罗抽样一起使用,提供了对这种分布的良好近似,但受到内在偏差或高方差的影响。在这封信中,我们提出了一种方法,使这种近似无偏和低方差。我们的方法使用物理对称性和可变大小的集群更新,利用自回归因子分解的结构。我们测试我们的方法的第一和第二阶相变的经典自旋系统,临界系统和存在的亚稳态显示其可行性。
2021-11-10 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Unbiased Markov Chain Monte Carlo: what, why, and how
本文面向 MCMC 用户系统介绍可消除估计初始化与预热偏差的无偏 MCMC 方法,重点讲解方法论,并说明其在并行计算、收敛诊断和性能评估中的作用。
2024-06-10 stat.ME
Unbiased Hamiltonian Monte Carlo with couplings
我们提出了一种方法来并行化哈密顿蒙特卡罗估计。我们的方法构造了一对哈密顿蒙特卡罗链,它们以这样一种方式耦合,即它们在经过一些随机数的迭代后完全相遇。然后可以将这些链组合起来,以便得到的估计量是无偏的。这使得我们可以并行地产生独立的重复,并对它们进行平均,以获得在重复次数限制下一致的估计量,而不是通常的马尔可夫链迭代次数限制。我们调查的可扩展性,我们的耦合在高维度上的一个玩具的例子。算法参数的选择和我们提出的方法的效率,然后说明了一个逻辑斯谛回归与300协变量,和低到细粒度离散化的对数高斯Cox点过程模型。
2018-08-27 stat.CO
Efficient implementation of Markov chain Monte Carlo when using an unbiased likelihood estimator
当一个无偏估计量的可能性内使用的大都会-黑斯廷斯链,它是必要的权衡的数量的蒙特卡罗样本用于构建这个估计对渐近方差的平均值计算在这个链。许多蒙特卡罗样本通常会导致Metropolis-Hastings平均值的渐近方差低于使用较少样本的相应Metropolis-Hastings平均值。然而,构造似然估计量所需的计算时间随着蒙特卡罗样本的数量而增加。假设对数似然估计引入的加性噪声的分布是高斯分布,方差与蒙特卡罗样本的数量成反比,并且与评估的参数值无关,我们提供了选择样本数量的指南。我们证明了我们的结果,考虑随机波动模型应用于股票指数收益。
2014-09-13 stat.ME
Unbiased approximation of posteriors via coupled particle Markov chain Monte Carlo
本文提出在SMC层面耦合由自适应序贯蒙特卡洛产生的MCMC链,以构建原则上不依赖具体问题的并行无偏后验近似方法,并在horseshoe回归和高斯图模型上验证有效性。
2023-04-27 stat.CO
Integration of bounded monotone functions: Revisiting the nonsequential case, with a focus on unbiased Monte Carlo (randomized) methods
本文重温有界单调函数的数值积分问题,聚焦非序列 Monte Carlo 方法,给出了非序列算法极大 $L^p$ 误差的新下界,并在 p = 2 时研究了控制变量法与分层抽样两种无偏方法的极大误差。
2022-06-21 cs.NA math.NA math.ST
Unbiased Kinetic Langevin Monte Carlo with Inexact Gradients
City University of Hong Kong(香港城市大学);University of Edinburgh(爱丁堡大学);Nanyang Technological University(南洋理工大学);ETH Zurich(苏黎世联邦理工学院)
该研究提出了一种无偏动能 Langevin 蒙特卡罗方法,利用分裂方法和增强梯度近似,实现高精度估计并降低计算成本。
2025-12-03 cs.NA math.NA stat.CO
Unbiased Multi-index Monte Carlo
我们引入了一类新的基于蒙特卡罗的近似期望的随机变量,使他们的法律只能通过某些离散化。从这些定律的离散化版本中采样通常会引入偏差。在本文中,我们展示了如何消除这种偏见,通过引入一个新版本的多指标蒙特卡罗(MIMC),具有减少计算工作量的额外优势,相对于i.i.d.对于给定的误差水平,从最精确的离散化中采样。我们涵盖了新方法的方差和最优性标准的结果的扩展。我们应用的方法来计算一个随机系数的偏微分方程的解的无偏软化版本的问题。第二个应用程序涉及的贝叶斯推断(平滑问题)的无限维信号建模的随机偏微分方程的解决方案,观察到离散空间网格和离散时间。这两个应用程序都辅以数值模拟。
2017-10-16 stat.CO
Unbiased Markov chain Monte Carlo with couplings
马尔可夫链蒙特卡罗(MCMC)方法提供了一致的积分的迭代次数达到无穷大。MCMC估计量通常在任何固定次数的迭代后都有偏。我们建议通过使用马尔可夫链的耦合以及Glynn和Rhee(2014)的伸缩和参数来消除这种偏差。得到的无偏估计量可以独立地并行计算。我们讨论流行的MCMC算法的实际耦合。我们建立了理论上的有效性,建议估计和研究其效率相对于底层MCMC算法。最后,我们说明了玩具的例子,在伊辛模型的临界温度附近的方法的性能和局限性,在一个高维变量选择问题,并在近似的切割分布所产生的贝叶斯推断模型的多个模块。
2019-07-17 stat.CO stat.ME
Particle filter with rejection control and unbiased estimator of the marginal likelihood
我们考虑在序贯蒙特卡罗方法中结合使用剩余和部分拒绝控制,也称为粒子滤波器。虽然方差减少性能的拒绝控制是已知的,有没有(据我们所知)在这种类型的粒子滤波器的边际似然(也称为模型证据或归一化常数)的无偏估计的任何工作。能够无偏差地估计边际似然对于模型比较、可解释和可靠置信区间的计算以及精确近似方法(例如粒子马尔可夫链蒙特卡罗)是高度相关的。在本文中,我们提出了一个粒子滤波器与拒绝控制,使无偏估计的边际似然。
2020-03-04 stat.CO stat.ML
Unbiased Monte Carlo: posterior estimation for intractable/infinite-dimensional models
我们提供了一个一般的方法,无偏估计棘手的随机模型。我们考虑的情况下,目标分布可以写为一个适当的限制的分布,传统的方法需要截断这样一个代表性的系统偏差。例如,目标分布可以表示为合适的希尔伯特空间中的基展开的$L^2$极限;或者感兴趣的分布可以表示为随机变量序列的弱极限,如MCMC中。我们的主要动机来自于无限维模型,这些模型可以用基函数的级数展开(例如由Karhunen-Loeve展开给出的)来参数化。我们考虑直接无偏估计沿这样的扩展方案,以及那些基于MCMC计划,由于其维数,不能直接implement- mented,但可以有效地估计无偏。对于我们所有的方法,我们给出理论来证明强大的蒙特卡罗实现的数值稳定性,并在某些情况下,我们用模拟说明。有趣的是,我们的方法的计算效率通常与有偏见的简单方法相当。我们提出的方法的有效性的关键是适当的耦合,其中许多强烈共鸣的蒙特卡罗结构中使用的耦合从过去的算法及其变体的建设。
2014-11-27 math.ST stat.ME stat.TH
Towards a turnkey approach to unbiased Monte Carlo estimation of smooth functions of expectations
提出一种通用即用型方法,通过随机截断泰勒级数并自动调参,将蒙特卡洛样本转化为期望的光滑函数的无偏估计,适用于对数与倒数函数,并在多种统计应用中验证其可靠性与竞争力。
2025-03-31 stat.CO stat.ME
Unbiased Markov chain Monte Carlo for intractable target distributions
在统计分析中,尤其是在具有难处理的似然函数的模型的贝叶斯推断中,当被积函数本身不能逐点计算时执行数值积分是一项具有挑战性的任务。马尔可夫链蒙特卡罗(MCMC)算法已经提出了这种设置,如隐变量模型的伪边缘方法和一类无向图模型的交换算法。与任何MCMC算法一样,所得到的估计量在迭代次数的限制下是渐近合理的,但是由于马尔可夫链在平稳性之外开始,因此对于任何固定的迭代次数都表现出偏差。这种“老化”偏差使MCMC计算的并行处理器的使用复杂化。我们展示了如何使用耦合技术来生成无偏估计量在有限时间内,通用MCMC算法的最新进展的基础上。我们建立了理论上的有效性,其中一些程序通过扩展现有的结果,以涵盖的情况下,多项式遍历马尔可夫链。所提出的估计的效率与标准的MCMC估计,理论参数和数值实验,包括状态空间模型和伊辛模型。
2020-06-15 stat.CO
Multilevel Monte Carlo estimation of log marginal likelihood
University of Tokyo(东京大学)
在这个简短的说明中,我们提供了一个无偏的多级蒙特卡罗估计的对数边际似然,并讨论其应用变分贝叶斯。
2019-12-23 cs.LG stat.ML
Unbiased and Consistent Nested Sampling via Sequential Monte Carlo
本文提出 NS-SMC 与 ANS-SMC 两种序贯蒙特卡洛嵌套抽样算法,在 MCMC 相关样本下保证收敛与边际似然无偏估计,并通过数值实验验证性能。
2025-03-19 stat.CO
Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte Carlo
University of Johannesburg(约翰内斯堡大学);University of Witwatersrand(威特沃特斯兰德大学)
机器学习中目标后验分布的马尔可夫链蒙特卡罗推断主要通过哈密顿蒙特卡罗及其变体进行。这是由于基于哈密顿蒙特卡罗的采样器抑制随机游走行为的能力。与其他马尔可夫链蒙特卡罗方法一样,哈密顿蒙特卡罗产生自相关样本,这导致估计量的高方差,以及所生成样本的低有效样本量率。先前已经证明,与普通哈密顿蒙特卡罗相比,向哈密顿蒙特卡罗添加对偶采样可以产生更高的有效采样率。在本文中,我们提出了新的算法,这是对立的版本的黎曼流形哈密顿蒙特卡罗和量子启发哈密顿蒙特卡罗。黎曼流形哈密顿蒙特卡罗算法通过考虑目标的局部几何形状来改进哈密顿蒙特卡罗,这对于可能在参数中表现出强相关性的目标密度是有益的。受量子启发的哈密顿蒙特卡罗是基于可以具有随机质量的量子粒子。量子启发的哈密顿蒙特卡罗使用随机质量矩阵,这导致比哈密顿蒙特卡罗更好的采样尖峰和多模态分布,如跳跃扩散过程。使用真实世界的金融市场数据的跳跃扩散过程进行分析,以及使用贝叶斯逻辑斯谛回归的真实世界的基准分类任务。
2021-07-05 cs.LG stat.CO stat.ML
Computing the variance of a conditional expectation via non-nested Monte Carlo
计算条件期望的方差在不确定性量化中经常是重要的。Sun等人介绍了一种无偏嵌套蒙特卡罗估计量,他们称之为$1\frac{1}{2}$级模拟,因为随着计算预算的增加,最佳内部水平样本量是有界的。在这封信中,我们构造无偏非嵌套蒙特卡罗估计的基础上所谓的挑选冻结计划,由于Sobol '。我们的方法来计算高阶矩的条件期望的扩展也进行了讨论。
2016-09-27 stat.CO stat.ME
Monte Carlo Estimation of the Density of the Sum of Dependent Random Variables
本文研究由计算机模型模拟的随机变量和的密度的无偏估计。与Copula依赖的例子进行了数值研究,所提出的估计表现良好的方差相比,其他无偏估计。我们提供的应用和扩展贝叶斯统计的边缘密度估计和估计的随机变量的高斯copula依赖下的和的密度。
2018-09-18 math.PR math.ST stat.TH
Subspace Langevin Monte Carlo
Brandeis University(布兰迪大学)
针对高维分布采样的计算挑战,提出子空间朗之万蒙特卡洛方法,通过投影到子采样特征块推广现有方法,兼具适应性与效率,建立了误差保证并通过实验验证了其在病态分布采样中的有效性。
2025-05-19 cs.LG stat.ML
Combining Normalizing Flows and Quasi-Monte Carlo
本文提出将拟蒙特卡洛采样与归一化流相结合,用拟蒙特卡洛采样流的初始分布,实验表明该组合估计量方差显著低于经典蒙特卡洛采样。
2024-01-11 stat.CO stat.ML
Variational Marginal Particle Filters
Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院)
状态空间模型的变分推断是一个困难的问题。最近的工作集中于从无偏的序贯蒙特卡罗估计量推导变分目标。我们发现,边缘粒子滤波器是从序贯蒙特卡罗通过应用Rao-Blackwellization操作,牺牲了减少方差和可微的轨迹信息。我们提出了变分边缘粒子滤波器(VMPF),这是一个可微的和重新参数化的变分滤波目标的SSM的基础上的无偏估计量。我们发现,VMPF有偏梯度提供更紧密的界限比以前的目标,和无偏的重新参数化梯度有时是有益的。
2022-03-14 cs.LG stat.ML
Prediction-Enhanced Monte Carlo: A Machine Learning View on Control Variate
Morgan Stanley(摩根士丹利);Columbia University(哥伦比亚大学)
研究针对蒙特卡洛模拟计算成本过高的问题,提出预测增强蒙特卡洛(PEMC)框架,将其应用于金融衍生品定价、救护车调度等场景,可在保持无偏性的同时降低方差,提升模拟效率。
2026-08-05 cs.CE cs.LG q-fin.PR
Unbiased constrained sampling with Self-Concordant Barrier Hamiltonian Monte Carlo
École polytechnique(巴黎综合理工学院);Institut Polytechnique de Paris(巴黎综合理工学院联盟);ENS(巴黎高等师范学校);PSL University(巴黎文理研究大学)
本文提出障碍哈密顿蒙特卡洛(BHMC)方法,通过引入基于自和谐障碍的Hessian度量和对合检查步骤,解决了黎曼流形上HMC采样中因不可分离常微分方程导致的偏差问题,实现了多胞体上约束分布的无偏采样。
2023-10-28 cs.LG math.PR stat.ML
Adaptive Tuning Of Hamiltonian Monte Carlo Within Sequential Monte Carlo
序贯蒙特卡罗(SMC)采样器形成了一个有吸引力的替代MCMC贝叶斯计算。然而,它们的性能在很大程度上取决于用于恢复粒子的马尔可夫核。我们讨论了如何自动校准(使用当前粒子)哈密顿蒙特卡罗内核SMC。为此,我们建立在Fearnhead和Taylor(2013)的自适应SMC方法的基础上,我们还提出了替代方法。我们通过广泛的数值研究说明了在SMC采样器内使用HMC内核的优点。
2020-02-12 stat.CO
The Convergence of Markov chain Monte Carlo Methods: From the Metropolis method to Hamiltonian Monte Carlo
从20世纪50年代开始到应用统计学的现代前沿,马尔可夫链蒙特卡罗一直是统计计算中最普遍和最成功的方法之一。在这段时间里,它的发展受到越来越困难的问题和物理学新技术的推动。在这篇文章中,我将回顾马尔可夫链蒙特卡罗的历史,从一开始的大都会方法,今天的国家的最先进的哈密顿蒙特卡罗。在此过程中,我将专注于该方法的统计和物理观点之间不断发展的相互作用。
2018-01-10 physics.hist-ph stat.ME
The $m$th Gini index estimator: Unbiasedness for gamma populations
本文证明了样本第 $m$ 个基尼指数是伽马分布总体第 $m$ 个基尼指数的无偏估计量,并通过蒙特卡洛模拟在有限样本下验证了其无偏性。
2025-04-27 stat.ME
Inference with Hamiltonian Sequential Monte Carlo Simulators
本文结合序贯蒙特卡罗模拟器和哈密顿蒙特卡罗模拟器的优点,提出了一种新的蒙特卡罗模拟器。结果是一种对多模态和复杂形状具有鲁棒性的方法,用于在存在困难的似然性或目标函数的情况下进行推理。提供了几个例子。
2018-12-19 stat.CO
Quasi continuous level Monte Carlo for random elliptic PDEs
本文提出拟连续水平蒙特卡洛方法,用拟蒙特卡洛序列生成指数分布随机变量,显著降低方差,在随机椭圆偏微分方程示例中明显优于多水平和连续水平蒙特卡洛。
2023-10-12 cs.NA math.NA math.PR
Covariance estimation using h-statistics in Monte Carlo and multilevel Monte Carlo methods
本文提出利用 h-statistics 的 MC 与 MLMC 无偏协方差估计方法,以闭式形式构造无偏均方误差,并通过一维随机椭圆 PDE 验证数值效果。
2024-05-08 cs.NA math.NA math.ST
Discussion of "Sequential Quasi-Monte Carlo" by Mathieu Gerber and Nicolas Chopin
关于拟蒙特卡罗估计在应用中降低方差可能性的讨论。进一步的细节在随附的论文“拟蒙特卡罗的方差缩减“中提供。
2015-01-14 stat.CO
Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques
三种抽样方法进行了比较,效率的各种复杂性的测试问题,其中解析求积。比较的方法是伪随机数的蒙特卡罗,拉丁超立方抽样,准蒙特卡罗抽样的基础上Sobol序列。一般的结果显示出优越的性能的准蒙特卡罗方法的基础上Sobol序列与理论预测。拉丁超立方抽样可以比蒙特卡罗方法和准蒙特卡罗方法更有效,但后者的不等式适用于减少的函数类型集和少量的采样点。总之,拟蒙特卡罗方法将出现最安全的赌注时,集成功能的未知类型。
2015-05-10 stat.AP stat.CO
Supplement to "Markov Chain Monte Carlo Based on Deterministic Transformations"
这是对文章“基于确定性变换的马尔可夫链蒙特卡罗”的补充,可在http://arxiv.org/abs/1106.5850上获得
2013-06-28 stat.CO
Unbiased inference for discretely observed hidden Markov model diffusions
我们开发了一个贝叶斯推断方法离散观察到的扩散和噪声,这是免费的离散化偏见。与现有的无偏推理方法不同,我们的方法不依赖于精确的模拟技术。相反,我们的方法使用标准的时间离散近似的扩散,如欧拉-丸山计划。我们的方法是基于粒子边缘Metropolis-Hastings,粒子滤波器,随机多级Monte Carlo,和重要性抽样类型的近似马尔可夫链蒙特卡罗校正。由此产生的估计导致的推断没有偏见的时间离散的马尔可夫链迭代次数的增加。我们给出了收敛结果,并建议分配算法的输入。我们的方法承认一个简单的并行化,可以计算效率。用户友好的方法示出了三个例子,其中底层的扩散是一个Ornstein-乌伦贝克过程,几何布朗运动,和一个2D不可逆的朗之万方程。
2021-03-09 math.PR stat.CO stat.ME
Repetition effects in a Sequential Monte Carlo sampler
本文研究了近期为政治选区重划引入的序贯蒙特卡洛(SMC)方法中样本重复现象的普遍性。
2024-09-24 cs.CY math.PR math.ST
A Short Review of Ergodicity and Convergence of Markov chain Monte Carlo Estimators
这篇短文回顾了量化马尔可夫链蒙特卡罗估计的渐近收敛和前渐近收敛的基本理论。
2021-10-13 math.PR math.ST stat.ME
Identifying the Optimal Integration Time in Hamiltonian Monte Carlo
通过利用光滑概率系统的自然几何结构,哈密顿蒙特卡罗产生计算效率高的马尔可夫链蒙特卡罗估计。至少在算法足够好的情况下。在本文中,我将展示如何几何基础的哈密顿蒙特卡罗隐含地确定这些参数的最佳选择,特别是积分时间。然后,我认为这些原则在现有的算法和一个新的实现称为\emph{Exhaustive Hamiltonian Monte Carlo}的实际后果,然后在一些说明性的例子证明这些想法的效用。
2016-01-02 stat.CO stat.ME
An Annealed Sequential Monte Carlo Method for Bayesian Phylogenetics
我们描述了一个“并行”的贝叶斯系统发育推断,退火顺序蒙特卡罗方法,基于最近的进展,如退火参数的自适应确定顺序蒙特卡罗文献。该算法提供了一个近似的后验分布的树木和进化参数,以及一个无偏估计的边际似然。该无偏性可用于检验后验仿真软件的正确性。我们评估系统发育退火序贯蒙特卡罗的性能,通过审查和比较与其他计算贝叶斯系统发育方法,特别是不同的边际似然估计方法。与以前的序列蒙特卡罗方法在遗传学中,我们的退火方法可以利用标准的马尔可夫链蒙特卡罗树移动,因此受益于大量的库存,这种移动在文献中。因此,退火顺序蒙特卡罗方法应该是相对容易纳入现有的系统发育软件包的基础上马尔可夫链蒙特卡罗算法。我们用模拟研究和真实数据分析来说明我们的方法。
2019-03-13 q-bio.PE stat.CO
The Geometry of Hamiltonian Monte Carlo
哈密顿蒙特卡罗是一种有效的马尔可夫链蒙特卡罗技术,它系统地探索了概率分布;然而,它最终取决于选择合适的哈密尔顿函数。通过考察哈密顿动力学的辛几何基础和马尔可夫链蒙特卡罗的要求,我们构造了可容许哈密顿量的一般形式,并提出了一种在贝叶斯推断中具有潜在应用的特殊选择.
2011-12-18 physics.data-an stat.ME
Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算(ABC)是处理具有难处理的可能性的模型的一般方法。在这项工作中,我们推导出基于QMC(准蒙特卡罗)序列的ABC算法。我们表明,由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体,逐步适应提案分布和接受阈值。我们说明了我们的QMC方法,通过几个例子从ABC文学。保留字:近似贝叶斯计算,无似然推断,拟蒙特卡罗,随机化拟蒙特卡罗,自适应重要性抽样
2018-05-07 stat.CO
Asymptotic Moments Matching to Uniformly Minimum Variance Unbiased Estimation under Ewens Sampling Formula
Ewens抽样公式是与正整数的随机划分有关的分布。在本研究中,我们研究了分布下参数估计的非存在解问题。在此基础上,利用Ewens抽样公式,得到了一致最小方差无偏估计量的一阶矩和二阶矩匹配估计量。蒙特卡洛模拟研究进行评估的效率所产生的估计。
2021-05-24 math.ST stat.TH
Forward Event-Chain Monte Carlo: Fast sampling by randomness control in irreversible Markov chains
不可逆和无拒绝蒙特卡罗方法,最近在物理学中以事件链的名义开发,在统计学中称为分段确定性蒙特卡罗(PDMC),已被证明比标准蒙特卡罗方法产生明显的加速,这要归功于它们的随机游走行为的减少。然而,当将这样的方案应用于标准统计模型时,为了正确性,通常需要引入额外的随机化。我们在这里提出了一类新的事件链蒙特卡罗方法,减少这种额外的随机化到最低限度。我们比较了这种新方法的效率,标准的PDMC和蒙特卡罗方法。加速到几个数量级和减少尺寸缩放展出。
2020-04-27 stat.CO
Sweave Documentation for "Implementing Markov chain Monte Carlo: Estimating with confidence"
该文件是Flegal,J.M. Jones,G. L.(2010),“Implementing马尔可夫链蒙特卡罗:Estimating with confidence”,in Handbook of马尔可夫链蒙特卡罗,edited by Brooks,S.,Gelman,A.,琼斯,G.,和Meng,X.出版社:Chapman & Hall/CRC Press
2010-06-24 stat.OT
An invitation to sequential Monte Carlo samplers
统计学家经常使用蒙特卡罗方法来近似概率分布,主要是马尔可夫链蒙特卡罗和重要性抽样。序贯蒙特卡罗采样器是一类结合了两种技术来近似感兴趣的分布及其归一化常数的算法。这些采样器起源于状态空间模型的粒子滤波,并已成为通用和可扩展的采样技术。本文描述了序贯蒙特卡罗采样器及其可能的实现,认为它们在统计中仍然没有得到充分的使用,尽管它们能够执行顺序推理并利用并行处理资源以及其他潜在的好处。
2022-06-17 stat.CO stat.ME
The Fundamental Incompatibility of Hamiltonian Monte Carlo and Data Subsampling
利用哈密顿流的相干探索,哈密顿蒙特卡罗产生计算效率高的蒙特卡罗估计,即使对于复杂和高维的目标分布。然而,当遇到数据密集型应用程序时,该算法的实现可能过于昂贵,这让我们需要考虑数据二次采样等近似方法的实用性。在本文中,我演示了如何从根本上妥协的有效探索汉密尔顿流的数据二次采样,因此可扩展性能的哈密顿蒙特卡罗本身。
2015-02-05 stat.ME
Simple rejection Monte Carlo algorithm and its application to multivariate statistical inference
本文针对拒绝蒙特卡洛算法应用较少的问题,提出一种简化版本,并以多元分布抽样和多元积分为例展示其在统计推断中的具体应用。
2024-02-27 stat.CO
Multilevel Monte Carlo simulation of a diffusion with non-smooth drift
我们表明,Lasso和贝叶斯Lasso是非常接近时,稀疏性是大的,噪声是小的。然后我们提出用多值随机微分方程求解贝叶斯套索。给出了三种离散化算法,并给出了计算蒙特卡罗(MC)、多级蒙特卡罗(MLMC)和MCMC算法的代价的方法。
2015-04-24 math.ST stat.TH
Zero Variance and Hamiltonian Monte Carlo Methods in GARCH Models
在本文中,我们发展了贝叶斯哈密顿蒙特卡罗方法的推断在非对称的Gestival模型在不同的分布的误差项。我们实现了零方差和哈密顿蒙特卡罗计划的参数估计,试图减少标准误的估计,从而获得更有效的结果,在一个小的额外的计算成本的价格。
2017-10-20 stat.CO
More on the restricted almost unbiased Liu-estimator in Logistic regression
为了解决逻辑斯谛回归模型中的多重共线性问题,当先验信息以随机线性约束的形式存在时,本文提出了一种新的估计量--随机约束几乎无偏逻辑斯刘估计量(SRAULLE).蒙特卡罗模拟研究进行了比较的性能,建议的估计与一些现有的估计在标量均方误差(SMSE)的意义。最后,通过一个实际数据的例子来评价估计器的性能。
2017-11-28 math.ST stat.TH
A general method for debiasing a Monte Carlo estimator
University of Waterloo(滑铁卢大学)
提出一种通用方法,对数值积分、蒙特卡洛近似或牛顿-拉夫森迭代等过程进行无偏估计,并应用于Heston随机波动率模型中的期权定价。
2010-06-16 cs.NA math.NA q-fin.CP
Finite Sample Complexity of Sequential Monte Carlo Estimators
本文给出了静态空间上序贯蒙特卡罗采样器的有限样本误差的界。我们的方法明确地将算法的性能与所选分布序列的属性和相关马尔可夫核的混合属性联系起来。这使我们能够给出第一个有限样本比较其他蒙特卡罗计划。我们得到了各种目标分布的序贯蒙特卡罗近似的复杂性的界限,包括有限空间,产品措施,和对数凹分布,包括贝叶斯逻辑斯谛回归。所得到的界限是在一个对数因子内的类似界限可获得马尔可夫链蒙特卡罗。
2022-08-18 math.PR stat.CO stat.ME
Introducing Monte Carlo Methods with R Solutions to Odd-Numbered Exercises
这是我们的书“Introducing蒙特卡罗Methods with R”中奇数练习的解决方案手册,由Springer Verlag于2009年12月10日出版,并免费提供给每个人。
2010-01-17 stat.CO stat.ME
Density Estimation by Monte Carlo and Quasi-Monte Carlo
估计连续随机变量X的密度在统计学中已经被广泛研究,在设置中,X的n个独立观测值被先验地给出,并且人们希望从中估计密度。流行的方法包括直方图和核密度估计。在这篇综述论文中,我们感兴趣的是,而不是在这种情况下,观察产生的蒙特卡罗模拟从一个模型。然后,可以利用方差缩减方法,如分层,条件蒙特卡罗,和随机准蒙特卡罗(RQMC),并获得一个更准确的密度估计比标准的蒙特卡罗对于给定的计算预算。我们讨论了几种方法,在最近的论文中提出,重点是利用RQMC的方法。第一个想法是直接将RQMC与标准核密度估计器相结合。另一种方法是采用基于模拟的导数估计方法,如平滑扰动分析或似然比方法,以获得cdf的连续估计量,其导数是密度的无偏估计量。这可以与RQMC结合使用。我们总结了最近的理论结果与这些方法,并给出了它们如何提高均方积分误差的收敛性的数值例子。
2021-09-07 stat.CO
Likelihood-free Markov chain Monte Carlo
出现在MCMC手册中,S。P. Brooks,A. Gelman,G.琼斯和X L. Meng(eds),Chapman & Hall.
2010-01-13 stat.ME
Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗(MCMC)是一种模拟方法,通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer(1992)开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法,提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME