A randomized Halton algorithm in R
随机准蒙特卡罗(RQMC)抽样与普通蒙特卡罗(MC)抽样相比,可以使方差降低几个数量级。效率提高的程度因问题而异,并且很难预测。本文介绍了一个R函数rhalton,它可以产生Halton序列的加扰版本。在某些问题上,它带来了数千倍的效率提升。在其他问题上,效率增益很小。该代码的目的是使它很容易确定是否一个给定的被积函数将受益于RQMC采样。$[0,1]^d$中的n个点的RQMC样本可以稍后扩展到更大的n和/或d。
2017-06-22 cs.MS cs.NA math.NA
Empirical Bernstein and betting confidence intervals for randomized quasi-Monte Carlo
University of California, San Diego(加州大学圣地亚哥分校);Illinois Institute of Technology(伊利诺伊理工学院);Stanford University(斯坦福大学);University of Chicago(芝加哥大学)
本文研究了在已知界限条件下,使用经验伯恩斯坦和投注置信区间优化随机拟蒙特卡洛方法的置信区间宽度。
2026-02-02 cs.NA math.NA stat.CO
Connecting the Dots: Numerical Randomized Hamiltonian Monte Carlo with State-Dependent Event Rates
介绍了数值广义随机哈密顿蒙特卡罗方法,它是一种稳健、易于使用和计算速度快的方法,可替代传统的马尔可夫链蒙特卡罗方法,用于连续目标分布的计算。定义了一类广泛的分段确定性马尔可夫过程,通过允许状态依赖的事件率来推广随机HMC(Bou-Rabee和Sanz-Serna,2017)。在非常温和的限制下,这样的过程将具有期望的目标分布作为不变分布。其次,这种过程的数值实现,基于自适应数值积分的二阶常微分方程(ODE)被认为是。数值实现产生一个近似的,但高度鲁棒的算法,不同于传统的哈密顿蒙特卡罗,使利用完整的哈密尔顿轨迹(因此标题)。所提出的算法可以产生大的加速比和相对于相关基准的稳定性的改进,同时引起相对于整体蒙特卡罗误差可以忽略不计的数值偏差。授予访问一个高质量的ODE代码,所提出的方法是易于实现和使用,即使是极具挑战性的和高维的目标分布。
2022-01-31 stat.CO stat.ME stat.ML
A Survey of Quantum Alternatives to Randomized Algorithms: Monte Carlo Integration and Beyond
Quantum Technologies Group, HSBC Holdings Plc.(汇丰控股量子技术组);HSBC(汇丰银行);Czech Technical University in Prague(布拉格捷克理工大学);Raytheon(雷神公司)
综述量子电路实现蒙特卡洛方法以加速计算,介绍替代经典蒙特卡洛的量子算法及自适应增强方案。
2026-07-01 cs.DS cs.NA math.NA
Convergence rate of randomized midpoint Langevin Monte Carlo
本文针对随机中点朗之万蒙特卡洛(RLMC),建立常步长版本的指数遍历性,设计递减步长RLMC并给出其函数类距离下的收敛速度,为该算法的理论分析提供关键结果。
2025-11-17 math.PR math.ST stat.TH
Integration of bounded monotone functions: Revisiting the nonsequential case, with a focus on unbiased Monte Carlo (randomized) methods
本文重温有界单调函数的数值积分问题,聚焦非序列 Monte Carlo 方法,给出了非序列算法极大 $L^p$ 误差的新下界,并在 p = 2 时研究了控制变量法与分层抽样两种无偏方法的极大误差。
2022-06-21 cs.NA math.NA math.ST
Monte Carlo wavelets: a randomized approach to frame discretization
在本文中,我们提出并研究了一般域上的连续小波族,以及相应的随机离散化,我们称之为蒙特卡洛小波。首先,利用再生核希尔伯特空间理论和相关的积分算子,我们定义了一个连续小波族的谱演算。然后,我们提出了一种基于积分算子的Monte Carlo估计的随机离散化方法。使用浓度的测量结果,我们建立这样的离散化的收敛性,并在自然规律性假设下推导出收敛速度。
2019-10-23 math.FA stat.ML
RPEM: Randomized Monte Carlo Parametric Expectation Maximization Algorithm
受量子蒙特卡罗方法的启发,通过始终使用无偏估计量,并利用Metropolis算法同时对离散和连续变量进行采样,提出了一种新的、快速、准确的高性能蒙特卡罗参数期望最大化(MCPEM)算法.我们将其命名为随机参数期望最大化(RPEM)。特别是,我们比较了RPEM与Monolix的SAEM和Certara的QRPEM的一个现实的两室伏立康唑模型与常微分方程(ODE)和使用模拟数据。我们发现,RPEM比SAEM和QRPEM快3到4倍,并且在重建总体参数时比它们更准确。
2022-12-23 stat.ME
Dynamic Skewness in Stochastic Volatility Models: A Penalized Prior Approach
本文提出了 SMSN 族中的动态偏度随机波动率模型(DynSSV-SMSN),通过引入惩罚模型复杂性的先验来平衡灵活性与简洁性,仿真与加密货币实证表明该模型在拟合和性能上优于经典选择。
2025-08-14 q-fin.ST stat.AP
Randomized Dimension Reduction for Monte Carlo Simulations
我们提出了一种新的无偏算法,通过蒙特卡罗模拟估计f(U)的期望值,其中U是一个向量的d个独立的随机变量,和f是一个函数的d个变量。我们假设f不相等地依赖于它的所有参数。在一定的条件下,我们证明了,对于相同的计算成本,我们的估计的方差是低于标准的蒙特卡罗估计的方差的一个因素的顺序d。我们的方法可以用来获得一个低方差无偏估计量的期望的函数的状态的马尔可夫链在给定的时间步长。我们研究应用波动性预测和随时间变化的队列。数值实验表明,我们的算法大大提高了标准的蒙特卡罗方法的大值d,是高度弹性的间断。
2018-10-26 stat.CO
An analysis of multivariate measures of skewness and kurtosis of skew-elliptical distributions
本文针对偏椭圆分布族,系统推导了除Song测度外的八种多元偏度测度及Mardia峰度测度的精确表达式,并通过模拟和真实数据验证了这些测度的实用性。
2023-11-30 math.ST q-fin.RM stat.TH
Numerical Generalized Randomized Hamiltonian Monte Carlo for piecewise smooth target densities
本文提出数值广义随机化哈密顿蒙特卡洛方法,用于采样具有不连续梯度的分段光滑目标密度,结合HMC与连续时间过程优势,确保目标分布为不变分布,并验证于模拟及现实模型。
2025-04-25 stat.CO stat.ME stat.ML
Randomized Hamiltonian Monte Carlo as Scaling Limit of the Bouncy Particle Sampler and Dimension-Free Convergence Rates
弹性粒子采样器是一种基于不可逆分段确定性马尔可夫过程的马尔可夫链蒙特卡罗方法。在该方案中,粒子探索的状态空间的利益,根据一个线性动力学,这是改变反弹的超平面切线的梯度的负对数目标密度在非齐次泊松过程(PP)的到达时间,并通过随机扰动其速度在齐次PP的到达时间。在正则条件下,我们在这里表明,对应于粒子的第一个组成部分和其相应的速度的过程收敛弱随机哈密顿蒙特卡罗(RHMC)过程的周围空间的维度趋于无穷大。RHMC是另一种分段确定性非可逆马尔可夫过程,其中通过随机扰动动量分量,在齐次PP的到达时间处改变Hamilton动力学。然后,我们建立了无量纲的RHMC的收敛速度强对数凹目标有界海森使用耦合的思想和hypoverrivity技术。
2020-12-23 math.PR stat.CO
Randomized Time Riemannian Manifold Hamiltonian Monte Carlo
哈密顿蒙特卡罗(Hamiltonian Monte Carlo,HMC)算法结合了随机更新和Metropolis修正,是一种常用的采样方法,但在连续时间内收敛速度较慢。Bou-Rabee和Sanz-Serna最近的一篇论文(Ann. Appl. Prob.,27:2159-2194,2017)证明了这个问题可以通过简单地随机化哈密顿路径的持续时间参数来解决。在本文中,我们使用相同的思想来增强HMC的约束版本的抽样效率,这在各种应用程序设置中具有潜在的好处。我们证明了这两个保守的平稳分布和遍历的方法。我们还比较了模型问题的数值研究中各种方案的性能,包括高维协方差估计的应用。
2022-08-14 math.ST stat.CO stat.ME
Improving Monte Carlo randomized approximation schemes
考虑使用蒙特卡罗方法的随机近似方案中的一个中心问题。给定一系列独立同分布的随机变量$X_1,X_2,\ldots$,其平均值为$μ$,标准差至多为$c μ$,其中$c$是已知常数,以及$ε,δ> 0$,为$μ$创建估计值$\hat μ$,使得$\text{P}(|\hat μ- μ| > εμ) \leq δ$。这种技术已被用于建立随机逼近计划的体积凸体,永久的非负矩阵,线性扩张的偏序集的数量,分区功能的伊辛模型和许多其他问题。现有的方法使用(到最高阶)$19.35 (c/ε)^2 \ln(δ^{-1})$样品。这是常数因子的最佳可能数,至于什么是最佳常数是一个悬而未决的问题。这项工作提供了一个易于应用的估计,只使用$6.96 (c/ε)^2 \ln(δ^{-1})$样本的领先优势。
2014-11-14 cs.CC math.PR math.ST
Coupled MCMC with a randomized acceptance probability
我们认为大都会黑斯廷斯MCMC的情况下,目标分布的比率的日志被替换的估计。该估计是基于一个独立的在线蒙特卡罗模拟的m个样本。在估计量分布的某些条件下,该过程类似于具有随机转移核的Metropolis Hastings MCMC。当是这种情况时,存在对估计的接受概率的校正,其确保目标分布保持平衡分布。Ceperley和Dewing(1999)的罚函数法、Ball等人(2003)的通用算法和Murray等人(2006)的单变量交换算法的最简单版本都是特例。在许多感兴趣的应用中,校正项无法计算。我们认为近似版本的算法。我们表明,平均O(m)的模拟实现的长度为n的随机链的样本是完全相同的耦合(精确)随机链。近似偏倚蒙特卡罗估计值的项为O(1/m)或更小。这应该与蒙特卡罗误差进行比较,其为O(1/sqrt(n))。
2012-05-30 stat.CO
Dimension-independent convergence rates of randomized nets using median-of-means
Johann Radon Institute for Computational and Applied Mathematics, ÖAW(约翰·拉登计算与应用数学研究所,奥地利科学院);Institute of Fundamental and Transdisciplinary Research, Zhejiang University(浙江大学基础与跨学科研究院)
该研究通过中位数-均值方法,在不依赖维度的情况下实现了高维积分的更优收敛速率。
2026-01-31 cs.NA math.NA stat.CO
Randomized Quasi-Monte Carlo Features for Kernel Approximation
Columbia University(哥伦比亚大学)
本研究提出随机化拟蒙特卡洛特征用于核逼近,将误差界从MC的$O_P(1/\sqrt{M})$改进至$O(1/M)$,在核岭回归中保持统计误差率并提供计算优势,且在高维下性能稳定。
2025-09-07 cs.LG stat.ME stat.ML
Quasi-Monte Carlo with one categorical variable
Stanford University(斯坦福大学);Zhejiang University(浙江大学)
本文研究了在存在一个分类变量时,如何通过优化样本分配和结构来提高准蒙特卡洛方法的收敛速度和精度。
2026-01-16 cs.NA math.NA stat.CO
Ballistic Convergence in Hit-and-Run Monte Carlo and a Coordinate-free Randomized Kaczmarz Algorithm
本文通过耦合方法证明高斯目标下Hit-and-Run的Wasserstein收缩尖锐估计,揭示弹道与超扩散收敛,并推广至无坐标随机Kaczmarz算法,为无坐标采样与优化提供新见解。
2024-12-10 math.PR math.ST stat.ML
Faster Hamiltonian Monte Carlo by Learning Leapfrog Scale: an offline randomized solution
CEREMADE, Université Paris-Dauphine, Université PSL, CNRS(CEREMADE,巴黎第九大学,巴黎文理研究大学,法国国家科学研究中心);Aix Marseille Univ, CNRS, I2M(艾克斯-马赛大学,法国国家科学研究中心,数学研究所);Department of Statistics, University of Warwick(华威大学统计系);Université Paris-Saclay, INRAE, AgroParisTech, UMR MIA Paris-Saclay(巴黎萨克雷大学,法国国家农业食品与环境研究院,巴黎农学院,MIA巴黎萨克雷联合研究单位)
提出一种基于随机选择积分时间的哈密顿蒙特卡洛方法eHMC,通过离线校准阶段利用重要性采样构建离散化参数的经验分布,无需手动退火诊断和在线自适应,在基准测试中与NUTS相比具有竞争或更高的效率。
2026-09-11 cs.DS stat.CO
Optimal randomized multilevel Monte Carlo for repeatedly nested expectations
本文针对重复嵌套期望估计计算成本随嵌套深度急剧增长的问题,提出递归估计量READ,利用问题递归结构和随机化多层蒙特卡洛方法,在固定深度下实现最优计算成本。
2023-05-31 q-fin.CP stat.CO stat.ME
Unadjusted Hamiltonian MCMC with Stratified Monte Carlo Time Integration
一个随机时间积分建议未调整的哈密顿蒙特卡罗(uHMC),其中涉及一个非常小的修改,通常的Verlet时间积分,因此,很容易实现。对于$μ(dx) \propto e^{-U(x)} dx$形式的目标分布(其中$U: \mathbb{R}^d \to \mathbb{R}_{\ge 0}$是$K$ -强凸的但仅是$L$ -梯度Lipschitz)和具有有限二阶矩的初始分布$ν$,耦合证明表明,利用$O\left((d/K)^{1/3} (L/K)^{5/3} \varepsilon^{-2/3} \log( \boldsymbol{\mathcal{W}}^2(μ, ν) / \varepsilon)^+\right)$梯度估计的随机时间积分的uHMC算法可以实现$μ(dx) \propto e^{-U(x)} dx$-Wasserstein距离$\boldsymbol{\mathcal{W}}^2$中目标分布的$\varepsilon$ -精确近似;而对于这样的粗略目标密度,具有Verlet时间积分的uHMC算法的相应复杂度通常为$O\left((d/K)^{1/2} (L/K)^2 \varepsilon^{-1} \log( \boldsymbol{\mathcal{W}}^2(μ, ν) / \varepsilon)^+ \right)$。还提供了都市可调随机化时间积分器。
2024-10-04 cs.NA math.NA math.PR
Accelerated Mixing Time of Randomized Hamiltonian Monte Carlo
Department of Computer Science, Yale University(耶鲁大学计算机科学系);Department of Electrical Engineering and Computer Science, MIT(麻省理工学院电气工程与计算机科学系)
研究随机哈密顿蒙特卡罗算法在从对数凹概率分布采样时的加速混合时间,通过使用特定随机积分时间,证明其在KL散度中指数收敛,给出不同情况下达到误差ε的总积分时间的尺度,分析依赖于平均KL散度的界。
2026-07-15 cs.DS cs.LG math.PR
Langevin Monte Carlo for strongly log-concave distributions: Randomized midpoint revisited
CREST, ENSAE, IP Paris(巴黎综合理工学院IP Paris、法国国立统计与经济管理学院ENSAE、 Crest统计与经济研究中心);KAUST(阿卜杜拉国王科技大学)
该研究针对高维大条件数下的强对数凹分布采样问题,再探随机中点离散化方法,推导了动力学朗之万扩散中点法的Wasserstein-2误差非渐近易计算上界,还改进了欧拉离散化的相关误差保证。
2023-06-16 cs.LG math.PR math.ST
Non-asymptotic Analysis of Poisson randomized midpoint Langevin Monte Carlo
针对高维分布采样问题,本文对泊松随机化中点朗之万蒙特卡洛(PRLMC)进行非渐近分析,证明其作为马尔可夫链的平稳分布唯一性及收敛速率,建立2-瓦瑟斯坦距离下的误差界,并提出近最优的递减步长版本。
2025-11-17 math.PR math.ST stat.TH
Calculating power by bootstrap, with an application to cluster-randomized trials
有用功效计算的一个关键要求是,一旦观察到实际数据,计算应模仿将对实际数据执行的数据分析。然而,使用解析解可能难以实现接近的近似,因此蒙特卡罗方法,包括模拟和自举响应,通常是有吸引力的。一种情况下,这是特别真实的是集群随机试验设计。然而,蒙特卡罗方法在许多其他设置中也是有用的。使用分析或基于模拟的方法计算群集随机试验的功效通常不令人满意,这是由于所采用的数据分析方法的复杂性以及在这些方法中选择重要参数所需的数据稀疏性。方法我们认为,在蒙特卡罗方法中,自助法最有可能产生与观测数据相似的数据。说明了执行手段。结果我们证明了一个具有生存结局和基线观察期的整群随机试验的自举功效计算。结论Bootstrap功效计算是恢复方法的自然应用,提供了一种相对简单的功效计算解决方案,可能是最准确的选择。它有几个重要的优势。值得注意的是,它很容易实现对拟议数据分析方法的保真度,并且不需要外部设置的估计。我们不知道之前提出或探索的聚类随机试验的自举功效计算。我们展示了功率计算的时间到事件的结果,在一个集群随机试验设置,我们不知道的分析替代。
2014-10-13 stat.AP
Numerical Generalized Randomized HMC processes for restricted domains
本文提出一种结合广义随机化哈密顿蒙特卡洛过程与随机化转移核的数值方法,用于高效模拟受限域上的难解析分布,扩展了可用标准MCMC分析的贝叶斯模型范围,并提供了配套R包。
2024-05-31 stat.CO
Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算(ABC)是处理具有难处理的可能性的模型的一般方法。在这项工作中,我们推导出基于QMC(准蒙特卡罗)序列的ABC算法。我们表明,由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体,逐步适应提案分布和接受阈值。我们说明了我们的QMC方法,通过几个例子从ABC文学。保留字:近似贝叶斯计算,无似然推断,拟蒙特卡罗,随机化拟蒙特卡罗,自适应重要性抽样
2018-05-07 stat.CO
Metropolized Randomized Maximum Likelihood for sampling from multimodal distributions
本文介绍了一种利用最优化方法导出马尔可夫链蒙特卡罗模拟中有效的独立转移函数的方法。我们的兴趣是在采样后的密度$π(x)$的问题,其中的尺寸的模型空间是大的,$π(x)$是多模态与区域的低概率分离的模式,和评估的可能性是昂贵的。我们限制我们的注意力的特殊情况下,目标密度是产品的多元高斯先验和似然函数的观测误差是加性和高斯。
2016-07-12 stat.AP stat.CO
On Geometric Ergodicity of Skewed - SVCHARME models
马尔可夫链蒙特卡罗方法被反复使用,以一种方便的方式来分析棘手的分布的性质。本文给出了一类由带开关的隐马尔可夫链驱动的具有偏度的非参数随机波动率模型的几何遍历性条件。
2012-09-07 math.ST q-fin.ST stat.ME
When Langevin Monte Carlo Meets Randomization: New Sampling Algorithms with Non-asymptotic Error Bounds beyond Log-Concavity and Gradient Lipschitzness
School of Mathematics and Statistics, HNP-LAMA, Central South University(数学与统计学院,HNP-LAMA,中南大学)
本文提出了一种新的随机分割兰格-蒙特卡罗算法,用于在非对数凹分布中高效采样。该算法在梯度利普希茨条件和对数-索博列夫不等式下,证明了在$\mathcal{W}_2$距离下的误差界,且在梯度非全局利普希茨且具有超线性增长时,提出了改进的R(S)LMC算法。
2026-04-22 cs.LG cs.NA math.NA
Extension of Sparse Randomized Kaczmarz Algorithm for Multiple Measurement Vectors
Indraprastha Institute of Information Technology-Delhi(英德拉普拉斯塔信息技术学院-德里)
本文提出改进的随机Kaczmarz算法解决多测量向量问题,通过共同稀疏支持实现更高效的恢复与收敛。
2014-02-02 cs.LG cs.NA math.NA
On the Dissipation of Ideal Hamiltonian Monte Carlo Sampler
本文揭示了理想HMC中可变积分时间与部分速度刷新之间的联系,证明在二次势上二者可将Wasserstein-2距离下的效率提升√κ倍,并探讨了随机化积分器在高阶正则性条件下的优势。
2023-09-18 stat.CO stat.ML
Monte Carlo non local means: Random sampling for large-scale image filtering
Harvard University(哈佛大学)
我们提出了一个随机版本的非局部均值(NLM)算法的大规模图像滤波。新算法,称为蒙特卡罗非局部均值(MCNLM),加快了经典的NLM通过计算一个小的子集的图像补丁的距离,这是随机选择的,根据设计的采样模式。我们做了两个贡献。首先,我们分析了MCNLM算法的性能,并表明,对于大型图像或大型外部图像数据库,MCNLM的随机结果紧密集中在确定性的完整NLM结果周围。特别是,我们的错误概率界表明,在任何给定的采样率,概率MCNLM有一个大的偏差,从原来的NLM解决方案呈指数衰减的图像或数据库的大小增长。其次,我们推导出明确的公式,最佳的抽样模式,最大限度地减少错误概率的限制,利用部分知识的成对相似性权重。数值实验表明,MCNLM是具有竞争力的其他国家的最先进的快速NLM算法的单图像去噪。当应用于使用包含100亿个补丁的外部数据库对图像进行去噪时,MCNLM返回的随机化解决方案与完整NLM解决方案相差0.2 dB,同时将运行时间减少了三个数量级。
2014-05-14 cs.CV stat.CO
Multi-Target Tracking Using A Randomized Hypothesis Generation Technique
在本文中,我们提出了一个随机版本的有限集统计(FISST)贝叶斯递归多目标跟踪问题。我们提出了一个假设水平推导的FISST方程,表明多目标跟踪问题可以被认为是一个有限的状态空间贝叶斯滤波问题,虽然与一个不断增长的状态空间。我们进一步表明,FISST和多假设跟踪(MHT)的多目标跟踪方法在本质上是相同的。我们提出了一个随机化的计划,称为随机FISST(R-FISST),在那里我们使用马尔可夫链蒙特卡罗(MCMC)方法,使我们能够保持计算上容易处理的问题的高度可能的假设进行采样。我们应用R-FISST技术的50个对象的出生和死亡的空间态势感知(SSA)跟踪和检测问题。我们还比较了R-FISST技术的假设为导向的多假设跟踪(HOMHT)方法使用SSA的例子。
2016-03-13 math.ST stat.AP stat.TH
Quasi-Newton Quasi-Monte Carlo for variational Bayes
Stanford University(斯坦福大学)
许多机器学习问题优化的目标必须用噪声来衡量。主要的方法是一阶随机梯度下降,在每一步使用一个或多个蒙特卡罗(MC)样本。在某些情况下,病态使二阶方法(如L-BFGS)更有效。我们研究使用随机准蒙特卡罗(RQMC)抽样这样的问题。当MC采样的均方根误差(RMSE)为$O(n^{-1/2})$时,则RQMC的RMSE为$o(n^{-1/2})$,在有利的设置中,该RMSE可以接近$O(n^{-3/2})$。我们证明,改进的采样精度直接转化为改进的优化。在我们对变分贝叶斯的实证研究中,使用随机L-BFGS的RQMC大大加快了优化速度,有时会找到比MC更好的参数值。
2021-04-21 cs.LG cs.NA math.NA
Monte Carlo Methods and Path-Generation techniques for Pricing Multi-asset Path-dependent Options
本文利用模拟方法研究了一篮子标的资产上路径依赖期权的定价问题。作为一个例子,我们使用亚式期权开展我们的研究。亚式期权是一种衍生品合约,其基础变量是在一段时间内抽样的给定资产的平均价格。由于这种结构,亚洲期权表现出较低的波动性,因此比标准的欧洲期权便宜。本文综述了近年来在Black-Scholes模型下用蒙特卡罗模拟方法对亚式期权进行定价时为提高效率所做的一些改进。我们分析了标的资产收益率波动率为常数和随时间变化的动态变化。本文比较了标准蒙特卡罗方法(MC)和分层拉丁超立方抽样(LHS)的精度。特别是,我们讨论了使用低差异序列,也被称为拟蒙特卡罗方法(QMC),这些序列的随机化版本,被称为随机拟蒙特卡罗方法(RQMC)。后者已被证明是一个有用的方差减少技术的问题,高达20个维度和非常高的维度。此外,我们提出并测试了一种新的路径生成方法的基础上克罗内克积近似(KPA)的情况下,随时间变化的挥发。事实证明,KPA是一种快速生成技术,可以降低仿真过程的计算成本。
2007-10-03 math.PR stat.AP
Hypocoercivity of Piecewise Deterministic Markov Process-Monte Carlo
在这项工作中,我们建立$\mathrm{L}^2$ -指数收敛的一类广泛的分段确定性马尔可夫过程最近提出的背景下,马尔可夫过程蒙特卡罗方法和覆盖特别是随机哈密顿蒙特卡罗,锯齿形过程和弹性粒子采样器。这种过程的生成元的对称部分的核是非平凡的,并且我们遵循最近由(Dolbeault et al.,2009年,2015年),以制定一个严格的框架hypocolvity在一个相当普遍和统一的设置,同时推导出易于处理的估计常数涉及的参数的动态。作为一个副产品,我们这些算法的尺度性质的特点方面的问题的类别的尺寸,因此提供了一些理论证据来支持其实际意义。
2021-08-02 stat.CO
Cores for Piecewise-Deterministic Markov Processes used in Markov Chain Monte Carlo
我们展示了最近提出的MCMC算法的马尔可夫半群的基本性质,基于分段确定性马尔可夫过程(PDMP),如弹性粒子采样器,锯齿形过程或随机化的哈密顿蒙特卡罗方法。在MCMC设置通常满足的假设下,我们证明了PDMP是费勒和他们的生成器承认空间的无限可微函数作为一个核心的紧支持。正如我们所示,通过鞅问题和简化的目标分布的不变性证明,这些结果提供了一个基本的工具,这些算法和相应的随机过程的严格分析。
2022-12-31 math.PR math.ST stat.CO
Randomized Approximation of the Gram Matrix: Exact Computation and Probabilistic Bounds
North Carolina State University(北卡罗来纳州立大学)
研究通过随机化方法近似Gram矩阵,提出基于稳定秩的概率误差界,适用于小维度矩阵和高成功概率场景。
2014-05-15 cs.LG cs.NA math.NA
Ordering-Free Inference from Locally Dependent Data
本文重点研究了一个数据丰富的环境中,数据集有一个非常大的横截面尺寸,很可能表现出局部依赖,但很难确定的依赖顺序。例如,当数据集是通过网络爬行的方法从互联网收集时,就会出现这种情况。本文提出了一种随机子抽样推断方法,即通过随机抽取子样本聚集多个随机检验统计量构造检验统计量,并利用给定数据的检验统计量的条件分布进行推断。本文探讨了两种推理方法:一种是基于随机均值统计量构造的M型统计量,另一种是基于随机U-统计量构造的U型统计量。本文给出了局部相关性、随机抽取次数和子样本容量的条件,在此条件下,随机子抽样推断是渐近有效的。通过蒙特卡罗模拟研究发现,基于U型统计量的随机子抽样推断性能优于基于M型统计量的随机子抽样推断。
2018-06-29 stat.ME
Randomized quasi-Monte Carlo and Owen's boundary growth condition: A spectral analysis
本研究通过谱分析验证了格点规则与Sobol'序列两类随机准蒙特卡罗方法的方差渐近收敛速率与Owen边界增长条件的指数一致,并拓展分析了不连续被积函数的情况。
2025-02-16 cs.NA math.NA
Randomized Reduced Forward Models for Efficient Metropolis--Hastings MCMC, with Application to Subsurface Fluid Flow and Capacitance Tomography
通过马尔可夫链蒙特卡罗(MCMC)的贝叶斯建模和计算推断是用于大规模不确定性量化的原则性框架,尽管在实践中受限于以最简单的形式实现时的计算成本,该最简单的形式需要在MCMC的每次迭代处模拟精确的计算机模型。延迟接受Metropolis-Hastings MCMC利用前向映射的简化模型来降低每次迭代的计算成本,尽管这必然会降低统计效率,但不小心会导致计算估计的计算成本没有降低到所需的精度。随机化前向映射的简化模型可以通过保持每次迭代的低成本以及避免统计效率的明显损失来显著提高计算效率。随机化映射是通过随机化和局部校正的确定性简化模型的后验自适应调整来构造的。同样地,近似的后验分布可以被视为由与简化图一起使用的修改的似然函数引起的,其中参数被调谐以优化对正确的后验分布的近似的质量。自适应MCMC算法的条件允许实际的近似和算法,保证遍历的目标分布。良好的统计和计算效率的例子中表现出的地热储层和电容层析成像的大规模数值模型的校准。
2020-09-17 stat.CO
Nonparametric learning from Bayesian models with randomized objective functions
University of Oxford(牛津大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
贝叶斯学习建立在模型空间包含数据生成机制的真实反映的假设之上。这种假设是有问题的,特别是在复杂的数据环境中。在这里,我们提出了一个贝叶斯非参数学习方法,利用统计模型,但不假设该模型是真的。我们的方法具有可证明的更好的性能比使用参数模型,并承认一个蒙特卡罗采样方案,可以提供巨大的可扩展性,现代计算机架构。当样本量很小时,基于模型的学习对于正则化非参数推断特别有吸引力,并且对于校正诸如变分贝叶斯(VB)的近似方法也特别有吸引力。我们展示了一些例子,包括VB分类器和贝叶斯随机森林的方法。
2018-11-01 cs.LG stat.ME stat.ML
Combining Normalizing Flows and Quasi-Monte Carlo
本文提出将拟蒙特卡洛采样与归一化流相结合,用拟蒙特卡洛采样流的初始分布,实验表明该组合估计量方差显著低于经典蒙特卡洛采样。
2024-01-11 stat.CO stat.ML
Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions
我们证明了有限样本复杂性的序贯蒙特卡罗(SMC)算法,只需要当地的混合时间相关联的马尔可夫内核。我们的边界是特别有用的,当目标分布是多模态和全球混合的马尔可夫内核是缓慢的,在这种情况下,我们的方法建立了相应的马尔可夫链蒙特卡罗(MCMC)估计SMC的好处。通过顺序控制由SMC再循环程序引入的偏差来解决全局混合的缺乏。我们应用这些结果来获得的复杂性界限下的混合物的对数凹分布的近似期望,并表明SMC提供了一个完全多项式时间的随机逼近方案,一些困难的多峰问题,相应的马尔可夫链采样器是指数缓慢。最后,我们比较我们的方法得到的边界,现有的边界上的回火马尔可夫链相同的问题。
2022-08-13 math.PR stat.CO stat.ML
Density Estimation by Monte Carlo and Quasi-Monte Carlo
估计连续随机变量X的密度在统计学中已经被广泛研究,在设置中,X的n个独立观测值被先验地给出,并且人们希望从中估计密度。流行的方法包括直方图和核密度估计。在这篇综述论文中,我们感兴趣的是,而不是在这种情况下,观察产生的蒙特卡罗模拟从一个模型。然后,可以利用方差缩减方法,如分层,条件蒙特卡罗,和随机准蒙特卡罗(RQMC),并获得一个更准确的密度估计比标准的蒙特卡罗对于给定的计算预算。我们讨论了几种方法,在最近的论文中提出,重点是利用RQMC的方法。第一个想法是直接将RQMC与标准核密度估计器相结合。另一种方法是采用基于模拟的导数估计方法,如平滑扰动分析或似然比方法,以获得cdf的连续估计量,其导数是密度的无偏估计量。这可以与RQMC结合使用。我们总结了最近的理论结果与这些方法,并给出了它们如何提高均方积分误差的收敛性的数值例子。
2021-09-07 stat.CO
Parallelized Midpoint Randomization for Langevin Monte Carlo
City University of Hong Kong(香港城市大学)
本文针对光滑强对数凹密度,在可并行评估梯度的设定下分析并行化随机中点 Langevin Monte Carlo,给出 Wasserstein 距离上界并证明并行处理带来显著运行时间提升。
2025-01-08 cs.LG math.PR math.ST
Randomized geometric tools for anomaly detection in stock markets
我们提出了新的随机几何工具,以检测低波动异常的股票市场,金融经济学的一个主要问题。我们的建模的(检测)问题的结果在采样和估计的(相对)体积的测地线非凸和非连接的球形补丁,所产生的交叉与一个球体的非标准的单纯形。为了样本,我们介绍了两种新的马尔可夫链蒙特卡罗(MCMC)算法,利用几何的问题,并采用最先进的连续几何随机行走(如台球行走和打了就跑)适应球面补丁。据我们所知,这是第一个几何公式和MCMC为基础的分析在股票市场的波动之谜。我们已经在C++中实现了我们的算法(以及R接口),我们通过对真实数据进行广泛的实验来说明我们方法的强大功能。我们的分析为投资组合的业绩特征分布提供了准确的检测和新的见解。此外,我们使用我们的工具表明,金融中低波动性异常检测的经典方法会形成可能导致误导或不准确结果的不良代理。
2022-05-15 cs.CG econ.GN q-fin.EC
Hamiltonian Descent Algorithms for Optimization: Accelerated Rates via Randomized Integration Time
本文提出随机化积分时间的哈密顿下降算法RHGD,证明其在光滑强凸和弱凸优化中达到与Nesterov加速梯度下降相同的加速收敛速率,并在实验中展现竞争力。
2025-09-17 cs.LG math.OC stat.ML
A Multi-armed Bandit MCMC, with applications in sampling from doubly intractable posterior
Stanford University(斯坦福大学)
马尔可夫链蒙特卡罗(MCMC)算法被广泛应用于复杂分布的采样,特别是贝叶斯推断中的后验分布的采样。然而,MCMC是不直接适用于面对双重棘手的问题。本文讨论并比较了两种现有的解决方案--伪边际蒙特卡罗法和交换法。本文还提出了一种新的算法:多臂强盗MCMC(MABMC),它在每一步中选择两个(或多个)随机接受率。MABMC可以直接应用于伪边际蒙特卡罗和Exchange算法,具有较高的平均接受概率。
2019-03-27 cs.AI physics.data-an stat.CO
Monte Carlo Methods for the Ferromagnetic Potts Model Using Factor Graph Duality
正规因子图对偶为图模型中的蒙特卡罗算法提供了新的可能性。具体来说,我们考虑的问题估计的铁磁伊辛和Potts模型的配分函数的蒙特卡罗方法,这是已知的工作在高温下,但在低温下失败。我们提出了蒙特卡罗方法(均匀抽样和重要性抽样)的双重正常因子图,并证明他们的行为不同:他们在低温下工作得特别好。通过比较估计配分函数的相对误差,我们表明,所提出的重要性抽样算法显着优于最先进的确定性和蒙特卡罗方法。对于外场中的铁磁伊辛模型,我们证明了对偶正规因子图中的有效配置与高温配分函数级数展开中出现的项之间的等价性。根据这个结果,我们讨论了与Jerrum-Sinclair的多项式随机近似方案(子图世界过程)的联系,用于计算铁磁材料的配分函数。
2018-11-23 physics.comp-ph stat.CO
Randomized Midpoint Method for Log-Concave Sampling under Constraints
Department of Mathematical Sciences, Tsinghua University(清华大学数学科学系);Artificial Intelligence Research Institute, Shenzhen MSU-BIT University(深圳MSU-BIT大学人工智能研究院);Department of Data Science, City University of Hong Kong(香港城市大学数据科学系)
提出约束域中过阻尼和动能朗之万扩散的随机中点离散化方法,通过投影算子建立统一框架,证明Wasserstein-q距离下的收敛保证并得到近最优下界。
2026-06-17 cs.LG math.PR math.ST