Improving Asymptotic Variance of MCMC Estimators: Non-reversible Chains are Better
我展示了如何可逆的马尔可夫链在有限的状态空间是不可约的,因此适合于估计期望相对于其不变的分布,可以用来构建一个不可逆的马尔可夫链在相关的状态空间,也可以用来估计这些期望,渐近方差至少一样小,使用可逆链(通常较小)。不可逆链通过避免(尽可能地)回溯到链刚出现的状态的转换来实现这种改进。这种修改不能增加MCMC估计量的渐近方差的证明使用了一种新的技术,该技术也可以用于证明Peskun(1973)定理,即修改可逆链以减少停留在相同状态的概率不能增加渐近方差。避免回溯的不可逆链通常比原始可逆链每次转换花费很少或没有更多的计算时间,并且有时可以产生渐近方差的大幅减少,尽管对于其他链来说,这种改善是轻微的。除了具有一些实际意义之外,这种构造还表明,对于MCMC估计,不可逆链比可逆链具有根本优势。因此,对更好的MCMC方法的研究可能最好集中在不可逆链上。
2004-07-15 math.PR math.ST stat.TH
Non-reversible Metropolis-Hastings
经典的Metropolis-Hastings(MH)算法可以推广到生成不可逆的马尔可夫链。这是通过修改的接受概率,使用涡度矩阵的概念。由此产生的马尔可夫链是不可逆的。从文献中的渐近方差,大偏差理论和混合时间的结果被提到,并在一个大偏差的结果,适应的情况下,解释如何不可逆的马尔可夫链在这些方面有良好的性能。我们提供了一个应用程序的NRMH在一个连续的设置通过开发必要的理论和应用,作为第一个例子,高斯分布的理论在三个和九个维度。经验自相关和估计的渐近方差NRMH应用到这些例子显示出显着的改善相比,MH具有相同的步长。
2015-08-21 math.PR
Importance sampling correction versus standard averages of reversible MCMCs in terms of the asymptotic variance
我们建立了一个排序准则的渐近方差一致的马尔可夫链蒙特卡罗(MCMC)估计:一个重要性抽样(IS)估计,基于近似可逆链和随后的IS加权,和一个标准的MCMC估计,基于一个精确的可逆链。从本质上讲,我们放宽了标准的Peskun型协方差排序考虑两个不同的不变概率,并获得,在一个严格的顺序的渐近方差,是由直接MCMC的渐近方差的界。简单的例子表明,IS可以有任意更好或更差的渐近方差比大都会黑斯廷斯和延迟接受(DA)MCMC。我们的排序意味着,IS是保证有竞争力的一个因素取决于(边际)IS权重的上确界。我们详细阐述了标准的情况下,无偏估计量作为辅助变量框架的一部分。我们展示了如何标准意味着渐近方差保证IS的伪边缘(PM)和DA校正,基本上如果精确和近似似然比是有界的。我们还表明,IS链的收敛性可以更少地受到无界高方差无偏估计量比PM和DA链。
2020-03-24 math.PR stat.CO
On Functional CLT for Reversible Markov Chains with nonlinear growth of the Variance
本文研究了一般状态空间中具有自伴算子的平稳马尔可夫链的泛函中心极限定理。我们调查的情况下,当部分和的方差不是渐近线性的n,并建立条件依分布收敛的部分和意味着功能CLT。主要工具是极大不等式,进一步利用这些不等式推导出布朗运动的紧性和收敛条件。
2013-05-08 math.PR math.ST stat.TH
On the invariance principle for reversible Markov chains
本文研究了一般spate空间中可逆马尔可夫链可加泛函部分和随机过程在部分和的标准差标准差下的泛函中心极限定理.对于这种情况,我们证明了泛函中心极限定理等价于部分和的方差按指数1正则变化且部分和满足CLT的事实。它也等同于条件CLT。
2022-07-31 math.PR
Interacting growth processes and invariant percolation
本文的目的是强调可逆生长过程和不变渗流之间的关系。我们提出了两种模型的相互作用分支随机游动(BRWs),截断BRWs和竞争BRWs,生存的增长过程中,可以制定为存在一个无限的集群在一个不变的渗流树。我们的方法是相当概念性的,并允许推广到更广泛的一组“可逆”的增长过程。
2015-01-19 math.PR
Variance Reduction for Stochastic Gradient Generalized Non-reversible Langevin Monte Carlo Algorithms
FinTech Thrust, Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州)金融科技方向);School of Mathematical Science, Fudan University(复旦大学数学学院);Department of Mathematics, Florida State University(佛罗里达州立大学数学系)
研究随机梯度欧拉-丸山估计器在广义非可逆朗之万动力学中的前导阶波动,证明在消失步长下中心极限定理,并给出非对称扰动严格降低波动常数的充分条件。
2026-06-27 cs.LG math.PR stat.ML
Variance asymptotics and central limit theorems for generalized growth processes with applications to convex hulls and maximal points
证明了单位球上Poisson样本的凸包中的顶点所诱导的随机点测度,当适当地缩放和居中时,收敛于平均零高斯场的随机点测度。我们建立了极限方差和协方差渐近的泊松样本的密度。类似的结果保持点的措施所引起的最大点在泊松样本。该方法涉及引入广义空间出生生长过程,允许细胞重叠。
2008-01-09 math.PR
Variance reduction for diffusions
Institute of Mathematics, Academia Sinica(中央研究院数学研究所);Center for Advanced Statistics and Econometrics Research, School of Mathematical Sciences, Soochow University(苏州大学数学科学学院高级统计与计量经济学研究中心)
本文研究了通过添加反称漂移来缩减扩散的渐近方差,分析了其在连续状态空间和紧黎曼流形上的应用,证明了该方法能提高收敛速度。
2015-10-27 cs.NA math.NA math.PR
Reversible coagulation-fragmentation processes and random combinatorial structures:asymptotics for the number of groups
本文建立了由多项式增长率的参数函数给出的凝聚-破碎过程平衡点群数的中心极限定理。所得结果与服从对数条件的随机组合结构的结果进行了比较。
2004-03-08 math.CO math.PR
Asymptotic variance for Random walk Metropolis chains in high dimensions: logarithmic growth via the Poisson equation
有两种方法可以加速MCMC算法:(1)构造更复杂的采样器,使用目标的梯度和高阶信息;(2)设计一个控制变量来减小渐近方差。虽然(1)作为维数的函数的效率已被广泛研究,本文提供了第一个严格的结果,连接的增长的渐近方差(2)与维数。具体而言,我们使用Gelman,Gilks和Roberts的开创性论文“弱收敛和最佳缩放的随机游动Metropolis算法”中的缩放极限的泊松方程的解,构造具有IID目标的$d$维随机游动Metropolis链的控制变量。我们证明了相应的估计量的渐近方差是有界的多个$\log d/d$以上的频谱间隙的链。利用大偏差理论、最优Young不等式和Berry-Esseen型界,给出了证明.扩展的结果,非产品的目标进行了讨论。
2019-06-18 math.PR
Metropolis-Hastings reversiblizations of non-reversible Markov chains
研究了具有Markov核$P$的不可逆马尔可夫链的两类Metropolis-Hastings(MH)可逆化.虽然第一种类型是$P$的经典Metropolised版本,我们引入了一个新的自伴随核,它捕获了第一种类型的相反的过渡效果,我们称之为第二MH内核。我们研究了$P$和两个MH核之间的谱关系。在此过程中,我们陈述了$P$的谱隙的Weyl不等式的一个版本(因此它的加性可逆化),以及$P$的扩展。这两个结果表示在两个MH内核的频谱。在\cite{Fill91}和\cite{Paulin15}的思想下,我们定义了一个新的基于两个MH核的伪谱间隙,并证明了离平稳性的全变差距离可以由这个间隙限定.给出了马尔可夫链在间隙下的方差界,并通过Dirichlet形式和Peskun序的比较,给出了两种MH核下亚稳定性和Cheeger不等式的谱界.
2019-04-11 math.PR
Improving the convergence of reversible samplers
在蒙特卡罗方法中,用于对给定目标分布进行采样的马尔可夫过程通常满足详细平衡,即它们是时间可逆的。然而,相对较新的结果表明,适当的可逆和不可逆扰动可以加速收敛到平衡。在本文中,我们提出了一些一般的设计原则,适用于一般马尔可夫过程。与马尔可夫过程的生成器一起工作,我们证明了对于一些最常用的性能标准,即,谱隙、渐近方差和大偏差泛函,对某些初始给定的可逆采样器进行适当的可逆和不可逆扰动,改进了采样.此外,我们提供了各种常用的马尔可夫过程,如马尔可夫链和扩散的可逆和不可逆扰动的具体结构。在扩散的情况下,我们使用大偏差率函数作为性能的度量,使讨论更具体。
2016-06-09 math-ph math.MP math.PR
Concentration inequalities for Markov chains by Marton couplings and spectral methods
证明了一类常数与混合时间成正比的马尔可夫链的McDiarmid有界差分不等式。我们还证明了马尔可夫链的经验平均的方差界和Bernstein型不等式。在不可逆链的情况下,我们引入了一个新的量称为“伪谱间隙”,并表明它起着类似的作用,不可逆链的谱间隙发挥可逆链。我们的技术证明这些结果的基础上的耦合建设的Katalin马顿,和光谱技术由于帕斯卡Lezaud。伪谱隙推广了Jim Fill的乘法可逆性方法。
2018-11-13 math.PR
Fast mixing for the low temperature 2d Ising model through irreversible parallel dynamics
研究了一类不可逆概率元胞自动机的亚稳性和混合时间。通过对参数的适当选择,我们首先证明了稳态分布在全变差上接近低温伊辛模型。然后,我们证明了混合时间和时间退出亚稳态多项式增长的系统的大小,而这种增长是指数的可逆动力学。在这个模型中,不可逆性,并行更新和适当的边界条件的选择相结合,产生一个有效的动态稳定性。
2014-07-24 math.PR
Non-reversible sampling schemes on submanifolds
在分子动力学、计算统计力学和贝叶斯统计等应用领域中,常常需要计算子流形上概率测度的平均值。近年来,在文献中提出了各种数值方案来研究这个问题的基础上适当的可逆约束随机动力学。在本文中,我们提出并分析了一位作者开发的基于投影的方案的不可逆推广[ESAIM:M2 AN,54(2020),pp. 391-430]。该方案由两个步骤组成-从子流形上的状态开始,我们首先使用不可逆的随机微分方程将状态从子流形上带走,并在第二步中,我们使用常微分方程的长时间限制将状态投影回流形上。我们证明了这种数值方案的一致性,并提供定量的误差估计的基础上有限时间运行平均值的估计。此外,我们提出的理论分析表明,该方案优于其可逆的对应的渐近方差。我们证明了我们的研究结果的一个说明性的测试例子。
2021-06-29 cs.NA math.NA math.PR
An asymptotic formula for the variance of the number of zeroes of a stationary Gaussian process
研究了长区间上平稳高斯过程零点个数的方差。我们在温和的混合条件下给出了一个简单的渐近描述。这使我们能够区分最小和最大的增长。我们发现,一个小的(对称)原子在谱测度在一个特定的频率不影响渐近增长的方差,而在任何其他频率的原子的结果在最大的增长。我们的研究结果使我们能够分析大量有趣的例子。
2022-05-24 math.CA math.PR
Limit theorems, scaling of moments and intermittency for integrated finite variance supOU processes
叠加的Ornstein-Uhlenbeck型(supplementary)过程提供了丰富的平稳随机过程,其边缘分布和相关结构可以独立建模。我们表明,他们也可以显示不稳定性,影响增长率的时刻的现象。为此,我们研究了具有有限方差的集成供应过程的极限行为。在适当的归一化之后,根据相关函数的衰减和边缘分布的特征三元组,可能出现四种不同的限制过程。为了表明,supplementary过程可能会表现出不稳定性,我们建立的增长率的时刻的四个限制的情况下。速率的变化表明存在着不稳定性,在这里用绝对矩的渐近行为的变点来表示。
2019-06-13 math.PR
Brownian limits, local limits and variance asymptotics for convex hulls in the ball
Schreiber and Yukich [Ann. Probab. 36(2008)363-396]建立了单位球$\mathbb{B}^d, d\geq2$中随机凸多胞体几何的渐近表示,根据Poisson点过程的稳定泛函的一般理论以及根据广义抛物面增长过程。本文进一步利用这种联系,还介绍了一个对偶对象称为抛物面壳过程。通过这些增长过程,我们建立了由高密度Poisson样本生成的凸多胞体的适当尺度半径向量和支撑函数的局部泛函极限定理.我们表明,直接法导致明确的渐近表达式fidis的适当缩放的半径向量和支撑函数。广义抛物面生长过程,再加上一般技术的稳定理论,产生布朗单极限的缺陷体积和平均宽度泛函。最后,我们提供了明确的方差渐近性和中心极限定理的k-面和内禀体积泛函。
2013-04-02 math.PR
Irreversible Langevin samplers and variance reduction: a large deviation approach
为了从给定的目标分布(通常是吉布斯型)中采样,蒙特卡罗马尔可夫链方法包括构造一个遍历马尔可夫过程,其不变测度是目标分布。通过采样的马尔可夫过程,然后可以计算,近似地,相对于目标分布的可观测值的期望。通常,实际中使用的马尔可夫过程是时间可逆的(即,它们满足详细的平衡),但我们这里的主要目标是评估和量化如何将不可逆部分添加到该过程中以改善采样特性。我们专注于扩散设置(过阻尼朗之万方程)的漂移包括一个梯度向量场,以及另一个漂移,打破了可逆性的过程,但选择保存吉布斯措施。本文以经验测度的大偏差率函数为工具,分析了收敛到不变测度的速度。我们发现,增加一个不可逆的漂移导致一个更大的速率函数,它严格提高了遍历平均(一般光滑)可观测量的收敛速度。我们还从这个结果推导出的渐近方差减少下的不可逆漂移的添加,我们给出了一个明确的特征的观测量的方差不减少减少,在一个非线性泊松方程。我们的理论结果说明和补充的数值模拟。
2015-04-22 math-ph math.MP math.PR
Superdiffusivity of occupation-time variance in 2-dimensional asymmetric processes with density 1/2
我们计算出,对于密度为1/2的非对称简单排斥平衡,在d=2维中,原点占据-时间方差到时间t的增长在某种意义上对于一般速率至少为t(log(log t)),对于仅在一个轴方向上不对称的速率至少为t(log t)^{1/2}。这些估计是一致的,相对于转移函数和方差的“第二类”粒子的示意图。
2004-10-06 math.PR
Moments of Markovian growth-collapse processes
本文将具有随机被积函数的Poisson随机积分的一般矩恒等式应用于马尔可夫增长-崩溃过程的矩的计算。这将文献中的均值和方差的现有公式扩展到所有阶次的封闭形式的矩表达式。与其他基于微分方程的方法相比,我们的方法产生的时间参数的多项式表达式。我们还处理的情况下,相关的嵌入链。
2021-03-08 math.PR
Variance of Resistance of "Line-Circle-Line" Graphs
我们找到了增长模型$X_{n+1} = X_n+X'_n + f(X''_n,X'''_n)$的方差阶,其中所有变量$X_n,X'_n,X''_n$和$X'''_n$都是独立同分布的,$X_0$以相等的概率取值$1$和$2$,并且$f$是正的、单调非递减的并且满足粗略地说与其一阶和二阶偏导数有关的条件。对于适当的$f$的选择,我们得到的“线-圈-线”图$G_n$的端点之间的有效电阻的方差是$\bigl(2 + \frac{1}{8} + {\scriptscriptstyle\mathcal{O}} (1)\bigr)^n$的顺序。
2016-05-13 math.PR
Heterogeneous network epidemics: real-time growth, variance and extinction of infection
近年来,人们对网络上的流行病产生了很大的兴趣,认为这是一种表示能够通过现代人群传播感染的复杂接触结构的方式。配置模型是一个流行的选择,在理论研究中,因为它结合的能力,指定的数量分布的接触(度)与分析的易处理性。在这里,我们考虑的早期实时行为的马尔可夫SIR流行病模型的配置模型网络使用多类型的分支过程。我们发现封闭形式的解析表达式的平均值和方差的传染性的个人的数量作为时间的函数和程度的最初感染的个人(S),并写下一个微分方程系统的灭绝的概率是数字上的快速相比,蒙特卡洛模拟。我们发现,这些数量都是敏感的度分布-特别是我们确认,感染的平均患病率取决于度分布的前两个时刻和患病率的方差取决于度分布的前三个时刻。与大多数现有的分析方法相比,这些结果的准确性不依赖于具有大量的感染性个体,这意味着在大群体限制下,即使对于一个初始感染性个体,它们也是渐近精确的。
2017-01-20 math.PR q-bio.PE
Convergence of a kinetic equation to a fractional diffusion equation
线性Boltzmann方程被解释为马尔可夫过程(K(t),Y(t))的概率密度的向前方程,其中K(t)是一个自治的可逆跳跃过程,两个跳跃之间的等待时间具有有限的期望值和无穷大的方差,而Y(t)是K(t)的一个可加泛函.我们证明了在适当的重标度下,过程Y按分布收敛于Levy过程,且稳定指数为3/2。此外,线性Boltzmann方程的解收敛于分数阶扩散方程的解。
2009-09-18 math.PR
Non-local in time telegraph equations and very slowly growing variances
本文考虑一类非定域的时间电报方程。近年来,人们证明了这类方程的基本解可以解释为一个随机过程的密度函数。我们研究了这个过程的方差在大时间和短时间的渐近行为。在这种背景下,我们开发了一种方法来构造新的例子,这样的方差具有缓慢增长的行为,扩展了早期的结果。最后,我们表明,我们的方法可以适用于定义新的积分-微分算子,这是有趣的子扩散过程。
2021-01-18 math.AP math.PR
Non-equilibrium functional inequalities for finite Markov chains
Technische Universität München(慕尼黑工业大学);Kanazawa University(金泽大学);University of New South Wales(新南威尔士大学)
本文提出非平衡有限马尔可夫链中广义函数不等式,用于量化非可逆动力学的粗粒化误差并评估粗粒化映射质量。
2026-02-19 math.FA math.PR
Atlas models of equity markets
类股票模型是股票市场中不相关股票的常数-参数模型,具有稳定的资本分布,其中增长率和方差依赖于等级。最简单的这类模式为所有种群分配相同的恒定方差;为除最小种群外的所有种群分配零增长率;为最小种群分配正增长率,即Atlas种群。在本文中,我们研究了这类模型的基本性质,以及各种投资组合在其中的行为。特别令人感兴趣的是不含Atlas库存的投资组合。
2006-02-23 math.PR q-fin.CP
Variance-Feedback Noise in Interacting Diffusions: Shape Dynamics and Mean-Field Limits
University of Oxford(牛津大学);University of California, Berkeley(加州大学伯克利分校)
该研究探讨了具有方差反馈噪声的相互扩散系统,推导了临界同质性下的平均场方程,建立了有限粒子三分法,求解了线性模型并证明了混沌传播等性质。
2026-10-16 math.AP math.PR
Variational convergence for an irreversible exchange-driven stochastic particle system
本文证明不可逆马尔可夫跳跃过程变分收敛于交换驱动增长模型的极限方程,并由此得到混沌传播与能量泛函的 $Γ$-收敛,揭示随机过程与长时间凝聚现象的联系。
2025-07-06 math-ph math.AP math.MP
A Linear Variance Bound for Ballistic Deposition
本文通过改编 Aldous 的鞅论证并应用 Penrose 对偶定理,证明了任意维度下连续时间弹道沉积过程高度的方差具有线性上界 $C_d t$。
2026-09-22 math-ph math.MP math.PR
Stochastic growth in time dependent environments
研究了噪声方差$c(t)$依赖于时间的一维Kardar-Parisi-Zhang(KPZ)增长方程.我们发现对于$c(t)\propto t^{-α}$,在$α=1/2$处有一个跃迁.当$α>1/2$时,溶液在很大程度上朝向非普适极限分布饱和。当$α<1/2$时,波动场由依赖于$α$的标度指数控制,并且极限统计与$c(t)$恒定时的情况相似。我们使用不同的方法研究这个问题:(1)将时间依赖的情况映射到具有恒定噪声方差但在变形势中的KPZ方程的变体的变量的基本变化(2)精确可解的离散化,log-gamma聚合物模型(3)数值模拟。
2020-04-06 cond-mat.dis-nn cond-mat.stat-mech math-ph
(2+1)-dimensional interface dynamics: mixing time, hydrodynamic limit and Anisotropic KPZ growth
随机界面动力学作为数学模型的不同时间依赖的物理现象:热力学相之间的边界,晶体生长,随机沉积的演变。有趣的限制出现在大的空间-时间尺度:适当的重新缩放后,随机演变的接口收敛到一个确定性的PDE(流体力学极限)的解决方案和波动过程(一般非高斯)的限制过程。与$(1+1)$ -维模型的情况相比,$(d+1), d\ge2$维模型的数学结果很少.就增长模型而言,$(2+1)$维的情况特别有趣:D.沃尔夫证明了存在两个不同的普适类(称为KPZ和各向异性KPZ),具有不同的标度指数。在这里,我们回顾了最近的数学结果(可逆和不可逆)动力学的一些$(2+1)$维离散接口,主要是通过映射到二维二聚体模型定义。特别是,在不可逆的情况下,我们讨论的数学支持和剩余的开放问题,沃尔夫的猜想之间的关系的Hessian的增长速度的一边,和普遍性类的模型上的其他。
2017-11-15 math-ph math.MP math.PR
Markov Chain CLTs: Resolving Open Problems
Texas A&M University(德克萨斯农工大学);University of Toronto(多伦多大学)
本文解决了Häggström和Rosenthal提出的七个开放问题,证明了可逆链方差极限条件、非紧致性及Roberts条件排除CLT,并建立傅里叶系数与自协方差的一般原理。
2026-09-09 math.PR math.ST stat.CO
Mean-Variance Portfolio Selection in Long-Term Investments with Unknown Distribution: Online Estimation, Risk Aversion under Ambiguity, and Universality of Algorithms
Scuola Normale Superiore(高等师范学院);Scuola Superiore Sant’Anna(圣安娜高等学校)
本文将均值-方差投资组合选择重构为无统计假设的在线学习问题,提出序贯投资组合动态策略及风险厌恶系数在线更新算法,在平稳随机市场中渐近逼近真实投资组合的经验效用、夏普比率和增长率,并证明其普适性优于依赖条件分布的贝叶斯策略。
2025-03-11 cs.LG math.PR q-fin.MF