Harris recurrence of Metropolis-within-Gibbs and trans-dimensional Markov chains
一个具有平稳概率分布的$ϕ$ -不可约非周期马尔可夫链从几乎所有的起点都收敛到它的平稳分布。Harris递归的性质允许我们用“全部”代替"几乎全部“,这在运行马尔可夫链蒙特卡罗算法时可能是重要的。全维Metropolis-Hastings算法被认为是Harris递归的。本文研究了Gibbs内的Metropolis-within-Gibbs链和跨维马尔可夫链是或不是Harris常返链的条件。我们提出了一个简单而自然的二维反例,显示哈里斯复发如何失败,也有各种积极的结果,保证哈里斯复发。我们也提出了一些开放的问题。我们关闭MCMC算法的实际影响的讨论。
2007-02-14 math.PR
Adaptive independent Metropolis--Hastings
我们提出了一个自适应的独立的大都市-黑斯廷斯算法的能力,从所有以前的建议,除了当前位置的链中学习。它是独立的Metropolis-Hastings算法的一个扩展。收敛性被证明提供了一个强Doeblin条件满足,这基本上要求所有的建议功能有均匀重尾比平稳分布。如果间歇性地使用依赖于当前状态的建议,则证明也成立,只要来自这些迭代的信息不用于自适应。该算法在有限次数的迭代内从精确分布中给出样本,概率任意接近1。当需要来自相同分布的大量样本个数时,该算法特别有用,例如在贝叶斯估计中,以及在CPU密集型应用中,例如在逆问题和优化中。
2009-03-03 math.PR
Optimal scaling of the Random Walk Metropolis algorithm under Lp mean differentiability
本文考虑了高维随机游动Metropolis算法的最优尺度问题,其密度在Lp均值中是可微的,但在某些点上可能是不规则的(例如Laplace密度)和/或支持在一个区间上.我们的主要结果是弱收敛的马尔可夫链(适当地重新调整的时间和空间)的朗之万扩散过程的维数d趋于无穷大。因为对数密度可能是不可微的,所以极限扩散可能是奇异的。标度极限是在比[6]的原始推导中使用的假设弱得多的假设下建立的。这一结果具有重要的实际意义的随机游动大都市算法在贝叶斯框架的基础上稀疏诱导先验。
2016-04-22 math.PR math.ST stat.TH
Accelerated dimension-independent adaptive Metropolis
这项工作考虑了高维参数空间上的黑盒贝叶斯推断。众所周知的自适应Metropolis(AM)算法(Haario et. 2001)在本文中被扩展为通过考虑目标的方差,相对于高斯目标的底层参数维度渐近均匀地缩放。由此产生的算法,被称为维度无关的自适应大都市(DIAM)算法,也显示出改进的性能相对于非高斯目标的自适应大都市。通过GPU加速的数值库和周期性同步的并发链(后验证明),该算法得到了进一步改进,并且能够探测高维目标。在尺寸方面,这种GPU实现与基于CPU的竞争对手英特尔MKL并行版本相比,表现出四倍的改进。通过每个样本批次较长的时间(弱缩放)和更少的收敛所需样本的组合,表现出对并发链的强缩放。该算法的性能说明了几个高斯和非高斯目标的例子,其中的维度可能超过一千。
2015-06-18 math.PR stat.CO stat.ME
Large deviation principle for generalized multiple intersection local times of multidimensional Brownian motion
本文通过正广义Wiener函数,为多维布朗运动的广义多重相交局部时建立了大偏差原理。
2025-07-17 math.PR
Metropolis Integration Schemes for Self-Adjoint Diffusions
Rutgers University(罗格斯大学);New York University(纽约大学)
本文提出显式方法模拟生成元为已知密度下自共轭的扩散过程,结合优化龙格-库塔算法与马尔可夫-哈斯廷斯蒙特卡洛方案,实现有限噪声下的弱精度和小噪声极限下的高阶精度,避免计算如迁移张量散度等复杂项,并证明方案在存在精确平衡概率分布时的遍历性。
2014-03-31 cs.NA math-ph math.MP
The Monotone Case Approach for the Solution of Certain Multidimensional Optimal Stopping Problems
利用单调情形方法研究了离散时间和连续时间上和型和型乘积型多维最优停止问题的显式可解性。分别对Doob分解在单调情形停止中的应用进行了综述。Doob-Meyer分解在连续时间,也在其乘法版本。通过这些分解的方法导致明确的解决方案的各种例子,包括多维版本的房屋销售和窃贼的问题,泊松无序问题,和最优投资问题。
2019-06-03 math.PR
Zeta distributions generated by multidimensional polynomial Euler products with complex coefficients
本文在${\mathbb{R}}^d$上处理了复系数的多维多项式Euler积.利用Baker定理给出了多维多项式Euler乘积生成无穷可分、拟无穷可分但非无穷可分或甚至非特征函数的充要条件.此外,我们给出了许多例子的zeta分布的${\mathbb{R}}^d$所产生的多维多项式欧拉产品与复系数。最后,我们考虑应用到解析数论。
2016-06-30 math.NT math.PR
Two Metropolis-Hastings algorithms for posterior measures with non-Gaussian priors in infinite dimensions
California Institute of Technology(加州理工学院)
本文提出两种Metropolis-Hastings算法,用于在无限维Hilbert空间上绝对连续的目标测度采样,重点在于设计可逆的自回归类型提案核,并引入Bessel-K先验作为伽玛分布在无限维中的推广,用于稀疏或压缩参数建模。
2019-04-22 cs.NA math.NA math.PR
Large deviations for multidimensional state-dependent shot noise processes
散粒噪声过程在应用概率中用于模拟各种物理系统,例如,电信理论,保险和风险理论以及工程科学。本文证明了一类多维状态依赖Poisson散粒噪声过程样本路径的大偏差原理。该结果覆盖了先前已知的具有光尾的一维状态无关散粒噪声过程的大偏差结果。对于大偏差问题,我们采用弱收敛方法,证明了原过程的某些受控形式的适当收敛性,并给出了相应的存在性和唯一性结果.
2014-07-25 math.PR
Extremes of multidimensional Gaussian processes
本文考虑了在任意集合$T$上,由中心化的多维高斯过程$X(t)= (X_1(t),\ldots,X_n(t))$减去漂移$d(t)=(d_1(t),\ldots,d_n(t))$得到的极值.在弱正则性条件下,我们建立了正阈值$q_i>0$、$i=1,\ldots,n$和$u\to\infty$的\[\log\mathbb P\left(\exists{t\in T}:\bigcap_{i=1}^n\left\{X_i(t)-d_i(t)>q_iu\right\}\right),\]的渐近性。我们的研究结果推广和扩展了以前已知的结果的一维和二维的情况下。一些例子说明了这一理论。
2015-05-21 math.PR
Uniform asymptotics for a multidimensional renewal risk model with multivariate subexponential claims
University of the Aegean(爱琴海大学);Xi'an Jiaotong-Liverpool University(西交利物浦大学)
本文研究具有共同更新过程和恒定利息力的多维风险模型,在索赔分量服从多元次指数分布时,建立了折现总索赔进入稀有集合的概率的局部及全局均匀渐近估计,并提供了非正则变化的分布示例。
2025-10-23 math.PR
Collective Proposal Distributions for Nonlinear MCMC samplers: Mean-Field Theory and Fast Implementation
在过去的几十年里,各种“非线性”MCMC方法已经出现。虽然它们的收敛速度和效率很高,但它们的实际实现和理论研究仍然具有挑战性。在本文中,我们介绍了一个非线性推广的Metropolis-Hastings算法的建议,不仅取决于当前的状态,但也对它的法律。我们建议模拟这种动态的平均场限制的相互作用的粒子系统,这本身又可以被理解为一个概括的大都会黑斯廷斯算法的粒子群。在迭代次数和粒子数的双重限制下,证明了该算法的收敛性。然后,我们提出了一个高效的GPU实现,并说明其性能的各种例子。该方法是特别稳定的多峰的例子和收敛速度比经典的方法。
2022-08-03 math.PR math.ST stat.ME
Approximation and sampling of multivariate probability distributions in the tensor train decomposition
一般的多元分布是众所周知的昂贵的采样,特别是在偏微分方程约束的反问题的高维后验分布。本文提出了一种基于张量序列格式的低秩代理的任意连续多元分布的采样器。我们构造一个张量训练近似的目标密度函数使用交叉插值,这需要少量的函数评估。对于足够光滑的分布,TT近似所需的存储是适度的,随维度线性缩放。张量列车代理的结构允许有效的采样的条件分布方法。可以通过使用Metropolis-Hastings接受/拒绝步骤校正变换的随机种子来计算无偏估计。此外,可以使用更有效的拟蒙特卡罗方法求积,其可以通过控制变量策略或通过重要性加权来校正。我们表明,在张量列车近似的误差线性传播到大都会-黑斯廷斯拒绝率和综合自相关时间所产生的马尔可夫链。这些方法证明在三个计算实例:拟合故障时间的减震器;偏微分方程约束的逆扩散问题;和抽样从Rosenbrock分布。延迟拒绝自适应大都会(DRAM)算法被用作基准。我们发现,重要性权重校正的拟蒙特卡罗方法正交在所有计算的例子中表现最好,并且在很宽的近似精度和样本量范围内比DRAM更有效。事实上,这里开发的所有方法在所有计算示例中都显著优于DRAM。
2019-07-03 cs.NA math.NA math.PR
Irreversible Monte Carlo Algorithms for Efficient Sampling
平衡系统根据细致平衡(DB)进行演化。这一原理指导了Monte-Carlo抽样技术的发展,Metropolis-Hastings(MH)算法就是其中的著名代表。也知道DB是足够的,但不是必需的。我们构造了一个给定的可逆算法的不可逆变形,能够显着提高采样从已知的分布。我们的转换修改了转换速率,保持了转换结构的完整性。为了说明一般的计划,我们设计了一个不可逆的版本的大都市黑斯廷斯(IMH)和测试的自旋团簇的例子。模型的标准MH存在临界减速,而IMH没有临界减速。
2008-09-23 cond-mat.stat-mech cs.IT math.IT