Exact thresholds for Ising-Gibbs samplers on general graphs
我们建立严格的结果快速混合吉布斯采样的铁磁伊辛模型一般图。我们证明了如果\[(d-1)\tanhβ<1,\],则存在一个常数C,使得在任意n个顶点和最大度d的图上的铁磁伊辛模型的Gibbs采样器的离散时间混合时间,其中所有的相互作用都以$β$为界,任意的外场都以$Cn\log n$为界.此外,谱间隙是一致有界远离0的所有这样的图,以及无限图的最大程度的d。我们进一步表明,当$d\tanhβ<1$,具有高概率超过埃尔多斯-雷尼随机图$G(n,d/n)$,它认为吉布斯采样器的混合时间是\[n^{1+Θ({1}/{\log\log n})}.\]这两个结果是紧密的,因为它是已知的随机规则和埃尔多斯-雷尼随机图的混合时间是,具有高概率,指数n时,$(d-1)\tanhβ>1$,和$d\tanhβ>1$,分别。据我们所知,我们的结果给出了一般图上自旋系统快速混合的第一个紧充分条件。此外,我们的研究结果是第一个严格的结果建立精确的阈值动态随机图的空间阈值树。
2013-02-05 math.PR
Adaptive Gibbs samplers and related MCMC methods
我们考虑各种版本的自适应Gibbs和Metropolis-within-Gibbs采样器,它们在运行过程中通过学习动态更新它们的选择概率(也许还有它们的建议分布),以试图优化算法。我们提出了一个警示的例子,即使是一个简单的自适应吉布斯采样器可能无法收敛。然后,我们提出了各种积极的结果,保证在一定条件下的自适应吉布斯采样收敛。
2013-02-27 math.PR stat.CO
Uniform Ergodicity of the Iterated Conditional SMC and Geometric Ergodicity of Particle Gibbs samplers
我们建立了迭代条件序列蒙特卡罗(i-cSMC)马尔可夫链和相关的粒子吉布斯采样器的收敛速度和渐近方差的定量界。我们的主要发现是,与i-cSMC算法相关的势函数的本质有界性为i-cSMC马尔可夫链的一致遍历性提供了充要条件,以及其(一致几何)收敛速率的定量界。此外,我们表明,i-cSMC马尔可夫链甚至不能是几何遍历的,如果这个基本的有界性不持有在许多感兴趣的应用。我们的充分性和定量界依赖于一个新的非渐近分析的期望标准归一化常数估计相对于一个“双条件”SMC算法。此外,我们对i-cSMC的研究结果表明,收敛速率可以通过增加算法中的粒子数N来任意提高,并且在存在混合假设的情况下,收敛速率可以通过随时间范围线性增加N来保持恒定。我们将i-cSMC有界性条件的充分性转化为粒子Gibbs Markov链几何遍历的充分条件和粒子Gibbs Markov链几何收敛速率的定量界,这意味着粒子Gibbs马尔可夫链的性质收敛于相应Gibbs采样器的性质.这些结果补充了最近发现的,和相关的,颗粒边缘的大都会黑斯廷斯(PMMH)马尔可夫链的条件。
2015-04-14 math.PR
A Gibbs sampler on the $n$-simplex
我们确定一个简单的吉布斯采样器的混合时间的单位单纯形,证实了一个猜想奥尔德斯。上界是基于两步耦合,其中第一步是一个简单的收缩参数和第二步是一个非马尔可夫耦合。我们还提出了一个基于MCMC的完美采样算法的基础上,我们的证明,可以适用于吉布斯采样器,更难分析。
2014-01-15 math.PR stat.CO
The convergence rate of the Gibbs sampler for generalized $1-$D Ising model
广义一维伊辛模型的Gibbs采样器收敛速率由其转移阵的第二大特征值确定,其绝对值记为$β^*$。本文推广了Shiu和Chen $(2015)$关于一维双态Ising模型的一个结果,给出了$β^*$的一个界.该方法是基于可逆马尔可夫过程的Diaconis和Stroock界。本文给出的新界改进了Ingrassia的$(1994)$结果.
2019-02-07 cond-mat.stat-mech math.PR
Improving Gibbs Sampler Scan Quality with DoGS
Stanford University(斯坦福大学);Microsoft Research(微软研究院)
Dobrushin的成对影响矩阵长期以来一直被用作限制吉布斯抽样收敛速度的分析工具。在这项工作中,我们使用Dobrushin影响的基础上,一个实用的工具,以证明和有效地提高离散吉布斯采样器的质量。我们的Dobrushin优化吉布斯采样器(DoGS)为给定的采样预算和感兴趣的变量子集提供定制的变量选择顺序,全变差距离到平稳性的明确界限,以及标准系统和均匀随机扫描吉布斯采样器的可证明的改进。在我们的联合图像分割和对象识别,马尔可夫链蒙特卡罗极大似然估计,和伊辛模型推理的实验中,DoGS始终提供更高质量的推理与显着更小的采样预算比标准吉布斯采样器。
2017-07-18 cs.LG math.PR stat.ME
Mixing Time Bounds for the Gibbs Sampler under Isoperimetry
Imperial College London(伦敦帝国理工学院);Qube Research & Technologies(Qube研究与科技公司)
本文基于等周性条件,推导了系统扫描和随机扫描基尔丁采样器的导电性界,扩展了对基尔丁采样收敛行为的理解,并展示了结果对log-Lipschitz和log-smooth目标分布的有效性。
2026-04-27 math.PR math.ST stat.TH
Spectral Telescope: Convergence Rate Bounds for Random-Scan Gibbs Samplers Based on a Hierarchical Structure
随机扫描吉布斯采样器具有自然的层次结构。该结构将针对高维分布的Gibbs采样器连接到针对低维分布的Gibbs采样器。这导致了它们的光谱间隙的准伸缩性质。基于这一性质,我们得到了一般域上Gibbs采样器的谱间隙和收敛速度的三个新的界。这三个界限分别与链的谱间隙、目标分布的相关结构、一类随机游动链和一组影响矩阵有关。值得注意的是,我们的结果之一,推广的技术谱独立,这已收到相当大的关注,其成功的有限域,一般状态空间。我们说明了我们的方法,通过采样器针对均匀分布的一个角落的$n$立方体。
2022-10-14 cs.DS math.PR math.ST
Multilevel linear models, Gibbs samplers and multigrid decompositions
我们研究了条件高斯分层模型的贝叶斯分析所产生的后验分布的背景下的吉布斯采样器的收敛性质。我们开发了一个多重网格的方法,推导出各种广泛使用的模型结构,包括嵌套和交叉随机效应的算法的收敛速度的解析表达式。我们的结果适用于多级模型的层次结构中的任意层数,而以前的工作仅限于两级嵌套的情况下。理论结果提供了明确的和易于实施的指导方针,以优化实际实施的吉布斯采样器,如指示上的参数化选择(如中心和非中心),施加约束,以保证统计可识别性,以及哪些参数监测诊断过程中。模拟结果表明,在非高斯分布和更一般的MCMC计划,如基于梯度的上下文中也是信息丰富的。条件高斯分层模型的吉布斯采样器的实现。
2019-06-26 math.PR stat.CO stat.ME
Spectral gap bounds for reversible hybrid Gibbs chains
本文针对可逆混合Gibbs采样器收敛性质研究不足的问题,提出新方法建立其收敛速率界,证明混合Gibbs链绝对谱间隙可由精确链及近似用马尔可夫链的谱间隙界定,并拓展至混合数据增强算法,应用于三类采样器实例。
2025-03-21 math.PR math.ST stat.TH
Hydrodynamic limit for the Ginzburg-Landau $\nablaϕ$ interface model with non-convex potential
[Nishikawa,2003]在Dirichlet边界条件下建立了Ginzburg-Landau $\nablaϕ$界面模型的流体动力学极限。本文研究了类似的问题,但具有非凸位势。由于缺乏严格的凸性,这就给我们带来了很多困难,特别是在平衡态的识别上。我们在相当一般的情况下给出了平稳性和Gibbs性质之间的等价性的证明,作为其结论,我们完成了[Deuschel and Cotar,2008]中高温区域下平衡态的识别。在相当一般的情形下,我们也建立了极值吉布斯测度方差的一些一致估计。
2017-03-18 math.PR
Weak Poincaré inequalities for two-component Deterministic-scan Metropolis-within-Gibbs samplers
University of Warwick(华威大学)
本文通过弱Poincaré不等式分析了确定性扫描Metropolis-within-Gibbs采样器的收敛性质,并建立了相关理论结果及应用。
2026-10-06 math.PR stat.CO
Entropy contraction of the Gibbs sampler under log-concavity
Duke University(杜克大学);Bocconi University(博科尼大学)
本文研究了在强log-concave条件下吉布斯采样的熵收缩特性,证明了其收敛速率与条件数线性相关,并探讨了非强log-concave情况下的收敛退化及扩展应用。
2026-01-20 math.PR math.ST stat.CO
Uniform ergodicity of the Particle Gibbs sampler
粒子吉布斯(PG)采样器是在马尔可夫链蒙特卡罗(MCMC)中使用粒子滤波器的系统方法。这导致在状态轨迹的空间上的现成的马尔可夫核,其可用于从MCMC方案中的状态空间模型的全联合平滑分布进行模拟。我们表明,PG马尔可夫内核是一致遍历的相当一般的假设下,我们将仔细审查和讨论。特别是,我们提供了一个显式的收敛速率,它揭示了:(i)对于固定数量的数据点,可以通过增加粒子数量来使收敛速度任意好,以及(ii)在一般混合假设下,可以通过超线性地增加粒子数量来保持收敛速度恒定观察次数。通过对两种常见的非紧状态空间模型的详细研究,说明了本文结果的适用性。
2014-02-05 math.PR math.ST stat.TH
On the Mixing Time of Kac's Walk and Other High-Dimensional Gibbs Samplers with Constraints
确定特殊正交群$\mathrm{SO}(n)$上Kac随机游动的全变差混合时间一直是一个悬而未决的问题。在本文中,我们构建了一个新的非马尔可夫耦合的边界混合时间。我们的耦合分析需要控制的最小奇异值的某个随机矩阵具有高度相关的条目。在我们的矩阵中的项目的依赖性,使它不适合现有的技术在随机矩阵理论。为了规避这个困难,我们扩展了最近的一些边界上的最小奇异值的矩阵与独立的项目,我们的设置。这些界意味着对于某些显式常数$0 < C_{1}, C_{2} < \infty$,Kac在群$\mathrm{SO}(n)$上的行走的混合时间介于$C_{1} n^{2}$和$C_{2} n^{4} \log(n)$之间,从而大大改进了Jiang的$O(n^{5} \log(n)^{2})$的界.我们的方法也可以适用于其他高维吉布斯采样器的约束,因此是独立的利益。除了给出混合时间的分析界限外,我们的方法还允许我们通过模拟随机矩阵的特征值来计算混合时间的严格估计。
2016-05-26 math.PR stat.CO
Incorporating Local Step-Size Adaptivity into the No-U-Turn Sampler using Gibbs Self Tuning
本文针对 NUTS 中步长与路径长度相互依赖导致局部自适应困难的问题,提出基于 Gibbs 自调节框架的局部步长自适应方法,保证可逆性并仅依赖步长条件分布决定接受概率,在 Neal 漏斗和高维正态分布上验证了有效性。
2024-08-15 math.PR stat.CO stat.ME
Geometric ergodicity of Gibbs samplers for linear latent models with GIG variance mixtures
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Lund University(隆德大学)
本文研究了广义逆高斯方差混合模型中Gibbs采样器的几何遍历性,通过迹类算子和漂移次要性方法,证明其在参数空间的广泛适用性,并验证了最大似然估计的一致性。
2026-02-08 math.PR math.ST stat.TH
Second-order perturbation bounds for Gibbs samplers under strong spatial mixing
本研究在强空间混合条件下,通过三种方法证明了Gibbs采样器扰动分析中的“平方根”现象,即一步误差约为$1/\sqrt{\tau}$时局部更新仍有效,并展示了其在MCMC算法调参中的应用。
2026-10-26 math.PR stat.CO
Probabilistic Duality for Parallel Gibbs Sampling without Graph Coloring
MPI Tübingen(图宾根马普所);Microsoft Research(微软研究院)
本文提出了混合分布随机变量概率对偶的一个新概念。使用这个概念,我们展示了如何实现一个高度并行化的吉布斯采样器弱耦合离散成对图形模型,严格的积极因素,几乎不需要预处理,很容易实现。此外,我们展示了我们的方法如何与阻塞相结合,以提高混合。即使我们的方法导致劣质的混合时间相比,一个顺序的吉布斯采样器,我们认为,我们的方法仍然是非常有用的大型动态网络,在连续的基础上添加和删除的因素,因为它是很难保持一个图着色在这种设置。同样,我们的方法是有用的并行吉布斯采样的图形模型,不允许图着色与少量的颜色,如密集连接的图形。
2016-11-21 cs.LG math.PR stat.ML
Slow Mixing of Quantum Gibbs Samplers
该研究提出量子瓶颈引理,证明多类低温哈密顿量的量子吉布斯采样器混合时间存在指数下界,将经典慢混合分析工具推广至量子系统。
2024-12-12 math-ph math.MP math.PR
Fast sampling from $β$-ensembles
我们研究的采样算法的$β$ -系综的时间复杂度小于立方的基数的合奏。根据Dumitriu和Edelman(2002),我们将系综视为随机三对角矩阵的特征值,即随机Jacobi矩阵。首先,我们提供了一个统一的和基本的治疗三对角模型相关联的三个经典的厄米,拉盖尔和雅可比合奏。为了这个目的,我们使用简单的变量之间的连续reparametrizations的系数定义的三对角矩阵。其次,我们推导出一个近似采样器的模拟$β$ -合奏,并说明如何快速可以多项式电位。该方法结合了Jacobi矩阵的Gibbs采样器和这些矩阵的对角化。在实践中,即使对于大的系综,只有几个吉布斯通过足够的边缘分布的特征值,以适应预期的理论分布。当吉布斯采样器中的条件可以被精确地模拟时,对于最大特征值的波动,观察到相同的快速经验收敛。我们的实验结果支持Krishnapur等人(2016)的猜想,即大小为$N$的Jacobi矩阵上的Gibbs链在$\mathcal{O}(\log(N))$中混合。
2020-03-04 math.PR stat.CO
Perfectly random sampling of truncated multinormal distributions
目标测量$μ$是随机向量在盒子$\cB$中的分布,盒子是有界区间的笛卡儿积。Gibbs采样器是具有不变测度$μ$的马尔可夫链。Gibbs采样器的“来自过去的耦合”构造用于显示动力学的遍历性并完美地模拟$μ$。然后实现了一种对具有截断为$\cB$的多正态分布的向量进行采样的算法。
2007-09-25 math.PR math.ST stat.TH
Fast Gibbs sampling for high-dimensional Bayesian inversion
Centre for Medical Image Computing, University College London(医学图像计算中心,伦敦大学学院)
本文提出了一种改进的吉布斯采样方法,用于高维贝叶斯反演问题,支持多种先验分布,如一般ℓ_𝑝^𝑞先验和硬约束,并通过计算实例展示了其在CT数据反演中的应用效果。
2016-07-05 cs.NA math.NA math.PR
The structure of low-complexity Gibbs measures on product spaces
设$K_1$,$\dots$,$K_n$是有界完备可分度量空间.令$λ_i$是每个$i$的$K_i$上的Borel概率度量。设$f:\prod_i K_i \to \mathbb{R}$是一个有界连续的势函数,$$μ(d \mathbf{x})\ \propto\ e^{f(\mathbf{x})}λ_1(d x_1)\cdots λ_n(d x_n)$$是相应的吉布斯分布。在每个点$\mathbf{x} \in \prod_i K_i$,通过比较在至多一个坐标上不同于$\mathbf{x}$的所有点处的$f$的值,可以定义“离散梯度”$\nabla f(\mathbf{x},\,\cdot\,)$。在$\prod_i K_i = \{-1,1\}^n \subset \mathbb{R}^n$的情况下,离散梯度$\nabla f(\mathbf{x},\,\cdot\,)$自然地与$\mathbb{R}^n$中的向量相一致。本文表明,一个“低复杂性”的假设$\nabla f$意味着$μ$可以近似的其他措施的混合物,数量相对较少,其中大多数接近产品措施的意义上的最佳运输。这也意味着一个近似的$f$的配分函数的产品措施,沿着查特吉和Dembo的理论`非线性大偏差'。这项工作的一个重要先例是Eldan在$\prod_i K_i = \{-1,1\}^n$案件中的结果。Eldan的假设是…
2019-05-03 cs.IT math-ph math.IT