Subgeometric ergodicity and $β$-mixing
平稳几何遍历马氏链是混合系数几何衰减的$β$ -混合(绝对正则)链.此外,对于初始分布以外的平稳,几何遍历意味着$β$ -混合适当的时刻假设。本文证明了亚几何遍历马氏链也有类似的结果。特别是,对于平稳和其他初始分布,亚几何遍历性意味着$β$ -混合与亚几何衰减的混合系数。虽然这个结果很简单,但在几何遍历性不能成立的情况下,它在获得混合速率方面应该是非常有用的。为了说明我们的结果,我们得到新的亚几何遍历性和$β$混合的自激阈值自回归模型的结果。
2019-04-16 econ.EM math.PR math.ST
Variable transformation to obtain geometric ergodicity in the random-walk Metropolis algorithm
一个随机游动Metropolis采样器是几何遍历的,如果它的平衡密度是超指数轻的,并且满足曲率条件[随机过程]. 85(2000)341-361]。许多应用,包括贝叶斯分析与共轭先验的逻辑和泊松回归和对数线性模型的分类数据的结果在后验分布,不是超指数轻。我们展示了如何应用变量的变化公式,以获得新的密度,满足几何遍历的条件。对新变量进行采样,并将结果映射回旧变量,从而为原始变量提供几何遍历采样器。这种获得几何遍历性的方法具有很广的适用性。
2013-12-11 math.ST stat.TH
Estimating drift parameters in a non-ergodic Gaussian Vasicek-type model
研究了一类非遍历Gaussian Vasicek型模型$dX_t=(μ+θX_t)dt+dG_t,\ t\geq0$的参数估计问题,其中参数$θ>0$和$μ\in\mathbb{R}$均为未知,其中$G$为高斯过程.基于连续时间观测值$\{X_t,\ t\in[0,T]\}$作为$T\rightarrow\infty$,分别给出了漂移参数$θ$和$μ$的最小二乘估计$\widetildeθ_T$和$\widetildeμ_T$.我们的目的是得到驱动高斯过程$G$的一些充分条件,以保证$\widetildeθ_T$和$\widetildeμ_T$是强相容的,$\widetildeθ_T$的极限分布是Cauchy型分布,$\widetildeμ_T$是渐近正态的.我们应用我们的结果分数Vasicek,亚分数Vasicek和bifractional Vasicek过程。此外,本文的工作推广了\cite{EEO}在$μ=0$ .
2020-05-09 math.PR math.ST stat.TH
Estimating the Mixing Time of Ergodic Markov Chains
我们解决的问题估计的混合时间$t_{\mathsf{mix}}$的任意遍历有限状态马尔可夫链从一个单一的轨迹长度$m$。Hsu等人[2019]解决了可逆情况,他将一般情况作为一个开放问题。在可逆的情况下,分析是非常方便的事实,马尔可夫算子是自伴的,和Weyl不等式允许无量纲扰动分析的经验特征值。正如Hsu等人所指出的,在不存在可逆性的情况下(这会导致不对称的对概率矩阵),现有的扰动分析对状态数$d$具有最坏情况的指数依赖性。此外,即使本征值微扰分析与更好地依赖于$d$是可用的,在不可逆的情况下,光谱间隙和混合时间之间的连接是不是几乎一样简单的可逆的情况下。我们的关键见解是估计伪谱间隙$γ_{\mathsf{ps}}$,这使我们能够克服对称性的损失,并实现多项式依赖于最小的平稳概率$π_\star$和$γ_{\mathsf{ps}}$。此外,在可逆的情况下,我们同时获得了$t_{\mathsf{mix}}$和精确度$\varepsilon$的几乎(高达对数因子)的极大极小率,缩小了Hsu等人的差距,他认为$\varepsilon$在下限是恒定的。最后,我们构造了$γ_{\mathsf{ps}}$的完全经验置信区间,该置信区间以大约$1/\sqrt{m}$的速率收缩到零,并且即使在可逆的情况下也改善了现有技术。
2022-08-16 cs.LG math.ST stat.ML
A Short Note on the Efficiency of Markov Chains for Bayesian Linear Regression Models with Heavy-Tailed Errors
本文证明了在重尾误差和条件共轭正态-逆Wishart先验下,Backlund和Hobert(2020)的采样器仍保持一致的几何遍历性,并进一步在更温和条件下证明了Roy和Hobert(2010)采样器在非正常先验情形下的几何遍历性。
2024-10-28 math.ST stat.CO stat.TH
Efficient estimation for ergodic diffusion processes sampled at high frequency
本文提出了无限时间跨度下高频采样遍历扩散过程的一般有效估计理论,基于近似鞅估计函数推导了确保一致性、渐近正态性、速率最优性和有效性的条件,并提供了一种通过求解线性方程构造显式估计函数的可行方法。
2024-01-09 math.ST stat.ME stat.TH
Statistical inference for ergodic diffusion with Markovian switching
针对具有马尔可夫状态切换的遍历扩散过程,提出高斯拟似然参数估计方法,证明系数参数渐近正态并构造链生成元的一致估计量,仿真验证了理论结果。
2025-05-16 math.ST stat.TH
Fast Monte Carlo Markov chains for Bayesian shrinkage models with random effects
当使用一般线性混合模型执行贝叶斯数据分析时,所得的后验密度几乎总是难以解析的。然而,如果使用适当的条件共轭先验,则存在一个简单的两块吉布斯采样器,该采样器在几乎所有实际设置中都是几何遍历的,包括$p > n$的情况(Abrahamsen和Hobert,2017)。不幸的是,$β$的(条件共轭)多元正态先验在$p \gg n$的高维环境中表现不佳。在本文中,我们考虑一种替代模型,其中多元正态先验被Griffin和Brown(2010)开发的正态-gamma收缩先验所取代。这一变化导致了更为复杂的后验密度,我们开发了一个简单的MCMC算法来探索它,该算法具有确定性和随机扫描组件,比更明显的三步Gibbs采样器更容易分析。事实上,我们证明了新算法是几何遍历在大多数实际设置。
2017-11-18 math.ST stat.TH
Two-step estimation of ergodic Lévy driven SDE
研究了具有漂移系数$a(x,α)$和尺度系数$c(x,γ)$的遍历Lévy驱动的随机微分方程的高频样本,其中含有未知参数$α$和$γ$.我们假设Lévy测度$ν_{0}$具有所有阶矩,但不是完全指定的.我们将证明$α$,$γ$和一类函数参数$\intφ(z)ν_0(dz)$的一些估计的联合渐近正态性,这是在两个步骤的方式构造:首先,我们使用高斯拟似然估计$(α,γ)$,然后,为了估计$\intφ(z)ν_0(dz)$,我们利用基于欧拉型残差与先前获得的拟似然估计矩的方法。
2016-01-11 math.ST stat.TH
Statistical Estimation of Ergodic Markov Chain Kernel over Discrete State Space
我们研究了从一个长的状态观测序列估计离散状态马尔可夫链核参数的统计复杂性。在有限的情况下,我们的特点(模对数因子)的极大极小样本估计的复杂性相对于运营商的无穷范数,而在可数无限的情况下,我们分析的问题相对于一个自然的条目明智的范数来自全变差。我们表明,在这两种情况下,样本的复杂性是由未知链的混合性质,其中,在有限状态的情况下,有已知的有限样本估计完全经验的置信区间。
2020-08-13 cs.LG math.ST stat.ML
Learning Nonlinear Couplings in Network of Agents from a Single Sample Trajectory
Lehigh University(理海大学);University of Central Florida(中佛罗里达大学)
我们考虑一类随机动态网络,其控制动态可以使用耦合函数建模。它表明,这种网络的动力学可以产生几何遍历轨迹在一些合理的假设。我们表明,一般类的耦合函数可以学习,只使用一个样本轨迹从网络。这实际上是合理的,因为在许多应用中,期望仅运行一次实验,但持续更长的时间段,而不是从不同的初始条件重复相同的实验多次。从几何遍历马尔可夫链的浓度不等式的想法的基础上,我们制定了几个结果的经验估计的收敛到真正的耦合函数。我们的理论研究结果得到了广泛的模拟结果的支持。
2022-11-20 cs.LG cs.SY eess.SY
Sup-norm adaptive simultaneous drift estimation for ergodic diffusions
考虑一类标量遍历扩散过程在$\sup$ -范数损失下基于连续观测估计漂移和不变密度的问题。假设未知漂移$b$属于未知阶数的非参数光滑函数类。我们提出了一种自适应的方法,允许构建漂移估计达到最小最大最优$\sup$ -范数收敛速度。此外,我们证明了经典不变密度核估计的Donsker定理,并建立了它的半参数有效性。最后,我们结合这两个结果,并提出了一个完全数据驱动的带宽选择过程,同时产生一个速率最优漂移估计和渐近有效的估计不变的扩散密度。我们研究的关键工具是经验扩散过程的一致指数不等式。
2018-08-31 math.ST stat.TH
Adaptive confidence bands for Markov chains and diffusions: Estimating the invariant measure and the drift
作为一个出发点,我们证明了一个功能中心极限定理的估计的不变测度的几何遍历哈里斯经常马尔可夫链在多尺度空间。这允许构造置信带的不变密度与最佳的(欠平滑)$L^{\infty}$直径通过使用小波投影估计。此外,我们的设置适用于漂移估计离散观察固定的观察距离的扩散。我们证明了一个功能的中心极限定理的漂移函数的估计,并通过使用一个完全的数据驱动的估计,最后构造自适应置信带的漂移。
2016-07-07 math.ST stat.TH
Trace-class Monte Carlo Markov Chains for Bayesian Multivariate Linear Regression with Non-Gaussian Errors
令$π$表示当来自多变量线性回归模型的可能性与标准非信息先验结合时产生的难以处理的后验密度,该模型具有来自正态的尺度混合的误差。有一种简单的数据增强算法(基于来自混合密度的潜在数据)可用于探索$π$。令$h(\cdot)$和$d$分别表示混合密度和回归模型的维数。Hobert等人(2016)[arXiv:1506.03113v2]最近表明,如果$h$以适当的速率在原点收敛到0,并且$\int_0^\infty u^{\frac{d}{2}} \, h(u) \, du < \infty$,则DA算法和替代Haar PX-DA算法的马尔可夫链都是几何遍历的。事实上,比几何遍历性更强的东西常常成立。本文证明了在$h$上的简单条件下,由DA和Haar PX-DA马尔可夫链定义的马氏算子是迹族,即,具有可和特征值的紧致的。许多混合密度,满足霍伯特等人。(2016)的条件也满足本文提出的新条件。因此,对于这组混合密度,新的结果提供了一个实质性的加强霍伯特等人。”(2016年)的结论,没有任何额外的假设。例如,Hobert et al.(2016)表明,只要混合密度是广义逆高斯、对数正态、Fréchet(形状参数大于$d/2$)或逆伽马(形状参数大于$d/2$),DA和Haar PX-DA马尔可夫链就是几何遍历的。本文的结果表明,在这些情况下,DA和Haar PX DA马尔可夫算子,事实上,迹…
2016-06-01 math.ST stat.TH
Asymptotic theory of semiparametric $Z$-estimators for stochastic processes with applications to ergodic diffusions and time series
本文将主要在现代经验过程背景下发展起来的$Z$ -估计理论的一部分推广到随机过程的情况,典型的是半鞅。本文给出了一个一般定理,当$Ψ_n$的补偿器是随机的时,得到了具有抽象冗余参数$h$的估计方程$θ\leadsto Ψ_n(θ,\widehat{h}_n)=0$解的渐近性态.作为其应用,我们考虑了遍历扩散过程模型中的估计问题,其中漂移系数包含一个未知的,有限维的参数$θ$和扩散系数是由冗余参数$h$从无限维空间索引。冗余参数空间的一个例子是一类光滑函数。我们建立了漂移系数的$Z$ -估计的渐近正态性和有效性。作为另一个应用,我们也提出了一个类似的结果在遍历时间序列模型。
2009-09-02 math.ST stat.TH
Robust estimation for ergodic Markovian processes
本文针对可能不满足平稳性假设的遍历马尔可夫过程,提出一种对模型误设和污染稳健的平稳分布估计方法,并给出非渐近Hellinger偏差界,在弱相关时达到独立同分布情形下的性能,在强相关混合过程中可通过选取近似独立子集恢复类似结果。
2023-07-07 math.ST stat.TH
Fixed-width output analysis for Markov chain Monte Carlo
马尔可夫链蒙特卡罗是一种产生相关样本的方法,以便通过遍历平均来估计目标分布的特征。一个基本问题是什么时候应该停止采样?也就是说,什么时候遍历平均值是期望量的好估计?我们考虑一种方法,停止模拟时,基于遍历平均值的置信区间的宽度是小于用户指定的值。因此,计算蒙特卡罗标准误差是评估模拟输出的关键步骤。我们考虑估计渐近正态分布方差的再生模拟法和批平均法。我们给出了这两种方法强相合的充分条件,并在各种例子中研究了它们的有限样本性质。
2006-01-18 math.ST stat.TH
Inference for fractional Ornstein-Uhlenbeck type processes with periodic mean in the non-ergodic case
本文研究了当随机积分为Young型时,在非遍历情形下分数阶Ornstein-Uhlenbeck型过程的漂移参数估计问题.我们考虑在$[0,T]$和$T\to\infty$上连续观测过程的抽样方案。对于已知Hurst参数$H\in(0.5, 1)$,即长程相依情形,我们构造了一个最小二乘型估计,并建立了强相合性。此外,我们还证明了一个二阶极限定理,该定理给出了速率依赖于$H$的周期函数参数的渐近正态性,以及平均回复参数具有指数速率的非中心Cauchy极限结果.对于周期性参数是周期函数的权重的特殊情况,其在周期上积分为零,我们甚至可以将速率提高到$\sqrt{T}$。
2019-03-19 math.PR math.ST stat.TH
Multivariate strong invariance principles in Markov chain Monte Carlo
本文利用宽义再生性质,在无需1步小化条件下建立了多项式和几何遍历马尔可夫链的多元强不变性原理,并给出紧致显式收敛速率,为方差估计量的强一致性验证提供理论支撑。
2023-03-29 math.PR math.ST stat.CO
Concentration of scalar ergodic diffusions and some statistical implications
我们推导了经验过程的连续时间模拟和标量遍历扩散过程的相关随机积分的一致浓度不等式。从而,我们奠定了基础,通常需要为一大类扩散过程的估计过程的超范数性质的研究。在经典的i.i.d.在本文中,Talagrand型集中不等式为统计超范数分析提供了一个关键工具。针对扩散框架中的一个平行替代问题,通过鞅逼近和一般链式方法得到的矩界,给出了一个系统的、完备的求解此类一致浓度不等式的方法.所开发的机器是独立的概率兴趣,可以作为一个起点,调查其他过程,如更一般的马尔可夫过程,特别是多变量或离散观察扩散。作为第一个具体的统计应用,我们分析了超范数误差估计的不变密度的遍历扩散通过自然局部时间估计和经典的非参数核密度估计,分别。
2019-07-12 math.PR math.ST stat.TH
Estimating the Spectral Gap of a Reversible Markov Chain from a Short Trajectory
遍历可逆马尔可夫链的谱隙$γ$是衡量其渐近收敛速率的一个重要参数。在应用中,转移矩阵$P$可能是未知的,但可以观察到链的一个样本直到固定时间$t$。Hsu、Kontorovich和Szepesvari(2015)考虑了根据该数据估计$γ$的问题。令$π$为$P$和$π_\star = \min_x π(x)$的平稳分布。他们表明,如果$t = \tilde{O}\bigl(\frac{1}{γ^3 π_\star}\bigr)$,则$γ$可以以高概率估计在乘法常数内。他们还证明了精确估计$γ$需要$\tildeΩ\bigl(\frac{n}γ\bigr)$步骤。我们表明,$\tilde{O}\bigl(\frac{1}{γπ_\star}\bigr)$步骤的链足以估计$γ$乘法常数具有高概率。当$π$是均匀的时,这匹配(直到对数校正)Hsu、Kontorovich和Szepesvari的下界。
2016-12-16 math.PR math.ST stat.TH
Nonasymptotic bounds on the estimation error of MCMC algorithms
我们解决的问题上界的MCMC估计的均方误差。我们的分析是非渐近的。我们首先建立了一个普遍的结果,基本上所有遍历马尔可夫链中遇到的贝叶斯计算和可能无界的目标函数$f$有效。在前导项正好是$σ_{\mathrm {as}}^2(P,f)/n$的意义上,该界是尖锐的,其中$σ_{\mathrm{as}}^2(P,f)$是CLT渐近方差。接下来,我们进行具体的额外的假设,并给出明确的几何和多项式遍历马尔可夫链定量漂移条件下的可计算的界限。作为一个推论,我们提供的置信估计的结果。
2013-12-11 math.ST stat.CO stat.ME
Parametric Inference for Discretely Observed Subordinate Diffusions
从属扩散由具有独立Lévy从属子的时变扩散过程构成。这是一个丰富的马尔可夫跳过程族,它具有多种跳行为,并有许多应用。研究离散观测遍历从属扩散过程的参数推断问题。我们使用谱理论解决这些过程的可识别性问题,并提出了一个基于估计函数的两步估计过程。在第一步中,我们使用仅涉及扩散参数的估计函数。第二步,利用基于从属扩散特征值和特征函数的鞅估计函数估计Lévy从属子的参数,解决了加权矩阵的选取问题。当特征值对没有解析表达式时,我们采用高阶修正的常数扰动法进行数值计算,从而有效地计算出鞅估计函数。考虑到数值逼近的影响,建立了估计量的相合性和渐近正态性.通过数值例子,我们表明,我们的方法是计算和统计效率。建立了CBOE波动率指数VIX的从属扩散模型,该模型对数据拟合良好。
2017-06-28 math.ST stat.TH
Rosenthal-type inequalities for linear statistics of Markov chains
本文为几何遍历马尔可夫链的可加泛函建立了类似Rosenthal不等式的集中不等式,显式界依赖于混合时间,并采用基于泊松分解的新证明方法。
2025-09-25 math.PR math.ST stat.ML
Convergence Analysis of the Data Augmentation Algorithm for Bayesian Linear Regression with Non-Gaussian Errors
在多元线性回归设置中,高斯误差有时是不合适的,例如,因为数据包含离群值。在这种情况下,通常假设误差密度是多元正态密度的尺度混合,其形式为$f(\varepsilon) = \int_0^\infty |Σ|^{-\frac{1}{2}} u^{\frac{d}{2}} \, ϕ_d \big( Σ^{-\frac{1}{2}} \sqrt{u} \, \varepsilon \big) \, h(u) \, du$,其中$d$是响应的维数,$ϕ_d(\cdot)$是标准$d$ -变量正态密度,$Σ$是未知的$d \times d$正定尺度矩阵,而$h(\cdot)$是某个固定的混合密度。将这种替代回归模型与未知参数的默认先验相结合会导致高度棘手的后验密度。幸运的是,有一个简单的数据增强(DA)算法和相应的Haar PX-DA算法可以用来探索这个后验。本文提供了条件($h$上)的几何遍历的马尔可夫链的马尔可夫链蒙特卡罗(MCMC)算法的基础。这些结果是非常重要的,从实用的角度来看,因为几何遍历性保证存在的中心极限定理,形成的基础上,所有的标准方法计算有效的渐近标准误差MCMC为基础的估计。主要结果是,如果$h$在原点以适当的速率收敛到0,而$\int_0^\infty u^{\frac{d}{2}} \, h(u) \, du < \infty$,则DA和Haar PX DA马氏链都…
2016-01-27 math.ST stat.TH
A perturbation analysis of some Markov chains models with time-varying parameters
我们研究了局部平稳马尔可夫模型中的一些规律性性质,这些性质对于控制非参数核估计量的偏差至关重要。特别是,我们提供了一个替代的标准概念的衍生过程中开发的文献,可用于研究广泛的一类马尔可夫过程。为此,对于一些家庭的V-几何遍历马尔可夫核指标的一个真正的参数u,我们给出的条件下,不变的概率分布是可微的关于u,在带号测度的意义。我们的结果也完成了现有文献的扰动分析的马尔可夫链,特别是当指数矩不是有限的。我们的条件检查几个原始的本地平稳过程,如整数值自回归过程,分类时间序列或阈值自回归过程的例子。
2018-12-05 math.ST stat.TH
On the convergence rate of the "out-of-order" block Gibbs sampler
它表明,一个看似无害的块吉布斯采样器中的步骤重新排序,实际上可以使算法无效。特别地,由"无序"块吉布斯采样器模拟的马尔可夫链不具有正确的不变概率分布。然而,尽管具有错误的不变分布,马尔可夫链以与原始块吉布斯马尔可夫链相同的速率收敛。更具体地说,它表明,要么两个马尔可夫链是几何遍历(具有相同的几何收敛速率),或者都不是。这些结果从实际的观点来看是重要的,因为(无效的)无序算法可能比(有效的)块吉布斯采样器更容易分析(参见,例如,Yang和Rosenthal [2019])。
2021-10-27 math.ST stat.CO stat.TH
Stability of Optimal Filter Higher-Order Derivatives
在许多情况下,状态空间模型依赖于需要从数据中推断的参数。利用随机梯度搜索和最优滤波器(一阶)导数,可以在线估计参数。为了分析非线性状态空间模型中在线参数估计方法的渐近性态,有必要建立最优滤波器高阶导数的存在性和稳定性的结果。研究了这些导数的存在性和稳定性。我们证明了最优滤波器的高阶导数的存在和忘记初始条件指数快速。我们还证明了最优滤波器的高阶导数是几何遍历的。所得到的结果保持在(相对)温和的条件下,并适用于在实践中遇到的状态空间模型。
2019-12-20 math.OC math.PR math.ST