A Bernstein-type inequality for stochastic processes of quadratic forms of Gaussian variables
本文引入了一个Bernstein型不等式,它用于一致控制高斯变量的二次型。后者可以例如用于通过惩罚来导出用于线性回归和线性逆问题中的线性估计的尖锐模型选择准则,并且我们不排除其应用范围可以变得更广。
2009-09-19 math.PR math.ST stat.ML
On Some Extensions of Bernstein's Inequality for Self-adjoint Operators
给出了随机矩阵Bernstein集中不等式的一些推广.这个不等式已经成为解决统计学、信号处理和理论计算机科学中许多问题的有用和有力的工具。我们的边界的主要特点是,与大多数以前的相关结果,他们不依赖于周围空间的维数$d$。相反,维度因子被与底层分布相关的“有效秩”所取代,底层分布由$d$从上方界定。特别是,这使得扩展到无限维设置成为可能。我们的不等式改进了D.徐氏S. M. Kakade和T.张某
2017-04-14 math.PR math.ST stat.TH
Bernstein's inequalities for general Markov chains
本文为一般马尔可夫链的函数建立伯恩斯坦不等式,通过分析扰动转移核算子范数并结合凸分析推导,将经典独立情形纳入特例,应用于MCMC积分估计等问题获更紧偏差界。
2025-04-17 math.ST stat.TH
A Note on New Bernstein-type Inequalities for the Log-likelihood Function of Bernoulli Variables
证明了Bernoulli变量对数似然函数的一个新的Bernstein型不等式。与经典的Bernstein不等式和Hoeffding不等式相比,当应用于对数似然时,新的界与Bernoulli变量的参数无关,因此当参数接近0或1时不会爆炸。新的不等式加强了网络中社区检测的基于似然方法的某些理论结果,并可以应用于其他基于似然的二进制数据的方法。
2020-03-29 cs.IT math.IT math.PR
Hoeffding-Type and Bernstein-Type Inequalities for Right Censored Data
我们提出了右删失数据的Hoeffding型和Bernstein型不等式。这些不等式限定了截尾加权概率估计的倒数与其期望之间的差异。我们首先讨论了估计的渐近性质,并提供了其有效性的条件。我们提出了标准的,数据依赖的,和统一的Hoeffding型不等式。然后,我们提出了一个Bernstein型不等式。最后,我们展示了如何在经验风险最小化设置中应用这些不等式。
2019-03-05 math.ST stat.TH
Concentration of quadratic forms under a Bernstein moment assumption
导出了独立次高斯随机变量二次型的一个集中结果。如果随机变量的矩满足一个“Bernstein条件”,则Hanson-Wright不等式的方差项可以得到改进。例如,所有对数凹次高斯分布都满足伯恩斯坦条件。
2019-01-25 math.ST stat.TH
Bernstein-type and Bennett-type inequalities for unbounded matrix martingales
本文研究无界矩阵值鞅的集中性,在 $ψ_α$-Orlicz 范数有界条件下建立 Bernstein 型与 Bennett 型不等式,并以有效秩改进维度依赖。
2025-02-20 math.PR math.ST stat.TH
Sharp Matrix Empirical Bernstein Inequalities
提出了两个针对具有有界特征值的对称随机矩阵的锐利闭式经验伯恩斯坦不等式,其偏差能紧凑适应未知方差,分别适用于独立矩阵样本均值和停时下鞅依赖的均值估计量。
2025-09-18 math.FA math.PR math.ST
Sharp Empirical Bernstein Bounds for the Variance of Bounded Random Variables
Carnegie Mellon University(卡内基梅隆大学)
针对有界随机变量方差,提出在常数条件方差和均值下无需独立同分布假设的尖锐经验伯恩斯坦不等式,适用于批量与序贯设定,渐近最优且可推广至希尔伯特空间。
2026-09-28 math.ST stat.TH
Empirical Bernstein in smooth Banach spaces
Carnegie Mellon University(卡内基梅隆大学)
针对有界向量值随机变量,提出一种利用方差经验估计量的新经验Bernstein不等式,适用于2-光滑可分Banach空间,渐近达到与Bernstein不等式相同的置信集宽度。
2026-09-28 math.ST stat.TH
Tight Concentration Inequality for Sub-Weibull Random Variables with Generalized Bernstien Orlicz norm
最近的发展,在高维统计推断有必要集中不等式的范围更广的随机变量。我们专注于亚威布尔随机变量,它扩展了亚高斯或亚指数随机变量,允许重尾分布。研究了具有有限广义Bernstein-Orlicz范数的独立次Weibull随机变量的集中不等式,给出了广义Bernstein不等式和Rosenthal型矩界.通过Paley-Zygmund不等式得到的浓度不等式的下界证明了所提出的边界的紧性。结果被应用到一个图形模型推理问题,提高以前的样本复杂性界限。
2023-02-25 math.PR math.ST stat.TH
Bernstein-type dimension-free concentration for self-normalised martingales
University of Oxford(牛津大学);University of Alberta(阿尔伯塔大学)
本文提出了一种无维的伯恩斯坦型尾界不等式,用于自归一化鞅,其中归一化使用可预测的二次变分,半径取决于观测协方差的信息增益。应用包括为具有自适应选择的希尔伯特值协变量的逻辑回归提供椭球置信序列,以及为希尔伯特臂逻辑带宽提供实例自适应的后悔界。
2026-05-18 math.PR math.ST stat.TH
Gaussian approximation of suprema of empirical processes
本文提出了一种用高斯过程的上确界序列直接逼近一般经验过程的上确界的新方法,而不需要在超范数下逼近整个经验过程.我们证明了一个抽象的近似定理适用于各种各样的统计问题,如建设统一的置信带的功能。值得注意的是,在主要的近似定理的界限是非渐近的,该定理允许的功能,指数的经验过程是无界的,并有熵发散的样本量。近似定理的证明建立在一个新的耦合不等式的最大值的随机向量的总和,其证明依赖于一个有效的使用Stein的方法正常的近似,和一些新的经验过程技术。我们研究应用这个近似定理的本地和系列经验过程中产生的非参数估计通过内核和系列的方法,其中的功能类的变化与样本量和非Donsker。重要的是,我们的新技术是能够证明高斯近似的上确界类型的统计在弱正则性条件下,特别是关于带宽和级数函数的数量,在这些例子中。
2014-08-17 math.PR math.ST stat.TH
A concentration inequality for the excess risk in least-squares regression with random design and heteroscedastic noise
本文证明了一个新的和一般的关于具有异方差噪声和随机设计的最小二乘回归中超额风险的集中不等式。除了存在一个控制经验过程局部上确界的合适函数外,模型不需要任何特定的结构。到目前为止,只有线性对比度估计的情况下,在文献中处理的模型具有这种程度的一般性。在这里,我们解决了二次对比的情况下,通过分离的线性化的经验过程的行为和经验过程由模型的函数的平方驱动。
2018-03-09 math.ST stat.ML stat.TH
Concentration inequality for U-statistics of order two for uniformly ergodic Markov chains
证明了一致遍历马尔可夫链的二阶U-统计量的一个新的浓度不等式。利用有界核和$π$ -标准核,我们证明了我们可以恢复Arcones和Gin{é}的收敛速度,他们证明了独立随机变量和标准核的U-统计量的集中结果.我们的结果允许内核$h_{i,j}$与和中的索引的依赖性,这防止了标准的阻塞工具的使用。我们的证明依赖于归纳分析,我们使用鞅技术,一致遍历,Nummelin分裂和伯恩斯坦型不等式。进一步假设马尔可夫链从它的不变分布开始,我们证明了一个伯恩斯坦型浓度不等式,提供了更尖锐的收敛速度的小方差条款。
2022-03-18 math.PR math.ST stat.ML
On Gaussian Comparison Inequality and Its Application to Spectral Analysis of Large Random Matrices
最近,谢尔盖·茹科夫,切特维里科夫和加藤[安。42(2014)1564--1597]发展了一个新的高斯比较不等式,用于逼近经验过程的上确界。本文利用这一技术设计了大型随机矩阵谱的精确推断。特别是,我们表明,两个长期存在的问题,随机矩阵理论可以解决:(i)简单的自助推断样本特征值时,真正的特征值是绑;(ii)进行两个样本罗伊的协方差检验在高维。为了建立渐近结果,一个广义的$ε$ -净参数矩阵重新标度谱范数和几个新的经验过程界的开发和独立的利益。
2017-05-26 math.ST stat.ME stat.TH
Bernstein Concentration Inequalities for Tensors via Einstein Products
Beijing Jiaotong University(北京交通大学);The Hong Kong Polytechnic University(香港理工大学);University of Namur(那慕尔大学)
本文提出了一种将伯恩斯坦矩阵集中不等式推广到一般阶随机张量的方法,通过爱因斯坦乘积建立矩阵与张量之间的强联系,从而利用已有的矩阵结果。
2019-02-08 cs.NA math.NA math.OC
Policy learning "without" overlap: Pessimism and generalized empirical Bernstein's inequality
Harvard University(哈佛大学);University of Pennsylvania(宾夕法尼亚大学);Yale University(耶鲁大学);Northwestern University(西北大学)
本文提出悲观策略学习(PPL)算法,通过优化置信下界而非点估计,在不依赖一致重叠假设的条件下实现离线策略学习,并利用广义经验伯恩斯坦不等式为自适应收集数据建立次优性上界,理论和实验均验证了其有效性。
2025-06-05 cs.LG math.ST stat.ME
Exponential finite sample bounds for incomplete U-statistics
不完全U-统计量已经被提出来加速计算。它们只使用完全U统计的内核评估所需的子样本的子集。本文给出了Bernstein不等式形式的有限样本界。应用到完整的U-统计所产生的不等式提高了Hoeffding和Arcones的界限。对于随机确定的子样本,它示出,即,只要他们的数量达到的平方的样本大小,相同的顺序界获得的完全统计量。
2022-07-07 math.ST stat.TH
A stochastic maximal inequality, strict countability, and related topics
本文提出了一种新的方法,它是以伊藤公式导出的随机极大不等式和严格可数性概念为基础,取代了在随机场研究中已发展起来的著名的“链式”和“括号”方法.在一致拓扑下,利用熵方法,得到了局部平方可积鞅的可分随机场序列的弱收敛定理.作为特例,给出了i.i.d.得到了随机序列的一个新的Donsker定理和以集合或函数类为指标的经验过程的上界的矩界.给出了半参数模型统计估计的一个应用,并以Cox回归模型中自适应估计的构造为例。
2016-02-10 math.PR math.ST stat.TH
A large deviation inequality for vector functions on finite reversible Markov Chains
设$S_N$是定义在有限马尔可夫链上的向量值函数的和。一个类似的Bernstein-Hoeffding不等式推导出的概率大偏差的$S_N$和关系的概率谱间隙的马尔可夫链。例子表明,这个不等式是优于替代的不等式,如果链有足够大的谱间隙和功能是高维的。
2007-10-23 math.PR math.ST stat.TH
Concentration of weakly dependent Banach-valued sums and applications to statistical learning methods
在Banach范数的光滑性假设下,得到了Banach值随机变量和满足一般型弱相依假设的Bernstein型不等式.我们使用这个不等式,以调查在渐近制度的误差上限的广泛家庭的谱正则化方法再生核决策规则,当训练的样本来自一个$τ-$混合过程。
2018-12-09 math.ST stat.ML stat.TH
Deviation probability bounds for fractional martingales and related remarks
本文证明了分数鞅的指数不等式(也称为Bernstein不等式)。作为直接推论,我们讨论了在发散假设下分数鞅的弱大数定律,即分数鞅的$β-$变差。一个非平凡的例子,这个收敛结果的应用。
2012-04-19 math.PR math.ST stat.TH
A uniform relative deviation inequality for VC-subgraph classes
CREST-ENSAI, University of Rennes 1(法国国家经济与统计研究所-ENSAI,雷恩第一大学)
研究通过子图表征复杂度的函数类,建立新伯恩斯坦型偏差不等式,用于核密度估计有自适应误差界,证明结合新原理与不等式,用于集合类时改进了经典不等式常数。
2026-07-14 math.PR math.ST stat.TH
Exact converses to a reverse AM--GM inequality, with applications to sums of independent random variables and (super)martingales
对于正随机变量$X$的算术和几何平均数的比值$μ:=A_X/G_X>1$和每个实$v>0$的每一个给定实值,得到了右尾和左尾概率$\mathsf{P}(X/G_X\ge v)$和$\mathsf{P}(X/G_X\le v)$的精确上界,用$μ$和$v$表示.特别地,这些界限意味着$X/G_X\to1$在概率上为$A_X/G_X\downarrow1$。这样的结果可以被看作是严格凹函数$f=\ln$的逆Jensen不等式的逆,而众所周知的Cantelli和Chebyshev不等式可以被看作是严格凹二次函数$f(x) \equiv -x^2$的逆Jensen不等式的逆。作为上述新结果的应用,给出了Markov,Bernstein-Hoeffff,Sub-Gaussian和Bennett-Hoeffding概率不等式的改进.
2021-03-29 math.CA math.PR math.ST