Concentration-based confidence intervals for U-statistics
集中不平等在机器学习、概率和统计研究中越来越受欢迎。使用浓度不等式，可以为许多感兴趣的量构建置信区间（CI）。不幸的是，这些CI中的许多需要总体方差的知识，这通常是未知的，使得这些CI不切实际的数值应用。然而，最近的结果，同时绑定的数量的概率的利益和他们的方差允许建设的经验CI，方差被替换为他们的样本估计。在这些新的结果是双边经验CI的U-统计量，这是有用的建设CI丰富的一类参数。在这篇文章中，我们得到了一些新的单侧经验CI的U-统计量及其方差。我们表明，我们的单侧CI可用于构建U统计量的更严格的双侧CI，比目前报道的更严格。我们还演示了如何使用我们的CI来构建新的经验CI的平均值，这提供了更严格的界限比目前已知的CI相同数量的观察，在各种设置下。
2019-03-05 math.ST stat.TH
Efficient Concentration with Gaussian Approximation
Harvard University（哈佛大学）；Microsoft Research New England（微软研究院新英格兰）
针对有界随机变量，提出具有渐近最优宽度、有限样本有效性和次高斯衰减的可计算集中不等式，通过零偏耦合和Stein交换对方法紧界非均匀Kolmogorov和Wasserstein距离，构建高效置信区间和经验Berry-Esseen界。
2026-05-29 math.PR math.ST stat.TH
Bounds on the prediction error of penalized least squares estimators with convex penalty
本文研究了具有任意凸罚的罚最小二乘估计。当观测噪声为高斯噪声时，我们证明了预测误差是一个集中在其中值附近的亚高斯随机变量。我们应用这个浓度属性，得到尖锐的预言不等式的预测误差的LASSO，组LASSO和斜率估计，无论是在概率和期望。与以前的工作LASSO型方法相比，我们的预言不等式的概率得到在任何置信水平的调整参数，不依赖于置信水平的估计。这也是为什么我们能够建立稀疏预言界的预期LASSO型估计，而以前已知的技术不允许控制的预期风险。此外，我们还证明了预言不等式中的集中率比以前通常理解的要好。
2016-09-21 math.ST stat.TH
Inference on covariance operators via concentration inequalities: k-sample tests, classification, and clustering via Rademacher complexities
提出了一种利用集中不等式分析协方差算子的新方法。首先，非渐近置信集构造这样的运营商。然后，随后的应用程序，包括一个k样本测试的协方差相等，一个功能数据分类器，和一个期望最大化风格的聚类算法推导和测试模拟和音素数据。
2016-04-21 math.ST stat.ME stat.TH
Adaptive Confidence Sets for the Optimal Approximating Model
在设置的高维线性模型与高斯噪声，我们调查的可能性，置信声明连接到模型选择。尽管存在许多用于自适应点估计的过程，但是自适应置信区域的构造受到严重限制（参见图1）。李，1989）。本文件对这一差距有了新的认识。我们开发的最佳近似模型的风险方面的准确和自适应的信心集。我们的建设是基于一个多尺度的程序和一个特定的耦合参数。利用指数不等式的非中心卡方分布，我们表明，我们的置信区域内的所有模型的风险和二次损失的最小风险倍接近一个因素是一致的。
2009-10-07 math.ST stat.ME stat.TH
Confidence Regions for Filamentary Structures
本文针对点云数据中的纤维状结构（脊），提出基于核型插件估计量与两种自助法的渐近置信区域构造方法，并在允许脊存在交叉的统一理论框架下证明了其渐近有效性。
2024-05-01 math.ST stat.TH
$χ^2$-confidence sets in high-dimensional regression
我们研究了一个高维回归模型。目的是为给定的一组回归系数构造置信集，将所有其他回归系数视为冗余参数。我们应用一个一步的过程与平方根Lasso作为初始估计和多元平方根Lasso构建一个替代Fisher信息矩阵。多元平方根Lasso基于核范数损失和$\ell_1$ -惩罚。我们表明，这个过程导致一个渐近$χ^2$分布的枢轴，与剩余项仅取决于初始估计的$\ell_1$误差。我们发现，根据$\ell_1$ -稀疏条件下的回归系数$β^0$的平方根拉索产生一致的噪声方差估计，我们建立尖锐的预言不等式表明，剩余项是小的进一步稀疏条件下的$β^0$和相容性条件的设计。
2015-09-15 math.ST stat.TH
Confidence sets in a sparse stochastic block model with two communities of unknown sizes
在具有两个大小不等的社区的稀疏随机块模型中，我们得到了两个后验浓度不等式，这意味着（1）在稀疏边界下的社区结构的后验（几乎）精确恢复，这与种植二节模型中众所周知的尖锐边界相当;（2）从可信集构造社区分配的置信集，具有有限的图大小。后者使精确的频率不确定量化与贝叶斯可信集在非渐近图的大小，后验可以很好地模拟。可信度和置信水平之间不成比例：对于给定的边缘概率和期望的置信水平，存在一个临界图大小，其中所需的可信水平从接近1急剧下降到接近0。在这样的图的大小，频率论者决定不包括大多数的后验支持来构建他的置信集，而只包括一小部分包含最高量的后验概率的社区分配（如最大后验估计）。有人认为，对于建议的置信集的建设，一种形式的早期停止适用于MCMC采样的后验，这将使置信集的计算在更大的图形大小。
2021-08-16 math.ST stat.TH
Explicit confidence bands and intervals for distribution functions and their derivatives via random Weierstrass-type operators
University of Zaragoza（萨拉戈萨大学）
将二阶经典核估计解释为随机Weierstrass型算子，在仅假设导数一致连续或存在第一类间断点时，利用Dvoretzky-Kiefer-Wolfowitz不等式和浓度不等式，构造分布函数及其导数的显式非渐近置信带和置信区间，长度依赖于光滑度。
2026-06-24 math.ST stat.TH
Simple Adaptive Size-Exact Testing for Full-Vector and Subvector Inference in Moment Inequality Models
我们提出了一个简单的测试矩不等式，具有确切的大小在正态模型与已知的方差，并具有一致渐近准确的大小更一般。该检验将准似然比统计量与卡方临界值进行比较，其中自由度是有限样本中活跃的不等式的秩。该检验不需要模拟，因此计算速度快，特别适合于通过检验反演来构造参数的置信集。它不使用调整参数的时刻选择，但仍然适应松弛的时刻不等式。此外，我们展示了如何测试可以很容易地适应子向量的推断为常见的经验设置的条件矩不等式与干扰参数进入线性。
2020-08-18 econ.EM math.ST stat.TH
A Simple and Adaptive Confidence Interval when Nuisance Parameters Satisfy an Inequality
National University of Singapore（新加坡国立大学）
研究在干扰参数满足不等式时的置信区间问题，提出简单自适应的不等式约束置信区间（IICI），无需模拟和调参，具自适应性，一致有效且长度（弱）短于普通置信区间，通过线性回归和工具变量回归实证验证。
2026-08-11 econ.EM math.ST stat.TH
Sharp Concentration Inequalities for the Centered Relative Entropy
我们研究了离散分布的经验估计与真实底层分布之间的相对熵。如果概率质量函数的最小值超过$α> 0$，（即当真正的潜在分布是有界充分远离边界的单纯形），我们证明了一个上限上的矩母函数的中心相对熵匹配（直到字母表大小和$α$中的对数因子）最优渐近速率，随后导致中心相对熵的急剧集中不等式。作为这个结果的推论，我们还获得了置信区间和矩界的中心相对熵是尖锐的对数因子的字母表大小和$α$。
2021-09-18 cs.IT math.IT math.ST
Near-Optimal Confidence Sequences for Bounded Random Variables
Facebook AI Research（脸书人工智能研究院）
许多推理问题，如顺序判定问题，如A/B测试，自适应抽样方案，如强盗选择，往往是在线的性质。在线推理的基本问题是提供一系列置信区间，这些置信区间在增长到无穷大的样本量上一致有效。为了解决这个问题，我们提供了一个接近最优的置信序列的有界随机变量利用Bentkus的浓度结果。我们表明，它改进了现有的方法，使用的Cram{é} r-Bennett技术，如Hoeffding，Bernstein和Bennett不等式。由此产生的置信度序列被证实是有利的合成覆盖问题和自适应停止算法的应用。
2021-06-03 cs.AI cs.LG math.ST
Concentration inequalities in the infinite urn scheme for occupancy counts and the missing mass, with applications
无限urn方案由正整数上的概率质量函数$(p_j)_{j\geq1}$定义。随机分配由根据该概率分布的$N$独立绘图的样本组成，其中$N$可以是确定性的或泊松分布的。本文关注的是占用计数，即与样本中具有$r$或至少$r$出现的符号的数量，以及缺失质量，即样本中未出现的所有符号的总概率。在不对抽样分布作任何进一步假设的情况下，证明了这些随机量满足Bernstein型集中不等式。这些浓度不等式中的方差因子被证明是紧的，如果抽样分布满足一个经常变化的性质。这个常规的变量属性如下所示。假设概率大于$x$的符号的数目是$\vecν(x)=|\{j:p_j\geq x\}|$。在规则变化的urn方案中，对于$α\in[0,1]$，$\vecν$满足$\lim_{τ\rightarrow0}\vecν(τx)/\vecν(τ)=x^{-α}$，并且随着样本大小趋于无穷大，样本中不同符号的数量的方差趋于无穷大。在其他应用中，这些浓度不等式使我们能够得到紧密的置信区间的良好-图灵估计的丢失的质量。
2016-09-28 math.ST stat.TH
Tight Concentrations and Confidence Sequences from the Regret of Universal Portfolio
Boston University（波士顿大学）；University of Arizona（亚利桑那大学）
统计学中的一个经典问题是估计样本中随机变量的期望值。这就产生了导出集中不等式和置信序列（即随时间一致保持的置信区间）的紧密相关的问题。先前的工作已经展示了如何容易地将在线投注算法的后悔保证转换为时间均匀的集中不等式。在本文中，我们表明，我们可以走得更远：我们表明，遗憾的通用投资组合算法产生了新的隐式时间均匀的浓度和国家的最先进的经验计算的信心序列。特别是，我们的数值得到的置信序列永远不会是空的，即使是一个单一的样本，并满足重对数律。
2022-07-31 cs.IT cs.LG math.IT
Honest confidence sets for high-dimensional regression by projection and shrinkage
在非参数回归中，构造置信集的诚实性问题产生了。虽然非参数估计中的最优率可以用来构造尖锐的置信集，但在估计光滑度后，置信水平往往会严重下降。类似地，对于高维回归，稀疏估计的预言不等式可以用来构造尖锐的置信集。然而，稀疏度本身是未知的，需要估计，导致诚实问题。为了解决这个问题，我们开发了一种新的方法来构建诚实的信心集稀疏高维线性回归。我们构造的关键思想是将信号分为强组和弱组，然后分别为每组构造置信集。这是通过投影和收缩方法实现的，后者通过Stein估计和相关的Stein无偏风险估计来实现。我们的置信集是诚实的，在整个参数空间没有任何稀疏约束，而其直径适应最佳速率的$n^{-1/4}$时，真正的参数确实是稀疏的。通过广泛的数值比较，我们证明了我们的方法优于其他竞争对手，具有有限样本的大利润，包括基于底层模型的真正稀疏性的Oracle方法。
2019-05-03 math.ST stat.ME stat.TH
Quantitative concentration inequalities for the uniform approximation of the IDS
HTW Dresden（德累斯顿应用科技大学）；TU Dortmund（多特蒙德工业大学）
本文研究了离散随机薛定谔算子的IDS均匀近似问题，通过定量集中不等式证明经验IDS在高概率下可精确逼近抽象IDS踪公式。
2026-02-20 math-ph math.MP math.SP
Local Dvoretzky-Kiefer-Wolfowitz confidence bands
在本文中，我们重新审视的浓度不等式的上确界的累积分布函数（CDF）的实值连续分布建立的Dvoretzky，基弗，沃尔福威茨和重温后Massart在两个开创性的文件。我们专注于浓度的\emph{local}上确界在一个子区间，而不是在整个域。也就是说，$U$表示$[0,1]$和$U_n$上均匀分布的CDF，它是从$n$样本构建的经验版本，我们研究了$\underline{u},\overline{u}\in[0,1]$的不同值的$P(\sup_{u\in[\underline{u},\overline{u}]}U_n(u)-U(u)>ε)$。这样的局部控制例如在研究谱风险度量（诸如条件风险值）的估计误差时自然出现，其中在通过一般逆变换$F^{-1}$将所考虑的分布的CDF $F$整形为$U$之后，对于风险水平$α$，$[\underline{u},\overline{u}]$通常是$[0,α]$或$[1-α,1]$。从Smirnov扩展的证明技术，我们提供了精确的表达式的本地量$P(\sup_{u\in[\underline{u},\overline{u}]}U_n(u)-U(u)>ε)$和$P(\sup_{u\in [\underline{u},\overline{u}]}U(u)-U_n(u)>ε)$为每个$n,ε,\underline{u},\overline{u}$。有趣的是…
2022-02-21 math.ST stat.AP stat.TH
A data-dependent DKW inequality for regenerative Markov chains
University of San Francisco（旧金山大学）
针对具有再生结构的马尔可夫链，提出数据依赖的Dvoretzky-Kiefer-Wolfowitz不等式，给出经验CDF的均匀置信带，并通过反演得到分位数函数的置信带，其宽度主项可直接从样本路径计算。
2026-07-14 math.PR math.ST stat.TH
Concentration of the bootstrap empirical process, with applications to statistical inference
University of Rennes, ENSAI, CNRS, CREST-UMR 9194（雷恩大学、ENSai、CNRS、CREST-UMR 9194）
本文研究了基于可交换权重的自助经验过程的集中性，推导了其上界不等式，并应用于均值估计的置信区域和两样本置换检验的非渐近界。
2026-04-03 math.PR math.ST stat.TH
Estimating means of bounded random variables by betting
本文针对由有界观测值估计未知均值的经典问题，导出了置信区间和时间一致置信序列。我们提出了一个一般的方法来推导浓度边界，可以看作是一个推广和改进的著名的Brackoff方法。在其核心，它是基于一类复合非负鞅，具有很强的联系，以测试的投注和方法的混合物。我们将展示如何将这些想法扩展到不放回抽样，另一个深入研究的问题。在所有情况下，我们的边界是自适应的未知方差，经验大大优于现有的方法的基础上Hoeffding或经验伯恩斯坦不等式和他们最近的上鞅推广。简而言之，我们建立了一个新的国家的最先进的四个基本问题：CS和CI的有界均值，采样时，有和没有替换。
2022-08-25 math.ST stat.ME stat.ML
TwinKernel Estimation for Point Process Intensity Functions: Adaptive Nonparametric Methods via Orbital Regularity
L.I.A.G.E, Institut National des Sciences de Gestion（国家科学管理学院）；Modeling and Calculus Lab, ROOTS-INSIGHTS（ROOTS-INSIGHTS 建模与计算实验室）
本文提出双核估计方法，通过轨道正则性适应强度函数的自适应非参数估计，实现最优收敛速率和边界偏差校正。
2025-12-10 math.ST stat.TH
Minimax estimation of the pseudo-spectral gap of continuous Markov chains, with applications to empirical concentration bounds
ESSEC Business School（法国高等经济商业学院）
该研究针对连续状态空间马尔可夫链提出极小极大最优的伪谱间隙估计器，结合相关不等式推导经验集中界，为带马尔可夫奖励的老虎机提供了无需知晓伪谱间隙的UCB算法。
2026-10-15 cs.LG math.ST stat.ML
Uniform Inference for Kernel Density Estimators with Dyadic Data
针对网络边关联的二元数据，提出核密度估计的均匀推断方法，给出极小极大最优收敛速率和强逼近结果，并开发反事实密度估计用于因果推断，对退化点保持稳健。
2023-10-13 math.ST stat.ME stat.TH
