A Scalable, Adaptive and Sound Nonconvex Regularizer for Low-rank Matrix Completion
Baidu Research（百度研究院）；Paradigm Inc.（第四范式公司）；Tsinghua University（清华大学）；Hong Kong University of Science and Technology（香港科技大学）
矩阵学习是许多机器学习问题的核心。协同过滤、文本挖掘等实际应用都可以归结为低秩矩阵补全问题，即利用低秩假设恢复不完整矩阵。为了确保矩阵解具有低秩，最近的趋势是使用自适应惩罚奇异值的非凸正则化器。它们提供了良好的恢复性能，并具有良好的理论特性，但由于重复访问单个奇异值，计算量很大。本文基于奇异值自适应收缩提高经验性能的关键见解，提出了一种新的非凸低秩正则化器，称为“核范数减Frobenius范数”正则化器，它是可扩展的，自适应的和声音。我们首先证明了它具有自适应收缩特性。此外，我们发现它的因式分解的形式，绕过奇异值的计算，并允许快速优化一般的优化算法。保证了稳定的恢复和收敛。大量的合成和真实世界的数据集上的低秩矩阵完成实验表明，所提出的方法获得了最先进的恢复性能，同时是最快的相比，现有的低秩矩阵学习方法。
2021-02-22 cs.LG stat.ML
Low-Rank Matrix and Tensor Completion via Adaptive Sampling
我们研究了低秩矩阵和张量完成，并提出了新的算法，采用自适应采样方案，以获得强大的性能保证。我们的算法利用自适应性来识别对于学习矩阵（张量）的列空间具有高度信息性的条目，因此，即使当行空间高度一致时，我们的结果也成立，与以前的分析相反。在没有噪声的情况下，我们表明，可以准确地恢复$n \times n$矩阵的秩$r$从仅仅$Ω(n r^{3/2}\log(r))$矩阵条目。我们还表明，可以恢复一个订单$T$张量使用$Ω(n r^{T-1/2}T^2 \log(r))$条目。对于有噪声的恢复，我们的算法始终估计一个低秩矩阵损坏的噪声使用$Ω(n r^{3/2} \textrm{polylog}(n))$条目。我们补充我们的研究与模拟，验证我们的理论，并证明我们的算法的可扩展性。
2013-11-09 stat.ML
Inference and Uncertainty Quantification for Noisy Matrix Completion
Princeton University（普林斯顿大学）
噪声矩阵完备化的目的是估计一个低秩矩阵，只有部分和损坏的条目。尽管在设计有效的估计算法方面取得了实质性进展，但在很大程度上仍然不清楚如何评估所获得的估计的不确定性以及如何对未知矩阵（例如，为看不见的条目构造有效且短的置信区间）。本文采取了一个步骤的推理和不确定性量化噪声矩阵完成。我们开发了一个简单的程序来补偿广泛使用的凸和非凸估计的偏差。由此产生的去偏估计承认几乎精确的非渐近分布特征，这反过来又使置信区间\，/\，区域的最佳建设，说，丢失的条目和低秩的因素。我们的推理过程不依赖于样本分割，从而避免了不必要的数据效率损失。作为一个副产品，我们得到了我们的去偏估计，这是据我们所知，是第一个易于处理的算法，可证明达到充分的统计效率（包括preconstant）的估计精度的尖锐表征。本文的分析建立在凸优化和非凸优化之间的密切联系之上--这是\cite{chen2019noisy}最近发现的一个有吸引力的特征。
2019-11-14 cs.IT cs.LG eess.SP
Iterative Null-space Projection Method with Adaptive Thresholding in Sparse Signal Recovery and Matrix Completion
自适应阈值方法已被证明产生高信噪比和快速收敛在寻找压缩感知（CS）问题的解决方案。最近，据观察，一类迭代稀疏恢复算法，如迭代方法与自适应采样保持（IMAT）的鲁棒性已优于著名的LASSO算法的重建质量，收敛速度，和对噪声的敏感性。在本文中，我们介绍了一种新的方法来解决CS问题。该方法的逻辑基于阈值化信号到感测矩阵的零空间上的迭代投影。通过在阈值化子空间上投影来恢复期望信号的支持，从而进行阈值化。仿真结果表明，该方法具有产生显着的输出SNR值的能力与约两倍的稀疏数一样多的样本，而其他方法无法恢复信号时，接近所需的样本数的代数界。正如模拟中观察到的那样，我们方法的计算复杂性也与其他方法相当。我们还扩展了我们的算法矩阵完成（MC）的情况下，并比较其效率，其他知名的方法MC在文献中。
2016-11-04 cs.IT math.IT stat.ME
AIR-Net: Adaptive and Implicit Regularization Neural Network for Matrix Completion
National University of Defense Technology（国防科技大学）；University of Utah（犹他大学）
显式低秩正则化，例如，核范数正则化在成像科学中有着广泛的应用。然而，已经发现隐式正则化在各种图像处理任务中优于显式正则化。另一个问题是，固定的显式正则化限制了对广泛图像的适用性，因为不同的图像有利于通过不同的显式正则化捕获的不同特征。因此，本文提出了一种新的自适应和隐式低秩正则化，动态捕获低秩先验的训练数据。我们新的自适应隐式低秩正则化的核心是在基于Dirichlet能量的正则化中参数化拉普拉斯矩阵，我们称之为正则化\textit{AIR}。理论上，我们表明，自适应正则化的AIR增强了隐式正则化，并在训练结束时消失。我们验证了空气的有效性在各种基准任务，表明空气是特别有利的情况下，丢失的条目是不均匀的。代码可以在https://github.com/lizhemin15/AIR-Net上找到
2022-06-27 cs.LG stat.ML
Noise-Tolerant Life-Long Matrix Completion via Adaptive Sampling
Carnegie Mellon University（卡内基梅隆大学）
我们研究了恢复一个不完整的$m\times n$矩阵的秩$r$随着时间的推移到达在线列的问题。这被称为生命周期矩阵完备化问题，并被广泛应用于推荐系统，计算机视觉，系统辨识等。挑战是设计可证明的算法容忍大量的噪声，具有小的样本复杂度。在这项工作中，我们给出了算法实现两个现实的噪声模型下的强保证。在有界确定性噪声中，对手可以将任何有界但非结构化的噪声添加到每列。对于这个问题，我们提出了一种算法，该算法返回一个具有小误差的矩阵，样本复杂度几乎与无噪声情况下的最佳先验结果一样小。对于稀疏随机噪声，即随机抽取的稀疏列，我们给出了一种算法，该算法以至少$1-δ$的概率精确恢复$μ_0$ -非相干矩阵，样本复杂度为$O\left(μ_0rn\log (r/δ)\right)$ .该结果推进了最先进的工作，并在最坏情况下匹配下限。我们还研究了隐藏矩阵位于子空间的混合物上的情况，并表明样本的复杂性可以更小。我们提出的算法在合成和真实世界的数据集实验表现良好。
2016-12-01 cs.LG stat.ML
Optimal Exact Matrix Completion Under new Parametrization
Carnegie Mellon University（卡内基梅隆大学）
研究了秩为$r$的$m \times n$大小矩阵的自适应采样精确完备化问题。我们引入了列空间和行空间的稀疏向量与精确完备化问题的一个关系（这里我们称之为\textit{sparsity-number}）。利用这种关系，我们提出了矩阵完成算法，准确地恢复目标矩阵。这些算法优于以前的作品在两个重要的方面。首先，我们的算法准确地恢复$μ_0$-相干列空间矩阵的概率至少$1 - ε$使用更小的观测复杂度比$\mathcal{O}(μ_0 rn \mathrm{log}\frac{r}ε)$的国家的art.Specifically，许多以前的自适应采样方法需要观察整个矩阵时，列空间是高度相干的。然而，我们表明，我们的方法仍然能够通过观察在许多情况下的条目的一小部分恢复这种类型的矩阵。其次，我们提出了一个精确的完成算法，它需要最小的预信息，无论是行或列空间是不是高度一致的。在本文的最后，我们提供的实验结果，说明了这里提出的算法的强度。
2022-03-05 cs.LG stat.ML
On the Power of Adaptivity in Matrix Completion and Approximation
Carnegie Mellon University（卡内基梅隆大学）
我们认为相关的任务，矩阵完成和矩阵近似的缺失数据，并提出了自适应采样程序这两个问题。我们表明，自适应采样允许一个消除标准的不一致性假设的矩阵行空间是必要的被动采样程序。为了精确恢复低秩矩阵，我们的算法明智地选择了几列进行全面观察，并在很少的额外测量的情况下，将剩余的列投影到它们的跨度上。该算法使用$O(nrμ_0 \log^2(r))$观测值精确地恢复$n \times n$秩$r$矩阵，其中$μ_0$是矩阵列空间上的相干参数。除了完全消除任何行空间的假设，已经弥漫的文献中，该算法享有更好的样本复杂度比任何现有的矩阵完成算法。为了证明这种改进是由于自适应采样，我们建立了行空间的一致性是必要的被动采样算法，以实现非平凡的样本复杂度的界限。为了构造高秩输入矩阵的低秩近似，我们提出了一种简单的算法，该算法对输入矩阵的零填充版本的奇异值进行阈值化。该算法使用$O(nrμ\log^2(n))$样本来计算近似，该近似几乎与最佳秩$r$近似一样好，其中$μ$是矩阵列上略微不同的相干参数.我们再次消除了对行空间的假设。
2014-07-14 cs.LG stat.ML
Conformalized matrix completion
本文提出一种基于共形预测的无分布方法conformalized matrix completion（cmc），用于解决矩阵补全中的预测推断与不确定性量化问题，在保证预测覆盖的同时对模型误设具有鲁棒性。
2023-10-23 stat.ME
On Adaptive confidence Ellipsoids for sparse high dimensional linear models
针对高维线性模型中全参数自适应置信集构造不可能的问题，提出重新加权损失函数实现完全自适应置信集构造，给出权重充要条件及可行域内的速率最优程序。
2023-10-24 math.ST stat.TH
Adaptive confidence bands in the nonparametric fixed design regression model
在本文中，我们考虑了固定设计回归模型中自适应置信带的存在性问题，将Hoffmann和Nickl（2011）中的思想适用于当前情况。在证明过程中，我们证明了超范数自适应估计也存在于回归中。
2012-07-19 math.ST stat.TH
Adaptive confidence balls
自适应置信球构造为个人的分辨率水平，以及在多分辨率框架中的整个均值向量。有限样本下界给出的最小期望平方半径的置信球与预先指定的置信水平。置信球集中在基于特殊局部块阈值规则的自适应估计器上。该半径是从分析该自适应估计器的损失中得出的。此外，自适应诚实的信心球构造有保证的覆盖概率在所有的$\mathbb{R}^N$和期望的平方半径适应Besov机构的最大范围。
2006-05-17 math.ST stat.TH
Adaptive Confidence Bands
我们表明，不存在自适应置信带曲线估计，除非在非常严格的假设。相反，我们建议构造覆盖代理函数f^ \star的自适应频带，该代理函数接近但比f简单。代理函数捕捉了f中的重要特征。我们建立了下限的宽度为f^ \star的任何置信带，并构建了一个程序，达到有限样本的下界内的一个小的常数因子。
2007-01-18 math.ST stat.TH
Adaptive nonparametric confidence sets
我们构造了各种统计模型中希尔伯特空间值参数的诚实置信区域。置信集可以以任意自适应估计为中心，并且具有最佳适应于给定模型选择的直径。后一种调整必然在范围上受到限制。我们回顾了自适应置信区域的概念，并将自适应置信区域的直径的最佳比率与极小极大比率联系起来，用于测试和估计。应用包括有限正态均值模型、白噪声模型、密度估计和随机设计回归。
2006-05-17 math.ST stat.TH
Adaptive non-asymptotic confidence balls in density estimation
我们建立了一个真实值样本$X_1,...,X_n$的共同密度$s$的置信球。我们使用的方法来估计投影的$s$到有限维线性空间和模型选择过程中选择一个最优逼近空间。覆盖属性确保所有$n\geq2$和球是自适应的线性空间的集合。
2010-07-26 math.ST stat.TH
Adaptive confidence intervals for the tail coefficient in a wide second order class of Pareto models
研究了在二阶Pareto模型中，当二阶系数未知时，尾部系数的诚实自适应置信区间的构造问题.将该问题转化为二阶参数的检验问题。通过构造一个合适的模型和相应的检验统计量，我们为一阶参数提供了一个统一的、自适应的置信区间。我们还提供了一个几乎匹配的下界，证明了结果是minimax最优的对数因子。
2014-09-17 math.ST stat.TH
A sharp adaptive confidence ball for self-similar functions
在非参数高斯数列空间模型中，构造了一个适应未知光滑性和Sobolev范数的$\ell^2$ -置信球$C_n$.置信球在适当定义的“自相似”参数空间上具有精确和诚实的渐近覆盖。信息论方法表明，这种“自相似性”条件是最弱的可能。
2015-07-08 math.ST stat.TH
Likelihood Inference in Exponential Families and Directions of Recession
当全指数族中不存在最大似然估计时，该估计可能存在于该族的Barndorff-Nielsen完备化中。利用R语言提供的程序包rcdd，提出了一种求解重复线性规划完备化问题最大似然估计的实用算法，并以两个广义线性模型为例进行了说明.当原假设的极大似然估计为完备时，模型比较的似然比检验与通常情况几乎没有变化。只有自由度需要调整。当最大似然估计位于完备时，置信区间的变化比通常情况大得多。自然参数的最大似然估计可以被认为在某个方向上趋于无穷大，我们称之为一般的衰退回收方向。我们提出了一个新的单侧置信区间，它表示自然参数可能多么接近无穷大。这映射到平均值的单侧置信区间，显示它们与支持边界的接近程度。
2009-01-05 math.ST stat.TH
Honest adaptive confidence bands and self-similar functions
置信带是未知函数f的置信集，包含估计量的某个超范数距离内的所有函数。在密度估计、回归和白噪声模型中，我们考虑构造自适应置信带的问题，置信带的宽度在一系列Hölder类上以最佳速率收缩。虽然存在自适应估计量，但一般来说自适应置信带不存在，为了继续下去，我们必须对f设置进一步的条件。我们讨论了以前的方法来解决这个问题，并表明它是必要的限制f从根本上更小的类的功能。然后，我们考虑自相似函数，其Hölder范数在大尺度和小尺度上是相似的。我们表明，这样的功能可以被认为是典型的功能，一个给定的Hölder类，自相似性的假设是必要的和充分的自适应频带的建设。最后，我们表明，这一假设使我们能够解决欠平滑的问题，创建带是诚实的同时为任何Hölder范数的功能。
2012-01-16 math.ST stat.TH
Uncertainty quantification for nonconvex tensor completion: Confidence intervals, heteroscedasticity and optimality
Princeton University（普林斯顿大学）
我们研究的分布和不确定性的非凸优化噪声张量完成-估计一个低秩张量的不完整和损坏的观察其条目的问题。专注于Cai等人提出的两阶段估计算法。（2019），我们将这种非凸估计量的分布特征描述为精细尺度。这种分布理论又允许我们为未知的张量项和未知的张量因子构造有效且短的置信区间。所提出的推理过程具有以下几个重要特征：（1）它完全适应噪声异方差，（2）它是数据驱动的，并自动适应未知的噪声分布。此外，我们的研究结果揭示了非凸张量完成的统计最优性：当估计未知张量和潜在张量因子时，它达到了不可改进的$\ell_{2}$精度-包括速率和预常数。
2020-06-15 cs.IT cs.LG math.IT
Adaptive confidence sets in L^2
考虑了在Sobolev概率密度类的连续标度上构造L^2-损失自适应的置信集的问题。在可能的情况下，自适应保持相对于Sobolev球的半径和其平滑度，并在最大的参数空间的适应是可能的。两个关键制度的参数星座：一个完全适应是可能的，和一个适应需要临界区域被删除。用于得出这些结果的技术包括无限维零假设和备择假设的一般非参数极大极小检验，以及L^2自适应置信集的新下界。
2012-07-02 math.ST stat.TH
Adaptive confidence intervals for regression functions under shape constraints
在单调性和凸性的形状约束下，构造了回归函数的自适应置信区间。一个自然的基准建立在一个给定的函数的最小期望长度的置信区间的分析量，局部连续模。这个界限不仅取决于函数，而且还取决于假定的函数类。这些基准测试表明，构造的置信区间具有接近每个单独函数的最小预期长度，同时保持类内函数的给定覆盖概率。这样的自适应性比大参数空间集合上的自适应极小极大性强得多。
2013-05-24 math.ST stat.TH
Adaptive confidence sets in shape restricted regression
在保序、凸和单峰回归中，提出了一种简单的自适应置信集的构造方法。在一元保序回归中，所提出的置信集对所有非减回归函数具有均匀覆盖。此外，建议的置信集的直径自动适应未知数的真参数，在这个意义上，直径是有界的从上面的极小极大风险超过类的$k$ -分段常数函数。置信集的直径是保序最小二乘估计的跳跃数的简单增函数。在凸回归中提出了一个类似的构造，其中真正的回归函数是凸的和分段仿射的。在这里，置信集享有均匀的覆盖，其直径自动适应真实回归函数的仿射片段的数量。置信集的直径是凸最小二乘估计的仿射片数的增函数。我们解释了如何通过在单峰回归中提出类似的自适应置信集来将这种技术扩展到非凸集。置信集自动适应于真正的单峰回归函数的跳数，并且其直径是单峰最小二乘估计的跳数的增函数。
2019-04-09 math.ST stat.TH
Locally Adaptive Confidence Bands
我们开发诚实和局部自适应的概率密度置信带。它们在非均匀平滑度的情况下提供了大幅改善的置信度声明，并且易于实现和可视化。这篇文章有助于局部自适应推理的概念性工作，因为直接修改全局设置对统计目的造成了严重的障碍。除此之外，我们引入了一个统计概念的本地Hölder正则性，并证明了相应的强版本的本地自适应性。为了不排除原型密度，我们大大放松了自相似条件的直接本地化。永久排除考虑的密度集被证明是病态的，在严格的数学意义上。在技术层面上，诚实性验证的关键组成部分是通过Slepian比较不等式来识别渐近最不利的平稳情况。
2016-11-23 math.ST stat.TH
Adaptive confidence bands for Markov chains and diffusions: Estimating the invariant measure and the drift
作为一个出发点，我们证明了一个功能中心极限定理的估计的不变测度的几何遍历哈里斯经常马尔可夫链在多尺度空间。这允许构造置信带的不变密度与最佳的（欠平滑）$L^{\infty}$直径通过使用小波投影估计。此外，我们的设置适用于漂移估计离散观察固定的观察距离的扩散。我们证明了一个功能的中心极限定理的漂移函数的估计，并通过使用一个完全的数据驱动的估计，最后构造自适应置信带的漂移。
2016-07-07 math.ST stat.TH
On Bayesian based adaptive confidence sets for linear functionals
研究了逆高斯白噪声模型中线性泛函的贝叶斯置信集的构造问题。我们的工作与一个规模的高斯先验指数的规律性超参数，并应用数据驱动的（略有修改）边际似然经验贝叶斯方法的选择这个超参数。我们通过理论和模拟表明，该方法构造的可信集一般具有次优行为。然而，通过假设“自相似性”的可信集有率自适应的大小和最佳的覆盖。作为这些结果的应用，我们构造了$L_{\infty}$ -可信带的真正的功能参数与自适应的大小和最佳覆盖下的自相似约束。
2015-04-18 math.ST stat.TH
Honest and adaptive confidence sets in Lp
在非参数Gauss回归下，考虑Sobolev类集上Lp-损失（p>=1且p <无穷大）下的诚实和自适应置信集的构造问题.我们的目标是适应的直径的置信集相对于平滑程度的基础功能，同时确保真正的功能在于置信区间具有高probability.当p >=2，我们确定两个主要制度，（i）一个适应是可能的，没有任何限制的模型，和（ii）一个临界区域已被删除。我们还证明了匹配的下界，我们删除的区域的大小不能选择显着更小。这些制度示出依赖于在一个定性的方式上的指数p，并表现出从p = 2到p =无穷大的连续过渡。
2013-11-12 math.ST stat.TH
Adaptive Confidence Sets for Binary Regression without Design Smoothness
该研究针对无设计光滑性的二元回归，构造了渐近诚实、速率最优的自适应置信集，回答了Mukherjee与Sen2018年提出的问题。
2026-08-04 math.ST stat.TH
On adaptive inference and confidence bands
研究了在$\mathbb{R}$或$[0,1]$上属于Hölder类嵌套尺度的未知密度$f$的自适应置信带的存在性问题.而诚实的自适应推理在这个问题上是不可能的一对Hölder球$Σ(r),Σ(s),r\ne s$，固定半径，一个非参数的可扩展性条件下，自适应置信带可以被证明存在。它进一步表明，这个条件是必要的和充分的诚实的渐近置信带的存在，它是严格弱于最近在Giné和Nickl [安。38（2010）1122- 1170]。在Hölder球$Σ(s)$上的自然先验下，不可能进行诚实推理的例外集具有极小的概率。如果不知道Hölder球半径的上界，则必须付出适应的代价，并且对于标准程序来说，接近最佳的适应是可能的。这些研究结果的一般理论的适应性推理的影响进行了讨论。
2012-02-23 math.ST stat.TH
On Adaptive Confidence Sets for the Wasserstein Distances
在密度估计模型中，我们探讨了自适应诚实的信心，Wasserstein距离$W_p$，$p\geq1$，并与未知的规则性测量的Besov尺度密度测量半径集的构建问题。作为采样域，我们专注于$d-$维环面$\mathbb{T}^d$，在这种情况下$1\leq p\leq 2$，和$\mathbb{R}^d$，其中$p=1$。我们确定的必要条件和充分条件存在的自适应置信集的直径的顺序的规则依赖的$W_p$-极大极小估计率。有趣的是，似乎这种适应的直径的可能性取决于底层空间的尺寸。在低维情况下，$d\leq 4$可以适应任何规律。在更高的维度中，当且仅当底层的前缀属于宽度至少为$d/(d-4)$的某个区间时，自适应才是可能的。这与通常的$L_p-$理论形成对比，在通常的理论中，与维度无关，自适应要求λ位于小的固定宽度窗口中。对于允许这些自适应集存在的配置，我们明确地通过风险估计的方法构建置信区域，以自适应估计为中心。这些是Wasserstein距离自适应不确定性量化的统计方法中的第一个结果。我们的分析和方法更广泛地扩展到弱损失，如Sobolev范数距离与负光滑指数。
2021-11-17 math.ST stat.TH
Adaptive Robust Confidence Intervals
本文研究污染比例未知时Huber模型下自适应稳健置信区间的构造，证明其最优长度需比非自适应情形指数级更宽，并通过同时量化所有分位数的不确定性实现最优构造，进而推广到一般稳健假设检验。
2025-06-03 math.ST stat.ME stat.TH
Adaptive Confidence Sets for the Optimal Approximating Model
在设置的高维线性模型与高斯噪声，我们调查的可能性，置信声明连接到模型选择。尽管存在许多用于自适应点估计的过程，但是自适应置信区域的构造受到严重限制（参见图1）。李，1989）。本文件对这一差距有了新的认识。我们开发的最佳近似模型的风险方面的准确和自适应的信心集。我们的建设是基于一个多尺度的程序和一个特定的耦合参数。利用指数不等式的非中心卡方分布，我们表明，我们的置信区域内的所有模型的风险和二次损失的最小风险倍接近一个因素是一致的。
2009-10-07 math.ST stat.ME stat.TH
Regret Minimization in Isotonic, Heavy-Tailed Contextual Bandits via Adaptive Confidence Bands
在本文中，我们发起了一个非参数上下文土匪形状约束下的平均报酬函数的研究。具体来说，我们研究的背景是一维的，和平均报酬函数是保序相对于这个上下文。我们提出了一个政策，这个问题，并表明它达到最小最大率最优遗憾。此外，我们还证明了相同的策略具有自动适应性;也就是说，对于参数空间的子类，其中真实平均报酬函数也是$k$片段的分段常数，该策略对于所有$k \geq 1.$同时保持极大极小速率最优自动适应现象在离线设置中的形状约束问题中是众所周知的; %自动适应的形状约束的方法的现象是已知的发生在离线的问题，我们表明，这种现象结转到在线设置。我们的政策背后的主要技术成分是一个程序，以获得一个潜在的保序函数使用保序分位数估计的置信带。我们提出的置信带是有效的重尾噪声下，其平均宽度去$0$在一个自适应的最佳速率。我们认为这是一个独立的贡献保序回归文献。
2021-10-19 math.ST stat.TH
An adaptation theory for nonparametric confidence intervals
提出了一种非参数自适应理论，用于构造线性泛函的置信区间。类间连续性模数捕获自适应置信区间的预期长度。尖锐的下界给出了预期的长度和有序的连续性模是用来构建自适应置信度的程序是在一个常数因子的下界。此外，还发展了非凸参数空间上的极大极小理论。
2005-03-29 math.ST stat.TH
Optimal Adaptive Inference in Random Design Binary Regression
我们在设计密度未知的非参数二元回归中为回归函数构造置信集。这些置信集是自适应的$L^2$损失的Sobolev型空间的连续类。自适应保持在回归函数的平滑性中，在自适应是可能的最大参数空间上，只要设计密度足够平滑。我们确定了两个关键制度-一个是适应是可能的，一个是一些临界区域必须删除。我们解决相关问题的拟合优度测试和自适应估计的相关参数。
2016-08-02 math.ST stat.TH
A Simple and Adaptive Confidence Interval when Nuisance Parameters Satisfy an Inequality
National University of Singapore（新加坡国立大学）
研究在干扰参数满足不等式时的置信区间问题，提出简单自适应的不等式约束置信区间（IICI），无需模拟和调参，具自适应性，一致有效且长度（弱）短于普通置信区间，通过线性回归和工具变量回归实证验证。
2026-08-11 econ.EM math.ST stat.TH
Uniform Asymptotics and Confidence Regions Based on the Adaptive Lasso with Partially Consistent Tuning
本文研究低维线性回归中逐分量调节的自适应Lasso估计量，在移动参数框架下刻画其一致性和渐近分布，并构造出具有极端一致渐近覆盖性质的置信集，推广了正交回归元情形下的已有结果。
2021-03-17 math.ST stat.ME stat.TH
Adaptive confidence intervals with missing data
Statistical Laboratory, University of Cambridge（剑桥大学统计实验室）；Department of Data Sciences and Operations, University of Southern California（南加州大学数据科学与操作系）；Department of Statistics, University of Chicago（芝加哥大学统计学系）
针对缺失数据下的总体均值置信区间构建，采用可实现污染模型，刻画适应未知污染比例等参数的最小最大长度，并给出达到最优速率的显式有限样本有效自适应区间，且对因果推断有启示。
2026-09-24 math.ST stat.ME stat.TH
Adaptive Robust Confidence Sets in High Dimensions
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Chicago（芝加哥大学）；University of California, San Diego（加州大学圣地亚哥分校）；Rutgers University（罗格斯大学）
针对协方差为单位矩阵的多元高斯均值向量在Huber污染比例未知时的自适应稳健置信集问题，提出通过量化所有一维投影的不确定性构造信息论最优集，证明其存在计算障碍并给出低阶矩匹配算法，刻画了统计极限与计算壁垒。
2026-10-14 cs.DS cs.LG math.ST
Finite-Time Analysis of Round-Robin Kullback-Leibler Upper Confidence Bounds for Optimal Adaptive Allocation with Multiple Plays and Markovian Rewards
University of California Berkeley（加州大学伯克利分校）
我们研究了经典的随机多臂强盗问题，其中涉及多个播放和马尔可夫奖励休息强盗设置的扩展。为了解决这个问题，我们考虑一个自适应的分配规则，在每个阶段结合的信息从样本均值的所有武器，与Kullback-Leibler上界的一个单一的手臂，这是在循环的方式选择。对于由单参数指数族马尔可夫链产生的报酬，我们给出了这种自适应分配规则所引起的后悔的有限时间上界，揭示了后悔对时间范围的对数依赖性，并且是渐近最优的.对于我们的分析，我们设计了几个浓度的结果，马尔可夫链，包括极大不等式的马尔可夫链，这可能是感兴趣的，在自己的权利。作为我们的分析的副产品，我们还建立了渐近最优，有限时间保证的情况下，多个播放，和独立同分布。从概率密度的单参数指数族中提取的奖励。此外，我们提供的模拟结果表明，计算Kullback-Leibler置信上限在循环的方式，是显着更有效的比计算它们在每一轮的每个手臂，这两种方法的预期遗憾的行为相似。
2020-07-13 cs.LG math.ST stat.ML
Two-Sided Nearest Neighbors: An adaptive and minimax optimal procedure for matrix completion
Cornell University（康奈尔大学）；University of Pennsylvania（宾夕法尼亚大学）；Cornell Tech（康奈尔科技）
本文针对矩阵补全问题，提出自适应且极小极大最优的双边最近邻算法，其均方误差可自适应非线性光滑度，在正则条件下达到神谕误差率，经模拟和HeartSteps数据验证有效。
2026-08-26 cs.LG math.ST stat.ME
Adaptive Robust Confidence Intervals in Efron's Gaussian Two-Groups Model
University of Chicago（芝加哥大学）；Northwestern University（西北大学）
研究在Efron的高斯双组模型中，针对未知污染比例的鲁棒置信区间，发现其长度比已知污染比例时更差，提出基于傅里叶变换的认证方法。
2026-04-28 math.ST stat.ME stat.ML
Statistical Inferences of Linear Forms for Noisy Matrix Completion
Hong Kong University of Science and Technology（香港科技大学）；Columbia University（哥伦比亚大学）
我们引入了一个灵活的框架，使一般线性型的大型矩阵的基础上，其条目的子集的噪声观测的推断。特别地，在弱正则性条件下，只要矩阵的入口一致估计可用，通过双样本去偏和低秩投影，我们给出了一个构造其线性型的渐近正态估计的通用方法.这些估计量允许我们随后构造置信区间，并检验关于线性型的假设。我们的建议是出于仔细的扰动分析的经验奇异空间下的噪声矩阵完成模型，这可能是独立的利益。我们提出的推理过程的实际优点都表现在模拟和现实世界的数据例子。
2020-06-11 cs.IT cs.LG math.IT
Near-Optimal Confidence Sequences for Bounded Random Variables
Facebook AI Research（脸书人工智能研究院）
许多推理问题，如顺序判定问题，如A/B测试，自适应抽样方案，如强盗选择，往往是在线的性质。在线推理的基本问题是提供一系列置信区间，这些置信区间在增长到无穷大的样本量上一致有效。为了解决这个问题，我们提供了一个接近最优的置信序列的有界随机变量利用Bentkus的浓度结果。我们表明，它改进了现有的方法，使用的Cram{é} r-Bennett技术，如Hoeffding，Bernstein和Bennett不等式。由此产生的置信度序列被证实是有利的合成覆盖问题和自适应停止算法的应用。
2021-06-03 cs.AI cs.LG math.ST
