Adversarial robust weighted Huber regression
针对协变量和噪声可能被对手污染的线性回归，提出加权Huber回归方法，推导出依赖于协方差矩阵稳定秩和条件数的估计误差界，并保证多项式计算复杂度。
2024-05-24 math.ST stat.ML stat.TH
Large-dimensional behavior of regularized Maronna's M-estimators of covariance matrices
大型协方差阵的鲁棒估计被认为是，包括正则化（线性收缩）修改的Maronna的经典M-估计。这些估计值提供了对离群值的鲁棒性，同时当样本个数不超过变量个数时，这些估计值是明确定义的。通过应用随机矩阵理论的工具，我们刻画了当样本数和变量数一起变大时，这种估计的渐近性能。特别是，我们的研究结果表明，当离群值不存在时，正则化Maronna型的许多估计量具有相同的渐近性能，对于这些估计量，我们提出了一种数据驱动的方法，用于选择关于二次损失的渐近最优正则化参数。鲁棒性存在的离群值，然后研究：在非正则化的情况下，提出了一个大尺寸的鲁棒性度量，并明确计算两种特定类型的估计，表现出有趣的差异，取决于底层的污染模型。然后研究了正则化估计中离群值的影响，与非正则化情况下有趣的差异，从而对特定估计的选择产生了新的实用见解。
2018-04-26 math.ST stat.TH
Robust Nonparametric Regression under Huber's $ε$-contamination Model
Carnegie Mellon University（卡内基梅隆大学）
考虑Huber的$ε$ -污染模型下的非参数回归问题，其中观测值的$ε$部分受到任意对抗性噪声的影响.我们首先表明，一个简单的本地binning中位数步骤可以有效地消除对手的噪声，这个中位数估计是最小最大最优的绝对常数的Hölder函数类的平滑参数小于或等于1。此外，当底层函数具有较高的平滑度时，我们表明使用局部分箱中值作为预处理步骤来去除对抗性噪声，然后我们可以在中值之上应用任何非参数估计。特别是，我们展示了本地中值装箱，然后核平滑和本地多项式回归实现极小极大的Hölder和Sobolev类与任意平滑参数。我们的主要证明技术是对手噪声和随机噪声的解耦分析，这可以潜在地应用于其他鲁棒估计问题。我们也提供了数值结果来验证我们所提出的方法的有效性。
2018-05-26 cs.DS cs.LG math.ST
Robust W-GAN-Based Estimation Under Wasserstein Contamination
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Cambridge（剑桥大学）
稳健估计是统计学中的一个重要问题，其目的是当数据生成分布位于未污染分布周围的适当定义的球内时，提供一个合理的估计。虽然极大极小估计率近年来已经建立，许多现有的鲁棒估计可证明最佳的收敛速度也是计算上难以处理的。在本文中，我们研究了Wasserstein污染模型下的几个估计问题，并提出了基于生成对抗网络（GANs）的计算易处理的估计器。具体来说，我们分析了基于Wasserstein GAN的位置估计，协方差阵估计和线性回归估计的性质，并表明我们提出的估计在许多情况下是最小最大最优的。最后，我们提出的数值结果证明了我们的估计的有效性。
2021-01-20 cs.IT cs.LG math.IT
Vertex Nomination, Consistent Estimation, and Adversarial Modification
Johns Hopkins University（约翰斯·霍普金斯大学）；Microsoft（微软）；University of Maryland（马里兰大学）
给定一对图$G_1$和$G_2$以及$G_1$中的感兴趣顶点集，顶点提名（VN）问题寻求找到$G_2$中的对应感兴趣顶点（如果它们存在的话），并且产生$G_2$中的顶点的等级列表，其中$G_2$中的对应感兴趣顶点理想地集中在等级列表的顶部。在本文中，我们定义和推导出贝叶斯最优性的模拟VN与多个感兴趣的顶点，我们定义的最大一致性类的概念，在顶点提名。这一理论形成了一种新的VN对抗性污染模型的基础，我们用真实和模拟数据证明，有VN方案在未污染的环境中有效地执行，对抗性网络污染对我们的VN方案的性能产生不利影响。我们进一步定义了一种网络正则化方法来减轻对抗性污染的影响，并在真实和合成数据中证明了正则化的有效性。
2020-04-14 cs.LG cs.SI stat.CO
Winsorized mean estimation with heavy tails and adversarial contamination
University of Oxford（牛津大学）；WU Vienna University of Economics and Business（维也纳经济与商业大学）
针对重尾和对抗性污染，研究Winsorized均值估计的有限样本误差上界，该估计避免样本分裂且减少Winsorized观测数，提升适用性和实际性能。
2026-06-26 math.ST stat.TH
Robust covariance estimation with missing values and cell-wise contamination
针对含缺失值和逐单元污染的数据集协方差估计难题，提出无需插补的无偏协方差估计量，结合异常值检测处理高维低秩场景污染，理论与实验均验证其优于现有方法。
2023-11-10 math.ST stat.TH
Tractable and Near-Optimal Adversarial Algorithms for Robust Estimation in Contaminated Gaussian Models
考虑Huber污染高斯模型下位置和方差阵的同时估计问题。首先，我们研究了总体水平上的最小$f$ -发散估计，对应于具有非参数估计的生成对抗方法，并建立了导致稳健估计的$f$ -发散的条件，类似于最小距离估计的稳健性。更重要的是，我们开发了易于处理的对抗算法与简单的样条判别器，它可以通过嵌套优化实现，这样可以通过最大化凹目标函数给定的电流发生器，完全更新的参数。所提出的方法，以实现极大极小最优率或接近最优率取决于$f$发散和所使用的惩罚。这是第一次建立这样的接近最优的差错率的对抗算法与线性鉴别器下的Huber的污染模型。我们目前的模拟研究，以证明所提出的方法优于经典的鲁棒估计，成对的方法，和神经网络鉴别器的生成对抗方法。
2022-08-06 math.ST stat.ML stat.TH
The Full Landscape of Robust Mean Testing: Sharp Separations between Oblivious and Adaptive Contamination
该研究针对带对抗污染的高斯均值检验，首次证明自适应与遗忘型污染模型在样本复杂度上存在严格分离，完整刻画了指数时间与多项式时间设定下的信息论及计算复杂度边界。
2023-07-18 cs.DS math.ST stat.TH
Online and Distribution-Free Robustness: Regression and Contextual Bandits with Huber Contamination
MIT（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
在这项工作中，我们重新审视两个经典的高维在线学习问题，即线性回归和上下文强盗，从对抗鲁棒性的角度。算法鲁棒统计中的现有工作做出强分布假设，以确保输入数据均匀分布或来自良好的生成模型。即使完全没有分布假设，我们被要求解决的任务序列是自适应和逆向选择的，是否有可能实现强鲁棒性保证？我们对线性回归和上下文强盗都肯定地回答这个问题。事实上，我们的算法在传统方法失败的地方取得了成功。特别是，我们显示出强大的下界对Huber回归和更一般的任何凸M-估计。我们的方法是基于一种新的交替最小化方案，交织普通最小二乘法与一个简单的凸规划，找到最佳的重新加权的分布下的频谱约束。我们的研究结果获得基本上最佳的依赖污染水平$η$，达到最佳的击穿点，并自然地适用于无限维的设置，其中的特征向量通过内核映射表示隐式。
2021-06-10 cs.DS cs.LG stat.ML
High-Dimensional Gaussian Mean Estimation under Realizable Contamination
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of California, San Diego（加州大学圣迭戈分校）
研究在可实现ε污染模型下高斯分布均值估计问题，提出信息-计算差距，显示算法需更多样本或指数时间，同时给出近似匹配下界的方法。
2026-07-15 cs.DS cs.LG math.ST
Efficient Multivariate Robust Mean Estimation Under Mean-Shift Contamination
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
针对均值漂移污染下高维单位协方差高斯分布鲁棒均值估计现有算法时间复杂度随维度指数增长的问题，提出首个计算高效、样本复杂度近优、可容忍常数比例异常值的多项式时间算法，丰富了中间噪声模型的推断研究。
2025-02-20 cs.DS cs.LG math.ST
Generative Adversarial Nets for Robust Scatter Estimation: A Proper Scoring Rule Perspective
University of Chicago（芝加哥大学）；Hong Kong University of Science and Technology（香港科技大学）
稳健散布估计是统计学中的一项基本任务。Gao et al.（2018）最近关于鲁棒估计和生成对抗网络（GANs）之间的联系的发现表明，可以使用优化GANs的类似技术来计算类似深度的鲁棒估计器。在本文中，我们介绍了一个一般的学习通过分类框架的基础上适当的评分规则的概念。这个框架允许我们通过$f$的变分近似的透镜来理解矩阵深度函数和各种GANs-由适当的评分规则引起的发散。然后，我们提出了一类新的强大的散布估计在这个框架中仔细构造鉴别器与适当的神经网络结构。在Huber污染模型下，证明了这些估计量能达到极小极大散布率估计.我们的数值结果表明，在各种设置下对文献中的竞争对手的良好性能。
2019-03-05 cs.LG math.ST stat.ML
Outlier-robust estimation of a sparse linear model using $\ell_1$-penalized Huber's $M$-estimator
ENSAE Paristech-CREST（巴黎高等经济与统计学院-经济与统计研究中心）
研究了在加性噪声和高斯设计的线性模型中估计$p$维$s$ -稀疏向量的问题.在标签被污染的情况下，在最$o$对抗离群值，我们证明了$\ell_1$ -惩罚胡贝尔的$M$ -估计的基础上$n$样本达到最佳的收敛速度$(s/n)^{1/2} + (o/n)$，对数因子。对于更一般的设计矩阵，我们的结果突出了两个属性的重要性：传输原理和不相干属性。这些属性与适当的常数，以产生最佳的利率，对数因子，强大的估计与对抗性污染。
2019-11-19 cs.LG math.ST stat.TH
Robust Regression under Adversarial Contamination: Theory and Algorithms for the Welsch Estimator
CREST, ENSAE；ESSEC Business School（ESSEC商学院）；The University of Melbourne（墨尔本大学）
本文提出了一种在对抗污染下具有鲁棒性的回归方法，通过理论分析和实验验证展示了Welsch估计器在消除偏置和提高效率方面的优势。
2025-11-27 math.ST stat.TH
Minimum Covariance Determinant Estimator and Outlier Detection for Interval-valued Data
Instituto Superior Técnico, Universidade de Lisboa（里斯本理工大学）；Faculdade de Economia e Gestão, Universidade do Porto（波尔图大学经济管理学院）；LIAAD-INESC TEC（INESC TEC LIAAD实验室）
本文提出一种针对区间值数据的鲁棒估计方法，通过扩展最小协方差行列式估计器，改进了协方差矩阵估计和异常检测性能。
2026-08-12 stat.CO stat.ME
Outlier Robust Mean Estimation with Subgaussian Rates via Stability
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
本文研究了有限协方差假设下高维均值的离群稳健估计问题，并在更广泛的意义上研究了有限低阶矩假设下的高维均值估计问题。我们考虑了一个标准的稳定性条件，从最近的鲁棒统计文献，并证明，除了指数小的故障概率，存在一个大部分的内点满足这个条件。作为一个推论，它遵循的是一些最近开发的鲁棒均值估计算法，包括迭代滤波和非凸梯度下降，给出最佳误差估计（近）亚高斯率。以前的分析，这些算法给出了显着次优率。作为推论，我们的方法，我们得到了第一个计算效率的算法与次高斯率的离群稳健的均值估计在强污染模型下的有限协方差假设。
2021-03-16 cs.DS cs.LG math.ST
Robust dimension-free estimation of simple random tensors: optimal guarantees under heavy tails and adversarial contamination
IMPA, Brazil（巴西数学纯应用研究所）；Bocconi University, Italy（博科尼大学）；FGV EMAp, School of Applied Mathematics, Brazil（巴西风车基金会应用数学学院）
本文针对任意阶简单随机张量，提出基于方向截尾均值与极小极大聚合的鲁棒估计器，在重尾与对抗污染下实现近最优无维度统计速率，其建立的高阶过程集中不等式具独立应用价值。
2026-09-04 math.ST stat.TH
The Power of Iterative Filtering for Supervised Learning with (Heavy) Contamination
UT Austin（德克萨斯大学奥斯汀分校）
本文提出迭代多项式过滤算法，解决了有污染的有监督学习中的复杂性差距问题，首次实现了在高斯分布下高效学习半空间，以及在重污染下近最优的学习保证。
2026-01-12 cs.DS cs.LG stat.ML
Nearly Optimal Robust Covariance and Scatter Matrix Estimation Beyond Gaussians
Lucerne School of Computer Science and Information Technology（卢塞恩计算机科学与信息技术学院）
针对强污染高维场景下椭圆分布的协方差/散布矩阵鲁棒估计问题，提出近最优样本复杂度的多项式时间算法，扩展至非高斯分布并构造谱协方差滤波算法，取得与高斯情况相当的误差保证且具独立应用价值。
2025-04-12 cs.DS cs.LG math.ST
Robust Instrumental Variables: Sharp Rates and Inference under Adversarial Contamination
University of Oxford（牛津大学）；WU Vienna University of Economics and Business（维也纳经济与商业大学）
针对2SLS易受少量观测值不当影响的问题，本文提出W-2SLS方法，在对抗污染下达到极小极大精确速率，构建了稳健推断与检验，且无污染时也有更好的有限样本偏差保证。
2026-08-03 econ.EM math.ST stat.TH
Robust Estimation and Generative Adversarial Nets
University of Chicago（芝加哥大学）；Yale University（耶鲁大学）；Hong Kong University of Science Technology（香港科技大学）
Huber $ε$ -污染模型下的稳健估计已成为统计学和理论计算机科学中的一个重要课题。统计最佳的程序，如图基的中位数和其他估计的基础上深度函数是不切实际的，因为他们的计算棘手。在本文中，我们通过$f$ -Learning的镜头，在$f$ -GANs和各种深度函数之间建立了一种有趣的联系。与$f$ -GANs的推导类似，我们证明了这些导致统计最优鲁棒估计的深度函数都可以被视为$f$ -Learning框架中全变差距离的变分下界。这种联系打开了使用为训练GANs开发的工具计算鲁棒估计器的大门。特别是，我们在理论和实验中表明，在GANs中具有隐藏层的一些适当的神经网络结构导致高斯分布和一般椭圆分布的统计最优鲁棒位置估计器，其中第一时刻可能不存在。
2019-02-25 cs.LG math.ST stat.CO
Precise Statistical Analysis of Classification Accuracies for Adversarial Training
University of Southern California（南加州大学）
尽管现代机器学习算法和模型在许多应用中取得了广泛的经验成功，但已知它们对输入数据（称为\emph{adversarial attacks}）的看似微小的不可辨别的扰动非常敏感。最近提出了各种对抗性训练程序来解决这个问题。尽管这种过程在增加对抗扰动输入或\emph{robust accuracy}的准确性方面取得了成功，但这些技术经常降低自然未扰动输入或\emph{standard accuracy}的准确性。使问题进一步复杂化的是，对抗性训练程序对标准和鲁棒准确性的影响和趋势是相当违反直觉的，并且从根本上取决于各种因素，包括训练期间感知的扰动形式，数据的大小/质量，模型过度参数化，在本文中，我们专注于二进制分类问题，其中数据是根据两个高斯混合生成的，各向异性协方差阵，并推导出一类极大极小对抗训练模型的标准和鲁棒准确性的精确表征。我们考虑一个一般的基于范数的对抗模型，其中对手可以添加有界$\ell_p$范数的扰动到每个输入数据，对于任意$p\ge 1$。我们的全面分析使我们能够从理论上解释几个有趣的经验现象，并提供了一个精确的理解不同的问题参数对标准和鲁棒精度的作用。
2022-04-02 cs.LG math.ST stat.ML
Adaptive Robust Confidence Sets in High Dimensions
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of Chicago（芝加哥大学）；University of California, San Diego（加州大学圣地亚哥分校）；Rutgers University（罗格斯大学）
针对协方差为单位矩阵的多元高斯均值向量在Huber污染比例未知时的自适应稳健置信集问题，提出通过量化所有一维投影的不确定性构造信息论最优集，证明其存在计算障碍并给出低阶矩匹配算法，刻画了统计极限与计算壁垒。
2026-10-14 cs.DS cs.LG math.ST
Robust Estimation for Nonparametric Families via Generative Adversarial Networks
University of California, Berkeley（加州大学伯克利分校）
我们提供了一个通用的框架来设计生成对抗网络（GANs），以解决高维鲁棒统计问题，其目的是估计未知参数的真实分布给定的对抗损坏的样本。以往的工作集中在鲁棒均值和协方差估计的问题时，真正的分布是在家庭的高斯分布或椭圆分布，并分析深度或评分规则的GAN损失的问题。我们的工作扩展到鲁棒均值估计，二阶矩估计和鲁棒线性回归时，真正的分布只有有界Orlicz范数，其中包括广泛的家庭的次高斯，次指数和有界矩分布。我们还为GAN损失工作提供了一组不同的充分条件：我们只需要它的诱导距离函数是某种轻尾分布的累积密度函数，这很容易由具有S形激活的神经网络满足。在技术方面，我们提出的GAN损失可以被视为平滑和广义的Kolmogorov-Smirnov距离，它克服了先前工作中使用的原始Kolmogorov-Smirnov距离的计算困难性。
2022-02-02 cs.LG eess.SP math.ST
On the Optimality of the Median-of-Means Estimator under Adversarial Contamination
Basque Center of Applied Mathematics (BCAM)（巴斯克应用数学中心）；IKERBASQUE-Basque Foundation for Science（巴斯克科学基金会）
本文研究了对抗性污染下中位数均值估计器的最优性，证明了其在有限方差及无限方差但有限绝对矩分布类中达到极小极大最优，并指出在轻尾分布下为次优。
2025-10-09 cs.LG math.ST stat.ML
Adversarially robust change point detection
变点检测在许多应用领域中变得越来越流行。一方面，大多数理论上合理的方法都是在没有模型违规的理想环境中进行研究的，或者仅仅对时间上相同的重尾噪声分布和/或孤立的离群值具有鲁棒性;另一方面，我们知道来自对手的攻击呈指数增长，他们可能会对数据造成系统性污染，故意创建虚假的变化点或掩盖真实的变化点。鉴于及时需要一个变化点检测方法，是强大的对抗对手，我们开始，可以说，最简单的单变量均值变化点检测问题。对抗性攻击是通过Huber $\varepsilon$ -污染框架制定的，该框架特别允许污染分布在每个时间点都不同。在本文中，我们证明了相变现象的变化点检测。该检测边界是污染比例$\varepsilon$的函数，并且在文献中首次示出。此外，我们推导出最小最大速率最优定位误差率，量化的污染比例方面的准确性的成本。我们提出了一个计算上可行的方法，匹配极大极小下限在一定条件下，节省对数因子。大量的数值实验进行了比较，强大的变点检测方法在现有的文献。
2021-10-24 math.ST stat.ME stat.TH
Heavy-tailed Contamination is Easier than Adversarial Contamination
CSAIL, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
本文证明任何对抗性鲁棒估计器对重尾离群值同样有效，并构造反例说明重尾估计器无法直接用于对抗性设定，从而表明重尾估计比对抗性鲁棒估计更容易，为重尾场景开辟了新算法方向。
2024-11-22 cs.DS cs.LG math.ST
Partial estimators and application to covariance estimation of gaussian and elliptical distributions
对离群值的鲁棒性通常是统计估计量的理想属性。事实上，许多著名的估计提供了非常好的最优性能在理论上，但在应用环境中是不可用的，因为它们的敏感性离群值。作者特别感兴趣的是协方差估计器的情况下，在自适应匹配滤波方案的信号处理应用，如雷达和声纳检测，估计噪声协方差的离群值的污染可能会导致很大的影响性能，特别是当这些离群值是类似的匹配滤波器的目标信号。本文提出了一种通用的方法，从已知的估计量，其目的是避免这些问题，所产生的算法显示了一些选定的情况下。
2016-11-30 math.ST stat.TH
Iterative thresholding for non-linear learning in the strong $\varepsilon$-contamination model
RPI（伦斯勒理工学院）
本文在强ε污染模型下提出基于阈值梯度下降的单神经元学习算法，对非线性激活函数和线性回归分别得到更优的近似界与运行时间复杂度。
2024-09-05 cs.LG stat.ML
Large-scale Multiple Testing of Cross-covariance Functions with Applications to Functional Network Models
本文将函数协方差模型估计转化为交叉协方差函数的大规模多重检验问题，提出无需调节参数的新程序，并在一般误差污染框架下证明其渐近错误发现控制，成功应用于函数图模型和脑连接分析。
2024-09-04 math.ST stat.ME stat.TH
High-dimensional robust precision matrix estimation: Cellwise corruption under $ε$-contamination
我们分析了高维精度矩阵稳健估计的统计相合性。我们专注于一个污染的机制，作用于数据矩阵的细胞。我们分析的估计量是通过将适当选择的稳健协方差阵估计量插入到图形Lasso和CLIME中形成的。这种估计最近提出了强大的统计文献，但只有数学分析的角度来看，故障点。本文提供了互补的高维误差界的精度矩阵估计，揭示了问题的维数和污染程度之间的相互作用，允许在观察到的分布。我们还表明，虽然从统计一致性的角度来看，图形Lasso和CLIME估计同样表现良好，但图形Lasso的分解特性优于CLIME。我们讨论了我们的工作的影响，涉及图形模型估计的问题时，未污染的数据遵循多元正态分布，目标是估计人口水平的精度矩阵的支持。我们的误差界不作任何假设的污染分布，并允许非零部分的细胞污染。
2015-09-24 math.ST stat.TH
Statistical Guarantees for Covariance Estimation with Adversarial Corruption under Constraints
Northwestern University（西北大学）
针对对抗污染的高斯数据，在协方差估计值位于星形集的约束下，该研究得到了 Frobenius 范数下结构化鲁棒协方差估计的首个近极小极大速率的一般性统计保证结果。
2026-10-09 math.ST stat.TH
Covariance Estimation: Optimal Dimension-free Guarantees for Adversarial Corruption and Heavy Tails
该研究提出一种协方差矩阵估计器，在对抗性样本污染与重尾分布下实现算子范数最优收敛速率，同时证明了p>4情形下的无维度Bai-Yin型定理。
2023-07-20 cs.DS math.PR math.ST
A Fast Iterative Robust Principal Component Analysis Method
提出快速迭代鲁棒PCA方法，通过增量PCA迭代估计内点位置和协方差，减轻离群值影响，在模拟和真实数据上验证了竞争性精度与更强鲁棒性。
2025-06-19 cs.CE math.ST stat.TH
All-In-One Robust Estimator of the Gaussian Mean
本文的目的是表明，一个单一的稳健估计的均值多元高斯分布可以享受五个理想的性质。首先，它是计算上易处理的，在这个意义上，它可以在一个时间内计算，这是最多的多项式的维数，样本量和对数的倒数的污染率。第二，它是等变的平移，均匀缩放和正交变换。第三，它具有等于$0.5$的高击穿点，以及大约等于$0.28$的近极大极小速率击穿点。第四，它是最小最大率最优的，对数因子，当数据由独立的观测破坏了adversarially选择离群值。第五，当污染率趋于零时，它是渐近有效的。该估计量是通过迭代重加权方法得到的。每个样本点被分配一个权重，该权重通过求解凸优化问题来迭代更新。我们还建立了一个无量纲的非渐近风险界的预期误差的估计。这是文献中的第一个结果，只涉及协方差阵的有效秩。最后，我们证明了所得结果可以推广到亚高斯分布，以及未知污染率或未知协方差阵的情况。
2021-03-04 math.ST stat.TH
Adversarially robust multiple testing in high dimensions
University of Oxford（牛津大学）；WU Vienna University of Economics and Business（维也纳经济大学）
本文提出基于分位数缩尾技术的高维对抗鲁棒多重检验方法，可在对抗污染下近似控制家族式错误率，支持假设数量随样本量指数增长，其两样本结果的不等式扩展具有独立价值。
2026-08-03 math.ST stat.TH
Robust multivariate mean estimation: the optimality of trimmed mean
考虑了基于独立同分布的随机向量的均值估计问题。观察和对抗性污染。我们引入了一个多元扩展的截尾均值估计，并在最小条件下显示其最优性能。
2020-02-22 math.ST stat.TH
Robust high-dimensional Gaussian and bootstrap approximations for trimmed sample means
CREST, ENSAE, Institut Polytechnique de Paris（CREST、ENSAE、巴黎理工学院）
该研究针对高维场景下的鲁棒均值估计问题，提出截尾样本均值的高斯与自助法近似方法，得到最优复杂度界，构造的置信区间在重尾与对抗性污染下可保持覆盖率。
2026-07-30 math.PR math.ST stat.TH
RobustLDS: Learning linear dynamical systems under adversarial corruptions
Division of Mathematical Sciences, SPMS, NTU Singapore（南洋理工大学数学科学系，SPMS）
该研究针对对抗性污染下的线性动态系统学习问题，提出结合最小截平方松弛与交替最小化的估计量，以及利用异常值组稀疏性的估计量，推导了非渐近误差界并通过实验验证了有效性。
2026-10-09 cs.LG cs.SY eess.SY
Statistically Optimal Robust Mean and Covariance Estimation for Anisotropic Gaussians
CREST, ENSAE, Institut Polytechnique de Paris（巴黎理工学院ENSAE CREST）；University of California, Berkeley（加州大学伯克利分校）
假设$X_{1}, \ldots, X_{N}$是$\mathbb{R}^d$中的$N$独立高斯向量的$\varepsilon$污染样本，具有均值$μ$和协方差$Σ$。在强$\varepsilon$-污染模型中，我们假设攻击者将原始高斯样本中的$\varepsilon$部分向量替换为其他向量。我们发现，有一个估计$\widehat μ$的平均值满足，概率至少$1 - δ$，一个界的形式\[ \|\widehatμ - μ\|_2 \le c\left(\sqrt{\frac{\operatorname{Tr}(Σ)}{N}} + \sqrt{\frac{\|Σ\|\log(1/δ)}{N}} + \varepsilon\sqrt{\|Σ\|}\right), \]其中$c > 0$是一个绝对常数和$\|Σ\|$表示运营商规范的$Σ$。在相同的污染高斯设置中，我们构造协方差矩阵$Σ$的估计器$\widehat Σ$，其以概率至少满足$1 - δ$，\[ \left\|\widehatΣ - Σ\right\| \le c\left(\sqrt{\frac{\|Σ\|\operatorname{Tr}(Σ)}{N}} + \|Σ\|\sqrt{\frac{\log(1/δ)}{N}} + \varepsilon\|Σ\|\right). \]。尽管最近对鲁棒统计有很大的兴趣，但在规范高…
2023-01-21 cs.DS cs.LG math.ST
Improved covariance estimation: optimal robustness and sub-Gaussian guarantees under heavy tails
提出一种在重尾分布下仅依赖有界 $L^p-L^2$ 矩假设的协方差矩阵估计量，实现了与高斯数据相同的误差率及最优对抗鲁棒性。
2024-03-25 math.PR math.ST stat.TH
Robust Kernel Density Estimation with Median-of-Means principle
本文结合核密度估计方法和均值中值原理（MoM-KDE），提出了一种稳健的非参数密度估计方法。该估计实现任何类型的异常数据的鲁棒性，即使在对抗性污染的情况下。特别是，虽然以前的作品只证明已知的污染模型下的一致性结果，这项工作提供了有限样本的高概率误差界没有先验知识的离群值。最后，当与其他强大的核估计相比，我们表明，MoM-KDE实现竞争力的结果，同时具有显着较低的计算复杂性。
2020-06-30 math.ST stat.ML stat.TH
Minimax Statistical Estimation under Wasserstein Contamination
Department of Statistics and Data Science, University of Pennsylvania（统计与数据科学系，宾夕法尼亚大学）
本文研究了Wasserstein污染下的统计估计问题，提出了在ℓq范数下的最小最大理论，证明了样本均值和最小二乘预测器在特定污染情况下具有最优鲁棒性。
2025-11-21 cs.LG math.ST stat.ML
Robust Functional Data Analysis for Discretely Observed Data
本文针对离散观测数据提出统一的稳健函数均值、协方差与主成分分析框架，建立与经典方法对应的理论结果，并给出可随样本量增长的特征函数扰动界。
2023-05-25 math.ST stat.ME stat.TH
Trimmed sample means for robust uniform mean estimation and regression
IMPA（巴西纯数学与应用数学研究所）
本文提出基于截尾均值的估计方法，用于鲁棒估计均匀均值和回归，改进了对污染和重尾的鲁棒性。
2025-04-14 math.ST stat.TH
Adaptive Penalized Doubly Robust Regression for Longitudinal Data
Wisdom Lake Academy of Pharmacy, Xi’an Jiaotong-Liverpool University（西交利物浦大学智慧药学院）
本文提出了一种双重适应性稳健回归方法，用于纵向数据中的稳健估计和变量选择，通过结合稳健拟合、双重适应性权重和折叠凹惩罚，提高了估计精度和预测稳定性。
2026-02-25 math.ST stat.AP stat.CO
List-Decodable Covariance Estimation
Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）
我们给出了\emph{list-decodable covariance estimation}的第一个多项式时间算法。对于任何$α> 0$，我们的算法需要输入一个样本$Y \subseteq \mathbb{R}^d$的大小$n\geq d^{\mathsf{poly}(1/α)}$通过对抗腐败$(1-α)n$点在i.i.d.从具有未知平均值$μ_*$和协方差$Σ_*$的高斯分布中采样大小为$n$的$X$。在$n^{\mathsf{poly}(1/α)}$时间中，它输出一个恒定大小的$k = k(α)= (1/α)^{\mathsf{poly}(1/α)}$候选参数列表，该列表以高概率包含一个$(\hatμ,\hatΣ)$，使得总变化距离为$TV(\mathcal{N}(μ_*,Σ_*),\mathcal{N}(\hatμ,\hatΣ))<1-O_α(1)$。这是统计上最强的距离概念，并意味着乘法谱和相对弗罗贝纽斯距离近似的参数与尺寸无关的错误。我们的算法更普遍地适用于$(1-α)$-腐败的任何分布$D$，拥有低程度的平方和证书的两个自然的分析性质：1）反浓度的一维边缘和2）hyperconstitutivity的次数2多项式。在我们的工作之前，在列表可解码设置中估计协方差的唯一已知结果是由于Karmarkar，Klivans和Kothari（2019），Raghavendra和…
2022-06-22 cs.DS cs.LG math.ST
