Outlier detection in state-space models using mean-shift penalisation
The University of Sydney(悉尼大学);Maastricht University(马斯特里赫特大学);University of Antwerp(安特卫普大学)
提出ROAMS方法,通过引入偏移参数和惩罚项,在状态空间模型中自动检测并稳健估计离群点,优于经典方法。
2026-07-03 stat.ME
Extremal Depth for Functional Data and Applications
我们提出了一个新的概念,称为“极值深度”(ED)的功能数据,讨论其属性,并比较其性能与现有的概念。所提出的概念是以极端“怪异”为依据的。ED有几个理想的属性,不共享的其他概念,特别适合于获得中央区域的功能数据和功能空间。特别是:a)中心区域实现标称(期望)同时覆盖概率; b)在基于ED的(同时)中心区域和适当的逐点中心区域之间存在对应关系;以及c)该方法抵抗某些类别的功能异常值。本文研究了ED的性能,并将其与其他深度概念进行了比较。它的有用性证明通过应用程序构建中心区域,功能箱线图,离群值检测,并同时在回归问题的置信带。
2015-10-31 stat.ME
Area-based epigraph and hypograph indices for functional outlier detection
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);uc3m-Santander Big Data Institute(uc3m-桑坦德大数据研究所);Universidad Complutense de Madrid(马德里康普顿斯大学);Instituto de Matemática Interdisciplinar (IMI)(跨学科数学研究所);Ludwig-Maximilians-Universität München(慕尼黑路德维希-马克西米利安大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出基于面积的epigraph和hypograph指数,用于同时检测函数的幅度和形状异常,通过将函数异常检测转化为多变量问题,提高了鲁棒性和性能。
2025-07-08 stat.ME
Outlier Detection Ensemble with Embedded Feature Selection
National University of Defense Technology(国防科技大学)
特征选择在提高离群点检测的性能方面发挥着重要作用,特别是对于噪声数据。现有的方法通常分别进行特征选择和离群值评分,这会选择可能不适合离群值检测的特征子集,导致性能不令人满意。在本文中,我们提出了一个孤立点检测集成框架与嵌入式特征选择(ODEFS),以解决这个问题。具体而言,对于每个基于随机子采样的学习组件,ODEFS将特征选择和离群值检测统一到成对排序公式中,以学习为离群值检测方法定制的特征子集。此外,我们采用阈值化的自定进度学习,同时优化特征选择和样本选择,这有助于提高训练集的可靠性。之后,我们设计了一个交替算法,证明了收敛性,以解决由此产生的优化问题。此外,我们还分析了该框架的泛化误差界,为该方法提供了理论保证和实践指导。在不同领域的12个真实数据集上的综合实验结果验证了所提出的ODEFS的优越性。
2020-01-15 cs.LG stat.ML
Convex programming approach to robust estimation of a multivariate Gaussian model
多元高斯通常用作高维数据分布的第一近似。在各种约束条件下确定该分布的参数是统计学中广泛研究的问题,并且通常被认为是测试新算法或理论框架的原型。在本文中,我们开发了一个非渐近的方法来估计的多元高斯分布的参数时,数据被破坏的离群值的问题。我们提出了一个估计-有效地计算通过解决凸规划-鲁棒估计的人口平均值和人口协方差阵,即使样本包含一个显着比例的离群值。我们的腐败矩阵的估计是可证明的率最优的同时为条目明智的$\ell_1$ -范数,Frobenius范数和混合$\ell_2/\ell_1$范数。此外,这种最优性是通过具有通用调谐参数(校准惩罚强度)的惩罚平方根最小二乘法实现的。在逆协方差阵稀疏的附加条件下,将这些结果部分地推广到$p$可能大于$n$的情形.
2016-02-06 math.ST stat.TH
Large-dimensional behavior of regularized Maronna's M-estimators of covariance matrices
大型协方差阵的鲁棒估计被认为是,包括正则化(线性收缩)修改的Maronna的经典M-估计。这些估计值提供了对离群值的鲁棒性,同时当样本个数不超过变量个数时,这些估计值是明确定义的。通过应用随机矩阵理论的工具,我们刻画了当样本数和变量数一起变大时,这种估计的渐近性能。特别是,我们的研究结果表明,当离群值不存在时,正则化Maronna型的许多估计量具有相同的渐近性能,对于这些估计量,我们提出了一种数据驱动的方法,用于选择关于二次损失的渐近最优正则化参数。鲁棒性存在的离群值,然后研究:在非正则化的情况下,提出了一个大尺寸的鲁棒性度量,并明确计算两种特定类型的估计,表现出有趣的差异,取决于底层的污染模型。然后研究了正则化估计中离群值的影响,与非正则化情况下有趣的差异,从而对特定估计的选择产生了新的实用见解。
2018-04-26 math.ST stat.TH
Explainable Outlier Detection for Multivariate Functional Data
TU Wien(维也纳工业大学);Infineon Technologies Austria AG(英飞凌奥地利股份公司)
本文针对具有分离协方差结构的多元函数数据的鲁棒协方差估计和可解释性异常检测挑战,提出了一种结合随机过程与矩阵变量分布的方法,通过改进鲁棒性和可解释性来估计均值和协方差,并利用Shapley值进行异常检测分解。
2026-09-17 stat.CO stat.ME
Robust Data Clustering with Outliers via Transformed Tensor Low-Rank Representation
Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院)
针对含异常值的张量数据,提出基于t-SVD框架的异常值鲁棒张量低秩表示方法(OR-TLRR),实现异常值检测与数据聚类,并具备行空间精确恢复的理论保证。
2024-04-26 cs.CV cs.LG stat.ML
Robust Spatiotemporal Epidemic Modeling with Integrated Adaptive Outlier Detection
提出鲁棒时空广义可加模型RST-GAM,结合均值漂移参数与自适应Lasso正则化,在时空流行病建模中同步实现异常值检测与参数估计,为公共卫生决策提供有效支持。
2025-07-12 physics.soc-ph stat.ME stat.ML
Probabilistic Robust Autoencoders for Outlier Detection
Bar-Ilan University(巴伊兰大学);Yale University(耶鲁大学)
异常(或离群值)在真实世界的经验观测中很普遍,可能掩盖重要的基础结构。异常样本的准确识别对于下游数据分析任务的成功至关重要。为了自动识别异常,我们提出了概率鲁棒自动编码器(PRAE)。PRAE旨在同时去除离群值并识别内点样本的低维表示。首先,我们提出了鲁棒自动编码器(RAE)的目标作为一个最小化的问题,分裂成内点和离群数据。我们的目标是排除离群值,同时包括可以使用AutoEncoder(AE)有效重建的样本子集(内点)。RAE最大限度地减少自动编码器的重建误差,同时纳入尽可能多的样本。这可以经由正则化通过从重构项中减去对所选样本的数量进行计数的$\ell_0$范数来公式化。不幸的是,这导致了一个棘手的组合问题。因此,我们提出了两个概率松弛的RAE,这是可微的,并减轻了组合搜索的需要。我们证明了PRAE问题的解与RAE问题的解是等价的。我们使用合成数据表明,PRAE可以准确地删除在很大范围内的污染水平的离群值。最后,我们证明,使用PRAE异常检测导致国家的最先进的结果在各种基准数据集。
2022-08-24 cs.LG stat.ML
ICS for Multivariate Outlier Detection with Application to Quality Control
在汽车、航空电子或航空航天等高可靠性标准领域,异常检测至关重要。介绍了一种自动检测多变量异常值的有效方法。它利用了不变坐标选择(ICS)方法的显着特性。基于两个散射矩阵的同时谱分解,ICS导致仿射不变坐标系中的欧氏距离对应于原始坐标中的马氏距离(MD)。MD的局限性突出使用的背景下,数据的维度是大的理论参数。与MD不同,ICS可以选择相关组件,从而消除限制。由于得到的降维,该方法有望提高离群检测规则,如基于MD的标准的权力。它还大大简化了异常值的解释。该文件包括实际的指导方针,使用ICS的背景下,一个小比例的离群值,这是相关的高可靠性标准领域。通过平行分析和正态性检验的散射矩阵的选择以及相关的不变分量的选择得到解决。推荐使用规则的协方差阵和所谓的四阶矩矩阵作为散布对。这种选择结合了实现的简单性和导出理论结果的可能性。仿真研究证实了该建议的良好性能,并将其与其他散射对进行了比较。本研究也提供了一个比较与主成分分析和MD。我们的建议的性能也评估了几个真实的数据集,使用用户友好的R包随附的文件。
2018-02-02 stat.ME
Handling mild outliers and unobserved values in compositional datasets using finite mixtures of mean-parametrised Dirichlet models
University of Pretoria(比勒陀利亚大学);National Institute for Theoretical and Computational Sciences (NITheCS)(理论与计算科学国家研究所);San José State University(圣何塞州立大学);University of Catania(卡塔尼亚大学)
针对含缺失值与异常值的成分数据,本文提出均值参数化狄利克雷模型的有限混合方法,通过定制EM算法实现聚类与异常值检测,在真实数据应用中优于传统狄利克雷混合模型。
2026-08-26 stat.ME
Robust Dynamic Assortment Optimization in the Presence of Outlier Customers
New York University(纽约大学);Microsoft Research(微软研究院);University of Florida(佛罗里达大学)
研究了效用参数未知的多项罗吉特模型(MNL)下的动态搭配优化问题。本文研究的主要问题是$\varepsilon$ -污染模型下的模型误设定问题,该模型是鲁棒统计和机器学习中的一个基本模型。特别是,在整个销售范围的长度$T$,我们假设客户购买根据一个很好地指定的基础多项式logit选择模型在一个$(1-\varepsilon)$ -分数的时间段,并作出任意的购买决定,而不是在剩余的$\varepsilon$ -分数的时间段。在这个模型中,我们开发了一个新的强大的在线分类优化政策,通过主动淘汰策略。我们建立了上界和下界的遗憾,并表明,我们的政策是最佳的对数因子时,$T$的分类能力是常数。附件的%%容量具有恒定的上限。我们进一步开发了一个完全自适应的政策,不需要任何先验知识的污染参数$\varepsilon$。在最优产品和次优产品之间存在次优性缺口的情况下,分别建立了已知$\varepsilon$和未知$\varepsilon$两种情况下缺口依赖的对数后悔上界和下界.我们的模拟研究表明,我们的政策优于基于置信上限(UCB)和汤普森抽样的现有政策。
2022-07-09 cs.LG stat.ML
RCC-Dual-GAN: An Efficient Approach for Outlier Detection with Few Identified Anomalies
Hefei University of Technology(合肥工业大学)
离群点检测是数据采掘中的一项重要任务,在各种应用中,人们已经探索了许多技术。然而,由于离群值是非集中的默认假设,无监督离群值检测可能无法正确检测具有较高密度水平的组异常。对于有监督的离群点检测,虽然通常可以获得较高的检测率和最佳参数,但获得足够的正确标签是一项耗时的任务。为了解决这些问题,我们专注于半监督离群点检测与少数识别异常,希望使用有限的标签,以实现高检测精度。首先,我们提出了一种新的检测模型Dual-GAN,它可以直接利用已识别异常中的潜在信息来同时检测离散离群点和部分识别的群体异常。然后,考虑到在复杂的数据结构中,具有相似输出值的实例并不都是相似的,我们用RCC和M-GAN的组合(RCC-Dual-GAN)代替Dual-GAN中的两个MO-GAN组件。另外,为了处理纳什均衡的评价和最优模型的选择,在两个模型中引入了两个评价指标,使检测过程更加智能化。在基准数据集和两个实际任务上的广泛实验表明,我们提出的方法(即,Dual-GAN和RCC-Dual-GAN)可以显著提高离群值检测的准确性,即使只有少数识别出的异常。此外,与Dual-GAN中的两个MO-GAN组件相比,RCC和M-GAN组合的网络结构在各种情况下具有更大的稳定性。
2020-03-07 cs.LG stat.ML
Outlier detection and influence diagnostics in network meta-analysis
网络荟萃分析作为一种证据综合方法,使综合综合和同时比较多种治疗方法变得越来越突出。在许多网络荟萃分析中,一些组成研究可能具有与其他研究明显不同的特征,并且可能具有足以改变整体结果的影响力。纳入这些“无关”的研究可能会导致偏见,产生误导性的结果。在这篇文章中,我们提出了有效的方法来检测边远和有影响力的研究在频率论的框架。特别是,我们提出了合适的影响措施,涉及缺失的结果,并适当调整自由度的网络荟萃分析模型。通过留一试验交叉验证方案,我们提出了三个有影响的测度:(1)比较特异性学生化残差,(2)比较有效性参数的协方差阵的相对变化测度,(3)异质性协方差阵的相对变化测度。我们还提出了(4)一个基于模型的方法,使用一个似然比统计量的均值漂移离群检测模型。我们说明了所提出的方法的有效性,通过应用到网络荟萃分析的抗高血压药物。使用这四种方法,我们可以检测到三个潜在的有影响力的试验,涉及一个明显的离群值,因为数据伪造而被撤回。我们还证明,比较疗效估计和药物排名的总体结果被省略这三个有影响力的研究改变。
2019-10-29 stat.AP stat.ME
What is Local Optimality in Nonconvex-Nonconcave Minimax Optimization?
University of California, Berkeley(加州大学伯克利分校);Microsoft Research, India(微软印度研究院)
极大极小优化在现代机器学习中有着广泛的应用,例如生成对抗网络(GANs),对抗训练和多智能体强化学习。由于大多数应用都涉及连续的非凸-非凹公式,因此出现了一个非常基本的问题--“局部最优解的正确定义是什么?”“大多数以前的工作回答这个问题使用经典的概念,均衡从同时游戏,其中最小的球员和最大的球员同时行动。相比之下,机器学习中的大多数应用,包括GANs和对抗训练,都对应于顺序游戏,其中玩家首先行动的顺序至关重要(因为由于问题的非凸-非凹性质,minimax通常不等于maximin)。本文的主要贡献是给出了局部最优性的数学定义--局部极小极大,并给出了它的性质和存在性结果。最后,我们建立了一个强连接到一个基本的局部搜索算法-梯度下降上升(GDA):在温和的条件下,所有稳定的极限点GDA是正是当地的minimax点,直到一些退化点。
2020-08-15 cs.LG math.OC stat.ML
On Soft Power Diagrams
Technische Universität München(慕尼黑工业大学)
数据分析中的许多应用都是从欧氏空间中的一组点开始的,这些点被划分为聚类。然后,常见的任务是设计一个分类器,决定新点与哪个聚类相关联,找到关于聚类的离群值,或者识别用于分区的聚类类型。一种常见的聚类是相对于一组给定站点的(平衡)最小二乘分配。对于这些,有一个“分离功率图”,其中每个集群位于其自己的单元中。在本文中,我们的目标是有效的算法离群值检测和阈值的计算,衡量如何相似的聚类是一个最小二乘分配固定的网站。为此,我们设计了一个新的模型,用于计算一个“软实力”,它允许一个软分离的集群与“点计数属性”,例如,我们能够规定有多少点,我们要分类为离群值。由于我们的结果持有一个更一般的非凸模型的自由网站,我们描述它和我们的证明,在这种更一般的方式。其局部最优解满足上述点计数性质。对于使用固定站点的目标应用程序,我们的算法可以通过线性规划有效地求解全局最优解。
2014-06-24 cs.LG math.OC stat.ML
Hyperparameter Sensitivity in Deep Outlier Detection: Analysis and a Scalable Hyper-Ensemble Solution
Carnegie Mellon University(卡内基梅隆大学)
离群值检测(OD)文献展示了许多算法,因为它适用于不同的领域。然而,给定一个新的检测任务,目前还不清楚如何选择要使用的算法,也不清楚如何在无监督设置中设置其超参数(HP)。随着许多基于深度学习的新检测器的出现,HP调优是一个日益严重的问题,这些检测器通常带有一长串HP。令人惊讶的是,在离群值挖掘文献中,模型选择的问题一直是“房间里的大象”;这是释放深度方法最大潜力的一个重要因素,但很少有人说或做系统地解决这个问题。在本文的第一部分,我们对深度OD方法的HP敏感性进行了首次大规模分析,并通过超过35,000个训练模型,定量地证明了模型选择是不可避免的。接下来,我们设计了一个HP健壮的和可扩展的深度超集成模型,称为ROBOD,它组装了具有不同HP配置的模型,绕过了选择瘫痪。重要的是,我们引入了新的策略来加速集成训练,如参数共享,批量/同时训练和数据子采样,使我们能够用更少的参数训练更少的模型。在图像和表格数据集上的大量实验表明,ROBOD实现并保持了与其现代同行相比的鲁棒的、最先进的检测性能,同时通过具有独立训练的朴素超集成仅花费$2$ - $10$ \%的时间。
2022-10-19 cs.AI cs.LG stat.ME
Outlier Robust Adversarial Training
Indiana University–Purdue University Indianapolis(印第安纳大学-普渡大学印第安纳波利斯分校);Etsy, Inc(Etsy公司);University at Albany, State University of New York(纽约州立大学奥尔巴尼分校);University at Buffalo, State University of New York(纽约州立大学布法罗分校)
针对训练数据离群点与推理时对抗攻击的双重挑战,本文提出了基于双层优化和鲁棒秩损失函数的离群点鲁棒对抗训练(ORAT)方法,理论证明其满足H一致性且实验验证了其有效性与鲁棒性。
2023-09-10 cs.AI cs.LG stat.ML
Wasserstein Filtering: A Sample Selection Method for Robust Distribution Learning
The Hong Kong Polytechnic University(香港理工大学);Fudan University(复旦大学)
针对存在部分样本被污染的数据集,提出Wasserstein滤波样本选择框架,引入三种算法,在FELP污染模型下证明其估计量的极小极大最优性,经实验验证其为实用的模型无关预处理工具,兼具良好异常检测性能与生成建模下游效益。
2026-08-14 cs.LG stat.ML
Gaining Outlier Resistance with Progressive Quantiles: Fast Algorithms and Theoretical Studies
本文提出基于渐进分位数和显式离群程度参数的抗离群值估计框架,并开发快速可扩展算法,在低维和高维下均达到极小极大最优,实验验证了其在回归、分类和神经网络中的稳健性能。
2023-04-18 math.ST stat.ME stat.ML
High-dimensional outlier detection and variable selection via adaptive weighted mean regression
本文提出自适应惩罚加权均值回归方法,利用自适应Huber损失函数,在高维线性模型中同时实现稳健的回归参数估计和异常值检测,并通过模拟和乳腺癌数据验证其有效性。
2023-06-24 math.ST stat.ME stat.TH
Estimation and inference for minimizer and minimum of convex functions: optimality, adaptivity and uncertainty principles
该研究在非渐近局部极小极大框架下探究凸回归函数极小点与极小值的估计推断,提出自适应高效算法并给出下界,还建立了二者同时估计的不确定性原理。
2024-03-10 math.ST stat.ME stat.TH
Efficient and Robust Estimation of Linear Regression with Normal Errors
具有正态分布误差的线性回归-包括诸如ANOVA、学生t检验或位置尺度推断的特定情况-是广泛使用的统计程序。在这种情况下,普通最小二乘估计具有显着的性质,但对异常值非常敏感。已经提出了几个强有力的替代方案,但仍有很大的改进余地。因此,本文提出了一种原始的估计方法,提供了最佳的效率,同时在存在和不存在离群值,无论是对回归系数和尺度参数的估计。该方法首先包括在扩大的正常假设的错误的混合物的正常和过滤的对数帕累托(FLP),一个原始的分布,旨在代表离群值。期望最大化(EM)算法,然后适应,我们得到的N-FLP估计的回归系数,尺度参数和比例的离群值,以及概率的每个观察是离群值。的N-FLP估计的性能进行了比较,在广泛的蒙特卡罗模拟的最佳选择。本文论证了这种估计方法也可用于完整的稳健推断,包括置信区间、假设检验和模型选择。
2019-09-17 math.ST stat.ME stat.TH
Minimum Area Confidence Set Optimality for Simultaneous Confidence Bands for Percentiles in Linear Regression
本文提出最小面积置信集(MACS)准则用于比较和构建线性回归中百分位的同时置信带,发现非对称SCBs在面积上显著优于对称SCBs,并提出高效计算临界常数的方法。
2023-09-13 stat.ME
Sparse outlier-robust PCA for multi-source data
本文提出一种稀疏鲁棒PCA方法,用于多源数据联合分析,同时选择重要特征、检测稀疏模式并鲁棒于异常值。
2024-07-23 stat.ME stat.ML
Detection of Two-Way Outliers in Multivariate Data and Application to Cheating Detection in Educational Tests
本文提出了一种新的隐变量模型,用于同时(双向)检测项目反应类型数据的离群个体和项目。该模型是一个因素模型之间的协同作用,捕捉正常的项目响应行为和一个潜在的类模型,捕捉边远的个人和项目的二进制响应和连续响应时间。一个统计决策框架下提出的模型,提供复合决策规则控制本地错误发现/nondiscovery率的离群值检测。统计推断是在贝叶斯框架下进行的,为此开发了马尔可夫链蒙特卡罗算法。所提出的方法被应用到检测作弊的教育考试中,由于项目泄漏使用基于计算机的非自适应执照评估的案例研究。所提出的方法的性能进行了评估,通过仿真研究。
2021-10-22 stat.AP stat.ME
MacroPCA: An all-in-one PCA method allowing for missing values as well as cellwise and rowwise outliers
多元数据通常由矩形矩阵(表格)表示,其中行是对象(案例),列是变量(测量)。当存在许多变量时,人们通常通过主成分分析(PCA)来降低维度,其基本形式对离群值不鲁棒。许多研究都集中在处理行离群值,即偏离数据中大多数行的行(例如,它们可能属于不同的总体)。近年来,细胞离群值也受到关注。这些是可疑单元格(条目),可能出现在表中的任何位置。即使是相对较小比例的外围单元也会污染超过一半的行,这会导致行级鲁棒方法崩溃。本文提出了一种新的PCA方法,它结合了现有的两个强大的方法的优势,以是强大的对细胞和行离群值。同时,该算法可以处理缺失值。到目前为止,它是唯一可以同时处理所有三个问题的PCA方法。MacroPCA是PCA的缩写,允许Missingness和Cellwise & Rowwise Outliers。几个模拟和真实数据集说明了它的鲁棒性。引入了新的残差图,这有助于确定哪些变量负责离群行为。该方法非常适合在线过程控制。
2018-12-09 stat.ME
Outliers Detection in Networks with Missing Links
CNRS(法国国家科学研究中心);Université Paris-Saclay(巴黎-萨克雷大学);ESSEC Business School(埃塞克高等商学院);CREST(经济与统计研究中心);ENSAE(国立统计与经济管理学院);Université d’Évry Val d’Essonne(埃夫里-瓦尔德埃松大学)
由于恶意用户的欺诈行为或测量仪器的默认等不同原因,网络中会出现异常值,并会严重影响网络分析。此外,现实生活中的网络很可能无法完全观察到,由于个人不响应或机器故障而丢失链接。因此,在网络分析中,识别存在缺失链接的离群值是一个至关重要的问题。在这项工作中,我们引入了一个新的算法来检测网络中的异常值,同时预测丢失的链接。所提出的方法是统计上的声音:我们证明,在相当一般的假设下,我们的算法准确地检测离群值,并实现了最佳已知的错误与多项式计算成本的预测丢失的链接。它也是计算效率:我们证明了我们的算法的次线性收敛。我们提供了一个模拟研究,展示了良好的行为的算法在离群值检测和预测的缺失环节。我们还说明了在流行病学中的应用程序的方法,并与政治Twitter网络的分析。该方法可以在Comprehensive R Archive Network上作为R包免费获得。
2020-12-01 cs.LG cs.SI stat.ME
Component-wise Adaptive Trimming For Robust Mixture Regression
Purdue University(普渡大学);Indiana University(印第安纳大学);Indiana University School of Medicine(印第安纳大学医学院)
混合回归模型的参数估计采用期望最大化(EM)算法,对异常值非常敏感。在这里,我们提出了一种快速,高效的鲁棒混合回归算法,称为逐行自适应修剪(CAT)方法。我们考虑同时离群检测和鲁棒参数估计,以尽量减少离群污染的影响。稳健混合回归具有许多重要的应用,包括人类癌症基因组学数据,其中群体通常显示出由不必要的技术扰动增加的强烈异质性。现有的稳健混合回归方法要么在存在离群值的情况下进行参数估计,要么依赖于离群值污染水平的先验知识,因此受到离群值的影响。CAT是在分类期望最大化的框架内实施的,在此框架下,可以得出离群值的自然定义。它实现了一个最小的修剪平方(LTS)的方法在每个排他性的混合成分,其中的鲁棒性问题可以从混合的情况下,简单的线性回归的情况下。LTS方法的高击穿点允许我们避免预先指定微调参数。与现有的多种算法相比,CAT是最有竞争力的一个,可以处理和自适应修剪离群值以及重尾噪声,在不同的场景下的模拟数据和真实的基因组数据。CAT已在CRAN中可用的R包“RobMixReg”中实现。
2021-04-19 cs.LG stat.ME
Robust Parametric Classification and Variable Selection by a Minimum Distance Criterion
我们研究了一种基于最小距离准则的鲁棒惩罚逻辑斯谛回归算法。有影响力的离群值通常与参数向量估计的爆炸相关联,但是在标准逻辑斯谛回归的上下文中,由于离群值引起的偏差总是导致参数向量内爆,即向零向量收缩。因此,在存在离群值的情况下,使用LASSO类罚分进行变量选择可能导致相关协变量的漏检。我们表明,通过选择一个最小的距离标准与弹性网惩罚,我们可以同时找到一个简约的模型,避免估计内爆,即使在重要的小$n$大$p$的情况下存在许多离群值。使用MM算法的实现和性能评估。
2012-09-29 stat.CO stat.ME stat.ML
Robust Twoblock Simultaneous Dimension Reduction and Multivariate Regression
Snow Stallion AI(雪 stallion 人工智能);Department of Mathematics, University of Antwerp(安特卫普大学数学系)
本文提出鲁棒双块同时降维方法,能够稳健地处理双变量块的降维问题,并允许单独调整每个块的模型复杂度。该方法在存在异常值时仍能有效提取和总结信息,且在变量数超过样本数时仍可进行多元回归。
2026-10-23 stat.CO stat.ME
Casewise and Cellwise Robust Tensor-on-Tensor Regression
KU Leuven(荷语鲁汶大学)
本文提出ROTOT方法,用于处理张量回归中的张量级和单元级异常值,同时应对缺失值,通过单一损失函数和鲁棒多线性主成分分析提升鲁棒性。
2026-10-02 stat.ME stat.ML
Robust and sparse k-means clustering for high-dimensional data
在现实世界的应用场景中,由于可能出现的离群值和现有的噪声变量,组的识别构成了一个重大的挑战。因此,需要一种聚类方法,该方法能够在没有任何先验知识的情况下揭示包含离群值和噪声变量的数据中的组结构。在本文中,我们提出了一个$k$ -均值为基础的算法,结合加权函数,导致自动权重分配每个观察。为了处理噪声变量,套索型惩罚被用于由观测权重调整的目标函数。最后,我们介绍了一个框架,用于选择集群的数量和变量的基础上修改的间隙统计。模拟和真实世界的数据进行的实验表明,该方法的优势,以确定组,离群值,并提供信息的变量同时。
2017-09-28 stat.ME
A novel robust meta-analysis model using the $t$ distribution for outlier accommodation and detection
本文提出tMeta模型,利用t分布使效应量边际分布服从t分布,从而以简单自适应方式同时适应和检测离群研究,并通过EM算法实现高效最大似然估计,在轻度与严重离群值场景下均表现稳健。
2024-06-06 stat.ME stat.ML
High-dimensional Linear Discriminant Analysis: Optimality, Adaptive Algorithm, and Missing Data
本文旨在发展一个高维线性判别分析的最优性理论。提出并分析了一种基于自适应约束$\ell_1$最小化方法的数据驱动的免调整分类规则。极大极小的下界,得到的分类规则是同时率最优的参数空间的集合。此外,我们考虑了在完全随机缺失(MCR)模型下不完全数据的分类问题。引入了一种具有理论保证的自适应分类器,并建立了MCR模型下高维线性鉴别分析的最优收敛速度。对缺失数据的技术分析比对完整数据的技术分析更具挑战性。我们建立了广义样本协方差阵的大偏差结果,作为一个关键的技术工具,可以独立的兴趣。肺癌和白血病研究的应用进行了讨论。
2018-04-09 stat.ME
Penalized MM Regression Estimation with $L_{γ}$ Penalty: A Robust Version of Bridge Regression
桥式回归估计推广了岭回归和LASSO估计。由于它以$L_{γ}$惩罚最小化残差平方和,因此该估计量通常对数据中的离群值不稳健。已经有人尝试定义桥回归方法的鲁棒版本,但是虽然这些方法产生对离群值和重尾误差鲁棒的桥回归估计,但是它们对杠杆点不鲁棒。我们提出了一个强大的桥梁回归估计方法结合MM和桥梁回归估计方法。从所提出的方法得到的MM桥回归估计是强大的离群值和杠杆点。此外,通过适当选择惩罚函数,该方法能够同时进行变量选择和参数估计。实现了MM桥式回归估计的一致性、渐近正态性和稀疏性。我们提出了一个算法来计算MM桥回归估计。仿真研究和实际数据的例子来证明有限样本情况下的MM桥回归估计的性能。
2015-11-25 stat.ME
Exponential Lasso: robust sparse penalization under heavy-tailed noise and outliers with exponential-type loss
Norwegian Institute of Public Health(挪威公共卫生研究院)
针对经典Lasso对异常值和重尾噪声敏感的问题,提出结合指数型损失的Exponential Lasso鲁棒稀疏方法,通过MM算法高效求解,兼具理想条件下的收敛率与污染场景鲁棒性,性能优于经典Lasso。
2025-11-19 cs.LG stat.ME stat.ML