Outlier-Robust Optimal Transport: Duality, Structure, and Statistical Analysis
Cornell University(康奈尔大学);Columbia University(哥伦比亚大学)
瓦瑟斯坦距离源于最优传输(OT)理论,是概率分布之间的流行差异度量,具有统计学和机器学习的各种应用。尽管其丰富的结构和证明的效用,瓦瑟斯坦距离是敏感的离群值在所考虑的分布,这阻碍了在实践中的适用性。我们提出了一个新的离群鲁棒瓦瑟斯坦距离$\mathsf{W}_p^\varepsilon$,它允许从每个污染分布中删除$\varepsilon$离群质量。在标准的矩假设下,$\mathsf{W}_p^\varepsilon$下的Huber $\varepsilon$污染模型实现强大的稳健估计保证。我们制定的这个强大的距离相当于一个高度定期的优化问题,使自己更好地分析相比,以前考虑的框架。利用这一点,我们进行了彻底的理论研究$\mathsf{W}_p^\varepsilon$,包括鲁棒性保证,表征最佳扰动,规律性,对偶性,和统计估计。特别是,通过解耦的优化变量,我们到达一个简单的双重形式的$\mathsf{W}_p^\varepsilon$,可以通过一个基本的修改标准,基于对偶的OT求解器。我们说明了我们的框架的优点,通过应用程序生成建模与污染的数据集。
2023-02-28 cs.LG stat.ML
Comparison of Outlier Detection Algorithms on String Data
本文比较了两种字符串异常检测算法,一种基于改进的本地异常因子算法,另一种基于层次左正则表达式学习者,通过实验展示两者在不同数据结构下的异常检测效果。
2026-01-13 cs.LG
D.MCA: Outlier Detection with Explicit Micro-Cluster Assignments
Carnegie Mellon University(卡内基梅隆大学);University of São Paulo(圣保罗大学)
我们如何检测离群值,无论是分散的还是聚集的,并且还明确地将它们分配到相应的微集群,而不知道先验有多少微集群存在?我们如何在内部执行这两项任务,即,没有任何事后处理,使检测和分配可以同时受益于彼此?在许多实际应用中,在单独的微集群中呈现离群值对分析师来说是信息丰富的。然而,基于由任何现有方法检测到的离群值的事后聚类的天真解决方案具有两个主要缺点:(a)对于聚类来说,适当的超参数值通常是未知的,并且大多数算法都难以处理不同形状和密度的聚类;(b)检测和分配不能相互受益。在本文中,我们提出了D.MCA到$\underline{D}$检测离群值与明确的$\underline{M}$ icro- $\underline{C}$光泽$\underline{A}$ signment。我们的方法通过使用一种新的策略来迭代地执行检测和分配,该策略从训练集中修剪整个微簇以提高检测的性能。它还受益于一种新的策略,该策略避免了聚集的离群值相互掩盖,这是文献中众所周知的问题。此外,D.MCA被设计为通过采用超强度“预热”阶段对临界超参数具有鲁棒性。在16个真实世界和合成数据集上进行的实验表明,D.MCA优于8个最先进的竞争对手,特别是在显式离群微聚类分配任务上。
2022-10-15 cs.AI cs.LG
C-AllOut: Catching & Calling Outliers by Type
University of São Paulo(圣保罗大学);Carnegie Mellon University(卡内基梅隆大学)
给定一个未标记的数据集,其中我们只能访问成对的相似性(或距离),我们如何有效地(1)检测离群值,以及(2)按类型注释/标记离群值?异常值检测有大量文献,但我们发现该领域存在一个关键差距:据我们所知,现有工作还没有解决异常值注释问题。离群值大致分为3种类型,代表可能对分析师有价值的不同模式:(a)全球离群值严重,但孤立的情况下,不重复,例如,数据汇集错误;(b)局部离群值在上下文内与它们的对等体偏离,例如,特别矮的篮球运动员;以及(c)集体离群值是可以指示联合或重复的孤立的微簇,例如,利用同一漏洞的欺诈行为本文介绍了C-AllOut:一种新颖有效的离群值检测器,按类型注释离群值。它是无参数和可扩展的,除了在需要时只处理成对相似性(或距离)。我们表明,C-AllOut在发现离群值时,无论其类型如何,都能达到与最先进的检测器相当或显著更好的性能。它在注释特定类型的离群值时也非常有效,这是任何基线都无法执行的任务。
2021-10-13 cs.AI cs.LG
FiMReSt: Finite Mixture of Multivariate Regulated Skew-t Kernels -- A Flexible Probabilistic Model for Multi-Clustered Data with Asymmetrically-Scattered Non-Gaussian Kernels
Tandon School of Engineering, New York University(纽约大学坦登工程学院);NYU WIRELESS(纽约大学无线研究中心);NYU CUSP(纽约大学城市科学与进步中心)
本文揭示了偏斜-t混合模型中的“S-DoF爆炸”现象,并提出正则化迭代优化过程训练的FiMReSt模型,以稳定S-DoF,提升对异常值的泛化能力和鲁棒性。
2023-05-15 cs.LG eess.SP
Linear-time Outlier Detection via Sensitivity
ETH Zurich(苏黎世联邦理工学院)
离群值在现代数据集中无处不在。基于距离的技术是一种流行的非参数离群值检测方法,因为它们不需要对数据生成分布进行先验假设,并且易于实现。将这些技术扩展到大规模数据集而不牺牲准确性是一项具有挑战性的任务。我们提出了一种新的算法的基础上的直觉,离群值有显着的影响质量的分歧为基础的聚类解决方案。我们提出了敏感性-最坏情况下的数据点的聚类目标的影响-作为离群值的度量。然后,我们证明了影响,(非平凡的)上界的灵敏度,可以通过一个简单的线性时间算法计算。为了扩展到单个机器之外,我们提出了一种通信高效的分布式算法。在广泛的实验评估中,我们证明了所提出的方法的有效性,并建立统计意义。特别是,它优于最流行的基于距离的方法,同时快了几个数量级。
2016-05-02 cs.LG stat.ML
Outlier-Robust Gromov-Wasserstein for Graph Data
CUHK(香港中文大学);Stanford University(斯坦福大学);HKUST(香港科技大学)
本文提出异常值鲁棒的Gromov-Wasserstein距离RGW,通过KL散度模糊集内的乐观扰动边际约束缓解异常值敏感问题,并设计Bregman近端交替线性化最小化算法高效求解,在图子匹配和部分形状对应任务上验证了有效性。
2023-10-30 cs.LG stat.ML
Optimal detection of the feature matching map in presence of noise and outliers
Russian-Armenian University(俄-亚美尼亚大学);Yerevan State University(埃里温国立大学)
我们考虑的问题,找到匹配映射之间的两组$d$维向量从噪声观测,其中第二组包含离群值。匹配映射则是注入,只有当第二组向量被很好地分离时,才能一致地估计该注入。主要结果表明,在高维环境中,未知注入的检测区域可以由内点-内点距离至少为$d^{1/4}$阶且内点-外点距离至少为$d^{1/2}$阶的向量集来表征。这些速率是使用最小化匹配点对之间的距离的平方和的估计匹配来实现的。我们还证明了建立这些利率的最优性的下界。最后,我们报告的合成和现实世界的数据,说明我们的理论结果,并提供进一步的洞察力在这项工作中研究的估计的属性的数值实验结果。
2022-10-26 cs.LG math.ST stat.TH
Integer Programming Relaxations for Integrated Clustering and Outlier Detection
University of Sydney(悉尼大学)
在本文中,我们提出了基于样本的聚类与离群点选择的基础上,设施位置制定的方法。给定距离函数和要找到的离群值的数量,该方法自动确定聚类和离群值的数量。我们制定的问题作为一个整数规划,我们目前放宽,允许解决方案,规模大的数据集。结合聚类和离群值选择的优点包括:(i)所得到的聚类往往是紧凑的和语义上一致的(ii)聚类对数据扰动更鲁棒,以及(iii)离群值被聚类上下文化并且更可解释,即,更容易区分作为数据误差的结果的离群值与可能指示在数据中出现的新模式的离群值。数据我们提出并对比了三种松弛的整数规划公式:(i)线性规划公式(LP)(ii)扩展的亲和传播离群值检测(APOC)和(iii)拉格朗日对偶的公式(LD)。对合成数据和真实数据的评估表明了这些不同方法的质量和可扩展性。
2014-03-06 cs.LG
Detecting Outliers in Data with Correlated Measures
Pennsylvania State University(宾夕法尼亚州立大学)
传感器技术的进步使大规模数据集的收集成为可能。这样的数据集可能非常嘈杂,并且通常包含大量由传感器故障或人为操作故障引起的离群值。为了将这些数据用于现实世界的应用,检测异常值至关重要,这样从这些数据集构建的模型就不会被异常值扭曲。在本文中,我们提出了一种新的离群值检测方法,利用数据中的相关性(例如,出租车行程距离与行程时间)。与现有的离群点检测方法不同,我们建立了一个鲁棒的回归模型,显式地对离群点进行建模,并在模型拟合的同时检测离群点。我们在现实世界的数据集上验证了我们的方法,这些方法是针对每个数据集专门设计的方法以及最先进的离群值检测器。我们的离群点检测方法取得了更好的性能,证明了我们的方法的鲁棒性和通用性。最后,我们报告了一些有趣的案例研究,结果从非典型事件的离群值。
2018-08-26 cs.LG stat.ML
Deep Learning and Matrix Completion-aided IoT Network Localization in the Outlier Scenarios
Department of Electrical and Computer Engineering(电子与计算机工程系)
针对物联网网络定位中受异常值污染的欧氏距离矩阵恢复问题,提出一种将搜索限制在欧氏距离矩阵集合内、联合恢复矩阵与坐标并通过稀疏建模处理异常值的深度学习与矩阵补全辅助方法,实验验证其在异常值场景下的准确定位能力。
2025-08-17 cs.AI cs.IT cs.LG
Confidence regions and minimax rates in outlier-robust estimation on the probability simplex
我们考虑的问题估计的平均值的分布支持的$k$维概率单纯形的设置中的一个$\varepsilon$分数的观察受到对抗腐败。一个简单的具体例子是估计离散随机变量的分布的问题。假设离散变量取$k$值,则未知参数$\boldsymbol θ$是属于概率单形的$k$维向量。我们首先描述了各种设置的污染,并讨论这些设置之间的关系。然后,我们建立极小极大率时,估计的质量是由总变差距离,海林格距离,或$\mathbb L^2$ -距离之间的两个概率测度。我们还提供了置信区域的未知的意思,缩小在最小最大率。我们的分析表明,与这三个距离相关的极大极小率都是不同的,但它们都是通过样本平均值获得的。此外,我们表明,后者是自适应的未知向量的可能的稀疏性。一些数值实验说明我们的理论研究结果的报告。
2020-02-01 cs.LG math.ST stat.TH
Outlier Detection with Cluster Catch Digraphs
Auburn University(奥本大学)
针对高维、聚类形状多变导致传统异常值检测性能下降的问题,提出四类基于聚类捕获有向图的新型算法,经模拟与真实数据集验证,在准确性、适应性上有显著提升。
2024-10-09 cs.LG stat.ML
Quantifying Outlierness of Funds from their Categories using Supervised Similarity
BlackRock, Inc.(贝莱德集团)
本文将基金错误分类建模为基于距离的离群点检测,采用随机森林距离度量学习计算类别级离群度,并验证其与基金未来收益显著相关。
2023-08-14 cs.LG q-fin.CP q-fin.ST
Detecting outliers by clustering algorithms
School of Information Science and Technology, Beijing Forestry University(北京林业大学信息科学与技术学院);School of Computer Science & Technology, Beijing Institute of Technology(北京理工大学计算机科学与技术学院)
针对多数聚类算法缺乏离群点检测能力、额外检测流程繁琐的问题,提出ODAR方法,通过特征变换分离离群点与正常对象,使任意聚类算法可通过识别簇检测离群点,在多数数据集上有效提升聚类准确率。
2024-12-07 cs.LG stat.ML
Fluctuation-based Outlier Detection
Xinjiang University(新疆大学)
离群点检测是机器学习中的一个重要课题,并有着广泛的应用。离群值是数量很少并且偏离大多数对象的对象。由于这两个属性,我们表明,离群值容易受到称为波动的机制。本文提出了一种基于波动的离群点检测方法(FBOD),该方法具有较低的线性时间复杂度,并且完全基于波动的概念来检测离群点,而不使用任何距离、密度或隔离措施。与现有的所有方法都不同。FBOD首先利用随机连接将欧氏结构的数据集转换成图,然后根据图的连接传播特征值。最后,通过比较一个对象和它的邻居的波动之间的差异,FBOD将差异较大的对象确定为离群值。在8个真实世界的表格数据集和3个视频数据集上将FBOD与7种最先进的算法进行比较的实验结果表明,FBOD在大多数情况下都优于其竞争对手,并且FBOD的执行时间只有最快算法的5%。实验代码可在https://github.com/FluctuationOD/Fluctuation-based-Outlier-Detection上获得。
2022-04-21 cs.CV cs.LG
Continuous Outlier Mining of Streaming Data in Flink
Department of Informatics, Aristotle University of Thessaloniki, Greece(塞萨洛尼基亚里士多德大学信息学系);The University of Manchester, UK(曼彻斯特大学)
在这项工作中,我们专注于度量空间中基于距离的离群值,其中实体是否是离群值的状态是基于其邻域中其他实体的数量。近年来,有几种解决方案已经解决了数据流中基于距离的离群值问题,其中离群值必须随着新元素的可用而不断挖掘。一个有趣的研究问题是将流环境与大规模并行系统相结合,以提供可扩展的基于流的算法。然而,先前提出的技术中没有一个涉及大规模并行设置。我们的提案填补了这一空白,并调查了将最先进的技术转移到Apache Flink的挑战,这是一个用于密集流媒体分析的现代平台。我们全面介绍了遇到的技术挑战和可能应用的替代方案。我们显示的速度高达117(分别。2076)倍于一个天真的平行(resp.非并行)解决方案,只使用一个普通的四核机器和一个真实世界的数据集。当迁移到三台机器集群时,由于竞争较少,我们能够在窗口幻灯片大小和数据维度方面实现更好的可扩展性,甚至更高的加速,例如,是510倍总的来说,我们的研究结果表明,oulier挖掘可以以一种高效和可扩展的方式实现。由此产生的技术已作为开源软件公开提供。
2019-02-21 cs.DB cs.DC cs.LG
Boundary Peeling: Outlier Detection Method Using One-Class Peeling
Miami University(迈阿密大学)
提出一类边界剥离算法,利用一类SVM迭代剥离边界,实现高效稳健的无监督异常值检测,并在多种数据分布及基准数据集上表现优异。
2024-09-20 cs.LG stat.ME stat.ML
HLoOP -- Hyperbolic 2-space Local Outlier Probabilities
ENAC(法国国立民用航空学院);IRIT(图卢兹计算机科学研究所);Université de Toulouse(图卢兹大学)
本文提出 HLoOP 框架,将最近邻密度评分与双曲空间中的高斯概率统计方法结合,用于检测双曲二维空间数据的局部异常值,并在 WordNet 上验证有效。
2023-12-06 cs.LG stat.ML
Outlier detection of vital sign trajectories from COVID-19 patients
University of Manchester(曼彻斯特大学);Christie NHS Foundation Trust(克里斯蒂NHS基金会信托);University of Oxford(牛津大学)
提出一种基于动态时间规整距离的生命体征轨迹比较算法,通过180分钟非重叠时段的平均成对距离检测异常并聚类相似轨迹,在合成数据和8名COVID-19出院患者数据中验证了其识别恶化与再入院风险的能力。
2023-04-20 cs.HC cs.LG eess.SP
Outlier Detection using AI: A Survey
Bradley Department of Electrical and Computer Engineering (ECE), Virginia Tech(弗吉尼亚理工大学布拉德利电气与计算机工程系)
离群值是一种事件或观察结果,定义为异常活动、入侵或与人群距离不规则的可疑数据点。然而,异常值事件的定义是主观的,取决于应用和领域(能源、健康、无线网络等)。尽可能仔细地检测异常事件以避免基础设施故障非常重要,因为异常事件可能对基础设施造成轻微到严重的损坏。例如,对微电网等网络物理系统的攻击可能会引发电压或频率不稳定,从而损坏智能逆变器,这需要非常昂贵的维修。微电网中的异常活动可能是机械故障、系统行为变化、人为或仪器错误或恶意攻击。因此,由于其可变性,离群值检测(OD)是一个不断增长的研究领域。在本章中,我们讨论了利用人工智能技术的OD方法的进展。为此,每个OD模型的基本概念是通过多个类别介绍。广泛的OD方法分为六大类:基于统计的,基于距离的,基于密度的,基于聚类的,基于学习的和包围的方法。对于每一个类别,我们讨论了最新的最先进的方法,其应用领域和性能。在此之后,简要讨论了每种技术的优点,缺点和挑战,并对未来的研究方向提出了建议。本调查旨在引导读者更好地了解用于保证AI的OD方法的最新进展。
2021-12-01 cs.AI cs.LG stat.ML
Simple KNN-Based Outlier Detection Achieves Robust Clustering
Duke University(杜克大学)
本文证明在合理假设下,简单移除KNN距离大的点可将稳健k均值转化为标准k均值,且在聚类成本和运行时间上优于其他算法。
2026-05-08 cs.DS cs.LG
CFOF: A Concentration Free Measure for Anomaly Detection
University of Calabria(卡拉布里亚大学)
我们提出了一种新的离群值概念,称为无浓度离群值因子或CFOF。作为一个主要的贡献,我们形式化的概念集中的离群分数,并从理论上证明CFOF不集中在欧氏空间中的任何任意大的维度。据我们所知,没有其他与欧几里得距离相关的数据分析措施的建议,已经提供了理论证据表明它们不受浓度效应的影响。我们确定的封闭形式的分布的CFOF分数在任意大的维度,并表明,CFOF分数的一个点取决于其平方范数标准分数和峰度的数据分布,从而提供了一个明确的和统计上成立的表征这一概念。此外,我们利用这个封闭的形式提供的证据表明,定义不受影响其他措施的枢纽问题。我们证明了来自每个聚类的CFOF离群值的数量与聚类大小和峰度成正比,这是一个我们称之为半局部性的属性。我们确定,半局部性的特点现有的反向最近邻为基础的离群值定义,从而澄清其观察到的本地行为的确切性质。我们还正式证明了经典的基于距离和基于密度的离群值集中有界和无界的样本大小和固定和可变值的邻域参数。本文提出了一种快速的CFOF算法来检测高维数据中的离群点。该算法具有线性代价,支持多分辨率分析,并具有良好的并行性。实验表明,该技术能够有效地处理大型数据集,甚至处理大的邻域参数值,避免集中,并获得良好的精度。
2019-09-17 cs.LG stat.ML
An empirical comparison of some outlier detection methods with longitudinal data
Italian National Institute of Statistics – Istat(意大利国家统计研究所)
本研究针对纵向数据异常值检测问题,对比官方统计传统方法与数据挖掘、机器学习领域的相关方法,通过面板调查数据实验验证了后者灵活性更强、可处理多维数据且部分场景效果更优。
2025-07-28 cs.LG stat.AP stat.ME
Edgewise outliers of network indexed signals
Institute of Statistics and Mathematical Methods in Economics(经济统计与数学方法研究所);TU Wien(维也纳工业大学);Toulouse School of Economics(图卢兹经济学院)
针对存在变量和节点依赖的网络索引多变量数据,提出边异常值概念,推导马氏距离平方等分布以确定检测阈值,提出鲁棒的边MCD算法,模拟和真实数据实验均验证了其有效性。
2023-07-20 cs.LG stat.AP stat.ME
Fairness-aware Outlier Ensemble
Zhejiang University(浙江大学);Pennsylvania State University(宾夕法尼亚州立大学);University at Buffalo(布法罗大学)
离群值集成方法在发现与大多数数据显著不同的实例方面表现出出色的性能。然而,如果没有公平意识,它们在道德场景中的适用性,如欺诈检测和司法判决系统,可能会降低。在本文中,我们提出了通过一个公平意识的集成框架,以减少偏差的离群集成结果。由于离群点检测任务中缺乏地面真值,关键的挑战是如何在提高公平性的同时减轻检测性能的下降。为了解决这一挑战,我们定义了一个距离测量的基础上输出的传统离群集成技术来估计可能的成本与检测性能下降。同时,我们提出了一个后处理框架,通过堆叠过程来调整原始集成结果,以便我们可以实现公平性和检测性能之间的权衡。检测性能通过ROC曲线下面积(AUC)来衡量,而公平性则在组和个体水平上进行衡量。在8个公共数据集上进行了实验。结果表明,该框架在提高离群集成结果的公平性的有效性。我们还分析了AUC和公平性之间的权衡。
2021-03-17 cs.AI cs.LG
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University(汉阳大学)
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题,如合成少数过采样技术(SMOTE)。然而,由于诸如SMOTE的方法通过线性插值生成实例,因此合成数据空间可能看起来像多边形。此外,过采样方法产生少数类的离群值。在本文中,我们提出了基于高斯的少数过采样技术(GMOTE)的统计角度不平衡数据集。为了避免线性插值和考虑离群点,该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值(CMGOS)的启发,我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法,如SMOTE进行了比较。当GMOTE与分类回归树(CART)或支持向量机(SVM)相结合时,它表现出更好的准确性和F1得分。实验结果表明,鲁棒性能。
2021-05-09 cs.LG stat.ML
When OT meets MoM: Robust estimation of Wasserstein Distance
LTCI(通信与信息处理实验室);Télécom Paris(巴黎电信学院);Institut Polytechnique de Paris(巴黎理工学院)
瓦瑟斯坦距离由Optimal Transport发布,由于其吸引人的几何特性和有效近似的日益可用性,在机器学习中获得了重要性。在这项工作中,我们考虑的问题,估计两个概率分布之间的瓦瑟斯坦距离时,观测值被污染的离群值。为此,我们研究了如何利用均值中位数(MoM)估计稳健估计的瓦瑟斯坦距离。利用对偶Kantorovitch公式的瓦瑟斯坦距离,我们介绍和讨论新的矩量法为基础的稳健估计的一致性研究下的数据污染模型,并提供收敛速度。这些MoM估计器使Wasserstein生成对抗网络(WGAN)对离群值具有鲁棒性,正如对两个基准CIFAR10和Fashion MNIST的实证研究所证明的那样。最后,我们讨论了如何将矩量法与瓦瑟斯坦距离的熵正则化近似相结合,并提出了一个简单的基于矩量法的重新加权方案,可以与Sinkhorn算法结合使用。
2022-02-18 cs.LG stat.ML
A Model for Spatial Outlier Detection Based on Weighted Neighborhood Relationship
Faculty of computers and information –Cairo University(开罗大学计算机与信息学院)
空间离群点用于发现不一致的对象,产生隐含的、隐藏的、有趣的知识,在决策过程中具有有效的作用。在本文中,我们提出了一个模型来重新定义的空间相邻关系,考虑在一个给定的空间数据集中的相邻对象的最有效的参数的权重。我们考虑的空间参数是相邻对象之间的距离、成本和直接连接的数量。该模型适用于多边形物体。该模型被应用到一个支持法尤姆省扫盲项目的GIS系统。
2019-11-04 cs.DB cs.LG
Improving predictions by nonlinear regression models from outlying input data
University of British Columbia(不列颠哥伦比亚大学)
当将机器学习/统计方法应用于环境科学时,非线性回归(NLR)模型的表现通常仅略好于线性回归(LR),有时甚至更差。提出的这个难题的原因是,当给定的输入数据位于模型训练中使用的域之外时,NLR模型可以给出比LR差得多的预测。连续无界变量广泛应用于环境科学中,因此新的输入数据远离训练域并不罕见。对于六个环境数据集,基于与训练输入数据的Mahalanobis距离,将测试数据中的输入分类为“离群值”和“非离群值”。预测得分(平均绝对误差,斯皮尔曼相关性)显示,NLR优于LR的非离群值,但往往低于LR的离群值。提出了一种基于Occam's Razor(OR)的方法,对异常值用线性外推代替非线性外推。基于非离群值域内的NLR模型,线性外推至离群值域。这种NLR $_{\mathrm{OR}}$方法减少了NLR外推非常差的发生率,并且对于离群值,它往往优于NLR和LR。总之,应筛选输入测试数据中的离群值。对于离群值,不可靠的NLR预测可以由NLR $_{\mathrm{OR}}$或LR预测替换,或者通过发出“无可靠预测”警告。
2020-03-17 cs.LG stat.ML
Outlier Detection using Self-Organizing Maps for Automated Blood Cell Analysis
Technical University of Munich(慕尼黑工业大学)
数据集的质量在深度学习模型的成功训练和部署中起着至关重要的作用。特别是在医疗领域,系统性能可能会影响患者的健康,干净的数据集是可靠预测的安全要求。因此,在构建自主临床决策系统时,离群值检测是一个必不可少的过程。在这项工作中,我们评估了自组织映射的离群值检测的适用性,特别是在包含白细胞的定量相位图像的医学数据集。我们基于量化误差和距离图来检测和评估离群值。我们的研究结果证实了自组织映射对于手头数据集上无监督分布外检测的适用性。自组织映射的性能与基于专家领域知识的手动指定的过滤器相当。此外,它们显示出作为探索和清理医疗数据集的工具的前景。作为未来研究的方向,我们建议将自组织映射和基于深度学习的特征提取相结合。
2022-08-18 cs.LG eess.IV
k-Center Clustering with Outliers in Sliding Windows
University of Padova(帕多瓦大学)
度量$k$ -中心聚类是基本的无监督学习原语。虽然被广泛使用,但该原语受到数据中噪声的严重影响,因此更合理的变体寻求忽略数据集的给定数量$z$的点(称为离群值)的最佳解决方案。我们提供了有效的算法,在滑动窗口设置下的流模型中的这个重要的变体,其中,在每个时间步,要聚类的数据集是窗口$W$的最近的数据项。我们的算法实现了$O(1)$近似,值得注意的是,需要一个工作记忆的线性$k+z$和对数的$|W|$。作为一个副产品,我们展示了如何估计的有效直径的窗口$W$,这是一个衡量的窗口点的传播,忽略了一个给定的分数的噪声距离。我们还提供了我们的理论结果的实际可行性的实验证据。
2022-01-07 cs.DS cs.LG
LUNAR: Unifying Local Outlier Detection Methods via Graph Neural Networks
School of Computing, National University of Singapore(新加坡国立大学计算学院);Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究所);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
许多成熟的异常检测方法使用样本与其局部邻域中的样本的距离:所谓的“局部离群值方法”,如LOF和DBSCAN。它们因其简单的原理和在许多实际应用中常见的非结构化、基于特征的数据上的强大性能而广受欢迎。然而,由于缺乏可训练的参数,它们无法学习适应特定的数据集。在本文中,我们开始统一的本地离群值的方法,表明他们是特殊情况下,更一般的消息传递框架中使用的图神经网络。这使我们能够将可学习性引入到局部离群值方法中,以神经网络的形式,以获得更大的灵活性和表现力:具体而言,我们提出了LUNAR,一种新颖的基于图神经网络的异常检测方法。LUNAR学习以可训练的方式使用来自每个节点最近邻居的信息来发现异常。我们表明,我们的方法比现有的局部离群值方法以及最先进的深基线表现得更好。我们还表明,我们的方法的性能对局部邻域大小的不同设置更加鲁棒。
2021-12-10 cs.AI cs.LG
Structured Sampling for Robust Euclidean Distance Geometry
University of Central Florida(中佛罗里达大学);Tufts University(塔夫茨大学)
针对稀疏离群值干扰下基于距离测量的点位置估计问题,提出一种结合Nyström方法和鲁棒主成分分析的新算法,无需目标节点间距离测量,仅处理局部距离矩阵子集,在传感器定位等场景中实现高效鲁棒的位置估计。
2025-02-18 cs.IT cs.LG math.IT
Distributional Gaussian Process Layers for Outlier Detection in Image Segmentation
Imperial College London(伦敦帝国理工学院);University College London(伦敦大学学院)
我们提出了一个参数有效的贝叶斯层分层卷积高斯过程,结合高斯过程操作在Wasserstein-2空间可靠地传播不确定性。这直接取代卷积高斯过程与距离保持仿射算子的分布。我们对脑组织分割的实验表明,所得到的架构接近成熟的确定性分割算法(U-Net)的性能,这是以前的分层高斯过程从未实现过的。此外,通过将相同的分割模型应用于分布外数据(即,图像与病理,如脑肿瘤),我们表明,我们的不确定性估计结果的分布外检测,优于以前的贝叶斯网络和重建为基础的方法,学习规范分布的能力。
2021-04-28 cs.LG stat.ML
Separability and Scatteredness (S&S) Ratio-Based Efficient SVM Regularization Parameter, Kernel, and Kernel Parameter Selection
Toronto Metropolitan University(多伦多都会大学)
本研究通过随机分析正则化参数,提出基于数据可分性与散布性(S&S)比率的表,在使用SVM前自动确定最优正则化参数、核函数及参数,将交叉验证网格搜索的计算复杂度降至单次SVM运行。
2023-05-17 cs.AI cs.LG eess.SP
A Joint Indoor WLAN Localization and Outlier Detection Scheme Using LASSO and Elastic-Net Optimization Techniques
University of Texas at San Antonio(得克萨斯大学圣安东尼奥分校);University of Tennessee at Chattanooga(田纳西大学查塔努加分校)
在本文中,我们介绍了两种室内无线局域网(WLAN)定位方法,使用增强稀疏恢复算法。这些方案呈现稀疏用户的位置向量,并且并行地,最小化在线测量和无线电地图之间的距离。这两种方法的总体定位方案包括三个步骤:1)粗定位,通过比较在线测量与聚类无线电地图获得。提出了一种基于图的离线指纹聚类方法。在在线阶段,选择感兴趣区域(ROI),在其中搜索用户的位置; 2)接入点(AP)选择; 3)通过新的稀疏恢复算法进行精细定位。由于在线测量受到过度的测量读数,称为离群值,稀疏恢复方法进行修改,以联合估计离群值和用户的位置向量。异常值检测过程识别其读数不可用或错误的AP。所提出的定位方法已经过测试,在一个典型的办公室环境中的接收信号强度(RSS)的测量结果表明,他们可以定位用户具有显着的高精度和分辨率,这是优于竞争的WLAN指纹定位方法的结果。
2016-10-18 cs.LG cs.NI
Learning to Explore: Policy-Guided Outlier Synthesis for Graph Out-of-Distribution Detection
PGOS通过强化学习策略生成高质量伪OOD图,提升图分布外检测的鲁棒性与性能
2026-02-28 cs.AI cs.LG
Adversarially Robust Topological Inference
University of California San Diego(加利福尼亚大学圣迭戈分校);The Pennsylvania State University(宾夕法尼亚州立大学);The Institute of Statistical Mathematics(统计数学研究所)
针对持续同调对异常值敏感的问题,提出基于中位数均值的距离函数变体 MoM Dist,在对抗设置下实现一致估计与近最优性能。
2025-03-28 cs.CG cs.LG math.AT
Robust learning of data anomalies with analytically-solvable entropic outlier sparsification
Universitá della Svizzera Italiana (USI)(瑞士意大利语区大学)
熵离群稀疏化(Entropic Outlier Sparsification,EOS)是一种鲁棒的计算策略,用于在广泛的学习方法中检测数据异常,包括无监督问题(如在大多数高斯数据中检测非高斯离群值)和有监督的错误标记数据学习。EOS详细说明了香农熵正则化的(加权)预期误差最小化问题的解析闭式解。与常见的正则化策略需要的计算成本,规模多项式与数据维度相比,确定的封闭形式的解决方案被证明施加额外的迭代成本,线性依赖于统计量的大小,是独立的数据维度。得到的分析结果也解释了为什么球对称高斯的混合物-在许多流行的数据分析算法中被广泛使用-在使用平方欧几里德距离时代表非参数概率分布的最佳选择,结合预期误差最小化,最大熵/无偏性和线性成本缩放。EOS的性能进行了比较,一系列常用的工具合成的问题和部分错误标记的监督分类问题,从生物医学。
2021-12-22 cs.AI cs.LG stat.ME
Robust Manifold Nonnegative Tucker Factorization for Tensor Data Representation
Northwestern Polytechnical University(西北工业大学)
非负Tucker因子分解(NTF)最小化原始数据与其低秩近似之间的欧氏距离或Kullback-Leibler散度,而这种低秩近似经常遭受严重的破坏或离群值,并且忽略了数据的流形结构。特别是,NTF遭受旋转模糊性,其解决方案与旋转变换和不旋转变换是同样的意义上产生的最大似然。在本文中,我们提出了三个鲁棒流形NTF算法处理离群值,结合结构知识的离群值。他们首先应用半二次优化算法将问题转化为一般的加权NTF,其中权重受离群值的影响。然后,我们引入了相关熵诱导度量,Huber函数和Cauchy函数的权重,分别处理野值。最后,我们引入了流形正则化来克服NTF的旋转模糊性。我们已经比较了所提出的方法与一些代表性的参考文献,涵盖了各种现实世界的图像数据库上的NTF的主要分支。实验结果表明,该方法的有效性下的两个评价指标(准确性和nmi)。
2022-11-08 cs.AI cs.LG
A Unified Neural Network Approach for Estimating Travel Time and Distance for a Taxi Trip
Wayne State University(韦恩州立大学);DiDi Research America(滴滴美国研究院);DiDi Research(滴滴研究院)
在构建出租车或拼车服务等智能交通系统时,准确预测出行时间和距离对于客户体验和资源管理至关重要。使用纽约出租车数据集,其中包含从支持GPS的出租车收集的出租车行程数据[23],本文研究了使用深度神经网络来联合预测出租车行程时间和距离。我们提出了一个模型,称为ST-NN(时空神经网络),它首先预测的起点和目的地的GPS坐标之间的旅行距离,然后将此预测与一天中的时间预测旅行时间。ST-NN的美妙之处在于它只使用原始行程数据,而不需要进一步的特征工程,并提供旅行时间和距离的联合估计。我们比较了ST-NN的性能,国家的最先进的旅行时间估计方法,我们观察到,所提出的方法比国家的最先进的方法更好地推广。我们表明,ST-NN方法显着降低了平均绝对误差预测行程时间和距离,约17%的行程时间预测。我们还观察到,所提出的方法是更强大的离群值存在于数据集通过测试的性能的ST-NN的数据集和没有离群值。
2017-10-12 cs.LG stat.ML
Clustered Hierarchical Anomaly and Outlier Detection Algorithms
University of Rhode Island(罗德岛大学)
异常和离群点检测是机器学习中一个长期存在的问题。在某些情况下,异常检测很容易,例如当数据来自高斯分布等特征良好的分布时。然而,当数据占据高维空间时,异常检测变得更加困难。我们提出了CLAM(近似流形的重复学习),在任何度量空间中的流形映射技术。CLAM开始于一个快速的层次聚类技术,然后根据使用几个几何和拓扑特征选择的重叠聚类,从聚类树中归纳出一个图。使用这些图,我们实现了CHAODA(分层异常和离群点检测算法),探索图及其组成聚类的各种属性,以发现离群点。CHAODA采用了一种基于数据集训练集的迁移学习形式,并将此知识应用于不同基数、维度和域的数据集的单独测试集。在24个公开可用的数据集上,我们将CHAODA(通过ROC AUC测量)与各种最先进的无监督异常检测算法进行了比较。其中六个数据集用于训练。在剩下的18个数据集中,CHAODA在16个数据集上的表现优于其他方法。CLAM和CHAODA可扩展到大的、高维的“大数据”异常检测问题,并在数据集和距离函数之间进行推广。CLAM和CHAODA的源代码可以在GitHub上免费获得,网址是https://github.com/URI-ABD/clam。
2021-11-21 cs.LG stat.ML