OffQ: Taming Structured Outliers in LLM Quantization by Offsetting
School of Computer and Communication Sciences, EPFL, Switzerland（瑞士联邦理工学院计算机与通信科学学院）；Huawei, Switzerland（华为公司）；Swiss Data Science Center, ETHZ & EPFL, Switzerland（瑞士数据科学中心，苏黎世联邦理工学院与联邦理工学院）
提出OffQ方法，通过top-1 PCA识别异常值子空间、旋转集中异常值通道并转换为共享偏移，实现LLM的低比特均匀量化，在W4A4KV4下提升精度。
2026-06-05 cs.AI cs.CL cs.LG
From 2:4 to 8:16 sparsity patterns in LLMs for Outliers and Weights with Variance Correction
Moscow Independent Research Institute of Artificial Intelligence（莫斯科独立人工智能研究 institute）；MIL Team（MIL 团队）；MWS AI（MWS 人工智能）；Applied AI（应用人工智能）
本文研究了8:16半结构化稀疏模式在LLM中的应用，通过方差校正和权重平等化技术提升稀疏模型性能，展示其在压缩与精度间的平衡优势。
2026-04-18 cs.AI cs.LG
An empirical comparison of some outlier detection methods with longitudinal data
Italian National Institute of Statistics – Istat（意大利国家统计研究所）
本研究针对纵向数据异常值检测问题，对比官方统计传统方法与数据挖掘、机器学习领域的相关方法，通过面板调查数据实验验证了后者灵活性更强、可处理多维数据且部分场景效果更优。
2025-07-28 cs.LG stat.AP stat.ME
Outlier Detection in Plantar Pressure: Human-Centered Comparison of Statistical Parametric Mapping and Explainable Machine Learning
University of Kaiserslautern-Landau (RPTU)（凯泽斯劳滕-兰道工业大学）；DIERS International GmbH（DIERS国际有限公司）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
研究面向足底压力数据质量控制，比较SPM与SHAP解释的CNN异常值检测方法，证明可解释ML性能更优且二者具有互补价值。
2025-09-29 cs.AI cs.LG
A review on outlier/anomaly detection in time series data
Ikerlan Technology Research Centre（伊克兰技术研究中心）；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））；Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心（BCAM））
最近的技术进步为数据汇集带来了重大突破，使大量数据能够随着时间的推移而收集，从而生成时间序列。在过去的几年里，挖掘这些数据已经成为研究人员和从业人员的一项重要任务，包括检测可能代表错误或感兴趣事件的离群值或异常。本文旨在提供一个结构化的和全面的国家的最先进的离群检测技术的背景下，时间序列。为此，提出了一个分类的基础上的主要方面，特征的离群值检测技术。
2020-02-11 cs.LG stat.ML
Comparative Study of Neighbor-based Methods for Local Outlier Detection
School of Software, Shandong University（山东大学软件学院）；School of Mathematics and Computer, Shantou University（汕头大学数学与计算机学院）；School of Chemistry and Life Sciences, Suzhou University of Science and Technology（苏州科技大学化学与生命科学学院）
本文针对局部离群点检测，提出基于信息、邻居和方法论三层级组件的分类法，通过大量对比实验验证了基于反向K近邻方法及动态选择方法的优势，并证明合理组合组件可优于现有算法。
2024-05-29 cs.LG
Three Revisits to Node-Level Graph Anomaly Detection: Outliers, Message Passing and Hyperbolic Neural Networks
Duke Kunshan University（昆山杜克大学）
该研究从离群点注入、消息传递影响、双曲神经网络应用三方面重新审视无监督节点级图异常检测，发现消息传递会导致性能下降，明确了双曲网络的关键设计，为该领域方法优化提供了通用策略。
2024-03-06 cs.LG
A geometric framework for outlier detection in high-dimensional data
Ludwig Maximilians University Munich（慕尼黑路德维希-马克西米利安大学）
异常检测是数据分析中的一项重要任务。我们讨论的问题，从几何的角度来看，并提供了一个框架，利用数据集的度量结构。我们的方法基于多方面的假设，即，观察到的名义上高维的数据位于低得多的维数流形上，并且可以用流形学习方法来推断这种内在结构。我们表明，利用这种结构显着提高了高维数据中离群观测的检测。我们还提出了一种新的，数学上精确的，广泛适用的分布和结构离群值之间的区别的基础上的几何形状和拓扑结构的数据流形，澄清了概念上的模糊性普遍存在于整个文献。我们的实验集中在功能数据作为一类结构化的高维数据，但我们提出的框架是完全通用的，我们包括图像和图形数据的应用程序。我们的研究结果表明，高维和非表格数据的离群结构可以检测和可视化使用流形学习方法和量化使用标准离群评分方法应用于流形嵌入向量。
2022-07-29 cs.LG stat.ML
Anomaly-Injected Deep Support Vector Data Description for Text Outlier Detection
Tencent America（腾讯美国）；University of Utah（犹他大学）
异常检测或离群点检测是各个领域的常见任务，近年来吸引了大量的研究工作。现有的工作主要集中在结构化的数据，如数值或分类数据，而非结构化的文本数据的异常检测很少关注。在这项工作中，我们针对文本异常检测问题，并提出了一个深度异常注入支持向量数据描述（AI-SVDD）框架。AI-SVDD不仅学习了数据超球体的更紧凑的表示，而且还采用了少量的已知异常来提高区分能力。为了处理文本输入，我们采用多层感知器（MLP）网络结合BERT，以获得丰富的文本表示。我们在三个多数据集的文本异常检测应用程序上进行实验。实验结果表明，所提出的AI-SVDD是有前途的，优于现有的工作。
2021-10-27 cs.CL cs.LG
Detecting Point Outliers Using Prune-based Outlier Factor (PLOF)
University of Nottingham Malaysia（诺丁汉大学马来西亚校区）
离群值检测（也称为异常检测或偏差检测）是检测数据点的过程，其中它们的模式与其他数据点显著偏离。在工业应用中，异常值是很常见的，这可能是由不同的原因产生的，例如人为错误，欺诈活动或系统故障。最近，基于密度的方法已经显示出有希望的结果，特别是其中局部离群因子（LOF）可以说是占主导地位。然而，LOF的一个主要缺点是它在计算上昂贵。基于上述问题，本研究提出了一种新的基于剪枝的LOF算法，在保持性能的同时减少了LOF算法的执行时间。提出了一种新的基于剪枝的局部离群因子（PLOF）方法，在使用LOF之前，测量每个数据实例的离群度。接下来，基于阈值，需要进一步调查的数据实例被分离，并且仅为这些点计算LOF分数。已经进行了大量的实验，结果是有希望的。与原始LOF和两种最先进的LOF变体的比较实验表明，PLOF在减少执行时间的同时产生更高的准确度和精度。
2019-11-05 cs.LG stat.ML
Activation Outliers in Transformer Quantization: Reproduction, Statistical Analysis, and Deployment Tradeoffs
University of Colorado Denver（科罗拉多大学丹佛分校）
本文研究了Transformer量化中的结构化激活异常问题，通过实验发现量化导致精度大幅下降，并提出混合精度和按嵌入组量化等缓解方法，强调通道意识精度分配的重要性。
2026-03-04 cs.AI cs.LG
Mining In-distribution Attributes in Outliers for Out-of-distribution Detection
University of Electronic Science and Technology of China（电子科技大学）
本文发现OOD数据常含显著ID属性，提出结构化多视图MVOL框架合理利用而非抑制这些属性，理论验证有效性，实验证明优于现有方法。
2024-12-16 cs.LG stat.ML
Learning to Explore: Policy-Guided Outlier Synthesis for Graph Out-of-Distribution Detection
PGOS通过强化学习策略生成高质量伪OOD图，提升图分布外检测的鲁棒性与性能
2026-02-28 cs.AI cs.LG
XGBOD: Improving Supervised Outlier Detection with Unsupervised Representation Learning
University of Toronto（多伦多大学）；PricewaterhouseCoopers（普华永道）
提出了一种新的半监督集成算法XGBOD（Extreme梯度提升Outlier Detection），描述并演示了该算法在实际数据集上对正态观测数据中的离群点的增强检测。建议的框架结合了监督和无监督机器学习方法的优势，通过创建一个混合的方法，利用他们各自的性能能力在离群值检测。XGBOD使用多个无监督离群值挖掘算法从底层数据中提取有用的表示，以增强嵌入式监督分类器在改进的特征空间上的预测能力。新的方法相比，竞争的个人检测器，完整的合奏和两个现有的表示学习为基础的算法在七个离群数据集提供卓越的性能。
2019-12-01 cs.DB cs.IR cs.LG
Structured Sampling for Robust Euclidean Distance Geometry
University of Central Florida（中佛罗里达大学）；Tufts University（塔夫茨大学）
针对稀疏离群值干扰下基于距离测量的点位置估计问题，提出一种结合Nyström方法和鲁棒主成分分析的新算法，无需目标节点间距离测量，仅处理局部距离矩阵子集，在传感器定位等场景中实现高效鲁棒的位置估计。
2025-02-18 cs.IT cs.LG math.IT
Generating Artificial Outliers in the Absence of Genuine Ones -- a Survey
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
根据定义，离群值在现实中很少被观察到，因此难以检测或分析。人工异常值近似于这些真正的异常值，并且可以例如帮助检测真正的异常值或对异常值检测算法进行基准测试。该文献的特点是不同的方法来产生人为的离群值。然而，这些方法的系统比较仍然缺乏。本文对这些方法进行了调查和比较。我们首先澄清该领域的术语，这是不同的出版物，我们提出了一个一般的问题制定。我们对生成离群值与其他研究领域（如实验设计或生成模型）的联系的描述构成了人工离群值领域的框架。除了提供简洁的描述外，我们还根据它们的一般概念以及它们如何利用真正的实例对这些方法进行了分组。一个广泛的实验研究揭示了生成方法之间的差异时，最终被用于离群值检测。这项调查表明，现有的方法已经涵盖了广泛的概念，基本的一代，但该领域仍然有进一步发展的潜力。我们的实验研究证实了预期的质量的生成方法变化很大，例如，在数据集上，他们使用。最终，在特定的上下文中，我们提出了一个适当的一般决策过程，以指导选择的生成方法。总之，这项调查包括，描述和连接所有有关人工离群值生成的相关工作，并可作为指导该领域进一步研究的基础。
2020-06-05 cs.LG stat.ML
Leveraging the Christoffel Function for Outlier Detection in Data Streams
LAAS-CNRS（CNRS-拉夫桑塔研究所）；ANITI（ANITI研究所）；University of Toulouse（图卢兹大学）；CNRS（法国国家科学研究中心）；INSA（法国工业科学与技术学院）；Toulouse, France（法国图卢兹）
本文提出DyCF和DyCG两种基于Christoffel函数的数据流异常检测方法，分别利用该函数的逼近性质和增长性质，在无需或极少调参的情况下实现高效检测，并在合成与真实工业数据流上验证了其性能优势。
2025-08-13 cs.LG
Coherence Pursuit: Fast, Simple, and Robust Principal Component Analysis
University of Central Florida（中佛罗里达大学）
本文提出了一种非常简单，但功能强大，算法称为相干追踪（CoP）的强大的主成分分析（PCA）。由于内点位于低维子空间中并且大部分是相关的，因此内点可能与大量数据点具有强的互相关性。相比之下，离群值要么不承认低维结构，要么形成小集群。在这两种情况下，离群值不太可能与大量数据点有很强的相似性。考虑到这一点，CoP通过比较它们与其余数据点的一致性来将离群值与内点区分开来。通过形成归一化数据点的Gram矩阵来计算相互相干性。随后，从与其余数据表现出强相干性的数据点的子集的跨度中恢复所寻找的子空间。由于CoP仅涉及一个简单的矩阵乘法，因此它比最先进的鲁棒PCA算法快得多。我们得到分析性能保证CoP在不同的模型下的分布的内点和离群点在无噪声和噪声设置。CoP是第一个鲁棒的PCA算法，它同时是非迭代的，可证明对非结构化和结构化离群值都是鲁棒的，并且可以容忍大量的非结构化离群值。
2017-07-13 cs.LG stat.ML
LegoLM: Structured Weight Sharing for Large Language Models
LegoLM针对大语言模型全局权重共享的两种失效模式，提出三种无数据适配策略，在GPT-2 small和Mistral-7B上实现优于PTQ-8bit的压缩效果与精度，证实选择性替换是核心机制。
2026-08-11 cs.AI cs.LG
An Overview and a Benchmark of Active Learning for Outlier Detection with One-Class Classifiers
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
主动学习方法通过用户反馈提高分类质量。一个重要的子类别是主动学习，用于单类分类器的离群值检测。虽然存在这一类别中的各种方法，但很难为给定的应用场景选择一种方法。这是因为现有的方法依赖于不同的假设，具有不同的目标，并且通常针对特定的用例进行定制。所有这一切都需要进行全面的比较，这就是本文的主题。本文首先对各种方法进行分类。然后，我们提出了评估主动学习结果的方法。接下来，我们进行了广泛的实验，以比较现有的方法，用于各种各样的场景。基于我们的研究结果，我们制定了如何选择主动学习方法离群检测一类分类器的指导方针。
2019-05-14 cs.LG stat.ML
Detection of Thin Boundaries between Different Types of Anomalies in Outlier Detection using Enhanced Neural Networks
Islamic Azad University（伊斯兰阿扎德大学）；Institute for Advanced Studies in Basic Sciences（基础科学高级研究所）；Petanux GmbH（佩塔努克斯有限公司）
离群点检测在各个领域都受到了特别的关注，主要是那些处理机器学习和人工智能的领域。异常作为强异常，分为点异常、上下文异常和集体异常。异常值检测中最重要的挑战包括远程点和自然区域之间的薄边界、新数据和噪声模仿真实数据的趋势、未标记的数据集以及不同应用中异常值的不同定义。考虑到上述挑战，我们定义了新类型的异常，称为集合正态异常和集合点异常，以提高对不同类型异常之间的薄边界的更好检测。基本的领域独立的方法被引入到检测这些定义的异常在无监督和监督数据集。利用遗传算法对多层感知器神经网络进行了增强，以更高的精度检测新定义的异常，从而确保测试误差小于传统多层感知器神经网络的计算误差。在基准数据集上的实验结果表明，与基线相比，异常检测过程的错误减少。
2020-01-24 cs.LG cs.NE stat.ML
Outlier-aware Tensor Robust Principal Component Analysis with Self-guided Data Augmentation
School of Mathematics and Statistics, Hunan Normal University（湖南师范大学数学与统计学学院）；School of Statistics and Mathematics, Yunnan University of Finance and Economics（云南财经大学统计与数学学院）
提出自引导数据增强方法，通过自适应加权抑制离群值影响，将TRPCA问题转化为标准TPCA问题，并开发高效算法，在准确性和计算效率上优于现有方法。
2025-04-25 cs.CV cs.LG cs.NA
Robust Sparse Blind Source Separation
CEA（法国原子能和替代能源委员会）；IRFU（法国原子能委员会天体物理、粒子物理和核物理研究所）
盲源分离是一种广泛应用于多通道数据分析的技术。在许多实际应用中，其结果可能会受到未知离群值的严重影响。本文提出了一种新的鲁棒广义形态分量分析算法rGMCA（robust Generalized Morphological Component Analysis），用于在存在离群点的情况下提取稀疏源。它显式地估计源、混合矩阵和离群值。它还利用离群值的估计来进一步实现加权方案，这提供了高度鲁棒的分离过程。数值实验表明，与标准BSS技术相比，rGMCA估计混合矩阵的效率。
2016-04-25 cs.LG stat.AP stat.ML
Outlier Detection Using Nonconvex Penalized Regression
Florida State University（佛罗里达州立大学）；Stanford University（斯坦福大学）
本文从惩罚回归的角度研究了异常值检测问题。我们的回归模型为每个$n$数据点添加了一个均值漂移参数。然后，我们应用有利于稀疏向量的均值漂移参数的正则化。通常的$L_1$惩罚产生一个凸的标准，但我们发现，它不能提供一个强大的估计。$L_1$惩罚对应于软阈值。我们介绍了一个阈值（表示为$Θ$）为基础的离群值检测（$Θ$-IPOD）的迭代过程。基于硬阈值的版本正确识别一些硬测试问题的离群值。我们发现，$Θ$-IPOD比迭代重加权最小二乘大数据快得多，因为每次迭代的成本最多$O(np)$（有时少得多），避免了$O(np^2)$最小二乘估计。我们描述了$Θ$-IPOD和$M$-估计之间的连接。我们提出的方法有一个调整参数，既识别离群值和估计回归系数。可以基于BIC做出依赖于数据的选择。与其他现有方法相比，调整后的$Θ$-IPOD在识别各种情况下的离群值方面表现出出色的性能。如果系数向量和离群模式都是稀疏的，则该方法扩展到使用$p\gg n$的高维建模。
2011-10-17 cs.LG stat.CO stat.ME
A Multi-criteria Approach for Fast and Outlier-aware Representative Selection from Manifolds
University of Central Florida（中佛罗里达大学）
代表性选择的问题相当于从大型数据集中抽取少量信息样本。本文介绍了MOSAIC，一种新的代表性选择方法，从高维数据，可能表现出非线性结构。依靠一种新的二次公式，我们的方法提出了一种多标准选择方法，最大限度地提高了采样子集的全局表示能力，确保多样性，并通过有效地检测离群值拒绝破坏性信息。通过理论分析，我们所得到的草图的特点，并揭示了采样的代表最大限度地提高了一个定义良好的概念，数据覆盖在一个变换的空间。此外，我们提出了一个高度可扩展的随机实现所提出的算法，带来大幅加速。MOSAIC的优越性，同时表现出显着的鲁棒性，以各种离群值类型的代表性子集的所需的特性，通过大量的实验进行了证明真实的和合成数据与国家的最先进的算法比较。
2020-03-12 cs.LG eess.SP stat.ML
$β$-Cores: Robust Large-Scale Bayesian Data Summarization in the Presence of Outliers
University of Cambridge（剑桥大学）
现代机器学习应用程序应该能够解决在大规模真实世界数据集上进行推理所带来的内在挑战，包括可扩展性和对离群值的鲁棒性。尽管贝叶斯方法有许多优点（如不确定性感知预测，专家知识的结合和分层建模），但经典贝叶斯推理的质量关键取决于观察是否符合假设的数据生成模型，这在实践中是不可能保证的。在这项工作中，我们提出了一种变分推理方法，在原则上，可以同时扩展到大型数据集，并鲁棒化推断后验相对于观测数据中的离群值的存在。利用$β$ -散度对贝叶斯定理进行了改进，提出了一种鲁棒伪贝叶斯后验概率作为推理目标。此外，依赖于可扩展贝叶斯推理的黎曼核心集的最新配方，我们提出了一个稀疏变分近似的鲁棒后验和一个高效的随机黑箱算法来构建it. Overall我们的方法允许释放清洗的数据摘要，可以广泛应用于包括结构化数据损坏的场景。我们说明了我们的方法在不同的模拟和真实数据集，各种统计模型，包括高斯均值推断，逻辑和神经线性回归，证明其优越性，现有的贝叶斯摘要方法中存在离群值的适用性。
2020-11-09 cs.AI cs.LG stat.AP
Anomaly Detection in Beehives: An Algorithm Comparison
University of Würzburg（维尔茨堡大学）；Institute of Computer Science, Chair of Computer Science X, University of Würzburg（维尔茨堡大学计算机科学研究所计算机科学X教授）
装有传感器的蜂箱可以监测蜜蜂的生活条件。机器学习模型可以使用这些蜂巢的数据来学习行为模式并发现异常事件。由于经济原因，养蜂人特别感兴趣的一种类型的事件是蜜蜂群集。其他感兴趣的事件是来自疾病的行为异常和技术异常，例如传感器故障。养蜂人可以得到合适的机器学习模型的支持，这些模型可以检测这些事件。在本文中，我们比较了多个机器学习模型的异常检测和评估他们的适用性的背景下，蜂箱。即采用深度递归自编码器、椭圆包络、孤立森林、局部离群因子和单类支持向量机。通过对不同蜂巢和不同传感器设置的真实世界数据集的评估，我们发现相比之下，自动编码器是最好的多用途异常检测器。
2021-10-08 cs.LG
Automated Instruction Revision (AIR): A Structured Comparison of Task Adaptation Strategies for LLM
Eleks Ltd.（Eleks有限公司）；Ukrainian Catholic University（乌克兰天主教大学）
本文研究了基于规则归纳的自动化指令修订（AIR）方法，用于在有限任务特定示例下适应大语言模型。通过比较多种适应策略在不同基准测试中的表现，发现任务依赖性显著，无单一方法在所有情况下占优。
2026-04-10 cs.CL cs.LG
Alternate loss functions and regression models that achieve robustness to outliers by modulating the learning rate
organization= School of Electrical Engineering , addressline= Vellore Institute of Technology , city= Vellore , postcode= 632 014 , state= Tamil Nadu , country= India；organization= School of Computer Science；Engineering , addressline= Vellore Institute of Technology , city= Vellore , postcode= 632 014 , state= Tamil Nadu , country= India
针对训练数据中大量异常值导致均方误差损失性能下降的问题，提出两种无限可微的损失函数（平方根损失和平滑平均绝对误差损失），更接近平均绝对误差损失，在回归任务中表现更优。
2026-06-24 cs.AI cs.LG
Image-based Outlier Synthesis With Training Data
Department of Computer Science（计算机科学系）；Dartmouth College（达特茅斯学院）
针对OOD检测在细粒度、虚假关联场景下依赖外部数据的问题，本文提出无需外部数据的ASCOOD框架，从ID数据合成近流形虚拟异常值，在7个数据集上验证了其多场景下的检测优势。
2025-11-13 cs.CV cs.LG
A Robust AUC Maximization Framework with Simultaneous Outlier Detection and Feature Selection for Positive-Unlabeled Classification
University of Rochester（罗切斯特大学）；Baylor College of Medicine（贝勒医学院）；University of Texas Health Science Center at Houston（休斯顿德克萨斯大学健康科学中心）；University of Washington（华盛顿大学）
阳性-未标记（PU）分类是现实世界应用中的常见场景，例如医疗保健，文本分类和生物信息学，其中我们只观察到少数标记为“阳性”的样本以及大量可能包含阳性和阴性样本的“未标记”样本。针对PU问题构建鲁棒的分类器是非常具有挑战性的，特别是对于负样本压倒和错误标记样本或损坏特征存在的复杂数据。为了解决这三个问题，我们提出了一个强大的学习框架，统一AUC最大化（一个强大的指标，有偏见的标签），离群值检测（排除错误的标签），和特征选择（排除损坏的功能）。为所提出的模型提供了泛化误差界，该模型对该方法的理论性能提供了有价值的见解，并导致有用的实践指导，例如，为了训练模型，我们发现，只要样本大小与训练过程中的正样本数量相当，所包括的未标记样本就足够了。实证比较和手术部位感染（SSI）和EEG癫痫发作检测的两个现实世界的应用程序也进行了显示所提出的模型的有效性。
2018-03-18 cs.LG stat.ML
Magnitude Profile Pruning: Calibration-Free Structured Attention Head Removal for Transformer Compression
提出无校准的注意力头重要性评分方法MP及GQA变体MP-G，通过权重范数统计异常值检测剪枝，在多个模型上匹配或超越数据依赖方法，实现零成本结构化剪枝。
2026-09-23 cs.AI cs.CL cs.LG
PIKS: A Technique to Identify Actionable Trends for Policy-Makers Through Open Healthcare Data
Fairleigh Dickinson Univ.（菲尔莱狄更斯大学）；Clarkson University（克拉克森大学）
本文提出了一种名为PIKS的高效异常值检测技术，结合迭代k均值和剪枝搜索灯扫描，应用于公开医疗数据集，以较少参数实现与自编码器等一致的结果，助力政策制定者快速探索数据。
2023-04-05 cs.CY cs.LG
Weighted Scaling Approach for Metabolomics Data Analysis
Bangabandhu Sheikh Mujibur Rahman Science and Technology University（班加班杜·谢赫·穆吉布尔·拉赫曼科技大学）；Rajshahi University（拉杰沙希大学）；Tulane University（杜兰大学）
系统变异是代谢组学数据分析中的常见问题。因此，不同的缩放和归一化技术被用来预处理代谢组学数据分析的数据。尽管文献中有几种缩放方法，但是缩放、转换和/或归一化技术的选择影响进一步的统计分析。为下游分析选择合适的缩放技术以获得准确的结果或做出适当的决策是具有挑战性的。此外，现有的缩放技术是敏感的离群值或极端值。为了填补这一空白，我们的目标是引入一种稳健的缩放方法，该方法不受离群值的影响，并为下游分析提供更准确的结果。在这里，我们介绍了一种新的加权缩放方法，该方法对异常值具有鲁棒性，但是在数据预处理中不需要额外的异常值检测/处理步骤，并且还通过人工和真实的代谢组学数据集将其与传统的缩放和归一化技术进行了比较。我们评估了所提出的方法的性能相比，其他现有的传统的缩放技术，使用代谢组学数据分析的存在和不存在不同百分比的离群值。结果表明，在大多数情况下，所提出的缩放技术的表现优于传统的缩放方法在不存在和存在离群值。所提出的方法改进了进一步的下游代谢组学分析。所提出的鲁棒缩放方法的R函数可在https://github.com/nishithkumarpaul/robustScaling/blob/main/wscaling.R上获得
2022-08-01 cs.LG q-bio.QM stat.ML
Simplex-Structured Matrix Factorization: Sparsity-based Identifiability and Provably Correct Algorithms
Department of Mathematics and Operational Research（数学与运筹学系）；Faculté Polytechnique, Université de Mons（蒙斯大学理工学院）
在本文中，我们提供了新的算法与可识别性保证单纯形结构矩阵分解（SSMF），推广的非负矩阵分解。为SSMF提供可识别性结果的当前最先进的算法依赖于充分分散条件（SSC），其要求数据点在基向量的凸包内良好地分散。在大多数情况下，我们提出的算法恢复唯一分解的条件比SSC弱得多。我们只需要在维数为$d-1$的基向量的凸包的每个面上具有$d$点。关键思想是基于提取包含最大数量的点的小平面。我们说明了我们的方法对合成数据集和高光谱图像的有效性，表明它优于最先进的SSMF算法，因为它能够处理更高的噪声水平，秩亏矩阵，离群值和输入数据，高度违反SSC。
2020-07-22 cs.LG eess.IV eess.SP
Federated Learning for Clinical Structured Data: A Benchmark Comparison of Engineering and Statistical Approaches
Duke-NUS Medical School（杜克-新加坡国立大学医学院）；Duke University（杜克大学）；Institute of High Performance Computing, Agency for Science, Technology and Research（新加坡科技研究局高性能计算研究院）；Singapore Health Services（新加坡保健服务集团）；Singapore General Hospital（新加坡中央医院）；Imperial College London（帝国理工学院）；National University of Singapore（新加坡国立大学）
本研究针对工程类与统计类联邦学习（FL）认知不均的问题，首次通过模拟与真实临床数据对比5类FL框架，明确了统计法偏差小、可估置信区间，工程法预测更准的优劣，为二者融合应用提供依据。
2023-11-06 cs.AI cs.LG
Is the Statistical Advantage Worth the Cost? An Empirical Comparison of KANs and MLPs for Structured Data Classification
Institute of Computer Science, University of the Philippines Los Baños（菲律宾大学洛斯巴尼奥斯分校计算机科学研究所）；Machine Learning and Artificial Intelligence Applications Lab, University of the Philippines Los Baños（菲律宾大学洛斯巴尼奥斯分校机器学习与人工智能应用实验室）
该研究对KANs和MLPs在结构化表格分类任务上进行实证比较，在标准化设置下训练并评估性能。结果显示KANs在二元和多类领域统计上更优，但效应量表明其有更高复杂度。结论是KANs适用于高精度应用，MLPs对资源受限环境更合适，未来应扩展分析。
2026-07-16 cs.AI cs.LG
Entropy Minimizing Matrix Factorization
Northwestern Polytechnical University（西北工业大学）；Center for Optical Imagery Analysis and Learning (OPTIMAL)（光学影像分析与学习中心）
非负矩阵分解（NMF）是一种广泛使用的数据分析技术，并在许多现实世界的任务中产生了令人印象深刻的结果。现有的NMF方法通常用多个质心来表示每个样本，通过最小化逼近误差之和来寻找最优质心。然而，偏离正态分布的异常值可能具有较大的残差，从而严重地支配目标值。在这项研究中，一个熵最小化矩阵分解框架（EMMF）的开发，以解决上述问题。考虑到异常值通常远小于正态样本，建立了一种新的矩阵分解熵损失函数，使残差分布的熵最小化，并允许少数样本有较大的逼近误差。通过这种方式，离群值不会影响正态样本的近似。设计了EMMF的乘性更新规则，并从理论和实验上证明了其收敛性。此外，还提出了一种图正则化的EMMF（G-EMMF）来处理复杂的数据结构。在各种人工数据集和真实数据集上的聚类结果验证了所提模型的合理性，并通过与现有技术的比较验证了其有效性。
2021-03-24 cs.LG eess.IV
Does ISO-Grounded NFR Specification Improve LLM Code Generation? A Comparison of Rich and Structured Interventions against a Natural-Language Baseline
Centro de Informática, Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）
该研究对比了ISO标准下丰富自然语言、结构化JSON与单行基线三种NFR规范对LLM代码生成的影响，发现前者可提升代码静态质量，且语义内容比格式更重要。
2026-08-17 cs.AI cs.LG cs.SE
IllinoisSL: A JAVA Library for Structured Prediction
Microsoft Research New England（微软新英格兰研究院）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）；University of Utah（犹他大学）
IllinoisSL是一个用于学习结构化预测模型的Java库。它支持结构化支持向量机和结构化感知器。该库由一个核心学习模块和几个应用程序组成，可以从命令行执行。提供文档以指导用户。与其他结构化学习库相比，IllinoisSL具有高效、通用和易于使用的特点。
2015-09-23 cs.CL cs.LG stat.ML
Outlier detection of vital sign trajectories from COVID-19 patients
University of Manchester（曼彻斯特大学）；Christie NHS Foundation Trust（克里斯蒂NHS基金会信托）；University of Oxford（牛津大学）
提出一种基于动态时间规整距离的生命体征轨迹比较算法，通过180分钟非重叠时段的平均成对距离检测异常并聚类相似轨迹，在合成数据和8名COVID-19出院患者数据中验证了其识别恶化与再入院风险的能力。
2023-04-20 cs.HC cs.LG eess.SP
Suppressing Poisoning Attacks on Federated Learning for Medical Imaging
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
多个数据拥有实体之间的协作（例如，医院）可以加速训练过程并由于数据的可用性和多样性而产生更好的机器学习模型。然而，隐私问题使得在保持机密性的同时交换数据变得具有挑战性。联邦学习（FL）是一种很有前途的解决方案，它通过交换模型参数而不是原始数据来实现协作训练。然而，大多数现有的FL解决方案的工作假设下，参与的客户端是\emph{honest}，因此可能会失败，从恶意方的中毒攻击，其目标是恶化全球模型的性能。在这项工作中，我们提出了一个强大的聚合规则，称为基于距离的离群值抑制（DOS），是弹性拜占庭故障。该方法计算不同客户端的局部参数更新之间的距离，并使用基于Copula的离群值检测（COPOD）获得每个客户端的离群值得分。使用softmax函数将所得离群值分数转换为归一化权重，并使用局部参数的加权平均值更新全局模型。DOS聚合可以有效地抑制恶意客户端的参数更新，而不需要任何超参数选择，即使数据分布是异构的。两个医学成像数据集（CheXpert和HAM10000）的评估表明，与其他最先进的方法相比，DOS方法对各种中毒攻击具有更高的鲁棒性。代码可以在这里找到www.example.com。
2022-07-15 cs.CR cs.LG math.OC
A Dual Basis Approach for Structured Robust Euclidean Distance Geometry
Department of Statistics and Data Science University of Central Florida（统计与数据科学系 佛罗里达中央大学）；Department of Mathematics Tufts University（数学系 塔夫茨大学）；Department of Statistics and Data Science Department of Computer Science University of Central Florida（统计与数据科学系 计算机科学系 佛罗里达中央大学）
针对含异常值的部分观测EDM，提出基于非正交对偶基的RoDEoDB框架，实现点配置的精确恢复，并在传感器定位和分子构象任务中验证优越性。
2025-05-23 cs.IT cs.LG math.IT
