Counterfactual Explanations of Concept Drift
Bielefeld University(比勒费尔德大学)
概念漂移的概念是指观察到的数据的分布随时间变化的现象;因此,机器学习模型可能变得不准确,需要调整。虽然确实存在检测概念漂移或在存在观测漂移的情况下调整模型的方法,但迄今为止几乎没有考虑解释漂移的问题。这个问题是重要的,因为它使最突出的特点,漂移表现出来的检查;因此,它使人类理解的必要性变化,它增加了接受终身学习模式。在本文中,我们提出了一种新的技术,其特征的概念漂移的特征变化的空间特征所代表的典型例子的基础上反事实的解释。我们建立了一个正式的定义,这个问题,推导出一个有效的算法解决方案的基础上反事实的解释,并证明其有用的几个例子。
2020-06-23 cs.LG stat.ME stat.ML
Understanding Concept Drift
Monash University(莫纳什大学);University of Antwerp(安特卫普大学)
概念漂移是一个严重影响机器学习实际应用准确性和可靠性的主要问题。我们认为,要解决概念漂移,重要的是要发展的能力来描述和分析it.We为此目的提出了工具,主张在边际分布漂移的定量描述的重要性。我们提出了定量漂移分析技术以及交流其结果的方法。我们证明了它们的有效性,应用到三个现实世界的学习任务。
2017-04-02 cs.LG
Does Explainability Survive Data Drift?
本文研究数据漂移下解释保真度是否衰减,发现协变量漂移存在但概念漂移不显著,旧解释不如新解释忠实,需单独监控解释保真度。
2026-10-06 cs.AI cs.LG
A Systematic Study of Online Class Imbalance Learning with Concept Drift
The University of Birmingham(伯明翰大学);University of Leicester(莱斯特大学)
作为一个新兴的研究课题,在线班级不平衡学习往往结合了班级不平衡和概念漂移的挑战。它处理具有非常偏斜的类分布的数据流,其中可能发生概念漂移。它最近得到了越来越多的研究关注,但是,很少有工作解决的组合问题,类不平衡和概念漂移共存。作为第一个系统的研究处理类不平衡数据流中的概念漂移,本文首先提供了一个全面的回顾,目前在该领域的研究进展,包括当前的研究热点和开放的挑战。然后,进行了深入的实验研究,目的是了解如何最好地克服概念漂移的在线学习类不平衡。在此基础上,提出了一个有效的算法开发的一般准则。
2017-03-20 cs.LG
Feature Relevance Analysis to Explain Concept Drift -- A Case Study in Human Activity Recognition
University of Oulu(奥卢大学)
本文研究如何发现和解释概念漂移。人类活动识别被用作一个案例研究,连同一个在线批量学习的情况下,在模型更新过程中使用的标签的质量开始下降。漂移检测基于识别漂移模型与已知准确的模型之间具有最大相关性差异的一组特征,并监视这些特征的相关性如何随时间变化。作为本文的主要结果,它表明,特征相关性分析不仅可以用来检测概念漂移,但也可以解释漂移的原因时,有限数量的典型原因的概念漂移是预定义的。为了解释概念漂移的原因,研究了这些预定义的原因对特征相关性的影响。事实上,它表明,这些都有一个独特的影响功能的相关性,这些可以用来解释概念漂移的原因。
2023-01-20 cs.LG
Federated Learning under Distributed Concept Drift
Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院);Apple(苹果公司)
分布式概念漂移下的联邦学习是一个尚未被探索的领域。虽然概念漂移本身是一个很好的研究现象,它提出了特殊的挑战,外语,因为漂移出现交错的时间和空间(跨客户端)。据我们所知,这项工作是第一个明确研究数据异质性的两个维度。我们首先证明,以前的解决方案,漂移适应,使用一个单一的全球模型是不适合交错漂移,需要多个模型的解决方案。我们确定的漂移自适应问题作为一个随时间变化的聚类问题,我们提出了两个新的聚类算法的反应漂移的基础上本地漂移检测和层次聚类。实证评估表明,我们的解决方案实现了显着更高的准确性比现有的基线,并与理想化的算法与甲骨文知识的地面真理聚类的客户端的概念,在每个时间步。
2023-02-28 cs.LG
MORPH: Towards Automated Concept Drift Adaptation for Malware Detection
Rochester Institute of Technology(罗切斯特理工学院)
针对恶意软件检测中的概念漂移问题,提出面向神经网络的伪标签自训练方法 MORPH,并在 Android 与 Windows 数据集上验证其可减少标注并显著提升适应效果。
2024-01-23 cs.LG
DriftGAN: Using historical data for Unsupervised Recurring Drift Detection
University of Passau(帕绍大学)
针对实际场景中反复出现的概念漂移问题,提出基于GAN的无监督DriftGAN方法,可检测漂移并识别其是否出现过,减少模型恢复时间与数据量,在多数数据集及天体物理实际用例中性能优于现有方法。
2024-07-09 cs.LG
Tackling Time-Series Forecasting Generalization via Mitigating Concept Drift
Georgia Institute of Technology(佐治亚理工学院)
本文提出ShifTS框架,通过统一处理时间序列中的时间漂移和概念漂移,提升预测准确性。
2026-03-25 cs.LG
Class Distribution Monitoring for Concept Drift Detection
Politecnico di Milano(米兰理工大学)
我们介绍类分布监测(CDM),一个有效的概念漂移检测计划,监测类条件分布的数据流。特别是,我们的解决方案利用了基于QuantTree的在线和非参数变化检测算法的多个实例。CDM在检测到任何类别中的分布变化之后报告概念漂移,从而识别哪些类别受到概念漂移的影响。这可能是诊断和适应的宝贵信息。我们对合成数据流和真实数据流的实验表明,当概念漂移影响少数几个类时,CDM优于监控整体数据分布的算法,而当漂移影响所有类时,CDM实现了类似的检测延迟。此外,CDM优于监测分类误差的可比方法,特别是当变化不是很明显时。最后,我们证明了CDM继承了底层变化检测器的属性,从而有效地控制了误报前的预期时间或平均运行长度(ARL $_0$)。
2022-10-16 cs.LG
Proceedings of the IJCAI 2017 Workshop on Learning in the Presence of Class Imbalance and Concept Drift (LPCICD'17)
随着机器学习算法在现实世界中的广泛应用,类不平衡和概念漂移已经成为关键的学习问题。当数据类别没有被平等地表示时,就会发生类不平衡,即,与其他类别相比,至少有一个类别属于少数群体。它会导致学习偏向多数类和泛化能力差。概念漂移是问题的潜在分布的变化,特别是在从数据流中学习时是一个重要的问题。它要求学习者能够适应动态变化。类别不平衡和概念漂移会严重阻碍预测性能,当它们同时发生时,问题变得特别具有挑战性。这一挑战的产生是因为一个问题可能影响到对另一个问题的处理。例如,基于传统分类误差的漂移检测算法可能对不平衡程度敏感并且变得不太有效;并且类别不平衡技术需要适应变化的不平衡率,否则接收优先处理的类别可能不是当前时刻正确的少数类别。因此,在算法设计时,应考虑类不平衡和概念漂移的相互影响。本次研讨会的目的是汇集来自班级不平衡学习和概念漂移领域的研究人员,以鼓励讨论和新的合作,解决班级不平衡和概念漂移的综合问题。它为国际研究人员和从业者提供了一个论坛,分享和讨论他们的原创作品,以解决班级不平衡学习,概念漂移以及班级不平衡和概念漂移的综合问题中的新挑战和研究问题。会议记录包括关于这些主题的8篇论文。
2017-07-28 cs.LG
Detecting Concept Drift in the Presence of Sparsity -- A Case Study of Automated Change Risk Assessment System
Walmart Global Tech(沃尔玛全球技术)
缺失值在文献中被广泛称为\textit{sparsity},是许多真实世界数据集的共同特征。许多填补方法已经提出来解决这个问题的数据不完整或稀疏。然而,对于数据集中的给定特征或一组特征的数据填补方法的准确性高度依赖于特征值的分布及其与其他特征的相关性。困扰机器学习(ML)解决方案的行业部署的另一个问题是概念漂移检测,这在存在缺失值的情况下变得更具挑战性。虽然数据填补和概念漂移检测已经被广泛研究,但很少有工作尝试对这两种现象进行联合研究,即,在稀疏性存在下的概念漂移检测。在这项工作中,我们进行了以下系统的研究:(i)不同模式的缺失值,(ii)各种统计和ML为基础的数据填补方法不同种类的稀疏性,(iii)几种概念漂移检测方法,(iv)实际分析的各种漂移检测指标,(v)选择最佳的概念漂移检测器给定的数据集与缺失值的基础上的不同的度量。我们首先在合成数据和公开数据集上进行分析,最后将结果扩展到我们部署的自动变更风险评估系统解决方案中。我们的实证研究的主要发现之一是,在所有相关指标中,任何一种概念漂移检测方法都没有至高无上的地位。因此,我们采用基于多数投票的概念漂移检测器的合奏突然和逐渐的概念漂移。我们的实验表明,最佳或接近最佳的性能可以实现这种集成方法在所有的指标。
2022-07-27 cs.LG
A Remark on Concept Drift for Dependent Data
Bielefeld University(比勒费尔德大学)
针对现有流数据概念漂移研究多假设数据独立、不适用于依赖数据的问题,本文指出时间依赖性会影响采样过程,修正相关定义并提出替代方案,经数值实验验证其可描述可观测学习行为。
2023-12-15 cs.LG
On the Change of Decision Boundaries and Loss in Learning with Concept Drift
Bielefeld University(比勒费尔德大学)
概念漂移的概念是指产生观测数据的分布随时间变化的现象。如果存在漂移,则机器学习模型可能变得不准确并且需要调整。许多漂移学习技术依赖于交织测试训练误差(ITTE)作为近似模型泛化误差并触发漂移检测和模型更新的量。在这项工作中,我们调查在多大程度上这一过程是数学上合理的。更确切地说,我们将ITTE的变化与真实漂移的存在相关联,即,一个改变后验,并在最优假设下的训练结果的变化。我们通过几种学习算法、模型和数据集的经验证据来支持我们的理论发现。
2022-12-02 cs.LG
FedDAA: Dynamic Client Clustering for Concept Drift Adaptation in Federated Learning
针对联邦学习中多源概念漂移导致灾难性遗忘的问题,提出动态聚类框架 FedDAA,通过聚类数量确定、真实漂移检测与概念漂移适应三个模块区分并适应不同漂移源,有效保留历史知识,在多个数据集上显著提升准确率。
2025-06-26 cs.LG
Analyzing Flight Delay Prediction Under Concept Drift
CEFET/RJ(里约热内卢联邦教育科学与技术中心);LNCC(国家计算科学实验室)
航班延误给任何航班运输系统带来了挑战。预测它们何时发生是缓解这一问题的重要方法。然而,航班延误系统的行为随时间而变化。这种现象在预测分析中被称为概念漂移。本文研究了不同尺度下(从与单个机场或整个飞行系统相关的航班训练的模型)航空中不同漂移处理策略的预测性能。具体而言,提出并回答了两个研究问题:(i)漂移处理策略如何影响延迟的预测性能?(ii)不同的尺度是否会改变漂移处理策略的结果?在我们的分析中,漂移处理策略是相关的,其影响根据所使用的规模和机器学习模型而有所不同。
2021-04-05 cs.LG
Classifier Clustering and Feature Alignment for Federated Learning under Distributed Concept Drift
Beijing Institute of Technology(北京理工大学)
针对数据异构与分布式概念漂移问题,本文提出 FedCCFA 框架,通过类别级分类器聚类、特征锚点生成及基于标签熵的自适应特征对齐提升联邦学习性能。
2024-10-24 cs.LG
The Window Dilemma: Why Concept Drift Detection is Ill-Posed
Utrecht University(乌得勒支大学)
本文指出概念漂移检测存在根本性问题,因漂移感知源于窗口化而非数据生成过程,且实际验证漂移事件不可行,传统批量学习方法表现更优。
2026-02-06 cs.LG
How good is the Electricity benchmark for evaluating concept drift adaptation
Bournemouth University(伯恩茅斯大学)
在这封信中,我们将指出自相关数据上测试自适应分类器的问题。在这种情况下,随机变化警报可能会提高准确性数字。因此,我们无法确定适应是否有效。
2013-01-15 cs.LG
Switching Scheme: A Novel Approach for Handling Incremental Concept Drift in Real-World Data Sets
KIT(卡尔斯鲁厄理工学院)
机器学习模型如今在商业和工业中的许多应用中发挥着至关重要的作用。然而,模型只有在部署到生产环境中时才开始增加价值。部署模型的一个挑战是随着时间的推移而改变数据的影响,这通常用术语概念漂移来描述。由于其性质,概念漂移会严重影响机器学习系统的预测性能。在这项工作中,我们分析了在现实世界的数据集的背景下的概念漂移的影响。为了有效的概念漂移处理,我们引入了切换方案,它结合了重新训练和更新的机器学习模型的两个原则。此外,我们系统地分析了现有的定期适应以及触发适应策略。切换方案是在纽约市出租车数据上实例化的,这在很大程度上受到随时间变化的需求模式的影响。我们可以证明,切换方案优于所有其他基线,并提供有前途的预测结果。
2020-11-05 cs.LG
Concept Drift Adaptation by Exploiting Historical Knowledge
University of Science and Technology of China(中国科学技术大学);Shenzhen University(深圳大学);The University of Birmingham(伯明翰大学)
具有概念漂移的增量学习通常通过集成方法来解决,其中过去内置的的模型可以重新训练以获得当前数据的新模型。在开发用于具有概念漂移的增量学习的集成方法时需要解决两个设计问题,即,其中历史的(即,先前训练的)模型以及如何利用它们。提出了一种新的集成学习方法,即基于多样性和迁移的集成学习(DTEL)。给定新到达的数据,DTEL使用每个保存的历史模型作为初始模型,并通过迁移学习用新数据进一步训练它。此外,DTEL保留了一组不同的历史模型,而不是一组仅在分类准确性方面准确的历史模型。对15个合成数据流和4个真实数据流(均存在概念漂移)的实验研究表明,DTEL方法比其他4种方法更能有效地处理概念漂移。
2017-02-12 cs.LG
Advances on Concept Drift Detection in Regression Tasks using Social Networks Theory
Pontifícia Universidade Católica do Paraná(巴拉那天主教大学)
本文改进基于社交网络理论的动态回归集成方法 SFNR,并利用 ADWIN 检测概念漂移,在真实与合成数据上提升了漂移场景下的准确率。
2023-04-19 cs.LG
Early Concept Drift Detection via Prediction Uncertainty
Australian Artificial Intelligence Institute (AAII)(澳大利亚人工智能研究所(AAII));University of Technology Sydney(悉尼科技大学)
本文提出基于预测不确定性的PU-index及其检测器PUDD,用于在错误率不变时早期检测概念漂移,理论证明其敏感性,并在合成和真实数据上验证有效性。
2024-12-15 cs.LG
Unsupervised Concept Drift Detection based on Parallel Activations of Neural Network
Wrocław University of Science and Technology(弗罗茨瓦夫理工大学)
针对真实数据流中标签获取困难的概念漂移检测问题,提出一种利用未训练神经网络输出的无监督Parallel Activations Drift Detector,实验证明其具备与最先进方法相当的竞争力。
2024-10-01 cs.LG
Unveiling Group-Specific Distributed Concept Drift: A Fairness Imperative in Federated Learning
CISUC/LASI - Centre for Informatics and Systems of the University of Coimbra, Department of Informatics Engineering, University of Coimbra(科瓦姆布拉大学信息与系统中心/实验室,信息工程系,科瓦姆布拉大学);INESC TEC and the Faculty of Economy, University of Porto(INESC TEC和波尔图大学经济学院);Institute of Systems and Robotics, Department of Electrical and Computer Engineering, University of Coimbra(系统与机器人研究所,电子与计算机工程系,科瓦姆布拉大学)
本研究首次提出并形式化了联邦学习中的特定群体分布式概念漂移问题,通过改编多模型分布式漂移适应算法来应对该挑战,实验证明解决此问题对推进机器学习公平性至关重要。
2025-09-12 cs.LG
One or Two Things We know about Concept Drift -- A Survey on Monitoring Evolving Environments
Bielefeld University - Cognitive Interaction Technology (CITEC)(比勒费尔德大学 - 认知交互技术研究所(CITEC))
本文综述了无监督数据流中的概念漂移检测与定位研究,提供了问题分类法、数学定义及标准化实验比较,并探讨了漂移解释的新兴主题。
2023-10-24 cs.LG
Concept Drift Visualization of SVM with Shifting Window
Transilvania University of Braşov(布拉索夫特兰西瓦尼亚大学);FotoNation SRL - Tobii AB;Central Washington University(中华盛顿大学)
针对机器学习中概念漂移的可视化需求,提出基于平行坐标的时间平行直方图模型,结合带滑动窗口的增量/减量SVM,可检测并描绘概念漂移以解释模型决策。
2024-06-19 cs.LG
Suitability of Different Metric Choices for Concept Drift Detection
Bielefeld University(比勒费尔德大学)
概念漂移的概念是指观察到的数据的分布随时间变化的现象;因此,机器学习模型可能变得不准确,需要调整。许多漂移检测的无监督方法依赖于测量两个时间窗口的样本分布之间的差异。这可以在一些预处理(特征提取、嵌入到潜在空间中等)之后直接完成,或者关于推断的特征(均值、方差、条件概率等)。大多数漂移检测方法可以区分在他们使用什么度量,如何估计这个度量,以及如何决策thresholds. In本文中,我们分析了在不同的度量的上下文中的漂移引起的信号的结构特性。我们比较不同类型的估计和度量理论和经验,并调查的相关性的单一度量组件。此外,我们提出了新的选择,并在几个实验中证明其适用性。
2022-02-19 cs.LG
Learning under Concept Drift: A Review
概念漂移描述了流数据的底层分布随时间的不可预见的变化。概念漂移研究涉及漂移检测、理解和适应的方法和技术的发展。数据分析表明,如果不解决概念漂移问题,那么概念漂移环境中的机器学习将导致较差的学习结果。为了帮助研究人员确定哪些研究主题是重要的,以及如何在数据分析任务中应用相关技术,有必要对概念漂移领域的当前研究进展和趋势进行高质量,有指导意义的回顾。此外,由于近年来概念漂移的快速发展,概念漂移下的学习方法已经变得非常系统,揭示了一个在文献中没有提到的框架。本文回顾了130多篇概念漂移相关研究的文献,分析了概念漂移研究方法和技术的最新进展,建立了概念漂移下的学习框架,包括概念漂移检测、概念漂移理解和概念漂移适应三个主要部分。本文列出并讨论了10个流行的合成数据集和14个公开可用的基准数据集,用于评估针对处理概念漂移的学习算法的性能。此外,概念漂移相关的研究方向涵盖和讨论。通过提供最先进的知识,这项调查将直接支持研究人员在他们的理解在概念漂移下的学习领域的研究进展。
2020-04-13 cs.LG stat.ML
Beyond Attribution: Unified Concept-Level Explanations
School of Computer Science, Peking University, Beijing 100871, China(北京大学计算机科学学院);Key Lab of High Confidence Software Technologies (Peking University), Ministry of Education(高可信软件技术重点实验室(北京大学))
UNCLE框架通过扩展局部模型无关方法,提供统一的概念层面解释,提升解释的忠实度和多样性。
2026-02-26 cs.LG
Investigating the Suitability of Concept Drift Detection for Detecting Leakages in Water Distribution Networks
Bielefeld University(比勒费尔德大学)
本研究探讨了基于模型损失和分布的漂移检测方法在供水管网泄漏检测中的适用性,并提出了应对时间依赖性的方案及一种基于漂移检测的泄漏定位技术。
2024-01-03 cs.LG
Fingerprinting Concepts in Data Streams with Supervised and Unsupervised Meta-Information
FiCSUM通过动态加权策略利用多种元信息特征,有效识别概念漂移,优于现有方法。
2026-03-11 cs.LG
Time to Retrain? Detecting Concept Drifts in Machine Learning Systems
Concordia University(康科德大学)
针对机器学习系统因概念漂移导致性能下降的问题,本文提出模型无关的CDSeer检测方法,在减少99%标注下精确率提升57.1%,性能媲美全监督方法。
2025-08-03 cs.LG
Concept Drift Detection from Multi-Class Imbalanced Data Streams
Virginia Commonwealth University(弗吉尼亚联邦大学)
从数据流中进行持续学习是当代机器学习中最重要的主题之一。该领域最大的挑战之一在于创建能够不断适应到达数据的算法。然而,以前学到的知识可能会过时,因为流随着时间的推移而演变。这种现象被称为概念漂移,并且必须被检测以促进学习模型的有效适应。虽然存在过多的漂移检测器,但它们都假设我们处理的是大致平衡的类。在不平衡数据流的情况下,这些检测器将偏向于大多数类,忽略少数类中发生的变化。此外,阶级不平衡可能会随着时间的推移而演变,阶级可能会改变他们的角色(多数人成为少数人,反之亦然)。这在多类环境中尤其具有挑战性,其中类之间的关系变得复杂。在本文中,我们提出了一个详细的分类多类不平衡数据流中的概念漂移所带来的挑战,以及一种新的可训练的概念漂移检测器的基础上限制玻尔兹曼机。它能够一次监控多个类,并使用重建误差来独立地检测每个类的变化。我们的检测器利用一个偏斜不敏感的损失函数,使其能够处理多个不平衡的分布。由于其可训练的性质,它能够跟踪流中的变化和不断变化的班级角色,并且可以处理少数班级中发生的局部概念漂移。对多类漂移数据流进行了广泛的实验研究,详细分析了局部漂移和变化的不平衡比率的影响,证实了我们的方法的高效率。
2021-04-20 cs.LG
An Axiomatic Approach to Model-Agnostic Concept Explanations
Carnegie Mellon University(卡内基梅隆大学);Bosch Center for AI(博世人工智能中心)
本文提出一种满足线性性、递归性和相似性三条公理的模型无关概念解释方法,并展示了其在模型选择、优化器选择及零样本视觉语言模型改进中的效用。
2024-01-12 cs.LG
When Should a Model Change Its Mind? An Energy-Based Theory and Regularizer for Concept Drift in Electrocardiogram (ECG) Signals
Department of Computer Science, Morgan State University(计算机科学系,莫根州立大学)
本研究提出Physiologic Energy Conservation Theory (PECT)和Energy-Constrained Representation Learning (ECRL),用于在ECG信号中稳定概念,通过能量守恒原理减少误判和漂移。
2026-02-27 cs.LG
Concept drift detection and adaptation for federated and continual learning
Universidade da Coruña(拉科鲁尼亚大学);Universidade de Santiago de Compostela(圣地亚哥德孔波斯特拉大学)
智能设备(如智能手机、可穿戴设备、机器人等)可以从其环境中收集大量数据。这些数据适用于训练机器学习模型,可以显著改善其行为,从而改善用户体验。联邦学习是一个年轻而流行的框架,它允许多个分布式设备协同训练深度学习模型,同时保护数据隐私。然而,这种方法可能不是最佳的情况下,数据分布是不相同的参与者或随着时间的推移而变化,导致所谓的概念漂移。虽然在这方面的研究还很少,但这种情况在现实生活中非常常见,并对持续学习和联邦学习提出了新的挑战。因此,在这项工作中,我们提出了一种新的方法,称为概念漂移感知联邦平均(CDA-FedAvg)。我们的建议是最流行的联邦算法,联邦平均(FedAvg)的扩展,增强其持续适应下的概念漂移。我们经验证明常规FedAvg的弱点,并证明CDA-FedAvg在这种情况下优于它。
2021-07-15 cs.LG
METER: A Dynamic Concept Adaptation Framework for Online Anomaly Detection
Beijing Institute of Technology(北京理工大学);National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学)
针对现有在线异常检测方法应对概念漂移能力不足、适配慢的问题,提出基于超网络动态参数调整与证据深度学习漂移检测的METER框架,实验证明其性能显著优于现有方法。
2023-12-28 cs.LG
Employing chunk size adaptation to overcome concept drift
Wrocław University of Science and Technology(弗罗茨瓦夫理工大学)
现代分析系统必须准备好处理流数据并正确响应数据分布变化。数据分布的变化现象被称为概念漂移,它可能会损害所使用的模型的质量。此外,概念漂移出现的可能性导致所使用的算法必须准备好模型对变化的数据分布的持续适应。这项工作的重点是非平稳数据流分类,其中使用的分类器集成。为了使集成模型保持最新,新的基本分类器在传入数据块上进行训练并添加到集成中,同时从集成中删除过时的模型。这种类型的模型的问题之一是对数据分布变化的快速反应。我们提出了一个新的块自适应恢复框架,可以适应任何基于块的数据流分类算法。该算法在概念漂移检测的情况下调整数据块大小,以最大限度地减少变化对所用模型预测性能的影响。实验研究表明,块自适应恢复算法可以显著缩短模型的恢复时间。
2021-10-25 cs.LG
Failing Conceptually: Concept-Based Explanations of Dataset Shift
University of Cambridge(剑桥大学)
尽管机器学习技术在各种视觉任务上表现出色,但它们往往屈服于数据分布偏移。因此,最近的一系列工作探索了检测这些变化的技术。不幸的是,目前的技术没有解释是什么触发了变化的检测,从而限制了它们提供可操作的见解的效用。在这项工作中,我们提出了概念瓶颈移位检测(CBSD):一种新的可解释的移位检测方法。CBSD通过识别和排名高级人类可理解的概念受变化影响的程度来提供解释。使用两个案例研究(dSprites和3dshapes),我们演示了CBSD如何准确地检测受移位影响的基本概念,并实现更高的检测精度相比,国家的最先进的移位检测方法。
2021-05-01 cs.LG
Are Concept Drift Detectors Reliable Alarming Systems? -- A Comparative Study
TU Delft(代尔夫特理工大学);Leibniz University Hannover(汉诺威莱布尼茨大学)
随着机器学习模型越来越多地取代生产系统中的传统业务逻辑,其生命周期管理正成为一个重要的问题。一旦部署到生产中,机器学习模型就会在新的流数据上不断进行评估。给定连续的数据流,移位数据,也称为概念漂移,在这样的设置中是普遍存在的。概念漂移通常会影响机器学习模型的性能,因此,需要识别概念漂移发生的时刻。通过概念漂移检测器识别概念漂移。在这项工作中,我们评估了概念漂移检测器的可靠性,通过探索他们报告漂移的时间有多晚以及他们发出了多少假警报来及时识别漂移。我们比较了属于两个不同概念的漂移检测器组,基于出错率的检测器和基于数据分布的检测器的最流行的漂移检测器的性能。我们评估他们的表现在合成和真实世界的数据。在合成数据的情况下,我们研究了检测器识别两种类型的概念漂移,突然和渐进的性能。我们的研究结果旨在帮助从业者了解在不同情况下应该使用哪种漂移检测器,为了实现这一目标,我们分享了整个研究中最重要的观察结果,这些观察结果可以作为实际使用的指导方针。此外,根据我们的实证结果,我们分析了每个概念漂移检测组作为报警系统的适用性。
2022-11-23 cs.AI cs.LG
Dynamic Multi-period Experts for Online Time Series Forecasting
Pohang University of Science and Technology(浦项科学技术大学);Kyungpook National University(庆北国立大学)
DynaME通过动态多时期专家框架有效应对时间序列预测中的重复和新兴漂移,显著优于现有方法。
2026-03-10 cs.LG
A Scalable Approach to Covariate and Concept Drift Management via Adaptive Data Segmentation
Indian Institute of Technology, Bombay(印度理工学院孟买分校);Mastercard(万事达卡)
本文提出一种可扩展框架,通过自适应数据分割显式利用漂移数据,同时管理协变量漂移和概念漂移,在提升模型准确性的同时降低资源消耗和运行成本。
2024-11-23 cs.LG
On the Impact of Temporal Concept Drift on Model Explanations
University of Sheffield(谢菲尔德大学)
自然语言处理中模型预测的解释忠实性通常在来自与训练数据相同的时间分布(即同步设置)的保持数据上进行评估。虽然模型性能通常由于时间变化(即时间概念漂移)而恶化,但目前尚不清楚当目标数据的时间跨度不同于用于训练模型的数据(即异步设置)时,解释忠实性如何受到影响。为此,我们研究了时间变化对模型解释的影响,这些模型解释是由八种特征归因方法和三种选择然后预测模型在六个文本分类任务中提取的。我们的实验表明,(i)在不同的特征归因方法中,忠诚度在时间变化下是不一致的(例如,它会根据方法的不同而减少或增加),基于注意力的方法在数据集上表现出最强大的忠诚度得分;(ii)选择然后预测模型在异步设置中大多是强大的,预测性能只有很小的下降。最后,特征归因方法在用于FRESH(即选择和预测模型)和用于测量充分性/全面性(即事后方法)时显示出冲突的行为,这表明我们需要更强大的指标来评估事后解释的忠实性。
2022-10-17 cs.AI cs.CL cs.LG
Forgetful Forests: high performance learning data structures for streaming data under concept drift
New York University(纽约大学);Courant Institute of Mathematical Sciences(库朗数学科学研究所)
数据库研究可以在许多方面帮助机器学习提高性能。方法之一是设计更好的数据结构。本文结合使用增量计算和顺序和概率过滤,以使“健忘”的基于树的学习算法能够处理概念漂移数据(即,从输入到分类的功能随时间变化的数据)。本文描述的遗忘算法实现了高的时间性能,同时保持高质量的预测流数据。具体而言,该算法比最先进的增量算法快24倍,最多损失2%的准确度,或者至少快两倍而不损失任何准确度。这使得这样的结构适合于高容量流式传输应用。
2022-12-15 cs.LG
Domain Specific Concept Drift Detectors for Predicting Financial Time Series
University of Naples(那不勒斯大学)
概念漂移检测器允许学习系统在非平稳数据流上保持良好的准确性。金融时间序列是非平稳数据流的一个实例,其概念漂移(市场阶段)对影响全球投资决策非常重要。本文研究了概念漂移检测器在应用于金融时间序列时的表现。一般结果是:a)概念漂移检测器通常比连续学习提高运行时间,b)它们的计算成本通常是甚至基本学习器的学习和预测步骤的一小部分,c)结合它们将操作的学习系统来研究概念漂移检测器是重要的,以及d)概念漂移检测器可以直接应用于原始金融数据的时间序列,而不仅仅应用于模型的精度。此外,该研究介绍了三个简单的概念漂移检测器,适合于金融时间序列,并表明,其中两个可以至少作为最先进的应用时,从最先进的金融时间序列有效。目前已提交模式识别
2021-09-01 cs.LG q-fin.ST
Evaluation of concept drift adaptation for acoustic scene classifier based on Kernel Density Drift Detection and Combine Merge Gaussian Mixture Model
Okayama University(冈山大学)
根据实验结果,所有的概念漂移类型都有各自的超参数配置。简单概念漂移和渐进概念漂移具有相似的模式,其所需的α值小于重复概念漂移,因为在这种类型的漂移中,新概念不断出现,因此需要高频模型自适应。然而,在重复出现的概念中,新的概念可能在未来重复出现,因此较低的频率适应更好。此外,高频模型自适应可能导致过拟合问题。实现CMGMM组件剪枝机制有助于控制活跃组件的数量,提高模型性能。
2021-05-27 cs.LG cs.SD eess.AS
Learner-based Concept Drift Detection: Analysis and Evaluation
Department of Computer Science, University of Regina(里贾纳大学计算机科学系)
本文从理论上分析概念漂移特征,并评估多种漂移检测算法在合成和真实数据集上的性能,旨在增强对漂移检测器行为及其适用性的理解。
2026-06-19 cs.AI cs.LG
Adversarial Validation Approach to Concept Drift Problem in User Targeting Automation Systems at Uber
在用户定向自动化系统中,输入数据中的概念漂移是主要挑战之一。随着时间的推移,它会降低新数据的模型性能。以往对概念漂移的研究大多是在观察到性能下降后进行模型再训练。然而,这种方法是次优的,因为系统仅在新数据上表现不佳之后才修复问题。在这里,我们介绍了一个对抗性的验证方法,在用户定位自动化系统的概念漂移问题。通过我们的方法,系统在进行推断之前检测新数据中的概念漂移,训练模型,并产生适应新数据的预测。我们表明,我们的方法有效地解决了概念漂移与AutoML3终身机器学习挑战数据,以及在优步的内部用户定位自动化系统,MaLTA。
2020-06-26 cs.LG stat.ML
Online detection and infographic explanation of spam reviews with data drift adaptation
University of Vigo(维戈大学);Universidade Portucalense(波尔图大学);ISEP, Polytechnic of Porto(波尔图理工学院ISEP);Institute for Systems and Computer Engineering, Technology and Science(系统与计算机工程、技术与科学研究所)
针对在线平台垃圾评论泛滥、数据流场景下垃圾检测研究不足且缺乏透明度的问题,本文提出融合增量画像、数据漂移检测自适应与机器学习识别的在线垃圾评论检测方案,搭配信息图式可解释机制,最优垃圾评论F值达87%。
2024-06-21 cs.AI cs.CL cs.LG
Online Drift Detection with Maximum Concept Discrepancy
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Fudan University(复旦大学);Korea University(高丽大学)
针对高维数据流中复杂不规则的概念漂移,本文提出无标签的 MCD-DD,通过概念嵌入对比学习与最大概念差异实现自适应在线检测,实验表明其优于现有基线且具备高可解释性。
2024-07-07 cs.AI cs.LG
Online Semi-Supervised Concept Drift Detection with Density Estimation
Monash University(莫纳什大学)
概念漂移被正式定义为一组输入变量X和一个目标变量y的联合分布的变化。广泛研究的两种类型的漂移是真实漂移和虚拟漂移,其中前者是后验概率p(y)的变化|后者是X的分布变化,而不影响后验概率。关于概念漂移检测的许多方法要么假设数据标签y的完全可用性,要么仅处理虚拟漂移。在流环境中,数据标签y的完全可用性的假设受到质疑。另一方面,处理虚拟漂移的方法未能解决真实漂移。本文提出了一个半监督的框架来解决上述问题,而不是改进现有的方法。所提出的框架的目标是从具有有限数据标签的流环境中学习,并同时检测实际漂移。本文提出了一种新的概念漂移检测方法,利用后验概率密度的部分标记的流媒体环境。在合成数据集和真实数据集上的实验结果表明,我们提出的半监督框架能够检测这种环境中的概念漂移,同时实现与最先进方法相当的预测性能。
2019-11-11 cs.LG stat.ML
Tackling Virtual and Real Concept Drifts: An Adaptive Gaussian Mixture Model
Centro de Informática, Universidade Federal de Pernambuco(伯南布哥联邦大学信息中心);School of Computer Science, University of Birmingham(伯明翰大学计算机学院)
现实世界的应用一直在处理大量的数据,这些数据随着时间的推移而到达,并且通常呈现出其潜在的联合概率分布的变化,即,概念漂移概念漂移可以细分为两种类型:影响无条件概率分布p(x)的虚漂移和影响条件概率分布p(y)的实漂移|x)。现有的工作集中在真正的漂移。然而,应对真实漂移的策略可能不是最适合处理虚拟漂移的策略,因为真实的类边界保持不变。我们提供了第一个深入分析的虚拟和真实的漂移对分类器的适用性的影响之间的差异。我们提出了一种方法来处理这两个漂移称为在线高斯混合模型与噪声滤波器处理虚拟和真实的概念漂移(OGMMF-VRD)。在7个合成数据集和3个真实数据集上的实验表明,OGMMF-VRD在平均准确率、G均值和运行时间方面均优于现有方法。此外,它的准确性随着时间的推移遭受较少的性能下降,在漂移的存在。
2021-02-11 cs.AI cs.LG
Learning Parameter Distributions to Detect Concept Drift in Data Streams
University of Tuebingen(图宾根大学)
流环境中的数据分布通常不是静止的。为了始终保持高预测质量,在线学习模型需要适应分布变化,这被称为概念漂移。概念漂移的及时和鲁棒的识别可能是困难的,因为我们永远无法访问流数据的真实分布。在这项工作中,我们提出了一个新的框架,用于检测真正的概念漂移,称为ERICS。通过将预测模型的参数视为随机变量,我们证明了概念漂移对应于最优参数分布的变化。为此,我们采用信息论的共同措施。所提出的框架是完全模型不可知的。通过选择一个合适的基础模型,ERICS也能够检测输入级的概念漂移,这是一个显着的优势,现有的方法。几个合成和真实世界的数据集的评价表明,所提出的框架识别概念漂移更有效,更准确地比各种现有的作品。
2020-10-19 cs.LG stat.ML