Adversarial Concept Drift Detection under Poisoning Attacks for Robust Data Stream Mining
Virginia Commonwealth University（弗吉尼亚联邦大学）
从流数据中进行连续学习是当代机器学习中最具挑战性的课题之一。在这一领域，学习算法不仅要能够处理大量快速到达的数据，而且要使自己适应潜在的新兴变化。数据流的演化性质的现象被称为概念漂移。虽然有大量的方法用于检测其发生，但所有这些方法都假设漂移与数据源的潜在变化有关。但是，必须考虑恶意注入虚假数据以模拟概念漂移的可能性。这种对抗性的设置假设可能进行中毒攻击，以便通过强制适应错误数据来破坏底层的分类系统。现有的漂移检测器不能区分真实的和敌对的概念漂移。在本文中，我们提出了一个强大的概念漂移检测框架中存在的对抗性和中毒攻击。我们介绍了两种类型的对抗性概念漂移的分类，以及一个强大的可训练漂移检测器。它是基于增强的限制玻尔兹曼机与改进的梯度计算和能量函数。我们还介绍了鲁棒性的相对损失-一种新的措施，用于评估中毒攻击下的概念漂移检测器的性能。大量的计算实验，进行充分和稀疏标记的数据流，证明了高鲁棒性和效率的漂移检测框架在对抗性的情况下。
2020-09-20 cs.LG stat.ML
Learning Parameter Distributions to Detect Concept Drift in Data Streams
University of Tuebingen（图宾根大学）
流环境中的数据分布通常不是静止的。为了始终保持高预测质量，在线学习模型需要适应分布变化，这被称为概念漂移。概念漂移的及时和鲁棒的识别可能是困难的，因为我们永远无法访问流数据的真实分布。在这项工作中，我们提出了一个新的框架，用于检测真正的概念漂移，称为ERICS。通过将预测模型的参数视为随机变量，我们证明了概念漂移对应于最优参数分布的变化。为此，我们采用信息论的共同措施。所提出的框架是完全模型不可知的。通过选择一个合适的基础模型，ERICS也能够检测输入级的概念漂移，这是一个显着的优势，现有的方法。几个合成和真实世界的数据集的评价表明，所提出的框架识别概念漂移更有效，更准确地比各种现有的作品。
2020-10-19 cs.LG stat.ML
Concept Drift Detection and Adaptation with Weak Supervision on Streaming Unlabeled Data
当数据特征或目标的统计属性随时间变化时，学习和分类中的概念漂移就会发生;漂移的证据已经出现在搜索数据，医学研究，恶意软件，网络数据和视频中。漂移自适应尚未解决高维，噪声，低上下文数据，如流文本，视频或图像，由于这些领域存在的独特挑战。我们提出了一个双重的方法来处理这些领域的概念漂移：一个基于密度的聚类方法来处理虚拟概念漂移（功能的统计特性的变化）和一个弱监督步骤来处理真正的概念漂移（目标的统计特性的变化）。我们的基于密度的集群避免了维度灾难带来的问题，以创建实时数据空间的不断发展的“地图”，从而解决特征中的虚拟漂移。我们的弱监督步骤利用高置信度标签（oracle或启发式标签）来生成加权训练集，以泛化和更新现有的深度学习器，以适应不断变化的决策边界（真实漂移），并为数据空间中不可见的区域创建新的深度学习器。我们的研究结果表明，我们的双重方法在2018年表现良好，精度>90%，在2014年首次部署四年后，没有任何人为干预。
2019-10-02 cs.LG stat.ML
Diverse Instances-Weighting Ensemble based on Region Drift Disagreement for Concept Drift Adaptation
概念漂移是指底层数据分布的变化，是数据流演化的固有属性。具有动态分类器的包围学习已被证明是处理概念漂移的有效方法。然而，最好的方式来创建和保持集成多样性与不断变化的流仍然是一个具有挑战性的问题。与通过输入、输出或分类器参数估计多样性相反，我们提出了一种基于集合成员是否同意区域分布变化概率的多样性测量。在我们的方法中，区域分布变化的估计被用作实例权重。通过不同的方案构造不同的区域集合将导致不同的漂移估计结果，从而产生多样性。选择最不同意的分类器以最大化多样性。因此，基于实例的集成学习算法，称为不同的实例加权集成（DiwE），开发解决数据流分类问题的概念漂移。各种合成和真实世界的数据流基准的评估表明，该算法的有效性和优势。
2020-04-13 cs.LG stat.ML
Hybrid Forest: A Concept Drift Aware Data Stream Mining Algorithm
Amirkabir University of Technology（阿米尔卡比尔理工大学）
如今，随着组织中在线控制系统的数量不断增加，以及对使用数据流来记录和控制其子系统的监控和统计设施的需求越来越高，数据流挖掘变得越来越重要。Hoeffding树（也称为非常快速决策树，VFDT）作为一种大数据方法，在处理数据流的分类和回归问题时表现出了良好的性能，能够应对面临的挑战，并使随时预测成为可能。尽管这些方法优于其他方法，例如人工神经网络（ANN）和支持向量回归（SVR），但是当输入数据的统计分布改变时，它们在适应新概念方面存在高延迟。本文提出了一种新的概念漂移检测算法，该算法能够有效地检测和处理概念漂移现象。该算法还受益于快速启动能力，这有助于系统能够在数据流到达的开始时比其他算法更快地预测。我们还表明，我们的方法在分类和回归任务方面优于其他有争议的方法。
2019-02-10 cs.LG stat.ML
Concept Drift Detection for Streaming Data
Johns Hopkins University（约翰斯·霍普金斯大学）；Robert Bosch LLC Research and Technology Center North America（罗伯特·博世有限责任公司北美研究与技术中心）
常见的统计预测模型通常需要并假设数据的平稳性。然而，在许多实际应用中，随着时间的推移，经常观察到的响应和预测变量的关系的变化，导致这些模型的预测性能的恶化。本文提出了线性四率（LFR），这是一个用于检测这些概念漂移并随后识别属于新概念的数据点（用于重新学习模型）的框架。与传统的概念漂移检测方法不同，LFR可以应用于批处理和流数据;不受响应变量的分布特性的限制（例如，具有不平衡标签的数据集）;独立于底层的几何模型;并且使用直观可理解的用户指定的参数。LFR的性能进行比较，基准方法使用模拟和常用的公共数据集，跨越色域的概念漂移类型。结果表明，LFR在召回率，准确率和延迟检测跨数据集的概念漂移方面显着优于基准方法。
2015-05-03 cs.LG stat.ML
CURIE: A Cellular Automaton for Concept Drift Detection
TECNALIA（泰克纳利亚研究院）；Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟）；University of the Basque Country UPV/EHU（巴斯克地区大学）；Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心）；ParisTech（巴黎高科）；The University of Waikato（怀卡托大学）；Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)（安达卢西亚数据科学与计算智能研究所）；University of Granada（格拉纳达大学）
数据流挖掘是从大量快速连续流动的数据（数据流）中提取信息。它们通常会受到数据分布变化的影响，从而产生一种称为概念漂移的现象。因此，学习模型必须检测和适应这种变化，以便在漂移发生后表现出良好的预测性能。在这方面，有效的漂移检测算法的发展成为数据流挖掘的关键因素。在这项工作中，我们提出了CU RIE，漂移检测器依赖于细胞自动机。具体地，在CU RIE中，数据流的分布在元胞自动机的网格中表示，然后可以利用元胞自动机的邻域规则来检测流上可能的分布变化。计算机模拟和讨论表明，CU RIE，当与其他基础学习者杂交，呈现出竞争行为的检测指标和分类精度。CU RIE与成熟的漂移检测器相比，在不同的漂移特性的合成数据集。
2020-09-21 cs.LG stat.ML
Handling Adversarial Concept Drift in Streaming Data
University of Louisville（路易斯维尔大学）
在动态的真实世界环境中运行的分类器很容易受到对抗活动的影响，这会导致数据分布随时间而变化。这些变化传统上被称为概念漂移，并且在文献中已经开发了几种方法来处理漂移处理和检测的问题。然而，大多数概念漂移处理技术，接近它作为一个域独立的任务，使它们适用于广泛的反应系统。这些技术是从对抗不可知论的角度开发的，它们是天真的，并假设漂移是一种良性的变化，可以通过更新模型来修复。然而，当活跃的对手试图逃避部署的分类系统时，情况并非如此。在这样的环境中，概念漂移的性质是独特的，因为漂移旨在使系统降级，并且同时被设计为避免通过传统概念漂移检测技术进行检测。这种特殊类别的漂移被称为对抗性漂移，本文分析了其特点和影响，在流媒体环境中。提出了一种用于处理对抗性概念漂移的新框架，称为预测检测流框架。在生成的对抗性漂移数据流上对该框架进行的实验评估表明，该框架能够提供可靠的无监督漂移指示，并且能够迅速从漂移中恢复。虽然传统的部分标记概念漂移检测方法无法检测到对抗性漂移，但所提出的框架能够检测到此类漂移，并且平均使用<6%的标记数据。此外，该框架提供了主动学习在不平衡的数据流的好处，通过先天地提供特征空间蜜罐，少数类对抗样本可以被捕获。
2018-03-24 cs.CR cs.LG stat.ML
Synthetic Non-stationary Data Streams for Recognition of the Unknown
Wrocław University of Science and Technology（沃拉夫大学科学与技术学院）
提出一种同时包含概念漂移和新类出现的合成数据流生成策略，并评估无监督漂移检测器在开放集识别任务中的表现。
2025-05-19 cs.LG stat.ML
Reservoir of Diverse Adaptive Learners and Stacking Fast Hoeffding Drift Detection Methods for Evolving Data Streams
University of Ottawa（渥太华大学）；National Research Council (NRC) of Canada（加拿大国家研究委员会）
在过去的十年中，人们对用于数据流分类的自适应学习算法的兴趣激增，其应用范围从预测臭氧水平峰值，学习股票市场指标到检测计算机安全违规行为。此外，已经开发了一些方法来检测这些流中的概念漂移。考虑一个场景，我们有许多具有不同学习风格和不同漂移检测器的分类器。直觉上，当前的“最佳”（分类器，检测器）对是依赖于应用的，并且可以作为流演进的结果而改变。我们的研究建立在这一观察基础上。我们介绍的$\mbox{Tornado}$框架，实现了不同的分类器，连同各种漂移检测算法的水库。在我们的框架中，所有（分类器，检测器）对进行，并行，构建模型对不断变化的数据流。在任何时间点，我们选择当前产生最佳性能的对。我们还将两个新的堆叠为基础的漂移检测方法，即$\mbox{FHDDMS}$和$\mbox{FHDDMS}_{add}$的方法。实验评估证实，当前的“最佳”（分类器，检测器）对不仅严重依赖于流的特性，而且这种选择随着流的流动而演变。此外，我们的$\mbox{FHDDMS}$变体可以及时准确地检测概念漂移，同时优于最先进的技术。
2017-09-07 cs.DB cs.LG stat.ML
Reactive Soft Prototype Computing for Concept Drift Streams
University for Applied Sciences Würzburg-Schweinfurt（维尔茨堡-施韦因富特应用科学大学）
自本世纪初以来，信息系统中代理之间的实时通信量迅速增加。这是因为使用这些系统，e。G.社交媒体，在当今社会已经变得司空见惯。这需要分析算法来实时学习和预测这种信息流。这些系统的性质是非静态的，除其他外，可以用趋势的快节奏来解释。这就创造了一个算法必须识别变化并适应的环境。最近的工作显示了该领域的重要研究，但主要是在模型自适应过程中缺乏稳定的性能。在这项工作中，提出了一个概念漂移检测策略，然后基于原型的适应策略。通过对各种典型非静态数据的实验结果进行验证，我们的解决方案在变化时提供稳定和快速的调整。
2020-07-10 cs.LG stat.ML
Multi-Source Transfer Learning for Non-Stationary Environments
University of Leicester（莱斯特大学）；University of Birmingham（伯明翰大学）
在数据流挖掘中，预测模型通常会由于概念漂移而导致预测性能下降。由于必须收集表示新概念的足够数据以使新概念被很好地学习，因此现有模型的预测性能通常需要一些时间来从概念漂移中恢复。为了提高数据流挖掘中概念漂移的恢复速度和预测性能，提出了一种新的非静态环境下的多源在线迁移学习方法（Melanie）。Melanie是第一种能够在非静态环境中的多个数据流源之间传输知识的方法。它创建了几个子分类器，随着时间的推移从不同的源和目标概念中学习不同的方面。识别与当前目标概念匹配良好的子分类器，并将其用于组成用于从目标概念预测示例的集成。我们评估梅兰妮几个合成数据流包含不同类型的概念漂移和现实世界的数据流。实验结果表明，Melanie算法能够处理多种数据流漂移，并通过利用多个数据源提高预测性能。
2019-03-22 cs.LG stat.ML
Seasonal Averaged One-Dependence Estimators: A Novel Algorithm to Address Seasonal Concept Drift in High-Dimensional Stream Classification
Monash University（莫纳什大学）；Seek Group（Seek集团）
流分类方法在新的标记样本到达时对连续的数据流进行分类。他们还经常需要处理概念漂移。本文重点研究流分类中的季节性漂移，这可以在许多实际应用数据源中找到。传统的河流分类方法考虑季节性漂移，包括季节性虚拟/指标变量或为每个季节建立单独的模型。但这些方法在高维分类问题或复杂的季节模式中具有很强的局限性。本文探讨了如何最好地处理季节性漂移的特定情况下的新闻文章分类（或分类/标记），其中季节性漂移是压倒性的主要类型的漂移存在于数据中，并且数据是高维的。我们引入了一种新的分类器名为季节平均单依赖估计（SAODE），它扩展了AODE分类器，包括时间作为一个超级父处理季节漂移。我们使用两个大型的真实世界文本挖掘相关数据集来评估我们的SAODE模型，每个数据集包含大约100万条记录，针对9个最先进的流和概念漂移分类模型，有和没有季节指标，以及为每个季节构建的单独模型。在五种不同的评估技术中，我们表明我们的模型始终优于其他方法，其结果具有统计学意义。
2020-06-27 cs.AI cs.LG stat.AP
Beta Distribution Drift Detection for Adaptive Classifiers
TU Darmstadt（达姆施塔特工业大学）
随着今天丰富的数据流，我们唯一可以依赖的常数是变化。对于流分类算法来说，需要适应概念漂移。这可以通过监视模型误差并在发生变化时触发反措施来实现。在本文中，我们提出了一种漂移检测机制，它将beta分布拟合到模型误差，并将异常行为视为漂移。它适用于任何给定的模型，利用有关此模型的先验知识，并允许设置特定于应用程序的置信度阈值。实验证实，它表现良好，特别是当漂移突然发生。
2018-11-27 cs.LG stat.ML
Identifying Predictions That Influence the Future: Detecting Performative Concept Drift in Data Streams
Utrecht University（乌得勒支大学）
研究流学习中模型预测引发的概念漂移（执行性漂移），提出CB-PDD检测方法，在合成与半合成数据集上验证其高效性、低误检率及对内在漂移的弹性。
2025-04-01 cs.CR cs.LG stat.ML
Online Semi-Supervised Concept Drift Detection with Density Estimation
Monash University（莫纳什大学）
概念漂移被正式定义为一组输入变量X和一个目标变量y的联合分布的变化。广泛研究的两种类型的漂移是真实漂移和虚拟漂移，其中前者是后验概率p（y）的变化|后者是X的分布变化，而不影响后验概率。关于概念漂移检测的许多方法要么假设数据标签y的完全可用性，要么仅处理虚拟漂移。在流环境中，数据标签y的完全可用性的假设受到质疑。另一方面，处理虚拟漂移的方法未能解决真实漂移。本文提出了一个半监督的框架来解决上述问题，而不是改进现有的方法。所提出的框架的目标是从具有有限数据标签的流环境中学习，并同时检测实际漂移。本文提出了一种新的概念漂移检测方法，利用后验概率密度的部分标记的流媒体环境。在合成数据集和真实数据集上的实验结果表明，我们提出的半监督框架能够检测这种环境中的概念漂移，同时实现与最先进方法相当的预测性能。
2019-11-11 cs.LG stat.ML
Dirichlet process mixture models for non-stationary data streams
Basque Center for Applied Mathematics（巴斯克应用数学中心）
近年来，我们已经看到了一些关于非平稳数据流上的推理算法的工作。鉴于其灵活性，贝叶斯非参数模型是这些情景的良好候选者。然而，在概念漂移现象下的可靠流推理仍然是这些模型的一个开放问题。在这项工作中，我们提出了一个变分推断算法的Dirichlet过程混合模型。我们的建议处理的概念漂移，包括指数遗忘在先前的全局参数。我们的算法允许自动适应学习模型的概念漂移。我们在合成和真实数据中进行了实验，表明该模型在密度估计问题上与最先进的算法具有竞争力，并且在聚类问题上优于它们。
2022-10-13 cs.LG stat.ML
stream-learn -- open-source Python library for difficult data stream batch analysis
Wrocław University of Science and Technology（弗罗茨瓦夫科技大学）
stream-learn是一个与scikit-learn兼容的Python包，用于漂移和不平衡的数据流分析。它的主要组成部分是一个流生成器，它允许产生一个合成数据流，该数据流可以将三种主要概念漂移类型（即突然漂移、渐进漂移和增量漂移）中的每一种都纳入其重复或非重复版本中。该软件包允许按照既定的评估方法（即测试-然后-训练和预先）进行实验。此外，适用于数据流分类的估计器已经实现，包括简单的分类器和最先进的基于块的在线分类器集成。为了提高计算效率，package利用自己的预测指标实现不平衡的二进制分类任务。
2020-01-29 cs.CV cs.LG stat.ML
Concept Drift and Anomaly Detection in Graph Streams
Università della Svizzera italiana（瑞士意大利语大学）；Politecnico di Milano（米兰理工大学）；University of Exeter（埃克塞特大学）
图形表示提供了强大而直观的方法来描述众多应用领域中的数据。在这里，我们认为随机过程生成的图形，并提出了一种方法来检测这种过程的平稳性的变化。该方法是通用的，并考虑了一个过程中产生的属性图与一个可变数量的顶点/边，而不需要假设一对一的对应关系，在不同的时间步长的顶点之间。该方法通过将流的每个图嵌入到向量域中来起作用，其中可以容易地应用传统的多变量变化检测过程。我们通过证明几个理论结果来证明我们的建议的合理性。此外，我们提供了一个具体的实施方法，并评估其有效性的几个检测问题，涉及属性图代表生物分子和图纸。实验结果与合适的基线方法进行了对比，证明了我们的方法的有效性。
2018-02-09 cs.LG stat.ML
Automatic Model Monitoring for Data Streams
Feedzai（Feedzai公司）
检测概念漂移是影响生产系统的一个众所周知的问题。然而，文献中经常没有解决的两个重要问题是：1）当标签不能立即获得时检测漂移;以及2）自动生成解释以识别漂移的可能原因。例如，在线支付中的欺诈检测模型可能会在标签可用之前显示出由于热销商品（误报增加）或由于真正的欺诈攻击（误报增加）而导致的漂移。在本文中，我们提出了SAMM，自动模型监测系统的数据流。SAMM使用时空高效的无监督流算法检测概念漂移，并生成警报报告，其中包含对解释它很重要的事件和特征的摘要。SAMM在五个真实世界的欺诈检测数据集中进行了评估，每个数据集的时间跨度长达八个月，总计超过2200万笔在线交易。我们通过向领域专家发送100份系统生成的报告，使用领域专家的人工反馈对SAMM进行了评估。我们的研究结果表明，SAMM是能够检测异常事件的模型生存周期，被认为是有用的领域专家。鉴于这些结果，SAMM将在Feedzai的欺诈检测解决方案的下一个版本中推出。
2019-08-12 cs.LG stat.ML
On the Reliable Detection of Concept Drift from Streaming Unlabeled Data
University of Louisville（路易斯维尔大学）
部署在现实世界中的分类器在动态环境中运行，其中数据分布可能会随时间而变化。这些变化，被称为概念漂移，可能会导致分类器的预测性能随着时间的推移而下降，从而使其过时。为了真正发挥作用，这些分类器需要检测漂移，并能够随着时间的推移适应它们。传统上，检测漂移被视为一项监督任务，标记数据不断用于验证学习模型。尽管这些技术在检测漂移方面是有效的，但是这些技术是不切实际的，因为标记是困难的、昂贵的和耗时的活动。另一方面，无监督的变化检测技术是不可靠的，因为它们产生大量的假警报。无监督技术的无效性源于从检测过程中排除学习分类器的特征。在本文中，我们提出了边缘密度漂移检测（MD3）算法，它跟踪分类器的不确定区域中的样本数量，作为检测漂移的度量。MD3算法是一种独立于分布、独立于应用程序、独立于模型、无监督和增量的算法，用于可靠地检测数据流中的漂移。对来自网络安全领域的6个漂移引起的数据集和4个附加数据集的实验评估表明，MD3方法可以可靠地检测漂移，与基于无监督特征的漂移检测器相比，误报显著减少。减少的假警报使得仅当漂移最可能影响分类性能时才能用信号通知漂移。因此，MD3方法导致检测方案是可信的，标签有效的和一般的适用性。
2017-03-31 cs.AI cs.LG stat.ML
Diagnosing Concept Drift with Visual Analytics
Tsinghua University（清华大学）；Microsoft（微软）；Bloomberg L.P.（彭博有限合伙企业）；Arizona State University（亚利桑那州立大学）
本文提出可视化分析方法DriftVis，结合分布漂移检测与流式散点图，帮助分析人员识别、检查并修正流数据中的概念漂移。
2020-09-15 cs.HC cs.LG stat.ML
Diversity of Ensembles for Data Stream Classification
University of Passau（帕绍大学）
在构造分类器集成时，基分类器之间的多样性是重要特征之一。已经在标准静态数据的背景下进行了一些研究，特别是在分析高集合预测性能与其组成部分的多样性之间的关系时。此外，学习机的集成已经执行的概念漂移的存在下学习，并适应它。然而，多样性措施没有得到太多的研究兴趣，在不断发展的数据流。只有少数研究者直接考虑促进多样性，同时构建一个合奏或重建他们在检测漂移的时刻。在本文中，我们提出了一个不同的多样性措施的理论分析，并将它们与流数据的集成学习算法的成功。分析提供了一个更深入的理解的概念的多样性和在线集成学习的概念漂移的存在下，它的影响。更确切地说，我们有兴趣回答以下研究问题;哪些常用的多样性措施中使用的静态数据集成的背景下，他们在多大程度上适用于流数据集成的背景下？
2019-02-22 cs.LG stat.ML
K-means for Evolving Data Streams
Basque Center for Applied Mathematics（巴斯克应用数学中心）
目前，世界范围内产生的数据量正在以无法衡量的方式增长，因此必须不断处理大量无监督数据。无监督数据分析的主要方法之一是聚类。在流数据场景中，数据由不断增加的批量样本序列组成，其中可能会发生概念漂移现象。在本文中，我们正式定义的流$K$ -手段（S $K$ M）的问题，这意味着重新启动的错误功能时，发生的概念漂移。我们提出了一个替代误差函数，不依赖于概念漂移检测。我们证明，代理是一个很好的近似S $K$ M错误。因此，我们建议一种算法，最大限度地减少这种替代错误每次一个新的批次到达。我们提出了一些初始化技术的流数据的情况下，以及。除了提供理论结果外，实验证明了非平凡初始化方法的收敛误差的改善。
2021-09-17 cs.LG stat.ML
McDiarmid Drift Detection Methods for Evolving Data Streams
University of Ottawa（渥太华大学）；National Research Council（加拿大国家研究委员会）
物联网（IoT）领域（例如传感器网络、智能城市和社交网络）越来越多地产生大量数据。这些数据不仅是无限的，而且是快速发展的。相反，其内容随着时间的推移而动态演变，往往以不可预见的方式。这些变化是由于所谓的概念漂移，由底层数据生成机制的变化引起的。在分类设置中，概念漂移导致先前学习的模型变得不准确、不安全甚至不可用。因此，需要尽快发现和处理概念漂移。例如，在医疗应用和应急响应环境中，应近实时地检测行为变化，以避免潜在的生命损失。为此，我们介绍了McDiarmid漂移检测方法（MDDM），它利用McDiarmid的不等式，以检测概念漂移。MDDM方法通过在预测结果上滑动窗口来进行，并将窗口条目与权重相关联。最近的条目被赋予更高的权重，以强调其重要性。当处理实例时，检测算法将滑动窗口内的元素的加权平均值与迄今为止观察到的最大加权平均值进行比较。两个加权平均值之间的显着差异，上限由McDiarmid不等式，意味着概念漂移。我们对合成数据流和真实数据流的大量实验表明，我们的新方法优于最先进的。具体来说，MDDM产生更短的检测延迟以及更低的假阴性率，同时保持高的分类精度。
2018-01-17 cs.DB cs.LG stat.ML
Exponentially Weighted Moving Average Charts for Detecting Concept Drift
Imperial College（帝国理工学院）
对流数据进行分类需要开发计算效率高并且能够应对流的底层分布变化的方法，这种现象在文献中称为概念漂移。我们提出了一种新的方法来检测概念漂移，使用指数加权移动平均（EWMA）图来监测流分类器的错误分类率。我们的方法是模块化的，因此可以与任何底层分类器并行运行，以提供额外的概念漂移检测层。此外，我们的方法是计算效率与开销O（1）和工作在一个完全在线的方式，不需要在内存中存储数据点。与许多现有的概念漂移检测方法不同，我们的方法允许假阳性检测的速率随着时间的推移而被控制并保持恒定。
2012-12-25 cs.LG stat.AP stat.ML
LUNAR: Cellular Automata for Drifting Data Streams
TECNALIA（特克纳利亚研究中心）；University of the Basque Country UPV/EHU（巴斯克地区大学）；Basque Center for Applied Mathematics (BCAM)（巴斯克应用数学中心）；Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)（安达卢西亚数据科学与计算智能研究所）；University of Granada（格拉纳达大学）
随着以快速流形式产生的大量数据的出现，实时机器学习已经成为现实世界应用中出现的相关性挑战。处理这样的快速流通常需要高存储器和处理资源。此外，它们可能会受到非平稳现象（概念漂移）的影响，学习方法必须检测流数据分布的变化，并适应这些不断变化的条件。在计算资源受到严重限制的实时场景中，缺乏有效和可扩展的解决方案尤其值得注意，因为它发生在小型，众多，互连处理单元的网络中（例如所谓的智能灰尘，实用雾或群机器人范例）。在这项工作中，我们提出了LUNAR，一个简化版本的元胞自动机设计，以成功地满足上述要求。它能够作为一个真正的增量学习者，同时适应漂移的条件。与长期建立和成功的在线学习方法相比，使用合成和真实数据进行的广泛模拟将提供其在分类性能方面的竞争行为的证据。
2020-02-06 cs.AI cs.LG nlin.CG
A Framework for Evaluating and Benchmarking Concept Drift Detection Methods
University of Coimbra（科英布拉大学）；Victoria University of Wellington（惠灵顿维多利亚大学）；Commerzbank（德国商业银行）；University of Waikato（怀卡托大学）；AI Institute, University of Waikato（怀卡托大学人工智能研究所）
提出一个包含漂移模拟、时序感知评估和超参数优化协议的基准测试框架，在7个真实数据集上评估14种漂移检测方法，揭示其优劣并建立基线性能。
2026-06-05 cs.LG stat.ML
DriftMoE: A Mixture of Experts Approach to Handle Concept Drifts
University College Dublin（都柏林大学）
本文提出在线混合专家架构 DriftMoE，通过神经路由器与增量 Hoeffding 树专家的协同训练和正确性反馈，实现非平稳数据流中的概念漂移适应。
2025-07-24 cs.LG stat.ML
Instance exploitation for learning temporary concepts from sparsely labeled drifting data streams
Virginia Commonwealth University（弗吉尼亚联邦大学）
由于在线工具和系统数量的增加，从流数据源的持续学习变得越来越流行。处理动态和持久的问题提出了新的挑战，传统的基于批处理的离线算法在计算时间和预测性能方面是不够的。最关键的限制之一是，我们不能假设可以访问有限和完整的数据集-我们必须随时准备好可能补充我们模型的新数据。这就提出了一个关键的问题，提供标签的潜在无限的流。在现实世界中，我们被迫处理非常严格的预算限制，因此，我们将很可能面临注释实例的稀缺性，这在监督学习中是必不可少的。在我们的工作中，我们强调这个问题，并提出了一种新的实例开发技术。我们表明，当：（i）数据的特征在于临时的非平稳概念，（ii）跨越很长时间范围的标签很少，实际上更好的做法是冒过拟合的风险，通过利用我们仅有的标记实例来更积极地适应模型，而不是坚持标准的学习模式并遭受严重的欠拟合。我们提出了不同的策略和配置，我们的方法，以及合奏算法，试图保持一个甜蜜点之间的风险和正常的适应。最后，我们使用与给定问题相关的最先进的流算法对我们的方法进行了复杂的深入比较分析。
2020-09-20 cs.LG stat.ML
Multi-label Stream Classification with Self-Organizing Maps
Federal University of São Carlos（圣卡洛斯联邦大学）；Federal University of Uberlândia（乌贝兰迪亚联邦大学）；INESC TEC；University of Porto（波尔图大学）
已经提出了几种用于离线多标签分类的学习算法。然而，在诸如交通监控、社交网络和传感器等领域中的应用连续地产生数据，即所谓的数据流，这对批量多标签学习提出了挑战。由于数据流的分布缺乏平稳性，需要新的算法来在线适应这种变化（概念漂移）。此外，在实际应用中，变化发生在无限延迟标签的场景中，其中到达实例的真实类永远不可用。提出了一种基于自组织映射的在线无监督增量式多标签流分类方法。在分类阶段，我们使用k-近邻策略来计算地图中的获胜神经元，通过在线调整神经元权重向量和数据集标签基数来适应概念漂移。我们使用贝叶斯规则和每个神经元的输出来预测每个实例的标签，调整流中类的概率和条件概率。使用合成和真实数据集的实验表明，我们的方法是非常有竞争力的几个文献中，在固定和概念漂移的情况下。
2020-04-20 cs.LG stat.ML
Adaptive XGBoost for Evolving Data Streams
University of Waikato（怀卡托大学）；Télécom ParisTech（巴黎高等电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
Boosting是一种集成方法，它以顺序的方式组合基础模型以实现高预测精度。基于这种集成方法的流行的学习算法是极限梯度提升（XGB）。我们提出了一个适应XGB的分类不断发展的数据流。在这种情况下，随着时间的推移，新的数据到达，类和特征之间的关系可能会在过程中发生变化，从而表现出概念漂移。所提出的方法创建新的成员的合奏从小批量的数据作为新的数据变得可用。最大集成大小是固定的，但是当达到这个大小时，学习不会停止，因为集成会在新数据上更新，以确保与当前概念的一致性。我们还探索了使用概念漂移检测来触发更新集合的机制。我们测试我们的方法在真实和合成数据与概念漂移，并比较它对批量增量和实例增量分类方法的数据流。
2020-05-15 cs.LG stat.ML
STUDD: A Student-Teacher Method for Unsupervised Concept Drift Detection
University of Waikato（怀卡托大学）；Télécom ParisTech（巴黎高科电信学院）；Dalhousie University（达尔豪斯大学）
概念漂移检测是数据流演化环境中的一项重要任务。设计用于解决该问题的大多数最先进的方法监视预测模型的损失。然而，这种方法在许多现实世界的场景中是不够的，在这些场景中，真实的标签并不容易用于计算损失。在这种情况下，人们越来越关注以无监督方式执行概念漂移检测的方法，即，而无法接触到真正的标签。我们提出了一种新的方法，无监督的概念漂移检测的基础上，学生-教师学习范式。从本质上讲，我们创建了一个辅助模型（学生）来模仿主模型（教师）的行为。在运行时，我们的方法是使用教师预测新的实例，并监测模仿学生的概念漂移检测损失。在一组使用19个数据流的实验中，我们表明，所提出的方法可以检测概念漂移，并提出了一个竞争的行为相对于国家的最先进的方法。
2021-03-01 cs.LG stat.ML
Concept Drift Detection via Equal Intensity k-means Space Partitioning
数据流给统计分类任务带来了额外的挑战，因为训练样本和目标样本的分布可能会随着时间的推移而不同。流数据中的这种分布变化被称为概念漂移。已经提出了许多基于直方图的分布变化检测方法来检测漂移。大多数直方图都是基于网格或树的空间划分算法，这使得空间划分任意，无法解释，并可能导致漂移盲点。需要在无监督设置下提高基于直方图的方法的漂移检测精度。为了解决这个问题，我们提出了一个基于聚类的直方图，称为等强度k-means空间分区（EI-kMeans）。此外，还介绍了一种提高漂移检测灵敏度的探试法。提高灵敏度的基本思想是最小化在分布偏移区域中创建分区的风险。皮尔逊卡方检验被用作统计假设检验，以便检验统计量保持独立于样本分布。箱的数量和它们的形状，这强烈影响的能力，检测漂移，动态确定从样本的基础上的渐近约束的卡方检验。相应地，开发了三种算法来实现概念漂移检测，包括贪婪质心初始化算法、簇放大-收缩算法和漂移检测算法。对于漂移自适应，我们建议在检测到漂移时重新训练学习器。在合成数据集和真实数据集上的实验结果表明了EI-kMeans的优势，并显示了其在检测概念漂移方面的有效性。
2020-04-24 cs.LG stat.ML
Differentially Private Ensemble Classifiers for Data Streams
Simon Fraser University（西蒙弗雷泽大学）
通过分类/回归从连续数据流中学习在许多领域都很普遍。适应不断变化的数据特征（概念漂移），同时保护数据所有者的私人信息是一个公开的挑战。我们提出了一个差分私有集成解决方案，这个问题有两个显着的特点：它允许一个\textit{unbounded}数量的集成更新，以处理潜在的永无止境的数据流在一个固定的隐私预算，它是\textit{model agnostic}，因为它对待任何预先训练的差分私有分类/回归模型作为一个黑盒子。我们的方法在真实世界和模拟数据集上的性能优于竞争对手，这些数据集具有不同的隐私设置，概念漂移和数据分布。
2021-12-09 cs.CR cs.LG stat.ML
Change Detection for Local Explainability in Evolving Data Streams
University of Tuebingen（蒂宾根大学）
随着复杂的机器学习模型越来越多地用于银行、交易或信用评分等敏感应用，对可靠解释机制的需求也越来越大。局部特征属性方法已经成为一种流行的技术事后和模型不可知的解释。然而，归因方法通常假设预测模型已经在其中训练并且保持稳定的静态环境。因此，通常不清楚本地属性在现实的、不断发展的环境中（如流媒体和在线应用程序）的行为。在本文中，我们讨论了时间变化对局部特征属性的影响。特别是，我们表明，本地属性可以成为过时的每次更新的预测模型或概念漂移改变数据生成分布。因此，数据流中的局部特征属性只有在与允许我们检测和响应随时间推移的局部变化的机制相结合时才能提供高的解释力。为此，我们提出了CDLEEDS，一个灵活的和模型无关的框架，用于检测局部变化和概念漂移。CDLEEDS作为基于属性的解释技术的直观扩展，用于识别过时的本地属性，并实现更有针对性的重新计算。在实验中，我们还表明，该框架可以可靠地检测本地和全球的概念漂移。因此，我们的工作有助于在线机器学习中更有意义和更强大的可解释性。
2022-09-06 cs.LG stat.ML
Adversarial Attacks for Drift Detection
Bielefeld University（比勒费尔德大学）
本文研究常用漂移检测方案的缺陷，提出构造可绕过检测的漂移对抗样本，并给出常见方案下所有可能对抗样本的理论分析与实证验证。
2025-02-06 cs.LG stat.ML
Concept Drift Adaptive Physical Event Detection for Social Media Streams
Georgia Institute of Technology（佐治亚理工学院）；University of Alabama（阿拉巴马大学）
事件检测长期以来一直是在静态数据集假设下运行的物理传感器的领域。社交媒体和网络访问的普及导致了社交或人类传感器的出现，这些传感器报告全球事件。这保证了事件检测器的开发，可以利用超过30亿社交用户提供的真正密集和高空间和时间分辨率的数据。概念漂移现象导致与主题相关联的术语和信号随着时间的推移而改变，这使得静态机器学习无效。为此，我们提出了一个应用程序的物理事件检测社会传感器，改善传统的物理事件检测与概念漂移适应。我们的方法不断自动更新其机器学习分类器，而无需人工干预。它集成了来自不同来源的数据，旨在处理弱信号事件（山体滑坡，野火），每个事件大约有10个帖子，以及大信号事件（飓风，地震），每个事件有数十万个帖子。我们在我们的应用程序中展示了一个滑坡检测器，与静态方法相比，它可以检测到近350%的滑坡。我们的应用程序具有很高的性能：使用2014年训练的分类器，实现了0.988的事件检测准确率，而静态方法为0.762。
2019-09-17 cs.CY cs.LG cs.SI
