Sampling in Dirichlet Process Mixture Models for Clustering Streaming Data
Ben-Gurion University(本-古里安大学)
用于聚类流数据的实用工具必须足够快以处理观测的到达率。通常,它们还必须在运行中适应可能缺乏稳定性;即,由于各种形式的漂移、簇数量的变化等,数据统计可能是时间相关的。Dirichlet过程混合模型(DPMM),其贝叶斯非参数性质允许其使其复杂性适应于数据,似乎是流式数据情况的自然选择。然而,在其经典公式中,DPMM无法捕获数据统计中常见的漂移类型。此外,尽管存在这种限制,但现有的在线DPMM推理方法太慢,无法处理快速的数据流。在这项工作中,我们提出了适应DPMM和一个已知的DPMM采样为基础的非流推理方法流数据聚类。我们证明了所提出的方法在几个具有挑战性的设置上的实用性,在那里它获得了最先进的结果,同时在速度方面与其他方法不相上下。
2022-02-27 cs.LG stat.ML
Learning Parameter Distributions to Detect Concept Drift in Data Streams
University of Tuebingen(图宾根大学)
流环境中的数据分布通常不是静止的。为了始终保持高预测质量,在线学习模型需要适应分布变化,这被称为概念漂移。概念漂移的及时和鲁棒的识别可能是困难的,因为我们永远无法访问流数据的真实分布。在这项工作中,我们提出了一个新的框架,用于检测真正的概念漂移,称为ERICS。通过将预测模型的参数视为随机变量,我们证明了概念漂移对应于最优参数分布的变化。为此,我们采用信息论的共同措施。所提出的框架是完全模型不可知的。通过选择一个合适的基础模型,ERICS也能够检测输入级的概念漂移,这是一个显着的优势,现有的方法。几个合成和真实世界的数据集的评价表明,所提出的框架识别概念漂移更有效,更准确地比各种现有的作品。
2020-10-19 cs.LG stat.ML
Learning under Concept Drift: A Review
概念漂移描述了流数据的底层分布随时间的不可预见的变化。概念漂移研究涉及漂移检测、理解和适应的方法和技术的发展。数据分析表明,如果不解决概念漂移问题,那么概念漂移环境中的机器学习将导致较差的学习结果。为了帮助研究人员确定哪些研究主题是重要的,以及如何在数据分析任务中应用相关技术,有必要对概念漂移领域的当前研究进展和趋势进行高质量,有指导意义的回顾。此外,由于近年来概念漂移的快速发展,概念漂移下的学习方法已经变得非常系统,揭示了一个在文献中没有提到的框架。本文回顾了130多篇概念漂移相关研究的文献,分析了概念漂移研究方法和技术的最新进展,建立了概念漂移下的学习框架,包括概念漂移检测、概念漂移理解和概念漂移适应三个主要部分。本文列出并讨论了10个流行的合成数据集和14个公开可用的基准数据集,用于评估针对处理概念漂移的学习算法的性能。此外,概念漂移相关的研究方向涵盖和讨论。通过提供最先进的知识,这项调查将直接支持研究人员在他们的理解在概念漂移下的学习领域的研究进展。
2020-04-13 cs.LG stat.ML
Exponentially Weighted Moving Average Charts for Detecting Concept Drift
Imperial College(帝国理工学院)
对流数据进行分类需要开发计算效率高并且能够应对流的底层分布变化的方法,这种现象在文献中称为概念漂移。我们提出了一种新的方法来检测概念漂移,使用指数加权移动平均(EWMA)图来监测流分类器的错误分类率。我们的方法是模块化的,因此可以与任何底层分类器并行运行,以提供额外的概念漂移检测层。此外,我们的方法是计算效率与开销O(1)和工作在一个完全在线的方式,不需要在内存中存储数据点。与许多现有的概念漂移检测方法不同,我们的方法允许假阳性检测的速率随着时间的推移而被控制并保持恒定。
2012-12-25 cs.LG stat.AP stat.ML
K-means for Evolving Data Streams
Basque Center for Applied Mathematics(巴斯克应用数学中心)
目前,世界范围内产生的数据量正在以无法衡量的方式增长,因此必须不断处理大量无监督数据。无监督数据分析的主要方法之一是聚类。在流数据场景中,数据由不断增加的批量样本序列组成,其中可能会发生概念漂移现象。在本文中,我们正式定义的流$K$ -手段(S $K$ M)的问题,这意味着重新启动的错误功能时,发生的概念漂移。我们提出了一个替代误差函数,不依赖于概念漂移检测。我们证明,代理是一个很好的近似S $K$ M错误。因此,我们建议一种算法,最大限度地减少这种替代错误每次一个新的批次到达。我们提出了一些初始化技术的流数据的情况下,以及。除了提供理论结果外,实验证明了非平凡初始化方法的收敛误差的改善。
2021-09-17 cs.LG stat.ML
Adversarial Validation Approach to Concept Drift Problem in User Targeting Automation Systems at Uber
在用户定向自动化系统中,输入数据中的概念漂移是主要挑战之一。随着时间的推移,它会降低新数据的模型性能。以往对概念漂移的研究大多是在观察到性能下降后进行模型再训练。然而,这种方法是次优的,因为系统仅在新数据上表现不佳之后才修复问题。在这里,我们介绍了一个对抗性的验证方法,在用户定位自动化系统的概念漂移问题。通过我们的方法,系统在进行推断之前检测新数据中的概念漂移,训练模型,并产生适应新数据的预测。我们表明,我们的方法有效地解决了概念漂移与AutoML3终身机器学习挑战数据,以及在优步的内部用户定位自动化系统,MaLTA。
2020-06-26 cs.LG stat.ML
Diagnosing Concept Drift with Visual Analytics
Tsinghua University(清华大学);Microsoft(微软);Bloomberg L.P.(彭博有限合伙企业);Arizona State University(亚利桑那州立大学)
本文提出可视化分析方法DriftVis,结合分布漂移检测与流式散点图,帮助分析人员识别、检查并修正流数据中的概念漂移。
2020-09-15 cs.HC cs.LG stat.ML
DriftSurf: A Risk-competitive Learning Algorithm under Concept Drift
Iowa State University(爱荷华州立大学);Carnegie Mellon University(卡内基梅隆大学)
当从流数据中学习时,数据分布的变化(也称为概念漂移)可能会导致先前学习的模型不准确,并需要训练新模型。我们提出了一种自适应学习算法,扩展了以前的漂移检测为基础的方法,将漂移检测到一个更广泛的稳定状态/反应状态的过程。我们的方法的优点是,我们可以在稳态中使用积极的漂移检测来实现高检测率,但是通过对真实漂移快速反应的反应状态来减轻独立漂移检测的误报率,同时消除大多数误报。该算法在其基本学习器中是通用的,并且可以应用于各种监督学习问题。我们的理论分析表明,该算法的风险是有竞争力的算法与预言知识时(突然)漂移发生。在具有概念漂移的合成数据集和真实数据集上的实验证实了我们的理论分析。
2020-08-02 cs.LG stat.ML
Adversarial Concept Drift Detection under Poisoning Attacks for Robust Data Stream Mining
Virginia Commonwealth University(弗吉尼亚联邦大学)
从流数据中进行连续学习是当代机器学习中最具挑战性的课题之一。在这一领域,学习算法不仅要能够处理大量快速到达的数据,而且要使自己适应潜在的新兴变化。数据流的演化性质的现象被称为概念漂移。虽然有大量的方法用于检测其发生,但所有这些方法都假设漂移与数据源的潜在变化有关。但是,必须考虑恶意注入虚假数据以模拟概念漂移的可能性。这种对抗性的设置假设可能进行中毒攻击,以便通过强制适应错误数据来破坏底层的分类系统。现有的漂移检测器不能区分真实的和敌对的概念漂移。在本文中,我们提出了一个强大的概念漂移检测框架中存在的对抗性和中毒攻击。我们介绍了两种类型的对抗性概念漂移的分类,以及一个强大的可训练漂移检测器。它是基于增强的限制玻尔兹曼机与改进的梯度计算和能量函数。我们还介绍了鲁棒性的相对损失-一种新的措施,用于评估中毒攻击下的概念漂移检测器的性能。大量的计算实验,进行充分和稀疏标记的数据流,证明了高鲁棒性和效率的漂移检测框架在对抗性的情况下。
2020-09-20 cs.LG stat.ML
An Adaptive Sampling Framework for Detecting Localized Concept Drift under Label Scarcity
H. Milton Stewart School of Industrial & Systems Engineering(H. Milton Stewart工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);EDF Trading(EDF交易)
针对动态工业环境中标签稀缺和局部概念漂移问题,提出结合基于残差的探索与利用及EWMA监控的自适应采样框架,在标注预算约束下高效提升了漂移检测准确性与标签效率。
2025-11-04 cs.LG stat.ML
Diverse Instances-Weighting Ensemble based on Region Drift Disagreement for Concept Drift Adaptation
概念漂移是指底层数据分布的变化,是数据流演化的固有属性。具有动态分类器的包围学习已被证明是处理概念漂移的有效方法。然而,最好的方式来创建和保持集成多样性与不断变化的流仍然是一个具有挑战性的问题。与通过输入、输出或分类器参数估计多样性相反,我们提出了一种基于集合成员是否同意区域分布变化概率的多样性测量。在我们的方法中,区域分布变化的估计被用作实例权重。通过不同的方案构造不同的区域集合将导致不同的漂移估计结果,从而产生多样性。选择最不同意的分类器以最大化多样性。因此,基于实例的集成学习算法,称为不同的实例加权集成(DiwE),开发解决数据流分类问题的概念漂移。各种合成和真实世界的数据流基准的评估表明,该算法的有效性和优势。
2020-04-13 cs.LG stat.ML
Handling Concept Drift for Predictions in Business Process Mining
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
如今,预测服务在所有业务部门中都发挥着重要作用。然而,部署的机器学习模型受到随着时间推移而改变的数据流的挑战,这被描述为概念漂移。模型的预测质量在很大程度上受到这种现象的影响。因此,概念漂移通常通过重新训练模型来处理。然而,目前的研究缺乏一个建议,哪些数据应该被选择用于重新训练的机器学习模型。因此,在这项工作中,我们系统地分析了不同的数据选择策略。随后,我们实例化我们的发现在过程挖掘的用例,这是强烈的概念漂移的影响。我们可以证明,我们可以提高精度从0.5400到0.7010的概念漂移处理。此外,我们描述了不同的数据选择策略的效果。
2020-05-18 cs.LG stat.ML
STUDD: A Student-Teacher Method for Unsupervised Concept Drift Detection
University of Waikato(怀卡托大学);Télécom ParisTech(巴黎高科电信学院);Dalhousie University(达尔豪斯大学)
概念漂移检测是数据流演化环境中的一项重要任务。设计用于解决该问题的大多数最先进的方法监视预测模型的损失。然而,这种方法在许多现实世界的场景中是不够的,在这些场景中,真实的标签并不容易用于计算损失。在这种情况下,人们越来越关注以无监督方式执行概念漂移检测的方法,即,而无法接触到真正的标签。我们提出了一种新的方法,无监督的概念漂移检测的基础上,学生-教师学习范式。从本质上讲,我们创建了一个辅助模型(学生)来模仿主模型(教师)的行为。在运行时,我们的方法是使用教师预测新的实例,并监测模仿学生的概念漂移检测损失。在一组使用19个数据流的实验中,我们表明,所提出的方法可以检测概念漂移,并提出了一个竞争的行为相对于国家的最先进的方法。
2021-03-01 cs.LG stat.ML
DeepStreamCE: A Streaming Approach to Concept Evolution Detection in Deep Neural Networks
Birmingham City University(伯明翰城市大学)
深度神经网络已经在实验中证明了在决策预测方面优于其他机器学习方法的性能。然而,一个主要的问题是训练类的分类决策的闭集性质,这可能会在安全关键系统中产生严重的后果。当深度神经网络处于流式传输环境中时,需要对该分类进行快速解释以确定分类结果是否可信。当深度神经网络的输入数据随时间变化时,可能会发生不可信分类。一种可能发生的变化是概念进化,其中引入了一个新的类,而深度神经网络没有在其上进行训练。在大多数深度神经网络架构中,唯一的选择是将此实例分配给它在其上进行训练的类之一,这是不正确的。本研究的目的是检测流中新类的到达。现有的解释深度神经网络的工作通常集中在神经元激活,以提供视觉解释和特征提取。我们的新方法,创造了DeepStreamCE,使用流方法在深度神经网络中进行实时概念进化检测。DeepStreamCE在离线阶段使用自动编码器和基于MCOD流的聚类来应用神经元激活减少。两个输出都用于在线阶段,以分析进化流中的神经元激活,从而实时的检测概念进化的发生。我们通过在CIFAR-10数据集的数据组合上训练VGG 16卷积神经网络来评估DeepStreamCE,并提供一些类作为概念进化。为了进行比较,我们将数据和VGG 16网络应用于开放集深度网络解决方案- OpenMax。DeepStreamCE在识别我们数据集的概念演变时优于OpenMax。
2020-04-08 cs.LG stat.ML
From XAI to MLOps: Explainable Concept Drift Detection with Profile Drift Detection
Eskisehir Technical University(埃斯克谢希尔技术大学)
本文提出轮廓漂移检测方法,利用可解释AI工具部分依赖性轮廓图,通过新的漂移度量标准检测概念漂移并理解其原因,实验表明其在保持预测性能的同时有效平衡了漂移信号的敏感性和稳定性。
2026-04-06 cs.LG stat.ML
Handling Concept Drifts in Regression Problems -- the Error Intersection Approach
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);inovex GmbH(inovex有限公司);University of Lübeck(吕贝克大学)
机器学习模型在大数据预测中无处不在。部署模型的一个挑战是数据随时间的变化,这种现象称为概念漂移。如果处理不当,概念漂移会导致严重的预测错误。我们探索了一种新的概念漂移处理方法,它描述了一种策略,用于在回归任务的简单和复杂机器学习模型的应用之间切换。我们假设该方法发挥了每个模型的各自优势,如果发生漂移,则切换到更简单的模型,并在典型情况下切换回复杂的模型。我们实例化的方法在纽约市的出租车需求,这是很容易发生多种漂移,例如,暴风雪的天气现象,导致出租车需求突然减少的真实世界的数据集。我们能够表明,我们建议的方法明显优于所有考虑的基线。
2020-04-01 cs.LG stat.ML
Concept-drifting Data Streams are Time Series; The Case for Continuous Adaptation
从数据流中学习是数据采掘、机器学习和一般人工智能中越来越重要的主题。数据流文献中的一个主要焦点是设计可以处理概念漂移的方法,这是一个生成分布随时间变化的挑战。在大多数文献中的一个一般假设是,实例独立地分布在流中。在这项工作中,我们表明,在概念漂移的背景下,这个假设是矛盾的,概念漂移的存在必然意味着时间依赖性,从而某种形式的时间序列。这对模型设计和部署具有重要意义。我们探索和突出这些影响,并表明,Hoeffding树为基础的合奏,这是非常流行的学习流,不自然适合学习\emph{within}漂移,并可以在这种情况下,只有在显着的计算成本的破坏性适应。另一方面,我们开发和参数化的梯度下降方法,并演示他们如何可以执行\emph{continuous}适应没有明确的漂移检测机制,提供的准确性和效率方面的主要优势。作为我们的理论讨论和实证观察的结果,我们概述了一些建议部署方法的概念漂移流。
2018-10-04 cs.LG stat.ML
Concept Drift Detection via Equal Intensity k-means Space Partitioning
数据流给统计分类任务带来了额外的挑战,因为训练样本和目标样本的分布可能会随着时间的推移而不同。流数据中的这种分布变化被称为概念漂移。已经提出了许多基于直方图的分布变化检测方法来检测漂移。大多数直方图都是基于网格或树的空间划分算法,这使得空间划分任意,无法解释,并可能导致漂移盲点。需要在无监督设置下提高基于直方图的方法的漂移检测精度。为了解决这个问题,我们提出了一个基于聚类的直方图,称为等强度k-means空间分区(EI-kMeans)。此外,还介绍了一种提高漂移检测灵敏度的探试法。提高灵敏度的基本思想是最小化在分布偏移区域中创建分区的风险。皮尔逊卡方检验被用作统计假设检验,以便检验统计量保持独立于样本分布。箱的数量和它们的形状,这强烈影响的能力,检测漂移,动态确定从样本的基础上的渐近约束的卡方检验。相应地,开发了三种算法来实现概念漂移检测,包括贪婪质心初始化算法、簇放大-收缩算法和漂移检测算法。对于漂移自适应,我们建议在检测到漂移时重新训练学习器。在合成数据集和真实数据集上的实验结果表明了EI-kMeans的优势,并显示了其在检测概念漂移方面的有效性。
2020-04-24 cs.LG stat.ML
Concept Drift Detection: Dealing with MissingValues via Fuzzy Distance Estimations
在数据流中,在不同时间点到达的观测值的数据分布可能会发生变化-这种现象称为概念漂移。虽然检测概念漂移是一个相对成熟的研究领域,但对由具有缺失值的观测值引入的不确定性的解决方案仅单独研究。还没有人探索这些解决方案是否或如何影响漂移检测性能。然而,我们认为,数据填补方法实际上可能会增加数据的不确定性,而不是减少它。我们还推测,填补可能会在漂移检测过程中估计分布变化的过程中引入偏差,这可能会使训练学习模型变得更加困难。我们的想法是专注于估计观测值之间的距离,而不是估计缺失值,并定义隶属函数,根据估计误差将观测值分配到直方图箱。我们的解决方案包括一个新的屏蔽远程学习(MDL)算法,以减少由迭代估计每个缺失值在一个观察和模糊加权频率(FWF)的方法,用于识别数据分布的差异所造成的累积误差。本文提出的概念漂移检测算法是一种能够处理缺失值的奇异统一算法,而不是一种与概念漂移检测算法相结合的插补算法。在模拟数据集和真实数据集上的实验表明了该方法的优点,并显示了其在检测缺失值数据漂移方面的鲁棒性。这些发现表明,缺失值对概念漂移检测产生了深远的影响,但使用模糊集理论来建模观察可以产生比插补更可靠的结果。
2020-08-09 cs.LG stat.ML
Automating concept-drift detection by self-evaluating predictive model degradation
Politecnico di Torino(都灵理工大学)
自动化预测性机器学习的一个关键方面需要正确触发训练模型更新的能力。为此,必须设计合适的自动解决方案来自我评估原始训练集和新数据之间的预测质量和数据分布漂移。在本文中,我们提出了一种新的方法来自动检测由于基于类的概念漂移而导致的机器学习模型的预测质量下降,即,当新数据包含不符合当前训练的预测模型已知的类别标签集的样本时。在合成和真实公共数据集上的实验表明,该方法能够有效地自动检测和描述由类标签数据分布变化引起的概念漂移.
2019-07-18 cs.LG stat.ML
Autoregressive based Drift Detection Method
CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);I3S(I3S研究所)
针对现实场景中概念漂移导致模型性能下降的问题,提出可集成到各类机器学习算法的自回归基漂移检测方法ADDM,其性能优于现有方法且有理论保障,还配套了基于漂移严重程度的适配方法。
2023-06-11 cs.LG stat.ML
Concept Drift Detection and Adaptation with Hierarchical Hypothesis Testing
University of Florida(佛罗里达大学);Robert Bosch Research and Technology Center(罗伯特·博世研究与技术中心);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);MZ Inc.(MZ公司);Central China Normal University(华中师范大学)
流媒体环境中的统计分类模型的一个基本问题是预测变量和响应变量之间的联合分布随时间变化(也称为概念漂移的现象),使得它们的分类性能急剧恶化。在本文中,我们首先提出了一个分层的假设检验(HHT)框架,可以检测并适应各种概念漂移类型(例如,周期性或不规则、渐进性或突然性),即使存在不平衡的数据标签。一个新的概念漂移检测器,即分层线性四速率(HLFR),实现下的HHT框架。通过用自适应训练策略取代广泛认可的再训练方案,我们进一步证明了HLFR的概念漂移适应能力可以显着提高。对HLFR的I类和第二类错误进行了理论分析。在模拟和真实数据集上的实验表明,我们的方法在检测精度、检测延迟以及对不同概念漂移类型的适应性方面优于最先进的方法。
2019-02-08 cs.LG stat.ML
A Decision-Based Dynamic Ensemble Selection Method for Concept Drift
Federal University of Amazonas(亚马逊联邦大学);Federal Institute of Amazonas(亚马逊联邦研究所);École de Technologie Supérieure(高等技术学院)
提出了一种基于动态分类器集成选择的在线概念漂移检测方法.该方法通过提高分类器成员间的多样性来生成集成池,并根据全局先验精度值选择专家集成。与只使用本地知识边缘来选择每个实例的最有能力的集成的Currentdynamic集成选择方法不同,我们的方法侧重于考虑到decisionspace的选择。因此,它很好地适应于数据流问题中的漂移检测的上下文。实验结果表明,在不同类型漂移的人工数据集上,该方法具有最高的检测精度和最低的虚警率,且分类准确率具有竞争力.此外,它在分类准确性方面优于基线,无论实际问题数据集如何。
2019-09-26 cs.LG stat.ML
Event Detection in Noisy Streaming Data with Combination of Corroborative and Probabilistic Sources
Georgia Institute of Technology(佐治亚理工学院)
全球物理事件检测传统上依赖于世界各地物理传感器的密集覆盖;虽然这是一项昂贵的工作,但直到最近才有替代方案。现场无处不在的社交网络和人类传感器提供了大量关于世界各地真实物理事件的实时实时数据。然而,虽然这样的人类传感器数据已经被用于回顾性的大规模事件检测,如飓风或地震,但它们在利用这种丰富的资源进行一般物理事件检测方面一直受到限制,没有成功。先前的实现方法已经遭受概念漂移现象,其中真实世界数据在其数据分布中表现出恒定的、未知的、无界的变化,使得静态机器学习模型长期无效。我们提出并实现了一个端到端的协作漂移自适应系统,该系统集成了确证和概率源,以提供实时预测。此外,我们的系统是自适应的概念漂移,并执行自动持续学习,以保持高性能。我们展示了我们的方法在实时演示在线滑坡灾害检测,可扩展到其他现实世界的物理事件,如洪水,野火,飓风和地震。
2019-11-21 cs.LG cs.SI cs.SY
Counterfactual Explanations of Concept Drift
Bielefeld University(比勒费尔德大学)
概念漂移的概念是指观察到的数据的分布随时间变化的现象;因此,机器学习模型可能变得不准确,需要调整。虽然确实存在检测概念漂移或在存在观测漂移的情况下调整模型的方法,但迄今为止几乎没有考虑解释漂移的问题。这个问题是重要的,因为它使最突出的特点,漂移表现出来的检查;因此,它使人类理解的必要性变化,它增加了接受终身学习模式。在本文中,我们提出了一种新的技术,其特征的概念漂移的特征变化的空间特征所代表的典型例子的基础上反事实的解释。我们建立了一个正式的定义,这个问题,推导出一个有效的算法解决方案的基础上反事实的解释,并证明其有用的几个例子。
2020-06-23 cs.LG stat.ME stat.ML
Handling Concept Drift via Model Reuse
Nanjing University(南京大学)
在许多实际应用中,数据往往是以流的形式收集的,因此其分布往往是变化的,这在文献中被称为概念漂移。我们提出了一种新的和有效的方法来处理概念漂移通过模型重用,利用以前的知识重用模型。每个模型与表示其对当前数据的可重用性的权重相关联,并且根据模型性能自适应地调整权重。我们提供概括和遗憾分析。实验结果也验证了我们的方法在合成和真实世界的数据集上的优越性。
2018-09-08 cs.AI cs.LG stat.ML
Request-and-Reverify: Hierarchical Hypothesis Testing for Concept Drift Detection with Expensive Labels
Nokia Bell Labs(诺基亚贝尔实验室);University of Florida(佛罗里达大学)
常见分类模型的一个重要假设是数据的平稳性。然而,在现实世界的流媒体应用中,由特征和标签的联合分布表示的数据概念不是静止的,而是随着时间漂移的。概念漂移检测旨在检测这种漂移并调整模型,以减轻模型预测性能的任何恶化。不幸的是,大多数现有的概念漂移检测方法依赖于一个强大的和过于乐观的条件,真正的标签是立即为所有已经分类的实例。本文提出了一种新的分层假设测试框架,该框架采用请求-再验证策略,仅在必要时请求标签来检测概念漂移。在此框架下,分别提出了两种基于分类不确定性的层次假设检验(HHT-CU)和基于属性拟合优度的层次假设检验(HHT-AG)。在基准数据集的实验中,我们的方法表现出压倒性的优势,超过最先进的无监督漂移检测器。更重要的是,当我们使用更少的标签时,我们的方法甚至优于DDM(广泛使用的监督漂移检测器)。
2018-06-28 cs.AI cs.LG stat.ML
Identifying Predictions That Influence the Future: Detecting Performative Concept Drift in Data Streams
Utrecht University(乌得勒支大学)
研究流学习中模型预测引发的概念漂移(执行性漂移),提出CB-PDD检测方法,在合成与半合成数据集上验证其高效性、低误检率及对内在漂移的弹性。
2025-04-01 cs.CR cs.LG stat.ML
Learning Manifolds from Non-stationary Streaming Data
University at Buffalo(布法罗大学)
基于流形学习的降维方法(例如Isomap)的流改编基于以下假设:小的初始批次的观察足以用于流形的精确学习,而剩余的流数据实例可以廉价地映射到该流形。然而,没有理论结果表明这一核心假设是有效的。此外,这样的方法通常假设底层数据分布是固定的。这样的方法不被装备成检测或处理在数据流传输时可能发生的分布中的突然变化或逐渐漂移。我们提出的理论结果表明,流形的质量渐近收敛的数据的大小增加。然后,我们表明,一个高斯过程回归(GPR)模型,该模型使用流形特定的核函数,并在足够大的初始批次上进行训练,可以接近最先进的流Isomap算法。从探地雷达预测得到的预测方差,然后被证明是一个有效的检测器的基础数据分布的变化。几个合成和真实数据集上的结果表明,所得到的算法可以有效地学习流设置中的高维数据的低维表示,同时识别生成分布中的变化。
2020-07-16 cs.AI cs.LG stat.ML
CONDA-PM -- A Systematic Review and Framework for Concept Drift Analysis in Process Mining
Institute for Databases and Information Systems, Ulm University(乌尔姆大学数据库与信息系统研究所);Faculty of Computers and Information, Mansoura University(曼苏拉大学计算机与信息学院);Faculty of Media Engineering and Technology, German University in Cairo(开罗德国大学媒体工程与技术学院)
业务流程随着时间的推移而发展,以适应不断变化的业务环境。这需要持续监控业务流程,以了解它们是否符合预期设计或偏离预期设计。当业务流程在分析过程中发生变化时,这种情况被称为概念漂移。它的分析涉及研究业务流程如何变化,检测和定位变化并研究后者的影响。概念漂移分析是至关重要的,使早期检测和管理的变化,也就是说,是否促进变化,成为一个改进的过程的一部分,或拒绝变化,并作出决定,以减轻其影响。尽管它的重要性,目前还没有一个全面的框架来分析概念漂移类型,受影响的过程的角度来看,和粒度级别的业务流程。本文提出了流程挖掘中的概念漂移分析(CONDA-PM)框架,描述了概念漂移分析方法的阶段和要求。CONDA-PM源自对分析概念漂移的当前方法的系统性文献综述(SLR)。我们将CONDA-PM框架应用于当前的概念漂移分析方法,并评估其成熟度。应用CONDA-PM框架突出了需要研究以补充现有努力的领域。
2020-09-08 cs.AI cs.LG cs.SE
Proactive Model Adaptation Against Concept Drift for Online Time Series Forecasting
Shanghai Jiao Tong University(上海交通大学)
Proceed 提出一种前瞻性模型适应框架,通过估计和转换概念漂移,提升在线时间序列预测对概念漂移的抗性。
2025-12-18 cs.AI cs.CE cs.LG
Seasonal Averaged One-Dependence Estimators: A Novel Algorithm to Address Seasonal Concept Drift in High-Dimensional Stream Classification
Monash University(莫纳什大学);Seek Group(Seek集团)
流分类方法在新的标记样本到达时对连续的数据流进行分类。他们还经常需要处理概念漂移。本文重点研究流分类中的季节性漂移,这可以在许多实际应用数据源中找到。传统的河流分类方法考虑季节性漂移,包括季节性虚拟/指标变量或为每个季节建立单独的模型。但这些方法在高维分类问题或复杂的季节模式中具有很强的局限性。本文探讨了如何最好地处理季节性漂移的特定情况下的新闻文章分类(或分类/标记),其中季节性漂移是压倒性的主要类型的漂移存在于数据中,并且数据是高维的。我们引入了一种新的分类器名为季节平均单依赖估计(SAODE),它扩展了AODE分类器,包括时间作为一个超级父处理季节漂移。我们使用两个大型的真实世界文本挖掘相关数据集来评估我们的SAODE模型,每个数据集包含大约100万条记录,针对9个最先进的流和概念漂移分类模型,有和没有季节指标,以及为每个季节构建的单独模型。在五种不同的评估技术中,我们表明我们的模型始终优于其他方法,其结果具有统计学意义。
2020-06-27 cs.AI cs.LG stat.AP