Multi-Label Transfer Learning in Non-Stationary Data Streams
Insight Centre for Data Analytics, School of Computer Science, University College Dublin, Ireland（数据分析洞察中心、计算机科学学院、都柏林大学学院，爱尔兰）；School of Computer Science, University of Birmingham, United Kingdom（计算机科学学院、伯明翰大学，英国）；School of Computing and Mathematical Sciences, University of Leicester, United Kingdom（计算与数学科学学院、莱斯特大学，英国）
针对非平稳多标签数据流中的概念漂移，提出BR-MARLENE和BRPW-MARLENE两种迁移学习方法，通过标签间知识及成对依赖迁移，在实验中优于现有方法。
2025-09-09 cs.AI cs.LG
Balancing Efficiency vs. Effectiveness and Providing Missing Label Robustness in Multi-Label Stream Classification
Bilkent University（比尔肯特大学）
针对数据流多标签分类中效果与效率难以平衡、缺失标签鲁棒性不足的问题，提出以BELS为基分类器的加权二元相关性方法ML-BELS，结合选择性漂移自适应和标签基数触发的加权策略，在多数据集上验证其性能与鲁棒性。
2023-10-01 cs.LG
Implicit Concept Drift Detection for Multi-label Data Streams
Bilkent University（比尔肯特大学）
随着对处理快速变化数据的算法的需求增加，许多现实世界的应用程序采用多标签数据流。数据分布的变化，也称为概念漂移，导致现有的分类模型迅速失去其有效性。为了帮助分类器，我们提出了一种新的算法，称为标签依赖漂移检测器（LD3），一个隐式（无监督）的概念漂移检测器，使用标签依赖性的数据内的多标签数据流。我们的研究利用标签之间的动态时间依赖性使用标签影响排名方法，该方法利用数据融合算法，并使用产生的排名来检测概念漂移。LD3是多标签分类问题领域的第一个无监督概念漂移检测算法。在这项研究中，我们进行了广泛的评估LD3通过比较它与14个流行的监督概念漂移检测算法，我们适应问题领域使用12个数据集和基线分类器。结果表明，LD 3提供了19.8%和68.6%之间更好的预测性能比可比的检测器在现实世界和合成数据流。
2022-01-31 cs.IR cs.LG
Multi-label Stream Classification with Self-Organizing Maps
Federal University of São Carlos（圣卡洛斯联邦大学）；Federal University of Uberlândia（乌贝兰迪亚联邦大学）；INESC TEC；University of Porto（波尔图大学）
已经提出了几种用于离线多标签分类的学习算法。然而，在诸如交通监控、社交网络和传感器等领域中的应用连续地产生数据，即所谓的数据流，这对批量多标签学习提出了挑战。由于数据流的分布缺乏平稳性，需要新的算法来在线适应这种变化（概念漂移）。此外，在实际应用中，变化发生在无限延迟标签的场景中，其中到达实例的真实类永远不可用。提出了一种基于自组织映射的在线无监督增量式多标签流分类方法。在分类阶段，我们使用k-近邻策略来计算地图中的获胜神经元，通过在线调整神经元权重向量和数据集标签基数来适应概念漂移。我们使用贝叶斯规则和每个神经元的输出来预测每个实例的标签，调整流中类的概率和条件概率。使用合成和真实数据集的实验表明，我们的方法是非常有竞争力的几个文献中，在固定和概念漂移的情况下。
2020-04-20 cs.LG stat.ML
Continual Learning on Noisy Data Streams via Self-Purified Replay
NALBI Inc.（NALBI公司）；Seoul National University（首尔大学）
在现实世界中持续学习必须克服许多挑战，其中噪声标签是一个常见且不可避免的问题。在这项工作中，我们提出了一个基于替换的持续学习框架，同时解决了灾难性遗忘和噪声标签的第一次。我们的解决方案是基于两个观察;（i）即使有噪声标签，通过自监督学习也可以减轻遗忘，以及（ii）重放缓冲区的纯度至关重要。在此基础上，我们提出了我们方法的两个关键组成部分：（i）一种名为Self-Replay的自监督重放技术，可以避免由噪声标记数据产生的错误训练信号，以及（ii）Self-Centered filter，通过基于中心的随机图集成来维护纯化的重放缓冲区。MNIST，CIFAR-10，CIFAR-100和WebVision与现实世界的噪音的实证结果表明，我们的框架可以保持一个高度纯净的重放缓冲区中嘈杂的流数据，同时大大优于国家的最先进的持续学习和嘈杂的标签学习方法的组合。源代码可在http://vision.snu.ac.kr/projects/SPR上获得
2021-10-14 cs.LG
Streaming Label Learning for Modeling Labels on the Fly
Georgia Institute of Technology（佐治亚理工学院）；Anonymous University（匿名大学）
在多标签学习中，处理大量的标签是具有挑战性的。然而，现有的方法显式或隐式地假设学习过程中的所有标签都是给定的，这在不断变化的环境中很容易被违反。在本文中，我们定义并研究了流标签学习（SLL），即，标签是即时到达的，以便在从过去的标签学习的知识的帮助下对新到达的标签进行建模。SLL的核心是探索和利用新标签和过去标签之间的关系，然后将这种关系继承到标签的假设中，以提高新分类器的性能。具体而言，我们使用标签自我表征来模拟标签关系，SLL将分为两个步骤：回归问题和经验风险最小化（ERM）问题。这两个问题都很简单，可以有效地解决。我们进一步表明，SLL可以产生一个更严格的推广误差界的新标签比一般的ERM框架与跟踪范数或Frobenius范数正则化。最后，我们在各种基准数据集上进行了广泛的实验，以验证新的设置。实验结果表明，SLL能够有效地处理不断出现的新标签，并提供了良好的分类性能。
2016-04-19 cs.LG stat.ML
A Conditioned Unsupervised Regression Framework Attuned to the Dynamic Nature of Data Streams
National Research Council（国家研究委员会）
针对实时标签稀缺的流数据环境，提出一种结合ADWIN算法和RMSE的无监督自适应回归框架，通过动态漂移检测实现模型持续适应，在多个数据集上表现优于非自适应基线。
2024-04-24 cs.LG
A Novel Online Real-time Classifier for Multi-label Data Streams
提出了一种新的基于极限学习机的实时的【形】数据流在线多标记分类器。多标签分类是近年来机器学习研究的热点之一，由于其在现实世界中的应用迅速增加，受到了广泛的关注。与传统的二进制和多类分类相比，多标签分类涉及同时将每个输入样本与一组目标标签相关联。在文献中没有实时的【形】基于在线神经网络的多标签分类器。在本文中，我们利用极限学习机所表现出的高速的固有性质，开发了一种新的在线实时的【形】分类器的多标签数据流。开发的分类器进行了实验，从不同的应用领域的一致性，性能和速度的数据集。实验结果表明，该方法在速度和准确率方面均优于现有的最新技术，能够实时的【形】对多标签数据流进行分类.
2016-08-31 cs.AI cs.LG cs.NE
Incremental Active Opinion Learning Over a Stream of Opinionated Documents
Swedish Institute of Computer Science (SICS Swedish ICT)（瑞典计算机科学研究所（SICS瑞典信息与通信技术研究院））；Ludwig-Maximilians University（路德维希-马克西米利安大学）；Otto-von-Guericke University（奥托·冯·格里克大学）
从自认为的文档（如tweets或产品评论）中学习的应用程序面临两个挑战。首先，固执己见的文件构成了一个不断发展的流，其中作者的态度和词汇本身可能会发生变化。其次，文档的标签是稀缺的，单词的标签是不可靠的，因为一个词的情感取决于作者心中的（未知的）上下文。大多数关于在固执己见的流上进行挖掘的研究都集中在问题的第一个方面，而对于第二个方面，则假设流中的标签持续供应。这样的假设是乌托邦式的，因为流是无限的，标签成本是禁止的。为此，我们研究了主动流学习算法的潜力，要求标签的需求。我们提出的ACOSTREAM 1方法只适用于有限的标签：它使用标记文档的初始种子，偶尔会向人类专家请求文档的额外标签，并在利用可用标记文档的同时逐渐适应底层流。在其核心，ACOSTREAM由一个MNB分类器加上“采样”策略，为新的未标记的文档请求类标签。在实验中，我们通过改变以下参数来评估分类器随时间的性能：（a）固执己见流的类分布，同时假设词汇表中的单词集是固定的，但它们的极性可能会随着类分布而变化;以及（b）每个时刻到达的未知单词的数量，而类极性也可能会变化。我们的研究结果表明，主动学习流的意见，文件，提供了良好的性能，而需要一个小的选择标签
2015-09-03 cs.CL cs.IR cs.LG
A Clustering-based Framework for Classifying Data Streams
North Carolina A&T State University（北卡罗来纳农业技术州立大学）；Raytheon Technologies Research Center（雷神技术研究中心）
数据流的非平稳特性对传统的机器学习技术提出了强烈的挑战。尽管已经提出了一些解决方案来扩展用于处理数据流的传统机器学习技术，但是这些方法需要初始标签集或者依赖于专门的设计参数。类别之间的重叠和数据流的标记构成了数据流分类的其他主要挑战。在本文中，我们提出了一个基于聚类的数据流分类框架来处理非平稳数据流，而无需使用初始标签集。该算法采用基于密度的流聚类方法，通过动态阈值捕获新概念，并引入有效的主动标签查询策略，从数据流中不断学习新概念.每个聚类的子聚类结构被探索以处理类之间的重叠。实验结果和定量比较研究表明，该方法提供了统计上更好的或可比的性能比现有的方法。
2021-06-22 cs.AI cs.LG
A Streaming Algorithm for Crowdsourced Data Classification
Telecom ParisTech（巴黎电信学院）；Centrale-Supelec（中央理工-高等电力学院）
我们提出了一种基于众包的数据二进制分类的流算法。该算法通过将她的标签与相同任务上的其他标签进行比较来学习每个标签的能力，并使用此信息来最小化每个任务的预测错误率。我们提供的性能保证，我们的算法为一个固定的人口独立的标签。特别是，我们表明，我们的算法是最佳的意义上说，与已知的标签错误概率的最佳决策相比，累积的遗憾是有限的，独立的任务数量的标签。该算法的复杂性是线性的标记器的数量和任务的数量，一些对数因子。数值实验表明，我们的算法相比，现有的算法，包括简单多数表决和期望最大化算法，在合成和真实数据集的性能。
2016-02-23 cs.LG stat.ML
Toward Robust Semi-supervised Regression via Dual-stream Knowledge Distillation
Chongqing Institute of Green and Intelligent Technology, Chinese Academy of Sciences（重庆绿色智能技术研究所，中国科学院）；Chongqing School, University of Chinese Academy of Sciences（中国科学院大学重庆学院）；Singapore Management University（新加坡管理大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
针对半监督回归中未标记数据利用不足和伪标签噪声问题，提出双流知识蒸馏框架（DKD），通过蒸馏连续值知识和分布信息，并结合解耦分布对齐模块，提升回归预测的鲁棒性和样本效率。
2026-05-27 cs.LG
A Novel Online Stacked Ensemble for Multi-Label Stream Classification
Bilkent University（比尔肯特大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
随着数据流变得越来越普遍，挖掘这种瞬态和动态数据的在线算法的必要性变得更加清晰。多标签数据流分类是一个监督学习问题，其中数据流中的每个实例被分类到一个或多个预定义的标签集合中。已经提出了许多方法来解决这个问题，包括但不限于基于集合的方法。这些基于集成的方法中的一些是专门设计用于某些多标签基础分类器的;另一些则采用在线装袋方案来构建其集成。在这项研究中，我们引入了一种新的在线和动态加权堆叠集成多标签分类，称为GOOWE-ML，利用空间建模为其组件分类器分配最佳权重。我们的模型可以与任何现有的增量多标签分类算法作为其基础分类器。我们使用4个基于GOOWE-ML的多标签集合和7个基线模型对来自不同兴趣领域的7个真实数据集进行实验。我们的实验表明，相对于其他突出的集成模型，GOOWE-ML集成在几乎所有数据集的预测性能方面都产生了更好的结果。
2018-09-26 cs.IR cs.LG stat.ML
Data Stream Sampling with Fuzzy Task Boundaries and Noisy Labels
The University of Melbourne（墨尔本大学）
针对模糊任务边界与噪声标签的数据流持续学习问题，提出 NTD 采样去偏方法，在四个数据集上以更少 GPU 内存和两倍以上加速保持或提升准确率。
2024-04-07 cs.AI cs.CV cs.LG
A novel online multi-label classifier for high-speed streaming data applications
提出了一种基于极限学习机的高速在线神经网络多标签分类器。在多标签分类中，每个输入数据样本属于一个或多个目标标签。传统的二值分类和多类分类是多标签分类的子集，其中每个样本只属于一个目标类。多标签分类问题比二进制和多类分类问题复杂得多，因为目标标签的数量和对应于每个输入样本的每个目标标签都要被识别。所提出的工作利用极端学习机的高速特性来实现流数据的实时多标签分类。针对高速流数据多标签分类问题，提出了一种新的基于阈值的在线序贯学习算法。所提出的方法进行了实验，从不同的应用领域，如多媒体，文本和生物学的六个不同的数据集。汉明损失，准确性，训练时间和测试时间的建议的技术进行了比较与9个不同的国家的最先进的方法。实验结果表明，该方法在性能和速度方面优于现有的多标签分类器。
2016-09-01 cs.AI cs.LG cs.NE
LdSM: Logarithm-depth Streaming Multi-label Decision Trees
New York University（纽约大学）
我们考虑多标签分类，其目标是从一个非常大的标签集中用最相关的$\textit{subset}$标签来注释每个数据点。有效的注释可以通过平衡树预测器来实现，平衡树预测器即在标签复杂度中具有几何深度的树，其叶子对应于标签。用这种树为实际数据应用设计预测机制是不平凡的，因为它需要适应将示例发送到多个叶子，同时保持高预测精度。在本文中，我们开发的LdSM算法的多标签决策树的建设和训练，其中在树的每个节点，我们优化了一个新的目标函数，有利于平衡分裂，保持高类纯度的孩子节点，并允许发送的例子到多个方向，但与惩罚，防止树过度增长。一旦完成前一个节点，树的每个节点就被训练，从而导致用于训练的流方法。我们从理论上分析了所提出的目标，并表明，最小化它会导致纯粹和平衡的数据分裂。此外，我们还展示了一个提升定理，该定理捕捉了它与多标签分类错误的联系。基准数据集上的实验结果表明，我们的方法实现了高的预测精度和低的预测时间和位置LdSM作为现有的国家的最先进的方法之间的竞争工具。
2020-06-10 cs.LG stat.ML
SLeDGe: Semi-Supervised Learning on Data Streams with Graph Structure Learning
KAIST（韩国科学技术院）
提出SLeDGe方法，通过联合学习预测模型和自适应图结构，在严格内存和标签约束下实现数据流半监督学习，在12个数据集上平均相对准确率提升31.7%（0.1%标签）和14.8%（1%标签）。
2026-06-23 cs.AI cs.LG
Optimizing Class Distribution in Memory for Multi-Label Online Continual Learning
Nanjing University（南京大学）
在线持续学习，特别是当任务身份和任务边界不可用时，是一种具有挑战性的持续学习设置。在线持续学习的一种典型方法是基于重放的方法，该方法通过维护一个称为记忆的重放缓冲区来保存一小部分过去的样本，以克服灾难性遗忘。在处理在线持续学习时，大多数现有的基于回放的方法都集中在单标签问题上，其中数据流中的每个样本只有一个标签。但多标签问题也可能发生在在线持续学习设置中，其中每个样本可能有一个以上的标签。在具有多标签样本的在线设置中，数据流中的类别分布通常是高度不平衡的，并且由于改变属于一个类别的样本的数量可能影响属于其他类别的样本的数量，因此控制存储器中的类别分布是具有挑战性的。但是，存储器中的类分布对于基于重放的存储器获得良好的性能至关重要，特别是当数据流中的类分布高度不平衡时。在本文中，我们提出了一个简单而有效的方法，称为优化类分布在内存（OCDM），多标签在线持续学习。OCDM将内存更新机制表述为一个优化问题，通过求解该优化问题来更新内存。在两个广泛使用的多标签数据集上的实验表明，OCDM可以很好地控制内存中的类分布，并且性能优于其他最先进的方法。
2022-09-23 cs.LG
Autonomous Cross Domain Adaptation under Extreme Label Scarcity
Nanyang Technological University（南洋理工大学）；University of South Australia（南澳大学）；Monash University（莫纳什大学）；Singapore Institute of Manufacturing Technology, A*Star（新加坡科技研究局新加坡制造技术研究院）
跨域多流分类是一个具有挑战性的问题，要求快速的领域自适应，以处理不同的，但相关的流在永无止境的和快速变化的环境。尽管现有的多流分类器假设在目标流中没有标记的样本，但是它们仍然产生昂贵的标记成本，因为它们需要源流的完全标记的样本。针对跨域多流分类问题中的标签短缺问题，提出了一种新的分类方法，即在处理运行前只提供很少的源数据流标签样本。我们的解决方案，即学习流处理部分地面真理（LEOPARD），是建立在一个灵活的深度聚类网络，其隐藏节点，层和集群的添加和删除动态变化的数据分布。深度聚类策略的基础是同时进行特征学习和聚类技术，从而产生聚类友好的潜在空间。领域自适应策略依赖于对抗性领域自适应技术，其中特征提取器被训练为欺骗对源流和目标流进行分类的领域分类器。我们的数值研究表明LEOPARD的有效性，它提供了改进的性能相比，突出的算法在15的24例。LEOPARD的源代码在\url{https://github.com/wengweng001/LEOPARD.git}中共享，以便进一步研究。
2022-09-04 cs.AI cs.LG
SLADE: Detecting Dynamic Anomalies in Edge Streams without Labels via Self-Supervised Learning
KAIST（韩国科学技术院）
提出自监督框架SLADE，通过训练神经网络最小化节点表示漂移并从短期模式生成长期模式，在无标签边流中实现常数时间的动态异常检测，性能优于多种有监督方法。
2024-07-25 cs.LG cs.SI
Efficient Classification of Multi-Labelled Text Streams by Clashing
Universidad Técnica Federico Santa María（费德里科圣玛丽亚理工大学）；University of Bristol（布里斯托大学）
我们提出了一种方法，明确设计的数据流应用程序，需要处理一个几乎无限的数据序列，使用恒定的内存和恒定的处理时间的多标签的文本文档的分类。我们的方法是由一个在线的过程，用于有效地映射到一个低维的特征空间的文本和一个分区的这个空间到一组区域的系统提取和保持用于预测多标签文本注释的统计数据。文档作为一个单词序列被输入系统，映射到分区的一个区域，并使用从同一区域中冲突的标记实例计算的统计数据进行注释。这种方法被称为冲突。我们说明了在现实世界中的文本数据的方法，使用其他文本分类器获得的结果进行比较。此外，我们提供了一个分析的表示空间的维数对系统的预测性能的影响。我们的研究结果表明，在线嵌入确实近似于完整的语料库TF和TF-IDF空间的几何形状。该模型获得竞争力的F措施相对于最准确的方法，使用显着更少的计算资源。此外，该方法实现了更高的宏观平均F测量比具有类似的运行时间的方法。此外，该系统能够比其他方法更快地从部分标记的流中学习。
2016-04-12 cs.AI cs.LG
Instance exploitation for learning temporary concepts from sparsely labeled drifting data streams
Virginia Commonwealth University（弗吉尼亚联邦大学）
由于在线工具和系统数量的增加，从流数据源的持续学习变得越来越流行。处理动态和持久的问题提出了新的挑战，传统的基于批处理的离线算法在计算时间和预测性能方面是不够的。最关键的限制之一是，我们不能假设可以访问有限和完整的数据集-我们必须随时准备好可能补充我们模型的新数据。这就提出了一个关键的问题，提供标签的潜在无限的流。在现实世界中，我们被迫处理非常严格的预算限制，因此，我们将很可能面临注释实例的稀缺性，这在监督学习中是必不可少的。在我们的工作中，我们强调这个问题，并提出了一种新的实例开发技术。我们表明，当：（i）数据的特征在于临时的非平稳概念，（ii）跨越很长时间范围的标签很少，实际上更好的做法是冒过拟合的风险，通过利用我们仅有的标记实例来更积极地适应模型，而不是坚持标准的学习模式并遭受严重的欠拟合。我们提出了不同的策略和配置，我们的方法，以及合奏算法，试图保持一个甜蜜点之间的风险和正常的适应。最后，我们使用与给定问题相关的最先进的流算法对我们的方法进行了复杂的深入比较分析。
2020-09-20 cs.LG stat.ML
Online hierarchical partitioning of the output space in extreme multi-label data stream
Virginia Tech, Virginia Polytechnic Institute and State University（弗吉尼亚理工大学、弗吉尼亚理工学院和州立大学）
iHOMER通过增量分层方法提升在线多标签分类性能，有效应对概念漂移和非平稳性挑战。
2025-07-28 cs.AI cs.LG
Act Now: A Novel Online Forecasting Framework for Large-Scale Streaming Data
School of Information Science and Engineering, Shandong University（山东大学信息科学与工程学院）；School of Control Science and Engineering, Shandong University（山东大学控制科学与工程学院）；Ocean College, Jiangsu University of Science and Technology（江苏科技大学海洋学院）；School of Qilu Transportation, Shandong University（山东大学齐鲁交通学院）；Shandong Key Laboratory of Intelligent Communication and Sensing-Computing Integration（山东省智能通信与感知计算集成重点实验室）
针对现有在线预测方法存在信息泄露、概念漂移加剧、验证集缺失及GPU支持不足等问题，提出Act-Now框架，通过RSS算法、FSB/SSB双缓冲区更新、Lade模型及验证集在线更新，在大规模流数据上性能平均提升28.4%和19.5%。
2024-11-28 cs.LG
A Natural Language-Inspired Multi-label Video Streaming Traffic Classification Method Based on Deep Neural Networks
Michigan State University（密歇根州立大学）
本文提出了一种基于深度学习的流量分类方法，用于在加密隧道内同时识别多个流式视频源。这项工作定义了一个受自然语言处理（NLP）启发的新功能，允许现有的NLP技术帮助流量分类。描述了特征提取方法，并创建了包含视频流和Web流量的大型数据集来验证其有效性。通过应用几种NLP方法获得的结果表明，所提出的方法在二进制和多标签流量分类问题上都表现良好。我们还展示了该方法实现zero-shot学习的能力。
2019-06-04 cs.CV cs.LG eess.SP
Active Weighted Aging Ensemble for Drifted Data Stream Classification
Wrocław University of Science and Technology（弗罗茨瓦夫科技大学）
流数据分类的一个重要问题是概念漂移的发生，包括分类任务的概率特性的变化。这种现象使分类模型的性能不稳定，并严重降低其质量。一个适当的策略抵消这种现象是需要适应分类器的变化的概率特性。实现这种解决方案的一个重要问题是对数据标签的访问。它通常是昂贵的，因此为了最小化与该过程相关的费用，提出了基于半监督学习的学习策略，例如，采用主动学习方法来指示哪些传入对象有价值被标记以改进分类器的性能。本文提出了一种新的基于分类器集成学习的非平稳数据流的基于块的方法和一种考虑有限预算的主动学习策略，可以成功地应用于任何数据流分类算法。所提出的方法已通过计算机实验，使用真实的和生成的数据流进行评估。结果证实了所提出的算法的高品质的国家的最先进的方法。
2021-12-19 cs.LG
Sparse Uncertainty-Informed Sampling from Federated Streaming Data
Technical UAS Würzburg-Schweinfurt（维尔茨堡-施韦因富特应用技术大学）；Bielefeld University（比勒费尔德大学）；Center for Artificial Intelligence and Robotics（人工智能与机器人中心）
本文针对联邦客户端系统中资源受限且标注数据稀缺的非I.I.D.数据流采样问题，提出一种稀疏不确定性知情采样方法，可在本地标注预算内即时识别相关观测并做出标注决策，无需内存缓冲，实验证明其能提升训练批次多样性和数值稳健性。
2024-08-30 cs.CV cs.LG
Stream-based Active Learning with Verification Latency in Non-stationary Environments
Bielefeld University（比勒费尔德大学）；Honda Research Institute Europe（本田欧洲研究院）
数据流分类是机器学习领域的一个重要问题。由于数据的非平稳性，其中基础分布随时间变化（概念漂移），模型需要不断适应新的数据统计。基于流的主动学习（AL）方法通过在有限的预算内交互式地询问人类专家来为最近的样本提供新的数据标签来解决这个问题。现有的AL策略假设标签是立即可用的，而在现实世界的场景中，专家需要时间来提供查询的标签（验证延迟），并且当所请求的标签到达时，它们可能不再相关。在这篇文章中，我们调查有限的，时变的，和未知的验证延迟的影响，在存在概念漂移AL方法。我们提出了PRopagate（PR），一个延迟独立的实用程序估计，也预测所要求的，但还不知道，标签。此外，我们提出了一个漂移依赖的动态预算策略，它使用的标签预算随着时间的推移，检测到漂移后的变量分布。全面的实验评估，与合成和真实世界的非平稳数据集，以及不同的设置验证延迟和预算进行和分析。我们的经验表明，所提出的方法始终优于国家的最先进的。此外，我们证明，与可变的预算分配的时间，这是可能的，以提高性能的AL策略，而不增加整体的标签预算。
2022-09-12 cs.AI cs.LG
Scalable Teacher Forcing Network for Semi-Supervised Large Scale Data Streams
Nanyang Technological University（南洋理工大学）；Monash University（莫纳什大学）；Johannes Kepler University（约翰内斯·开普勒大学）；La Trobe University（乐卓博大学）；Universitas Muhammadiyah Malang（玛琅穆罕默迪亚大学）
大规模数据流问题是指在传统计算平台下无法以可扩展的方式处理的高速信息流。这个问题还带来了昂贵的标签成本，使得部署完全监督算法不可行。另一方面，半监督的大规模数据流的问题很少在文献中探讨，因为大多数作品都是在传统的单节点计算环境中设计的，同时也是完全监督的方法。本文提出了弱监督可扩展教师强迫网络（WeScatterNet），以同时应对标记样本的稀缺性和大规模数据流。WeScatterNet是在Apache Spark的分布式计算平台下构建的，采用无数据模型融合策略，在并行计算阶段后进行模型压缩。它具有一个开放的网络结构，以解决全球和本地漂移的问题，同时集成了数据增强，注释和自动校正（$DA^3$）的方法来处理部分标记的数据流。WeScatterNet的性能进行了数值评估，在六个大规模的数据流问题，只有$25\%$标签比例。即使与具有$100\%$标签比例的完全监督学习器相比，它也显示出高度竞争性的性能。
2021-06-26 cs.AI cs.DC cs.LG
Dual-stream Maximum Self-attention Multi-instance Learning
University of Wisconsin at Madison（威斯康星大学麦迪逊分校）
多实例学习（MIL）是弱监督学习的一种形式，其中单个类标签被分配给一组实例，而实例级标签不可用。训练分类器以准确地确定袋标签和实例标签在许多实际场景中是一项具有挑战性但关键的任务，例如计算组织病理学。近年来，由神经网络完全参数化的MIL模型由于其高度的灵活性和优越的性能而变得流行。这些模型中的大多数依赖于注意力机制，该机制在包中的实例嵌入之间分配注意力分数，并使用聚合运算符产生包嵌入。提出了一种基于神经网络参数化的双流最大自注意MIL模型。第一个流部署一个简单的MIL最大池，而顶部激活的实例嵌入被确定并用于获得第二个流中的实例嵌入的自我注意力分数。与以往大多数方法不同，该模型基于相同的实例嵌入联合学习一个实例分类器和一个包分类器。实验结果表明，我们的方法实现了优越的性能相比，最好的MIL方法，并展示了最先进的性能基准MIL数据集。
2020-06-09 cs.CV cs.LG
Large Scale Distributed Semi-Supervised Learning Using Streaming Approximation
Google Inc.（谷歌公司）；Carnegie Mellon University（卡内基梅隆大学）；Singapore Mgt. University（新加坡管理大学）
传统的基于图的半监督学习（SSL）方法，即使被广泛应用，也不适合海量数据和大标签场景，因为它们随着边$|E|$和不同标签$m$的数量线性缩放。为了处理大的标签大小的问题，最近的作品提出了基于草图的方法来近似每个节点上的标签的分布，从而实现了从$O(m)$到$O(\log m)$的空间减少，在某些条件下。在本文中，我们提出了一种新的基于流图的SSL近似，捕捉标签分布的稀疏性，并确保算法准确地传播标签，并进一步降低每个节点的空间复杂度为$O(1)$。我们还提供了一个分布式版本的算法，可以很好地扩展到大数据大小。在真实数据集上的实验表明，新方法比现有的最先进的算法具有更好的性能，显着减少内存占用。我们还研究了自然语言应用程序的不同图构建机制，并提出了一种鲁棒的图增强策略，该策略使用最先进的无监督深度学习架构进行训练，从而进一步提高质量。
2016-05-16 cs.AI cs.LG
Towards Robust Human Activity Recognition from RGB Video Stream with Limited Labeled Data
Georgia State University（佐治亚州立大学）
基于视频流的人体活动识别近年来受到了广泛的关注。由于缺乏深度信息，与基于RGB-D视频的解决方案相比，基于RGB视频的活动识别性能较差。另一方面，获取深度信息、惯性等是昂贵的，需要特殊的设备，而RGB视频流在普通相机中是可用的。因此，我们的目标是调查是否可以实现类似的，甚至更高的准确性与RGB的唯一模式。在这方面，我们提出了一种新的框架，耦合从RGB视频提取的骨架数据和深度双向长短期记忆（BLSTM）模型的活动识别。训练这种深度网络的一大挑战是有限的训练数据，而探索仅RGB流大大夸大了难度。因此，我们提出了一组算法技术来有效地训练该模型，例如，数据增强、动态帧丢失和梯度注入。实验表明，我们的RGB解决方案超越了最先进的方法，所有利用RGB-D视频流的显着保证金。这使得我们的解决方案可以广泛部署在普通相机上。
2018-12-16 cs.AI cs.CV cs.LG
Budgeted Online Active Learning with Expert Advice and Episodic Priors
Oregon State University（俄勒冈州立大学）；Washington State University（华盛顿州立大学）
本文针对标签预算极少的有限时域数据流，提出一种同时利用专家预测器和情景行为先验的预算在线主动学习方法，并在农业模拟与真实葡萄数据上验证其显著优于现有基线。
2025-06-03 cs.LG
Continual Learning on a Diet: Learning from Sparsely Labeled Streams Under Constrained Computation
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；University of Oxford（牛津大学）
本文提出DietCL，针对计算预算受限且标注稀疏的持续学习场景，通过联合利用标注与未标注数据并精心分配计算资源，在多个大规模数据集上显著超越现有监督和半监督持续学习方法。
2024-06-08 cs.CV cs.LG
QActor: On-line Active Learning for Noisy Labeled Stream Data
TU Delft（代尔夫特理工大学）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；ABB Future Labs（ABB未来实验室）
对于不断发布在网络和社交媒体上的自我生成内容来说，嘈杂的标记数据更像是一种常态，而不是罕见的。由于隐私问题和政府法规，这样的数据流只能在有限的时间内存储和用于学习目的。为了克服这种在线情况下的噪声，我们提出了QActor，它结合了：通过质量模型选择理应干净的样本，并积极查询最翔实的真实标签的预言。虽然前者可能受到在线场景数据量低的影响，但后者受到人类专家可用性和成本的限制。QActor迅速结合了数据过滤质量模型和Oracle查询的优点，以清理信息量最大的数据。QActor的目标是利用严格的Oracle预算来最大限度地提高学习精度。QActor探索了结合不同查询分配和不确定性度量的各种策略。QActor的一个核心特性是根据每个数据批次的学习损失动态调整查询限制。我们广泛评估了输入分类器的不同图像数据集，这些数据集可以是标准的机器学习（ML）模型或深度神经网络（DNN），噪声标签比率在30%到80%之间。我们的研究结果表明，QActor几乎可以匹配仅使用干净数据实现的最佳准确度，其代价是最多额外增加6%的oracle地面真实数据。
2020-01-28 cs.LG stat.ML
A Study on Classification in Imbalanced and Partially-Labelled Data Streams
University of Manchester（曼彻斯特大学）
射电天文学领域目前正面临着重大的计算挑战，其中最重要的是世界上最大的射电望远镜平方公里阵列（SKA）的发展所带来的挑战。该仪器的初步规格表明，最终设计将包括2000至3000个15米接收天线，这些天线合在一起预计将产生许多TB/s的数据速率。鉴于如此高的数据速率，考虑如何处理和存储这些信息以最大限度地发挥其科学效用变得至关重要。在本文中，我们考虑一种可能的数据处理方案的SKA，全天脉冲星调查的目的。特别是，我们把选择有前途的信号从SKA处理管道作为一个数据流分类问题。我们认为，通过一个未标记的和严重类不平衡的数据流到达的信号进行分类的可行性，使用目前可用的算法和框架。我们的研究结果表明，现有的流学习器在标准配置中使用时，对真实天文数据的召回率低得令人无法接受;然而，良好的误报性能和与静态学习器相当的准确性表明，它们具有一定的潜力，可以作为这一特定大数据挑战的在线解决方案。
2013-07-30 astro-ph.IM cs.LG
Active Cost-aware Labeling of Streaming Data
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文研究流数据的主动标注问题，提出基于不确定性与成本相关阈值的标注策略，在离散和连续输入场景下分别给出损失上界与匹配下界，并通过合成及医学、天文学真实实验验证其优于基线方法。
2023-07-04 cs.LG stat.ML
CADM: Confusion Model-based Detection Method for Real-drift in Chunk Data Stream
Beijing Institute of Technology（北京理工大学）；Tsinghua University（清华大学）
概念漂移检测由于其在健康监测和故障诊断等实际应用中的重要性而引起了人们的广泛关注。传统上，大多数先进的方法在环境的评价标准发生变化（即概念漂移）时性能较差，只能检测和适应虚拟漂移。在本文中，我们提出了一种新的方法来检测块数据流中的实际漂移有限的注释的基础上概念混淆。当新的数据块到达时，我们使用真实标签和伪标签来更新预测和漂移检测后的模型。在这种情况下，一旦发生漂移，模型将被混淆并产生预测差异。然后，我们采用余弦相似性来衡量差异。并提出了一种自适应阈值法来发现异常值。实验结果表明，该方法具有较低的虚警率和漏报率与利用不同的分类器。
2023-03-25 cs.LG
Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries
NAVER CLOVA；NAVER AI Lab（NAVER人工智能实验室）；GIST（光州科学技术院）；Seoul National University（首尔国立大学）；Yonsei University（延世大学）
在具有不正确标签的连续变化的数据分布下学习是一个理想的现实世界问题，但具有挑战性。然而，大量的持续学习（CL）方法假设数据流具有干净的标签，并且在有噪声的数据流下的在线学习场景尚未被充分探索。我们考虑一个更实际的CL任务设置的在线学习从模糊的数据流与损坏的标签，现有的CL方法的斗争。为了解决这个问题，我们首先讨论了持续学习模型中情景记忆中样例的多样性和纯度的重要性。为了平衡情景记忆的多样性和纯度，我们提出了一种新的策略来管理和使用记忆的标签噪声感知不同的采样和鲁棒学习与半监督学习的统一方法。我们对四个真实世界或合成噪声数据集（CIFAR 10和100，mini-WebVision和Food-101 N）的经验验证表明，我们的方法在这种现实和具有挑战性的持续学习场景中显着优于现有技术。代码和数据分割可以在https://github.com/clovaai/puridiver上找到。
2022-03-30 cs.AI cs.CV cs.LG
Streaming Active Deep Forest for Evolving Data Stream Classification
Griffith University（格里菲斯大学）；Robert Gordon University（罗伯特戈登大学）
近年来，深度神经网络（DNN）在机器学习的许多领域都取得了进展。DNN的逐层过程激发了许多深度模型的开发，包括深度集成。最值得注意的基于深度集成的模型是Deep Forest，它可以实现极具竞争力的性能，同时与DNN相比具有更少的超参数。尽管Deep Forest在批量学习环境中取得了巨大的成功，但它并没有努力适应不断变化的数据流。在这项工作中，我们介绍了流深森林（SDF）算法，一个高性能的深度集成方法，专门适用于流分类。我们还提出了增强变量不确定性（AVU）的主动学习策略，以减少标记成本的流上下文。我们比较所提出的方法，以国家的最先进的流算法在广泛的数据集。实验结果表明，采用AVU主动学习策略，SDF在标注预算仅为70%的情况下，其性能明显优于其他方法。
2020-02-26 cs.LG stat.ML
Active learning for data streams: a survey
Technical University of Denmark（丹麦技术大学）；Norwegian University of Science and Technology（挪威科技大学）；Luleå University of Technology（吕勒奥理工大学）
本文综述了面向数据流的在线主动学习方法，系统梳理了实时选择最具信息量观测进行标注的各类技术，并分析了其优势、局限及面临的挑战与机遇。
2023-11-29 cs.LG stat.ME stat.ML
Learning from a single labeled face and a stream of unlabeled data
Technicolor Labs（Technicolor实验室）；Inria Lille - Nord Europe（Inria里尔-北欧洲）；team SequeL Lille, France（SequeL团队，里尔，法国）
本文提出在仅有一张标注人脸和大量未标注数据的情况下，通过单类分类方法提升人脸识别性能，实验表明其在43人数据集上达到90%的识别率，优于基线方法。
2026-10-06 cs.LG stat.ML
SiameseDuo++: Active Learning from Data Streams with Dual Augmented Siamese Networks
KIOS Research and Innovation Center of Excellence, University of Cyprus（塞浦路斯大学KIOS卓越研究与创新中心）；Department of Electrical and Computer Engineering, University of Cyprus（塞浦路斯大学电气与计算机工程系）
本文提出SiameseDuo++方法，通过潜在空间中的双重增强孪生网络与主动学习策略，在有限内存和标注预算下实现高效数据流学习，实验证明其优于现有方法。
2025-04-06 cs.LG
Structuring the Processing Frameworks for Data Stream Evaluation and Application
organization= Department of Systems；Computer Networks, Wroclaw University of Science
针对数据流分类评估中标签延迟且获取有限的问题，本文综述并模拟验证现有处理技术，提出考虑标签延迟的数据流处理框架分类法及漂移检测与分类方法的关联。
2024-11-11 cs.DB cs.LG
Storage Fit Learning with Feature Evolvable Streams
National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
近年来，特征进化学习得到了广泛的研究，当使用流进行学习时，旧的特征会消失，新的特征会出现。传统的方法通常假设在每个时间步的预测之后将显示标签。然而，在实践中，这种假设可能不成立，而在大多数时间步长中不会给出标签。一个很好的解决方案是利用流形正则化技术，利用以前的类似数据来帮助在线模型的改进。然而，这种方法需要存储所有先前的数据，这在使用大量顺序到达的流进行学习时是不可能的。因此，我们需要一个缓冲区来存储其中的一部分。考虑到不同的设备可能有不同的存储预算，学习方法应该是灵活的存储预算限制。在本文中，我们提出了一个新的设置：适应的可进化流学习（SF $^2$ EL），它将很少提供标签的问题纳入特征进化。我们的框架能够适应不同的存储预算时，学习与未标记的数据特征可进化流的行为。此外，理论和实验结果都验证了我们的方法可以保持原始特征进化学习的优点，即，可以始终跟踪最佳基线，从而在任何时间步长都能表现良好。
2021-02-23 cs.LG stat.ML
STREAMLINE: Streaming Active Learning for Realistic Multi-Distributional Settings
University of Texas, Dallas（德克萨斯大学达拉斯分校）；Google Research India（谷歌印度研究院）
提出STREAMLINE流式主动学习框架，通过片段识别、预算分配和数据选择缓解多分布数据流中的切片不平衡问题，在图像分类和目标检测任务中显著提升关键切片性能。
2023-05-18 cs.CV cs.LG
An Evolving Population Approach to Data-Stream Classification with Extreme Verification Latency
De Montfort University（德蒙福特大学）
本文提出一种演化种群方法，通过维护每类的一类分类器集成并施加选择压力，在无标签的极端延迟数据流中适应变化，保持分类准确率。
2023-12-07 cs.AI cs.LG cs.NE
All Eyes on the Workflow: Automated and Efficient Event Discovery from Video Streams
Chair of Process and Data Science, RWTH Aachen University（过程与数据科学教授席位，亚琛工业大学）；Artificial Intelligence & Machine Learning Lab, Technical University of Darmstadt（人工智能与机器学习实验室，达姆施塔特技术大学）
提出SnapLog方法，利用图像嵌入和帧间相似矩阵进行时间分割，结合广义少样本分类从视频中提取事件数据，生成可解释的带标签时间戳帧序列。
2026-06-18 cs.CV cs.LG
Rethinking Tabular Foundation Models On Data Streams
AI Institute, University of Waikato（怀卡托大学人工智能研究所）；LIP6, CNRS, Sorbonne Université（索邦大学CNRS LIP6实验室）；GECAD, Polytechnic of Porto（波尔图理工学院GECAD研究中心）
本文系统研究表格基础模型在数据流上的表现，发现其预测性能最优，简单保留最近示例即可，但服务成本高，需提升架构效率。
2026-10-06 cs.AI cs.LG
Unsupervised Continual Learning in Streaming Environments
Nanyang Technological University（南洋理工大学）
数据流需要一个深度聚类网络，因为它在提取自然特征方面的能力，从而绕过了费力的特征工程步骤。虽然在流媒体环境中自动构建深度网络仍然是一个悬而未决的问题，但它也受到数据流昂贵的标签成本的阻碍，这使得对无监督方法的需求不断增加。本文提出了一种通过同时进行深度学习和聚类来动态构建深度聚类网络的无监督方法，称为自治深度聚类网络（ADCN）。该算法结合了特征提取层和自治全连通层，网络的宽度和深度都是基于重构损失的偏差-方差分解从数据流中自演化而来的。自聚类机制在每个全连接层的深嵌入空间中执行，而最终输出通过聚类预测得分的总和来推断。此外，一个潜在的正则化被纳入解决灾难性遗忘的问题。一个严格的数值研究表明，ADCN产生更好的性能相比，它的同行，同时提供完全自主的ADCN结构在流媒体环境中的构造，没有任何标记的样本模型更新。为了支持可重复的研究计划，ADCN的代码、补充材料和原始结果可在\url{https://tinyurl.com/AutonomousDCN}中获得。
2021-09-20 cs.AI cs.LG
Label Delay in Online Continual Learning
University of Oxford（牛津大学）；Intel Labs（英特尔实验室）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Meta
针对在线持续学习中被忽视的标签延迟问题，提出显式建模标签延迟的框架及一种简单高效的基线方法，通过排练与未标记样本最相似的已标记记忆样本，有效弥合了标签延迟造成的准确率差距。
2024-04-25 cs.CV cs.LG
FrameScope: Temporal Data Valuation for Stream Active Learning in Autonomous Vehicle Systems
North Carolina State University（北卡罗来纳州立大学）
FrameScope是面向自动驾驶汽车持续学习的时序数据估值框架，将神经正切核理论扩展到时域，通过车辆端局部帧选择降低带宽需求，提升样本效率并减少感知的灾难性遗忘，性能优于现有方法。
2026-09-01 cs.CV cs.LG
Stream-Based Active Learning with Cooperative Neural Networks for Data-Efficient Partial Inverse Design: An Automotive Glass Run Channel Case Study
Pukyong National University（国立釜庆大学）；DRB Co., Ltd.（DRB株式会社）
针对部分逆向设计数据获取昂贵的问题，提出CoNN-AL框架，结合流式主动学习与协作神经网络，在汽车玻璃导槽数据集上以2.3%标签达到近全数据性能，显著减少标注需求。
2026-10-08 cs.AI cs.LG
Concept Drift Adaptation in Text Stream Mining Settings: A Systematic Review
Instituto Federal de Santa Catarina（圣卡塔琳娜联邦教育、科学和技术学院）；Pontifícia Universidade Católica do Paraná (PUCPR)（巴拉那天主教大学）；Instituto Federal de São Paulo（圣保罗联邦教育、科学和技术学院）；Universidade de Campinas（坎皮纳斯大学）；École de Technologie Supérieure, Université du Québec（魁北克大学高等技术学院）；Universidade Estadual de Ponta Grossa（庞塔格罗萨州立大学）
本文对2018-2024年8月48篇论文进行系统综述，分析文本流挖掘场景中概念漂移适应的漂移类别、检测类型、模型更新机制等，还讨论漂移可视化与模拟，指出开放挑战与未来方向。
2024-11-25 cs.CL cs.IR cs.LG
