Enhancing Counterfactual Image Generation Using Mahalanobis Distance with Distribution Preferences in Feature Space
Jilin University（吉林大学）
本文提出一种基于马氏距离与分布偏好的新方法，通过信息融合技术在黑盒模型特征空间计算特征重要性并生成图像反事实解释，实验证明其在像素和特征空间相似度上优于基线。
2024-05-31 cs.CV cs.LG
Uncertainty quantification for multiclass data description
University of Florida（佛罗里达大学）
本文提出了一种基于核马氏距离的多类数据描述模型（MDD-KM），该模型具有自适应超参数设置。MDD-KM提供了不确定性量化，并可用于为测试数据中存在分布外（OOD）样本的实际情况构建分类系统。给定测试信号，计算与信号和每个训练类之间的经验核Mahalanobis距离相关的量。由于这些量对应于相同的再生核希尔伯特空间，它们是可量化的，因此可以容易地被视为分类分数，而无需进一步应用融合技术。为了设置内核参数，我们利用的事实，即预测方差根据高斯过程（GP）是经验内核马氏距离时，使用集中式内核，并建议使用GP的负似然函数作为成本函数。我们对鸟类音符分类的实际问题进行了实验。我们报告了一个原型分类系统的基础上的层次线性动力系统MDD-KM作为一个组件。我们的分类系统不需要声音事件检测作为预处理步骤，并且能够在测试音频剪辑中的OOD样本（对应于不感兴趣的未知音符）中找到具有不同长度的训练鸟类音符的实例。利用领域知识从原始分类分数中做出明确的决策。我们证明了MDD-KM优于可能性K-最近邻的性能。
2021-08-29 cs.LG
Dual-stream Maximum Self-attention Multi-instance Learning
University of Wisconsin at Madison（威斯康星大学麦迪逊分校）
多实例学习（MIL）是弱监督学习的一种形式，其中单个类标签被分配给一组实例，而实例级标签不可用。训练分类器以准确地确定袋标签和实例标签在许多实际场景中是一项具有挑战性但关键的任务，例如计算组织病理学。近年来，由神经网络完全参数化的MIL模型由于其高度的灵活性和优越的性能而变得流行。这些模型中的大多数依赖于注意力机制，该机制在包中的实例嵌入之间分配注意力分数，并使用聚合运算符产生包嵌入。提出了一种基于神经网络参数化的双流最大自注意MIL模型。第一个流部署一个简单的MIL最大池，而顶部激活的实例嵌入被确定并用于获得第二个流中的实例嵌入的自我注意力分数。与以往大多数方法不同，该模型基于相同的实例嵌入联合学习一个实例分类器和一个包分类器。实验结果表明，我们的方法实现了优越的性能相比，最好的MIL方法，并展示了最先进的性能基准MIL数据集。
2020-06-09 cs.CV cs.LG
Instance exploitation for learning temporary concepts from sparsely labeled drifting data streams
Virginia Commonwealth University（弗吉尼亚联邦大学）
由于在线工具和系统数量的增加，从流数据源的持续学习变得越来越流行。处理动态和持久的问题提出了新的挑战，传统的基于批处理的离线算法在计算时间和预测性能方面是不够的。最关键的限制之一是，我们不能假设可以访问有限和完整的数据集-我们必须随时准备好可能补充我们模型的新数据。这就提出了一个关键的问题，提供标签的潜在无限的流。在现实世界中，我们被迫处理非常严格的预算限制，因此，我们将很可能面临注释实例的稀缺性，这在监督学习中是必不可少的。在我们的工作中，我们强调这个问题，并提出了一种新的实例开发技术。我们表明，当：（i）数据的特征在于临时的非平稳概念，（ii）跨越很长时间范围的标签很少，实际上更好的做法是冒过拟合的风险，通过利用我们仅有的标记实例来更积极地适应模型，而不是坚持标准的学习模式并遭受严重的欠拟合。我们提出了不同的策略和配置，我们的方法，以及合奏算法，试图保持一个甜蜜点之间的风险和正常的适应。最后，我们使用与给定问题相关的最先进的流算法对我们的方法进行了复杂的深入比较分析。
2020-09-20 cs.LG stat.ML
Diverse Instances-Weighting Ensemble based on Region Drift Disagreement for Concept Drift Adaptation
概念漂移是指底层数据分布的变化，是数据流演化的固有属性。具有动态分类器的包围学习已被证明是处理概念漂移的有效方法。然而，最好的方式来创建和保持集成多样性与不断变化的流仍然是一个具有挑战性的问题。与通过输入、输出或分类器参数估计多样性相反，我们提出了一种基于集合成员是否同意区域分布变化概率的多样性测量。在我们的方法中，区域分布变化的估计被用作实例权重。通过不同的方案构造不同的区域集合将导致不同的漂移估计结果，从而产生多样性。选择最不同意的分类器以最大化多样性。因此，基于实例的集成学习算法，称为不同的实例加权集成（DiwE），开发解决数据流分类问题的概念漂移。各种合成和真实世界的数据流基准的评估表明，该算法的有效性和优势。
2020-04-13 cs.LG stat.ML
A Feedback-Control Framework for Efficient Dataset Collection from In-Vehicle Data Streams
本文提出反馈控制数据采集（FCDC）框架，将数据采集建模为闭环控制问题，利用在线概率模型和反馈信号动态调节样本保留，在真实数据流上实现数据集平衡性提升25.9%且存储减少39.8%。
2025-11-09 cs.CV cs.LG
Histogram Approaches for Imbalanced Data Streams Regression
University of Porto（波尔图大学）；INESC TEC
针对在线不平衡回归中稀有实例未必位于分布极端的问题，提出HistUS与HistOS两种增量直方图采样策略，以动态识别任意目标区域的稀有样本并提升预测性能。
2025-03-13 cs.LG
Hoeffding adaptive trees for multi-label classification on data streams
University of Cordoba（科尔多瓦大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）；Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)（安达卢西亚数据科学与计算智能研究所）
针对多标签数据流中的概念漂移、标签共现与类别不平衡等挑战，提出 MLHAT，并在 41 个数据集上验证其优于 18 种在线方法。
2024-10-26 cs.LG
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University（汉阳大学）
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题，如合成少数过采样技术（SMOTE）。然而，由于诸如SMOTE的方法通过线性插值生成实例，因此合成数据空间可能看起来像多边形。此外，过采样方法产生少数类的离群值。在本文中，我们提出了基于高斯的少数过采样技术（GMOTE）的统计角度不平衡数据集。为了避免线性插值和考虑离群点，该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值（CMGOS）的启发，我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法，如SMOTE进行了比较。当GMOTE与分类回归树（CART）或支持向量机（SVM）相结合时，它表现出更好的准确性和F1得分。实验结果表明，鲁棒性能。
2021-05-09 cs.LG stat.ML
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Carnegie Mellon University（卡内基梅隆大学）
数据驱动的学习算法在许多在线应用中被采用，其中数据随着时间的推移变得可用，如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时，底层数据分布可能会随着时间的推移而演变，从而需要模型自适应。在这种动态环境中，即所谓的数据流中，公平性感知学习不能被认为是一次性的要求，而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题，这体现在许多现实生活中的应用，并减轻歧视，主要是因为他们“拒绝”少数情况下，由于他们无法有效地学习所有类。在这项工作中，我们提出了\ours，一个在线的公平意识的方法，保持一个有效的和公平的流分类。\ours ~是一种在线提升方法，通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果，以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明，我们的方法优于最先进的公平感知流方法，平衡准确率（相对）提高[11.2%~ 14.2%]，gmean（相对）提高[22.6%~ 31.8%]，回忆率（相对）提高[42.5%~ 49.6%]，Kappa值为14.3%~ 25.7%，统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
Learning in Text Streams: Discovery and Disambiguation of Entity and Relation Instances
University of Siena（锡耶纳大学）；University of Florence（佛罗伦萨大学）
我们考虑一个场景，其中人工代理正在阅读由一组叙述组成的文本流，并且它被告知当前正在阅读的文本部分中提到的一些个人的身份。代理人应该学会跟随叙述，从而消除提及的歧义并发现新的个人。我们专注于个人是实体和关系的情况下，我们提出了一个端到端的可训练的记忆网络，学习发现和消除歧义，在网上的方式，执行一次性学习，并处理少量的稀疏监督。我们的系统建立了一个不预先给定的知识库，它在阅读无监督文本时提高了技能。该模型处理叙事中的突然变化，在解决共指时考虑到它们的影响。我们展示了强大的消歧和发现技能，我们的模型在维基百科文档的语料库和新引入的数据集，我们公开提供。
2020-04-27 cs.CL cs.LG stat.ML
Repaint: Improving the Generalization of Down-Stream Visual Tasks by Generating Multiple Instances of Training Examples
Huawei Technologies Canada Co., Ltd.（华为技术加拿大有限公司）
用于视觉任务的卷积神经网络（CNN）被认为在整个网络深度中学习低级纹理和高级对象属性。本文进一步研究了CNN中的“纹理偏差”。为此，我们重新生成多个实例的训练样本从每个原始图像，通过一个过程，我们称之为“重绘”。重新绘制的示例保留了场景中区域和对象的形状和结构，但使其纹理和颜色多样化。我们的方法可以在不同的日光，季节或天气条件下再生相同的图像，可以具有着色或脱色效果，甚至可以从黑色区域带回一些纹理信息。就地重绘允许我们进一步使用这些重绘的示例来改进CNN的泛化。通过一组广泛的实验，我们证明了重新绘制的示例在训练中的有用性，用于图像分类（ImageNet）和目标检测（COCO）的任务，在不同容量的几种最先进的网络架构中，以及在不同的数据可用性制度中。
2021-10-20 cs.AI cs.CV cs.LG
Modeling Human Annotation Errors to Design Bias-Aware Systems for Social Stream Processing
George Mason University（乔治梅森大学）；Universitat Pompeu Fabra（庞培法布拉大学）
高质量的人工注释是为社交媒体创建有效的机器学习系统所必需的。低质量的人工注释间接导致了不准确或有偏见的学习系统的创建。我们表明，人类注释质量取决于向注释者显示的实例的排序（称为"注释时间表"），并且可以通过向注释者提供的实例排序中的本地更改来改进，从而为高效的实时社交媒体分析提供更准确的数据流注释。我们提出了一个错误缓解主动学习算法，是强大的，在某些情况下，人为错误时，决定一个注释时间表。我们验证了人为错误模型，并通过对危机期间相关社交媒体帖子的分类任务进行实验，对所提出的算法进行了强基线评估。根据这些实验，考虑将数据实例呈现给人类注释者的顺序导致机器学习的准确性的增加以及对人类学习中可能影响自动分类器的一些潜在偏见的认识。
2019-07-16 cs.LG cs.SI
Provable Robustness for Streaming Models with a Sliding Window
University of Maryland – College Park（马里兰大学帕克分校）
关于机器学习中可证明的鲁棒性的文献主要集中在静态预测问题上，例如图像分类，其中假设输入样本是独立的，并且模型性能被测量为对输入分布的期望。鲁棒性证书是针对单个输入实例推导的，假设模型在每个实例上分别进行评估。但在在线内容推荐和股市分析等许多深度学习应用中，模型使用历史数据进行预测。基于独立输入样本假设的稳健性证书不直接适用于此类情况。在这项工作中，我们专注于机器学习模型在数据流的背景下，输入作为一个序列的潜在相关的项目的可证明的鲁棒性。我们得出的鲁棒性证书的模型，使用一个固定大小的滑动窗口的输入流。我们的保证适用于整个流的平均模型性能，并且与流大小无关，因此适用于大型数据流。我们对语音检测和人类活动识别任务进行了实验，并表明我们的证书可以对对抗性扰动产生有意义的性能保证。
2023-03-28 cs.LG stat.ML
Classification under Streaming Emerging New Classes: A Solution using Completely Random Trees
Nanjing University（南京大学）；Federation University（联邦大学）
本文研究了流挖掘中的一个重要问题，即，根据流媒体新兴类别或SENC分类。常见的方法是将其视为分类问题，并使用监督学习器或半监督学习器来解决它。我们提出了一种替代方法，通过使用无监督学习作为基础来解决这个问题。SENC问题可以分解为三个子问题：检测新出现的新类，对已知类进行分类，以及更新模型以使新类的实例分类和检测更多新出现的新类。所提出的方法采用完全随机树，已被证明是工作良好的无监督学习和监督学习独立的文献。这是第一次，据我们所知，完全随机树被用作一个单一的公共核心，以解决所有三个子问题：无监督学习，监督学习和数据流中的模型更新。我们表明，所提出的无监督学习为重点的方法往往比现有的分类为重点的方法取得显着更好的结果。
2016-05-30 cs.LG
Evaluating the Efficacy of Instance Incremental vs. Batch Learning in Delayed Label Environments: An Empirical Study on Tabular Data Streaming for Fraud Detection
Sorbonne Paris Nord University（巴黎北大学）；Paris-Saclay University（巴黎萨克雷大学）；Groupe BPCE（BPCE集团）
针对延迟标签场景下实例增量学习是否最优的未深入研究问题，基于真实欺诈检测任务与生成数据集开展实证评估，发现实例增量学习在性能上不及批量学习模型，且批量增量方案可解释性更优。
2024-09-16 cs.CE cs.LG cs.NE
Class Incremental Learning for Algorithm Selection
Edinburgh Napier University（爱丁堡纳皮尔大学）
本文首次将类增量学习引入优化领域的算法选择问题，通过在装箱数据集上基准测试8种持续学习方法，发现基于经验回放的方法能以约7%的较小遗忘损失有效应对流式场景下的求解器更新。
2025-06-02 cs.LG
Test-Time Training on Video Streams
UC Berkeley（加州大学伯克利分校）；Stanford University（斯坦福大学）；Meta AI；UC San Diego（加州大学圣迭戈分校）
本文提出面向视频流的 online TTT，利用当前帧与邻近历史帧在线更新模型，在真实视频的分割等任务上显著超过固定模型及离线 TTT。
2025-01-04 cs.CV cs.LG
Multi-label Stream Classification with Self-Organizing Maps
Federal University of São Carlos（圣卡洛斯联邦大学）；Federal University of Uberlândia（乌贝兰迪亚联邦大学）；INESC TEC；University of Porto（波尔图大学）
已经提出了几种用于离线多标签分类的学习算法。然而，在诸如交通监控、社交网络和传感器等领域中的应用连续地产生数据，即所谓的数据流，这对批量多标签学习提出了挑战。由于数据流的分布缺乏平稳性，需要新的算法来在线适应这种变化（概念漂移）。此外，在实际应用中，变化发生在无限延迟标签的场景中，其中到达实例的真实类永远不可用。提出了一种基于自组织映射的在线无监督增量式多标签流分类方法。在分类阶段，我们使用k-近邻策略来计算地图中的获胜神经元，通过在线调整神经元权重向量和数据集标签基数来适应概念漂移。我们使用贝叶斯规则和每个神经元的输出来预测每个实例的标签，调整流中类的概率和条件概率。使用合成和真实数据集的实验表明，我们的方法是非常有竞争力的几个文献中，在固定和概念漂移的情况下。
2020-04-20 cs.LG stat.ML
Discrimination and Class Imbalance Aware Online Naive Bayes
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）
大规模数据流的公平意识挖掘是当代机器学习领域日益增长且具有挑战性的问题。许多流学习算法用于在关键决策点代替人类，招聘员工、评估信用风险等。这就要求以最小的响应延迟处理大量传入的信息，同时确保公平和高质量的决策。最近的区分感知学习方法基于整体准确性进行优化。然而，总体准确性偏向于多数类;因此，最先进的方法主要通过部分或完全忽略少数类来减少歧视。在这种情况下，我们提出了一种新的适应朴素贝叶斯，以减轻歧视嵌入在流中，同时保持高预测性能的多数和少数类。该算法简单、快速，可实现多目标优化。为了处理类不平衡和概念漂移问题，提出了一种动态实例加权模块，根据实例在少数类或多数类中的隶属度，赋予新实例更高的重要性，而对过时实例的重要性降低。我们在一系列流数据集和静态数据集上进行了实验，并推断我们提出的方法在区分分数和平衡准确性方面优于现有的最先进的公平性感知方法。
2022-11-09 cs.CY cs.LG
A Historical Context for Data Streams
University of Helsinki（赫尔辛基大学）；Ecole Polytechnique（巴黎综合理工学院）
本文回顾了数据流研究的历史背景，旨在将流式机器学习中常见的严格假设置于其历史脉络中加以理解。
2023-10-18 cs.DB cs.LG cs.SY
Weakly-Supervised Anomaly Detection in Surveillance Videos Based on Two-Stream I3D Convolution Network
The University of Western Ontario（西安大略大学）
本文提出基于双流 I3D 卷积网络和多示例学习（MIL）的弱监督异常检测框架，通过排序机制处理视频片段，显著提升监控视频中异常检测的准确性与效率，减少对人工标注的依赖。
2024-11-13 cs.CV cs.LG
Contextual One-Class Classification in Data Streams
Queen’s University（女王大学）；University of Ottawa（渥太华大学）；American University（美利坚大学）；LIAAD – INESC TEC（INESC TEC 人工智能与决策支持实验室）；University of Porto（波尔图大学）
在机器学习中，当训练实例只能从一个类中获得时，会发生单类分类问题。已经观察到，利用这个类的结构或其不同的上下文，可以提高单类分类器的性能。虽然这种观察已经证明了静态数据，严格的应用程序的想法在数据流环境中是缺乏的。为了解决这一差距，我们建议使用上下文来指导数据流中的一类分类器学习，特别注意动态学习环境所带来的挑战。我们提出了三个框架，学习上下文和进行实验与合成和基准数据流。我们的结论是，数据流中的上下文的范例可以用来提高性能的流单类分类器。
2019-07-09 cs.LG stat.ML
Streaming Active Deep Forest for Evolving Data Stream Classification
Griffith University（格里菲斯大学）；Robert Gordon University（罗伯特戈登大学）
近年来，深度神经网络（DNN）在机器学习的许多领域都取得了进展。DNN的逐层过程激发了许多深度模型的开发，包括深度集成。最值得注意的基于深度集成的模型是Deep Forest，它可以实现极具竞争力的性能，同时与DNN相比具有更少的超参数。尽管Deep Forest在批量学习环境中取得了巨大的成功，但它并没有努力适应不断变化的数据流。在这项工作中，我们介绍了流深森林（SDF）算法，一个高性能的深度集成方法，专门适用于流分类。我们还提出了增强变量不确定性（AVU）的主动学习策略，以减少标记成本的流上下文。我们比较所提出的方法，以国家的最先进的流算法在广泛的数据集。实验结果表明，采用AVU主动学习策略，SDF在标注预算仅为70%的情况下，其性能明显优于其他方法。
2020-02-26 cs.LG stat.ML
STREAMLINE: Streaming Active Learning for Realistic Multi-Distributional Settings
University of Texas, Dallas（德克萨斯大学达拉斯分校）；Google Research India（谷歌印度研究院）
提出STREAMLINE流式主动学习框架，通过片段识别、预算分配和数据选择缓解多分布数据流中的切片不平衡问题，在图像分类和目标检测任务中显著提升关键切片性能。
2023-05-18 cs.CV cs.LG
On the performance of deep learning models for time series classification in streaming
University of Sevilla（塞维利亚大学）；Pablo de Olavide University（巴勃罗·德·奥拉维德大学）
处理高速到达的数据流需要开发能够提供快速准确预测的模型。虽然深度神经网络是许多机器学习任务的最新技术，但其在实时数据流场景中的性能是一个尚未完全解决的研究领域。尽管如此，最近已经做出了努力，通过降低其处理速率来使复杂的深度学习模型适应流式任务。异步双管道深度学习框架的设计允许使用两个单独的层同时预测传入的实例并更新模型。这项工作的目的是评估使用此框架进行数据流分类的不同类型的深度架构的性能。我们评估模型，如多层感知器，循环，卷积和时间卷积神经网络在几个时间序列数据集模拟为流。所获得的结果表明，卷积架构在准确性和效率方面实现了更高的性能。
2020-04-03 cs.LG stat.ML
Data Stream Clustering: A Review
Middle East Technical University（中东技术大学）
连接设备的数量正在稳步增加，这些设备不断生成数据流。尽管面临许多挑战，但数据流的实时处理引起了人们的兴趣。聚类是最适合实时数据流处理的方法之一，因为它可以应用于较少的先验信息的数据，它不需要标记的实例。然而，数据流聚类在许多方面不同于传统的聚类，它有几个具有挑战性的问题。在这里，我们提供有关数据流的概念和共同特征的信息，如概念漂移，数据流的数据结构，时间窗口模型和离群值检测。本文对近年来的数据流聚类算法进行了综述，并从基本聚类技术、计算复杂性和聚类精度三个方面对它们进行了分析。这些算法的比较，以及仍然开放的问题。我们指出流行的数据流存储库和数据集，流处理工具和平台。最后讨论了数据流聚类中存在的问题。
2020-07-16 cs.AI cs.DB cs.LG
Data Fusion for Audiovisual Speaker Localization: Extending Dynamic Stream Weights to the Spatial Domain
Ruhr University Bochum（波鸿鲁尔大学）；NTT Corporation（日本电报电话公司）
估计多个说话者的位置对于自动语音识别或说话者日记化等任务可能是有帮助的。例如，当应用波束成形或分配唯一的扬声器身份时，这两种应用都受益于已知的扬声器位置。最近，已经提出了几种利用增强了视觉数据的声学信号来完成这项任务的方法。然而，声学和视觉模态都可能在特定的空间区域中被破坏，例如由于较差的照明条件或背景噪声的存在。本文提出了一种新的视听数据融合框架的扬声器定位分配个人的动态流权重的特定区域中的定位空间。这种融合是通过一个神经网络实现的，它结合了各个音频和视频跟踪器的预测，基于它们的时间和位置依赖的可靠性。一个性能评估使用视听记录产生有前途的结果，与建议的融合方法优于所有的基线模型。
2021-02-24 cs.AI cs.CL cs.CV
Resilience to the Flowing Unknown: an Open Set Recognition Framework for Data Streams
TECNALIA（泰克纳利亚（西班牙技术研究中心））；University of Deusto（德乌斯托大学）；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））
针对流式数据中未知类别导致的过度占用空间问题，提出结合分类与聚类的开放集识别框架，在多种已知未知类比基准上优于增量分类器。
2024-10-31 cs.AI cs.LG
Concept-drifting Data Streams are Time Series; The Case for Continuous Adaptation
从数据流中学习是数据采掘、机器学习和一般人工智能中越来越重要的主题。数据流文献中的一个主要焦点是设计可以处理概念漂移的方法，这是一个生成分布随时间变化的挑战。在大多数文献中的一个一般假设是，实例独立地分布在流中。在这项工作中，我们表明，在概念漂移的背景下，这个假设是矛盾的，概念漂移的存在必然意味着时间依赖性，从而某种形式的时间序列。这对模型设计和部署具有重要意义。我们探索和突出这些影响，并表明，Hoeffding树为基础的合奏，这是非常流行的学习流，不自然适合学习\emph{within}漂移，并可以在这种情况下，只有在显着的计算成本的破坏性适应。另一方面，我们开发和参数化的梯度下降方法，并演示他们如何可以执行\emph{continuous}适应没有明确的漂移检测机制，提供的准确性和效率方面的主要优势。作为我们的理论讨论和实证观察的结果，我们概述了一些建议部署方法的概念漂移流。
2018-10-04 cs.LG stat.ML
Stream-based active learning with linear models
Technical University of Denmark（丹麦技术大学）；Norwegian University of Science and Technology（挪威科技大学）；Luleå University of Technology（吕勒奥理工大学）
本文面向流式实时数据的高标注成本问题，结合最优实验设计与信息量阈值提出线性模型主动学习查询策略，并在仿真和 Tennessee Eastman Process 上验证其可更快降低预测误差。
2023-07-13 cs.LG stat.ML
Expected Similarity Estimation for Large-Scale Batch and Streaming Anomaly Detection
University of Ulm（乌尔姆大学）；Ravensburg-Weingarten University of Applied Sciences（拉芬斯堡-魏恩加腾应用科学大学）；The University of Sydney（悉尼大学）
我们提出了一种新的算法异常检测非常大的数据集和数据流。该方法称为期望相似性估计（EXPoSE），是基于核的，能够有效地计算新数据点和规则数据分布之间的相似性。该估计被制定为一个再生核希尔伯特空间嵌入的内积，并没有假设的类型或形状的基础数据分布。我们证明了使用EXPoSE的离线（批量）学习可以在线性时间内完成，而在线（增量）学习每个实例和模型更新需要恒定的时间。此外，EXPoSE可以在恒定的时间内进行预测，而它只需要恒定的内存。此外，我们提出了不同的方法，概念漂移适应不断变化的数据流。在几个真实的数据集上，我们证明了我们的方法可以与最先进的异常检测算法竞争，同时比大多数其他方法快一个数量级。
2016-06-06 cs.AI cs.LG
Recurrent Harness for Agentic Continual Learning
Massachusetts Institute of Technology（麻省理工学院）；Meta MRS Research（Meta MRS研究院）；Yale University（耶鲁大学）
针对语言模型智能体持续学习的分布偏移问题，提出循环式控制器框架ReHarness，通过后向修正机制提升性能，在多基准和主干模型上优于多种基线方法，同时改善学习的稳定性与可塑性。
2026-10-12 cs.AI cs.CL cs.LG
Streamed Learning: One-Pass SVMs
University of Utah（犹他大学）
我们提出了一个大规模分类的流模型（在$\ell_2$ -SVM的上下文中），利用学习和计算几何之间的连接。流模型施加了只允许对数据进行单次传递的约束。已知$\ell_2$在最小包围球（MEB）问题方面具有等效公式，并且存在基于\emph{core sets}思想的有效算法（核心向量机，CVM）。CVM学习一组点的$(1+\varepsilon)$ -近似MEB，并产生对应SVM实例的近似解。但是，云服务器工作在批处理模式下，需要多次传递数据。本文提出了一种基于流数据最小包围球的单遍支持向量机。我们表明，MEB更新的流的情况下，可以很容易地适应学习SVM的权重向量的方式类似于使用在线随机梯度更新。我们的算法在每个例子中执行多对数计算，并且需要非常小的常数存储。实验结果表明，即使在这样的限制性设置中，我们也可以在一次通过中有效地学习，并获得与其他最先进的SVM求解器（批处理和在线）相当的精度。我们也给出了一个分析的算法，并讨论了一些开放的问题和可能的扩展。
2009-08-05 cs.LG stat.ML
Adaptive XGBoost for Evolving Data Streams
University of Waikato（怀卡托大学）；Télécom ParisTech（巴黎高等电信学院）；Institut Polytechnique de Paris（巴黎理工学院）
Boosting是一种集成方法，它以顺序的方式组合基础模型以实现高预测精度。基于这种集成方法的流行的学习算法是极限梯度提升（XGB）。我们提出了一个适应XGB的分类不断发展的数据流。在这种情况下，随着时间的推移，新的数据到达，类和特征之间的关系可能会在过程中发生变化，从而表现出概念漂移。所提出的方法创建新的成员的合奏从小批量的数据作为新的数据变得可用。最大集成大小是固定的，但是当达到这个大小时，学习不会停止，因为集成会在新数据上更新，以确保与当前概念的一致性。我们还探索了使用概念漂移检测来触发更新集合的机制。我们测试我们的方法在真实和合成数据与概念漂移，并比较它对批量增量和实例增量分类方法的数据流。
2020-05-15 cs.LG stat.ML
Stream-based Active Learning by Exploiting Temporal Properties in Perception with Temporal Predicted Loss
BMW Group（宝马集团）；Technical University of Munich（慕尼黑工业大学）
本文提出时间预测损失TPL，利用图像流时间特性实现流式主动学习，并构建数据集与池式方法比较框架，在多样性、性能、数据量和速度上取得优势。
2023-09-26 cs.CV cs.LG
Self-Learning Camera: Autonomous Adaptation of Object Detectors to Unlabeled Video Streams
Xerox Research Center Europe（施乐欧洲研究中心）；University of Trento（特伦托大学）
学习对象检测器需要来自感兴趣的特定数据源的大量标记训练样本。当处理许多不同的源（例如，在照相机网络中），或者诸如移动照相机的不断变化的照相机（例如，在机器人或驾驶辅助系统中）。在本文中，我们以自主的方式解决自学习检测器的问题，即（i）检测器不断更新自己以有效地适应流数据源（与转换算法相反），（ii）没有任何与目标数据流强烈相关的标记数据（与自定进度的学习相反），以及（iii）没有手动干预来设置和更新超参数。为此，我们提出了一个无监督的，在线的，和自调整的学习算法优化多任务学习凸目标。我们的方法使用自信，但简洁的预言（高精度，但低召回现成的通用检测器），并利用问题的结构，共同学习在线的一个合奏的实例级跟踪器，从中我们得到一个适应的类别级对象检测器。我们的方法在真实世界公开的视频对象数据集上进行了验证。
2014-06-18 cs.CV cs.LG
Fairness-enhancing interventions in stream classification
Leibniz University, Hannover（汉诺威莱布尼茨大学）；L3S Research Center, Hannover（汉诺威L3S研究中心）
自动化数据驱动的决策支持系统的广泛使用引起了人们对在缺乏人类监督的情况下所采用模型的问责制和公平性的担忧。现有的公平性感知方法将公平性作为一个批量学习问题来处理，目的是学习一个公平模型，然后将其应用于问题的未来实例。然而，在许多应用程序中，数据是按顺序出现的，其特征可能会随着时间而演变。在这样的设置中，在数据流上“修复”（公平）模型是违反直觉的，因为数据的变化可能会导致底层模型的变化，从而影响其公平性。在这项工作中，我们提出了公平性增强的干预措施，修改输入数据，使任何流分类器应用到该数据的结果将是公平的。在真实数据和合成数据上的实验表明，我们的方法在流的过程中实现了良好的预测性能和低的区分分数。
2019-07-16 cs.AI cs.LG stat.ML
A Novel Online Stacked Ensemble for Multi-Label Stream Classification
Bilkent University（比尔肯特大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
随着数据流变得越来越普遍，挖掘这种瞬态和动态数据的在线算法的必要性变得更加清晰。多标签数据流分类是一个监督学习问题，其中数据流中的每个实例被分类到一个或多个预定义的标签集合中。已经提出了许多方法来解决这个问题，包括但不限于基于集合的方法。这些基于集成的方法中的一些是专门设计用于某些多标签基础分类器的;另一些则采用在线装袋方案来构建其集成。在这项研究中，我们引入了一种新的在线和动态加权堆叠集成多标签分类，称为GOOWE-ML，利用空间建模为其组件分类器分配最佳权重。我们的模型可以与任何现有的增量多标签分类算法作为其基础分类器。我们使用4个基于GOOWE-ML的多标签集合和7个基线模型对来自不同兴趣领域的7个真实数据集进行实验。我们的实验表明，相对于其他突出的集成模型，GOOWE-ML集成在几乎所有数据集的预测性能方面都产生了更好的结果。
2018-09-26 cs.IR cs.LG stat.ML
