A Streaming Algorithm for Crowdsourced Data Classification
Telecom ParisTech(巴黎电信学院);Centrale-Supelec(中央理工-高等电力学院)
我们提出了一种基于众包的数据二进制分类的流算法。该算法通过将她的标签与相同任务上的其他标签进行比较来学习每个标签的能力,并使用此信息来最小化每个任务的预测错误率。我们提供的性能保证,我们的算法为一个固定的人口独立的标签。特别是,我们表明,我们的算法是最佳的意义上说,与已知的标签错误概率的最佳决策相比,累积的遗憾是有限的,独立的任务数量的标签。该算法的复杂性是线性的标记器的数量和任务的数量,一些对数因子。数值实验表明,我们的算法相比,现有的算法,包括简单多数表决和期望最大化算法,在合成和真实数据集的性能。
2016-02-23 cs.LG stat.ML
Streaming Bayesian Inference for Crowdsourced Classification
University of Southampton(南安普顿大学);Imperial College, London(伦敦帝国理工学院)
众包的一个关键挑战是从嘈杂和不可靠的数据中推断出真实情况。要做到这一点,现有的方法依赖于从人群中收集冗余信息,并使用某种概率方法对其进行聚合。然而,通常这样的方法是计算效率低,限于一些特定的设置,或缺乏理论保证。在本文中,我们重新审视了众包数据的二进制分类问题。具体来说,我们提出了流贝叶斯推理众包(SBIC),一种新的算法,不受任何这些限制。首先,SBIC具有低复杂度,并且可以用于实时在线设置。其次,SBIC在所有设置中具有与最佳最先进算法相同的精度。第三,SBIC在在线和离线设置下都具有可证明的渐近保证。
2019-11-13 cs.LG stat.ML
A Natural Language-Inspired Multi-label Video Streaming Traffic Classification Method Based on Deep Neural Networks
Michigan State University(密歇根州立大学)
本文提出了一种基于深度学习的流量分类方法,用于在加密隧道内同时识别多个流式视频源。这项工作定义了一个受自然语言处理(NLP)启发的新功能,允许现有的NLP技术帮助流量分类。描述了特征提取方法,并创建了包含视频流和Web流量的大型数据集来验证其有效性。通过应用几种NLP方法获得的结果表明,所提出的方法在二进制和多标签流量分类问题上都表现良好。我们还展示了该方法实现zero-shot学习的能力。
2019-06-04 cs.CV cs.LG eess.SP
Diversity of Ensembles for Data Stream Classification
University of Passau(帕绍大学)
在构造分类器集成时,基分类器之间的多样性是重要特征之一。已经在标准静态数据的背景下进行了一些研究,特别是在分析高集合预测性能与其组成部分的多样性之间的关系时。此外,学习机的集成已经执行的概念漂移的存在下学习,并适应它。然而,多样性措施没有得到太多的研究兴趣,在不断发展的数据流。只有少数研究者直接考虑促进多样性,同时构建一个合奏或重建他们在检测漂移的时刻。在本文中,我们提出了一个不同的多样性措施的理论分析,并将它们与流数据的集成学习算法的成功。分析提供了一个更深入的理解的概念的多样性和在线集成学习的概念漂移的存在下,它的影响。更确切地说,我们有兴趣回答以下研究问题;哪些常用的多样性措施中使用的静态数据集成的背景下,他们在多大程度上适用于流数据集成的背景下?
2019-02-22 cs.LG stat.ML
Mahalanobis Distance Metric Learning Algorithm for Instance-based Data Stream Classification
University of Coimbra(科英布拉大学);Central University of Las Villas(拉斯维利亚斯中央大学)
随着当今海量数据的挑战和技术的快速发展,流挖掘近年来受到了相当大的关注。为了解决大量的情况下,这一现象本身表现出适当的工具,需要在各个研究领域。基于实例的数据流算法通常采用欧几里德距离的分类任务的基础上这个问题。研究这个问题的一种新方法是利用更灵活的度量,因为数据流场景增加了需求。在本文中,我们提出了一种新的算法,学习马氏度量使用相似性和相异性约束在线的方式。该方法混合了马氏距离度量学习算法和具有概念漂移检测的k-NN数据流分类算法。首先,考虑到关键属性以及在线距离度量学习算法,描述了马氏距离度量学习的一些基本方面。其次,我们实现了具体的评估方法和比较指标,如Q统计数据流分类算法。最后,在不同的数据集上对该算法进行了测试,并将其结果与目前最好的基于实例的数据流分类算法进行了比较,结果表明该算法具有更好的性能
2016-04-17 cs.LG
Seasonal Averaged One-Dependence Estimators: A Novel Algorithm to Address Seasonal Concept Drift in High-Dimensional Stream Classification
Monash University(莫纳什大学);Seek Group(Seek集团)
流分类方法在新的标记样本到达时对连续的数据流进行分类。他们还经常需要处理概念漂移。本文重点研究流分类中的季节性漂移,这可以在许多实际应用数据源中找到。传统的河流分类方法考虑季节性漂移,包括季节性虚拟/指标变量或为每个季节建立单独的模型。但这些方法在高维分类问题或复杂的季节模式中具有很强的局限性。本文探讨了如何最好地处理季节性漂移的特定情况下的新闻文章分类(或分类/标记),其中季节性漂移是压倒性的主要类型的漂移存在于数据中,并且数据是高维的。我们引入了一种新的分类器名为季节平均单依赖估计(SAODE),它扩展了AODE分类器,包括时间作为一个超级父处理季节漂移。我们使用两个大型的真实世界文本挖掘相关数据集来评估我们的SAODE模型,每个数据集包含大约100万条记录,针对9个最先进的流和概念漂移分类模型,有和没有季节指标,以及为每个季节构建的单独模型。在五种不同的评估技术中,我们表明我们的模型始终优于其他方法,其结果具有统计学意义。
2020-06-27 cs.AI cs.LG stat.AP
Active Weighted Aging Ensemble for Drifted Data Stream Classification
Wrocław University of Science and Technology(弗罗茨瓦夫科技大学)
流数据分类的一个重要问题是概念漂移的发生,包括分类任务的概率特性的变化。这种现象使分类模型的性能不稳定,并严重降低其质量。一个适当的策略抵消这种现象是需要适应分类器的变化的概率特性。实现这种解决方案的一个重要问题是对数据标签的访问。它通常是昂贵的,因此为了最小化与该过程相关的费用,提出了基于半监督学习的学习策略,例如,采用主动学习方法来指示哪些传入对象有价值被标记以改进分类器的性能。本文提出了一种新的基于分类器集成学习的非平稳数据流的基于块的方法和一种考虑有限预算的主动学习策略,可以成功地应用于任何数据流分类算法。所提出的方法已通过计算机实验,使用真实的和生成的数据流进行评估。结果证实了所提出的算法的高品质的国家的最先进的方法。
2021-12-19 cs.LG
Classification under Streaming Emerging New Classes: A Solution using Completely Random Trees
Nanjing University(南京大学);Federation University(联邦大学)
本文研究了流挖掘中的一个重要问题,即,根据流媒体新兴类别或SENC分类。常见的方法是将其视为分类问题,并使用监督学习器或半监督学习器来解决它。我们提出了一种替代方法,通过使用无监督学习作为基础来解决这个问题。SENC问题可以分解为三个子问题:检测新出现的新类,对已知类进行分类,以及更新模型以使新类的实例分类和检测更多新出现的新类。所提出的方法采用完全随机树,已被证明是工作良好的无监督学习和监督学习独立的文献。这是第一次,据我们所知,完全随机树被用作一个单一的公共核心,以解决所有三个子问题:无监督学习,监督学习和数据流中的模型更新。我们表明,所提出的无监督学习为重点的方法往往比现有的分类为重点的方法取得显着更好的结果。
2016-05-30 cs.LG
A Novel Online Stacked Ensemble for Multi-Label Stream Classification
Bilkent University(比尔肯特大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
随着数据流变得越来越普遍,挖掘这种瞬态和动态数据的在线算法的必要性变得更加清晰。多标签数据流分类是一个监督学习问题,其中数据流中的每个实例被分类到一个或多个预定义的标签集合中。已经提出了许多方法来解决这个问题,包括但不限于基于集合的方法。这些基于集成的方法中的一些是专门设计用于某些多标签基础分类器的;另一些则采用在线装袋方案来构建其集成。在这项研究中,我们引入了一种新的在线和动态加权堆叠集成多标签分类,称为GOOWE-ML,利用空间建模为其组件分类器分配最佳权重。我们的模型可以与任何现有的增量多标签分类算法作为其基础分类器。我们使用4个基于GOOWE-ML的多标签集合和7个基线模型对来自不同兴趣领域的7个真实数据集进行实验。我们的实验表明,相对于其他突出的集成模型,GOOWE-ML集成在几乎所有数据集的预测性能方面都产生了更好的结果。
2018-09-26 cs.IR cs.LG stat.ML
Improving fraud prediction with incremental data balancing technique for massive data streams
Murdoch University(莫道克大学)
在大规模、高度不平衡的数据流中,分类算法的性能取决于有效的平衡策略。在过去,一些平衡策略技术已经应用于批量数据,以解决类不平衡问题。本文提出了一种新的增量式数据平衡框架,它可以工作在大规模的不平衡数据流。在本文中,我们选择赛车算法作为一种自动化的数据平衡技术,优化的平衡技术。本文采用了随机森林分类算法,该算法能够处理海量数据流。我们研究了竞赛算法和随机森林在该框架中的适用性。在欧洲信用卡数据集上的建议框架中应用新技术,提供了比批处理模式更好的结果。所提出的框架是更可扩展的,以处理在线海量数据流。
2019-10-21 cs.LG stat.ML
stream-learn -- open-source Python library for difficult data stream batch analysis
Wrocław University of Science and Technology(弗罗茨瓦夫科技大学)
stream-learn是一个与scikit-learn兼容的Python包,用于漂移和不平衡的数据流分析。它的主要组成部分是一个流生成器,它允许产生一个合成数据流,该数据流可以将三种主要概念漂移类型(即突然漂移、渐进漂移和增量漂移)中的每一种都纳入其重复或非重复版本中。该软件包允许按照既定的评估方法(即测试-然后-训练和预先)进行实验。此外,适用于数据流分类的估计器已经实现,包括简单的分类器和最先进的基于块的在线分类器集成。为了提高计算效率,package利用自己的预测指标实现不平衡的二进制分类任务。
2020-01-29 cs.CV cs.LG stat.ML
Online Sparse Streaming Feature Selection Using Adapted Classification
Southwest University(西南大学)
传统的特征选择需要在学习之前知道特征空间,而在线流特征选择(OSFS)被提出来动态地处理流特征。现有方法在不丢失数据的情况下将特征分为相关和不相关,删除不相关特征可能导致信息丢失。基于此,本文重点研究了流特征矩阵的构造和特征相关性的划分,提出了基于自适应分类的在线稀疏流特征选择算法(OS 2FS-AC)。本研究使用潜在因素分析(LFA)来预估缺失数据。此外,我们使用自适应的方法来获得阈值,将特征分为强相关,弱相关和不相关的特征,然后再划分弱相关与更多的信息。在10个真实数据集上的实验结果表明,OS 2FS-AC的性能优于现有算法。
2023-02-25 cs.AI cs.LG
Employing Two-Dimensional Word Embedding for Difficult Tabular Data Stream Classification
Wrocław University of Science and Technology(弗罗茨瓦夫科技大学)
本文提出了流式超级表格机器学习(SSTML)方法,首次将多维编码(MDE)应用于困难表格数据流分类任务,通过STML算法将连续数据块编码为图像表示并执行单次ResNet-18训练,在合成与真实数据流上实现了显著优于现有算法的分类质量且保持可比处理时间。
2024-04-24 cs.LG
Imbalanced Data Stream Classification using Dynamic Ensemble Selection
针对非平稳不平衡数据流中的概念漂移与类别重叠问题,提出融合数据预处理与动态集成选择的框架,并在多组人工漂移数据流上验证其显著提升分类准确率。
2023-09-28 cs.AI cs.LG
Fairness-enhancing interventions in stream classification
Leibniz University, Hannover(汉诺威莱布尼茨大学);L3S Research Center, Hannover(汉诺威L3S研究中心)
自动化数据驱动的决策支持系统的广泛使用引起了人们对在缺乏人类监督的情况下所采用模型的问责制和公平性的担忧。现有的公平性感知方法将公平性作为一个批量学习问题来处理,目的是学习一个公平模型,然后将其应用于问题的未来实例。然而,在许多应用程序中,数据是按顺序出现的,其特征可能会随着时间而演变。在这样的设置中,在数据流上“修复”(公平)模型是违反直觉的,因为数据的变化可能会导致底层模型的变化,从而影响其公平性。在这项工作中,我们提出了公平性增强的干预措施,修改输入数据,使任何流分类器应用到该数据的结果将是公平的。在真实数据和合成数据上的实验表明,我们的方法在流的过程中实现了良好的预测性能和低的区分分数。
2019-07-16 cs.AI cs.LG stat.ML
EGFC: Evolving Gaussian Fuzzy Classifier from Never-Ending Semi-Supervised Data Streams -- With Application to Power Quality Disturbance Detection and Classification
Federal University of Lavras(拉夫拉斯联邦大学);University of Bologna(博洛尼亚大学);INFN Bologna(意大利国家核物理研究所博洛尼亚分部);Federal Center for Technological Education CEFET-MG(米纳斯吉拉斯联邦技术教育中心)
电能质量扰动导致若干缺点,例如生产能力的限制、线路和设备电流的增加以及随之而来的欧姆损耗;较高的操作温度、过早故障、机器预期寿命的减少、设备故障以及计划外停机。干扰的实时检测和分类被认为是行业标准的关键。我们提出了一个渐进的高斯模糊分类(EGFC)的半监督扰动检测和分类的框架相结合的混合Hodrick-Prescott和离散傅立叶变换属性提取方法应用于一个标志性窗口的电压波形。被认为是如尖峰,开槽,谐波和振荡瞬态的干扰。不同于其他监测系统,这需要离线训练的模型的基础上,有限的数据量和事件,提出的在线数据流为基础的EGFC方法是能够学习干扰模式自主从永无止境的数据流,通过适应的参数和结构的模糊规则的基础上飞。此外,所得到的模糊模型是语言上可解释的,这提高了模型的可接受性。我们展示了令人鼓舞的分类结果。
2020-04-17 cs.AI cs.LG eess.SP
Incremental Learning with Concept Drift Detection and Prototype-based Embeddings for Graph Stream Classification
KIOS Research and Innovation Center of Excellence(KIOS卓越研究与创新中心);University of Cyprus(塞浦路斯大学)
本文提出一种图流分类方法,通过增量学习、类别原型选择与图嵌入实现持续自适应,并利用基于损失的概念漂移检测机制在漂移发生时重新计算原型。
2024-04-12 cs.LG
A Framework of Sparse Online Learning and Its Applications
Michigan State University(密歇根州立大学);Singapore Management University(新加坡管理大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
在大数据时代的今天,我们社会的数据量已经爆炸式增长。在本文中,我们解决了大数据流分类的几个开放性挑战,包括大容量,高速度,高维,高稀疏性和高类别不平衡。数据采掘文献中的许多现有研究在批处理学习环境中解决数据流分类任务,这在处理大数据时具有较差的效率和可扩展性。为了克服这些局限性,本文研究了一个用于大数据流分类任务的在线学习框架。不同于现有的一些在线数据流分类技术,往往是基于一阶在线学习,我们提出了一个框架的稀疏在线分类(SOC)的数据流分类,其中包括一些国家的最先进的一阶稀疏在线学习算法作为特例,并允许我们推导出一个新的有效的二阶在线学习算法的数据流分类。此外,我们还提出了一个新的成本敏感的稀疏在线学习算法,通过扩展的框架与应用程序,以解决在线异常检测任务中的类分布的数据可能是非常不平衡的。我们还分析了所提出的方法的理论界限,最后进行了一系列广泛的实验,在这些实验中,令人鼓舞的结果验证了所提出的算法的有效性相比,一个家庭的国家的最先进的技术对各种数据流分类任务。
2015-07-25 cs.LG
A Systematic Literature Review on Multi-label Data Stream Classification
University of Porto - INESC TEC(波尔图大学 - INESC TEC);University of Texas at Dallas - UTD(德克萨斯大学达拉斯分校)
针对多标签数据流分类面临的动态环境问题,本综述深入分析相关方案,刻画最新方法、构建层次结构、探讨问题应对方式,还分析评估策略与复杂度等,指出研究空白并给出未来方向建议。
2025-08-24 cs.LG
Employing Sentence Space Embedding for Classification of Data Stream from Fake News Domain
Department of Systems;Computer Networks, Faculty of Information;Communication Technology, Wroc aw University of Science
本文首次提出利用句空间嵌入将文本编码为离散数字信号,并借助图像分类卷积深度网络进行虚假新闻数据流分类,在Fakeddit数据集上验证了其泛化能力与时间效率。
2025-11-10 cs.CL cs.LG
Data Stream Classification using Random Feature Functions and Novel Method Combinations
Universitat Politecnica de Catalunya(加泰罗尼亚理工大学);Barcelona Supercomputing Center(巴塞罗那超级计算中心);Aalto University(阿尔托大学);HIIT(赫尔辛基信息技术研究所);Télécom ParisTech(巴黎电信学院)
大数据流正在以更快、更大、更普遍的方式生成。在这种情况下,Hoeffding树是一种既定的分类方法。存在几个扩展,包括高性能的集成设置,如在线和利用装袋。此外,$k$ -最近邻是一个流行的选择,大多数扩展处理潜在无限流上的固有性能限制。与此同时,梯度下降方法正变得越来越受欢迎,部分原因是深度学习的成功。虽然深度神经网络可以增量学习,但到目前为止,它们对超参数选项和初始条件过于敏感,不能被视为有效的“现成”数据流解决方案。在这项工作中,我们看看Hoeffding树,最近邻,和梯度下降方法的组合与流预处理方法的形式的随机特征函数过滤器的额外的预测能力。我们进一步将调查扩展到GPU上的实现方法,我们在一些大型真实数据集上进行了测试,并展示了使用GPU进行数据流学习的好处,因为它们具有很高的可扩展性。我们的实证评估产生积极的结果,我们实验的新方法,突出重要的问题,并阐明了有前途的未来方向的方法,数据流分类。
2015-11-03 cs.LG cs.NE
Balancing Performance and Energy Consumption of Bagging Ensembles for the Classification of Data Streams in Edge Computing
University of Waikato(怀卡托大学);Federal University of São Carlos(圣卡洛斯联邦大学)
近年来,边缘计算(EC)范式已成为开发物联网(IoT)和5G网络等技术的推动因素,弥合了云计算服务和最终用户之间的差距,支持低延迟,移动性和延迟敏感应用的位置感知。EC中的大多数解决方案采用机器学习(ML)方法来对连续和不断变化的数据流执行数据分类和其他信息处理任务。通常,这样的解决方案必须处理作为数据流出现的大量数据,同时平衡能耗、延迟和算法的预测性能。由于几种模型的组合和选择性重置的可能性,当应用于不断变化的数据流时,Enseminar方法实现了显着的预测性能。这项工作研究了优化性能的策略(即,延迟、吞吐量)和能量消耗来对数据流进行分类。实验评估涉及六种最先进的集成算法(OzaBag,OzaBag Adaptive Size Hoeffding Tree,Online Bagging ADWIN,Leveraging Bagging,Adaptive RandomForest和Streaming Random Patches),应用五种广泛使用的机器学习基准数据集,在三种计算机平台上具有不同的特征。在96%的实验场景中,这些策略可以显着降低能耗。尽管存在权衡,但可以平衡它们以避免预测性能的显著损失。
2022-01-17 cs.LG
Temporal Streaming Batch Principal Component Analysis for Time Series Classification
Harbin Engineering University(哈尔滨工程大学);Qingdao Innovation and Development Center(青岛创新发展中心)
针对长序列多变量时间序列分类难题,提出TSBPCA流式压缩降维算法,显著提升多模型准确率与时间效率。
2024-10-28 cs.IR cs.LG
An Ensemble Classification Algorithm Based on Information Entropy for Data Streams
School of Computer and Information Technology, Shanxi University(山西大学计算机与信息技术学院);Key Laboratory of Computational Intelligence and Chinese Information Processing, Ministry of Education(计算智能与中文信息处理教育部重点实验室);School of Computer Science and Technology, Faculty of Electronic Information and Electrical Engineering, Dalian University of Technology(大连理工大学电子信息与电气工程学部计算机科学与技术学院)
数据流挖掘问题在机器学习和数据采掘领域引起了广泛的关注。近年来的一些研究中,集成分类被广泛应用于概念漂移检测,但大多数研究都将分类准确率作为判断概念漂移是否发生的标准。信息熵是测量不确定度的一种重要而有效的方法。基于信息熵理论,提出了一种利用信息熵对分类结果进行评价的新算法。它采用集成分类技术,通过集成分类器系统产生的结果的熵来确定每个分类器的权重。当数据流中的概念发生变化时,一次放弃权值低于某个阈值的分类器,以适应新的概念。在实验分析部分,六个数据库和四个提出的算法执行。实验结果表明,该方法不仅能有效地处理概念漂移问题,而且在分类精度和时间性能上都优于对比算法。
2017-08-11 cs.DS cs.LG
Evaluation of Neural Network Classification Systems on Document Stream
La Rochelle Université(拉罗谢尔大学);Yooz
用于文档分类目的的现有技术的基于神经网络(NN)的方法的一个主要缺点是获得有效分类所需的大量训练样本。每门课最少需要大约一千个带注释的文档。在许多情况下,如果不是不可能的话,在实际的工业过程中收集这个数量的样品是非常困难的。在本文中,我们分析了基于神经网络的文档分类系统的效率在一个次优的训练情况下,基于公司的文档流的情况。我们评估了三种不同的方法,一种基于图像内容,两种基于文本内容。评估分为四个部分:一个参考案例,以评估系统在实验室中的性能;两个案例,每个案例模拟与文档流处理相关的特定困难;以及一个结合所有这些困难的现实案例。现实的情况下,突出了这样一个事实,即有一个显着的下降,在基于神经网络的文档分类系统的效率。虽然它们对于表示良好的类仍然有效(系统对这些类的过度拟合),但它们不可能适当地处理表示不太好的类。基于神经网络的文档分类系统需要进行调整,以解决这两个问题,然后才能考虑在公司的文档流中使用。
2020-07-15 cs.CV cs.LG
Evaluating k-NN in the Classification of Data Streams with Concept Drift
Universidade Federal de Pernambuco(伯南布哥联邦大学);Pontifícia Universidade Católica do Paraná(巴拉那天主教大学)
数据流通常被定义为以高速连续流动的大量数据。此外,这些数据可能会受到数据分布变化的影响,称为概念漂移。鉴于上述所有原因,从流中学习通常是在线的,并且受到内存消耗和运行时的限制。虽然存在许多分类算法,但该领域发表的大多数作品都使用朴素贝叶斯(NB)和Hoeffding树(HT)作为实验中的基本学习器。本文提出了一种深入的评估k-最近邻(k-NN)作为候选分类数据流受到概念漂移。分析了k-NN的时间复杂度和两个主要参数,用于预测的最近邻的数量(k)和窗口大小(w)。我们比较了k-NN的不同参数值,并将其与NB和HT进行了对比,在许多数据集中都有和没有漂移检测器(RDDM)。我们制定并回答了10个研究问题,得出的结论是,k-NN是一个值得的候选数据流分类,特别是当运行时的约束不是太严格。
2022-10-06 cs.AI cs.LG
Soft Confusion Matrix Classifier for Stream Classification
Wroclaw University of Science and Technology(弗罗茨瓦夫理工大学)
本文研究了基于软混淆矩阵(SCM)的流分类器的裁剪问题。这项工作的主要目标是开发一个包装分类器,允许增量学习分类器,无法增量学习。这一目标是通过在先前开发的SCM分类器中进行两项改进来实现的。第一个目标是减少SCM分类器的计算成本。为此,改变对象的模糊邻域的定义。二是有效应对概念漂移。这是通过采用ADWin驱动的概念漂移检测器来实现的,该检测器不仅用于检测漂移,而且还用于控制邻域的大小。实验结果表明,该方法的性能明显优于参考方法。
2021-09-16 cs.LG
Differentially Private Ensemble Classifiers for Data Streams
Simon Fraser University(西蒙弗雷泽大学)
通过分类/回归从连续数据流中学习在许多领域都很普遍。适应不断变化的数据特征(概念漂移),同时保护数据所有者的私人信息是一个公开的挑战。我们提出了一个差分私有集成解决方案,这个问题有两个显着的特点:它允许一个\textit{unbounded}数量的集成更新,以处理潜在的永无止境的数据流在一个固定的隐私预算,它是\textit{model agnostic},因为它对待任何预先训练的差分私有分类/回归模型作为一个黑盒子。我们的方法在真实世界和模拟数据集上的性能优于竞争对手,这些数据集具有不同的隐私设置,概念漂移和数据分布。
2021-12-09 cs.CR cs.LG stat.ML
Hoeffding adaptive trees for multi-label classification on data streams
University of Cordoba(科尔多瓦大学);Virginia Commonwealth University(弗吉尼亚联邦大学);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所)
针对多标签数据流中的概念漂移、标签共现与类别不平衡等挑战,提出 MLHAT,并在 41 个数据集上验证其优于 18 种在线方法。
2024-10-26 cs.LG
A Multi-task Neural Approach for Emotion Attribution, Classification and Summarization
Fudan University(复旦大学);Baidu Research(百度研究院);Jilian Technology Group (Video++)(极链科技集团(Video++))
情感内容是用户生成视频的关键成分。然而,视频中情感表达的稀疏性给视觉情感分析带来了障碍。在本文中,我们提出了一种新的神经方法,双流情感归因分类网络(BEAC-Net),解决三个相关的情感分析任务:情感识别,情感归因和面向情感的总结,在一个单一的集成框架。BEAC-Net有两个主要组成部分,一个属性网络和一个分类网络。归因网络提取分类应该关注的主要情感片段,以减轻稀疏性问题。分类网络利用提取的片段和原始视频在一个双流架构。我们为情感归因任务贡献了一个新的数据集,其中包含情感片段的人类注释地面真实标签。两个视频数据集上的实验表明,所提出的框架和双分类流的互补性的优越性能。
2019-07-24 cs.CV cs.LG stat.ML
Dual-Stream Attention Transformers for Sewer Defect Classification
Canizaro Livingston Gulf States Center for Environmental Informatics(卡尼扎罗·利文斯顿海湾国家环境信息学中心);The University of New Orleans(新奥尔良大学);US Army Corps of Engineers(美国陆军工程兵团)
本文提出双流多尺度视觉Transformer(DS-MSHViT),通过自注意力正则化和注意力一致性损失联合训练RGB与光流分支,提升下水道缺陷分类性能,优于未使用双流注意力正则化的CNN和MSHViT模型。
2023-11-07 cs.CV cs.LG
Two-Stream temporal transformer for video action classification
Department of Computer Science, University of York, York YO10 5GH, UK(约克大学计算机科学系)
本文提出双流时间转换器模型,通过提取时空信息和光流特征,实现视频动作的高效分类。
2026-01-20 cs.AI cs.CV cs.LG
A novel online multi-label classifier for high-speed streaming data applications
提出了一种基于极限学习机的高速在线神经网络多标签分类器。在多标签分类中,每个输入数据样本属于一个或多个目标标签。传统的二值分类和多类分类是多标签分类的子集,其中每个样本只属于一个目标类。多标签分类问题比二进制和多类分类问题复杂得多,因为目标标签的数量和对应于每个输入样本的每个目标标签都要被识别。所提出的工作利用极端学习机的高速特性来实现流数据的实时多标签分类。针对高速流数据多标签分类问题,提出了一种新的基于阈值的在线序贯学习算法。所提出的方法进行了实验,从不同的应用领域,如多媒体,文本和生物学的六个不同的数据集。汉明损失,准确性,训练时间和测试时间的建议的技术进行了比较与9个不同的国家的最先进的方法。实验结果表明,该方法在性能和速度方面优于现有的多标签分类器。
2016-09-01 cs.AI cs.LG cs.NE
Dual-stream Multiple Instance Learning Network for Whole Slide Image Classification with Self-supervised Contrastive Learning
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Morgridge Institute for Research(莫格里奇研究所)
我们解决了具有挑战性的问题,整个幻灯片图像(WSI)分类。WSI具有非常高的分辨率,并且通常缺少本地化的注释。当只有幻灯片级别的标签可用时,WSI分类可以转换为多实例学习(MIL)问题。我们提出了一种基于MIL的WSI分类和肿瘤检测方法,不需要本地化的注释。我们的方法有三个主要组成部分。首先,我们介绍了一种新的MIL聚合器,该聚合器采用可训练的距离测量对双流体系结构中的实例关系进行建模。其次,由于WSI可以产生大的或不平衡的袋子,阻碍了MIL模型的训练,我们建议使用自监督对比学习来提取MIL的良好表示,并减轻大袋子的内存成本过高的问题。第三,对多尺度WSI特征采用金字塔融合机制,进一步提高了分类和定位的准确性。我们的模型在两个有代表性的WSI数据集上进行了评估。我们的模型的分类准确性与完全监督的方法相比毫不逊色,数据集之间的准确性差距小于2%。我们的结果也优于所有以前的基于MIL的方法。标准MIL数据集上的其他基准测试结果进一步证明了我们的MIL聚合器在一般MIL问题上的卓越性能。GitHub存储库:https://github.com/binli123/dsmil-wsi
2021-04-02 cs.CV cs.LG
A Study on Classification in Imbalanced and Partially-Labelled Data Streams
University of Manchester(曼彻斯特大学)
射电天文学领域目前正面临着重大的计算挑战,其中最重要的是世界上最大的射电望远镜平方公里阵列(SKA)的发展所带来的挑战。该仪器的初步规格表明,最终设计将包括2000至3000个15米接收天线,这些天线合在一起预计将产生许多TB/s的数据速率。鉴于如此高的数据速率,考虑如何处理和存储这些信息以最大限度地发挥其科学效用变得至关重要。在本文中,我们考虑一种可能的数据处理方案的SKA,全天脉冲星调查的目的。特别是,我们把选择有前途的信号从SKA处理管道作为一个数据流分类问题。我们认为,通过一个未标记的和严重类不平衡的数据流到达的信号进行分类的可行性,使用目前可用的算法和框架。我们的研究结果表明,现有的流学习器在标准配置中使用时,对真实天文数据的召回率低得令人无法接受;然而,良好的误报性能和与静态学习器相当的准确性表明,它们具有一定的潜力,可以作为这一特定大数据挑战的在线解决方案。
2013-07-30 astro-ph.IM cs.LG
Higgs Boson Classification: Brain-inspired BCPNN Learning with StreamBrain
KTH Royal Institute of Technology(瑞典皇家理工学院)
受大脑模型启发的机器学习技术是数据分析和探索大型数据集的最有前途的方法之一。这种方法使用替代的学习规则可能比建立的学习规则更有效。在这项工作中,我们专注于大脑启发的ML利用高性能计算(HPC)资源来解决ML问题的潜力:我们讨论了BCPNN和HPC实现,称为StreamBrain,其计算成本,对HPC系统的适用性。作为一个例子,我们使用StreamBrain来分析来自高能物理的希格斯玻色子数据集,并在高能粒子对撞机的碰撞中区分背景和信号类。总体而言,我们达到了69.15%的准确度和76.4%的曲线下面积(AUC)性能。
2021-08-17 cs.CE cs.DC cs.LG
Parallel Long Short-Term Memory for Multi-stream Classification
LIA - University of Avignon(LIA - 阿维尼翁大学);EDD;McGill University(麦吉尔大学)
最近,机器学习方法已经提供了基于深度神经网络(DNN)的广泛的原始且有效的算法,以自动预测关于输入序列的结果。递归隐藏单元允许这些基于DNN的模型管理长期依赖关系,例如递归神经网络(RNN)和长短期记忆(LSTM)。然而,这些RNN在一个(LSTM)或两个(双向LSTM)方向上处理单个输入流。但是,现在可用的大多数信息来自多流或多媒体文档,并且要求RNN在训练期间同步处理这些信息。本文提出了一种基于LSTM的原始架构,称为并行LSTM(PLSTM),它执行多个并行同步输入序列以预测公共输出。所提出的PLSTM方法可用于并行序列分类目的。PLSTM的方法进行评估的自动电视广播类型序列分类任务,并与不同的国家的最先进的架构进行比较。结果表明,所提出的PLSTM方法优于基线n-gram模型以及最先进的LSTM方法。
2017-02-11 cs.CL cs.LG
An Evolving Population Approach to Data-Stream Classification with Extreme Verification Latency
De Montfort University(德蒙福特大学)
本文提出一种演化种群方法,通过维护每类的一类分类器集成并施加选择压力,在无标签的极端延迟数据流中适应变化,保持分类准确率。
2023-12-07 cs.AI cs.LG cs.NE
Two-stream Network for ECG Signal Classification
Shanghai Jiao Tong University(上海交通大学);Zhong Shan Hospital(中山医院)
心电图(ECG)是一种心脏活动的医学监测技术,是识别心血管疾病的重要方法。然而,分析日益增长的心电数据量消耗了大量的医疗资源。本文探索了一种有效的基于心电图的多类心跳类型自动分类算法。大多数基于神经网络的方法都以单个心跳为目标,忽略了嵌入在时间序列中的秘密。并且心电信号具有时间变化和独特的个体特征,这意味着同一类型的心电信号在不同的身体条件下在患者之间是不同的。本文提出了一种两流结构,并在此基础上提出了一种增强型的心电图识别。该架构实现了整体ECG信号和个体心跳的分类,并结合了识别和时间流网络。识别网络用于提取单个心跳的特征,而时间网络旨在提取心跳之间的时间相关性。在MIT-BIH心律失常数据库上的实验结果表明,该算法的准确率为99.38%。此外,该算法在现实生活中的海量数据上取得了88.07%的正向准确率,表明该算法能够有效地对不同类别的心跳进行分类,具有较高的诊断性能.
2022-10-05 cs.AI cs.CV cs.LG
I Know What You Saw Last Minute - Encrypted HTTP Adaptive Video Streaming Title Classification
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Ariel University(阿里埃勒大学)
桌面和笔记本电脑可能被恶意利用来侵犯隐私。有两种主要类型的攻击场景:主动和被动。在本文中,我们考虑被动的情况下,对手不主动与设备进行交互,但他能够窃听网络流量的设备从网络侧。大多数互联网流量都是加密的,因此被动攻击具有挑战性。先前的研究表明,信息可以从加密的多媒体流中提取。这包括非HTTP自适应流(非HAS)的视频标题分类。提出了一种加密HTTP自适应视频流标题分类算法。我们表明,外部攻击者可以从视频HTTP自适应流(HAS)网站,如YouTube的视频标题。据我们所知,这是第一个表明这一点的作品。我们提供了一个大的数据集10000 YouTube视频流的100个流行的视频标题(每个标题下载100次)作为这个任务的例子。该数据集是在真实网络条件下收集的。我们提出了几种机器算法的任务,并通过一组实验,这表明我们的分类准确率超过95%。我们还表明,我们的算法能够将不在训练集中的视频标题分类为未知,并且一些算法还能够消除对视频标题的错误预测,而是报告未知。最后,我们评估我们的算法的鲁棒性延迟和数据包丢失在测试时,并表明,使用SVM的解决方案是最强大的对这些变化给予足够的训练数据。我们提供了数据集和爬虫为未来的研究。
2016-07-21 cs.LG cs.MM cs.NI
Modeling Live Video Streaming: Real-Time Classification, QoE Inference, and Field Evaluation
University of New South Wales(新南威尔士大学);BITS Pilani(皮拉尼比尔拉理工学院)
社交媒体、职业体育和视频游戏正在推动Twitch和YouTube Live等平台上的直播视频流的快速增长。直播流体验非常容易受到短时间尺度网络拥塞的影响,因为客户端回放缓冲区通常不超过几秒。不幸的是,识别这样的流并测量它们的QoE以用于网络管理是具有挑战性的,因为内容提供方在很大程度上使用相同的递送基础设施用于实况和视频点播(VoD)流传输,并且分组检测技术(包括SNI/DNS查询监视)不能总是区分两者。在本文中,我们设计,构建和部署ReCLive:一种基于网络级行为特征的实时视频检测和QoE测量的机器学习方法。我们的贡献有四个方面:(1)我们分析了来自Twitch和YouTube的约23,000个视频流,并确定了其流量概况中区分直播和点播流媒体的关键特征。我们将我们的流量跟踪作为开放数据向公众发布;(2)我们开发了一个基于LSTM的二元分类器模型,该模型可以在实时的【形】点播流中区分直播和点播流,跨提供商的准确率超过95%;(3)我们开发了一种方法,该方法可以根据分辨率和缓冲区停顿事件来估计直播流的QoE指标,总体准确率分别为93%和90%;以及(4)最后,我们对我们的解决方案进行原型设计,在实验室中对其进行训练,并将其部署到服务于7,000多个用户的实时ISP网络中。我们的方法为ISP提供了对实时视频流的细粒度可见性,使他们能够测量和改善用户体验。
2021-12-05 cs.AI cs.LG cs.NI
Anomaly detection and classification for streaming data using PDEs
McGill University(麦吉尔大学);University of Minnesota(明尼苏达大学)
非支配排序,也被称为Pareto深度分析(PDA),被广泛用于多目标优化,最近发现在多准则异常检测的重要应用。最近,一个偏微分方程(PDE)连续极限被发现的非支配排序导致一个非常快速的近似排序算法,称为偏微分方程为基础的排名。在本文中,我们提出了一个快速的实时流版本的PDA算法的异常检测,利用PDE连续极限的计算优势。此外,我们推导出新的PDE连续极限排序点内的非支配层,并显示如何新的PDE可以用来分类异常的基础上,该标准更显着违反。我们还证明了基于偏微分方程的排名的统计收敛速度,并提出了合成和真实数据的数值实验结果。
2017-03-15 cs.CV cs.DB cs.LG
Analysis of Video Feature Learning in Two-Stream CNNs on the Example of Zebrafish Swim Bout Classification
Semmelhack等人(2014年)使用支持向量机(SVM)在区分斑马鱼的游泳回合中实现了高分类精度。卷积神经网络(CNN)在各种图像识别任务中已经达到了优于SVM的性能,但这些强大的网络仍然是一个黑匣子。实现更高的透明度有助于建立对其分类的信任,并使专家能够解释学到的特征。使用最近开发的称为深度泰勒分解的技术,我们生成了热图,以突出与预测高度相关的输入区域。我们发现,我们的CNN通过分析尾部躯干的稳定性来进行预测,这与Semmelhack等人(2014)使用的手动提取特征明显不同。我们进一步发现,该网络关注实验性人工制品。去除这些伪影确保了预测的有效性。校正后,我们最好的CNN比SVM高出6.12%,分类准确率达到96.32%。因此,我们的工作证明了人工智能可解释性对于CNN的实用性。
2019-12-20 cs.CV cs.LG eess.IV
Online Boosting Adaptive Learning under Concept Drift for Multistream Classification
University of Technology Sydney(悉尼科技大学)
针对多流分类中的概念漂移问题,提出在线提升自适应学习(OBAL)方法,通过双阶段机制自适应学习流间动态相关性,有效利用多源正向知识,提升目标流预测性能与稳定性。
2024-01-01 cs.AI cs.LG
Mondrian Forest for Data Stream Classification Under Memory Constraints
Concordia University(康考迪亚大学)
本文调整在线 Mondrian forest 分类算法以适应内存受限的数据流环境,设计了五种内存外更新策略和修剪机制应对概念漂移,并在多种数据集上验证,推荐 Extend Node 策略为最佳方案。
2023-08-04 cs.AI cs.LG
Three-Stream 3D/1D CNN for Fine-Grained Action Classification and Segmentation in Table Tennis
Max Planck Institute for Evolutionary Anthropology(马克斯·普朗克进化人类学研究所);Univ. Bordeaux(波尔多大学);CNRS(法国国家科学研究中心);Bordeaux INP(波尔多国立理工学院);LaBRI(波尔多计算机科学研究所);MIA, La Rochelle University(拉罗谢尔大学MIA研究所);IMS, University of Bordeaux(波尔多大学IMS研究所)
提出了一种基于时空卷积和时间卷积的三流网络融合运动视频模态的方法,用于运动动作的细粒度分类。它应用于TTStroke-21数据集,该数据集由未修剪的乒乓球比赛视频组成。目标是检测和分类视频中的乒乓球击球,这是一个更大计划的第一步,旨在为球员提供反馈,以提高他们的表现。这三种模态是原始RGB数据、计算的光流和估计的玩家姿势。该网络由三个具有注意力块的分支组成。在网络的最后阶段使用双线性层融合特征。与以前的方法相比,使用三种模式可以更快的收敛和更好的性能上的两个任务:分类的中风与已知的时间边界和联合分割和分类。为了给运动员提供更丰富的反馈,姿势也被进一步研究。
2021-09-29 cs.AI cs.CV cs.HC
Interpretable classification of wiki-review streams
University of Vigo(维戈大学);Universidade Portucalense(波尔图大学);ISEP, Polytechnic of Porto(波尔图理工学院ISEP);Institute for Systems and Computer Engineering, Technology and Science(系统与计算机工程、技术与科学研究所)
本文提出一种基于流处理的在线分类方法,利用自解释算法和自然语言处理技术实时预测并解释Wiki评论的回退行为,同时通过生成合成数据平衡类别,在Wikivoyage数据集上各项评估指标均接近90%。
2024-05-28 cs.AI cs.CL cs.LG
Efficient Classification of Multi-Labelled Text Streams by Clashing
Universidad Técnica Federico Santa María(费德里科圣玛丽亚理工大学);University of Bristol(布里斯托大学)
我们提出了一种方法,明确设计的数据流应用程序,需要处理一个几乎无限的数据序列,使用恒定的内存和恒定的处理时间的多标签的文本文档的分类。我们的方法是由一个在线的过程,用于有效地映射到一个低维的特征空间的文本和一个分区的这个空间到一组区域的系统提取和保持用于预测多标签文本注释的统计数据。文档作为一个单词序列被输入系统,映射到分区的一个区域,并使用从同一区域中冲突的标记实例计算的统计数据进行注释。这种方法被称为冲突。我们说明了在现实世界中的文本数据的方法,使用其他文本分类器获得的结果进行比较。此外,我们提供了一个分析的表示空间的维数对系统的预测性能的影响。我们的研究结果表明,在线嵌入确实近似于完整的语料库TF和TF-IDF空间的几何形状。该模型获得竞争力的F措施相对于最准确的方法,使用显着更少的计算资源。此外,该方法实现了更高的宏观平均F测量比具有类似的运行时间的方法。此外,该系统能够比其他方法更快地从部分标记的流中学习。
2016-04-12 cs.AI cs.LG
DynED: Dynamic Ensemble Diversification in Data Stream Classification
Bilkent University(比尔肯特大学)
DynED提出基于MMR的动态集成构建方法,在数据流分类中结合多样性与准确性,实验显示优于五种先进基线。
2023-09-06 cs.AI cs.IR cs.LG
Ensemble of Distributed Learners for Online Classification of Dynamic Data Streams
UCLA(加州大学洛杉矶分校)
我们提出了一个有效的分布式在线学习计划,从分布式,异构和动态数据源捕获的数据进行分类。我们的方案由多个分布式本地学习器组成,这些学习器分析与需要分类的共同事件相关的不同数据流。每个学习器使用局部分类器进行局部预测。然后,每个学习器收集局部预测,并使用加权多数规则组合以输出最终预测。我们提出了一种新的在线集成学习算法来更新聚合规则,以适应底层的数据动态。我们严格确定我们的算法,这取决于最好的静态聚集规则的误分类概率的最坏情况下的误分类概率的界限,和最好的本地分类。重要的是,我们的算法的最坏情况下的误分类概率渐近趋于0,如果最好的静态聚集规则的误分类概率或最好的局部分类器的误分类概率趋于0。然后,我们扩展我们的算法,以解决特定的分布式实现的挑战,我们证明了新的界限,适用于这些设置。最后,我们测试我们的计划进行评估研究的几个数据集。当应用到广泛使用的文献处理动态数据流和概念漂移的数据集,我们的计划表现出的性能增益范围从34%到71%的最先进的解决方案。
2013-08-24 cs.LG
CBGT-Net: A Neuromimetic Architecture for Robust Classification of Streaming Data
Carnegie Mellon University(卡内基梅隆大学);Robotics Institute(机器人研究所)
受大脑CBGT回路启发,CBGT-Net通过累积流数据证据至预设阈值来动态触发决策,在图像分类任务中展现出优于单块分类和LSTM模型的准确性与鲁棒性。
2024-03-24 cs.AI cs.CV cs.LG
Hoeffding adaptive splitting trees for data stream classification with concept drift and ensemble learning
Pontifícia Universidade Católica do Paraná (PUCPR)(巴拉那天主教大学);Sorbonne Université(索邦大学)
本文针对自适应分裂决策树作为集成基学习器的多样性不足问题,提出霍夫丁自适应分裂树模型,结合霍夫丁树的周期性分裂策略与自适应分裂机制,在综合评估中实现了最优的数据流分类性能。
2026-08-18 cs.AI cs.LG
A Novel Online Real-time Classifier for Multi-label Data Streams
提出了一种新的基于极限学习机的实时的【形】数据流在线多标记分类器。多标签分类是近年来机器学习研究的热点之一,由于其在现实世界中的应用迅速增加,受到了广泛的关注。与传统的二进制和多类分类相比,多标签分类涉及同时将每个输入样本与一组目标标签相关联。在文献中没有实时的【形】基于在线神经网络的多标签分类器。在本文中,我们利用极限学习机所表现出的高速的固有性质,开发了一种新的在线实时的【形】分类器的多标签数据流。开发的分类器进行了实验,从不同的应用领域的一致性,性能和速度的数据集。实验结果表明,该方法在速度和准确率方面均优于现有的最新技术,能够实时的【形】对多标签数据流进行分类.
2016-08-31 cs.AI cs.LG cs.NE
A Broad Ensemble Learning System for Drifting Stream Classification
Bilkent University(比尔肯特大学);Manning College of Information and Computer Sciences(曼宁信息与计算机科学学院)
在数据流环境中,分类模型必须高效且有效地处理概念漂移。包围方法被广泛用于此目的;然而,文献中可用的方法要么使用大数据块来更新模型,要么逐个学习数据。在前一种情况下,模型可能会错过数据分布的变化,而在后一种情况下,模型可能会效率低下和不稳定。为了解决这些问题,我们引入了一种新的集成方法的基础上广泛的学习系统(BLS),其中迷你块在每次更新。BLS是最近开发的用于增量学习的有效轻量级神经架构。虽然它速度很快,但它需要大量的数据块来进行有效的更新,并且无法处理数据流中观察到的动态变化。我们提出的方法命名为广泛的包围学习系统(BELS)使用一种新的更新方法,显着提高了最佳的同类模型的准确性。它采用输出层的集合来解决BLS的限制和处理漂移。我们的模型跟踪合奏组件的准确性的变化,并对这些变化作出反应。我们提出了BELS的数学推导,用20个数据集进行了全面的实验,证明了我们的模型对各种漂移类型的适应性,并提供了我们提出的模型的超参数和消融分析。我们的实验表明,所提出的方法优于9个国家的最先进的基线,并提供了13.28%的平均prequential准确性方面的整体改善。
2023-03-14 cs.AI cs.LG