QActor: On-line Active Learning for Noisy Labeled Stream Data
TU Delft（代尔夫特理工大学）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；ABB Future Labs（ABB未来实验室）
对于不断发布在网络和社交媒体上的自我生成内容来说，嘈杂的标记数据更像是一种常态，而不是罕见的。由于隐私问题和政府法规，这样的数据流只能在有限的时间内存储和用于学习目的。为了克服这种在线情况下的噪声，我们提出了QActor，它结合了：通过质量模型选择理应干净的样本，并积极查询最翔实的真实标签的预言。虽然前者可能受到在线场景数据量低的影响，但后者受到人类专家可用性和成本的限制。QActor迅速结合了数据过滤质量模型和Oracle查询的优点，以清理信息量最大的数据。QActor的目标是利用严格的Oracle预算来最大限度地提高学习精度。QActor探索了结合不同查询分配和不确定性度量的各种策略。QActor的一个核心特性是根据每个数据批次的学习损失动态调整查询限制。我们广泛评估了输入分类器的不同图像数据集，这些数据集可以是标准的机器学习（ML）模型或深度神经网络（DNN），噪声标签比率在30%到80%之间。我们的研究结果表明，QActor几乎可以匹配仅使用干净数据实现的最佳准确度，其代价是最多额外增加6%的oracle地面真实数据。
2020-01-28 cs.LG stat.ML
Data Stream Sampling with Fuzzy Task Boundaries and Noisy Labels
The University of Melbourne（墨尔本大学）
针对模糊任务边界与噪声标签的数据流持续学习问题，提出 NTD 采样去偏方法，在四个数据集上以更少 GPU 内存和两倍以上加速保持或提升准确率。
2024-04-07 cs.AI cs.CV cs.LG
Gibbs Sampling Strategies for Semantic Perception of Streaming Video Data
Woods Hole Oceanographic Institution（伍兹霍尔海洋研究所）；McGill University（麦吉尔大学）
流传感器数据的主题建模可用于移动机器人对环境的高水平感知。在本文中，我们比较各种吉布斯采样策略的主题建模流时空数据，如视频捕获的移动机器人。与以往的在线主题建模，如o-LDA和增量LDA的工作相比，我们表明，所提出的技术的结果在较低的在线和最终的困惑，给定的实时约束。
2015-09-10 cs.LG cs.RO
Time Series Anomaly Detection; Detection of anomalous drops with limited features and sparse examples in noisy highly periodic data
Google, Inc.（谷歌公司）
Google使用来自行业合作伙伴的连续数据流，以便向用户提供准确的结果。意外的流量下降可能是潜在问题的指示，也可能是需要采取补救措施的早期警告。检测这样的丢弃是不平凡的，因为流是可变的和有噪声的，在流量数据中具有大致规则的尖峰（以许多不同的形状）。我们研究了我们是否可以预测这些数据流中的异常的问题。我们的目标是利用机器学习和统计方法对周期性但有噪声的流量模式中的异常下降进行分类。由于我们没有大量的标记示例来直接应用监督学习进行异常分类，因此我们分两部分处理这个问题。首先，我们使用TensorFlow来训练我们的各种模型，包括DNN、RNN和LSTM，以执行回归并预测时间序列中的期望值。其次，我们创建了异常检测规则，将实际值与预测值进行比较。由于这个问题需要找到持续的异常，而不仅仅是数据中的短暂延迟或瞬间不活动，因此我们的两种检测方法专注于连续的活动部分，而不仅仅是单个点。我们尝试了模型和规则的多种组合，发现使用两种异常检测方法的交集被证明是检测几乎所有模型异常的有效方法。在这个过程中，我们还发现并非所有数据都符合我们的实验假设，因为一个数据流没有周期性，因此没有基于时间的模型可以预测它。
2017-08-11 cs.LG stat.ML
Discovering Emerging Topics in Social Streams via Link Anomaly Detection
Institute of Industrial Science（产业技术研究所）；The University of Tokyo（东京大学）
由于社交网络的快速增长，对新兴主题的检测现在重新受到关注。传统的基于词频的方法在这种情况下可能不合适，因为交换的信息不仅是文本，而且是图像、URL和视频。我们专注于这些网络的社会方面。也就是说，用户之间的链接是通过回复、提及和转发有意或无意地动态生成的。我们提出了一个概率模型的社交网络用户的提及行为，并建议检测一个新的主题的出现，通过该模型测量的异常。我们提出的提及异常分数与最近提出的基于顺序贴现归一化极大似然（SDNML）的变点检测技术相结合，或与Kleinberg的突发模型。聚集数百名用户的异常分数，我们表明，我们可以检测到新兴的主题，仅基于社交网络帖子中的回复/提及关系。我们展示了我们的技术在一些真实的数据集，我们从Twitter收集。实验结果表明，所提出的基于提及异常的方法可以检测新的主题至少早于传统的基于词频的方法，有时更早，当关键字是不明确的。
2011-10-13 cs.LG cs.SI physics.soc-ph
Active Learning for Noisy Data Streams Using Weak and Strong Labelers
Delft University of Technology（代尔夫特理工大学）
在机器学习中，正确标记数据是一项昂贵且具有挑战性的任务，特别是对于在线数据流。深度学习模型尤其需要大量干净的标记数据，这在现实世界的问题中是很难获得的。选择有用的数据样本进行标记，同时最大限度地降低标记成本，对于保持训练过程的效率至关重要。当面对多个贴标机具有不同的专业知识和各自的标签成本，决定选择哪个贴标机是不平凡的。在本文中，我们考虑了一种新的弱和强标签问题的启发，人类的自然能力的标签，在存在的数据流与噪声标签和有限的预算约束。我们提出了一个在线的主动学习算法，包括四个步骤：过滤，增加多样性，信息样本选择，标签选择。我们的目标是过滤掉可疑的噪音样本，并以具有成本效益的方式使用强标记器和弱标记器将预算用于各种信息数据。我们推导出一个决策函数，通过结合个体样本的信息量和模型置信度来衡量信息增益。我们评估我们提出的算法上著名的图像分类数据集CIFAR10和CIFAR100高达60%的噪声。实验表明，通过智能地决定查询哪个标签，我们的算法保持相同的准确性相比，只有一个可用的标签，而花费较少的预算的情况下。
2020-10-27 cs.LG
Spatial Semantic Scan: Jointly Detecting Subtle Events and their Spatial Footprint
Heinz College（海因茨学院）；Carnegie Mellon University（卡内基梅隆大学）
已经提出了许多使用主题建模来检测文本流中出现的事件的方法。然而，这些方法有缺点，使他们不适合快速检测本地新兴的事件在大量的文本流。我们描述了空间紧凑的语义扫描（SCSS），已专门开发，以克服目前的方法在检测新的空间紧凑的文本流中的事件的缺点。SCSS采用交替优化之间使用语义扫描，以估计对比前景主题的文件，并发现空间附近的高出现率的文件包含的前景主题。我们在急诊科主诉数据集（ED数据集）上评估了我们的方法，以验证我们的方法在从自由文本ED主诉数据中检测真实世界疾病爆发方面的有效性。
2016-05-28 cs.CL cs.LG stat.ML
TopicBERT: A Transformer transfer learning based memory-graph approach for multimodal streaming social media topic detection
University of Tabriz（大不里士大学）；Université du Littoral Côte D’Opale（滨海大学）
具有突发短消息的社交网络的实时的性及其各自的大数据规模分布在各种各样的主题中是许多研究者的研究兴趣。被称为大数据的5 'V的社交网络的这些属性导致了许多独特的和启发性的算法和技术应用于大型社交网络数据集和数据流。这些研究中的许多都是基于对热点话题和社交媒体事件的检测和跟踪，这些热点话题和社交媒体事件有助于揭示许多悬而未决的问题。这些算法和某些软件产品主要依赖于语言本身的性质。虽然，其他技术，如无监督数据采掘方法是语言无关的，但许多要求，一个全面的解决方案没有得到满足。许多研究问题，如嘈杂的句子，不利的语法和新的在线用户发明的话是具有挑战性的维护一个良好的社会网络主题检测和跟踪方法，词之间的语义关系，在大多数情况下，同义词也被许多这些研究忽视。在这项研究中，我们使用Transformers结合增量社区发现算法。Transformer一方面提供了不同语境中词与词之间的语义关系;另一方面，所提出的图挖掘技术增强了所产生的主题与简单的结构规则的援助。从多模态数据（图像和文本）中识别命名实体识别，用实体类型标记命名实体，并使用它们调整提取的主题。该系统的所有操作都应用于NoSQL技术下的大社会数据视角。为了提出一个有效的系统化解决方案，我们将MongoDB和Neo4j作为我们工作的两个主要数据库系统。该系统在三个不同的数据集上显示出更高的准确率和召回率。
2020-08-16 cs.CL cs.IR cs.LG
A Topical Approach to Capturing Customer Insight In Social Media
Université Claude Bernard Lyon 1（里昂第一大学）；INRIA（法国国家信息与自动化研究所）；Université de Lorraine（洛林大学）；Lizeo IT（Lizeo IT公司）；Université Jean Monnet（圣艾蒂安大学）；Sorbonne Université（索邦大学）；Université Paul Sabatier（保罗·萨巴蒂埃大学）
针对社交媒体含噪声大数据下的无监督客户洞察提取难题，提出三种基于变分自编码器的非参数主题方法，在基准与汽车行业数据集上性能达SOTA水平，指出主题建模需优化评估指标。
2023-07-14 cs.CL cs.LG stat.ML
Chronotome: Real-Time Topic Modeling for Streaming Embedding Spaces
Harvard University（哈佛大学）；Google Research（谷歌研究）
针对现有降维方法难以捕捉时序数据集语义变迁的问题，研究提出结合力导向投影与流式聚类的可视化技术，开发出实时探索演化主题的Chronotome工具，经文本与图像数据用例验证可助力理解时序数据的美学与语义特征。
2025-09-01 cs.CL cs.CV cs.HC
Noisy student-teacher training for robust keyword spotting
Google Inc.（谷歌公司）
我们提出了自训练与嘈杂的学生-教师的方法流关键字发现，可以利用大规模的未标记的数据和积极的数据增强。所提出的方法应用积极的数据增强（光谱增强）的学生和教师的输入，并利用未标记的数据在规模，这显着提高了学生的准确性，对具有挑战性的条件。当与带有硬标记数据的监督训练一起使用时，这种积极的增强通常会降低模型性能。实验表明，积极规范增强基线监督训练方法降低准确性，而提出的自我训练与嘈杂的学生-教师培训提高了一些困难的条件测试集的准确性高达60%。
2021-06-03 cs.LG stat.ML
Streaming algorithms for evaluating noisy judges on unlabeled data -- binary classification
Data Engines（数据引擎公司）；Real Chemistry（Real Chemistry公司）
本文提出两个基于独立误差假设的代数评估器，用于在未标记数据上流式评估噪声二分类集成，并通过构造曲面和代数失败模式筛选近似独立的集成，实现高精度标签普遍性与准确率估计。
2023-09-08 cs.LG math.AG stat.ML
Online Real-time Learning of Dynamical Systems from Noisy Streaming Data: A Koopman Operator Approach
Pacific Northwest National Laboratory（太平洋西北国家实验室）
本文提出一种基于鲁棒Koopman算子的在线实时学习算法，从含噪流式数据中学习动态系统，获得线性表示，计算效率优于EDMD，并在多个系统上验证有效性。
2023-12-24 cs.LG math.DS
Event Detection in Noisy Streaming Data with Combination of Corroborative and Probabilistic Sources
Georgia Institute of Technology（佐治亚理工学院）
全球物理事件检测传统上依赖于世界各地物理传感器的密集覆盖;虽然这是一项昂贵的工作，但直到最近才有替代方案。现场无处不在的社交网络和人类传感器提供了大量关于世界各地真实物理事件的实时实时数据。然而，虽然这样的人类传感器数据已经被用于回顾性的大规模事件检测，如飓风或地震，但它们在利用这种丰富的资源进行一般物理事件检测方面一直受到限制，没有成功。先前的实现方法已经遭受概念漂移现象，其中真实世界数据在其数据分布中表现出恒定的、未知的、无界的变化，使得静态机器学习模型长期无效。我们提出并实现了一个端到端的协作漂移自适应系统，该系统集成了确证和概率源，以提供实时预测。此外，我们的系统是自适应的概念漂移，并执行自动持续学习，以保持高性能。我们展示了我们的方法在实时演示在线滑坡灾害检测，可扩展到其他现实世界的物理事件，如洪水，野火，飓风和地震。
2019-11-21 cs.LG cs.SI cs.SY
Residual-Stream Burden Shapes Representation Learning in Diffusion Transformers
UC San Diego（加州大学圣迭戈分校）；Shanghai Jiao Tong University（上海交通大学）；Aether AI
本文提出残差流负担机制，解释扩散Transformer中预测目标与架构如何共同影响表示学习，并引入空间索引超连接（SiHC）在ImageNet 256×256上实现FID 1.71。
2026-10-08 cs.CV cs.LG
Discriminative Neural Topic Models
Indian Institute of Science（印度科学院）
我们提出了一种基于神经网络的方法，用于从文本和图像数据集中学习主题。该模型不假设所观察到的特征的条件分布给定的潜在主题。这使我们能够使用文档的句子和图像的补丁作为观察到的特征来有效地执行主题建模，而不是将自己局限于单词。此外，所提出的方法是在线的，因此可以用于流数据。此外，由于该方法利用神经网络，它可以很容易地在GPU上实现，因此它是非常可扩展的。
2017-02-28 cs.LG
Learning nonparametric ordinary differential equations from noisy data
TGen（TGen转化基因组学研究所）；Portland State University（波特兰州立大学）；Galois Inc.（Galois公司）
针对含噪数据下的非参数常微分方程组学习，提出基于再生核希尔伯特空间的惩罚方法，利用表示定理与欧拉近似求解，并给出泛化界及实验验证。
2023-11-13 cs.LG stat.ML
Continual Learning of Long Topic Sequences in Neural Information Retrieval
CNRS-ISIR, Sorbonne University（法国国家科学研究中心-智能系统与机器人研究所，索邦大学）
在信息检索（IR）系统中，趋势和用户的兴趣可能随时间改变，从而改变请求的分布或要推荐的内容。由于神经排序方法严重依赖于训练数据，因此了解最近IR方法的传输能力以解决长期的新领域是至关重要的。在本文中，我们首先提出了一个数据集的基础上MSMarco语料库，旨在建模一个很长的主题流以及IR属性驱动的控制设置。然后，我们深入分析最近的神经IR模型的能力，同时不断学习这些流。我们的实证研究强调了在哪些特定情况下会发生灾难性遗忘（例如，任务之间的相似性水平、文本长度的特殊性以及学习模型的方式），以提供模型设计方面的未来方向。
2022-01-10 cs.IR cs.LG
A Multi-task Deep Learning Architecture for Maritime Surveillance using AIS Data Streams
IMT Atlantique（大西洋国立高等矿业电信学院）；CLS - Space and Ground Segments（CLS 空间与地面段公司）
在全球贸易的世界中，海上安全、安保和效率是至关重要的问题。我们提出了一个多任务深度学习框架，用于使用自动识别系统（AIS）数据流进行船舶监控。我们将递归神经网络与潜变量建模相结合，并将AIS消息嵌入到一个新的表示空间中，以共同解决在考虑AIS数据流时要处理的关键问题：大量的流数据，噪声数据和不规则的时间序列。我们证明了所提出的深度学习框架在真实AIS数据集上的相关性，用于三个任务设置，即轨迹重建，异常检测和血管类型识别。
2018-08-07 cs.CV cs.LG stat.ML
Online Bayesian Collaborative Topic Regression
Zhejiang University（浙江大学）；Singapore Management University（新加坡管理大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）
协作主题回归（CTR）结合了概率矩阵分解（PMF）和主题建模（例如，LDA）的推荐系统，在许多应用中取得了越来越多的成功。现有的CTR算法虽然具有许多优点，但也存在一些严重的局限性。首先，它们通常被设计为以批量学习的方式工作，这使得它们不适合处理真实世界推荐系统中的流数据或大数据。其次，LDA的文档特定主题比例被馈送到下游PMF，但不是反向的，这是次优的，因为在发现文档的低维表示时没有利用评级信息，因此可能导致用于预测的次优表示。在本文中，我们提出了一种新的方案，在线贝叶斯协作主题回归（OBCTR），这是有效的和可扩展的学习数据流。特别地，我们{ \it联合}以在线学习的方式优化PMF和LDA的组合目标函数，其中PMF和LDA任务可以在在线学习过程中相互加强。我们令人鼓舞的实验结果对现实世界的数据验证了所提出的方法的有效性。
2016-05-28 cs.IR cs.LG
Temporal Analysis of Drifting Hashtags in Textual Data Streams: A Graph-Based Application
Pontifícia Universidade Católica do Paraná (PUCPR)（巴拉那天主教大学）；Instituto Federal de Santa Catarina (IFSC)（圣卡塔琳娜联邦学院）；Universidade Estadual de Ponta Grossa (UEPG)（蓬塔格罗萨州立大学）
本研究基于#mybodymychoice话题标签流，用Girvan-Newman图方法分析2018-2022年标签漂移，发现其从女性权利等主题向疫苗接种等多领域漂移，2021年漂移最显著，可用于社交媒体舆情监测。
2024-08-16 cs.LG cs.SI
Application of Deep Learning Methods to Processing of Noisy Medical Video Data
Orel State University（奥廖尔国立大学）；Innopolis University（Innopolis大学）
针对连续流中运动细胞边界难辨导致的计数难题，本文提出用课程学习改进训练、多视图预测改进决策，以提升含噪医学视频中的细胞计数性能。
2024-04-16 cs.CV cs.LG
Neural Topic Modeling with Continual Lifelong Learning
Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））
针对短文档数据稀疏导致主题建模效果不佳的问题，提出终身神经主题建模（LNTM）框架，通过共享生成同源和选择性数据增强等方法持续积累主题并减少灾难性遗忘，在困惑度、主题连贯性和信息检索上取得显著提升。
2023-06-27 cs.CL cs.IR cs.LG
Author Clustering and Topic Estimation for Short Texts
Duke University（杜克大学）
短文本的分析，如社交媒体帖子，是非常困难的，因为它们固有的简短。除了对这些帖子的主题进行分类外，一项常见的下游任务是将这些文档的作者分组，以便随后进行分析。我们提出了一种新的模型，扩展了潜在的Dirichlet分配建模强依赖性的话在同一个文件中，与用户级的主题分布。我们还同时集群用户，消除了事后集群估计的需要，并通过缩小嘈杂的用户级主题分布对典型值的主题估计。我们的方法执行以及-或更好-比传统的方法，我们证明了它的有用性的数据集上的推文从美国参议员，恢复有意义的主题和集群，反映党派意识形态。我们还开发了一种新的措施，这些政客之间的回声室特征的孤立性的参议员群体讨论的主题，并提供不确定性量化。
2022-06-16 cs.IR cs.LG stat.ME
Clustering memes in social media streams
Indiana University（印第安纳大学）
社交媒体中的内容聚类问题具有广泛的应用，包括讨论主题的识别、事件检测和内容推荐。在这里，我们描述了一个流媒体框架，用于在线检测和聚类社交媒体中的模因，特别是Twitter。一个预聚类过程，即原素检测，首先隔离的推文所携带的信息的原子令牌。其后，基于多个相似性度量来聚合原素，以获得作为反映实际概念或讨论主题的推文的内聚群组的模因。聚类算法考虑了数据和元数据的各个维度，包括自然语言、社交网络和信息扩散模式。因此，我们的系统可以建立集群的语义，结构和主题相关的推文。聚类过程基于在线K均值的变体，其中包含记忆机制，用于“忘记”旧的模因并随着时间的推移用新的模因替换它们。我们的框架的评估是通过使用Twitter趋势主题的数据集进行的。在一周的时间里，我们系统地确定了我们的算法是否能够恢复趋势标签。我们表明，所提出的方法优于基线算法，只使用内容功能，以及一个国家的最先进的事件检测方法，假设充分了解底层的追随者网络。我们最后表明，我们的在线学习框架是灵活的，由于其独立性所采用的聚类算法，最适合工作在流的情况下。
2014-11-03 cs.CY cs.LG cs.SI
Unsupervised Terminological Ontology Learning based on Hierarchical Topic Modeling
Northwestern University（西北大学）；Intel Corporation（英特尔公司）
在本文中，我们提出了层次关系为基础的潜在狄利克雷分配（hrLDA），数据驱动的层次主题模型，从大量的异构文档中提取术语本体。与传统的主题模型相比，hrLDA依赖于名词短语而不是一元语法，考虑语法和文档结构，并通过主题关系丰富主题层次结构。通过一系列的实验，我们证明了hrLDA优于现有的主题模型，特别是在建立层次结构。此外，我们说明了鲁棒性的hrLDA在噪声数据集的设置，这是可能发生在许多实际情况下。我们的本体评价结果表明，从hrLDA提取的本体是非常有竞争力的领域专家创建的本体。
2017-08-29 cs.CL cs.IR cs.LG
Anomaly Detection in Hierarchical Data Streams under Unknown Models
Cornell University（康奈尔大学）；University of California, Davis（加利福尼亚大学戴维斯分校）
我们考虑的问题中检测大量的分层数据流中的几个目标。数据流被建模为具有未知和潜在重尾分布的随机过程。我们的目标是一个积极的推理策略，确定，顺序，收集样本的数据流，以尽量减少样本的复杂性下的可靠性约束。我们提出了一种主动推理策略，诱导有偏随机游走的树结构的层次结构的基础上的样本统计量的置信界。然后，我们根据搜索空间的大小（即，数据流的数量）和可靠性要求。结果发现应用在分层重击检测，嘈杂的群体测试，自适应采样的主动学习，分类和随机根查找。
2017-09-11 cs.LG
Maximum likelihood estimation of a finite mixture of logistic regression models in a continuous data stream
在市场营销中，我们经常会遇到对营销信息的持续不断的回应。这种流数据提供了有关消息有效性和分段的宝贵信息。然而，流数据很难使用传统方法进行分析：它们的高容量以及它们不断增加的事实意味着分析它们需要相当长的时间。我们提出了一种方法来估计一个有限的混合逻辑回归模型，可用于集群客户的基础上的连续流的响应。这种方法，我们硬币oFMLR，允许段被确定在数据流或非常大的静态数据集。与黑盒算法相反，oFMLR提供了可直接解释的模型估计。我们首先介绍oFMLR，解释通过一般的主题，如在线估计和EM算法，使本文的高层次的概述可能的方法处理大数据流在营销实践中。接下来，我们将讨论模型的收敛性，可识别性，以及与替代方法，贝叶斯方法的关系;我们还确定了处理不断增强的数据集所产生的更一般的问题。最后，我们介绍了oFMLR [R]包，并通过数值模拟和分析一个大型客户点击流数据集来评估该方法。
2018-02-28 cs.LG stat.CO stat.ML
Reinforced Interactive Continual Learning via Real-time Noisy Human Feedback
School of Computer Science and Technology, East China Normal University（东华师范大学计算机科学与技术学院）；Shanghai Innovation Institute（上海创新研究院）；School of Computer Science, Fudan University（复旦大学计算机科学学院）
针对实时流式人类反馈含噪且需动态更新的持续学习问题，提出RiCL框架，通过净化、偏好优化和抗噪对比学习提升性能。
2025-05-15 cs.AI cs.LG
LLM-Assisted Topic Reduction for BERTopic on Social Media Data
Ghent University（根特大学）
提出结合BERTopic与大型语言模型的框架，通过迭代合并相似主题来减少社交媒体数据中的重叠主题，在三个数据集上提升了主题多样性和连贯性。
2025-09-18 cs.CL cs.LG
Robust Spectral Inference for Joint Stochastic Matrix Factorization
Cornell University（康奈尔大学）
谱推理为潜在主题分析提供了快速算法和可证明的最优性。但对于真实数据，这些算法需要额外的ad-hoc算法，即使这样也经常产生不可用的结果。我们解释了这种糟糕的性能铸造的问题，主题推理的框架联合随机矩阵分解（JSMF），并表明以前的方法违反了理论条件，一个好的解决方案存在。然后，我们提出了一种新的校正方法，即使在小的噪声数据上也能学习高质量的主题及其相互作用。该方法在几个领域中实现了与概率技术相当的结果，同时保持了可扩展性和可证明的最优性。
2016-11-01 cs.AI cs.LG
Community-Detection via Hashtag-Graphs for Semi-Supervised NMF Topic Models
从大量非结构化文本文档中提取主题已成为当前NLP应用的中心任务，NMF，LDA及其推广等算法是当前最先进的。然而，特别是当涉及到短文本文档（如Tweets）时，由于文档特征矩阵的稀疏性，这些方法通常会导致不满意的结果。尽管，已经提出了几种方法来克服这种稀疏性，考虑到额外的信息，这些仅仅是集中在相似的文件和估计词同现的聚合。这最终完全忽略了这样一个事实，即通过应用常见的社区发现算法，实际上可以从所谓的哈希标签图中检索到许多主题信息。因此，本文概述了一种新的方法，如何集成主题标签图的主题结构的主题模型的估计，通过连接基于图的社区发现和半监督NMF。通过将这种方法应用于最近的流媒体Twitter数据，可以看出，这种过程实际上导致了更直观和更人性化的主题。
2021-11-17 cs.LG cs.SI
Streaming Recommender Systems
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Yahoo! Labs（雅虎实验室）
现实世界中推荐系统的日益普及产生的数据连续和快速，它成为更现实的研究流场景下的推荐系统。数据流具有时序性、连续性和高速性等特点，这给传统的推荐系统带来了巨大的挑战。在本文中，我们研究了流输入的推荐问题。特别是，我们提供了一个原则性的框架，称为sRec，它提供了明确的连续时间随机过程模型的创建用户和主题，以及他们的利益的演变。提出了一种称为递归平均场近似的变分贝叶斯方法，它允许计算效率高的瞬时在线推理。几个真实世界的数据集上的实验结果表明，我们的sRec比其他国家的最先进的优势。
2016-07-21 cs.IR cs.LG cs.SI
Paying down metadata debt: learning the representation of concepts using topic models
J. P. Morgan AI Research（摩根大通人工智能研究院）
我们引入了一个称为元数据债的数据管理问题，以识别数据概念及其逻辑表示之间的映射。我们描述了如何使用基于低秩矩阵分解的半监督主题模型来学习这种映射，该模型考虑了缺失和噪声标签，再加上稀疏惩罚以提高本地化和可解释性。我们引入了一个规范转换的方法，使我们能够构建明确的主题和概念标签之间的关联，从而赋予主题的意义。我们还展示了如何使用这个主题模型进行半监督学习任务，例如从已知标签中推断，评估现有标签中可能的错误，以及预测缺失的特征。我们展示了这个主题模型在Kaggle.com的25，000多个数据集上预测主题标签的结果，展示了学习语义有意义特征的能力。
2020-10-09 cs.AI cs.DL cs.LG
Modeling electronic health record data using a knowledge-graph-embedded topic model
McGill University（麦吉尔大学）
电子健康记录（EHR）数据集的快速增长为系统地了解人类疾病提供了有希望的机会。然而，从EHR数据中有效地提取临床知识一直受到其稀疏性和噪声信息的阻碍。提出了一种基于端到端知识图谱的多模态嵌入式主题模型KG-ETM。KG-ETM通过学习医学知识图谱的嵌入，从EHR数据中提取潜在的疾病主题。我们将KG-ETM应用于由超过100万名患者组成的大规模EHR数据集。我们基于EHR重建和药物归责来评估其性能。KG-ETM在这两项任务上均表现出优于替代方法的性能。此外，我们的模型学习了EHR代码的具有临床意义的图形信息嵌入。此外，我们的模型还能够发现可解释和准确的患者表示，用于患者分层和药物推荐。
2022-06-03 cs.IR cs.LG q-bio.QM
Towards Proactive Information Retrieval in Noisy Text with Wikipedia Concepts
University College London（伦敦大学学院）
从用户历史中提取有用的信息以清楚地了解信息需求是主动式信息检索系统的一个重要特征。关于理解信息和相关性，维基百科可以提供智能系统所需的背景知识。这项工作探讨了如何利用上下文的查询使用维基百科的概念可以提高主动信息检索嘈杂的文本。我们制定了两个模型，使用实体链接相关联的维基百科主题的相关性模型。我们围绕播客片段检索任务的实验表明，维基百科概念中存在明确的相关性信号，而排名模型可以通过合并它们来提高精度。我们还发现维基化查询的背景上下文可以帮助消除查询的含义，进一步帮助主动信息检索。
2022-10-18 cs.AI cs.IR cs.LG
Deception Detection from Linguistic and Physiological Data Streams Using Bimodal Convolutional Neural Networks
University of Michigan（密歇根大学）；Columbia University（哥伦比亚大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Saarland University of Applied Science（萨尔应用科学大学）
本文提出一种融合语言和生理特征的双模态卷积神经网络模型，在104名受试者数据集上验证其优于常规分类方法，证明在数据有限时神经网络进行欺骗检测的可行性。
2024-11-12 cs.AI cs.CL cs.LG
U-Mamba-Net: A highly efficient Mamba-based U-net style network for noisy and reverberant speech separation
Graduate School of Informatics, Nagoya University（名古屋大学信息学研究科）；School of Informatics, Daido University（大同大学信息学学部）
针对语音分离模型计算量过大的问题，提出轻量级U-mamba-net模型，通过将Mamba作为特征滤波器与U-Net交替使用，在Libri2mix上以极低计算成本实现了性能提升。
2024-12-24 cs.LG cs.SD eess.AS
Video-based Person Re-identification with Two-stream Convolutional Network and Co-attentive Snippet Embedding
Xiamen University（厦门大学）
近年来，在视觉监控和人机交互中，人的重新识别的应用急剧增加，这表明了这个问题的关键作用。在本文中，我们提出了一个双流卷积网络（ConvNet）的基础上的竞争相似性聚合方案和共同关注的嵌入策略，基于视频的人的重新识别。通过将长视频序列划分为多个短视频片段，我们设法利用每个片段的RGB帧、光流图和姿态图来促进残差网络，例如，ResNet，用于双流ConvNet中的特征提取。提取的特征嵌入的共同关注的嵌入方法，它允许减少噪声帧的影响。最后，我们融合两个流的输出作为一个片段的嵌入，并应用竞争片段相似性聚合来衡量两个序列之间的相似性。我们的实验表明，所提出的方法显着优于当前国家的最先进的方法在多个数据集。
2019-05-28 cs.CV cs.IR cs.LG
