Modeling Continuous Time Sequences with Intermittent Observations using Marked Temporal Point Processes
Indian Institute of Technology Delhi(印度理工学院德里分校);Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校);Indian Institute of Technology Bombay(印度理工学院孟买分校)
通过人类活动(如在线购买,健康记录,空间移动等)生成的大部分数据可以表示为连续时间内的事件序列。在这些连续时间事件序列上学习深度学习模型是一项重要的任务,因为它涉及对不断增加的事件时间戳、事件间时间间隔、事件类型以及不同序列内和跨不同序列的不同事件之间的影响进行建模。近年来,标记时间点过程(MTPP)的神经增强已经成为一个强大的框架,以模拟在连续时间内本地化的异步事件的生成机制。然而,MTPP框架中的大多数现有模型和推理方法仅考虑完整的观察场景,即被建模的事件序列被完全观察到,没有丢失事件-这是一个理想的设置,在现实世界的应用中很少适用。在训练MTPP的同时考虑缺失事件的最近的工作路线利用监督学习技术,该技术需要序列中每个事件的缺失或观察标签的附加知识,这进一步限制了其实用性,因为在若干场景中,缺失事件的细节不是先验已知的。在这项工作中,我们提供了一种新的无监督模型和推理方法来学习MTPP存在的事件序列与丢失的事件。具体来说,我们首先使用两个MTPP模型的观测事件和缺失事件的生成过程,其中缺失事件表示为潜在的随机变量。然后,我们设计了一种无监督的训练方法,通过变分推理联合学习MTPP。这样的公式可以有效地估算观测事件中的缺失数据,并可以确定序列中缺失事件的最佳位置。
2022-06-23 cs.LG
Time-Dependent Representation for Neural Event Sequence Prediction
Google AI(谷歌人工智能);Google Brain(谷歌大脑)
现有的序列预测方法大多关注时间无关的序列,其中事件之间的实际时间跨度是无关的,事件之间的距离仅仅是它们在序列中的顺序位置之间的差异。虽然序列的这种与时间无关的视图适用于诸如自然语言的数据,处理句子中的单词,对于在自然出现时在不相等间隔的时间点观察和收集的许多真实世界事件来说,这是不合适的和低效的,例如,当一个人去杂货店或打电话时。事件之间的时间跨度可以携带关于人类行为的序列依赖性的重要信息。在这项工作中,我们提出了一套使用时间序列预测的方法。由于RNN等神经序列模型更适合处理令牌式输入,因此我们提出了两种用于时间相关事件表示的方法,这是基于对时间在日常生活中如何令牌化的直觉以及之前关于嵌入上下文化的工作。我们还介绍了两种使用下一个事件持续时间作为训练序列预测模型的正则化的方法。我们讨论这些方法的基础上,递归神经网络。我们评估这些方法以及基线模型的五个数据集,类似于各种序列预测任务。实验表明,所提出的方法提供了准确性增益在一系列设置的基线模型。
2018-07-20 cs.LG
Learning causation event conjunction sequences
Dialectek(Dialectek公司)
该研究检验了多种学习事件序列中因果合取关系的方法,发现直方图算法性能显著优于各类循环与非循环人工神经网络,其中注意力循环ANN在神经网络类方法中表现最优。
2024-02-17 cs.LG
NEST: Nested Event Stream Transformer for Sequences of Multisets
Department of Biostatistics & Bioinformatics, Duke University(生物统计学与生物信息学系,杜克大学);Department of Biomedical Engineering, Duke University(生物医学工程系,杜克大学);Department of Pediatrics, Duke University(儿科学系,杜克大学)
本文提出NEST,一种用于多重集序列事件流的模型,通过保留层次结构提升计算效率和表示质量,实验显示其在预训练效率和下游任务表现上均有提升。
2026-05-14 cs.LG
Learning Neural Models for Continuous-Time Sequences
IIT Delhi(印度理工学院德里分校)
由人类活动产生的大量数据,如在线购买,健康记录,空间移动等,被存储为连续时间内的事件序列。在这样的序列上学习深度学习方法是一项重要的任务,因为它涉及对不断增加的事件时间戳、事件间时间间隔、事件类型以及事件之间的影响进行建模-在不同序列内和跨不同序列。这种情况进一步加剧了与数据汇集,例如有限的数据,不完整的序列,隐私限制等的研究方向在这项工作中所描述的约束,我们的目标是研究连续时间事件序列(CTES)的属性和设计强大的但可扩展的神经网络为基础的模型,以克服上述问题。在这项工作中,我们使用标记的时间点过程(MTPP),以解决广泛的现实世界中的问题的事件的底层生成分布模型。此外,我们强调了所提出的方法在最先进的基线上的有效性,并随后报告了正在进行的研究问题。
2021-11-13 cs.LG
CoLES: Contrastive Learning for Event Sequences with Self-Supervision
AIRI(人工智能研究所);Sber AI Lab(俄罗斯联邦储蓄银行人工智能实验室);MIPT(莫斯科物理技术学院);New York University(纽约大学)
我们解决的问题,自监督学习的离散事件序列产生的现实世界的用户。自监督学习将来自原始数据的复杂信息合并到低维固定长度的向量表示中,可以很容易地应用于各种下游机器学习任务。在本文中,我们提出了一种新的方法“CoLES”,适应对比学习,以前用于音频和计算机视觉域,在自监督设置的离散事件序列域。我们基于欧洲大型金融服务公司的交易序列部署了CoLES嵌入。CoLES嵌入的使用显著提高了现有模型在下游任务上的性能,并产生了显著的财务收益,每年可达数亿美元。我们还在几个公共事件序列数据集上评估了CoLES,并表明CoLES表示在不同的下游任务上始终优于其他方法。
2022-07-22 cs.LG
Looking around you: external information enhances representations for event sequences
LARSS Laboratory, AI Center, Skoltech(LARSS实验室、人工智能中心、Skoltech)
针对事件序列表示学习中忽略同时发生序列上下文的问题,提出通过聚合多个用户表示来增强特定用户表示的方法,其中可学习注意力机制在多个数据集上显著提升指标。
2026-05-28 cs.LG
THP: Topological Hawkes Processes for Learning Causal Structure on Event Sequences
Guangdong University of Technology(广东工业大学);Peng Cheng Laboratory(鹏城实验室);Shantou University(汕头大学);Huawei(华为);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
在多类型事件序列上学习事件类型之间的因果结构是一个重要而又具有挑战性的任务。现有的方法,如多变量Hawkes过程,大多假设每个序列是独立同分布的。然而,在许多现实世界的应用程序中,它是常见的遇到一个拓扑网络背后的事件序列,使一个事件被激发或抑制不仅由它的历史,而且由它的拓扑邻居。因此,在描述的事件序列之间的拓扑依赖性的失败导致的因果结构的错误检测。从时间卷积的角度考虑Hawkes过程,提出了一种拓扑Hawkes过程(THP),将拓扑域中的图卷积与时域中的时间卷积联系起来。我们进一步提出了一个因果结构学习方法THP的似然框架。该方法具有THP的基于图卷积的似然函数和似然函数期望最大化的稀疏优化方案。理论分析和仿真数据及实际数据的实验结果表明了该方法的有效性
2022-05-15 cs.LG
Uniting contrastive and generative learning for event sequences models
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院)
本研究整合实例级对比学习与潜在空间掩蔽事件恢复的生成方法,构建平衡局部与全局特征的事件序列表示,在序列分类和下一事件预测任务中表现优于单一方法并展现协同效应。
2024-12-23 cs.LG
Realism VS Accuracy: Event Sequence Forecasting from a Generative Modeling Perspective
ITMO University(ITMO大学);Vega Institute Foundation(维加研究所基金会);SB AI Lab(SB人工智能实验室);Applied AI Institute(应用人工智能学院);AXXX
本研究将事件序列多 horizon 预测视为条件生成建模问题,构建含双维度指标等的基准,发现准确性与现实性存在根本权衡,提出 Wasserstein BaryBooster 算法实现现实性向准确性的转化。
2026-10-12 cs.LG
Continuous-time convolutions model of event sequences
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Sber AI Lab(Sber AI实验室);Choco Communication(Choco通信公司);Center for Digital Technology and Management(数字技术与管理中心)
本文提出COTIC,一种基于连续卷积层的高效事件序列建模方法,以低计算开销捕获复杂时序依赖,并在下一事件时间与类型预测上显著优于现有模型。
2024-09-03 cs.LG
ProActive: Self-Attentive Temporal Point Process Flows for Activity Sequences
IIT Delhi(德里印度理工学院)
任何人类活动都可以表示为实现特定目标所执行的动作的时间序列。与机器制造的时间序列不同,这些动作序列是高度不同的,因为完成类似动作所花费的时间可能在不同的人之间有所不同。因此,理解这些序列的动态对于许多下游任务(诸如活动长度预测、目标预测等)是必不可少的。现有的对活动序列进行建模的神经方法要么限于视觉数据,要么是任务特定的,即,仅限于下一个动作或目标预测。在本文中,我们提出了ProActive,神经标记时间点过程(MTPP)框架,用于对活动序列中的动作的连续时间分布进行建模,同时解决三个高影响力的问题-下一个动作预测,序列目标预测和端到端序列生成。具体来说,我们利用一个自我注意模块与时间规范化流程的影响和一个序列中的动作之间的到达时间。此外,对于时间敏感的预测,我们通过一个约束的边缘为基础的优化过程进行早期检测的序列目标。这反过来又允许ProActive使用有限数量的操作来预测序列目标。对来自三个活动识别数据集的序列进行的广泛实验表明,ProActive在动作和目标预测方面的准确性显著提高,并且首次应用端到端动作序列生成。
2022-06-10 cs.CV cs.LG
Pretext Training Algorithms for Event Sequence Data
Borealis AI(博雷亚利斯人工智能公司)
本文提出一种针对事件序列数据的自监督pretext训练框架,通过结合掩码重建与对比学习引入新颖的对齐验证任务,学习可泛化至多种下游任务的基础表示,并在公开基准上验证了其有效性。
2024-02-16 cs.AI cs.LG
A Deep Adversarial Model for Suffix and Remaining Time Prediction of Event Sequences
The University of Melbourne(墨尔本大学)
事件后缀和剩余时间预测是顺序到顺序的学习任务。它们在经济、数字健康、业务流程管理和IT基础设施监控等不同领域有着广泛的应用。带时间戳的事件序列包含至少带有两个属性的有序事件:事件的标签和时间戳。后缀和剩余时间预测分别是关于获得事件标签的最有可能的延续和序列完成之前的剩余时间。最近用于这种预测的基于深度学习的工作由于闭环训练(即,下一事件以先前事件的基本事实为条件)和开环推理(即,下一事件以先前预测的事件为条件)。在这项工作中,我们提出了一个编码器-解码器架构,用于开环训练,以提高事件序列的后缀和剩余时间预测。为了捕捉事件的联合时间动态,我们利用对抗学习技术的力量来提高预测性能。我们在实验中考虑了四个现实生活中的数据集和三个基线。结果表明,与最先进的后缀和事件序列的剩余时间预测相比,改进了四倍,特别是在业务流程执行领域。我们还表明,在相同的实验设置下,对抗训练所获得的改进优于标准训练。
2021-02-15 cs.AI cs.LG
ActionPiece: Contextually Tokenizing Action Sequences for Generative Recommendation
University of California, San Diego(加州大学圣地亚哥分校);Google DeepMind(谷歌DeepMind)
本文提出 ActionPiece 方法,通过基于物品特征共现频率的上下文分词和集合置换正则化,解决生成式推荐中动作分词缺乏上下文感知的问题,提升模型性能。
2025-08-15 cs.IR cs.LG
Impact of Event Encoding and Dissimilarity Measures on Traffic Crash Characterization Based on Sequence of Events
University of Connecticut(康涅狄格大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
先前的研究表明,碰撞序列分析有助于描述碰撞特征和确定安全对策。序列分析是高度领域特异性的,但其各种技术尚未被评估以适应崩溃序列。本文评估的影响,编码和相异措施的崩溃序列分析和聚类。研究了2016-2018年美国州际公路单车碰撞的序列数据。通过评价序列聚类结果,比较了两种编码方案和五种基于最优匹配的相异性度量。根据相异度矩阵之间的相关性,将五种相异度度量分为两组。基于与基准碰撞分类的协议,确定了最佳相异性度量和编码方案。基于转换率的局部最优匹配相异度和统一编码方案与基准测试的一致性最高。评价结果表明,不同度量和编码方案的选择决定了序列聚类和碰撞特征的结果。考虑事件和域上下文之间的关系的相异性度量往往在崩溃序列聚类中表现良好。合并类似事件的编码方案自然会考虑域上下文。
2023-02-22 cs.LG stat.AP
PELP: Pioneer Event Log Prediction Using Sequence-to-Sequence Neural Networks
The University of Melbourne(墨尔本大学)
针对流程挖掘领域的事件日志预测问题,提出基于序列到序列深度学习的PELP方法,经合成与真实日志验证效果良好,并给出实用建议。
2023-12-15 cs.LG cs.SE
CAUSE: Learning Granger Causality from Event Sequences using Attribution Methods
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Aalborg University(奥尔堡大学);XaiPient(赛派恩特);Duke University(杜克大学)
研究了从异步、相互依赖、多类型事件序列中学习事件类型间Granger因果关系的问题。现有的工作遭受有限的模型灵活性或模型的可解释性差,从而无法发现格兰杰因果关系在各种各样的事件序列与不同的事件相互依赖。为了解决这些弱点,我们提出了原因(因果关系从事件序列的属性),一个新的框架研究的任务。CAUSE的核心思想是首先通过拟合神经点过程来隐式地捕获潜在的事件相互依赖性,然后使用公理化归因方法从过程中提取Granger因果关系统计量。在充满不同事件相互依赖性的多个数据集上,我们证明了CAUSE在一系列最先进的方法中正确推断类型间Granger因果关系方面具有优异的性能。
2020-02-18 cs.LG stat.ML
Neural Clinical Event Sequence Prediction through Personalized Online Adaptive Learning
University of Pittsburgh(匹兹堡大学)
临床事件序列由数千个临床事件组成,这些临床事件代表了患者护理的时间记录。为这样的序列开发准确的预测模型对于定义患者状态的表示和改善患者护理是非常重要的。学习临床序列的良好预测模型的一个重要挑战是患者特异性变异性。基于潜在的临床并发症,每个患者的序列可以由不同的临床事件集合组成。然而,从这样的序列学习的基于群体的模型可能不能准确地预测事件序列的患者特异性动态。为了解决这个问题,我们开发了一个新的自适应事件序列预测框架,该框架通过在线模型更新来学习调整其对个体患者的预测。
2021-04-06 cs.AI cs.CY cs.LG
Learning Latent Process from High-Dimensional Event Sequences via Efficient Sampling
Shanghai Jiao Tong University(上海交通大学);Nanjing University(南京大学)
我们的目标是在没有任何关于标记关系的先验知识的情况下对高维标记事件序列中的潜在动态进行建模。这类问题在以往的研究中很少涉及,它们将面临以下挑战:(1)高维标记及其之间的未知关系网络对潜在动态过程的建模构成了难以克服的障碍:(2)一个观察到的事件序列可能同时包含多个不同的相互依赖的事件链; 3)高维事件序列之间的距离难以很好地确定。为此,本文提出了一个面向高维事件序列生成的对抗性模仿学习框架,该框架可以分解为:1)一个潜在结构强度模型,该模型在没有显式网络的情况下估计相邻节点,并学习捕获观察序列上标记的潜在空间中的时间动态; 2)基于随机游走的高效生成模型,从自底向上的角度模拟高维事件序列的生成过程; 3)一个被指定为seq 2seq网络的优化奖励的事件发生器,以帮助生成器尽可能真实地输出事件序列。在人工数据集和真实数据集上的实验结果表明,该方法可以有效地检测标记之间的隐藏网络,并对未来的标记事件做出良好的预测,即使标记数量达到百万级。
2019-10-28 cs.LG stat.ML
Tapestry of Time and Actions: Modeling Human Activity Sequences using Temporal Point Process Flows
University of Washington Seattle(西雅图华盛顿大学);Indian Institute of Technology Delhi(印度理工学院德里分校)
针对人类连续时间活动序列建模方法适用场景有限的问题,提出带时间归一化流自注意力模块的ProActive神经MTPP框架,可同时处理三类任务,在三个数据集上准确率优于现有方法并首次实现端到端序列生成。
2023-07-13 cs.CV cs.LG
Towards Practical Multi-label Causal Discovery in High-Dimensional Event Sequences via One-Shot Graph Aggregation
BMW Group(宝马集团);Chair for Machine Learning and Computer Vision, Augsburg University(机器学习与计算机视觉主任,艾尔堡大学)
CARGO通过一次图聚合方法,在高维事件序列中实现高效的多标签因果发现,适用于医疗和车辆诊断等复杂场景。
2025-12-12 cs.AI cs.LG
Mapping Natural Language Instructions to Mobile UI Action Sequences
Google Research(谷歌研究院)
我们提出了一个新问题:将自然语言指令与移动用户界面动作相结合,并为其创建三个新的数据集。对于完整的任务评估,我们创建了PIXELHELP,这是一个语料库,将英语指令与移动UI模拟器上的人执行的动作配对。为了扩展训练,我们通过(a)在HowTo指令中注释动作短语跨度和(b)合成移动用户界面的动作的接地描述来解耦语言和动作数据。我们使用一个Transformer从长距离自然语言指令中提取动作短语元组。然后,基础Transformer使用UI对象的内容和屏幕位置来上下文地表示UI对象,并将它们连接到对象描述。给定一个起始屏幕和指令,我们的模型在PIXELHELP中预测完整的地面实况动作序列时达到了70.59%的准确率。
2020-06-05 cs.CL cs.LG
Coarse-to-fine Q-Network with Action Sequence for Data-Efficient Reinforcement Learning
UC Berkeley(伯克利大学)
针对强化学习数据效率问题,提出CQN-AS算法,通过在评论家网络中显式学习动作序列的Q值,在稀疏奖励任务中性能优于基线算法,提升数据利用效率。
2025-11-16 cs.AI cs.LG cs.RO
Learning Temporal Point Processes for Efficient Retrieval of Continuous Time Event Sequences
IIT Delhi(印度理工学院德里分校);IIT Bombay(印度理工学院孟买分校)
最近的发展,在预测建模使用标记时间点过程(MTPP),使几个真实世界的应用,涉及连续时间事件序列(CTES)的准确表征。然而,这些序列的检索问题在文献中仍然很大程度上没有得到解决。为了解决这个问题,我们提出了NEUROSEQRET,它学习检索和排名一组相关的连续时间事件序列为一个给定的查询序列,从一个大型语料库的序列。更具体地说,NEUROSEQRET首先在查询序列上应用可训练的解扭曲函数,这使得它与语料库序列相当,特别是当相关的查询-语料库对具有单独不同的属性时。然后,它将未变形的查询序列和语料库序列馈送到MTPP引导的神经相关性模型中。我们开发了两种变体的相关性模型,提供了准确性和效率之间的权衡。我们还提出了一个优化框架来学习二进制序列嵌入的相关性分数,适合本地敏感的哈希导致显着的加速返回给定的查询序列的前K个结果。我们对几个数据集的实验表明,NEUROSEQRET的准确性显著提高,超过了几个基线,以及我们的哈希机制的有效性。
2022-02-17 cs.IR cs.LG
Learning Hawkes Processes from Short Doubly-Censored Event Sequences
Georgia Institute of Technology(佐治亚理工学院);University of Toronto(多伦多大学)
许多实际应用需要鲁棒的算法来学习基于一类不完全数据的点过程--所谓的短双删失(SDC)事件序列。本文在Hawkes过程的框架下,利用数据综合的思想,研究了定量异步事件序列分析的关键问题。鉴于SDC事件序列在不同的时间间隔观察,我们提出了一种采样拼接数据合成方法-采样的前导和后继的每个SDC事件序列从潜在的候选人和拼接在一起,合成长的训练序列。从基于似然的论证角度讨论了该方法的合理性和可行性。实验结果表明,该方法不仅提高了时不变Hawkes过程的学习效果,而且提高了时变Hawkes过程的学习效果。
2017-06-07 cs.LG math.PR stat.ML
ACTER: Diverse and Actionable Counterfactual Sequences for Explaining and Diagnosing RL Policies
Trinity College Dublin(都柏林圣三一学院)
ACTER提出一种算法,利用NSGA-II进化算法生成多样且可操作的逆事实动作序列,以解释和诊断强化学习策略中的失败,并在两个环境中验证其有效性。
2024-02-09 cs.AI cs.LG
Sparse Semi-Supervised Action Recognition with Active Learning
University of Washington(华盛顿大学)
当前基于标签的动作识别方法是有监督的,并且依赖于标签。由于注释和错误标记数据所涉及的挑战,这种依赖限制了性能。已经引入了无监督的方法,但是,它们将序列组织成簇,并且仍然需要标签将簇与动作相关联。在本文中,我们提出了一种新的方法,为基于信标的动作识别,称为SESAR,连接这些方法。SESAR利用来自未标记数据和少数主动选择用于标记的序列的信息,将无监督训练与稀疏监督指导相结合。SESAR由两个主要组件组成,其中第一个组件通过编码器-解码器RNN学习未标记动作序列的潜在表示,该RNN重建序列,第二个组件执行主动学习以基于聚类和分类不确定性选择要标记的序列。当这两个组件同时在基于机器学习的动作序列上训练时,它们对应于一个鲁棒的动作识别系统,只有少数标记的样本。我们在具有多个序列和动作的常见数据集上评估我们的系统,例如NW UCLA,NTU RGB+D 60和UWA 3D。当应用于稀疏标记样本时,我们的结果优于独立的基于基于机器学习的监督,无监督的聚类识别和主动学习方法,低至1%的数据。
2020-12-07 cs.CV cs.LG
Hospitalization Length of Stay Prediction using Patient Event Sequences
Aalborg University(奥尔堡大学);North Denmark Region(北丹麦大区);TU Wien(维也纳工业大学)
预测患者住院时间对于改善医疗机构的资源分配和支持决策至关重要。本文提出了一种新的方法,预测LOS通过建模的事件序列的患者信息。具体来说,我们提出了一个基于变换的模型,称为Medic-BERT(M-BERT),用于LOS预测使用描述患者医疗事件序列的独特功能。我们进行了实证实验的队列超过45000急救病人从一家大型丹麦医院。实验结果表明,M-BERT可以实现各种LOS问题的高精度和优于传统的非基于序列的机器学习方法。
2023-03-20 cs.AI cs.LG
A Graph Regularized Point Process Model For Event Propagation Sequence
Ant Group(蚂蚁集团)
点过程是建模以不规则间隔发生的事件序列的主要范式。在本文中,我们的目标是在图中建模事件传播的潜在动力学,其中事件序列在有向加权图中传播,其节点表示事件标记(例如,事件类型)。现有的大多数工作只考虑将序列事件历史编码到事件表示中,而忽略了潜在图结构中的信息。此外,它们还具有较差的模型可解释性,即,未能发现各种节点之间的因果影响。为了解决这些问题,我们提出了一个图正则化点过程(GRPP),它可以分解为:1)一个图传播模型,它表征了节点与邻居之间的事件交互,并归纳学习节点表示; 2)一个时间注意强度模型,其过去事件对当前事件的激发和时间衰减因子通过节点嵌入的上下文化来构建。此外,通过应用图正则化方法,GRPP通过揭示节点之间的影响强度来提供模型的可解释性。在不同数据集上的数值实验表明,GRPP在传播时间和节点预测方面都明显优于现有模型。
2022-11-21 cs.AI cs.LG
Probabilistic Querying of Continuous-Time Event Sequences
University of California, Irvine(加州大学欧文分校)
连续时间事件序列,即,由连续时间戳和相关事件类型(“标记”)组成的序列是具有许多应用的重要类型的顺序数据,例如,临床医学或用户行为建模。由于这些数据通常是自回归建模的(例如,使用神经Hawkes过程或它们的经典对应物),很自然地询问关于未来场景的问题,例如“接下来将发生什么类型的事件”或“$A$类型的事件将在$B$类型的事件之前发生吗“。不幸的是,这些查询中的一些非常难以解决,因为当前的方法仅限于简单的模拟,这可能是非常低效的。本文介绍了一种新的类型学的查询类型和解决他们使用重要性抽样的框架。示例查询包括预测序列中的$n^\text{th}$事件类型以及一个或多个事件类型的命中时间分布。我们还利用这些发现进一步适用于估计一般的“$A$之前$B$“类型的查询。我们从理论上证明了我们的估计方法总是有效地优于天真的模拟,并根据三个真实世界的数据集进行了经验证明,它的效率平均比现有方法高出1,000倍。
2022-11-15 cs.LG stat.ML
More Efficient Exploration with Symbolic Priors on Action Sequence Equivalences
Inria(法国国家信息与自动化研究所);Ecole Polytechnique(巴黎综合理工学院);CNRS(法国国家科学研究中心);Université de Lille(里尔大学);Google Research(谷歌研究院)
在强化学习算法中,先验知识的提取是一个悬而未决的问题。即使有关于环境动态的见解,强化学习传统上也用于白板设置,必须从头开始探索和学习一切。在本文中,我们考虑的问题,利用先验的行动序列等价:即,当不同的行动序列产生相同的效果。我们提出了一个新的本地探索策略校准,以尽量减少碰撞,最大限度地增加新的状态访问。我们表明,这种策略可以计算在很小的成本,通过求解凸优化问题。通过替换DQN中通常的ε-贪婪策略,我们展示了它在具有各种动态结构的几种环境中的潜力。
2021-11-07 cs.AI cs.LG
One-Shot Multi-Label Causal Discovery in High-Dimensional Event Sequences
BMW Group(宝马集团);Chair for Machine Learning and Computer Vision, Augsburg University(机器学习与计算机视觉主任,埃施魏尔大学)
针对高维事件序列因果发现现有方法无法扩展的问题,提出单样本因果自回归方法OSCAR,利用预训练Transformer推断马尔可夫边界,在真实汽车数据集上快速恢复可解释因果结构,支持生产规模诊断。
2025-11-13 cs.AI cs.LG
Time-Discounting Convolution for Event Sequences with Ambiguous Timestamps
IBM Research - Tokyo(IBM研究院-东京);Fujita Health University(藤田医科大学)
提出了一种时间戳模糊的事件序列建模方法--时间折扣卷积。与普通的时间序列不同,时间间隔不是恒定的,小的时移没有显著的影响,并且将时间戳或持续时间输入模型是无效的。我们要求建模的标准是提供对时移或时间戳不确定性的鲁棒性,以及保持时间序列模型的基本功能,即,忘记无意义的过去信息和处理无限序列。所提出的方法处理它们与卷积机制跨时间与特定的参数化,有效地表示在时移不变的方式,同时折扣过去的事件的影响,和一个动态池化机制,它提供了对时间戳的不确定性的鲁棒性,并通过动态改变池化窗口的大小,提高了时间折扣的能力。在我们的学习算法中,衰减和动态池机制在处理无穷长和变长序列中起着关键作用。对具有模糊时间戳的真实事件序列和普通时间序列的数值实验表明了该方法的优越性。
2018-12-06 cs.LG stat.ML
Learning audio sequence representations for acoustic event classification
Imperial College London(帝国理工学院);Technische Universität München(慕尼黑工业大学);University of Augsburg(奥格斯堡大学);The University of Tokyo(东京大学)
声事件分类(AEC)已经成为机器感知周围听觉场景的一项重要任务。然而,提取有效的表示,捕获的声学事件的基本特征仍然是具有挑战性的。以前的方法主要集中在以“手工制作”的方式设计音频特征。有趣的是,最近有报道称,数据学习的功能表现出更好的性能。到目前为止,这些仅在帧级别上考虑。在这篇文章中,我们提出了一个无监督学习框架来学习一个矢量表示的音频序列的AEC。该框架由一个递归神经网络(RNN)编码器和一个RNN解码器组成,分别将可变长度的音频序列转换为一个固定长度的向量,并在生成的向量上重建输入序列。在训练编码器-解码器之后,我们将音频序列馈送到编码器,然后将学习的向量作为音频序列表示。与以往的方法相比,该方法不仅可以处理任意长度的音频流,而且还可以学习音频序列的显著性信息。在一个大型的声学事件数据库上进行了广泛的评估,实验结果表明,与其他最先进的手工制作的AEC序列特征相比,学习的音频序列表示产生了显着的性能改善。
2021-06-19 cs.LG cs.SD
User-Dependent Neural Sequence Models for Continuous-Time Event Data
University of California, Irvine(加州大学欧文分校)
连续时间事件数据在个人行为数据、金融交易和医疗健康记录等应用中很常见。对这些数据进行建模可能非常具有挑战性,特别是对于具有许多不同类型事件的应用程序,因为它需要一个模型来预测事件类型以及发生时间。参数化时变强度函数的递归神经网络是当前使用此类数据进行预测建模的最新技术。这些模型通常假设所有事件序列都来自相同的数据分布。然而,在许多应用中,事件序列是由不同的源或用户生成的,并且它们的特征可能非常不同。在本文中,我们扩展了广泛的类神经标记点过程模型的混合物的潜在嵌入,其中每个混合物组件模型的特征特性的一个给定的用户。我们的方法依赖于增强这些模型与一个潜在的变量,编码用户的特征,表示通过摊销变分推断训练的用户行为的混合模型。我们在四个大型真实世界数据集上评估了我们的方法,并展示了我们的方法在各种预测指标(如对数似然,下一个事件排名和序列源识别)的现有工作中的系统改进。
2020-11-06 cs.LG stat.ML
Macro Action Reinforcement Learning with Sequence Disentanglement using Variational Autoencoder
Dwango Artificial Intelligence Laboratory(Dwango人工智能实验室);NTT Secure Platform Laboratories(NTT安全平台实验室)
将强化学习应用于现实世界问题的一个问题是动作空间上的维数灾难。宏动作,一系列的原始动作,已被研究,以减少关于时间轴的动作空间的维数。然而,以前的研究依赖于人类定义宏动作或假设宏动作是相同原始动作的重复。我们提出了因子化宏动作强化学习(FaMARL),它自主学习一系列动作的分解因子表示,以生成可直接应用于一般强化学习算法的宏动作。FaMARL在需要大量搜索的环境中表现出比其他强化学习算法更高的分数。
2019-06-04 cs.AI cs.LG cs.RO
Linking Sequences of Events with Sparse or No Common Occurrence across Data Sets
Columbia University(哥伦比亚大学)
具有实际意义的数据(如个人记录、事务日志和病史)是与特定源实体相关的事件的顺序集合。最近的研究试图将代表跨数据集的共同实体的序列联系起来,以进行更全面的统计分析并识别潜在的隐私故障。然而,目前的方法仍然适合于其特定的应用领域,当不同数据集中的共指序列包含稀疏或没有共同事件时,它们会失败,这在许多情况下经常发生。为了解决这个问题,我们正式的一般问题的“序列链接”,并描述“LDA链接”,一个通用的解决方案,即使是适用于共同引用的事件序列包含没有共同的项目在所有。LDA-Link是建立在“分裂文档”模型,一个新的混合成员概率模型的事件序列集合的生成。它检测序列的潜在相似性,从而实现鲁棒性,特别是当共指序列共享稀疏或没有事件重叠时。我们将LDA-Link应用于社交媒体配置文件和解的背景下,其中用户在不同平台上没有共同的帖子,与最先进的序列连接通用解决方案相比。
2017-11-12 cs.IR cs.LG cs.SI
Event Outlier Detection in Continuous Time
University of Pittsburgh(匹兹堡大学);Borealis AI
连续时间事件序列表示在连续时间内发生的离散事件。这样的序列在现实生活中经常出现。通常我们期望序列随着时间的推移遵循某种规律。然而,有时这些模式可能会被意外的缺失或事件的发生所打断。识别这些意外情况可能非常重要,因为它们可能指向需要人类注意的异常情况。在这项工作中,我们研究和开发的方法检测连续时间事件序列中的离群值,包括意外的缺席和意外发生的事件。由于事件序列倾向于遵循的模式可能会在不同的上下文中发生变化,我们开发了基于点过程的离群值检测方法,可以考虑上下文信息。我们的方法是基于贝叶斯决策理论和假设检验的理论保证。为了测试方法的性能,我们对合成数据和真实世界的临床数据进行了实验,并显示了所提出的方法的有效性。
2021-06-12 cs.LG stat.ML
Graph Grounded Cross Attention Transformer Neural Network for Structurally Constrained Full Event Sequence Generation in Predictive Process Monitoring
Department of Computer Science, University of Milan(米兰大学计算机科学系)
提出图锚定交叉注意力Transformer(GGATN),通过全局过程图作为结构化记忆、Transformer自注意力编码序列位置、图锚定交叉注意力注入过程拓扑,结合维特比式图约束解码,一次性生成完整事件序列,在六个基准日志上优于LLM基线。
2026-06-18 cs.AI cs.LG
Scalable Marked Point Processes for Exchangeable and Non-Exchangeable Event Sequences
University of Cambridge(剑桥大学);University of Warwick(华威大学);The Alan Turing Institute(艾伦·图灵研究所);University College London(伦敦大学学院);Athens University of Economics and Business(雅典经济与商业大学)
我们采用的可解释性提供了一个参数,霍克斯过程启发的条件概率质量函数的标记和应用变分推断技术,以获得一个通用的和可扩展的推理框架标记点过程。该框架可以处理可交换和不可交换的事件序列,具有最小的调整,没有任何预训练。这与许多参数和非参数最先进的方法形成对比,这些方法通常需要预训练和/或仔细调整,并且只能处理可交换的事件序列。该框架的竞争力的计算和预测性能对其他国家的最先进的方法说明通过真实的数据实验。它的吸引力,大规模的应用程序是通过一个案例研究,涉及所有事件发生在英超联赛赛季。
2023-02-19 cs.LG stat.ML
Exploiting Attention-based Sequence-to-Sequence Architectures for Sound Event Localization
Ruhr University Bochum(波鸿鲁尔大学);NTT Corporation(日本电报电话公司)
与经典参数方法相比,基于深度神经网络的声音事件定位框架已经显示出关于混响和噪声的增加的鲁棒性。特别是,经常性的架构,将时间背景的估计过程似乎是非常适合这项任务。本文提出了一种新的方法,利用注意力为基础的序列到序列模型的声音事件定位。这些类型的模型已成功地应用于自然语言处理和自动语音识别中的问题。在这项工作中,多声道音频信号被编码到一个潜在的表示,这是随后解码到一个序列的估计方向的到来。这里,注意力允许通过聚焦于与估计当前时间步处的声音事件的活动和到达方向相关的特定帧来捕获音频信号中的时间依赖性。该框架进行评估的声音事件本地化的三个公开可用的数据集。它产生优越的定位性能相比,国家的最先进的方法在消声和混响条件。
2021-02-28 cs.LG cs.SD eess.AS
DEAS: DEtached value learning with Action Sequence for Scalable Offline RL
KAIST(韩国科学技术院);UC Berkeley(伯克利大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);NVIDIA(英伟达)
DEAS提出利用动作序列进行解耦值学习,解决离线强化学习长时程决策中的值高估问题,在OGBench及大规模VLA模型任务上显著提升性能。
2025-10-09 cs.AI cs.LG cs.RO
SCOD: Active Object Detection for Embodied Agents using Sensory Commutativity of Action Sequences
ENSTA Paris, Institut Polytechnique de Paris(巴黎理工学院巴黎高等先进技术学院);INRIA(法国国家信息与自动化研究所);City University of London(伦敦城市大学)
介绍了一种用于运动和不运动目标检测的主动式方法SCOD(Sensory Commutativity目标检测)。SCOD利用动作序列的可交换属性,在配备第一人称传感器和具有多个自由度的连续运动空间的具体代理的情况下。SCOD基于从同一起点以两种不同顺序播放动作序列,并比较每个序列后获得的两个最终观察结果。我们的3D逼真的机器人设置(iGibson)的实验证明了SCOD的准确性和它的推广看不见的环境和对象。我们还成功地应用SCOD在一个真正的机器人,以进一步说明其泛化性能。与SCOD,我们的目标是提供一种新的方式来接近的对象发现的问题,在一个天真的体现代理的上下文中。我们提供代码和补充视频。
2021-07-05 cs.LG cs.RO
Event2Vec: A Geometric Approach to Learning Composable Representations of Event Sequences
Lawrence Berkeley National Laboratory(伯克利劳伦斯国家实验室)
Event2Vec通过几何方法学习事件序列的可组合表示,利用加性递归结构和双曲空间变体,有效捕捉结构依赖性。
2025-11-30 cs.CL cs.LG
ECSAS: Exploring Critical Scenarios from Action Sequence in Autonomous Driving
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software Chinese Academy of Sciences(中国科学院软件研究所)
关键场景生成需要从逻辑场景中的无限参数空间中抽取关键组合的能力。现有的解决方案旨在探索初始场景中动作参数的相关性,而不是动作序列。如何对动作序列进行建模,以便进一步考虑不同动作参数在场景中的影响,是该问题的瓶颈。在本文中,我们攻击的问题,提出了ECSAS框架。具体来说,我们首先提出了一种描述语言,BTScenario,使我们能够模拟动作序列的场景。然后,我们使用强化学习来搜索关键动作参数的组合。为了提高效率,我们进一步提出了几个优化,包括动作掩蔽和重放缓冲区。我们已经实现了ECSAS,实验结果表明,在各种非平凡的场景中,它比随机和组合测试等本地方法更有效。
2023-01-12 cs.AI cs.LG cs.PL
Imputing Missing Events in Continuous-Time Event Streams
Johns Hopkins University(约翰斯·霍普金斯大学);Peking University(北京大学)
世界上的事件可能是由其他未观察到的事件引起的。我们考虑连续时间中的事件序列。给出了一个完整序列的概率模型,我们提出了粒子平滑-一种序列重要性采样-来估算不完整序列中的缺失事件。我们基于一种双向连续时间LSTM开发了一个可训练的建议分布族:双向性让建议以未来的观察为条件,而不仅仅是像粒子滤波那样以过去为条件。我们的方法可以对可能的完整序列(粒子)的集合进行采样,从中我们形成一个单一的共识预测,该预测在我们选择的损失度量下具有低贝叶斯风险。我们在多个合成和真实域中进行实验,使用不同的缺失机制,并使用神经Hawkes过程对每个域中的完整序列进行建模(Mei & Reynner 2017)。在不完整的序列上,我们的方法可以有效地推断出未观察到的地面实况事件,粒子平滑不断提高粒子滤波。
2019-05-14 cs.AI cs.LG stat.ML
BABEL: Bodies, Action and Behavior with English Labels
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Universität Konstanz(康斯坦茨大学)
理解人类运动的语义--运动的内容、方式和原因--是一个重要的问题,需要带有语义标签的人类动作数据集。现有的数据集采用两种方法之一。大规模视频数据集包含许多动作标签,但不包含地面实况3D人体运动。或者,运动捕捉(mocap)数据集具有精确的身体运动,但限于少量动作。为了解决这个问题,我们提出了BABEL,这是一个大型数据集,带有语言标签,描述了在mocap序列中执行的操作。BABEL由来自AMASS的约43小时的mocap序列的作用标记组成。动作标签有两个抽象层次--序列标签描述序列中的整体动作,而帧标签描述序列中每个帧中的所有动作。每个帧标签都与mocap序列中相应动作的持续时间精确对齐,并且多个动作可以重叠。BABEL中有超过28 k个序列标签和63 k个帧标签,它们属于250多个独特的动作类别。从BABEL标签可以利用的任务,如动作识别,时间动作定位,运动合成等,以证明BABEL作为基准的价值,我们评估的性能模型的3D动作识别。我们证明,BABEL提出了有趣的学习挑战,适用于现实世界的情况下,可以作为一个有用的基准的进展,在3D动作识别。数据集,基线方法和评估代码可在https://babel.is.tue.mpg.de/上获得,并支持学术研究目的。
2021-06-23 cs.CV cs.GR cs.LG
Personalized Event Prediction for Electronic Health Records
University of Pittsburgh(匹兹堡大学);Meta AI
针对电子健康记录临床事件序列的患者特异性差异导致全局群体模型预测不准的问题,提出亚群体细化、自适应、元层级模型切换三类个性化预测方法,在MIMIC-III数据集上验证性能。
2023-08-21 cs.AI cs.LG stat.AP
Hypergraph-based Multi-View Action Recognition using Event Cameras
Tsinghua University(清华大学);BNRist;THUIBCS;BLBCI;School of Software, Tsinghua University(清华大学软件学院);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Department of Automation, Tsinghua University(清华大学自动化系);the Second Affiliated Hospital of Xi’an Jiaotong University(西安交通大学第二附属医院);Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University(西安交通大学人工智能与机器人研究所)
针对事件相机多视角动作识别中信息不足与语义错位问题,提出HyperMV框架,通过超图神经网络融合多视角时空特征,并构建了规模超现有数据集十倍以上的THU^MV-EACT-50数据集,实验表明其在跨主体和跨视角场景下均显著优于现有方法。
2024-03-28 cs.AI cs.CV cs.LG
Hybrid Reinforcement Learning with Expert State Sequences
IBM Research AI(IBM研究院人工智能部门)
现有的模仿学习方法通常需要完整的演示数据,包括动作序列和状态,是可用的。在本文中,我们考虑一个更现实和困难的情况下,强化学习代理只能访问的状态序列的专家,而专家的行动是不可观察的。我们提出了一种新的基于张量的模型来推断未观察到的专家状态序列的行动。然后通过结合强化学习和模仿学习的混合目标优化代理的策略。我们评估了我们的混合方法的说明域和雅达利游戏。实证结果表明,(1)智能体能够利用状态专家序列比纯强化学习基线学习得更快,(2)与标准深度神经网络相比,我们的基于张量的动作推理模型在推理专家动作方面具有优势,(3)混合策略优化目标对专家状态序列中的噪声具有鲁棒性。
2019-03-11 cs.AI cs.LG stat.ML
Hierarchical model-based policy optimization: from actions to action sequences and back
University College London(伦敦大学学院)
我们开发了一个规范的框架,分层模型为基础的政策优化的基础上应用二阶方法在空间中的所有可能的状态-动作路径。由此产生的自然路径梯度执行策略更新的方式是敏感的诱导稳态动作密度的长程相关结构。我们证明了自然路径梯度可以精确计算给定的环境动力学模型,并依赖于类似于高阶后继表示的表达式。在模拟中,我们表明,在所产生的政策流的本地政策更新的优先级确实反映了直观的状态空间层次结构在几个玩具问题。
2020-01-02 cs.AI cs.LG math.OC
Disentangling Action Sequences: Discovering Correlated Samples
Shandong Provincial Key Laboratory of Network Based Intelligent Computing(山东省网络智能计算重点实验室);University of Jinan(济南大学);Jinan, 250022, China(济南市,250022,中国)
解纠缠是表征的一个非常理想的性质,因为它与人类的理解和推理相似。这提高了可解释性,使下游任务的性能,并使可控的生成模型。然而,这一领域的挑战是抽象的概念和不完整的理论,以支持无监督的解开学习。我们证明了数据本身,如图像的方向,在解纠缠中起着至关重要的作用,而不是因素,解纠缠表示将潜变量与动作序列对齐。我们进一步引入了解开动作序列的概念,这有利于描述现有的解开方法的行为。这个过程的一个类比是发现事物之间的共性并将其归类。此外,我们分析了数据的归纳偏差,发现潜在信息阈值与行为的重要性相关。对于有监督和无监督的情况,分别介绍了两种阈值的测量方法。我们进一步提出了一种新的框架,分数变分自编码器(FVAE),以解开与不同的意义的动作序列一步一步。在dSprites和3D Chairs上的实验结果表明,FVAE提高了解缠的稳定性。
2020-10-17 cs.CV cs.LG stat.ML