ProcessTransformer: Predictive Business Process Monitoring with Transformer Network
Eindhoven University of Technology(埃因霍温理工大学)
预测性业务流程监视侧重于使用事件日志预测正在运行的流程的未来特征。对流程执行的预见为高效运营、更好的资源管理和有效的客户服务提供了巨大的潜力。基于深度学习的方法已被广泛用于流程挖掘,以解决经典算法在解决多个问题,特别是下一个事件和时间预测任务时的局限性。然而,设计一个在各种任务中具有竞争力的深度神经架构是具有挑战性的,因为现有方法无法捕获输入序列中的长距离依赖关系,并且对于冗长的过程跟踪表现不佳。在本文中,我们提出了ProcessTransformer,一种使用基于注意力的网络从事件日志中学习高级表示的方法。我们的模型结合了长程记忆,并依赖于一个自我注意机制,以建立大量的事件序列和相应的输出之间的依赖关系。我们评估我们的技术的适用性,对9个真实的事件日志。我们证明了基于transformer的模型优于现有技术的几个基线,平均获得80%以上的准确度预测下一个活动的任务。与基线相比,我们的方法在预测事件时间和运行案例的剩余时间方面也具有竞争力
2021-04-01 cs.AI cs.LG
A Deep Adversarial Model for Suffix and Remaining Time Prediction of Event Sequences
The University of Melbourne(墨尔本大学)
事件后缀和剩余时间预测是顺序到顺序的学习任务。它们在经济、数字健康、业务流程管理和IT基础设施监控等不同领域有着广泛的应用。带时间戳的事件序列包含至少带有两个属性的有序事件:事件的标签和时间戳。后缀和剩余时间预测分别是关于获得事件标签的最有可能的延续和序列完成之前的剩余时间。最近用于这种预测的基于深度学习的工作由于闭环训练(即,下一事件以先前事件的基本事实为条件)和开环推理(即,下一事件以先前预测的事件为条件)。在这项工作中,我们提出了一个编码器-解码器架构,用于开环训练,以提高事件序列的后缀和剩余时间预测。为了捕捉事件的联合时间动态,我们利用对抗学习技术的力量来提高预测性能。我们在实验中考虑了四个现实生活中的数据集和三个基线。结果表明,与最先进的后缀和事件序列的剩余时间预测相比,改进了四倍,特别是在业务流程执行领域。我们还表明,在相同的实验设置下,对抗训练所获得的改进优于标准训练。
2021-02-15 cs.AI cs.LG
Mind the Long Tail: Understanding the Difficulty of Delay Detection in Business Processes
University of Mannheim(曼海姆大学);SAP Signavio(思爱普 Signavio)
本文针对业务流程延迟检测的内在难度,分析14个事件日志后发现高延迟案例识别困难源于分布偏斜与不确定性,提出利用相关性的改进方法,为PPM研究提供新方向。
2026-08-17 cs.AI cs.LG
How Will My Business Process Unfold? Predicting Case Suffixes With Start and End Timestamps
University of Tartu(塔尔图大学)
本文提出通过起始和结束时间戳预测业务流程后缀的方法,以更精确地预测资源需求,解决传统方法仅能预测单一时间戳的不足。
2026-04-22 cs.LG
Probabilistic Forecasting of Business Process Executions with Neural Temporal Point Processes
Paris Dauphine University-PSL(巴黎多菲纳大学-PSL);University of Vienna(维也纳大学)
针对业务流程执行预测,提出基于标记时间点过程的生成式模型,结合变换器与混合解码器处理并列时间戳,在保持点准确性的同时提升剩余时间分布校准性并降低推理成本。
2026-09-21 cs.LG
Decision-Aware Suffix Prediction and Reasoning of Business Processes
Technical University of Munich(慕尼黑工业大学)
本文提出一种结合决策挖掘的神经符号后缀预测框架,通过决策规则推理改进短前缀和稀有变体的预测,并增强可解释性。
2026-09-09 cs.AI cs.LG
Towards Quantum-Ready Blockchain Fraud Detection via Ensemble Graph Neural Networks
Department of Software Engineering(ÉTS), Université du Québec(软件工程系(ÉTS)、魁北克大学);Department of Computer Science, SZABIST University(计算机科学系、SZABIST大学)
本文提出了一种集成图神经网络的框架,用于提升区块链欺诈检测的准确性与鲁棒性,并引入量子-ready设计以适应未来量子计算的发展。
2025-09-27 cs.AI cs.CR cs.DC
Spatio-Temporal Graph Representation Learning for Fraudster Group Detection
University of Western Australia(西澳大学)
出于潜在的经济利益,公司可能会雇佣欺诈团体撰写虚假评论,以降级竞争对手或促进自己的业务。这些团体在误导顾客方面更成功,因为人们更容易受到大团体意见的影响。为了检测这样的群体,常见的模型是表示欺诈者群体的静态网络,因此忽略了评审者的纵向行为,从而忽略了群体中评审者之间的共同评审关系的动态。因此,这些方法无法排除离群审查人,即欺诈者故意将自己隐藏在一个群体中,而真正的审查人碰巧在欺诈者群体中共同审查。为了解决这个问题,在这项工作中,我们建议首先利用HIN-RNN在两个审阅者的表示学习中的有效性,同时捕获审阅者之间的协作,我们首先利用HIN-RNN在28天的固定时间窗口内对一个组中的审阅者的共同审阅关系进行建模。我们称之为空间关系学习表示,以表示这项工作的推广到其他网络场景。然后,我们使用一个RNN的空间关系预测的时空关系的评论家在组中。在第三步中,图卷积网络(GCN)使用这些预测的关系来细化审阅者的向量表示。然后使用这些细化的表示来移除离群值审阅者。然后,将其余审查者的表示的平均值馈送到简单的全连接层,以预测该组是否是欺诈者组。该方法的详尽实验表明,在Yelp(Amazon)数据集上,该方法的精度,召回率和F1值分别比最近的三种方法提高了5%(4%),12%(5%),12%(5%)。
2022-01-07 cs.AI cs.LG cs.SI
Enhancing Stochastic Petri Net-based Remaining Time Prediction using k-Nearest Neighbors
KU Leuven(荷语鲁汶大学);Research Center for Information Systems Engineering (LIRIS)(信息系统工程研究中心(LIRIS))
可靠的剩余时间预测正在进行的业务流程是一个高度相关的主题。一个例子是订单交付,这是零售业的一个关键竞争因素,因为它是客户满意度的主要驱动力。为了实现及时交货,准确预测交货过程的剩余时间至关重要。在流程挖掘领域,已经提出了各种各样的剩余时间预测技术。在这项工作中,我们扩展剩余时间预测的基础上随机Petri网一般分布的过渡k-最近邻。k-最近邻算法在存储完成先前活动所经过的时间的简单向量上执行。通过只取一个实例子集,得到一个更具代表性和稳定的随机Petri网,从而得到更准确的时间预测。我们讨论了该技术及其在Python中的基本实现,并使用不同的真实世界数据集来评估我们扩展的预测能力。这些实验表明,结合这两种技术在预测能力方面具有明显的优势。
2022-06-27 cs.LG
Explainable Predictive Process Monitoring
myInvenio(myInvenio 公司);University of Padua(帕多瓦大学);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
预测性业务流程监控正在成为组织的重要辅助工具,为其流程提供在线运营支持。本文解决的基本问题,装备预测业务流程监控与解释能力,以便不仅是什么,而且为什么预测通用KPI时,如剩余时间,或活动执行报告。我们使用Shapley值的博弈论来获得对预测的有力解释。该方法已被实施和测试在现实生活中的基准,第一次显示如何解释可以在预测业务流程监测领域。
2020-09-16 cs.LG stat.ML
Predictive Business Process Monitoring with LSTM Neural Networks
Eindhoven University of Technology(埃因霍温理工大学);Queensland University of Technology(昆士兰科技大学);University of Tartu(塔尔图大学)
预测性业务过程监视方法利用过程的已完成案例的日志,以便对其运行案例进行预测。该领域的现有方法是为特定的预测任务量身定制的。此外,它们的相对准确性对手头的数据集高度敏感,因此需要用户在特定设置中应用它们时进行试错和调整。本文研究了长短期记忆(LSTM)神经网络,作为一种为各种预测过程监控任务构建一致准确模型的方法。首先,我们证明了LSTM在预测运行案例的下一个事件及其时间戳方面优于现有技术。接下来,我们将展示如何使用模型来预测下一个任务,以预测运行案例的完整延续。最后,我们应用相同的方法来预测剩余时间,并表明这种方法优于现有的定制方法。
2017-05-16 cs.DB cs.LG cs.NE
Log Optimization Simplification Method for Predicting Remaining Time
College of Computer Science and Technology, Huaqiao University(华侨大学计算机科学与技术学院);Jiangsu Branch, Agricultural Bank of China(中国农业银行江苏省分行)
本文针对事件日志中低价值冗余信息影响剩余时间预测精度的问题,提出一种预测点选择算法,通过选择序列或自循环结构构成可简化片段并优化偏差以防止过度简化,实验证明简化后日志能保持甚至提升预测性能。
2025-03-10 cs.LG
Predictive Business Process Monitoring via Generative Adversarial Nets: The Case of Next Event Prediction
The University of Melbourne(墨尔本大学)
预测过程监控旨在预测正在进行的过程案例的未来特征,例如案例结果或剩余时间戳。最近,已经提出了几种基于深度学习的预测过程监控方法,例如长短期记忆或卷积神经网络,以解决下一个事件预测的问题。然而,由于训练数据不足或次优网络配置和架构,这些方法不能很好地概括手头的问题。本文提出了一种新的对抗训练框架来解决这一缺点,基于生成对抗网络(GANs)对顺序时态数据领域的适应。训练的工作原理是在两个玩家的游戏中让一个神经网络与另一个神经网络对抗(因此具有对抗性),这导致预测与地面事实无法区分。我们正式表明,所提出的方法的最坏情况下的准确性至少等于在非对抗性设置中实现的准确性。从实验评估中可以看出,尽管使用了简单的网络架构和朴素的特征编码,但该方法在预测的准确性和早期性方面系统地优于所有基线。此外,该方法更鲁棒,因为其准确性不受案例长度波动的影响。
2020-04-01 cs.LG stat.ML
A Human-In-The-Loop Approach for Improving Fairness in Predictive Business Process Monitoring
Friedrich-Alexander-University Erlangen-Nuremberg, Germany(埃森纳赫-纽伦堡弗里德里希-亚历山大大学);University of Bayreuth, Bayreuth, Germany(拜罗伊特大学)
针对预测性业务流程监控模型因敏感属性导致的有偏预测问题,提出一种人在环的模型无关方法,通过修改从原模型提炼的决策树区分公平与不公平决策,在有偏数据下实现公平性与准确性的良好权衡。
2025-08-24 cs.CY cs.LG
Predictive Object-Centric Process Monitoring
RWTH Aachen University(亚琛工业大学)
业务流程的自动化和数字化导致在信息系统中捕获大量数据,这些数据可以帮助企业更好地理解其流程,改进工作流程或提供运营支持。通过对正在进行的流程进行预测,可以识别瓶颈并重新分配资源,以及深入了解流程实例(案例)的状态。传统上,数据是以事件日志的形式从系统中提取的,具有单个标识案例概念,例如订单到现金(O2C)流程的订单ID。然而,真实的流程通常有多个对象类型,例如order、item和package,因此强制使用单个case概念的格式并不能反映数据中的底层关系。引入了以对象为中心的事件日志(OCEL)格式来正确捕获此信息。最先进的预测方法仅适用于传统的事件日志。这篇论文表明,利用生成对抗网络(GAN),长短期记忆(LSTM)架构和序列到序列模型(Seq2seq)的预测方法可以通过OCEL中包含的丰富数据进行扩展。OCEL中的对象可以具有在预测下一个事件和时间戳时有用的属性,例如对象类型包的优先级类属性,指示较慢或较快的处理。在预测剩余事件的序列相似性和时间戳的平均绝对误差(MAE)的度量中,本文的方法匹配或超过先前的研究,这取决于所选择的对象属性是否是模型的有用特征。此外,本论文提供一个网路介面,以预测使用者输入的下一个活动序列。
2022-07-20 cs.AI cs.LG
An Uncertainty-Aware ED-LSTM for Probabilistic Suffix Prediction
Technical University of Munich(慕尼黑工业大学)
本文提出基于 U-ED-LSTM 与 MC 后缀采样的概率后缀预测方法,同时建模认知与偶然不确定性,并在多个事件日志和超参数设置下验证其性能与校准效果。
2025-06-06 cs.AI cs.LG
Can deep neural networks learn process model structure? An assessment framework and analysis
KU Leuven(鲁汶大学);Ghent University(根特大学)
预测性流程监控关注的是对(业务)流程中正在进行的案例的预测。预测任务通常集中在剩余时间,结果,下一个事件或完整的情况下后缀预测。近年来,针对这些任务提出了各种使用机器和深度学习的方法。特别是诸如长短期记忆网络(LSTM)的递归神经网络(RNN)已经变得流行。但是,没有研究关注这种基于神经网络的模型是否能够真正学习底层过程模型的结构。例如,这样的神经网络能有效地学习并行行为或循环吗?因此,在这项工作中,我们提出了一个评估方案,补充了新的健身,精度和泛化指标,专门针对测量深度学习模型学习过程模型结构的能力。我们将这个框架应用到几个简单的控制流行为的过程模型,下一个事件预测的任务。我们的研究结果表明,即使是这样简单的模型,仔细调整过拟合对策,需要让这些模型学习过程模型结构。
2022-02-24 cs.LG
A Survey of Trustworthy Graph Learning: Reliability, Explainability, and Privacy Protection
Tencent AI Lab(腾讯人工智能实验室);Sun Yat-sen University(中山大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Zhejiang University(浙江大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校);Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Peking University(北京大学);Tsinghua University(清华大学);Zhejiang Lab(之江实验室)
深度图学习在商业和科学领域都取得了显着的进展,从金融和电子商务到药物和先进材料发现。尽管取得了这些进展,但如何确保各种深度图学习算法以对社会负责的方式行事并满足监管合规要求成为一个新出现的问题,特别是在风险敏感的领域。可信图学习(TwGL)旨在从技术角度解决上述问题。与主要关心模型性能的传统图学习研究相比,TwGL考虑了图学习框架的各种可靠性和安全性,包括但不限于鲁棒性,可解释性和隐私性。在本次调查中,我们从可靠性、可解释性和隐私保护三个维度对TwGL领域的最新领先方法进行了全面回顾。我们对现有的工作进行了一般分类,并回顾了每个类别的典型工作。为了给TwGL研究提供进一步的见解,我们提供了一个统一的视图来检查以前的作品,并建立它们之间的联系。最后指出了TwGL在未来发展中尚待解决的一些重要问题。
2022-05-23 cs.AI cs.LG
Extending predictive process monitoring for collaborative processes
Universidad ORT Uruguay(乌拉圭ORT大学)
本文提出了一种针对协作(组织间)流程的预测性流程监控扩展方法,通过考虑协作流程的特殊性,不仅预测下一个活动和剩余时间,还预测具体参与者的下一步动作及参与者间的消息交换,以支持更精准的偏差预防和资源重分配。
2024-09-13 cs.DB cs.LG
What Averages Do Not Tell -- Predicting Real Life Processes with Sequential Deep Learning
Eindhoven University of Technology(埃因霍温理工大学)
深度学习被证明是一种有效的建模工具,如自然语言,计算机视觉和信号处理的成功所示。流程挖掘涉及从支持信息系统记录的业务流程执行数据中发现有关业务流程的见解。记录的数据(事件日志)由对应于进程执行的事件序列(跟踪)组成。许多深度学习技术已经成功地适用于预测流程挖掘,旨在预测流程结果,剩余时间,下一个事件,甚至是运行轨迹的后缀。流程挖掘中的痕迹是多模态序列,其结构与自然语言句子或图像非常不同。这可能需要不同的处理方法。到目前为止,对这些差异和所带来的挑战关注甚少。将后缀预测视为这些任务中最具挑战性的任务,深度学习模型的性能仅在平均测量和少量真实事件日志中进行评估。由于不同的预处理和评价策略,比较论文之间的结果是困难的。可能相关的挑战是跟踪长度分布的偏斜度和真实事件日志中活动分布的偏斜度。我们提供了一个端到端的框架,使七个国家的最先进的顺序架构在常见的设置的性能进行比较。结果表明,对于大多数更复杂的数据集,序列建模仍然有很大的改进空间。需要进一步的研究和见解,以获得一致的性能,不仅在平均措施,而且在所有前缀。
2021-10-31 cs.LG