Analysing zero-shot temporal relation extraction on clinical notes using temporal consistency
Faculty of Computer Science, University of Vienna（维也纳大学计算机科学学院）；UniVie Doctoral School Computer Science（维也纳大学计算机博士学院）；Aarhus University（奥胡斯大学）；Faculty of Philological and Cultural Studies, University of Vienna（维也纳大学语言与文化学院）
本文研究临床生物医学文本的零样本时间关系抽取，评估五类LLM并通过唯一性、传递性等一致性分数分析其表现，发现时间一致性并不保证预测准确。
2024-06-17 cs.CL cs.LG
A Structured Learning Approach to Temporal Relation Extraction
University of Illinois（伊利诺伊大学）
识别事件之间的时间关系是理解自然语言的重要步骤。然而，故事中两个事件之间的时间关系取决于其他事件之间的关系，并且通常由其他事件之间的关系决定。因此，有效地识别事件之间的时间关系是一个具有挑战性的问题，即使是人类注释。本文认为，重要的是要考虑到这些依赖关系，同时学习，以确定这些关系，并提出了一个结构化的学习方法来解决这一挑战。作为一个副产品，这提供了一个新的角度来处理缺失的关系，一个已知的问题，损害现有的方法。正如我们所示，所提出的方法在两个常用的数据集上显着改善了这个问题。
2019-06-12 cs.CL cs.LG
A Survey on Temporal Reasoning for Temporal Information Extraction from Text (Extended Abstract)
University Medical Center Utrecht（乌得勒支大学医学中心）；KU Leuven（鲁汶大学）
时间深深地融入了人们对世界的感知和交流。我们几乎是无意识地为我们的语言话语提供了时间线索，比如动词时态，没有这些线索，我们很难造句。从文本中提取时间线索，并构建关于描述事件顺序的全局时间视图是自动自然语言理解的主要挑战。时间推理是将不同的时间线索组合成一个连贯的时间视图的过程，在时间信息抽取中起着核心作用。本文综述了过去几十年来关于文本时间信息抽取的时间推理研究，并提供了一个将符号推理与基于机器学习的信息抽取系统相结合的案例研究。
2020-05-15 cs.AI cs.CL cs.LG
Robustly Pre-trained Neural Model for Direct Temporal Relation Extraction
Arizona State University（亚利桑那州立大学）；The University of Texas Health Science Center（德克萨斯大学健康科学中心）
背景资料：识别临床事件和时间表达之间的关系是有意义地分析用于高级AI应用的临床文本的关键挑战。虽然以前的研究存在，国家的最先进的性能有显着的改进空间。研究方法：我们研究了BERT（使用Transformers的双向编码器表示）的几种变体，其中一些涉及临床领域定制，另一些涉及改进的架构和/或训练策略。我们使用直接时间关系数据集评估了这些方法，该数据集是2012年i2 b2时间关系挑战数据集的语义集中子集。结果如下：我们的研究结果表明，RoBERTa采用了更好的预训练策略，包括使用10倍大的语料库，将整体F度量提高了0.0864绝对得分（在1.00尺度上），从而相对于以前的最先进性能，将出错率降低了24%。结论：在大型语料库上预先训练的现代上下文语言建模神经网络，即使在高度细致入微的临床时间关系任务上也能取得令人印象深刻的性能。
2020-04-13 cs.CL cs.LG
Towards Unsupervised Learning of Temporal Relations between Events
Sharif University of Technology（谢里夫理工大学）
事件对之间的时间关系的自动提取是诸如问答、信息抽取和摘要等自然语言处理应用的重要任务。由于大多数现有的方法都是有监督的，并且需要大量的语料库，而对于许多语言来说，这是不存在的，因此我们集中精力尽可能减少对注释数据的需求。本文提出了两种不同的算法实现这一目标。第一个算法是一个弱监督的机器学习方法，用于分类事件之间的时间关系。在第一阶段，该算法从标注的语料库中学习一个通用的分类器。然后，在“每一个篇章都有一种时间关系”的假设的启发下，从一组主题相关的文档中提取有用的信息。我们表明，通过结合这样一个集群的全局信息与一般分类器的局部决策，可以建立一个自举跨文档分类器来提取事件之间的时间关系。我们的实验表明，没有任何额外的注释数据，所提出的算法的准确性高于几个以前成功的系统。第二种提出的时态关系抽取方法是基于期望最大化（EM）算法。在EM中，我们使用了不同的技术，如贪婪的最佳优先搜索和整数线性规划的时间不一致性消除。我们认为，我们的EM算法的实验结果，作为第一步，完全无监督的时间关系抽取方法，是令人鼓舞的。
2014-01-23 cs.CL cs.LG
On TimeML-Compliant Temporal Expression Extraction in Turkish
Gazi University（加齐大学）
普遍认为，时间表达提取器是诸如信息检索和问答系统的较大自然语言处理系统的重要组件。土耳其语时间表达式的提取和规范化一直没有得到重视，除了命名实体识别过程中的一些日期和时间表达式的提取。由于TimeML是当前自然语言文本中时间表达和事件注释的标准，本文基于相关的TimeML分类（即，date、time、duration和set表达式）。我们已经创建了一个土耳其语的时间表达的词汇，并设计了相当广泛的覆盖模式，使用的词法类作为积木。我们相信，所提出的模式，加上方便的规范化规则，可以很容易地使用土耳其语的预期时间表达提取工具。
2015-09-03 cs.CL
Extracting Temporal and Causal Relations between Events
University of Trento（特伦托大学）；Università degli Studi di Trento（特伦托大学）
从时间信息处理中得到的结构化信息对于各种自然语言处理任务是至关重要的，例如从新闻文档中生成事件的时间轴摘要，或者回答关于某些事件的时间/时间相关问题。在这篇论文中，我们提出了一个整合时间和因果关系抽取系统的架构。我们首先为每种类型的关系，即时间顺序和因果关系开发了一个强大的提取组件。然后，我们结合这两个提取组件到一个集成的关系抽取系统，CATENA-因果和时间关系抽取从自然语言文本-，利用因果关系中的事件优先的假设，即导致事件必须发生在结果事件之前。本文还讨论了改进关系抽取系统的资源和技术，包括词嵌入和训练数据扩展。最后，我们报告我们的适应努力的时间信息处理的语言以外的英语，即意大利语和印尼语。
2016-04-27 cs.CL
Contextualized Word Embeddings Enhanced Event Temporal Relation Extraction for Story Understanding
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
学习事件之间的因果关系和时间关系是深入了解故事和常识的重要一步。虽然有丰富的数据集与事件关系的故事理解，许多没有经验的结果与他们相关联。在这项工作中，我们建立了强大的基线事件的时间关系抽取两个欠开发的故事叙事数据集：丰富的事件描述（RED）和因果和时间关系计划（CaTeRS）。据我们所知，这是在这两个数据集上报告的第一个结果。我们证明了基于神经网络的模型可以优于一些强大的传统的基于语言特征的模型。我们还进行了比较研究，以显示的贡献，采用语境化的词嵌入（BERT）的事件时间关系抽取的故事。提供详细的分析，以更好地了解结果。
2019-04-26 cs.CL
Temporal Relation Extraction in Clinical Texts: A Span-based Graph Transformer Approach
本文提出GRAPHTREX方法，通过结合基于跨度的实体关系抽取、临床预训练语言模型和异构图变换器，提升临床文本中时间关系抽取的准确率和长距离关系识别能力。
2025-05-29 cs.AI cs.CL cs.LG
Distilling Multi-Scale Knowledge for Event Temporal Relation Extraction
National Institutes of Health（美国国立卫生研究院）；Carnegie Mellon University（卡内基梅隆大学）；Allen Institute for AI（艾伦人工智能研究所）
本文提出知识协同蒸馏方法MulCo，通过对比学习在多个事件对邻近带间共享多尺度知识，成功整合长短邻近带的语言线索，在多个ETRE基准数据集上取得新的SOTA结果。
2024-07-26 cs.AI cs.CL cs.LG
Exploiting Partially Annotated Data for Temporal Relation Extraction
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Pennsylvania（宾夕法尼亚大学）
已知对用自然语言描述的事件之间的时间关系（TempRel）进行注释是劳动密集型的，部分原因是TempRel的总数是事件数量的二次。因此，通常只有少量的文档被注释，限制了各种词汇/语义现象的覆盖范围。为了改进现有的方法，一种可能性是利用现有的、部分附加说明的数据（P为部分），这些数据涵盖更多的文件。然而，P中缺少注释会损害而不是帮助现有系统。这项工作是一个案例研究，探索各种用途的P TempRel提取。结果表明，尽管缺少注释，P仍然是一个有用的监督信号，在约束自举学习框架内的这项任务。该系统中描述的系统是公开可用的。
2018-04-25 cs.CL cs.LG stat.ML
Transformer-Based Temporal Information Extraction and Application: A Review
Intel Labs（英特尔实验室）；University of Arizona（亚利桑那大学）
本文系统综述了基于Transformer的时间信息抽取研究，梳理其在医疗、新闻和情报等领域的应用，并展望未来研究方向。
2025-04-10 cs.CL
Spatial-Temporal Feature Extraction and Evaluation Network for Citywide Traffic Condition Prediction
Jilin University（吉林大学）；Loughborough University（拉夫堡大学）；Tongji University（同济大学）
在智能交通系统中，交通量预测对实现交通控制和调度任务具有重要作用。随着数据源的多样化，合理利用丰富的交通数据对交通流中复杂的时空相关性和非线性特性进行建模是智能交通系统面临的关键挑战。此外，清楚地评估从不同的数据中提取的时空特征的重要性成为一个挑战。提出了一种双层时空特征提取与评价模型（DL-STFEE）。DL-STFEE的底层是时空特征提取层。通过多图卷积和注意力机制提取交通数据中的时空特征，生成不同的时空特征组合。DL-STFEE的上层是时空特征评估层。通过高维自注意机制生成的注意力得分矩阵，对时空特征组合进行融合评价，得到不同组合对预测效果的影响。在实际交通数据集上进行的三组实验表明，DL-STFEE能够有效地捕获时空特征，并评估不同时空特征组合的重要性。
2022-07-22 cs.LG
Reliable Extraction of Clinical Follow-Up Instructions: A Hybrid Neural-Symbolic Pipeline
Bar-Ilan University（巴伊兰大学）；Afeka College of Engineering（阿菲卡工程学院）；Holon Institute of Technology（霍洛恩理工学院）
提出混合神经符号管道，结合BioBERT实体提取和确定性日期算术，在合成门诊笔记上实现接近完美的(动作, 日期)对提取F1分数，优于直接生成方法。
2026-05-26 cs.AI cs.CL
Fine-Grained Temporal Relation Extraction
University of Rochester（罗切斯特大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
我们提出了一个新的语义框架建模的时间关系和事件持续时间，映射对事件的实值尺度。我们使用这个框架来构建迄今为止最大的时态关系数据集，涵盖了整个通用的英语网络树库。我们使用这个数据集来训练模型，以联合预测细粒度的时间关系和事件持续时间。我们报告了我们的数据的强有力的结果，并显示了转移学习方法预测分类关系的有效性。
2019-06-03 cs.CL
Zero-shot Temporal Relation Extraction with ChatGPT
The University of Manchester（曼彻斯特大学）
本文探究ChatGPT在零样本时序关系抽取中的表现，通过三种提示设计评估发现其与监督方法差距明显且依赖提示，但在小类别上更优，同时揭示了其一致性和长距离推理缺陷。
2023-04-11 cs.AI cs.CL
MRC-based Nested Medical NER with Co-prediction and Adaptive Pre-training
School of Computer and Artificial Intelligence, Zhengzhou University（郑州大学计算机与人工智能学院）；School of Management, Zhengzhou University（郑州大学管理学院）
针对医疗NER中复杂嵌套结构与术语难题，提出基于MRC的模型，采用任务自适应预训练、多词对嵌入、多粒度膨胀卷积及Biaffine与MLP联合预测器，在CMeEE上优于SOTA模型。
2024-03-23 cs.CL
Joint Event and Temporal Relation Extraction with Shared Representations and Structured Prediction
University of Southern California（南加州大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们提出了一个联合的事件和时间关系抽取模型与共享的表示学习和结构化预测。所提出的方法有两个优点比现有的工作。首先，它通过允许事件和关系模块共享相同的上下文嵌入和神经表示学习器来改进事件表示。其次，它避免了传统的管道系统中的错误传播，利用结构化推理和学习方法来分配事件标签和时间关系标签联合。实验结果表明，该方法在事件抽取和时态关系抽取两个方面均优于现有系统，在两个基准数据集上的端到端F1分别提高了10%和6.8%.
2020-09-15 cs.AI cs.CL
Temporal Information Extraction by Predicting Relative Time-lines
KU Leuven（鲁汶大学）
本文提出直接预测事件起止点以构建时间线的新范式，避免先预测时间关系的中间步骤，并设计了线性复杂度模型和基于TimeML标注的新训练损失。
2023-11-30 cs.CL
Context-Dependent Semantic Parsing for Temporal Relation Extraction
University of California, San Diego（加利福尼亚大学圣迭戈分校）；The Hong Kong University of Science and Technology（香港科技大学）；National Taiwan University（台湾大学）
从非结构化文本中提取事件间的时态关系在时态推理、问答等领域有着广泛的应用。虽然这是困难的，但最近发展的神经符号方法在解决类似的任务上显示出有希望的结果。现有的时态关系抽取方法表达能力有限，关系推理不一致.例如，在TimeML注释中，没有交集的概念。此外，当前的方法不能保证预测的注释之间的一致性。在这项工作中，我们提出了SMARTER，神经语义解析器，有效地提取文本中的时间信息。SMARTER基于自定义类型的λ演算将自然语言解析为可执行的逻辑形式表示。在训练阶段，使用表示上的动态规划（DPD）技术来提供对逻辑形式的弱监督。在推理阶段，SMARTER通过执行逻辑形式生成时间关系图。因此，我们的神经语义解析器产生的逻辑形式捕捉文本的时间信息准确。给定上下文的事件的准确逻辑形式表示确保了所提取的关系的正确性。
2021-12-02 cs.CL
Brundlefly at SemEval-2016 Task 12: Recurrent Neural Networks vs. Joint Inference for Clinical Temporal Information Extraction
Stanford University（斯坦福大学）；Mobilize Center（动员中心）
我们提交了两个系统参加SemEval-2016任务12：临床TempEval挑战，参与第1阶段，在第1阶段，我们确定了临床笔记中的时间和事件表达的文本跨度，第2阶段，我们预测了事件与其父文档创建时间之间的关系。对于时间实体提取，我们发现使用结构化预测的基于联合推理的方法优于香草递归神经网络，该网络采用了在各种大型临床文档集上训练的词嵌入。对于文档创建时间关系，我们发现，数据规范化和远程监督规则的组合，用于预测事件和时间表达式的关系，提高了分类，虽然收益是有限的，可能是由于小规模的训练数据。
2016-06-04 cs.CL
Deep Structured Neural Network for Event Temporal Relation Extraction
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）
我们提出了一种新的深度结构化学习框架的事件时态关系抽取。该模型由1）一个循环神经网络（RNN）学习评分函数的成对关系，和2）一个结构化的支持向量机（SSVM）进行联合预测。神经网络自动学习表示，占长期的背景下，为结构化模型提供强大的功能，而SSVM纳入领域知识，如传递封闭的时间关系作为约束，以作出更好的全球一致的决定。通过联合训练这两个组件，我们的模型结合了数据驱动学习和知识利用的优势。在三个高质量事件时间关系数据集（TCR，MATRES和TB-Dense）上的实验结果表明，结合预先训练的上下文嵌入，所提出的模型在所有三个数据集上都取得了比最先进方法更好的性能。我们还提供了全面的消融研究来调查我们的模型。
2019-09-24 cs.CL
A Probabilistic Model with Commonsense Constraints for Pattern-based Temporal Fact Extraction
University of Notre Dame（圣母大学）
文本模式（例如，国家总统人员）是指定和/或生成的，用于从非结构化数据中提取事实信息。基于模式的信息抽取方法因其高效性和可移植性而得到广泛的认可。然而，并不是每个模式都是可靠的：一个主要的挑战是从不同的，有时是相互冲突的提取中获得最完整和准确的事实。在这项工作中，我们提出了一个概率图形模型，制定事实提取的生成过程。它自动推断真实的事实和模式的可靠性，无需任何监督。它有两个新颖的设计，专门为时间事实：（1）它模型的模式可靠性的两种类型的时间信号，包括时间标签的文本和文本生成时间;（2）它模型的常识约束作为可观察的变量。实验结果表明，我们的模型显着优于现有的方法从新闻数据中提取真实的时间事实。
2020-06-11 cs.CL cs.DB
The Temporal Game: A New Perspective on Temporal Relation Extraction
University of Porto INESC TEC（波尔图大学 INESC TEC）；University of Beira Interior INESC TEC（贝拉内里奥大学 INESC TEC）
本研究提出将时间关系抽取转化为交互式游戏的Temporal Game方法，通过逐点比较与时间闭包实现更灵活的标注，还为强化学习训练奠基，提供带游戏与标注模式的开源演示工具。
2025-08-29 cs.CL
Only One Relation Possible? Modeling the Ambiguity in Event Temporal Relation Extraction
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院）
针对事件时序关系抽取中模糊标签的歧义问题，提出多标签分类方案METRE及推测机制，利用模糊实例提升识别效果，在多个基准上超越多数现有最优方法。
2024-08-14 cs.CL
An Improved Neural Baseline for Temporal Relation Extraction
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Pennsylvania（宾夕法尼亚大学）
确定时间关系（例如，之前或之后）是一项具有挑战性的自然语言理解任务，这部分是由于难以生成大量高质量的训练数据。因此，神经网络方法并没有被广泛使用，或者只显示出适度的改进。本文提出了一种新的神经系统，在两个基准数据集上，它比以前的最佳系统（减少25%的错误）的准确性提高了约10%。所提出的系统是在最先进的MATRES数据集上训练的，并应用上下文化的词嵌入、时间常识知识库的暹罗编码器和通过整数线性规划（ILP）的全局推理。我们认为，新的方法可以作为一个强有力的基线，在这一领域的未来研究。
2019-09-01 cs.CL
WISTERIA: Weak Implicit Signal-based Temporal Relation Extraction with Attention
WISTERIA通过结合多头注意力与对事件对条件的top-K池化，提取时序关系的关键信息，提升时序关系提取的准确性和可解释性。
2026-03-24 cs.AI cs.CL
Annotating Social Determinants of Health Using Active Learning, and Characterizing Determinants Using Neural Event Extraction
University of Washington（华盛顿大学）
健康的社会决定因素（SDOH）影响健康结果，SDOH的知识可以为临床决策提供信息。从临床文本中自动提取SDOH信息需要在注释语料库上训练的数据驱动的信息抽取模型，这些语料库是异构的并且经常包括关键SDOH。这项工作提出了一个新的语料库与SDOH注释，一个新的主动学习框架，并在新的语料库的第一个提取结果。社会历史注释语料库（SHAC）包括4，480个社会历史部分，详细注释了12个SDOH，描述了18 K个不同事件的状态，程度和时间信息。我们介绍了一种新的主动学习框架，选择样本的注释使用代理文本分类任务作为一个更复杂的事件提取任务的代理。主动学习框架成功地增加了健康风险因素的频率，并在无向注释上改进了这些事件的自动提取。在SHAC上训练的事件提取模型在来自三个机构的数据上实现了物质使用状态（0.82-0.93 F1）、就业状态（0.81-0.86 F1）和生活状态类型（0.81-0.93 F1）的高提取性能。
2020-12-02 cs.CL cs.LG
Domain Knowledge Empowered Structured Neural Net for End-to-End Event Temporal Relation Extraction
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；Department of Computer Science, University of Southern California（南加州大学计算机科学系）；Department of Computer Science, University of California, Los Angeles（加州大学洛杉矶分校计算机科学系）
事件时序关系的提取是信息抽取的一项关键任务，在自然语言理解中起着重要作用。现有系统利用深度学习和预训练的语言模型来提高任务的性能。然而，这些系统通常遭受两个缺点：1）当基于神经模型执行最大后验（MAP）推断时，先前的系统仅使用被假定为绝对正确的结构化知识，即，硬约束; 2）当用有限的数据量训练时，对主导时间关系的有偏见的预测。为了解决这些问题，我们提出了一个框架，增强深度神经网络与概率域知识构建的分布约束。我们解决了约束推理问题，通过拉格朗日松弛，并将其应用于端到端的事件时态关系抽取任务。实验结果表明，我们的框架是能够改善基线神经网络模型具有很强的统计意义上的两个广泛使用的数据集在新闻和临床领域。
2020-10-06 cs.AI cs.CL
tieval: An Evaluation Framework for Temporal Information Extraction Systems
INESC TEC（INESC TEC（葡萄牙系统与计算机工程研究所））；University of Porto（波尔图大学）；Polytechnic Institute of Tomar（托马尔理工学院）；Ci2 - Smart Cities Research Center（Ci2智慧城市研究中心）
针对时间信息抽取系统评估中数据集格式与标注不一致、评估指标实现困难等问题，开发了tieval这一Python库，提供统一接口导入多语料库并支持传统指标与时间感知度评估，促进系统间的公平比较。
2023-11-24 cs.CL
Temporal Information Extraction for Question Answering Using Syntactic Dependencies in an LSTM-based Architecture
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
在本文中，我们提出了一套简单的，统一的架构LSTM为基础的模型，以恢复不同种类的时间关系，从文本。使用实体之间的最短依赖路径作为输入，使用相同的架构来提取句子内，跨句子和文档创建时间关系。一种“双重检查”技术在分类中颠倒实体对，提高了对阳性案例的回忆，减少了相反类之间的错误分类。一个有效的修剪算法解决全局冲突。在QA-TempEval（SemEval 2015任务5）上进行评估，我们提出的技术大大优于最先进的方法。
2017-10-05 cs.CL cs.IR
Extraction of Medication and Temporal Relation from Clinical Text using Neural Language Models
University of Manchester（曼彻斯特大学）
本研究针对临床文本中药物与时间关系抽取任务，基于MedTem项目实证对比多种深度学习模型，验证了CNN-BiLSTM在临床NER、BERT-CNN在时间关系抽取上的性能，并开源相关工具。
2023-10-08 cs.AI cs.CL
Targeted Extraction of Temporal Facts from Textual Resources for Improved Temporal Question Answering over Knowledge Bases
Indian Institute of Technology, Kharagpur（印度理工学院克勒格布尔分校）；IBM Research AI（IBM人工智能研究院）
知识库问答（KBQA）系统的目标是通过对从知识库（KB）检索的相关事实进行推理来回答复杂的自然语言问题。这些系统所面临的主要挑战之一是，由于不完整的知识库和实体/关系链接错误等因素，它们无法检索所有相关事实。在本文中，我们解决这个特殊的挑战，系统处理一个特定类别的问题，称为时间问题，答案推导涉及推理的事实断言点/时间间隔的各种事件。我们提出了一种新的方法，有针对性的时间事实提取技术是用来协助KBQA时，它无法检索时间事实从KB。我们使用$λ$ -问题的表达式来逻辑地表示得出答案所需的组成事实和推理步骤。这使我们能够发现那些未能从知识库中检索到的事实，并生成文本查询，以便以开放域问答的方式从文本资源中提取它们。我们评估了我们的方法在基准时间问答数据集考虑维基数据和维基百科分别作为知识库和文本资源。实验结果表明，该方法在回答正确率上相对提高了$\sim$ 30%，证明了该方法的有效性.
2022-03-21 cs.AI cs.CL
Dataset and Baseline System for Multi-lingual Extraction and Normalization of Temporal and Numerical Expressions
Duke University（杜克大学）；Microsoft Research Asia（微软亚洲研究院）
本文针对时间与数值表达式理解中子类型覆盖少、仅重提取及语种局限的问题，提出了覆盖14种语言的多语言评估数据集NTX及基于规则的强基线系统，支持提取、规范化与解析任务。
2023-03-31 cs.AI cs.CL
TemPrompt: Multi-Task Prompt Learning for Temporal Relation Extraction in RAG-based Crowdsourcing Systems
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；National University of Defense Technology（中国人民解放军国防科技大学）；Zhejiang Lab（之江实验室）；School of Artificial Intelligence, Anhui University（安徽大学人工智能学院）；University of Macau（澳门大学）；Faculty of Innovation Engineering, Macau University of Science and Technology（澳门科技大学创新工程学院）
针对众包系统中时间关系抽取面临的标注数据有限且分布不均问题，提出融合提示调优与对比学习的多任务提示框架TemPrompt，在标准和少样本设置下性能优于基线，且在众包场景有效。
2024-07-09 cs.CL
To Schedule or not to Schedule: Extracting Task Specific Temporal Entities and Associated Negation Constraints
Microsoft（微软）
从文本中提取日期-时间实体的最新研究是任务不可知的。因此，虽然在文献中提出的方法表现良好的通用日期-时间提取文本，他们不票价以及任务特定的日期-时间实体提取，只有一个子集的日期-时间实体中存在的文本是有关解决任务。此外，一些任务需要识别与日期-时间实体相关联的否定约束，以随着时间正确地推理。我们展示了一种新的模型，用于提取特定于任务的日期-时间实体及其否定约束。我们展示了我们的方法在基于电子邮件的数字AI调度助理的会议调度方面对日期-时间理解任务的有效性。与基线方法相比，我们的方法在检测与安排会议相关的日期-时间实体方面获得了19个f-得分点的绝对增益，在检测日期-时间实体上的否定约束方面比基线方法提高了4%。
2020-11-15 cs.CL cs.IR cs.LG
More than Classification: A Unified Framework for Event Temporal Relation Extraction
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院）；University of Washington（华盛顿大学）；Center for Data Science, Peking University（北京大学数据科学中心）；National Key Laboratory of General Artificial Intelligence（通用人工智能全国重点实验室）
本文提出统一的事件时序关系抽取框架，将时序关系转化为时间点逻辑表达式，通过预测时间点对关系完成抽取，在TB-Dense和MATRES上超越现有最优模型0.3%，并能快速适应关系定义变化。
2023-05-28 cs.CL
Event Interaction in Low-Rank Bottlenecks for Temporal Relation Extraction
KU Leuven（鲁汶大学）
针对参数高效微调中低秩瓶颈限制事件交互导致时序关系抽取性能下降的问题，提出卷积瓶颈交互（CBI）架构，在瓶颈内通过深度卷积和逐元素乘法增强交互，在多个数据集和骨干模型上显著提升F1分数。
2026-09-09 cs.AI cs.CL
MAVEN-ERE: A Unified Large-scale Dataset for Event Coreference, Temporal, Causal, and Subevent Relation Extraction
BNRist（北京国家信息科学与技术研究中心）；Xi’an Jiaotong-Liverpool University（西交利物浦大学）；Renmin University of China（中国人民大学）；THU-Siemens Ltd., China Joint Research Center for Industrial Intelligence and IoT（清华-西门子中国工业智能与物联网联合研究中心）；Tencent Inc（腾讯公司）；Shenzhen International Graduate School（深圳国际研究生院）；Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））
真实世界事件之间的各种关系，包括共指关系、时间关系、因果关系和子事件关系，是理解自然语言的基础。然而，现有数据集的两个缺点限制了事件关系抽取（ERE）任务：（1）小规模。由于标注的复杂性，现有数据集的数据规模有限，不能很好地训练和评估数据饥饿的模型。(2)缺乏统一的注释。不同类型的事件关系自然会相互作用，但现有的数据集只能同时覆盖有限的关系类型，这使得模型无法充分利用关系交互。为了解决这些问题，我们构建了一个统一的大规模人类注释的ERE数据集MAVEN-ERE与改进的注释方案。它包含103，193个事件共指链、1，216，217个时间关系、57，992个因果关系和15，841个子事件关系，比所有ERE任务的现有数据集至少大一个数量级。实验表明，MAVEN-ERE上的ERE是相当具有挑战性的，并考虑与联合学习的关系交互可以提高性能。数据集和源代码可以从https://github.com/THU-KEG/MAVEN-ERE获得。
2022-11-14 cs.CL
Extracting or Guessing? Improving Faithfulness of Event Temporal Relation Extraction
UPenn（宾夕法尼亚大学）；Tencent AI Lab（腾讯人工智能实验室）；USC（南加州大学）
在本文中，我们试图从两个角度提高TempRel提取模型的可信度。第一个视角是基于上下文描述的真实抽取。为了实现这一目标，我们建议进行反事实分析，以减弱两种重要类型的训练偏差的影响：事件触发偏差和频繁标签偏差。我们还将时态信息添加到事件表征中，以明确强调上下文描述。第二个观点是提供适当的不确定性估计，并且当文本中没有描述关系时避免提取。通过在模型预测的分类分布上对Dirichlet先验进行参数化，我们改进了模型对正确性似然的估计，并使TempRel预测更具选择性。我们还采用温度缩放来重新校准模型的置信度后，偏差缓解。通过对MATRES、MATRES-DS和TDDiscourse的实验分析，我们证明了与SOTA方法相比，我们的模型更忠实地提取TempRel和时间线，特别是在分布偏移的情况下。
2022-10-12 cs.AI cs.CL
Clinical Information Extraction via Convolutional Neural Network
University of Texas at Arlington（德克萨斯大学阿灵顿分校）
我们报告了一个临床信息抽取工具的实现，该工具利用深度神经网络从原始临床笔记和病理报告中注释事件跨度及其属性。我们的方法使用上下文单词和他们的词性标签和形状信息作为特征。然后，我们雇用时间（1D）卷积神经网络来学习隐藏的特征表示。最后，我们使用多层感知器（MLP）来预测事件跨度。实证评估表明，我们的方法显着优于基线。
2016-03-30 cs.CL cs.LG cs.NE
STGIN: A Spatial Temporal Graph-Informer Network for Long Sequence Traffic Speed Forecasting
Nanyang Technological University（南洋理工大学）；Agency for Science, Technology and Research（新加坡科技研究局）；Institute for Infocomm Research（资讯通信研究院）
准确的交通信息长序列预测是智能交通系统发展的关键。我们可能会受益于神经网络分析技术的快速发展，以更好地了解交通网络的潜在功能模式，作为这一进展的结果。由于交通数据和设施利用情况依次依赖于过去和现在的情况，几个相关的神经网络技术的时间依赖性提取模型的基础上，已经开发来解决这个问题。另一方面，复杂的拓扑道路结构，放大了空间相互依赖的影响，这是不能捕获的纯时间提取方法。此外，典型的深度递归神经网络（RNN）拓扑结构对全面的长期预测所需的全局信息抽取有约束。本文提出了一种新的时空神经网络结构，称为时空图信息（STGIN），通过合并信息层和图注意力网络（GAT）层进行时空关系提取，来处理长期交通参数预测问题。注意力机制潜在地保证了长期预测性能，而不会从远距离输入中丢失显著的信息。在两个不同视野的真实交通数据集上，实验结果验证了长序列预测能力，并提供了进一步的解释。
2022-10-01 cs.AI cs.LG
Joint Information Extraction Across Classical and Modern Chinese with Tea-MOELoRA
The Hong Kong Polytechnic University（香港理工大学）；Renmin University of China（中国人民大学）
针对中文信息抽取跨古典与现代任务干扰问题，提出Tea-MOELoRA框架，结合LoRA与混合专家及任务-时代感知路由，实验优于基线。
2025-09-09 cs.CL
Joint Constrained Learning for Event-Event Relation Extraction
UPenn（宾夕法尼亚大学）；HKUST（香港科技大学）
理解自然语言涉及识别多个事件提及如何在结构上和时间上彼此交互。在这个过程中，人们可以诱导事件复合体，它以时间顺序和成员关系交织在一起来组织多粒度事件。由于缺乏联合标记的数据，这些关系的现象和限制，他们阐明的结构，我们提出了一个联合约束学习框架建模事件-事件关系。具体而言，该框架强制执行逻辑约束内和跨多个时间和子事件的关系，将这些约束转化为可区分的学习目标。我们表明，我们的联合约束学习方法有效地弥补了缺乏联合标记的数据，并优于SOTA方法的基准时间关系抽取和事件层次结构的建设，取代常用的，但更昂贵的全球推理过程。我们还提出了一个很有前途的案例研究表明，我们的方法在诱导事件复合体的外部语料库的有效性。
2021-05-02 cs.AI cs.CL cs.IR
Remaining Useful Life Prediction Using Temporal Deep Degradation Network for Complex Machinery with Attention-based Feature Extraction
Xi’an Jiaotong University（西安交通大学）；Xi’an Thermal Power Research Institute Co.,Ltd.（西安热工研究院有限公司）
剩余使用寿命（RUL）的精确估计对于预测分析和预测性维护至关重要，可以显着降低故障率和维护成本。利用神经网络从传感器流数据中提取的退化相关特征可以显著提高RUL预测的准确性。提出了时间深度退化网络（TDDN）模型，利用一维卷积神经网络（1D CNN）特征提取和注意力机制给出的退化相关特征进行RUL预测。1D CNN用于从流式传感器数据中提取时间特征。时间特征具有来自波动的原始传感器流数据的单调退化趋势。注意力机制通过引入注意力权重来捕捉故障特征和退化发展过程，从而提高了RUL的预测性能。在公开的C-MAPSS数据集上对TDDN模型的性能进行了评估，并与现有方法进行了比较。结果表明，与现有的机器学习模型相比，TDDN模型能够在复杂条件下实现最佳的RUL预测精度。从高维传感器流数据中提取的退化相关特征展示了清晰的退化轨迹和退化阶段，使TDDN能够准确有效地预测涡扇发动机RUL。
2022-02-21 cs.AI cs.LG eess.SP
Unified BERT for Few-shot Natural Language Understanding
International Digital Economy Academy（国际数字经济学院）；South China University of Technology（华南理工大学）
即使预先训练的语言模型共享语义编码器，自然语言理解也会受到输出模式多样性的影响。本文在BERT框架的基础上，提出了一种统一的双向语言理解模型UBERT，它可以通过一个双仿射网络对不同自然语言理解任务的训练对象进行统一建模。具体而言，UBERT从各个方面对先验知识进行编码，统一构建跨多个NLU任务的学习表示，有利于增强捕捉共同语义理解的能力。通过使用双仿射来建模原始文本的开始和结束位置的分数对，可以将各种分类和提取结构转换为通用的跨度解码方法。实验表明，UBERT在2022 AIWIN -世界人工智能创新大赛、中国保险Few-Shot多任务赛道中斩获一等奖，实现了广泛信息抽取和语言推理任务的统一。
2022-08-13 cs.AI cs.CL
TempEval-3: Evaluating Events, Time Expressions, and Temporal Relations
University of Rochester（罗切斯特大学）；University of Alicante（阿利坎特大学）；University of Sheffield（谢菲尔德大学）；Brandeis University（布兰迪斯大学）
我们描述了目前正在为SemEval-2013评估活动做准备的TempEval-3任务。TempEval的目的是推进时间信息处理的研究。TempEval-3继承了之前的TempEval事件，包含：由三部分组成的任务结构，涵盖事件、时态表达和时态关系抽取;更大的数据集;以及单个总体任务质量评分。
2014-05-25 cs.CL
A Corpus-based Study of Temporal Signals
University of Sheffield（谢菲尔德大学）
语篇中事件的自动时间排序是近年来的研究热点。事件顺序在文本中通过各种语言机制来传达，包括使用诸如“之前”、“之后”或“期间”等表达，这些表达明确地断言时间关系-时间信号。本文研究了时间信号在时间关系抽取中的作用，并在TimeBank标注语料库中对这些表达进行了定量分析。
2012-03-22 cs.CL
Extracting Event Temporal Relations via Hyperbolic Geometry
University of Warwick（华威大学）；Alan Turing Institute（艾伦·图灵研究所）
本文提出将事件嵌入双曲空间以建模非对称时序关系，设计了基于几何运算和端到端双曲神经单元的两种方法，在多个标准数据集上取得最先进性能并揭示了丰富的隐式事件语义。
2024-06-08 cs.CL
Season-Independent PV Disaggregation Using Multi-Scale Net Load Temporal Feature Extraction and Weather Factor Fusion
School of Computer Science and Technology University of Electronic Science and Technology of China（电子科学与技术大学计算机科学与技术学院）；Department of Data Science and AI Faculty of Information Technology Monash University（信息科技学院数据科学与人工智能系）；Monash Energy Institute Monash University（莫纳什大学能源研究所）；Shenzhen Institute for Advanced Study Shenzhen, China（深圳先进研究 institute）
针对分布式光伏发电与净负荷分离难题，提出融合分层插值与多头自注意力的光伏分解方法，有效提取净负荷特征并捕捉气象因子相关性，实现精确预测，提升分布式能源监测管理。
2025-05-24 cs.AI cs.LG eess.SP
Word-Level Loss Extensions for Neural Temporal Relation Classification
KU Leuven（鲁汶大学）
无监督的预训练词嵌入有效地用于自然语言处理中的许多任务，以利用未标记的文本数据。通常，这些嵌入要么用作初始化，要么用作特定于任务的分类模型的固定单词表示。在这项工作中，我们扩展了我们的分类模型的任务损失与无监督的辅助损失的单词嵌入水平的模型。这是为了确保学习的单词表示包含从监督损失组件学习的任务特定特征和从无监督损失组件学习的更一般的特征。我们评估我们的方法的任务时间关系抽取，特别是从临床记录中的叙述包含关系抽取，并表明，继续训练的嵌入在无监督的目标与任务目标一起提供了更好的特定于任务的嵌入，并导致在改进的最先进的THYME数据集上，只使用一个通用域的词性标注器作为语言资源。
2018-08-07 cs.CL
Tense, aspect and mood based event extraction for situation analysis and crisis management
Middle East Technical University（中东科技大学）；Graduate School of Informatics（信息学研究生院）
现在的事件抽取系统主要处理相对少量的关于情景的时间和模态限定的信息，主要处理过去时态的断言句。然而，具有更广泛的时态、体和语气覆盖范围的系统可以提供更好的分析，并且可以用于更广泛的文本分析应用。本论文针对土耳其语开发了一个这样的系统。这是通过扩展开放源代码信息挖掘和分析（OPTIMA）研究小组的事件提取软件，通过实现适当的扩展的语义表示格式，通过添加一个部分语法，提高TAM（时态，方面和语气）标记，副词分析和匹配功能的Express，并通过构建一个适当的词典在CORLEONE的标准。这些扩展基于IV锚定关系理论（Temürcü，2007，2011），这是一个跨语言适用的语义框架，用于分析时态，体和语气相关类别。其结果是一个系统，它可以，除了提取基本的事件结构，分类的句子在新闻报道中，根据其时间，模态和意志/言外之言的价值。虽然重点是土耳其语的自然灾害、疾病爆发和人为灾害的新闻报道，但这种方法可以适用于其他语言、领域和体裁。这一事件提取和分类系统经过进一步发展，可以为自动浏览系统提供基础，以防止环境和人道主义风险。
2020-08-01 cs.CL
TIMELINE: Exhaustive Annotation of Temporal Relations Supporting the Automatic Ordering of Events in News Articles
University of Manchester（曼彻斯特大学）
本文针对新闻时序关系标注中指南模糊、长距离关系缺失及非动词事件被排除的问题，提出新的标注方案并构建TIMELINE语料库，提升了标注一致性并验证了基线模型性能。
2023-10-26 cs.CL
EventPlus: A Temporal Event Understanding Pipeline
University of California, Los Angeles（加州大学洛杉矶分校）；University of Southern California（南加州大学）；Texas A&M University（德克萨斯A&M大学）
我们提出EventPlus，一个时间事件理解管道，集成了各种国家的最先进的事件理解组件，包括事件触发器和类型检测，事件参数检测，事件持续时间和时间关系抽取。事件信息，尤其是事件时态知识，是一种帮助人们理解故事如何演变并为未来事件提供预测暗示的常识性知识。EventPlus作为第一个全面的时态事件理解管道，为用户提供了一个方便的工具，可以快速获取任何用户提供的文档的事件及其时态信息的注释。此外，我们表明EventPlus可以很容易地适应其他领域（例如，生物医学领域）。我们公开EventPlus，以促进与事件相关的信息抽取和下游应用。
2021-04-25 cs.AI cs.CL cs.HC
