Ontology-Guided Multi-Agent Extraction of Evaluation Objects from Academic Review Texts: Evidence from Chinese Library and Information Science
Nanjing University(南京大学)
针对学术评论文本中评价对象抽取效果差的问题,提出本体引导的多智能体框架,在中文图书馆与信息科学数据上取得优于基线的性能,为相关研究评价和情报挖掘提供方法支持。
2026-09-01 cs.CL
A Survey on Extraction of Causal Relations from Natural Language Text
The University of Sydney(悉尼大学)
作为人类认知的重要组成部分,因果关系经常出现在文本中,从文本中策划因果关系有助于构建预测任务的因果网络。现有的因果关系提取技术包括基于知识、基于统计机器学习(ML)和基于深度学习的方法。每种方法都有其优点和缺点。例如,基于知识的方法是可以理解的,但需要大量的手工领域知识,并且具有较差的跨领域适用性。由于自然语言处理(NLP)工具包,统计机器学习方法更加自动化。然而,特征工程是劳动密集型的,工具包可能会导致错误传播。在过去的几年里,深度学习技术由于其强大的表示学习能力和计算资源的快速增长而引起了NLP研究者的极大关注。它们的局限性包括高计算成本和缺乏足够的注释训练数据。在本文中,我们进行了全面的调查因果关系提取。我们首先介绍了因果关系提取的主要形式:显式因果关系,隐式因果关系和因果关系之间的因果关系。接下来,我们列出基准数据集和建模评估方法的因果关系抽取。然后,我们提出了一个结构化的概述这三种技术与他们的代表性系统。最后,我们强调了现有的开放性挑战及其潜在方向。
2021-11-01 cs.CL cs.IR
Automatic Extraction of Causal Relations from Natural Language Texts: A Comprehensive Survey
University of Waterloo(滑铁卢大学)
从自然语言文本中自动提取因果关系是人工智能领域的一个具有挑战性的开放性问题。大多数早期的解决方案都是在小型和特定领域的数据集上手动构建语言和句法规则。然而,随着大数据的出现,可负担得起的计算能力的可用性以及最近机器学习的普及,解决这个问题的范式已经慢慢改变。机器现在被期望以领域独立的方式,在最少的监督下从标记数据中学习通用的因果提取规则。在本文中,我们提供了一个全面的调查因果关系抽取技术从这两种范式,并分析其相对的优势和劣势,为今后的工作提出建议。
2016-05-25 cs.AI cs.CL cs.IR
CAiRE-COVID: A Question Answering and Query-focused Multi-Document Summarization System for COVID-19 Scholarly Information Management
EMOS Technologies Inc.(EMOS科技公司)
我们介绍CAiRE-COVID,一个实时问答(QA)和多文档摘要系统,它赢得了Kaggle COVID-19开放研究数据集挑战赛的10个任务之一,由医学专家评判。我们的系统旨在通过回答社区的高优先级问题并总结与问题相关的重要信息,来应对最近挖掘大量关于COVID-19的科学文章的挑战。它将信息抽取与最先进的QA和以查询为中心的多文档摘要技术相结合,从现有文献中选择并突出显示证据片段。我们还提出了以查询为中心的抽象和提取的多文档摘要方法,以提供更多的相关信息的问题。我们进一步进行定量实验,显示每个模块的各种指标的一致改进。我们已经推出了我们的网站CAiRE-COVID,供医学界更广泛地使用,并开放了我们系统的代码,以引导其他研究人员进行进一步的研究。
2020-12-08 cs.CL cs.IR cs.LG
A Survey on Event-based News Narrative Extraction
Virginia Tech(弗吉尼亚理工大学);Universidad Católica del Norte(北天主教大学);University of Washington(华盛顿大学)
叙事是我们理解世界的基础,随着时间的推移,它为我们提供了一个自然的知识表示结构。计算叙事提取是人工智能的一个子领域,它大量使用信息检索和自然语言处理技术。尽管计算叙事提取的重要性,相对较少的学术工作存在综合以前的研究和战略未来的研究在该地区。特别是,这篇文章的重点是从事件为中心的角度提取新闻叙事。从新闻数据中提取叙述在理解不断发展的信息格局方面有多种应用。本研究对基于事件的新闻叙事抽取领域的研究进行了广泛的研究。特别是,我们筛选了900多篇文章,产生了54篇相关文章。这些文章是综合和组织的表示模型,提取标准和评价方法。基于回顾的研究,我们确定了最近的趋势,开放的挑战和潜在的研究路线。
2023-03-10 cs.CL cs.IR
ConstructCIE: A Dataset for Extracting Causal Information from Construction Accident Narratives
Texas A&M University(德克萨斯农工大学)
该研究构建了用于提取施工事故因果信息的ConstructCIE数据集,评估了相关模型的性能,发现模型在精确跨度提取上存在局限,需强化领域基础与证据提取。
2026-08-26 cs.CL
Extracting Temporal and Causal Relations between Events
University of Trento(特伦托大学);Università degli Studi di Trento(特伦托大学)
从时间信息处理中得到的结构化信息对于各种自然语言处理任务是至关重要的,例如从新闻文档中生成事件的时间轴摘要,或者回答关于某些事件的时间/时间相关问题。在这篇论文中,我们提出了一个整合时间和因果关系抽取系统的架构。我们首先为每种类型的关系,即时间顺序和因果关系开发了一个强大的提取组件。然后,我们结合这两个提取组件到一个集成的关系抽取系统,CATENA-因果和时间关系抽取从自然语言文本-,利用因果关系中的事件优先的假设,即导致事件必须发生在结果事件之前。本文还讨论了改进关系抽取系统的资源和技术,包括词嵌入和训练数据扩展。最后,我们报告我们的适应努力的时间信息处理的语言以外的英语,即意大利语和印尼语。
2016-04-27 cs.CL
MIT at SemEval-2017 Task 10: Relation Extraction with Convolutional Neural Networks
MIT(麻省理工学院)
发表了5 000多万篇学术文章:它们构成了一个独特的知识库。特别是,人们可以从中推断出科学概念之间的关系,如同义词和下位词。人工神经网络最近已被探索用于关系抽取。在这项工作中,我们继续这条工作线,并提出了一个系统的基础上的卷积神经网络提取关系。我们的模型在SemEval-2017任务10(ScienceIE)中排名第一,用于科学文章中的关系抽取(子任务C)。
2017-04-05 cs.AI cs.CL cs.NE
Computer Science Named Entity Recognition in the Open Research Knowledge Graph
TIB Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心)
计算机科学(CS)学术文章上的领域特定命名实体识别(NER)是一项信息抽取任务,可以说对于可以困扰任务的各种注释目标来说更具挑战性,并且在一般领域中的NER研究较少。鉴于在净入学率方面已经取得了重大进展,我们相信,在未来几年,学术领域特定的净入学率将受到越来越多的关注。目前,这项工作的重点-CS NER的进展部分受到其新近出现和缺乏科学实体/术语的标准化注释目标的阻碍。这项工作提出了一个标准化的任务,通过定义一组七个贡献为中心的学术实体CS NER即,研究问题,解决方案,资源,语言,工具,方法和数据集。接下来,其主要贡献是:结合现有的CS NER资源,这些资源将其注释集中在我们考虑的以贡献为中心的学术实体的集合或子集上;此外,注意到需要大数据来训练神经NER模型,这项工作还从文章标题和摘要中提供了数千个以贡献为中心的实体注释,从而为CS NER释放了累积的大型新颖资源;最后,从一般域NER任务中训练出一个受最新神经结构启发的序列标记CS NER模型。在整个工作中,几个实际的考虑,这可能是有用的信息技术设计师的数字图书馆。
2022-11-14 cs.CL cs.DL cs.IR
PubMedCausal: A Span-Level Annotated Corpus for Causal Relation Extraction in Biomedical Text
Edyah Limited(Edyah有限公司);University of Ibadan(伊巴丹大学);Indiana University(印第安纳大学);Creighton University(克雷顿大学)
为解决现有资源将因果关系与广义关联混淆、限制句子级标注或仅关注显式因果线索的问题,构建了基于PubMed摘要的跨度级因果关抽取语料库PubMedCausal,包含30,000段落级行、3,945因果行和6,491个裁决的因果对,并基准测试了判别式编码器和开源生成模型。
2026-10-28 cs.CL
Weak Reward Model Transforms Generative Models into Robust Causal Event Extraction Systems
King’s College London(伦敦国王学院);The Alan Turing Institute(阿兰·图灵研究所)
针对因果事件抽取评估指标不佳的问题,训练评估模型近似人工评估并用于强化学习对齐人类偏好,提出弱到强监督方法减少标注依赖并保持高性能。
2024-06-27 cs.CL
An Empirical Study of Causal Relation Extraction Transfer: Design and Data
Indiana University(印第安纳大学)
本文通过实证研究因果抽取的迁移设计,提出BioBERT-BiGRU模型和强调名词短语定位的F1_phrase指标,并发现混合领域与标注风格的数据增强可提升性能,尤其在隐式与显式因果句比例适当时。
2025-03-08 cs.CL
Supporting Medical Relation Extraction via Causality-Pruned Semantic Dependency Forest
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University Of Electronic Science And Technology Of China(电子科技大学)
医学关系抽取任务旨在抽取医学文本中实体之间的关系。传统的关系抽取方法通过探索句法信息取得了令人印象深刻的成功,例如,依赖树然而,1-最好的依赖树的医疗文本产生的域外分析器的质量是相对有限的,使医疗关系抽取方法的性能可能会下降。为此,我们提出了一种基于因果解释理论的医学文本语义和句法信息联合建模方法。我们生成的依赖森林组成的语义嵌入的1-最好的依赖树。然后,采用特定于任务的因果解释器对依赖森林进行剪枝,并将剪枝后的依赖森林输入到所设计的图卷积网络中,为下游任务学习相应的表示.从经验上讲,基准医疗数据集上的各种比较证明了我们的模型的有效性。
2022-08-29 cs.CL
Causal Intervention-based Prompt Debiasing for Event Argument Extraction
East China Normal University(华东师范大学);Fudan University(复旦大学)
在信息抽取任务中,特别是在低数据量的情况下,基于特征的方法变得越来越流行。通过将微调任务格式化为预训练目标,基于训练的方法有效地解决了数据稀缺问题。然而,以往的研究很少探讨不同的提示形成策略之间的差异。在这项工作中,我们比较了两种提示,基于名称的提示和基于本体的提示,并揭示了如何基于本体的提示方法优于其对应的zero-shot事件参数提取(EAE)。此外,我们分析了潜在的风险,基于本体的提示通过因果的观点,并提出了一个因果干预的debias方法。在两个基准测试上的实验表明,通过我们的debias方法的修改,基线模型变得更加有效和强大,在抵抗对抗攻击显着改善。
2022-10-04 cs.AI cs.CL
Increasing the Accessibility of Causal Domain Knowledge via Causal Information Extraction Methods: A Case Study in the Semiconductor Manufacturing Industry
Infineon Technologies Austria AG(英飞凌奥地利技术公司);Graz University of Technology(格拉茨工业大学);Université Bourgogne Franche-Comté(勃艮第-弗朗什-孔泰大学);Know-Center GmbH(Know-Center有限公司)
本研究针对半导体制造行业,提出单阶段与多阶段序列标注方法以从工业文档中自动提取因果信息,多阶段方法在FMEA文档上F1达93%,并强调领域适配语言模型的重要性。
2024-11-15 cs.AI cs.CL
Uncovering Main Causalities for Long-tailed Information Extraction
Singapore University of Technology and Design(新加坡科技设计大学);Carnegie Mellon University(卡内基梅隆大学);National University of Singapore(新加坡国立大学);University of Cambridge(剑桥大学)
信息抽取(Information Extraction,IE)的目的是从非结构化文本中抽取结构化信息。在实践中,由数据集的选择偏差引起的长尾分布可能会导致传统似然模型中实体和标签之间的不正确相关性,也称为虚假相关性。这促使我们提出反事实IE(CFIE),一个新的框架,旨在揭示数据背后的因果关系的因果推理的观点。具体而言,1)我们首先为各种IE任务引入统一的结构因果模型(SCM),描述变量之间的关系; 2)使用我们的SCM,然后基于显式语言结构生成反事实,以更好地计算推理阶段的直接因果效应; 3)我们进一步提出了一种新的去偏方法,以产生更强大的预测。在五个公共数据集上的三个IE任务的实验表明,我们的CFIE模型在减轻虚假相关问题方面的有效性。
2021-09-11 cs.CL
Causal Tree Extraction from Medical Case Reports: A Novel Task for Experts-like Text Comprehension
Kyoto University(京都大学);Precision Inc.(普雷西ision公司);Jichi Medical University(自治医科大学)
提出因果树提取(CTE)任务,通过生成以主要疾病为根的因果树来捕捉医疗病例诊断过程的层次结构,构建日语数据集J-Casemap并验证其方法优于基线且能提升其他医疗任务性能。
2025-03-03 cs.CL
Causality Extraction from Nuclear Licensee Event Reports Using a Hybrid Framework
University of Idaho(爱达荷大学);Idaho National Laboratory(爱达荷国家实验室)
本文提出一种混合框架,从核设施许可证持有者事件报告中检测和提取因果关系,主要贡献包括构建含20129个样本的LER语料库、开发因果对标注交互工具、基于深度学习的因果关系检测方法及基于知识的因果提取方法。
2024-04-22 cs.AI cs.CL cs.LG
Document-level Causal Relation Extraction with Knowledge-guided Binary Question Answering
University of Texas at Dallas(德克萨斯大学达拉斯分校)
针对事件-事件因果关系抽取中缺乏文档级建模和因果幻觉的问题,提出融合事件结构的知识引导二元问答方法,在多数据集上验证了其有效性、泛化性与低不一致性,在MECI上达SOTA。
2024-10-07 cs.CL
Joint Learning-based Causal Relation Extraction from Biomedical Literature
Soochow University(苏州大学);The Hong Kong Polytechnic University(香港理工大学)
生物医学实体的因果关系抽取是生物医学文本挖掘中最复杂的任务之一,涉及实体关系和实体函数两类信息。一种可行的方法是将关系抽取和函数检测作为两个独立的子任务。然而,这种分离的学习方法忽略了它们之间的内在相关性,并导致性能不令人满意。本文提出了一种联合学习模型,将实体关系抽取和实体功能检测结合起来,利用它们的共性,捕捉它们之间的相互关系,从而提高生物医学因果关系抽取的性能。同时,在模型训练阶段,损失函数中的不同函数类型被分配不同的权重。具体地说,针对负函数实例的惩罚系数增加,有效地提高了函数检测的精度。在BioCreative-V Track 4语料库上的实验结果表明,我们的联合学习模型在BEL语句提取方面优于单独的模型,在第2阶段和第1阶段的测试集上分别获得了58.4%和37.3%的F1分数。这表明,我们的联合学习系统达到了最先进的性能,在第二阶段与其他系统相比。
2022-08-02 cs.AI cs.CL
Transfer Learning for Causal Sentence Detection
Causaly(Causaly公司);Athens University of Economics and Business(雅典经济与商业大学)
我们认为检测表达因果关系的句子的任务,作为从文本中挖掘因果关系的一步。为了绕过关系抽取数据集中因果实例的稀缺性,我们利用迁移学习,即ELMO和BERT,使用具有自我注意力的双向GRU(BIGRUATT)作为基线。我们实验与通用公共关系抽取数据集和一个新的生物医学因果句检测数据集,其中的一个子集,我们公开。我们发现,迁移学习只在非常小的数据集上有帮助。对于较大的数据集,BIGRUATT达到性能平台,然后较大的数据集和迁移学习没有帮助。
2019-06-20 cs.CL
Element Intervention for Open Relation Extraction
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所)
开放式关系抽取的目标是对引用同一底层关系的关系实例进行聚类,这是一般关系抽取的关键步骤。目前的OpenRE模型通常是在远程监督生成的数据集上训练的,这往往会导致模型不稳定,容易崩溃。在本文中,我们从因果关系的角度重新审视OpenRE的过程。通过使用结构因果模型制定OpenRE,我们确定上述问题源于从实体和上下文到关系类型的虚假相关性。为了解决这个问题,我们进行\emph{Element Intervention},分别干预的背景和实体,以获得潜在的因果关系的影响。我们还提供了两个具体的实现的干预措施的基础上,实体排名和上下文对比。在无监督关系抽取数据集上的实验结果表明,我们的方法优于以前的最先进的方法,并在不同的数据集上具有鲁棒性。
2021-06-17 cs.CL
Informative Causality Extraction from Medical Literature via Dependency-tree based Patterns
Indiana University Purdue University Indianapolis(印第安纳大学与普渡大学印第安纳波利斯联合分校)
从医学文献中抽取因果实体是医学信息检索的一项重要任务。用于解决该任务的解决方案可以用于汇编各种因果关系,例如疾病和症状之间、药物和副作用之间、基因和疾病之间的因果关系等。用于提取因果实体的现有解决方案对于其中原因和结果短语是名称实体、单字名词或由两个到三个词组成的名词短语的句子工作良好。遗憾的是,在医学文献中,句子中的因果短语不是简单的名词或名词短语,而是由多个单词组成的复杂短语,现有方法无法正确提取此类句子中的因果实体。与给定句子中的意图相比,因果实体的部分提取传达了质量差、信息量小且往往矛盾的事实。在这项工作中,我们解决了这个问题,设计了一个无监督的方法,因果短语提取,模式因果关系,这是专门适用于医学文献。我们提出的方法首先使用因果依赖模式的集合作为模板来提取因果短语的中心词,然后使用一种新的短语提取方法从句子中获得完整的和有意义的因果短语。从PubMed文章中的句子建立的因果数据集上的实验表明,对于提取因果实体,PatternCausality大大优于现有的方法,在F-分数度量的数量级改进超过现有的最佳方法。
2022-03-13 cs.CL cs.LG
Data Mining of Causal Relations from Text: Analysing Maritime Accident Investigation Reports
Aalto University School of Science(阿尔托大学理学院);University of Surrey(萨里大学)
文本挖掘是从文本中提取人们感兴趣的信息的过程。这种方法包括来自诸如信息检索(IR)、自然语言处理(NLP)和信息抽取(IE)的各种领域的技术。在这项研究中,应用文本挖掘方法从海事事故调查处(MAIB)收集的海事事故调查报告中提取因果关系。这些因果关系提供了关于事故背后各种机制的信息,包括与事故有关的人为因素和组织因素。本研究的目的是希望借由更可行的方式,来萃取海事事故调查报告中的致因,以利分析。对报告中的促成原因进行仔细调查,为今后提高安全性提供了机会。本研究采用两种方法来提取因果关系。它们是1)模式分类法和2)连接词法。早期的一个使用朴素贝叶斯和支持向量机(SVM)作为分类器。后者只是在句子中搜索连接原因和结果的单词。将使用这两种方法提取的因果模式与手动(人类专家)提取进行比较。模式分类方法显示出公平和合理的性能与F-测量(平均)= 65%相比,连接词的方法与F-测量(平均)= 58%。本文的研究为文本挖掘方法在海事调查报告因果关系提取中的应用提供了依据。
2015-07-09 cs.CL cs.IR
MAVEN-ERE: A Unified Large-scale Dataset for Event Coreference, Temporal, Causal, and Subevent Relation Extraction
BNRist(北京国家信息科学与技术研究中心);Xi’an Jiaotong-Liverpool University(西交利物浦大学);Renmin University of China(中国人民大学);THU-Siemens Ltd., China Joint Research Center for Industrial Intelligence and IoT(清华-西门子中国工业智能与物联网联合研究中心);Tencent Inc(腾讯公司);Shenzhen International Graduate School(深圳国际研究生院);Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR))
真实世界事件之间的各种关系,包括共指关系、时间关系、因果关系和子事件关系,是理解自然语言的基础。然而,现有数据集的两个缺点限制了事件关系抽取(ERE)任务:(1)小规模。由于标注的复杂性,现有数据集的数据规模有限,不能很好地训练和评估数据饥饿的模型。(2)缺乏统一的注释。不同类型的事件关系自然会相互作用,但现有的数据集只能同时覆盖有限的关系类型,这使得模型无法充分利用关系交互。为了解决这些问题,我们构建了一个统一的大规模人类注释的ERE数据集MAVEN-ERE与改进的注释方案。它包含103,193个事件共指链、1,216,217个时间关系、57,992个因果关系和15,841个子事件关系,比所有ERE任务的现有数据集至少大一个数量级。实验表明,MAVEN-ERE上的ERE是相当具有挑战性的,并考虑与联合学习的关系交互可以提高性能。数据集和源代码可以从https://github.com/THU-KEG/MAVEN-ERE获得。
2022-11-14 cs.CL
Visual Summarization of Scholarly Videos using Word Embeddings and Keyphrase Extraction
L3S Research Center, Leibniz Universität Hannover(莱布尼茨汉诺威大学L3S研究中心);Leibniz Information Centre for Science and Technology (TIB)(莱布尼茨科学技术信息中心(TIB))
视听内容的有效学习取决于许多因素。除了学习资源内容的质量之外,发现最相关和最合适的视频以最有效地支持学习过程也是至关重要的。视频摘要技术通过提供对内容的快速概述来促进这一目标。它对于较长的录音特别有用,例如会议演示或讲座。在本文中,我们提出了一种方法,生成一个基于语义词嵌入和关键短语提取视频内容的视觉摘要。为此,我们利用语音识别和视频OCR(光学字符识别)自动生成的视频注释。
2019-11-25 cs.CL cs.DL cs.MM
Extraction and Evaluation of Formulaic Expressions Used in Scholarly Papers
The University of Tokyo(东京大学);Université de Nantes(南特大学);National Institute of Informatics(国立信息学研究所)
公式化表达,如“在本文中,我们提出”,对学术论文的作者很有帮助,因为它们传达了交际功能;在上文中,它表明了本文的目的。因此,公式化表达的资源,如字典,可以很容易地查找将是有用的。然而,公式化表达的形式往往可以在很大程度上变化。例如,“在本文中我们提出”、“在这项研究中我们提出”和“在本文中我们提出一种新的方法”都被认为是公式化表达。这种跨度和形式的多样性导致了公式化表达的提取和评估方面的问题。在本文中,我们提出了一种新的方法,是强大的跨度和形式的公式化表达的变化。我们的方法认为一个句子是由公式化的部分和非公式化的部分。这样,就不必从整个语料库中提取公式化表达,而是从每个句子中提取公式化表达,不同的形式可以同时处理。基于这个公式,为了避免多样性问题,我们提出了评估提取方法,他们传达了多少特定的交际功能,而不是通过比较提取的表达现有的词典。我们还提出了一种新的提取方法,利用命名实体和依赖结构,以消除非公式化的一句话的一部分。实验结果表明,与现有的其他方法相比,本文提出的提取方法具有最佳的性能。
2020-06-18 cs.CL cs.DL
PolyIE: A Dataset of Information Extraction from Polymer Material Scientific Literature
College of Computing(计算学院)
针对聚合物材料缺乏科学信息抽取数据集的问题,构建了PolyIE数据集,包含146篇论文的实体与N元关系标注,并评估了现有模型,为相关研究提供基准。
2023-11-13 cs.AI cs.CL cs.IR
Contextualized Word Embeddings Enhanced Event Temporal Relation Extraction for Story Understanding
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所)
学习事件之间的因果关系和时间关系是深入了解故事和常识的重要一步。虽然有丰富的数据集与事件关系的故事理解,许多没有经验的结果与他们相关联。在这项工作中,我们建立了强大的基线事件的时间关系抽取两个欠开发的故事叙事数据集:丰富的事件描述(RED)和因果和时间关系计划(CaTeRS)。据我们所知,这是在这两个数据集上报告的第一个结果。我们证明了基于神经网络的模型可以优于一些强大的传统的基于语言特征的模型。我们还进行了比较研究,以显示的贡献,采用语境化的词嵌入(BERT)的事件时间关系抽取的故事。提供详细的分析,以更好地了解结果。
2019-04-26 cs.CL
Evaluating Prompt-based Question Answering for Object Prediction in the Open Research Knowledge Graph
TIB Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心(TIB));Gottfried Wilhelm Leibniz Universität Hannover(汉诺威戈特弗里德·威廉·莱布尼茨大学);L3S Research Center(L3S研究中心);Leibniz University of Hannover(汉诺威莱布尼茨大学)
本研究首次将提示式训练的Transformer模型应用于学术知识图谱对象预测,在学术领域测试其泛化性,发现提示训练可带来最高40%的性能提升,同时凸显了学术领域知识捕获缺口,为该领域的Transformer研究投入提供了实证依据。
2023-06-11 cs.AI cs.CL cs.DL
Crake: Causal-Enhanced Table-Filler for Question Answering over Large Scale Knowledge Base
Beijing Academy of Artificial Intelligence(北京人工智能研究院)
语义解析通过组成知识库(KB)查询来解决知识库(KB)问答(KBQA),其通常涉及节点提取(NE)和图组合(GC)以检测和连接查询中的相关节点。尽管NE和GC之间存在很强的因果关系,但以前的工作未能直接在管道中对这种因果关系进行建模,从而阻碍了子任务相关性的学习。此外,在以前的作品中,GC的序列生成过程会导致模糊性和暴露偏差,这进一步损害了准确性。在这项工作中,我们形式化的语义解析分为两个阶段。在第一阶段(图结构生成)中,我们提出了一个cabinet增强的表填充器,以克服序列建模中的问题,并学习内部因果关系。在第二阶段(关系抽取)中,提出了一种有效的波束搜索算法来扩展大规模知识库上的复杂查询。在LC-QuAD 1.0上的实验表明,我们的方法在保持时间和空间效率的同时,大大超过了以前的最先进技术(17%)。代码和模型可在https://github.com/AOZMH/Crake上获得。
2022-07-08 cs.CL
The SOFC-Exp Corpus and Neural Approaches to Information Extraction in the Materials Science Domain
Bosch Center for Artificial Intelligence(博世人工智能中心);Robert Bosch GmbH(罗伯特·博世有限公司)
本文提出了材料科学领域中一个新的具有挑战性的信息抽取任务。我们开发了一个注释方案,用于标记科学出版物中与固体氧化物燃料电池相关的实验信息,例如所涉及的材料和测量条件。在本文中,我们发布了我们的注释指南,以及由领域专家注释的45篇开放获取学术文章组成的SOFC-Exp语料库。一个语料库和一个注释者之间的协议研究表明,建议的命名实体识别和插槽填充任务的复杂性,以及高注释质量。我们还提出了强大的基于神经网络的模型,可以在我们的新数据集的基础上解决各种任务。在所有任务上,使用BERT嵌入会带来很大的性能提升,但随着任务复杂性的增加,在上面添加一个递归神经网络似乎是有益的。我们的模型将在未来的工作中作为有竞争力的基线,对它们的性能分析突出了数据建模时的困难情况,并提出了有前途的研究方向。
2020-06-04 cs.CL cs.LG
Keyphrase Extraction from Scholarly Articles as Sequence Labeling using Contextualized Embeddings
NUS(新加坡国立大学);Bloomberg(彭博);MIDAS-IIIT-Delhi(德里印德拉普拉斯塔信息技术学院MIDAS)
在本文中,我们制定了从学术文章中提取关键词作为一个序列标签任务解决使用BiLSTM-CRF,在输入文本中的单词表示使用深上下文嵌入。我们在三个不同的基准数据集(Inspec,SemEval 2010,SemEval 2017)上使用上下文化和固定的词嵌入模型来评估所提出的架构,并与现有流行的无监督和监督技术进行比较。我们的研究结果量化的好处(a)使用语境化的嵌入(例如BERT)固定的词嵌入(例如手套);(b)使用BiLSTM-CRF架构与语境化的词嵌入直接微调的语境化的词嵌入模型,(c)使用特定体裁的语境化的嵌入(SciBERT)。通过错误分析,我们还提供了一些关于为什么特定模型比其他模型更好的见解。最后,我们提出了一个案例研究,我们分析了两个最好的模型(BERT和SciBERT)的不同的自我注意层,以更好地理解每个关键词提取任务的预测。
2019-10-19 cs.CL
SEAL: Scientific Keyphrase Extraction and Classification
Indian Institute of Technology, Gandhinagar(甘地纳加尔印度理工学院)
自动科学关键词提取是一个具有挑战性的问题,促进一些下游的学术任务,如搜索,推荐和排名。在本文中,我们介绍了SEAL,自动关键词提取和分类的学术工具。关键短语提取模块包括两级神经架构,其由用条件随机场增强的双向长短期记忆细胞组成。分类模块包括随机森林分类器。我们进行了广泛的实验,以展示系统的鲁棒性。我们评估了多个最先进的基线,并显示出显着的改善。目前的系统托管在http://lingo.iitgn.ac.in:5000/。
2020-06-05 cs.CL cs.IR
Should We Rely on Entity Mentions for Relation Extraction? Debiasing Relation Extraction with Counterfactual Analysis
National University of Singapore(新加坡国立大学);University of Southern California(南加州大学);Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团)
最近的文献集中在利用实体信息的层次关系抽取(RE),但这种风险泄漏表面和虚假的关系线索。因此,RE仍然遭受非预期的实体偏见,即,实体提及(名称)和关系之间的虚假关联。实体偏见会误导RE模型提取文本中不存在的关系。为了解决这个问题,以前的一些工作掩盖了实体提及,以防止RE模型过度拟合实体提及。然而,这种策略降低了RE的性能,因为它失去了实体的语义信息。在本文中,我们提出了CORE(Counterfactual Analysis based关系抽取)去偏置方法,引导RE模型专注于文本上下文的主要影响,而不丢失实体信息。我们首先为RE构建了一个因果图,该图对RE模型中变量之间的依赖关系进行建模。然后,我们建议对我们的因果图进行反事实分析,以提取和减轻实体偏见,从而捕获每个实例中特定实体提及的因果效应。请注意,我们的CORE方法是模型不可知的,可以在推理过程中消除现有RE系统的偏见,而不改变它们的训练过程。大量的实验结果表明,我们的CORE产生显着收益的有效性和推广RE。源代码提供于:https://github.com/vanoracai/CoRE。
2022-05-08 cs.AI cs.CL cs.LG
Retrieval Augmented Generation based Large Language Models for Causality Mining
Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校)
本文提出基于检索增强生成(RAG)的动态提示方案,提升大语言模型在因果检测与挖掘任务中的性能,并在多数据集和多模型上验证其优越性。
2025-05-29 cs.CL
A Dataset for Named Entity Recognition and Relation Extraction from Art-historical Image Descriptions
Marburg University(马尔堡大学);Ruhr University Bochum(波鸿鲁尔大学);University of Munich(慕尼黑大学)
本文提出FRAME数据集,用于艺术史图像描述中的命名实体识别和关系提取,支持实体链接和知识图谱构建。
2026-02-22 cs.CL
Comparison of Feature Learning Methods for Metadata Extraction from PDF Scholarly Documents
Fraunhofer Institute for Applied Information Technology FIT(弗劳恩霍夫应用信息技术研究所FIT);University Hospital of Cologne(科隆大学医院);University of Koblenz(科布伦茨大学);Soochow University(苏州大学)
本文比较NLP、CV与多模态特征学习方法在高模板差异PDF学术文档元数据提取中的准确性和效率,为后续研究提供依据。
2025-01-09 cs.CL cs.DL cs.IR
SciER: An Entity and Relation Extraction Dataset for Datasets, Methods, and Tasks in Scientific Documents
Temple University(天普大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文发布 SciER 数据集,包含106篇全文科学论文、2.4万余个实体、1.2万余条关系及分布外测试集,用于评估科学文献中数据集、方法与任务的实体关系抽取。
2024-10-28 cs.CL
Enhancing Software-Related Information Extraction via Single-Choice Question Answering with Large Language Models
GESIS – Leibniz Institute for the Social Sciences(GESIS——莱布尼茨社会科学研究所);Heinrich-Heine-University Düsseldorf(杜塞尔多夫海因里希·海涅大学)
本文提出一种基于大型语言模型单选题问答的方法,结合RAG技术进行实体与属性识别及关系抽取,有效解决了学术文献中软件提及消歧与关系抽取的挑战。
2024-04-19 cs.CL
Monitoring Energy Trends through Automatic Information Extraction
T\"UB\.ITAK Energy Institute Ankara -- Turkey
能源研究是至关重要的公共重要性,但使用计算机科学技术,如自动文本处理和数据管理的能源领域仍然是罕见的。将这些技术应用于能源领域将是对"能源信息学”这一跨学科课题的重大贡献,就像"生物信息学”这一跨学科领域内的相关进展一样。在本文中,我们提出了一个基于Web的语义系统,称为EneMonIE(能源监测通过信息抽取)的架构,通过使用自动,连续和引导的信息抽取,从不同类型的媒体在Web上的监测最新的能源趋势。该系统处理的媒体类型将包括在线新闻文章、社交媒体文本、在线新闻视频、开放获取的学术论文和技术报告,以及能源组织公开提供的各种数字能源数据。该系统将利用并有助于能量相关本体,并且其最终形式将包括用于以下的组件:(i)文本分类,(ii)命名实体识别,(iii)时间表达提取,(iv)事件提取,(v)社交网络构建,(vi)情感分析,(vii)信息融合和摘要,(viii)媒体互连,和(ix)基于网络的信息检索和可视化。凭借其多样化的数据源,自动文本处理功能和向公众开放的演示设施,EneMonIE将成为决策者(包括能源生产,传输和分配系统运营商,能源研究中心,相关投资者和企业家以及学者,学生,其他对能源事件和技术的步伐感兴趣的个人)的重要信息来源。
2022-01-05 cs.AI cs.CL
NERdME: a Named Entity Recognition Dataset for Indexing Research Artifacts in Code Repositories
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);IRIT, UT, CNRS, Toulouse INP(IRIT、UT、CNRS、图卢兹INP)
NERdME是一个用于代码仓库中研究制品索引的命名实体识别数据集,通过标注README文件中的实体类型,提升学术信息提取的准确性与实用性。
2026-03-05 cs.CL
An Annotated Commodity News Corpus for Event Extraction
Monash University(莫纳什大学)
商品新闻包含了丰富的信息,如最近的商品价格走势和导致运动的显着事件的摘要。通过事件抽取,从商品新闻中提取出有用的信息,挖掘事件与商品价格走势之间的因果关系,可以用于商品价格预测。为了方便今后的研究,我们引入了一个新的数据集,其中包含以下信息:(i)实体(包括命名和命名),(ii)事件(触发词和论元角色),(iii)事件元数据:模态、极性和强度,(iv)事件-事件关系。
2021-08-25 cs.CL
Towards Fine-grained Causal Reasoning and QA
Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院);Delft University of Technology(代尔夫特理工大学);University College London(伦敦大学学院)
理解因果关系是NLP应用成功的关键,特别是在高风险领域。因果关系来自各种角度,如使能和预防,尽管它们很重要,但在文献中基本上被忽视了。本文介绍了一种新的细粒度因果推理数据集,并提出了一系列新的预测任务,如因果关系检测,事件因果关系提取和因果QA。我们的数据集包含多句样本中的25K因果事件对和24K问答对的人类注释,其中每个事件对都可以有多个因果关系。通过广泛的实验和分析,我们表明,我们的数据集中的复杂关系带来了独特的挑战,最先进的方法在所有三个任务,并突出了潜在的研究机会,特别是在开发“混沌思维”的方法。
2022-04-15 cs.AI cs.CL cs.LO
Detecting Entities in the Astrophysics Literature: A Comparison of Word-based and Span-based Entity Recognition Methods
CSIRO Data61(澳大利亚联邦科学与工业研究组织数据61研究所)
从科学文献中提取信息抽取可能具有挑战性,因为此类文本具有高度专业性。我们描述了我们的实体识别方法开发的一部分,交易(天体物理学文献中的实体检测)共享任务。该任务的目的是建立一个系统,可以识别命名实体的数据集组成的学术文章从天体物理学文献。我们计划我们的参与,使我们能够进行基于词的标记和基于跨度的分类方法之间的实证比较。在组织者提供的两个隐藏测试集上进行评估时,我们表现最好的提交达到了$F_1$分数0.8307(验证阶段)和0.7990(测试阶段)。
2022-11-24 cs.CL
Knowledge Graphs Generation from Cultural Heritage Texts: Combining LLMs and Ontological Engineering for Scholarly Debates
Università degli Studi di Bologna(博洛尼亚大学);KNAW Humanities Cluster(荷兰皇家艺术与科学学院人文集群)
本文提出ATR4CH方法,通过大语言模型提取文化遗产文本知识,实现复杂知识的结构化表示,提升学术辩论中的知识查询能力。
2025-11-13 cs.AI cs.CL cs.DL
Integrating Causal Reasoning into Automated Fact-Checking
EURECOM
本文提出一种结合事件关系提取、语义相似性计算和规则推理的方法,用于检测事实核查中事件链的逻辑不一致,提升裁决预测的可解释性。
2025-12-15 cs.CL
GraphERE: Jointly Multiple Event-Event Relation Extraction via Graph-Enhanced Event Embeddings
Peking University(北京大学)
本文提出基于图增强事件嵌入的联合多事件关系抽取框架GraphERE,利用静态AMR和IE图丰富事件论元及结构特征,并通过Node Transformer构建动态事件图联合抽取多种关系,显著优于现有方法。
2024-03-19 cs.AI cs.CL
The STEM-ECR Dataset: Grounding Scientific Entity References in STEM Scholarly Content to Authoritative Encyclopedic and Lexicographic Sources
TIB Leibniz Information Centre for Science and Technology(莱布尼茨科学与技术信息中心(TIB))
我们介绍了STEM(科学,技术,工程和医学)数据集,用于科学实体提取,分类和分辨率,版本1.0(STEM-ECR v1.0)。STEM-ECR v1.0数据集的开发旨在以独立于领域的方式为科学实体提取、分类和解析任务的评估提供基准。它包括10个STEM学科的摘要,这些学科被认为是主要出版平台上最多产的学科。我们描述了这样一个多学科语料库的创建过程,并从以下几个方面强调了所获得的发现:1)多学科科学背景下的科学实体的一般概念形式主义; 2)在这种一般形式主义下科学实体的领域独立的人类注释的可行性; 3)使用基于BERT的神经模型自动提取多学科科学实体可获得的性能基准; 4)描绘的3步实体解析过程,用于通过百科实体链接和词典词义消歧对科学实体进行人类注释;以及5)人类评估Babelfy返回的百科链接和我们的实体的词典词义。我们的研究结果累积表明,人类注释和多学科科学概念的自动学习以及在广泛的STEM环境中的语义消歧是合理的。
2020-07-28 cs.AI cs.CL cs.DL
Fine-tuning and Prompt Engineering with Cognitive Knowledge Graphs for Scholarly Knowledge Organization
L3S Research Center(L3S研究中心);Leibniz University Hannover(汉诺威莱布尼茨大学);Leibniz Information Centre for Science and Technology(莱布尼茨科技信息中心)
针对海量学术论文的知识组织问题,提出融合CKG专家验证知识的LLM微调与新型提示注入方法,并集成至ORKG以提升论文分类、谓词推荐和知识抽取性能。
2024-09-10 cs.CL cs.DL cs.LG
Fine-Grained Causality Extraction From Natural Language Requirements Using Recursive Neural Tensor Networks
Qualicen GmbH(Qualicen有限公司);Technical University of Munich(慕尼黑工业大学);Blekinge Institute of Technology(布莱金厄理工学院);University of Cologne(科隆大学);fortiss GmbH(福蒂斯有限公司)
[上下文:]因果关系(例如,如果A,则B)在功能需求中普遍存在。对于AI4RE的各种应用,例如,从需求中自动推导出合适的测试用例,自动提取这种因果关系陈述是一个基本的必要条件。[问题:]我们缺乏一种能够以细粒度形式从自然语言需求中提取因果关系的方法。具体而言,现有的方法不考虑因果之间的组合。它们也不允许将原因和结果分割成更细粒度的文本片段(例如,变量和条件),使得提取的关系不适合自动测试用例推导。[目标与贡献:]我们解决了这一研究空白,并做出了以下贡献:首先,我们提出了因果树库,这是第一个完全标记的二元解析树语料库,代表了1,571个因果要求的组成。其次,我们提出了一种基于递归神经张量网络的细粒度因果关系提取器。我们的方法是能够恢复组成的因果语句写在自然语言,并取得了74%的因果关系树库的评价F1得分。第三,我们公开了我们的开放数据集以及我们的代码,以促进RE社区中因果关系自动提取的讨论。
2021-07-22 cs.CL cs.IR
Large Language Models for Scientific Information Extraction: An Empirical Study for Virology
TIB Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心)
研究利用 LLM 将病毒学等科学文献中的贡献生成结构化语义摘要,并以指令式信息抽取替代传统流水线,证明小1000倍参数的微调 FLAN-T5 可与 GPT-davinci 竞争。
2024-01-18 cs.AI cs.CL cs.DL
A Cross-Domain Evaluation of Approaches for Causal Knowledge Extraction
Rensselaer Polytechnic Inst.(伦斯勒理工学院);IBM Research(IBM研究院)
本文系统评估了因果知识抽取方法,发现预训练语言模型嵌入显著提升性能,且基于跨度的模型在4个跨领域数据集上优于简单序列标注模型。
2023-08-07 cs.CL
Causality extraction from medical text using Large Language Models (LLMs)
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);University of Central Florida(中佛罗里达大学)
本研究探索大语言模型等从妊娠糖尿病临床实践指南提取因果关系的效果,实验发现BioBERT以0.72的平均F1得分表现最优,还发布了相关代码和标注语料库。
2024-07-13 cs.AI cs.CL cs.IR