MORTY: Structured Summarization for Targeted Information Extraction from Scholarly Articles
L3S Research Center, Leibniz University Hannover（莱布尼茨汉诺威大学L3S研究中心）；Leibniz Information Centre for Science and Technology（莱布尼茨科学技术信息中心）
由于学术论文的篇幅很长，文本、图表和引文中隐藏着大量的隐含信息，因此从学术论文中提取信息抽取是一项具有挑战性的任务。学术信息抽取在数字图书馆和知识管理系统的探索、存档和策展服务中有各种应用。我们提出MORTY，一个信息抽取技术，创建结构化摘要的文本从学术文章。我们的方法将文章的全文压缩为一个分段的文本片段，称为结构化摘要。我们还提出了一个相当大的学术数据集，结合了从学术知识图谱和相应的公开可用的科学文章中检索到的结构化摘要，我们公开发表这些文章作为研究社区的资源。我们的研究结果表明，结构化摘要是一个合适的方法，有针对性的信息抽取，补充其他常用的方法，如问答和命名实体识别。
2022-12-11 cs.CL cs.IR
Automatic Extraction of Causal Relations from Natural Language Texts: A Comprehensive Survey
University of Waterloo（滑铁卢大学）
从自然语言文本中自动提取因果关系是人工智能领域的一个具有挑战性的开放性问题。大多数早期的解决方案都是在小型和特定领域的数据集上手动构建语言和句法规则。然而，随着大数据的出现，可负担得起的计算能力的可用性以及最近机器学习的普及，解决这个问题的范式已经慢慢改变。机器现在被期望以领域独立的方式，在最少的监督下从标记数据中学习通用的因果提取规则。在本文中，我们提供了一个全面的调查因果关系抽取技术从这两种范式，并分析其相对的优势和劣势，为今后的工作提出建议。
2016-05-25 cs.AI cs.CL cs.IR
Neural Disease Named Entity Extraction with Character-based BiLSTM+CRF in Japanese Medical Text
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
我们提出了一个“端到端”的基于字符的递归神经网络，该网络从日本医学文本中提取疾病命名实体，并同时判断其模态为阳性或阴性;即，确认或否定所述疾病或症状。采用神经网络的动机是学习有效的词汇和结构表示功能的实体识别，也为积极/消极的分类从注释语料库，而不明确提供任何基于规则的或手动的功能集。我们证实了我们的方法优于以前的基于字符的CRF或SVM方法的结果。
2018-06-10 cs.CL cs.IR
Span-Oriented Information Extraction -- A Unifying Perspective on Information Extraction
University of Notre Dame（圣母大学）；Colby College（科尔比学院）
针对信息抽取任务间异质性阻碍进展的问题，提出以文本片段为中心的统一视角，将各类信息抽取任务转化为同一基本面向片段的信息抽取任务的变体。
2024-03-18 cs.AI cs.CL cs.IR
Lithium NLP: A System for Rich Information Extraction from Noisy User Generated Text on Social Media
Lithium Technologies（Lithium科技公司）
在本文中，我们描述了锂自然语言处理（NLP）系统-一个资源受限，高吞吐量和语言无关的系统，用于从社交媒体上的嘈杂用户生成的文本中提取信息抽取。Lithium NLP从文本中提取丰富的信息，包括实体，主题，主题标签和情感。我们讨论了几个现实世界中的应用系统目前纳入锂产品。我们还比较了我们的系统与现有的商业和学术NLP系统的性能，信息提取和语言支持。我们表明，Lithium NLP与最先进的商业NLP系统不相上下，在某些情况下，其性能优于最先进的商业NLP系统。
2017-07-13 cs.AI cs.CL cs.IR
WYSIWYE: An Algebra for Expressing Spatial and Textual Rules for Visual Information Extraction
IBM Research（IBM研究院）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；IBM Germany Research & Development（IBM德国研发中心）
网页的视觉布局可以为某些类型的信息抽取（IE）任务提供有价值的线索。在传统的基于规则的IE框架中，这些布局提示被映射到对网页的HTML源进行操作的规则。相比之下，我们已经开发了一个框架，其中的规则可以直接指定在布局级别。这有很多优点，因为更高的抽象级别导致更简单的提取规则，这些规则在很大程度上独立于页面的源代码，因此更健壮。它还可以实现以其他方式不可能的新类型规则的规范。据我们所知，没有一个通用的框架，允许声明性规范的信息抽取规则的基础上的空间布局。我们的框架是传统的基于文本的规则框架的补充，并允许基于空间布局的规则与传统的基于文本的规则的无缝结合。我们描述的代数，使这样一个系统和它的有效实施使用标准的关系和文本索引功能的关系数据库。我们证明了这个系统的简单性和效率的任务，涉及软件产品页面的软件系统要求的提取。
2016-09-27 cs.CL cs.DB cs.IR
Unifying Question Answering, Text Classification, and Regression via Span Extraction
Salesforce Research（赛富时研究院）
即使像BERT这样的预先训练的语言编码器在许多任务中共享，问答、文本分类和回归模型的输出层也有很大的不同。跨度解码器经常用于问答，固定类，分类层的文本分类，和相似性评分层的回归任务，我们表明，这种区别是没有必要的，所有三个可以统一为跨度提取。统一的跨度提取方法在几个问答、文本分类和回归基准的辅助监督预训练、低数据和多任务学习实验中具有优异或相当的性能。
2019-09-20 cs.CL
In Layman's Terms: Semi-Open Relation Extraction from Scientific Texts
Heriot-Watt University（赫瑞-瓦特大学）
科技文本的信息抽取可以引导读者获取科技文献的核心信息。但是，狭义的IE系统只能提取所捕获信息的一小部分，而开放的IE系统在科学文本中遇到的长而复杂的句子上表现不佳。在这项工作中，我们结合这两种类型的系统的输出，实现半开放的关系抽取，一个新的任务，我们在生物学领域探索。首先，我们提出了聚焦开放生物信息抽取（FOBIE）数据集，并使用FOBIE训练一个国家的最先进的狭窄的科学IE系统，以提取权衡关系和论点，是中央生物学文本。然后，我们运行两个狭窄的IE系统和一个国家的最先进的开放IE系统上的语料库的10K开放获取的科学生物学文本。我们发现，大量（65%）的错误和无信息的开放IE提取可以使用窄IE提取过滤。此外，我们发现，保留提取显着更经常为读者提供信息。
2020-05-26 cs.CL
Text-to-Table: A New Way of Information Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；ByteDance（字节跳动）
我们研究了一种新的信息抽取问题集，称为文本到表格。在文本到表格中，给定一个文本，创建一个或多个表格来表达文本的主要内容，而模型是从文本-表格对数据中学习的。问题设置与IE的现有方法不同。首先，可以从长文本到具有复杂结构的大表格进行提取。其次，提取完全是数据驱动的，不需要显式地定义模式。据我们所知，还没有以前的工作，研究这个问题。在这项工作中，我们将文本到表形式化为序列到序列（seq 2seq）问题。我们首先采用从预训练的语言模型微调的seq 2seq模型来执行任务。我们还开发了一种新的方法seq 2seq的方法，利用表生成中的两个额外的技术：表约束和表关系嵌入。我们认为文本到表作为一个逆问题的研究表到文本，并利用现有的四个表到文本数据集在我们的实验文本到表。实验结果表明，香草seq 2seq模型可以优于基线方法使用关系抽取和命名实体提取。结果还表明，我们的方法可以进一步提高vanilla seq 2seq模型的性能。我们进一步讨论了拟议任务的主要挑战。代码和数据可在https://github.com/shirley-wu/text_to_table上获得。
2022-03-16 cs.CL
Scientific and Technological Text Knowledge Extraction Method of based on Word Mixing and GRU
知识抽取的任务是从非结构化文本数据中抽取三元关系（头实体-关系-尾实体）。现有的知识提取方法分为“流水线”方法和联合提取方法。“流水线”方法是将命名实体识别和实体关系抽取分离，使用各自的模块进行抽取。这种方法虽然具有较好的灵活性，但训练速度较慢。联合抽取的学习模型是通过神经网络实现的端到端模型，同时实现实体识别和关系抽取，能够很好地保留实体和关系之间的关联，将实体和关系的联合抽取转化为序列标注问题。提出一种基于词混合和GRU的科技资源知识抽取方法，结合词混合向量映射方法和自注意力机制，有效提高中文科技资源文本关系抽取的效果。
2022-03-31 cs.AI cs.CL
Open Information Extraction on Scientific Text: An Evaluation
Elsevier Labs（爱思唯尔实验室）
开放式信息抽取（Open Information Extraction，OIE）是从文本中无监督地创建结构化信息的任务。OIE通常用作许多下游任务的起点，包括知识库构建、关系抽取和问答。虽然OIE的方法旨在独立于领域，但它们主要是在报纸、期刊或一般网络文本上进行评估的。在这篇文章中，我们评估了OIE对来自10个不同学科的科学文本的性能。为此，我们使用了两个采用众包方法的最先进的OIE系统。我们发现，OIE系统的表现显着更差的科学文本，而不是非专业文本。我们还提供了错误分析，并提出了减少错误的工作领域。我们的句子和判决的语料库是可用的。
2018-06-04 cs.CL
HySPA: Hybrid Span Generation for Scalable Text-to-Graph Extraction
University of Illinois, Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
文本到图抽取的目标是从自然语言文本中自动抽取由提及和类型组成的信息图。现有的方法，如表格填充和成对评分，在各种信息抽取任务上表现出令人印象深刻的性能，但由于其相对于输入长度的二阶空间/时间复杂度，它们难以扩展到具有较长输入文本的数据集。在这项工作中，我们提出了一个混合跨度生成器（HySPA），可逆地映射的信息图的节点和边缘类型的交替序列，并直接生成这样的序列通过混合跨度解码器，可以解码的跨度和类型在线性时间和空间复杂度递归。在ACE 05数据集上的大量实验表明，我们的方法在联合实体和关系抽取任务上的性能也明显优于最先进的方法。
2021-06-30 cs.CL
An Information Extraction Core System for Real World German Text Processing
本文介绍了SMES，一个信息提取的核心系统，为现实世界的德语文本处理。该系统的基本设计准则是提供一组基本的强大的，鲁棒的，高效的自然语言组件和通用的语言知识源，可以很容易地定制，以灵活的方式处理不同的任务。
1997-06-18 cmp-lg cs.CL
Applications of BERT Based Sequence Tagging Models on Chinese Medical Text Attributes Extraction
Tsinghua-iFlytek Joint Laboratory（清华大学科大讯飞联合实验室）
我们将中文医学文本属性抽取任务转化为序列标注或机器阅读理解任务。基于BERT预训练模型，我们不仅尝试了广泛使用的LSTM-CRF序列标记模型，还尝试了其他序列模型，如CNN，UCNN，WaveNet，SelfAttention等，这些模型达到了与LSTM+CRF相似的性能。这揭示了传统的序列标记模型。由于不同序列标记模型的重点方面差异很大，因此将这些模型集成在一起会增加最终系统的多样性。通过这样做，我们的系统在中文医学文本属性提取任务（CCKS 2019任务1的子任务2）上取得了良好的性能。
2020-08-22 cs.CL
Boosting Event Extraction with Denoised Structure-to-Text Augmentation
Beijing Institute of Technology（北京理工大学）；Ministry of Industry and Information Technology（工业和信息化部）；Beijing University of Technology（北京工业大学）；Baidu Inc.（百度公司）
针对事件抽取数据稀缺及现有数据增强存在语法错误、结构错位和语义漂移的问题，提出去噪结构到文本增强框架DAEE，结合知识生成模型与深度强化学习筛选有效数据，提升了文本多样性与性能。
2023-05-16 cs.CL
SciNLP: A Domain-Specific Benchmark for Full-Text Scientific Entity and Relation Extraction in NLP
Nanjing University of Science and Technology（南京理工大学）；Soochow University（苏州大学）
SciNLP是一个专门用于自然语言处理领域全文科学实体和关系提取的基准数据集，包含60篇人工标注的全文NLP论文，涵盖6,409个实体和1,648个关系，通过对比实验验证了其在不同长度学术文本上的提取能力，实现了细粒度知识图谱的自动构建。
2026-09-16 cs.CL cs.DL cs.IR
An Attentive Sequence Model for Adverse Drug Event Extraction from Biomedical Text
SAAMA AI Research Lab（SAAMA人工智能研究实验室）
药物不良反应是一个潜在的危险问题，可能导致患者的死亡和发病。药物不良事件信息提取是生物医学研究中的一个重要问题。我们将ADE抽取建模为一个推理问题，并从机器阅读理解（MRC）文献中获得灵感，设计了我们的模型。我们设计这样一个模型的目的是利用临床文本中的局部语言背景，并实现序列内的相互作用，以便共同学习对药物和疾病实体进行分类，并提取由给定药物引起的不良反应。我们的模型利用自我注意力机制来促进文本序列中的序列内交互。这使我们能够可视化和理解网络如何利用本地和更广泛的上下文进行分类。
2018-01-02 cs.CL
A system for information extraction from scientific texts in Russian
A.P. Ershov Institute of Informatics Systems, Siberian Branch, Russian Academy of Sciences（俄罗斯科学院西伯利亚分院 A.P. 叶尔绍夫信息系统研究所）；Novosibirsk State University（新西伯利亚国立大学）
在本文中，我们提出了一个系统的信息抽取从科学文本中的俄语。该系统以端到端的方式执行几项任务：术语识别，术语之间的关系提取，以及术语与知识库中的实体的链接。这些任务对于信息检索、推荐系统和分类是极其重要的。所实现的方法的优点在于，系统不需要大量的标记数据，这节省了数据标记的时间和精力，因此可以应用于低和中等资源设置。源代码是公开的，可用于不同的研究目的。
2021-09-14 cs.CL
Parser Extraction of Triples in Unstructured Text
Wipro Limited（威普罗有限公司）
网络包含大量非结构化文本的存储库。我们调查的机会，建立一个知识图谱从这些文本源。我们生成了一组三元组，可用于知识收集和集成。我们定义了一个语言编译器的架构，使用OpenNLP解析器处理主谓宾三元组。我们实现了一个深度优先的搜索遍历的POS标记的语法树附加谓词和对象的信息。解析器能够更高精度和更高召回率地提取跨连接边界的句法关系。我们能够提取ReVerb正确提取的2-2.5倍。这些抽取被用于各种语义Web应用和问答中。我们验证了在CtrudeWeb数据集上提取50，000个三元组。
2018-11-06 cs.AI cs.CL cs.LG
An Improved Method for Class-specific Keyword Extraction: A Case Study in the German Business Registry
Technical University of Munich（慕尼黑工业大学）；Fusionbase GmbH（Fusionbase有限公司）
提出基于KeyBERT的改进类特定关键词提取方法，在德国商业登记簿数据集上显著提升按经济部门分类的效果，树立新标准。
2024-07-19 cs.CL
Optimising Human-Machine Collaboration for Efficient High-Precision Information Extraction from Text Documents
University of Sussex（萨塞克斯大学）；The Alan Turing Institute（艾伦·图灵研究所）；University of Cambridge（剑桥大学）；University of Liverpool（利物浦大学）
虽然人类可以从非结构化文本中提取具有高精度和高召回率的信息，但这通常太耗时而不实用。另一方面，自动化方法几乎可以立即产生结果，但对于精度至关重要的高风险应用来说可能不够可靠。在这项工作中，我们认为各种人的优点和缺点，只有人机，只有机器的信息抽取方法。我们主张在需要高精度的应用程序中使用人在回路方法，但纯手动提取是不可行的。我们提出了一个框架和一个附带的工具，信息抽取使用弱监督标签与人类验证。我们在三个刑事司法数据集上展示了我们的方法。我们发现，计算机速度和人类理解的结合产生了与手动注释相当的精度，同时只需要一小部分时间，并且在精度方面明显优于完全自动化的基线。
2023-02-18 cs.CL cs.HC cs.IR
Entity Recognition and Relation Extraction from Scientific and Technical Texts in Russian
A.P. Ershov Institute of Informatics Systems SB RAS（俄罗斯科学院西伯利亚分院A.P.叶尔绍夫信息系统研究所）；Novosibirsk State University（新西伯利亚国立大学）
本文主要研究信息技术类科技文本的信息抽取（实体识别和关系分类）方法。科学出版物为尖端科学进步提供了宝贵的信息，但有效处理越来越多的数据是一项耗时的任务。在本文中，提出了几个修改的方法，俄语。它还包括比较关键词提取方法、词汇方法和基于神经网络的一些方法的实验结果。这些任务的文本集以英文形式存在，并被科学界积极使用，但目前，俄文的此类数据集尚未公开。在本文中，我们提出了一个语料库的科学文本在俄罗斯，RuSERRC。该数据集由1600个未标记的文档和80个标记有实体和语义关系（考虑了6种关系类型）的文档组成。数据集和模型可在https://github.com/iis-research-team上获得。我们希望它们能对信息抽取系统的研究和开发有所帮助。
2020-12-26 cs.CL
Text2Event: Controllable Sequence-to-Structure Generation for End-to-end Event Extraction
University of Chinese Academy of Sciences（中国科学院大学）；Tencent Inc.（腾讯公司）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
由于事件记录的复杂结构以及文本和事件之间的语义鸿沟，事件提取具有挑战性。传统的方法通常通过将复杂的结构预测任务分解为多个子任务来提取事件记录。在本文中，我们提出了Text2Event，一个序列到结构的生成范式，可以直接提取事件的文本在一个端到端的方式。具体而言，我们设计了一个统一的事件提取的序列到结构网络，在推理过程中的事件知识注入的约束解码算法，和一个有效的模型学习的课程学习算法。实验结果表明，通过统一建模的所有任务在一个单一的模型和普遍预测不同的标签，我们的方法可以实现竞争力的性能，只使用记录级的注释在监督学习和迁移学习设置。
2021-06-17 cs.CL
Fine-tuning BERT for Joint Entity and Relation Extraction in Chinese Medical Text
East China University of Science and Technology（华东理工大学）；Shanghai Hospital Development Center（上海医院发展中心）
实体和关系抽取是构建医学文本的必要步骤。但是现有模型中的双向长短期记忆网络的特征提取能力并没有达到最佳效果。同时，该语言模型在越来越多的自然语言处理任务中取得了优异的效果。在本文中，我们提出了一个集中注意力模型的联合实体和关系抽取任务。该模型通过动态范围注意力机制将著名的BERT语言模型融入到联合学习中，从而提高了共享参数层的特征表示能力。在曙光医院冠状动脉造影文本上的实验结果表明，命名实体识别和关系分类任务的F1分数分别达到96.89%和88.51%，优于现有方法的1.65%和1.22%。
2019-10-22 cs.CL
Cross-stitching Text and Knowledge Graph Encoders for Distantly Supervised Relation Extraction
Tohoku University（东北大学）；RIKEN AIP（理化学研究所人工智能研究中心）
设计了用于远程监督关系抽取的双编码器架构，以利用在文本和知识图谱（KG）中发现的互补信息。然而，当前架构具有两个缺点。它们要么根本不允许文本编码器和KG编码器之间的任何共享，要么在具有KG到文本注意力的模型的情况下，只在一个方向上共享信息。在这里，我们介绍了十字绣双编码器，它允许通过十字绣机制在文本编码器和KG编码器之间进行充分的交互。交叉缝合机制允许在任何层的两个编码器之间共享和更新表示，共享量通过基于交叉注意的门动态控制。在两个不同领域的两个关系抽取基准测试上的实验结果表明，在两个编码器之间实现充分的交互会产生很大的改进。
2022-11-02 cs.CL cs.LG
UCD-CS at W-NUT 2020 Shared Task-3: A Text to Text Approach for COVID-19 Event Extraction on Social Media
University College Dublin（都柏林大学）
在本文中，我们描述了我们在共享任务中的方法：从Twitter中提取COVID-19事件。该任务的目标是从COVID相关推文中提取一组预定义的填空问题的答案。我们的方法将事件提取任务作为一个问答任务，利用基于transformer的T5文本到文本模型。根据返回的官方评估分数，即F1，我们提交的运行与其他参与运行相比具有竞争力（前3名）。然而，我们认为，这种评估可能会低估运行的实际性能的基础上，文本生成。虽然一些这样的运行可能很好地回答了插槽问题，但它们可能不是黄金标准答案的精确字符串匹配。为了衡量这种低估的程度，我们采用了一种简单的精确答案转换方法，旨在将回答良好的预测转换为精确匹配的预测。结果表明，在这种转变之后，我们的整体表现达到了与最佳参赛者相同的水平，并且在五个COVID相关事件中的三个中获得了最先进的F1分数。我们的代码是公开的，以帮助再现性
2020-10-12 cs.CL
TextEE: Benchmark, Reevaluation, Reflections, and Future Challenges in Event Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Southern California（南加州大学）；University of California（加利福尼亚大学）；Stanford University（斯坦福大学）
本文提出标准化事件抽取基准TextEE，覆盖16个数据集和14种方法，通过重新评估揭示现有评估问题及大语言模型的不足，并为未来研究提供挑战与见解。
2024-06-06 cs.CL
Part & Whole Extraction: Towards A Deep Understanding of Quantitative Facts for Percentages in Text
Microsoft Research Asia（微软亚洲研究院）
研究了百分比文本的定量事实抽取问题。例如，给定句子“30%的美国人喜欢看足球，而20%的人更喜欢看NBA。“，我们的目标是通过提取它们的定量事实：部分（“喜欢看足球”和“更喜欢看NBA”）和整体（“美国人”）来深入理解百分比数字（“30%”和“20%”）。这些定量事实可以为自动信息图生成等新应用提供支持。我们制定的部分和整体提取作为一个序列标记问题。由于部分/整体及其对应百分比之间的差距很大，我们在序列建模中引入了跳跃机制，并在我们的任务和CoNLL-2003命名实体识别任务上取得了改善的性能。实验结果表明，学习跳过序列标记是有前途的。
2021-10-26 cs.CL
BERT-based knowledge extraction method of unstructured domain text
University of Chinese Academy of Sciences（中国科学院大学）
随着知识图的发展和商业应用，从非结构化领域文档中提取知识图谱的实体和关系的需求越来越大。这使得领域文本的自动知识抽取具有重要意义。提出一种基于BERT的知识抽取方法，用于从非结构化的特定领域文本（如保险行业的保险条款）中自动抽取知识点，以节省构建知识图谱的人力。与常用的基于规则、模板或实体抽取模型的方法不同，本文将领域知识点转化为问题和答案对，并以文档中答案周围的文本作为上下文。该方法采用了一个基于BERT的模型，类似于BERT的SQuAD阅读理解任务。该模型是微调。并用于从更多的保险条款中直接提取知识点。根据测试结果，该模型性能良好。
2021-03-01 cs.CL cs.LG
Relation Extraction from Biomedical and Clinical Text: Unified Multitask Learning Framework
Indian Institute of Technology Patna（印度理工学院巴特那分校）
为了最大限度地减少在生物医学文献搜索中投入的加速时间，已经提出了许多用于自动化知识提取的方法。关系抽取就是这样一个任务，其中实体之间的语义关系是从自由文本中识别的。在生物医学领域，提取调控途径、代谢过程、药物不良反应或疾病模型需要来自个体关系的知识，例如，基因、蛋白质、药物、化学品、疾病或表型之间的物理或调控相互作用。在本文中，我们研究了关系抽取任务从三个主要的生物医学和临床任务，即药物-药物相互作用，蛋白质-蛋白质相互作用，医学概念关系抽取。为此，我们在多任务学习（MTL）框架中建模关系抽取问题，并首次引入结构化自我关注网络的概念，并辅以对抗性学习方法来预测生物医学和临床文本中的关系。MTL的基本概念是通过利用共享表示的概念同时学习多个问题。此外，我们还生成了高效的单任务模型，该模型利用了在注意门控递归单元上学习的最短依赖路径嵌入来比较我们提出的MTL模型。我们提出的框架显着提高了整体基线（深度学习技术）和单任务模型来预测关系，而不会影响所有任务的性能。
2020-09-20 cs.CL
What are the attackers doing now? Automating cyber threat intelligence extraction from text on pace with the changing threat landscape: A survey
North Carolina State University（北卡罗来纳州立大学）
本文综述了从文本中自动提取网络威胁情报（CTI）的相关研究，提出了CTI提取流水线，总结了提取目的、数据源与NLP及机器学习技术，并指出了数据挑战，倡导助力主动决策。
2021-09-14 cs.CL cs.CR cs.LG
GraphER: A Structure-aware Text-to-Graph Model for Entity and Relation Extraction
FI Group（FI集团）；LIPN, CNRS UMR 7030（法国国家科学研究中心UMR 7030实验室（LIPN））
本文提出GraphER模型，将信息抽取视为图结构学习，通过动态优化图结构实现实体和关系的联合预测，在基准上取得竞争性结果。
2024-04-18 cs.AI cs.CL
Question Answering on Freebase via Relation Extraction and Textual Evidence
Peking University（北京大学）；University of Edinburgh（爱丁堡大学）；IBM China Research Lab（IBM中国研究实验室）
现有的基于知识的问答系统通常依赖于小的带注释的训练数据。虽然像关系抽取这样的浅层方法对数据稀缺性是鲁棒的，但它们的表达能力不如像语义解析这样的深层含义表示方法，因此无法回答涉及多个约束的问题。在这里，我们减轻这个问题，授权关系抽取方法与维基百科的额外证据。我们首先提出了一个基于神经网络的关系提取器从Freebase检索候选答案，然后推断维基百科来验证这些答案。在WebQuestions问答数据集上的实验表明，该方法的F1达到了53.3%，比现有方法有了很大的提高。
2016-06-09 cs.CL
Not Just Plain Text! Fuel Document-Level Relation Extraction with Explicit Syntax Refinement and Subsentence Modeling
Tsinghua University（清华大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
文档级关系抽取（DocRE）旨在识别单个文档中实体之间的语义标签。DocRE的一个主要挑战是从长文本中挖掘关于特定实体对的决定性细节。然而，在许多情况下，即使在手动标记的支持证据中，也只有一小部分文本携带所需的信息。为了更好地捕捉和利用有指导意义的信息，我们提出了一种新的显式syntAx细化和子句mOdeliNg为基础的框架（LARSON）。通过引入额外的句法信息，LARSON可以对任意粒度的子句进行建模，并有效地筛选出有指导意义的子句。此外，我们将精炼的语法到文本表示，进一步提高了性能的LARSON。在三个基准数据集（DocRED，CDR和GDA）上的实验结果表明，LARSON显著优于现有方法。
2023-02-13 cs.CL
A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text
Peking University（北京大学）
中文文献文本的命名实体识别和关系抽取被认为是一个非常困难的问题，部分原因是缺乏标注集。在本文中，我们建立了一个语篇层面的数据集，从数百个中文文学文章，以改善这一任务。为了构建高质量的数据集，我们提出了两种标记方法来解决数据不一致的问题，包括启发式标记方法和机器辅助标记方法。在此基础上，我们还介绍了几个广泛使用的模型进行实验。实验结果不仅证明了所提出的数据集的有效性，而且为进一步的研究提供了基线。该数据集可在https://github.com/lancopku/Chinese-Literature-NER-RE-Dataset上获得
2019-06-11 cs.CL
Discourse in Multimedia: A Case Study in Information Extraction
Carnegie Mellon University（卡内基梅隆大学）；University of Pennsylvania（宾夕法尼亚大学）
为了确保可读性，文本通常以适当的格式编写和呈现。这些文本格式化设备帮助作者有效地传达叙事。同时，也有助于读者把握语篇结构，理解所传达的信息。关于语篇结构的语言学理论有很多。然而，这些理论只考虑无格式文本。多媒体文本包含丰富的格式功能，可用于各种NLP任务。本文探讨了多媒体文本中的语篇特征及其在语境中的交际功能。我们研究如何这些多媒体话语功能可以用来改善信息抽取系统。我们发现，话语和文本布局功能提供的信息是互补的词汇语义信息通常用于信息抽取。作为一个案例研究，我们使用这些功能来收获结构化的几何学科知识的教科书。我们发现，收获的结构化知识可以用来改善现有的几何问题求解器，使其更准确，更易于解释。
2018-11-13 cs.CL
$\textit{BenchIE}^{FL}$ : A Manually Re-Annotated Fact-Based Open Information Extraction Benchmark
Université de Montréal（蒙特利尔大学）
针对现有OIE基准BenchIE的局限性，本文提出新基准$\ extit{BenchIE}^{FL}$，通过减少候选事实匹配中的错误与遗漏，更客观地评估OIE抽取器的实际性能。
2024-07-23 cs.CL
Global Relation Embedding for Relation Extraction
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；The Ohio State University（俄亥俄州立大学）
本文研究了具有远程监督的文本关系嵌入问题。为了解决远程监督的错误标记问题，我们建议将文本关系与关系的全局统计数据嵌入，即，从整个语料库中收集的文本和知识库关系的共现统计。这种方法证明对远程监督引入的训练噪声更鲁棒。在一个流行的关系抽取数据集上，我们证明了学习的文本关系嵌入可以用来增强现有的关系抽取模型，并显着提高其性能。最值得注意的是，对于最好的现有模型发现的前1,000个关系事实，精确度可以从83.9%提高到89.3%。
2018-04-19 cs.CL
Into the Single Cell Multiverse: an End-to-End Dataset for Procedural Knowledge Extraction in Biomedical Texts
Rice University（莱斯大学）；University of Washington（华盛顿大学）
针对生物医学文本程序性知识提取缺乏端到端数据集的问题，提出FlaMBé数据集，涵盖单细胞研究流程标注及最大规模组织/细胞类型NER/NED数据，助力NLP模型发展并推动研究可重复性。
2023-09-04 cs.CL
Simple Large-scale Relation Extraction from Unstructured Text
Amazon Research Cambridge（亚马逊剑桥研究院）
基于知识的问答依赖于事实的可用性，其中大部分无法在结构化来源（例如维基百科信息框，维基数据）中找到。关系抽取（RE）是从非结构化文本中抽取事实的主要组成部分之一。在本文中，我们提出了一种新的方法来创建远（弱）监督标签训练一个大规模的RE系统。我们还提供了新的证据的有效性的神经网络方法解耦的模型架构的功能设计的国家的最先进的神经网络系统。令人惊讶的是，在类似特征上训练的简单得多的分类器与高度复杂的神经网络系统的性能相当（训练时间减少了75倍），这表明这些特征对最终性能的贡献更大。
2018-03-24 cs.CL
Inter-sentence Relation Extraction for Associating Biological Context with Events in Biomedical Texts
The University of Arizona（亚利桑那大学）
我们提出了一个分析的问题，确定生物背景，并将其与生物医学文本中的生物化学事件。这构成了一个非平凡的、跨领域的关系抽取任务。我们专注于生物背景的物种，组织类型和细胞类型，与生化事件的描述。我们描述的上下文-事件关系的注释语料库的属性，并提出和评估几个分类上下文-事件关联训练的句法，距离和频率特征。
2018-12-14 cs.CL cs.LG stat.ML
Enhanced Language Representation with Label Knowledge for Span Extraction
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Tencent（腾讯）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Dalian University of Technology（大连理工大学）
跨度抽取是信息抽取中的一个基本过程，旨在从纯文本中抽取文本跨度（如单词或短语）。最近的工作引入标签知识，以提高文本表示形式化的跨度提取任务到一个问答问题（QA形式化），实现了国家的最先进的性能。然而，QA形式化没有充分利用标签知识，并且训练/推理效率较低。为了解决这些问题，我们引入了一个新的范式来整合标签知识，并进一步提出了一个新的模型，明确和有效地将标签知识整合到文本表示。该方法将文本和标注信息独立编码，然后通过精心设计的语义融合模块将标注知识集成到文本表示中。我们进行了广泛的实验上三个典型的跨度提取任务：平面NER，嵌套NER，和事件检测。实证结果表明：1）我们的方法在四个基准测试中达到了最先进的性能，2）与QA形式化范式相比，平均分别减少了76%和77%的训练时间和推理时间。我们的代码和数据可在https://github.com/Akeepers/LEAR上获得。
2021-11-01 cs.CL
Improving Adverse Drug Event Extraction with SpanBERT on Different Text Typologies
University of Udine（乌迪内大学）；CSAIL MIT（麻省理工学院计算机科学与人工智能实验室）；The Hong Kong Polytechnic University（香港理工大学）
近年来，互联网用户在社交媒体、博客和健康论坛上报告药物不良事件（ADE）。由于大量的报告，药物警戒正在寻求诉诸NLP来监测这些出口。我们首次提出使用Span BERT架构来执行ADE提取任务：流行的BERT Transformer的新版本显示了多标记文本跨度的改进功能。我们验证了我们的假设与实验上的两个数据集（SMM4H和CADEC）不同的文本类型（推文和博客文章），发现SpanBERT结合CRF优于所有的竞争对手在这两个。
2021-05-19 cs.CL cs.LG
Extracting all Aspect-polarity Pairs Jointly in a Text with Relation Extraction Approach
Sichuan University（四川大学）
从文本中提取体-极性对是细粒度情感分析的一个重要任务。虽然现有的方法已经取得了很大的进展，他们是有限的，在捕获之间的关系方面的体极性对在一个文本中，从而降低提取性能。此外，现有的基于标记的序列标注和基于跨度的分类方法都存在各自的缺陷，如基于标记的序列标注存在极性不一致的问题，而基于跨度的分类方法存在极性和方面相关的标注混合的问题。为了弥补上述缺陷，本文借鉴关系抽取的最新进展，提出利用关系抽取技术直接从文本中生成体-极性对，将体-极性对视为一元关系，其中体是实体，对应的极性是关系。基于这一观点，我们提出了一个位置和方面感知的序列2序列模型，用于联合提取方面-极性对。该模型的特点是它的能力，捕捉不仅方面之间的关系，极性对在一个文本中通过序列解码，但也有一个方面之间的相关性，其极性通过位置和方面意识的注意。在三个基准数据集上进行的实验表明，该模型的性能优于现有的最先进的方法，取得了显著的改进.
2021-09-01 cs.AI cs.CL
A Survey on Temporal Reasoning for Temporal Information Extraction from Text (Extended Abstract)
University Medical Center Utrecht（乌得勒支大学医学中心）；KU Leuven（鲁汶大学）
时间深深地融入了人们对世界的感知和交流。我们几乎是无意识地为我们的语言话语提供了时间线索，比如动词时态，没有这些线索，我们很难造句。从文本中提取时间线索，并构建关于描述事件顺序的全局时间视图是自动自然语言理解的主要挑战。时间推理是将不同的时间线索组合成一个连贯的时间视图的过程，在时间信息抽取中起着核心作用。本文综述了过去几十年来关于文本时间信息抽取的时间推理研究，并提供了一个将符号推理与基于机器学习的信息抽取系统相结合的案例研究。
2020-05-15 cs.AI cs.CL cs.LG
FlairNLP at SemEval-2023 Task 6b: Extraction of Legal Named Entities from Legal Texts using Contextual String Embeddings
Univeristy of Colorado, Boulder（科罗拉多大学博尔德分校）
针对印度法院判决书的法律命名实体识别任务，论文比较多种序列标注架构，发现基于 Flair Embeddings 的 Bi-LSTM 效果最佳，并发布 BIO 格式数据集。
2023-06-03 cs.CL
Hypertext Entity Extraction in Webpage
Shanghai Jiao Tong University（上海交通大学）；Microsoft STCA（微软STCA）
针对网页实体抽取忽视字体颜色、字号等超文本特征的问题，本文构建电商领域 HEED 数据集，并提出基于 Mixture of Experts 的 MoEEF 框架，融合多类特征且性能超过强基线。
2024-03-04 cs.AI cs.CL
A Hidden Markov Model Based System for Entity Extraction from Social Media English Text at FIRE 2015
Jadavpur University（贾达夫普尔大学）
本文介绍了我们在Jadavpur大学进行的实验，作为参与FIRE 2015任务的一部分：从社交媒体文本中提取实体-印度语言（ESM-IL）。我们为这项任务开发的工具是基于三元组隐马尔可夫模型，该模型利用地名词典列表，POS标签和其他一些单词级别的功能，以提高已知令牌以及未知令牌的观察概率。我们只提交了英文版。一个统计HMM（隐马尔可夫模型）为基础的模型已被用来实现我们的系统。该系统已经在FIRE 2015任务发布的数据集上进行了训练和测试：从社交媒体文本中提取实体-印度语言（ESM-IL）。我们的系统是最好的表现为英语语言，它获得的准确率，召回率和F-措施分别为61.96，39.46和48.21。
2015-12-12 cs.CL
Challenges and Applications of Automated Extraction of Socio-political Events from Text (CASE 2023): Workshop and Shared Task Report
KNAW Humanities Cluster（荷兰皇家艺术与科学院人文集群）；European Commission（欧盟委员会）；Koc University（科奇大学）；Virginia Tech（弗吉尼亚理工大学）；National University of Singapore（新加坡国立大学）
本文总结第六届CASE研讨会，介绍其在RANLP 2023中的论文、主题演讲及共享任务，涵盖文本与多模态事件信息收集，推动跨领域事件提取研究进展。
2023-12-02 cs.CL
Scalable Semantic Querying of Text
University of Massachusetts（马萨诸塞大学）；Megagon Labs（Megagon实验室）；Google Japan（谷歌日本）
我们提出的KOKO系统，声明信息抽取到一个新的水平，通过将自然语言处理技术的进步，在其提取语言。KOKO是新颖的，因为它的提取语言同时支持文本表面和句子的依赖解析树结构上的条件，从而允许更精确的提取。KOKO还支持宽容表达概念的语言变化的条件，并允许从整个文档中聚合证据以过滤提取。为了扩大规模，KOKO采用了多索引方案和高效提取算法。我们广泛评估KOKO公开文本语料库。我们表明，KOKO索引占用的空间最小，是显着更快，更有效的比一些以前的索引方案。最后，我们展示了KOKO的规模上的语料库的500万个维基百科的文章。
2018-05-03 cs.CL cs.DB
Complex Relation Extraction: Challenges and Opportunities
Fudan University（复旦大学）
关系抽取的目的是识别文本中实体之间的目标关系。关系抽取对于知识库的构建和文本的理解具有重要意义。传统的二值关系抽取包括监督抽取、半监督抽取和远监督抽取，已经得到了广泛的研究并取得了显著的成果。近年来，许多复杂的关系抽取任务，即，提出了简单二元关系抽取的变体，以满足实际中复杂的应用。然而，迄今为止，还没有文献对这些复杂的关系抽取工作进行全面的调查和总结。本文首先介绍了传统的简单二值关系抽取的最新进展。然后，我们总结了现有的复杂关系抽取任务，并提出了定义，最新进展，挑战和机遇，为每一个任务。
2020-12-09 cs.CL
Structured information extraction from complex scientific text with fine-tuned large language models
University of California, Berkeley（加州大学伯克利分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
从非结构化文本中智能地提取和链接复杂的科学信息是一项具有挑战性的工作，特别是对于那些没有自然语言处理经验的人来说。在这里，我们提出了一个简单的序列到序列的方法来联合命名实体识别和关系抽取的复杂层次信息的科技文本。该方法利用了预训练的大语言模型（LLM）GPT-3，该模型在大约500对提示（输入）和完成（输出）上进行了微调。信息可以从摘要/段落中的单个句子或跨句子提取，输出可以作为简单的英语句子或更结构化的格式（如JSON对象列表）返回。我们证明，以这种方式训练的LLM能够准确地提取复杂的科学知识的有用记录，在材料化学中的三个代表性的任务：连接掺杂剂与其主体材料，编目金属有机框架，和一般的化学/相/形态/应用信息抽取。这种方法代表了一种简单，可访问的，高度灵活的路线，以获得大型数据库的结构化知识提取非结构化文本。在线演示可在http://www.matscholar.com/info-extraction上获得。
2022-12-10 cond-mat.mtrl-sci cs.CL
Extracting Radiological Findings With Normalized Anatomical Information Using a Span-Based BERT Relation Extraction Model
University of Washington（华盛顿大学）；George Mason University（乔治梅森大学）
医学成像对于诊断和治疗许多医学问题至关重要，包括许多形式的癌症。医学成像报告提取放射科医生的发现和观察结果，创建非结构化医学图像的非结构化文本表示。这种文本编码信息的大规模使用需要将非结构化文本转换为结构化的语义表示。我们探讨的提取和规范化的放射学报告中的解剖信息，是与放射学的发现。我们调查这个提取和规范化的任务，使用基于跨度的关系抽取模型，共同提取实体和关系，使用BERT。这项工作探讨了影响提取和归一化性能的因素，包括身体部位/器官系统，发生频率，跨度长度和跨度多样性。它讨论了提高性能和创建高质量的放射性现象的语义表示的方法。
2021-08-20 cs.CL
Relation extraction from clinical texts using domain invariant convolutional neural network
IIT Guwahati（印度理工学院古瓦哈提分校）；Excelra Knowledge Solutions Pvt Ltd（Excelra知识解决方案私人有限公司）
近年来，从生物医学和临床文本（如研究文章、出院摘要或电子健康记录）中提取相关信息一直是许多研究工作和共同挑战的主题。关系抽取是对给定文本中实体之间的语义关系进行检测和分类的过程。在生物医学领域中，用于此任务的现有模型使用手动工程特征或内核方法来创建特征向量。然后将这些特征馈送到分类器以预测正确的类别。事实证明，这些方法的结果是高度依赖于用户设计的功能的质量，也遭受维数灾难。在这项工作中，我们专注于从临床出院总结中提取关系。我们的主要目标是利用卷积神经网络（CNN）的能力来自动学习特征，从而减少对手动特征工程的依赖。我们在i2 b2 -2010临床关系抽取挑战数据集上评估了所提出的模型的性能。我们的研究结果表明，卷积神经网络可以是一个很好的模型，在临床文本的关系提取，而不依赖于专家的知识来定义质量特征。
2016-06-30 cs.CL
