Gradient Imitation Reinforcement Learning for General Low-Resource Information Extraction
Tsinghua University（清华大学）；Amazon（亚马逊）；University of Electronic Science and Technology of China（电子科技大学）；The Chinese University of Hong Kong（香港中文大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
信息抽取（Information Extraction，IE）的目的是从异构信息源中抽取结构化的信息。来自自然语言文本的IE包括诸如命名实体识别（NER）、关系抽取（RE）和事件抽取（EE）的子任务。大多数IE系统需要对句子结构、隐含语义和领域知识的全面理解才能表现良好;因此，IE任务总是需要足够的外部资源和注释。然而，获得更多的人类注释需要花费时间和精力。低资源信息抽取（LRIE）致力于使用无监督的数据，减少所需的资源和人工注释。在实践中，现有的系统要么利用自训练方案来生成伪标签，这将导致逐渐漂移问题，要么利用一致性正则化方法，这不可避免地具有确认偏差。为了减轻由于现有LRIE学习范式中缺乏反馈回路而导致的确认偏差，我们开发了梯度模仿强化学习（GIRL）方法，以鼓励伪标记数据模仿标记数据上的梯度下降方向，这可以迫使伪标记数据实现类似于标记数据的更好的优化能力。基于伪标记数据如何模仿从标记数据获得的指导性梯度下降方向，我们设计了一个奖励来量化模仿过程，并通过试错来引导伪标记数据的优化能力。除了学习范例，GIRL并不局限于特定的子任务，我们利用GIRL来解决低资源设置（半监督IE和Few-Shot IE）中的所有IE子任务（命名实体识别，关系抽取和事件提取）。
2022-11-14 cs.AI cs.CL
Exploit Multiple Reference Graphs for Semi-supervised Relation Extraction
Wuhan University（武汉大学）
人工标注标记数据的关系抽取是费时费力的。半监督方法为解决这一问题提供了有力的帮助，引起了人们极大的研究兴趣。现有的工作主要集中在将未标记的样本映射到类中以增强标记的数据集。然而，很难找到一个全面良好的映射函数，特别是对于一个句子中含有复杂句法成分的样本。为了解决这个问题，我们建议在未标记的数据和标记的数据之间建立连接，而不是直接将未标记的样本映射到类。具体来说，我们首先使用三种信息来构造引用图，包括实体引用、动词引用和语义引用。目标是在语义上或词汇上将未标记的样本连接到标记的样本。然后，我们开发了一个多参考图（MRefG）模型，利用参考信息更好地识别高质量的未标记样本。我们的方法的有效性证明了广泛的比较实验与国家的最先进的基线在两个公共数据集。
2020-10-22 cs.CL
Transductive Learning with String Kernels for Cross-Domain Text Classification
University of Bucharest（布加勒斯特大学）
对于许多文本分类任务来说，目标域中缺乏标记数据是一个主要问题。虽然可以在来自相关源域的标记文本数据上训练目标域的分类器，但这种分类器的准确性在跨域设置中通常较低。最近，字符串内核已经在各种文本分类任务中获得了最先进的结果，例如母语识别或自动论文评分。此外，已发现基于串核的分类器对不同域之间的分布间隙具有鲁棒性。在本文中，我们正式描述了一个算法组成的两个简单而有效的转导学习方法，以进一步提高跨域设置中的字符串内核的结果。通过调整字符串内核的测试集，而不使用地面实况测试标签，我们报告了显着更好的准确率在跨域英语极性分类。
2018-11-02 cs.CL cs.LG
TextSETTR: Few-Shot Text Style Extraction and Tunable Targeted Restyling
University of Rochester（罗切斯特大学）；Google Research（谷歌研究院）；Stanford University（斯坦福大学）
我们提出了一种新的方法来解决文本风格迁移的问题。与以前的方法需要样式标记的训练数据，我们的方法利用现成的未标记的文本，依靠在相邻的句子之间的风格的隐式连接，并使用标记的数据只在推理时间。我们调整T5（Raffel等人，2020），一个强大的预训练文本到文本模型，从文本中提取样式向量，并使用它来调节解码器以执行样式传输。由于我们的无标签训练产生了一个对风格的许多方面进行编码的风格向量空间，因此我们将传输转换为“目标重新造型”向量操作，这些操作调整输入的特定属性，同时保留其他属性。我们证明，在未标记的亚马逊评论数据上进行训练，即使与完全在标记数据上训练的模型相比，也会产生一个在情感转移方面具有竞争力的模型。此外，将我们的新方法应用于未标记的Web文本的多样化语料库，导致单个模型能够沿着风格的多个维度（方言，情感，正式，礼貌，情感）进行转移，尽管没有额外的训练，并且在推理时只使用少数样本。
2021-06-23 cs.CL cs.LG
Reinforcement Learning-based N-ary Cross-Sentence Relation Extraction
Virginia Tech（弗吉尼亚理工大学）；Adobe Research（奥多比研究院）
基于远距离监督的n元跨句关系抽取模型假设连续的句子中包含n个实体，描述了这n个实体之间的关系。然而，一方面，这种假设引入了噪声标记数据，损害了模型的性能。另一方面，一些非连续的句子也描述了一个关系，这些句子不能在这个假设下被标记。在本文中，我们放松了这个强假设较弱的远程监督假设，以解决第二个问题，并提出了一种新的句子分布估计模型，以解决第一个问题。该估计器选择正确标记的句子，以减轻噪声数据的影响是一个两级代理强化学习模型。此外，提出了一种新的通用关系提取器与注意力机制和PCNN的混合方法，它可以部署在任何任务，包括连续和非连续的句子。实验结果表明，与基准模型相比，该模型能有效降低噪声数据的影响，并在一般的n元跨句关系抽取任务中获得更好的性能。
2020-09-26 cs.CL cs.LG stat.ML
Attention based Sentence Extraction from Scientific Articles using Pseudo-Labeled data
DA-IICT
在这项工作中，我们提出了一个弱监督的句子提取技术，以确定重要的句子在科学论文中，是值得列入摘要。我们提出了一种新的基于注意力的深度学习架构，该架构联合学习以识别重要内容，以及指示值得总结的句子的提示短语。我们提出了一种新的上下文嵌入技术，用于使用主题模型确定给定论文的焦点，并将其与基于LSTM的序列编码器联合使用，以学习句子单词的注意力权重。我们使用ACL anthology公开提供的文章集合进行实验。我们的系统实现了更好的性能，在几个ROUGE指标方面，相比几个国家的最先进的提取技术。它还生成了更连贯的摘要，并保留了文件的整体结构。
2018-02-13 cs.AI cs.CL cs.IR
Abstractified Multi-instance Learning (AMIL) for Biomedical Relation Extraction
University of California, San Diego（加州大学圣地亚哥分校）；IBM Research-Almaden（IBM阿尔马登研究院）
生物医学领域中的关系抽取是一个具有挑战性的任务，由于缺乏标记数据和长尾分布的事实三元组。许多作品利用远程监督，通过将知识图谱与原始文本数据配对来自动生成标记数据。远程监督产生噪声标签，并需要额外的技术，如多实例学习（MIL），去噪的训练信号。然而，MIL需要多个数据实例，并且需要处理非常长尾的数据集，例如生物医学领域中的数据集。在这项工作中，我们提出了一种新的重新制定的MIL的生物医学关系抽取，抽象的生物医学实体到其相应的语义类型。通过按类型对实体进行分组，我们能够更好地利用MIL的优势，并进一步对训练信号进行降噪。我们展示了这种重新表述，我们称之为抽象化多实例学习（AMIL），提高了生物医学关系提取的性能。我们还提出了一种新的关系嵌入架构，进一步提高模型的性能。
2021-10-24 cs.CL cs.LG
Aspect Term Extraction using Graph-based Semi-Supervised Learning
Jamia Millia Islamia（贾米亚·米利亚·伊斯兰大学）
基于方面的情感分析是情感分析的一个主要分支。过去已经提出了许多有监督和无监督的方法来检测和分析方面术语的情感。本文提出了一种基于图的半监督学习方法进行特征词提取。在这种方法中，使用标签扩展算法将评论文档中的每个识别的令牌从一小组标记的令牌中分类为方面或非方面术语。在所提出的方法中采用了用于图稀疏化的k-最近邻（kNN），使其具有更高的时间和内存效率。所提出的工作进一步扩展到确定的极性的意见词与审查句子中的识别方面的条款，以产生视觉方面为基础的摘要的审查文件。实验研究是在餐馆和笔记本电脑领域的基准数据集和爬行数据集上进行的，具有不同的标记实例值。实验结果表明，该方法在标注数据有限的情况下，能够取得较好的查准率、查全率和查准率。
2020-02-20 cs.CL cs.LG stat.ML
SpanRE: Entities and Overlapping Relations Extraction Based on Spans and Entity Attention
ZheJiang University（浙江大学）
本文提出SpanRE方法，通过标准片段机制抽取候选主体，并利用带标签的片段机制同时抽取客体和关系，结合实体注意力机制增强信息融合，在两个公开数据集上取得最佳性能，彻底解决了三元组重叠问题。
2023-04-06 cs.CL
FREDA: Flexible Relation Extraction Data Annotation
University of Alberta（阿尔伯塔大学）；Lakehead University（湖首大学）
为了有效地训练准确的关系抽取模型，需要充足且适当标记的数据。标记过的数据很难获得，注释这些数据是一项棘手的工作。之前的工作表明，要么必须牺牲准确性，要么如果准确完成任务则极其耗时。我们提出了一种方法，以产生高质量的数据集的任务关系抽取迅速。神经模型经过训练，可以在创建的数据集上进行关系抽取，取得了非常好的结果，并且可以很好地推广到其他数据集。在我们的研究中，我们能够在合理的时间内为19个关系注释10，022个句子，并为每个关系训练常用的基线模型。
2022-12-14 cs.CL
A Review on Semi-Supervised Relation Extraction
University of Maryland（马里兰大学）
关系抽取是从非结构化文本中抽取知识的重要方法，但需要大量的标注语料。为了减少昂贵的注释工作，半监督学习旨在利用标记和未标记的数据。在本文中，我们回顾和比较了三种典型的方法在半监督RE与深度学习或元学习：自集成，这迫使一致的扰动下，但可能会面临监督不足;自训练，迭代生成伪标签，并重新训练自己与扩大的标记集;双学习，利用一个原始任务和一个双任务，以提供相互反馈。平均教师（Tarvainen和Valpola，2017），LST（Li等人，2019）和DualRE（Lin et al.，2019）为代表，分别阐述了这三种方法的不足。
2021-03-12 cs.AI cs.CL cs.IR
Consistency Guided Knowledge Retrieval and Denoising in LLMs for Zero-shot Document-level Relation Triplet Extraction
Nanjing University of Science and Technology（南京理工大学）；Northeastern University（东北大学）；Singapore Institute of Technology（新加坡理工大学）；Singapore University of Technology and Design（新加坡科技设计大学）
针对文档级关系三元组抽取标注稀缺问题，提出 GenRDK，用检索链提示生成数据并基于跨文档一致性去噪，微调 LLaMA2-13B-Chat，在两个数据集上超越强基线。
2024-01-24 cs.CL
PharmKE: Knowledge Extraction Platform for Pharmaceutical Texts using Transfer Learning
Faculty of Computer Science and Engineering（计算机科学与工程学院）
近年来，识别给定文本中的命名实体的挑战一直是一个非常活跃的领域。这是由于神经网络架构的进步，计算能力的提高以及各种标记数据集的可用性，这些数据集提供了预先训练的高度准确的模型。这些任务通常集中在标记公共实体，但特定领域的用例需要标记不属于预训练模型的自定义实体。这可以通过微调预训练模型或训练自定义模型来解决。主要的挑战在于获得可靠的标记训练和测试数据集，手动标记将是一项非常繁琐的任务。在本文中，我们提出了PharmKE，一个专注于医药领域的文本分析平台，它通过几个阶段应用深度学习对医药文章进行彻底的语义分析。它使用最先进的迁移学习模型进行文本分类，并彻底整合了通过提出的方法获得的结果。该方法用于创建准确标记的训练和测试数据集，然后用于训练模型，用于定制实体标记任务，集中在制药领域。将获得的结果与在相同数据集上训练的微调BERT和BioBERT模型进行比较。此外，PharmKE平台整合了从命名实体识别任务中获得的结果，以解决实体的共指并分析每个句子中的语义关系，从而为其他文本分析任务（如问答和事实提取）建立基线。识别的实体还用于扩展DBpedia Spotlight为给定的药物文本生成的知识图谱。
2021-02-25 cs.CL cs.LG
A Sequence Tagging based Framework for Few-Shot Relation Extraction
Peking University（北京大学）
关系抽取是指从输入文本中抽取关系三元组。现有的基于神经网络的逆向工程系统严重依赖于人工标记的训练数据，但仍然有很多领域没有足够的标记数据。受基于距离的Few-Shot命名实体识别方法的启发，提出了基于序列标记联合抽取方法的Few-Shot检索任务的定义，并给出了该任务的Few-Shot检索框架。此外，我们将两个实际的序列标记模型（称为Few-Shot TPLinker和Few-Shot BiTT）应用到我们的框架中，并在从公共数据集构建的两个Few-Shot RE任务上取得了可靠的结果。
2022-08-17 cs.AI cs.CL
EIVEN: Efficient Implicit Attribute Value Extraction using Multimodal LLM
Amazon（亚马逊）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Washington University in St. Louis（圣路易斯华盛顿大学）
针对电商多模态隐式属性值提取的标注依赖、相似值混淆等问题，提出数据与参数高效的生成框架EIVEN，结合预训练多模态LLM与对比学习技术，构建首批相关开源数据集，在更少标注下实现性能显著提升。
2024-04-13 cs.AI cs.CL cs.CV
Exploring Semi-supervised Variational Autoencoders for Biomedical Relation Extraction
National Center for Biotechnology Information (NCBI), National Library of Medicine (NLM), National Institutes of Health (NIH)（美国国立卫生研究院国家医学图书馆国家生物技术信息中心）；Dalian University of Technology（大连理工大学）
生物医学文献提供了丰富的知识来源，如蛋白质-蛋白质相互作用（PPI），药物-药物相互作用（DDI）和化学-蛋白质相互作用（CPI）。生物医学关系抽取的目的是从生物医学文本中自动抽取生物医学关系，以供各种生物医学研究使用。用于生物医学关系抽取的现有技术方法主要基于监督机器学习，因此依赖于（足够的）标记数据。然而，创建大的训练数据集是非常昂贵和劳动密集型的，尤其是在生物医学中，因为需要领域知识。相比之下，PubMed中有大量未标记的生物医学文本。因此，能够采用未标记的数据，以减少人工注释的负担的计算方法是特别感兴趣的生物医学关系抽取。提出了一种基于变分自编码器（VAE）的半监督生物医学关系抽取方法。我们的模型包括以下三个部分，分类器，编码器和解码器。分类器使用多层卷积神经网络（CNN）实现，编码器和解码器分别使用双向长短期记忆网络（Bi-LSTM）和CNN实现。半监督机制允许我们的模型从标记和未标记数据中学习特征。我们评估我们的方法在多个公共PPI，DDI和CPI语料库。实验结果表明，该方法有效地利用了未标记数据，提高了性能，减少了对标记数据的依赖。据我们所知，这是第一个基于半监督VAE的（生物医学）关系抽取方法。我们的研究结果表明，利用这些未标记的数据可以大大有利于提高各种生物医学关系抽取的性能。
2019-01-18 cs.CL
Manual Evaluation Matters: Reviewing Test Protocols of Distantly Supervised Relation Extraction
Princeton University（普林斯顿大学）；Tsinghua University（清华大学）；Tencent Inc（腾讯公司）
在过去的几年中，远程监督（DS）关系抽取（RE）由于可以利用大规模的自动标注数据而引起了人们的广泛关注。然而，它的评估长期以来一直是一个问题：以前的工作要么采用昂贵且不一致的方法来手动检查模型预测的小样本，要么直接在自动标记的数据上测试模型-通过我们的检查，在流行的NYT 10数据集中，在实体对级别上产生了多达53%的错误标签。这个问题不仅导致了不准确的评价，而且也使我们很难理解我们在DS-RE研究中所处的位置以及需要改进的地方。为了以更可靠的方式评估DS-RE模型，我们为两个DS-RE数据集NYT 10和Wiki 20构建了手动注释的测试集，并彻底评估了几个竞争模型，特别是最新的预训练模型。实验结果表明，人工评估可以表明与自动评估非常不同的结论，特别是一些意想不到的观察结果，例如，预训练的模型可以实现主导性能，同时与先前的方法相比更容易受到误报的影响。我们希望我们的手动测试集和新的观察可以帮助推进未来的DS-RE研究。
2021-05-20 cs.CL cs.LG
MORE: A Metric Learning Based Framework for Open-domain Relation Extraction
Tsinghua University（清华大学）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；Zhejiang University City College（浙江大学城市学院）
开放关系抽取（OpenRE）是从开放领域语料库中抽取关系模式的任务。现有的大多数OpenRE方法要么不能充分利用高质量的标注语料，要么不能直接学习语义表示，影响了下游聚类效率。为了解决这些问题，在这项工作中，我们提出了一种新的学习框架命名为MORE（基于度量学习的开放式关系抽取）。该框架利用深度度量学习从标记数据中获取丰富的监督信号，并驱动神经模型直接学习语义关系表示。在两个真实数据集上的实验结果表明，我们的方法优于其他最先进的基线。我们的源代码可以在Github上找到。
2022-06-01 cs.AI cs.CL
Logician: A Unified End-to-End Neural Approach for Open-Domain Information Extraction
Baidu Research（百度研究院）
在本文中，我们考虑的问题，开放信息抽取（OIE）提取实体和关系层的中间结构，从句子中的开放域。我们重点研究了四种有价值的中间结构（关系、属性、描述和概念），并提出了一种统一的知识表示形式SAOKE来表示它们。我们公开发布了一个数据集，其中包含超过40000个句子和相应的事实，以SAOKE格式标记的众包。据我们所知，这是最大的公开可用的人类标记的数据集开放的信息抽取任务。使用这个标记的SAOKE数据集，我们训练了一个端到端的神经模型，使用序列到序列范式，称为逻辑学家，将句子转换为事实。对于每个句子，与现有的算法不同，这些算法通常专注于提取每个单个事实而不考虑其他可能的事实，Logician对所有可能涉及的事实进行全局优化，其中事实不仅相互竞争以吸引单词的注意力，而且还合作共享单词。对各种类型的开放域关系抽取任务的实验研究揭示了Logician算法相对于其他最先进算法的一致优越性。实验验证了SAOKE格式的合理性、SAOKE数据集的价值、所提出的Logician模型的有效性，以及将端到端学习范式应用于有监督数据集的方法学的可行性，以解决开放式信息抽取这一具有挑战性的任务。
2019-04-29 cs.AI cs.CL cs.DB
Making Efficient Use of a Domain Expert's Time in Relation Extraction
Fraunhofer Institute for Intelligent Analysis and Information Systems IAIS（弗劳恩霍夫智能分析与信息系统研究所 IAIS）
标记数据的稀缺性是机器学习中最常见的问题之一。这在文本挖掘中的关系抽取中尤其如此，其中在许多应用领域中存在大型文本语料库，而文本数据的标记需要专家投入大量时间来阅读文档。总的来说，最先进的模型，如本文中使用的卷积神经网络，在足够大量的标记数据上训练时会取得很好的效果。然而，从实际的角度来看，如果考虑到专家的体力劳动，这是否是最有效的办法，这就产生了一个问题。在本文中，我们报告了一种替代方法，我们首先构建一个关系抽取模型，使用远程监督，只有后来利用一个领域的专家来完善的结果。远程监督提供了一种在知识库中给定已知关系的情况下对数据进行标记的方法，但是它受到噪声标记的影响。我们引入了一个基于主动学习的扩展，它允许我们的神经网络将专家反馈和报告的第一个结果在一个复杂的数据集。
2018-07-12 cs.CL cs.LG stat.ML
Graph-based Joint Pandemic Concern and Relation Extraction on Twitter
Auckland University of Technology（奥克兰理工大学）；Deakin University（迪肯大学）；University of Tasmania（塔斯马尼亚大学）
公众关注检测为当局在大流行爆发之前或期间进行危机管理提供了潜在的指导。从在线社交媒体平台上检测人们的关注和关注，已被广泛认为是缓解公众恐慌和预防社会危机的有效方法。然而，从社交媒体中的大量信息中及时检测关注点是一个很大的挑战，特别是在没有公共卫生紧急事件的情况下，新冠肺炎。本文提出了一种基于图卷积网络和双向长短期记忆结合关注图的端到端深度学习模型，用于识别人们的关注点及其对应关系。除了BERT嵌入的序列特征外，关注图模块还可以提取推文的区域特征，这不仅有利于关注检测，而且使我们的模型具有很高的抗噪能力。因此，我们的模型可以解决手动标记数据不足的问题。我们进行了广泛的实验，以评估所提出的模型，使用手动标记的推文和自动标记的推文。实验结果表明，我们的模型可以在现实世界的数据集上优于最先进的模型。
2021-06-18 cs.CL cs.SI
Leveraging Foreign Language Labeled Data for Aspect-Based Opinion Mining
Posts and Telecommunications Institute of Technology（越南邮电技术学院）
基于方面的观点挖掘是在观点文本的方面层次上识别情感的任务，它包括两个子任务：方面类别提取和情感极性分类。虽然方面类别提取的目的是检测和分类的意见目标，如产品特征，情感极性分类分配一个情感标签，即积极的，消极的，或中性的，每个识别的方面。监督学习方法已被证明可以为这项任务提供更好的准确性，但它们需要标记的数据，这是昂贵的，特别是对于资源贫乏的语言，如越南语。为了解决这个问题，我们提出了一个监督方面为基础的意见挖掘方法，利用标记的数据从外语（英语在这种情况下），这是翻译成越南语的自动翻译工具（谷歌翻译）。由于不同语言中的方面和观点可能由不同的词来表达，因此我们提出使用词嵌入以及其他特征来减少原文和译文之间的词汇差异，从而提高方面类别提取和情感极性分类过程的有效性。我们还介绍了一个注释语料库的方面类别和情感极性提取的餐馆评论在越南，并进行了一系列的实验语料库。实验结果证明了该方法的有效性。
2020-03-15 cs.AI cs.CL cs.IR
Gradient Imitation Reinforcement Learning for Low Resource Relation Extraction
Tsinghua University（清华大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Amazon（亚马逊）
低资源关系抽取（LRE）的目标是在人工标注不足的情况下，从有限的标注语料中抽取关系事实。现有的工作要么利用自我训练计划，以产生伪标签，将导致逐渐漂移的问题，或利用元学习计划，不征求反馈显式。为了减轻由于现有LRE学习范例中缺乏反馈回路而导致的选择偏差，我们开发了梯度模仿强化学习方法，以鼓励伪标签数据模仿标签数据上的梯度下降方向，并通过试错来引导其优化能力。我们还提出了一个框架，称为GradLRE，它处理两个主要的情况下，低资源关系抽取。除了未标记的数据是足够的情况下，GradLRE处理的情况下，没有未标记的数据是可用的，通过利用上下文增强方法来生成数据。在两个公开数据集上的实验结果表明，与基线相比，GradLRE在低资源关系抽取上是有效的。
2021-09-14 cs.AI cs.CL
From Consensus to Disagreement: Multi-Teacher Distillation for Semi-Supervised Relation Extraction
Wuhan University（武汉大学）
标记数据的缺乏是关系抽取的主要障碍。半监督关系抽取（SSRE）通过将未标记的样本标注为额外的训练数据，已被证明是解决这一问题的一种很有前途的方法。几乎所有沿着这条线的现有研究都采用多个模型，通过从这些模型中获取预测结果的交集来使注释更可靠。然而，差异集，其中包含了丰富的信息，未标记的数据，长期以来一直被忽视的先前的研究。在本文中，我们建议学习不仅从共识，但也不同的模型之间的分歧SSRE。为此，我们开发了一个简单而通用的多教师蒸馏（MTD）框架，它可以很容易地集成到任何现有的SSRE方法。具体来说，我们首先让教师对应于多个模型，并选择SSRE方法中最后一次迭代的交集中的样本来增加标记数据。然后，我们将差异集中样本的类分布作为软标签来引导学生。最后，我们使用训练好的学生模型进行预测。在两个公开数据集上的实验结果表明，该框架以相当低的计算成本显着提高了基本SSRE方法的性能。
2021-12-02 cs.CL
LLMs Accelerate Annotation for Medical Information Extraction
Google Research（谷歌研究院）
针对医学文本标注耗时昂贵的问题，提出LLMs与人类专家协同生成真值标签的方法，在医学信息抽取任务中减少人工干预并保持高准确率。
2023-12-04 cs.AI cs.CL cs.LG
A Distant Supervision Corpus for Extracting Biomedical Relationships Between Chemicals, Diseases and Genes
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Chan Zuckerberg Initiative（陈·扎克伯格倡议）
我们介绍了ChemDisGene，一个新的数据集，用于训练和评估多类多标签文档级生物医学关系抽取模型。我们的数据集包含80k生物医学研究摘要，其中标记了化学物质，疾病和基因，其中部分人类专家标记了这些实体之间的18种生物医学关系（用于评估），其余部分（用于训练）通过CTD数据库进行远程标记，准确率约为78%。与类似的现有数据集相比，我们的数据集更大、更干净;它还包括将提及链接到其实体的注释。我们还提供了三个基线深度神经网络关系抽取模型，这些模型在我们的新数据集上进行了训练和评估。
2022-04-13 cs.AI cs.CL
A Framework for Leveraging Partially-Labeled Data for Product Attribute-Value Identification
KnowDis AI（诺迪斯人工智能公司）；Indian Institute of Technology, Delhi（德里印度理工学院）
提出 GenToC 模型，通过标记增强生成模型与 token 分类直接利用部分标注数据提取属性-值对，提升数据质量并训练高效 NER 模型，在 IndiaMART 平台实现准确率 89.5% 及 20.2% 的识别量增长。
2024-11-18 cs.AI cs.CL cs.IR
IPRE: a Dataset for Inter-Personal Relationship Extraction
Soochow University（苏州大学）
人际关系是人类社会的基础。为了从文本中自动识别人与人之间的关系，我们需要标注数据用于训练系统。然而，到目前为止，还缺乏大量的此类数据。针对这种情况，我们引入了IPRE，一个新的数据集的人际关系提取，旨在促进信息抽取和知识图谱建设的研究。总的来说，IPRE有超过41,000个标记的句子，用于34种类型的关系，其中包括大约9,000个由工人注释的句子。我们的数据是第一个用于人际关系提取的数据集。此外，我们定义了三个基于IPRE的评估任务，并提供了基线系统，以便在未来的工作中进一步比较。
2019-08-10 cs.CL
Semi-Supervised Recurrent Neural Network for Adverse Drug Reaction Mention Extraction
TCS Research, Tata Consultancy Services（塔塔咨询服务公司TCS研究院）
社交媒体是一个有用的平台，分享健康相关的信息，由于其广泛的影响。这使其成为公共卫生监测任务的良好候选者，特别是药物警戒。我们研究了从社交媒体，特别是Twitter中提取药物不良反应（ADR）提及的问题。从社交媒体中提取医疗信息抽取具有挑战性，主要是由于文本的简短和高度信息化的性质，而不是更多的技术和正式的医疗报告。现有的药品不良反应提及信息提取方法依赖于监督学习方法，存在标注数据稀缺的问题。最先进的方法使用深度神经网络，具体地说是一类循环神经网络（RNN），其是长短期记忆网络（LSTM）\cite{hochreiter1997long}。深度神经网络由于其大量的自由参数，严重依赖于大型注释语料库来学习最终任务。但在现实世界中，很难获得大的标记数据，主要是由于与手动注释相关的沉重成本。为此，我们提出了一种新的基于半监督学习的RNN模型，该模型可以利用社交媒体上大量存在的未标记数据。通过实验，我们证明了我们的方法的有效性，达到国家的最先进的性能在ADR提及提取。
2017-09-06 cs.CL cs.IR
Extreme Multi-Label Skill Extraction Training using Large Language Models
Ghent University（根特大学）；imec（比利时微电子研究中心）；TechWolf（TechWolf公司）
针对极端多标签技能提取任务缺乏大规模标注数据集的问题，提出利用大语言模型生成全合成标注数据集，并结合对比学习策略，在三个基准上使R-Precision@5较原有方法提升15至25个百分点。
2023-07-20 cs.CL
Asking the Right Questions in Low Resource Template Extraction
Johns Hopkins University（约翰斯·霍普金斯大学）
信息抽取（Information Extraction，IE）的研究者正在将任务映射到问答（Question Questioning，QA）中，以充分利用现有的大量QA资源，从而提高数据效率。特别是在模板提取（TE）中，将本体映射到一组问题可能比收集标记的示例更省时。我们问TE系统的最终用户是否可以设计这些问题，以及在这个过程中让NLP从业者参与是否有益。我们比较问题的措辞自然语言提示TE的其他方式。我们提出了一个新的模型来执行TE提示，并发现它的好处，从其他风格的提示问题，他们不需要一个NLP背景的作者。
2022-05-25 cs.CL
Extracting N-ary Cross-sentence Relations using Constrained Subsequence Kernel
TCS Research & Innovation（塔塔咨询服务公司研究与创新部）；Indian Institute of Technology Bombay（印度理工学院孟买分校）
过去的关系抽取工作大多处理的是句子中的关系，并且只有两个实体参数。我们提出了一个新的配方的关系抽取任务的关系是更一般的意义上说，他们可能会跨越多个句子，并可能有两个以上的参数比句子内的关系。此外，这些关系比语料库级别的关系更具体，因为它们的范围仅限于文档内，而不是在整个语料库中全局有效。我们提出了一种新的序列表示来描述这种关系的实例。然后，我们探索各种分类器，其功能来自这个序列表示。对于支持向量机分类器，我们设计了一个约束子序列核，它是广义子序列核的一个变体。我们在两个领域的三个数据集上评估我们的方法：生物医学和一般领域。
2020-06-15 cs.CL
Analysing Errors of Open Information Extraction Systems
Beuth University of Applied Sciences Berlin（柏林博伊特应用科学大学）
我们报告的结果基准开放信息抽取（OIE）系统使用RelVis，基准开放信息抽取系统的工具包。我们的综合基准包含来自新闻领域的三个数据集和来自维基百科的一个数据集，共有4522个标记句子和11243个二进制或n进制OIE关系。在我们对这些数据集的分析中，我们比较了四种流行的OIE系统，ClausIE，OpenIE 4.2，Stanford OpenIE和PredPatt的性能。此外，我们评估了五个常见的错误类对749个n元元组的子集的影响。从我们的深入分析中，我们揭示了下一代OIE系统的重要研究方向。
2017-07-24 cs.CL
EventGraph at CASE 2021 Task 1: A General Graph-based Approach to Protest Event Extraction
University of Oslo（奥斯陆大学）；University of Bergen（卑尔根大学）
本文介绍了我们对2022年版CASE 2021共享任务1，子任务4的提交。EventGraph系统使端到端的、基于图的语义解析器适应抗议事件提取的任务，更具体地，适应关于事件触发器和参数提取的子任务4。我们用各种图进行实验，将事件编码为“标记边缘”或“以节点为中心”的图。我们表明，“以节点为中心”的方法产生最好的结果整体上，表现良好的三种语言的任务，即英语，西班牙语和葡萄牙语。EventGraph在英语和葡萄牙语中排名第三，在西班牙语中排名第四。我们的代码可在：https://github.com/huiling-y/eventgraph_at_case
2022-10-18 cs.CL
A system for information extraction from scientific texts in Russian
A.P. Ershov Institute of Informatics Systems, Siberian Branch, Russian Academy of Sciences（俄罗斯科学院西伯利亚分院 A.P. 叶尔绍夫信息系统研究所）；Novosibirsk State University（新西伯利亚国立大学）
在本文中，我们提出了一个系统的信息抽取从科学文本中的俄语。该系统以端到端的方式执行几项任务：术语识别，术语之间的关系提取，以及术语与知识库中的实体的链接。这些任务对于信息检索、推荐系统和分类是极其重要的。所实现的方法的优点在于，系统不需要大量的标记数据，这节省了数据标记的时间和精力，因此可以应用于低和中等资源设置。源代码是公开的，可用于不同的研究目的。
2021-09-14 cs.CL
Assessing the quality of information extraction
Creative Dock（创意码头公司）
本文提出一个自动框架，利用评分评估大型语言模型从非结构化数据中提取实体及属性信息的质量与完整性，并处理模型输入输出限制，以应对标注数据稀缺的挑战。
2024-05-22 cs.CL
Heterogeneous Supervision for Relation Extraction: A Representation Learning Approach
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
关系抽取是信息抽取中的一项基本任务。大多数现有的方法严重依赖于由人类专家标记的注释，这是昂贵且耗时的。为了克服这个缺点，我们提出了一个新的框架，REHession，使用来自异构信息源的注释进行关系提取器学习，例如，知识库和领域分析。这些被称为异构监督的标注经常相互冲突，这给原有的关系抽取任务带来了新的挑战：如何从给定实例的噪声标注中推断出真实标注。识别上下文信息的骨干关系抽取和真正的标签发现，我们采用嵌入技术来学习上下文的分布式表示，桥梁的所有组件相互增强的迭代方式。大量的实验结果证明了REHession的优越性。
2017-08-01 cs.CL
Crowdsourcing Ground Truth for Medical Relation Extraction
Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）；Google Research（谷歌研究院）；CAS IBM Netherlands（荷兰IBM认知计算系统研究中心）
认知计算系统需要人类标记的数据进行评估，并且通常用于训练。收集这些数据的标准做法最大限度地减少了注释者之间的分歧，我们发现这导致数据无法解释语言中固有的歧义。我们已经提出了通过众包收集真值的CrowdTruth方法，该方法重新考虑了人在机器学习中的作用，基于注释者之间的分歧为文本中的歧义等现象提供了有用的信号。我们报告使用这种方法来建立一个带注释的数据集的医学关系抽取的$cause$和$treat$的关系，以及如何在监督训练实验中执行此数据。我们证明，通过建模模糊性，标记的数据收集从人群工作人员可以（1）达到该任务的领域专家的质量水平，同时降低成本，（2）提供更好的训练数据的规模比远程监督。我们进一步提出并验证了新的加权措施的精度，召回率和F-措施，占模糊的人类和机器在这项任务上的表现。
2017-10-03 cs.CL cs.HC
A Novel Framework to Expedite Systematic Reviews by Automatically Building Information Extraction Training Corpora
Northwestern University（西北大学）；Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）；University of Manchester（曼彻斯特大学）
系统性综述识别和整理各种临床研究，并比较数据元素和结果，以便为特定临床问题提供基于证据的答案。这个过程是手动的，需要很多时间。目前还缺乏一种工具来自动化这一过程。这项工作的目的是开发一个框架，使用自然语言处理和机器学习来构建信息抽取算法，以识别新的主要出版物中的数据元素，而不必通过手动注释的昂贵任务来为每个数据元素类型构建黄金标准。该系统分两个阶段开发。最初，它使用现有系统评价中包含的信息，使用修改后的Jaccard相似性度量，从包含特定数据元素的参考文献的PDF文件中识别句子。将这些句子作为标记数据，训练支持向量机（SVM）分类器，从新文章中提取感兴趣的数据元素。我们使用纳入标准作为示例数据元素，对与充血性心力衰竭相关的Cochrane数据库系统评价进行了实验。实验结果表明，该系统自动识别包含感兴趣的数据元素的句子，具有较高的召回率（93.75%）和合理的精度（27.05% -这意味着审稿人平均只需阅读3.7个句子）。实证结果表明，该工具是检索有价值的信息，从参考文章，即使它是耗时的手动识别。因此，我们希望该工具将是有用的自动数据提取生物医学研究出版物。这项工作的未来范围是将这一信息框架推广到所有类型的系统评价。
2016-06-21 cs.CL cs.IR cs.LG
JLIR: A Julia-Native MLIR-Inspired Intermediate Representation with Automatic JACC Kernel Extraction
Oak Ridge National Laboratory（橡树岭国家实验室）
本文针对MLIR难以适配Julia的问题，提出JLIR框架，将MLIR的多级编译优势引入Julia生态，支持自动JACC内核生成，解决了领域库接口脱离编译器优化路径的痛点。
2026-09-07 cs.CL cs.PL
Dialogue-Based Multi-Dimensional Relationship Extraction from Novels
School of Computer and Artificial Intelligence（计算机与人工智能学院）
本文针对小说中人物关系抽取困难的问题，提出基于大语言模型并结合关系维度分离、对话数据构建和上下文学习的方法，同时构建了中文小说关系抽取数据集，实验表明该方法在多个指标上优于传统基线，可有效支持人物关系网络自动构建。
2025-07-07 cs.CL
Not Just Plain Text! Fuel Document-Level Relation Extraction with Explicit Syntax Refinement and Subsentence Modeling
Tsinghua University（清华大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
文档级关系抽取（DocRE）旨在识别单个文档中实体之间的语义标签。DocRE的一个主要挑战是从长文本中挖掘关于特定实体对的决定性细节。然而，在许多情况下，即使在手动标记的支持证据中，也只有一小部分文本携带所需的信息。为了更好地捕捉和利用有指导意义的信息，我们提出了一种新的显式syntAx细化和子句mOdeliNg为基础的框架（LARSON）。通过引入额外的句法信息，LARSON可以对任意粒度的子句进行建模，并有效地筛选出有指导意义的子句。此外，我们将精炼的语法到文本表示，进一步提高了性能的LARSON。在三个基准数据集（DocRED，CDR和GDA）上的实验结果表明，LARSON显著优于现有方法。
2023-02-13 cs.CL
ZeroShotCeres: Zero-Shot Relation Extraction from Semi-Structured Webpages
University of Washington（华盛顿大学）；Amazon（亚马逊）；Allen Institute for AI（艾伦人工智能研究所）
在诸如半结构化网页的许多文档中，文本语义通过使用包括布局、字体大小和颜色的视觉元素传达的附加信息来增强。关于从半结构化网站中提取信息抽取的先前工作需要经由来自该模板的手动标记或远程监督的数据来学习特定于给定模板的提取模型。在这项工作中，我们提出了一个解决方案，“zero-shot”开放域关系抽取从网页与以前看不见的模板，包括从网站与现有的知识来源很少重叠的远程监督和网站在全新的主题垂直。我们的模型使用基于图神经网络的方法来构建网页上文本字段的丰富表示以及它们之间的关系，从而能够泛化到新的模板。实验表明，该方法提供了一个31%的F1增益超过基线的zero-shot提取在一个新的主题垂直。
2020-05-14 cs.CL cs.IR
Prototypical Representation Learning for Relation Extraction
Tsinghua University（清华大学）；The University of Edinburgh（爱丁堡大学）；Alibaba Group（阿里巴巴集团）；Sun Yat-sen University（中山大学）
识别实体之间的关系是关系学习的关键任务。由于人类语言中存在大量的标签噪声和复杂的表达方式，从距离标注数据集中学习关系表示是一个困难的问题。本文的目的是学习预测，可解释的，和强大的关系表示，从远距离标记的数据是有效的，在不同的设置，包括监督，远距离监督，和少样本学习。而不是仅仅依赖于从嘈杂的标签的监督，我们建议从上下文信息中学习每个关系的原型，以最好地探索关系的内在语义。原型是特征空间中的表示，抽象出句子中实体之间关系的基本语义。我们基于具有清晰几何解释的目标来学习原型，其中原型是均匀分散在单位球中的单位向量，并且语句嵌入集中在球表面上相应原型向量的末端。这种方法使我们能够学习有意义的，可解释的原型，用于最终分类。几个关系学习任务的结果表明，我们的模型显着优于以前的国家的最先进的模型。我们进一步证明了编码器的鲁棒性和原型的可解释性与广泛的实验。
2021-03-22 cs.AI cs.CL
Large-Scale Multi-Document Summarization with Information Extraction and Compression
Northwestern University（西北大学）
我们开发了一个抽象的摘要框架独立的标记数据的多个异构文档。与现有的多文档摘要方法不同，我们的框架处理讲述不同故事的文档，而不是同一主题的文档。我们还增强了现有的句子融合方法与一个单向的语言模型优先融合的句子概率较高，以提高可读性的目标。最后，我们基于CNN/Daily Mail和NewsRoom数据集构建了总共12个数据集变体，其中每个文档组包含大量不同的文档集合，以评估我们的模型与其他基线系统相比的性能。我们的实验表明，我们的框架优于当前国家的最先进的方法，在这个更通用的设置。
2022-05-01 cs.CL cs.IR
Towards a relation extraction framework for cyber-security concepts
University of Washington（华盛顿大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
为了帮助安全分析人员获得与其网络有关的信息，例如新的漏洞、利用或补丁，需要针对安全域定制的信息检索方法。由于标记的文本数据是稀缺和昂贵的，我们遵循半监督自然语言处理的发展，并实现了一个自举算法提取安全实体和它们的关系，从文本。该算法需要很少的输入数据，具体地说，一些关系或模式（识别关系的逻辑），并结合了一个主动学习组件，该组件询问用户最重要的决定，以防止偏离所需的关系。在一个小型语料库上的初步测试显示了良好的效果，获得了.82的精度。
2015-04-16 cs.CL cs.CR cs.IR
