SpanRE: Entities and Overlapping Relations Extraction Based on Spans and Entity Attention
ZheJiang University(浙江大学)
本文提出SpanRE方法,通过标准片段机制抽取候选主体,并利用带标签的片段机制同时抽取客体和关系,结合实体注意力机制增强信息融合,在两个公开数据集上取得最佳性能,彻底解决了三元组重叠问题。
2023-04-06 cs.CL
Pre-training to Match for Unified Low-shot Relation Extraction
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Beijing Academy of Artificial Intelligence(北京人工智能研究院)
低比例关系抽取RE的目标是在很少甚至没有样本的情况下识别新的关系,这在实际应用中至关重要。Few-Shot和zero-shot RE是两种典型的低发射RE任务,它们看似目标相似,但要求的底层能力却完全不同。在本文中,我们提出了多选择匹配网络来统一低镜头关系抽取。为了填补zero-shot和few-shot RE之间的空白,提出了三元组释义元训练方法,利用三元组释义预训练zero-shot标签匹配能力,并使用元学习范式学习Few-Shot实例摘要能力。实验结果表明,该方法在3种低镜头RE任务上的性能明显优于强基线,在Few-Shot少镜头RE排行榜上的性能最好。
2022-03-23 cs.CL
Minimize Exposure Bias of Seq2Seq Models in Joint Entity and Relation Extraction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Kyoto University(京都大学);Hunan Normal University(湖南师范大学);Waseda University(早稻田大学)
实体和关系抽取联合抽取的目的是直接从纯文本中抽取关系三元组。先前的工作利用序列到序列(Seq2Seq)模型来生成三联体序列。然而,Seq2Seq对无序三元组强制执行不必要的顺序,并且涉及与错误累积相关联的大解码长度。这些引入暴露偏差,这可能导致模型过拟合频繁的标签组合,从而恶化泛化。我们提出了一种新的序列到无序多树(Seq2UMTree)模型,通过将解码长度限制为三个三元组内的三个,并删除三元组之间的顺序,以尽量减少曝光偏差的影响。我们在两个数据集DuIE和NYT上评估了我们的模型,并系统地研究了暴露偏倚如何改变Seq2Seq模型的性能。实验表明,最先进的Seq2Seq模型对两个数据集都过拟合,而Seq2UMTree显示出更好的泛化能力。我们的代码可在https://github.com/WindChimeRan/OpenJERE上获得。
2020-10-06 cs.AI cs.CL cs.LG
TriG-NER: Triplet-Grid Framework for Discontinuous Named Entity Recognition
The University of Sydney(悉尼大学);The University of Melbourne(墨尔本大学);The University of Manchester(曼彻斯特大学)
针对不连续命名实体识别中现有方法依赖自定义标注方案、泛化性差的问题,提出基于词元级三元组损失的TriG-NER框架,在三个基准数据集上优于现有网格架构,提升了实体边界检测效果与方案适应性。
2025-03-24 cs.CL
Triplètoile: Extraction of Knowledge from Microblogging Text
University of Cagliari(卡利亚里大学);European Commission, Joint Research Centre (DG JRC)(欧洲委员会联合研究中心);Laboratoire d’Informatique de Paris Nord, Sorbonne Paris Nord University(巴黎北信息学实验室,巴黎北索邦大学);GESIS Leibniz Institute for the Social Sciences(莱布尼茨社会科学研究所(GESIS));Knowledge Media Institute, The Open University(开放大学知识媒体研究所);University of Milano Bicocca(米兰比可卡大学)
本文提出一种增强的信息提取流程,利用依存句法分析和词嵌入层次聚类进行无监督关系分类,从社交媒体微博客帖子中提取开放域实体知识图谱,精确度超95%且优于类似流程。
2024-08-27 cs.CE cs.CL cs.IR
PiPMRE: A Pipeline Based on Language Model for Medical Relation Extraction
School of Software and Microelectronics, Peking University(北京大学软件与微电子学院)
本研究针对现有医学关系抽取方法的缺陷,提出基于语言模型的PiPMRE流水线框架,经实验验证其在公开数据集上性能优于现有最优方法,少样本场景下也表现出色。
2026-09-04 cs.CL
RED$^{\rm FM}$: a Filtered and Multilingual Relation Extraction Dataset
Babelscape(Babelscape公司);Sapienza University of Rome(罗马第一大学);Paderborn University(帕德博恩大学)
本文提出RED$^{\ m FM}$数据集及SRED$^{\ m FM}$,用于多语言关系抽取,并首次实验端到端多语言模型mREBEL,以解决现有数据集覆盖不足的问题。
2023-06-19 cs.CL
FinRED: A Dataset for Relation Extraction in Financial Domain
IIT Kharagpur(印度理工学院克勒格布尔分校);Goldman Sachs(高盛集团);LU, Hannover(汉诺威莱布尼茨大学)
针对金融领域缺乏大规模开源关系抽取数据集的问题,本文发布基于金融新闻和财报电话纪要、通过远程监督映射 Wikidata 三元组构建的 FinRED,并建立基准,验证现有模型在金融关系抽取上性能明显下降。
2023-06-06 cs.CL
GenIE: Generative Information Extraction
Ecole Polytechnique Fédérale de Lausanne(洛桑联邦理工学院);University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学);Meta AI
文本的结构化和接地表示通常通过封闭的信息抽取来形式化,封闭的信息抽取是从知识库模式中抽取与预定义的实体和关系集一致的(主题,关系,对象)三元组的穷举集的问题。现有的大多数工作都是流水线式的,容易产生错误积累,而且所有的方法都只适用于不切实际的少量实体和关系。我们介绍GenIE(生成信息抽取),第一个端到端的自回归公式的封闭信息抽取。GenIE通过自回归生成文本形式的关系和实体,自然地利用来自预训练的Transformer的语言知识。由于一个新的双层约束生成策略,只有三元组符合预定义的知识库模式产生。我们的实验表明,GenIE是封闭的信息抽取的最先进的,从更少的训练数据点比基线,并扩展到以前无法管理的实体和关系的数量。通过这项工作,封闭的信息抽取在现实场景中变得实用,为下游任务提供了新的机会。最后,这项工作为信息抽取核心任务的统一端到端方法铺平了道路。代码、数据和模型可在https://github.com/epfl-dlab/GenIE获得。
2022-04-13 cs.CL cs.LG stat.ML
DiffIE: Diffusion-based Open Information Extraction
Matrosov Institute for System Dynamics and Control Theory, SB RAS(俄罗斯科学院西伯利亚分院马特罗夫系统动力学与控制理论研究所);AI Talent Hub, ITMO University(ITMO大学AI人才中心);MWS AI;Trusted AI Research Center, RAS(俄罗斯科学院可信人工智能研究中心);IITU University(IITU大学)
DiffIE是基于扩散模型的开放信息抽取方法,通过独立反向扩散轨迹生成候选三元组池,在多个公开基准上达到最优性能,为多输出结构化预测提供了有效机制。
2026-09-03 cs.AI cs.CL
Position-Aware Tagging for Aspect Sentiment Triplet Extraction
Singapore University of Technology and Design(新加坡科技设计大学);DAMO Academy, Alibaba Group(阿里巴巴达摩院);ByteDance(字节跳动)
Aspect Sentiment Triplet Extraction(ASTE)是提取目标实体的三元组,它们的相关情感和解释情感原因的意见跨度的任务。现有的研究工作大多使用流水线方法来解决这个问题,该方法将三重态提取过程分成几个阶段。我们的观察是,三个元素内的三个三联体是高度相关的,这促使我们建立一个联合模型,以提取这样的三联体使用序列标签的方法。然而,如何有效地设计一个标签的方法来提取三元组,可以捕捉元素之间的丰富的相互作用是一个具有挑战性的研究问题。在这项工作中,我们提出了第一个端到端的模型与一个新的位置感知的标签计划,能够共同提取的三胞胎。我们在几个现有数据集上的实验结果表明,使用我们的方法联合捕获三元组中的元素可以提高现有方法的性能。我们还进行了大量的实验,以研究模型的有效性和鲁棒性。
2021-03-09 cs.CL
REKnow: Enhanced Knowledge for Joint Entity and Relation Extraction
AWS AI Labs(亚马逊云科技人工智能实验室)
关系抽取是一项重要但具有挑战性的任务,旨在从文本中提取所有隐藏的关系事实。随着深度语言模型的发展,关系抽取方法在各种基准测试中取得了良好的性能。然而,我们观察到以前的方法的两个缺点:第一,没有统一的框架,以及在各种关系抽取设置;第二,有效地利用外部知识作为背景信息是缺席。在这项工作中,我们提出了一个知识增强的生成模型来缓解这两个问题。我们的生成模型是一个统一的框架,顺序生成各种关系抽取设置下的关系三元组,并明确利用相关知识从知识图谱(KG)来解决歧义。我们的模型在多个基准测试和设置上实现了卓越的性能,包括WebNLG、NYT 10和TACRED。
2022-08-16 cs.CL cs.IR
Efficient Knowledge Graph Validation via Cross-Graph Representation Learning
State University of New York at Buffalo(纽约州立大学布法罗分校);Pennsylvania State University(宾夕法尼亚州立大学)
信息抽取技术的最新进展促使人们从大规模文本语料库中挖掘出大量的知识图谱来自动构建知识图谱。然而,噪声的事实是不可避免地引入到KG,可能会导致自动提取。为了验证事实的正确性(即,三元组),一种可能的方法是通过捕获事实的语义含义来将三元组映射到向量表示中。虽然已经为知识图谱开发了许多表示学习方法,但是这些方法对于验证不是有效的。他们通常假设事实是正确的,因此可能过度拟合噪声事实,而无法检测到这些事实。为了有效的KG验证,我们建议利用外部人工策划的KG作为辅助信息源,以帮助检测目标KG中的错误。外部KG建立在人工管理的知识库之上,往往具有很高的精度。另一方面,尽管通过从文本中信息抽取构建的目标KG具有低精度,但它可以覆盖任何人类策划的知识库中没有的新的或特定于领域的事实。为了解决这个具有挑战性的任务,我们提出了一个交叉图表示学习框架,即,CrossVal,它可以利用外部KG来有效地验证目标KG中的事实。这是通过基于语义嵌入三元组、绘制跨KG负样本并基于其正确性程度估计每个三元组的置信度得分来实现的。我们在不同领域的数据集上评估了所提出的框架。实验结果表明,该框架实现了最好的性能相比,国家的最先进的方法在大规模的幼儿园。
2020-08-16 cs.AI cs.CL
Semantic and Syntactic Enhanced Aspect Sentiment Triplet Extraction
National Engineering Research Center for Big Data Technology and System(国家大数据技术与系统工程研究中心);Huazhong University of Science and Technology(华中科技大学);University of Montreal(蒙特利尔大学);Mila(米拉人工智能研究所)
Aspect Sentiment Triplet Extraction(ASTE)是一种从句子中提取三元组的方法,每个三元组包括一个实体,其相关的情感,以及解释情感原因的观点跨度。现有的研究大多采用多级流水线的方式来解决这一问题,这种方式忽略了这三个元素之间的互信息,并且存在误差传播的问题。在本文中,我们提出了一个语义和句法增强方面的情感三元组提取模型(S3 E2),充分利用三元组元素之间的句法和语义关系,并共同提取它们。具体来说,我们为ASTE的任务设计了一个图-序列双重表示和建模范式:我们用图表示句子中单词对之间的语义和句法关系,并通过图神经网络(GNNs)对其进行编码,以及通过LSTM对原始句子进行建模以保留顺序信息。在这种情况下,我们进一步应用一个更有效的推理策略提取三胞胎。在四个基准数据集上的广泛评估表明,S3 E2显着优于现有的方法,这证明了我们的S3 E2的优越性和灵活性,在端到端的方式。
2021-06-07 cs.CL
AutoRE: Document-Level Relation Extraction with Large Language Models
Tsinghua University(清华大学)
本文提出AutoRE,一种基于RHF范式的端到端文档级关系抽取模型,无需预设关系选项,结合QLoRA实现高效微调,在RE-DocRED数据集上达到SOTA性能。
2024-07-26 cs.AI cs.CL
A Multi-task Learning Framework for Opinion Triplet Extraction
Beijing Institute of Technology(北京理工大学);University of Padova(帕多瓦大学)
基于情感分析的情感分析(ABSA)方法主要基于检测方面术语及其相应的情感极性,或者基于共同提取方面和观点术语。然而,方面的情感对的提取缺乏意见条款作为参考,而方面和意见条款的共同提取不会导致有意义的对,而不确定其情感依赖。为了解决这个问题,我们提出了一个新的观点ABSA作为一个意见三元组提取任务,并提出了一个多任务学习框架,共同提取方面的条款和意见条款,并同时解析它们之间的情感依赖与biaffine评分。在推理阶段,通过基于上述输出的三元组解码方法来促进三元组的提取。我们评估拟议的框架上的四个SemEval ASBA基准。结果表明,我们的方法显著优于一系列强基线和最先进的方法。
2020-10-31 cs.CL
Learning Span-Level Interactions for Aspect Sentiment Triplet Extraction
Singapore University of Technology and Design(新加坡科技设计大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
Aspect Sentiment Triplet Extraction(ASTE)是ABSA的最新子任务,它输出一个Aspect目标,其相关的情感和相应的意见术语的三元组。最近的模型以端到端的方式执行三元组提取,但严重依赖于每个目标词和意见词之间的相互作用。因此,它们不能在包含多个单词的目标和观点上表现良好。我们提出的跨度级方法明确考虑了整个跨度的目标和意见之间的相互作用时,预测他们的情感关系。因此,它可以使用整个跨度的语义进行预测,确保更好的情感一致性。为了缓解跨度枚举造成的高计算成本,我们提出了一个双通道跨度修剪策略,将监督方面的术语提取(ATE)和意见术语提取(OTE)任务。该策略不仅提高了计算效率,而且更好地区分了意见和目标区间。我们的框架同时实现了强大的性能为ASTE以及ATE和OTE任务。特别是,我们的分析表明,我们的跨度水平的方法实现了更显着的改进,超过基线上的三胞胎与多字的目标或意见。
2021-07-26 cs.CL
Aspect-Sentiment-Multiple-Opinion Triplet Extraction
College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Tencent Inc.(腾讯公司)
方面情感三元组提取(ASTE)旨在从句子中提取方面术语(方面),情感和意见术语(意见)三元组,并且可以讲述一个完整的故事,即,讨论的方面,对方面的感情,以及感情的原因。ASTE是一个很有吸引力的任务,然而,ASTE提取的一个三元组只包括体的一个观点,但是句子中的体可能有多个对应的观点,并且一个观点只提供了体具有这种情感的部分原因,因此,ASTE提取的一些三元组很难理解,并且为下游任务提供错误信息。在本文中,我们介绍了一个新的任务,命名为方面情绪多意见三元组提取(ASMOTE)。ASMOTE旨在提取方面,情感和多个意见三元组。具体地说,ASMOTE提取的一个三元组包含关于方面的所有意见,并可以告诉方面具有情感的确切原因。我们提出了一个AGF框架来解决这个问题。AGF首先提取方面,然后预测他们的意见和情绪。此外,在所提出的序列标记注意力(SLA)的帮助下,AGF使用提取的意见提高了情感分类的性能。在多个数据集上的实验结果证明了该方法的有效性。
2021-10-14 cs.CL
A More Fine-Grained Aspect-Sentiment-Opinion Triplet Extraction Task
Tencent Inc.(腾讯公司);College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Baidu Inc.(百度公司)
体情感三元组提取(ASTE)旨在从句子中提取体词、情感和观点词三元组,并试图为基于体的情感分析(ABSA)提供一个完整的解决方案。然而,ASTE提取的一些三元组是令人困惑的,因为ASTE提取的三元组中的情感是句子对体项表达的情感,而不是体项和观点项对的情感。在本文中,我们介绍了一个更细粒度的情绪-情感-意见三元组提取(ASOTE)任务。ASOTE还提取了方面术语、情感和观点术语三元组。然而,ASOTE提取的三元组中的情感是方面术语和观点术语对的情感。我们基于几个流行的ABSA基准为ASOTE构建了四个数据集。我们提出了一个基于位置感知BERT的框架(PBF)来解决这个问题。PBF首先从句子中提取体词。对于每个提取的方面术语,PBF首先生成方面术语特定的句子表示,同时考虑方面术语的含义和位置,然后提取相关联的意见术语,并预测的方面术语和意见术语对的情感的句子表示的基础上。在四个数据集上的实验结果表明了PBF的有效性。
2021-08-29 cs.CL
A Better Choice: Entire-space Datasets for Aspect Sentiment Triplet Extraction
Tencent Inc(腾讯公司);Shenzhen University(深圳大学)
体情感三元组提取(ASTE)的目的是从句子中提取体术语,情感和意见术语三元组。由于用于评估ASTE模型的初始数据集存在缺陷,后来有几项研究更正了初始数据集,并独立发布了新版本的数据集。因此,不同的研究选择不同版本的数据集来评估他们的方法,这使得ASTE相关的工作难以遵循。本文分析了不同版本数据集之间的关系,并建议在ASTE中使用全空间版本。全空间版本除了包含三元组的句子和句子中的三元组之外,还包括不包含三元组的句子和不属于任何三元组的体术语。因此,全空间版本与真实世界场景一致,并且在全空间版本上评估模型可以更好地反映模型在真实世界场景中的性能。此外,实验结果表明,在非全空间数据集上评估模型会膨胀现有模型的性能,在全空间版本上训练的模型可以获得更好的性能。
2022-12-18 cs.CL
First Target and Opinion then Polarity: Enhancing Target-opinion Correlation for Aspect Sentiment Triplet Extraction
Peking University(北京大学);Baidu Inc.(百度公司)
Aspect Sentiment Triplet Extraction(ASTE)旨在从句子中提取三元组,包括目标实体,相关的情感极性和使极性合理化的意见跨度。现有的方法缺乏对目标-意见对之间的关联性,忽视了不同情感三元组之间的相互干扰。为了解决这些问题,我们利用一个两阶段的框架,以提高目标和意见之间的相关性:在第一阶段,我们提取目标和意见,通过序列标记,然后我们附加一组人工标签命名为感知对,这表明一个特定的目标意见元组的跨度,到输入的句子,以获得更密切相关的目标意见对表示。同时,我们通过限制标记的注意场来减少三胞胎之间的负面干扰。最后,根据感知对的表征来识别极性。我们在四个数据集上进行了实验,实验结果表明了我们的模型的有效性。
2021-11-01 cs.CL
Zero-shot Triplet Extraction by Template Infilling
University of California, San Diego(加州大学圣地亚哥分校);Megagon Labs(Megagon实验室);Carnegie Mellon University(卡内基梅隆大学)
本文提出 ZETT 框架,将三元组抽取转化为预训练语言模型的模板填充任务,赋予模型零样本抽取未见关系的能力,并在 FewRel 和 Wiki-ZSL 上超越现有最优方法。
2023-09-20 cs.CL
Entity-Relation Extraction as Multi-Turn Question Answering
Computer Science Department, Stanford University(计算机科学系,斯坦福大学)
研究提出将实体关系提取转化为多轮问答的新范式,利用问题查询信息、联合建模并借助机器阅读理解模型,在多个数据集上显著优于先前模型,在新构建的中文数据集RESUME上也表现最佳。
2026-07-22 cs.CL
Modeling Instance Interactions for Joint Information Extraction with Neural High-Order Conditional Random Field
Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院);ShanghaiTech University(上海科技大学);Beijing Jiaotong University(北京交通大学)
本文提出CRFIE框架,将联合信息抽取建模为高阶条件随机场,通过二元和三元因子建模实例间交互,并结合高阶神经解码器实现一致学习与推断,在三个IE任务上取得一致提升。
2023-05-28 cs.CL
FOAL: Fine-grained Contrastive Learning for Cross-domain Aspect Sentiment Triplet Extraction
National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);ByteDance(字节跳动)
本文提出FOAL方法,通过细粒度对比学习减少跨领域差异,在六个迁移对上实现6%性能提升,缓解目标领域标注数据依赖问题。
2023-11-17 cs.CL
Zero- and Few-Shots Knowledge Graph Triplet Extraction with Large Language Models
The Australian National University(澳大利亚国立大学);The University of New South Wales(新南威尔士大学);The University of Sydney(悉尼大学);University of Turku(图尔库大学)
本文提出一种从知识库动态收集上下文三元组和示例的流程,以提示增强LLMs,使其在零样本和少样本三元组抽取中达到与BiLSTM基线相当的性能,并发现上下文质量与性能强相关而模型规模仅呈对数提升。
2023-12-04 cs.CL
Relation Extraction Model Based on Semantic Enhancement Mechanism
School of Computer Science (National Pilot Software Engineering School), Beijing University of Posts and Telecommunications(计算机学院(国家试点软件工程学院)、北京邮电大学);Beijing Key Laboratory of Intelligent Telecommunication Software and Multimedia(智能电信软件与多媒体北京重点实验室);Beijing University of Posts and Telecommunications(北京邮电大学)
研究自然语言处理中关系抽取的三元组重叠问题,提出基于CasRel框架结合语义增强机制的CasAug模型,通过对可能主语预分类、计算语义相似度等操作,提升关系抽取效果,增强处理重叠问题及抽取多关系的能力。
2026-07-13 cs.CL
Explicit Interaction Network for Aspect Sentiment Triplet Extraction
Peking University(北京大学)
体情感三元组提取(ASTE)的目的是识别目标,他们的情感极性和意见解释的情感从一个句子。ASTE可以自然地分为3个原子子任务,即目标检测、观点检测和情感分类。我们认为,适当的子任务组合,成分特征提取的目标意见对,和子任务之间的互动将是成功的关键。然而,以前的工作,可能会失败的“一对多”或“多对一”的情况下,或获得不存在的情绪三元组由于有缺陷的子任务制定,次优的功能表示或缺乏子任务的相互作用。本文将ASTE分为目标-观点联合检测和情感分类两个符合人类认知的子任务,并分别采用序列编码器和表格编码器进行处理。表格编码器在标记对级别提取情感,以便可以容易地捕获目标和观点之间的组合特征。为了建立子任务之间的显式交互,我们利用表表示来指导序列编码,并将序列特征注入到表编码器中。实验表明,我们的模型在六个流行的ASTE数据集上的性能优于最先进的方法。
2021-11-17 cs.CL
LLM-based Atomic Propositions help weak extractors: Evaluation of a Propositioner for triplet extraction
Université Paris-Saclay, CNRS, LISN(巴黎-萨克雷大学,法国国家科学研究中心,语言与语音处理实验室);AMIAD, Pôle Recherche(AMIAD,研究部)
本文探讨通过将文本分解为原子命题来提升三元组提取效果,引入MPropositionneur-V2模型,并在多个数据集上验证其对弱提取器的增强作用。
2026-04-03 cs.CL
Contrastive Triple Extraction with Generative Transformer
Zhejiang University(浙江大学);AZFT Joint Lab for Knowledge Engine(AZFT知识引擎联合实验室);Alibaba Group(阿里巴巴集团)
三元抽取是信息抽取中自然语言处理和知识图谱构建的一项重要任务。在本文中,我们重新审视了端到端的三重提取任务的序列生成。由于生成三元组提取可能难以捕获长期依赖关系并生成不忠实的三元组,因此我们引入了一种新的模型,具有生成Transformer的对比三元组提取。具体来说,我们引入了一个共享的Transformer模块,用于基于编码器-解码器的生成。为了生成可靠的结果,我们提出了一种新的三元组对比训练对象。此外,我们引入了两种机制来进一步提高模型性能(即,分批动态注意力掩蔽和三重校准)。三个数据集(即,NYT,WebNLG和MIE)表明,我们的方法比基线实现了更好的性能。
2022-07-21 cs.AI cs.CL cs.DB
Consistency Guided Knowledge Retrieval and Denoising in LLMs for Zero-shot Document-level Relation Triplet Extraction
Nanjing University of Science and Technology(南京理工大学);Northeastern University(东北大学);Singapore Institute of Technology(新加坡理工大学);Singapore University of Technology and Design(新加坡科技设计大学)
针对文档级关系三元组抽取标注稀缺问题,提出 GenRDK,用检索链提示生成数据并基于跨文档一致性去噪,微调 LLaMA2-13B-Chat,在两个数据集上超越强基线。
2024-01-24 cs.CL
Prototype-Regularized Federated Learning for Cross-Domain Aspect Sentiment Triplet Extraction
State Key Laboratory of Public Big Data, Guizhou University(贵州大学公共大数据国家重点实验室);College of Computer Science and Technology, Guizhou University(贵州大学计算机科学与技术学院);School of Information Engineering, Guangdong University of Technology(广东工业大学信息工程学院);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院)
本文提出PCD-SpanProto框架,通过原型正则化联邦学习实现跨域方面情感三元组提取,提升全局原型在域异质性下的表现,并降低通信成本。
2026-04-10 cs.CL
PASTE: A Tagging-Free Decoding Framework Using Pointer Networks for Aspect Sentiment Triplet Extraction
IIT Kharagpur(印度理工学院卡拉格普尔分校)
Aspect Sentiment Triplet Extraction(ASTE)处理提取意见三元组,其由意见目标或方面、其相关联的意见以及解释意见背后的基本原理的相应意见术语/跨度组成。现有的研究工作主要是基于标记的。在采用序列标记方法的方法中,有些方法未能捕获三个意见因素之间的强烈相互依赖性,而另一些方法则无法识别具有重叠方面/意见跨度的三胞胎。另一方面,最近的网格标记方法在预测方面-意见对之间的情感时未能捕获跨度级语义。与此不同的是,我们提出了一个无标记的解决方案的任务,同时解决现有的工作的局限性。我们采用基于指针网络的解码框架的编码器-解码器架构,该框架在每个时间步生成整个意见三元组,从而使我们的解决方案端到端。方面和意见之间的相互作用被解码器有效地捕获,通过考虑它们的整个检测到的跨度,同时预测它们的连接情绪。在几个基准数据集上进行的大量实验表明,我们提出的方法具有更好的效果,特别是在召回方面,以及从同一评论句中预测多个方面/观点重叠的三元组。我们报告我们的结果,无论有和没有BERT,也证明了实用程序的特定领域的BERT后训练的任务。
2021-10-10 cs.CL
MASTE: A Multi-Agent Pipeline for Zero-Shot Aspect Sentiment Triplet Extraction
Tsinghua University(清华大学);Wuhan University(武汉大学)
研究针对方面情感三元组提取问题,提出多智能体管道MASTE,将其分解为四个阶段,由专门智能体处理不同子任务,实现完全无训练的零样本提取,在多个基准测试中显著优于基线,缩小与全监督方法差距。
2026-07-10 cs.CL
Prompt-based Zero-shot Relation Extraction with Semantic Knowledge Augmentation
Virginia Tech(弗吉尼亚理工大学)
针对零样本关系三元组抽取中未见关系识别难题,提出 ZS-SKA,通过类比增强实例、知识图谱加权虚拟标签提示和原型网络度量关系表示,在三个数据集上取得优于已有方法的效果。
2024-03-01 cs.CL
CopyMTL: Copy Mechanism for Joint Extraction of Entities and Relations with Multi-Task Learning
Changsha University of Science & Technology(长沙理工大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Kyoto University(京都大学)
实体和关系的联合提取由于其为这两项任务提供更高性能的潜力而受到极大的关注。在现有的方法中,CopyRE是有效的和新颖的,它使用一个序列到序列的框架和复制机制,直接产生的关系三元组。然而,它有两个致命的问题。该模型在区分头部和尾部实体方面非常薄弱,导致实体提取不准确。它也不能预测多令牌实体(例如\textit{Steven Jobs})。针对这些问题,本文详细分析了实体抽取不准确的原因,并提出了一种简单但非常有效的模型结构来解决这个问题。此外,我们提出了一个多任务学习框架配备了复制机制,称为CopyMTL,允许模型预测多令牌实体。实验揭示了CopyRE的问题,并表明我们的模型在NYT和WebNLG(F1评分)中分别比当前最先进的方法提高了9%和16%。我们的代码可在https://github.com/WindChimeRan/CopyMTL上获得
2020-09-16 cs.CL cs.LG
MatSciRE: Leveraging Pointer Networks to Automate Entity and Relation Extraction for Material Science Knowledge-base Construction
Indian Institute of Technology, Kharagpur(印度理工学院卡哈拉格普尔分校);TCS Research Lab, Kolkata(塔塔咨询服务研究实验室(加尔各答));Indo-Korea Science and Technology(印韩科学技术研究院)
提出基于 Pointer Network 的 MatSciRE 编码器-解码器框架,从电池材料文献中联合抽取五类实体关系三元组,F1 分数优于 ChemDataExtractor。
2024-01-18 cs.CE cs.CL cs.IR
Measuring Your ASTE Models in The Wild: A Diversified Multi-domain Dataset For Aspect Sentiment Triplet Extraction
Nanjing University(南京大学);ByteDance(字节跳动)
本文提出人工标注的多领域ASTE数据集DMASTE,通过更真实多样的评论、更多方面类型和领域,证明其更具挑战性,并为跨领域研究提供方向。
2023-05-27 cs.CL
Graph-DPEP: Decomposed Plug and Ensemble Play for Few-Shot Document Relation Extraction with Graph-of-Thoughts Reasoning
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Futurewei Technologies Inc.(星网锐捷技术公司)
本文提出Graph-DPEP框架,通过分解式即插和集成式玩法,利用思维图推理,解决小样本文档级关系抽取中结构化输出转换和关系类型区分难题,在公开基准上表现优越。
2024-11-05 cs.AI cs.CL cs.IR
LLM-based Triplet Extraction from Financial Reports
KTH Royal Institute of Technology(皇家理工学院)
本文提出基于大语言模型的财务报告三元组提取方法,通过自动本体诱导和混合验证策略,提升提取准确率并减少幻觉问题。
2026-02-12 cs.CL
STAGE: Span Tagging and Greedy Inference Scheme for Aspect Sentiment Triplet Extraction
School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院);Joint Laboratory of HUST and Pingan Property & Casualty Research (HPL)(华中科技大学与平安财产保险研究院联合实验室);Beijing Institute of Technology(北京理工大学);Ping An Property & Casualty Insurance company of China, Ltd(中国平安财产保险股份有限公司)
针对现有ASTE模型依赖单词单角色假设和词级交互导致在复杂场景下表现不佳的问题,提出跨度标记与贪心推理方案STAGE,将其转化为多类跨度分类问题,在四个数据集上大幅超越现有最优方法且易于泛化。
2023-04-09 cs.CL
An Autoregressive Text-to-Graph Framework for Joint Entity and Relation Extraction
FI Group(FI集团)
本文提出一种基于跨度的自回归文本到图框架,将联合实体和关系抽取建模为条件序列生成问题,利用Transformer编码器-解码器与指针机制在动态词汇表上生成线性化图,在基准数据集上取得有竞争力的结果。
2024-01-15 cs.AI cs.CL cs.LG
Tell Me Why You Feel That Way: Processing Compositional Dependency for Tree-LSTM Aspect Sentiment Triplet Extraction (TASTE)
University of Hamburg(汉堡大学);Umeå University(于默奥大学)
情感分析已经从对整个句子的情感进行分类转变为提供句子中存在什么目标、各个目标具有什么情感以及负责该情感的因果词是什么的上下文信息。然而,这导致了对数据集的详细要求,这些数据集需要训练神经网络来完成确定实体、其情感以及该情感的因果词的联合三元组任务。需要这类数据来训练系统是有问题的,因为它们会受到叠加主观注释和域过度拟合的影响,导致在新的环境中应用时模型泛化能力差。随着我们今后试图共同确定其他背景要素,这些问题也可能变得更加复杂。为了缓解这些问题,我们提出了一种混合神经-符号方法,该方法利用依赖树-LSTM的组合情感解析结构和补充符号规则来正确地从句子中提取目标-情感-原因三元组,而不需要三元组训练数据。我们表明,这种方法有可能与最先进的方法保持一致,同时还简化了所需的数据,并通过Tree-LSTM提供了一定程度的可解释性。
2021-03-10 cs.CL
Train Once for All: A Transitional Approach for Efficient Aspect Sentiment Triplet Extraction
Columbia University(哥伦比亚大学);Shanghai Jiao Tong University(上海交通大学)
本文提出首个基于转移的联合提取模型,在线性时间内同时处理方面-观点对提取和方面情感三元组提取,并通过对比增强优化提升动作预测准确性,在组合数据集上取得最优F1性能。
2025-02-07 cs.CL
Calibrated Typed Decisions for Entity, Relation, and Event Extraction
University of Manchester(曼彻斯特大学);Mayo Clinic(梅奥诊所);Shanghai University of Finance and Economics(上海财经大学)
本文提出0.6B参数的统一模型CalOn,联合编码文本与类型定义完成实体、关系、事件等抽取任务,在40个基准测试中优于多数基线,校准后置信度估计提升且F1几乎无变化。
2026-10-14 cs.AI cs.CL
Test-Time Code-Switching for Cross-lingual Aspect Sentiment Triplet Extraction
Tencent(腾讯)
针对跨语言ASTE任务,提出测试时代码切换框架TT-CSW,通过训练双语生成模型和测试时对齐增强,在四个数据集上平均F1提升3.7%,并超越ChatGPT和GPT-4。
2025-01-24 cs.CL
Pretrained Language Encoders are Natural Tagging Frameworks for Aspect Sentiment Triplet Extraction
Sichuan University(四川大学);The University of Adelaide(阿德莱德大学);University of Electronic Science and Technology of China(电子科技大学);Tencent(腾讯)
方面情感三元组提取(ASTE)的目的是提取方面,意见,和他们的情感关系的跨度作为情感三元组。现有的工作通常制定跨度检测作为一个1D标记问题,和模型的情感识别与标记对的2D标记矩阵。此外,通过利用像BERT这样的预训练语言编码器(PLEs)的令牌表示,它们可以实现更好的性能。然而,他们只是利用PLEs作为特征提取器来构建他们的模块,但从来没有深入研究过PLEs包含哪些特定的知识。在本文中,我们认为,而不是进一步设计模块来捕获ASTE的归纳偏见,PLEs本身包含“足够”的功能,为1D和2D标记:(1)令牌表示包含的上下文意义的令牌本身,所以这个级别的功能携带必要的信息,为1D标记。(2)不同PLE层的注意力矩阵可以进一步捕获令牌对中存在的多层次语言知识,这有利于2D标注。(3)此外,通过简单的变换,这两个特征也可以容易地分别转换为2D标记矩阵和1D标记序列。这将进一步提高标记结果。通过大量的实验和深入的分析,验证了这种方法的有效性。
2022-08-20 cs.CL
GLiNER-Relex: A Unified Framework for Joint Named Entity Recognition and Relation Extraction
Knowledgator Engineering(Knowledgator工程公司);Baldor Technologies Pvt. Ltd. (IDfy)(Baldor技术私人有限公司(IDfy))
GLiNER-Relex通过统一架构实现命名实体识别与关系抽取,利用共享的双向Transformer编码器联合表示文本、实体类型和关系类型标签,支持零样本提取任意实体和关系类型,且在四个基准数据集上表现优异。
2026-05-11 cs.CL cs.LG
Learning to Extract Structured Entities Using Language Models
McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Microsoft Research(微软研究院);ETH Zürich(苏黎世联邦理工学院)
本文提出以实体为中心的结构化实体抽取任务、AESOP 评估指标及多阶段 MuSEE 模型,实验表明其效果与效率优于基线。
2024-10-02 cs.CL cs.LG
DetIE: Multilingual Open Information Extraction Inspired by Object Detection
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Huawei Noah’s Ark lab(华为诺亚方舟实验室);St. Petersburg Department of Steklov Mathematical Institute of Russian Academy of Sciences(俄罗斯科学院斯捷克洛夫数学研究所圣彼得堡分部);St. Petersburg State University(圣彼得堡国立大学);HSE University(高等经济大学);Kazan Federal University(喀山联邦大学);Sber AI(俄联邦储蓄银行人工智能实验室);Artificial Intelligence Research Institute(人工智能研究院);ISP RAS Research Center for Trusted Artificial Intelligence(俄罗斯科学院系统编程研究所可信人工智能研究中心);Neuromation OU
用于开放信息抽取(OpenIE)的现有技术神经方法通常以自回归或基于谓词的方式迭代地提取三元组(或元组),以便不产生重复。在这项工作中,我们提出了一种不同的方法来解决这个问题,可以同样或更成功。也就是说,我们提出了一种新的单通道方法OpenIE的启发目标检测算法从计算机视觉。我们使用基于二分匹配的顺序不可知的损失,迫使唯一的预测和基于transformer的编码器的序列标记架构。所提出的方法是更快的,并表现出优越或类似的性能与国家的最先进的模型在标准基准的质量指标和推理时间。我们的模型在CaRB上设置了67.7%F1的最新性能,评估为OIE 2016,同时推理速度比以前的最新技术水平快3.35倍。我们还在两种语言的zero-shot设置中评估了我们模型的多语言版本,并引入了一种生成合成多语言数据的策略,以微调每个特定语言的模型。在此设置中,我们在多语言Re-OIE 2016上显示性能提高了15%,葡萄牙语和西班牙语的F1达到了75%。代码和型号可在https://github.com/sberbank-ai/DetIE上获得。
2022-06-24 cs.CL
Jointly Embedding Relations and Mentions for Knowledge Population
Tsinghua University(清华大学);New York University(纽约大学)
本文提出了一个联合嵌入模型,用于在关系推理的场景中预测一对实体之间的关系。它不同于大多数独立的方法,这些方法分别在知识库或自由文本上运行。该模型同时学习知识库中三元组的低维向量表示和自由文本中关系的提及,以便我们可以利用这两种资源的证据进行更准确的预测。我们使用NELL来评估我们的方法的性能,与尖端的方法相比。大量实验结果表明,该模型在关系抽取方面取得了显著的改进。
2015-07-07 cs.CL
A Pairing Enhancement Approach for Aspect Sentiment Triplet Extraction
Soochow University(苏州大学)
提出一种基于对比学习的配对增强方法,在训练时注入方面-观点配对知识,提升方面情感三元组抽取性能,并在四个数据集上验证其有效性。
2023-06-11 cs.AI cs.CL cs.IR
Aspect Sentiment Triplet Extraction Using Reinforcement Learning
SUTD(新加坡科技设计大学);IIT KGP(印度理工学院克勒格布尔分校)
方面情感三元组提取(ASTE)是提取方面的任务,他们的相关情感,并提供证据的意见条款所表达的情感。以前的ASTE方法通常同时提取所有三个成分,或者首先识别方面和观点术语,然后将它们配对以预测它们的情感极性。在这项工作中,我们提出了一种新的范式,ASTE-RL,把方面和意见条款的论点表达的情绪在一个分层的强化学习(RL)框架。我们首先关注句子中表达的情感,然后确定该情感的目标方面和观点术语。这考虑了三重态组分之间的相互作用,同时提高了探测和样本效率。此外,这种层次化的RLsetup使我们能够处理多个和重叠的三元组。在我们的实验中,我们在笔记本电脑和餐厅领域的现有数据集上评估了我们的模型,并表明它达到了最先进的性能。这项工作的实施情况可在https://github.com/declare-lab/ASTE-RL上公开查阅。
2021-08-13 cs.AI cs.CL
Structural Bias for Aspect Sentiment Triplet Extraction
Beijing Institute of Technology(北京理工大学);Meituan NLP(美团自然语言处理团队)
结构偏差最近被利用方面的情感三元组提取(ASTE),并导致改善的性能。另一方面,人们认识到,显式地纳入结构偏差将对效率产生负面影响,而预训练的语言模型(PLM)已经可以捕获隐式结构。因此,一个自然的问题出现了:在PLM的背景下,结构性偏见仍然是必要的吗?为了回答这个问题,我们建议通过使用适配器来集成PLM中的结构偏差,并使用廉价的计算相对位置结构代替语法依赖结构来解决效率问题。对SemEval数据集进行基准评估。结果表明,我们提出的结构适配器是有益的PLM和实现国家的最先进的性能在一系列强基线,但具有轻的参数需求和低延迟。同时,我们也提出了目前小规模数据的评估默认值是不可信的。因此,我们为ASTE发布了一个大规模的数据集。新数据集上的结果表明,结构适配器在大规模上是有效和高效的。总的来说,我们得出的结论是,结构性偏见仍然是一个必要的,即使与PLM。
2022-09-02 cs.CL