Adaptive Ordered Information Extraction with Deep Reinforcement Learning
Fudan University（复旦大学）；DataGrand Inc.（DataGrand公司）；Fudan-Aishu Cognitive Intelligence Joint Research Center（复旦-数知认知智能联合研究中心）
针对复杂信息抽取中固定抽取顺序影响效果的问题，提出基于强化学习的自适应有序抽取范式及协同训练框架，动态生成最优抽取顺序以缓解曝光偏差，显著提升了复杂IE任务性能。
2023-06-19 cs.CL
Cross-Domain Contract Element Extraction with a Bi-directional Feedback Clause-Element Relation Network
Shandong University（山东大学）；Alibaba Group（阿里巴巴集团）；Indiana University Bloomington（印第安纳大学伯明顿分校）；University of Amsterdam（阿姆斯特丹大学）；Ahold Delhaize Research（阿霍德德尔海兹研究院）
合同要素提取（CEE）是自动识别和提取合同中的法律相关要素（如合同日期、付款和立法参考）的新任务。自动化方法将其视为序列标记问题，并大大减少了人工劳动。然而，由于合同类型和元素类型可能变化很大，因此该序列标记任务的重大挑战是如何将知识从一个领域转移到另一个领域，即，跨域CEE。跨域CEE与跨域命名实体识别（NER）在两个重要方面不同。首先，契约元素比命名实体更细粒度，这阻碍了提取器的转移。第二，跨域CEE的提取区域比跨域NER大得多。因此，来自不同领域的元素的上下文可以更加多样化。我们提出了一个框架，双向反馈cLause-Element relationnetwork（Bi-FLEET），跨域CEE任务，解决上述挑战。Bi-FLEET有三个主要组件：（1）上下文编码器，（2）子句元素关系编码器，以及（3）推理层。为了整合关于元素和子句类型的不变知识，跨域构造子句元素图，并在子句元素关系编码器中采用分层图神经网络。为了减少上下文变化的影响，在推理层设计了一个具有双向反馈机制的多任务框架，同时进行子句分类和元素提取。跨域NER和CEE任务的实验结果表明，Bi-FLEET显着优于最先进的基线。
2021-05-13 cs.CL cs.IR
Subversive Characters and Stereotyping Readers: Characterizing Queer Relationalities with Dialogue-Based Relation Extraction
School of Information, University of California, Berkeley（加州大学伯克利分校信息学院）
本文提出刻板关系抽取任务，通过对话关系抽取建模电视角色二元组合的社会关系，以模型预测与真实标签的差异衡量颠覆性，并用四个案例研究刻画三部美剧中酷儿关系性的表征。
2024-10-22 cs.CL
Unlocking the Power of Deep PICO Extraction: Step-wise Medical NER Identification
Southeast University（东南大学）；IBM Research（IBM研究院）
PICO框架（人群、干预、比较和结局）通常用于制定医学领域的证据。PICO抽取的主要任务是从医学文献中抽取句子并将其分类。然而，在大多数情况下，即使提取的句子已被归类为某个类别，提取的句子中也会存在多个证据。为了解决这个问题，我们提出了一个逐步的疾病命名实体识别（DNER）提取和PICO识别方法。该方法首先将论文标题和摘要中的句子划分为不同的PICO类，然后识别医学实体并将其划分为P类和O类。采用不同的深度学习框架进行实验，实验结果表明，与传统的PICO抽取方法相比，该方法能够获得高性能和细粒度的抽取结果。
2020-04-30 cs.CL cs.IR
ChatIE: Zero-Shot Information Extraction via Chatting with ChatGPT
Beijing Jiaotong University（北京交通大学）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）
本文提出ChatIE，一种基于ChatGPT的两阶段多轮问答框架，用于零样本信息抽取，在六个数据集上表现出色，甚至超越部分全样本模型。
2024-05-27 cs.CL
Nested Event Extraction upon Pivot Element Recogniton
School of Computer Science and Technology, University of Chinese Academy of Sciences（中国科学院大学计算机科学与技术学院）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
本文提出PerNee模型，通过识别兼具外层事件论元与内层事件触发词双重身份的枢轴元素，并结合提示学习提升嵌套事件抽取性能，同时构建了通用领域数据集ACE2005-Nest。
2024-04-07 cs.CL
Generating Information Extraction Patterns from Overlapping and Variable Length Annotations using Sequence Alignment
VA Boston Healthcare System（波士顿退伍军人医疗保健系统）；Boston University School of Medicine（波士顿大学医学院）；University of Vermont（佛蒙特大学）
序列比对用于通过比对包含重叠和可变长度注释的序列来捕获由代表多个概念级别的元素组成的模式。对齐还确定最直接地影响句子内给定目标的含义的单词和短语的适当上下文窗口，消除了对围绕目标的单词的固定上下文窗口的定位的需要。我们使用CoNLL-2003命名实体识别（NER）任务对系统进行了评估。
2019-09-18 cs.CL
Enhancing Relation Extraction via Supervised Rationale Verification and Feedback
Wuhan University（武汉大学）；Research Institute of Nuclear Power Operation（核动力运行研究所）
针对现有自动化反馈方法难以适配关系抽取任务的问题，提出含理据监督器的新型反馈框架，通过因果方法训练监督器并迭代修正，显著提升关系抽取效果。
2024-12-11 cs.AI cs.CL
A Novel Framework to Expedite Systematic Reviews by Automatically Building Information Extraction Training Corpora
Northwestern University（西北大学）；Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）；University of Manchester（曼彻斯特大学）
系统性综述识别和整理各种临床研究，并比较数据元素和结果，以便为特定临床问题提供基于证据的答案。这个过程是手动的，需要很多时间。目前还缺乏一种工具来自动化这一过程。这项工作的目的是开发一个框架，使用自然语言处理和机器学习来构建信息抽取算法，以识别新的主要出版物中的数据元素，而不必通过手动注释的昂贵任务来为每个数据元素类型构建黄金标准。该系统分两个阶段开发。最初，它使用现有系统评价中包含的信息，使用修改后的Jaccard相似性度量，从包含特定数据元素的参考文献的PDF文件中识别句子。将这些句子作为标记数据，训练支持向量机（SVM）分类器，从新文章中提取感兴趣的数据元素。我们使用纳入标准作为示例数据元素，对与充血性心力衰竭相关的Cochrane数据库系统评价进行了实验。实验结果表明，该系统自动识别包含感兴趣的数据元素的句子，具有较高的召回率（93.75%）和合理的精度（27.05% -这意味着审稿人平均只需阅读3.7个句子）。实证结果表明，该工具是检索有价值的信息，从参考文章，即使它是耗时的手动识别。因此，我们希望该工具将是有用的自动数据提取生物医学研究出版物。这项工作的未来范围是将这一信息框架推广到所有类型的系统评价。
2016-06-21 cs.CL cs.IR cs.LG
Knowledge Graph Enhanced Event Extraction in Financial Documents
ShanghaiTech University（上海科技大学）
事件抽取是自然语言处理中的一个经典任务，在处理大量快速增长的金融、法律、医疗和政府文档中得到了广泛的应用，这些文档通常包含多个事件，并且这些事件的元素分散和混合在文档中，使得问题变得更加困难。虽然被提取的事件元素之间的潜在关系提供了有用的上下文信息，但它们在以前的研究中被忽视了。我们展示了利用知识图谱捕获实体关系及其属性所带来的增强。我们提出了第一个事件提取框架，该框架通过图神经网络嵌入知识图谱，并将嵌入与常规特征集成，所有这些都在文档级。具体来说，对于从中国的财务公告中提取事件，我们的方法优于国家的最先进的方法在F1分数的5.3%。
2021-09-06 cs.CL cs.IR cs.LG
Entity Structure Within and Throughout: Modeling Mention Dependencies for Document-Level Relation Extraction
Baidu Inc.（百度公司）
实体作为关系抽取任务中的基本元素，具有一定的结构性。在这项工作中，我们制定了这样的结构提到对之间的独特的依赖关系。然后，我们提出了SSAN，它将这些结构的依赖性内的标准自我注意力机制，并在整个编码阶段。具体来说，我们在每个自我注意构建块内设计了两个替代转换模块来产生注意偏差，从而自适应地调整其注意流。我们的实验证明了所提出的实体结构和SSAN的有效性。它显著优于竞争基准，在三个流行的文档级关系抽取数据集上获得了最新的结果。我们进一步提供消融和可视化来展示实体结构如何引导模型以获得更好的关系抽取。我们的代码是公开的。
2021-02-20 cs.AI cs.CL
LLMs Accelerate Annotation for Medical Information Extraction
Google Research（谷歌研究院）
针对医学文本标注耗时昂贵的问题，提出LLMs与人类专家协同生成真值标签的方法，在医学信息抽取任务中减少人工干预并保持高准确率。
2023-12-04 cs.AI cs.CL cs.LG
Adaptive Reinforcement Learning Planning: Harnessing Large Language Models for Complex Information Extraction
Fudan University（复旦大学）
本文提出一种基于LLM的两阶段多步信息抽取方法，将顺序抽取视为马尔可夫决策过程，并利用DDQN算法训练决策模块以自适应提供实体抽取最优顺序，有效提升了LLMs在复杂任务上的抽取能力。
2024-08-29 cs.AI cs.CL
ZeroShotCeres: Zero-Shot Relation Extraction from Semi-Structured Webpages
University of Washington（华盛顿大学）；Amazon（亚马逊）；Allen Institute for AI（艾伦人工智能研究所）
在诸如半结构化网页的许多文档中，文本语义通过使用包括布局、字体大小和颜色的视觉元素传达的附加信息来增强。关于从半结构化网站中提取信息抽取的先前工作需要经由来自该模板的手动标记或远程监督的数据来学习特定于给定模板的提取模型。在这项工作中，我们提出了一个解决方案，“zero-shot”开放域关系抽取从网页与以前看不见的模板，包括从网站与现有的知识来源很少重叠的远程监督和网站在全新的主题垂直。我们的模型使用基于图神经网络的方法来构建网页上文本字段的丰富表示以及它们之间的关系，从而能够泛化到新的模板。实验表明，该方法提供了一个31%的F1增益超过基线的zero-shot提取在一个新的主题垂直。
2020-05-14 cs.CL cs.IR
Robust Benchmarking for Machine Learning of Clinical Entity Extraction
Massachusetts Institute of Technology（麻省理工学院）；Massachusetts General Hospital（麻省总医院）
临床研究通常需要理解仅存在于自由文本临床笔记中的患者叙述的元素。为了将注释转换为结构化数据以供下游使用，通常提取这些元素并将其规范化为医学词汇表。在这项工作中，我们审计的性能，并指出国家的最先进的系统的改进领域。我们发现，2019年n2c2共享任务中临床实体标准化系统的高任务准确性具有误导性，并且潜在性能仍然脆弱。对于常见概念，归一化准确率很高（95.3%），但对于训练数据中看不到的概念，归一化准确率要低得多（69.3%）。我们证明，目前的方法是阻碍部分医学词汇的不一致，现有的标签模式的限制，和狭窄的评估技术。我们重新制定了临床实体提取的注释框架，以考虑这些问题，从而实现强大的端到端系统基准测试。我们从我们的新框架之间的两个注释器的注释一致性进行评估，并实现了0.73的Jaccard相似性实体识别和0.83的协议实体规范化。我们提出了一条前进的道路，以解决证明需要创建一个参考标准，以刺激实体识别和规范化的方法开发。
2020-07-31 cs.CL cs.LG
Diagnosing the Fact-Grounding Gap in Multi-Hop Question Answering
Northwestern University（西北大学）
本研究诊断多跳问答中的事实锚定差距，发现失败分为检索失败和提取失败，后者占近半缺陷且无法通过检索改进解决，需不同解决方案。
2026-09-16 cs.AI cs.CL cs.IR
DocAnnot -- Accelerating the Creation of Key Information Extraction Datasets with GenAI-Powered Auto-annotation
Phi Labs, Quantiphi India（印度Quantiphi公司Phi实验室）；Phi Labs, Quantiphi Canada（加拿大Quantiphi公司Phi实验室）
研究针对关键信息提取中训练数据集创建耗时的问题，提出DocAnnot框架，利用大型视觉语言模型、OCR及SICM算法，在基准测试中自动生成注释有一定F1分数，还能用于微调下游模型，大幅节省时间成本，减少人工依赖但未完全消除人工干预。
2026-07-29 cs.AI cs.CL cs.CV
Causal Evidence Extraction and Triangulation in Crisis Reports using Large Language Models: A ReliefWeb-based Study
University of Oulu（奥卢大学）；LUT University（拉普兰塔理工大学）
该研究基于ReliefWeb数据，提出两阶段LLM流水线提取危机报告中结构化因果证据，结合上下文保留的三角验证方法，在100份专家标注报告中取得优异性能，为现金援助的食品相关结果提供了高收敛性证据。
2026-08-06 cs.CL
Neural Contract Element Extraction Revisited: Letters from Sesame Street
Institute of Informatics & Telecommunications, NCSR “Demokritos”（希腊德谟克利特国家科学研究中心信息学与电信研究所）；Department of Informatics, Athens University of Economics and Business（雅典经济与商业大学信息学系）
我们研究契约元素提取。我们证明了基于LSTM的编码器在这项任务中的表现优于扩张CNN、Transformers和BERT。我们还发现，特定领域的WORD2VEC嵌入优于通用的预训练的GLOVE嵌入。以POS标签和标记形状嵌入形式的形态句法特征以及上下文感知的ELMO嵌入并不能提高性能。这些观察结果中有几个与合同元素提取和通用序列标记任务的先前工作的选择或发现相矛盾，表明合同元素提取需要仔细的特定任务选择。分析结果（一）平原transformer为基础的和（ii）基于BERT的模型，我们发现，在检查的任务，其中的实体是高度上下文敏感的，缺乏递归Transformers大大影响他们的表现。
2021-02-22 cs.CL
Extraction of evidence tables from abstracts of randomized clinical trials using a maximum entropy classifier and global constraints
University College London（伦敦大学学院）
在循证医学中，系统地使用已发表的随机临床试验结果越来越重要。为了整理和分析潜在的大量试验的结果，证据表用于表示与一组感兴趣的干预措施有关的试验。证据表包含患者组、每种比较的干预措施、比较标准（例如，治疗5年后存活的比例）和每种结果的列。目前，阅读每一篇发表的论文并提取证据表中每个领域的信息是一项劳动密集型活动。已经有一些NLP研究调查如何从论文中提取一些特征，或者至少识别相关的句子。然而，缺乏一个NLP系统来系统地提取证据表所需的每一项信息。我们解决这个问题的最大熵分类器的组合，整数线性规划。我们使用后者来处理约束，什么是一个可接受的分类的特征提取。通过实验结果，我们证明了使用全局约束（例如描述患者组和干预措施的特征必须在描述比较结果的特征之前发生）的实质性优势。
2015-09-17 cs.AI cs.CL
Uncover Sexual Harassment Patterns from Personal Stories by Joint Key Element Extraction and Categorization
Alibaba Group（阿里巴巴集团）；University of Washington（华盛顿大学）；Indiana University Bloomington（印第安纳大学伯明顿分校）
近年来，网上分享的关于性骚扰的个人故事数量呈指数级增长。这在一定程度上受到了\#MeToo和\#TimesUp运动的启发。Safecity是一个在线论坛，供经历或目睹性骚扰的人分享个人经历。到目前为止，它已经收集了\textgreater 10，000个故事。性骚扰发生的情形多种多样，对性骚扰事件进行分类并提取其要素，将对相关方理解和应对性骚扰提供极大帮助。在本研究中，我们在地点、时间和骚扰者特征维度上对这些故事进行了人工标注，并标记了与这些维度相关的关键要素。此外，我们应用自然语言处理技术与联合学习方案，自动分类这些故事在这些方面，并提取关键元素在同一时间。我们还从分类的性骚扰故事中发现了重要的模式。我们相信，我们的注释数据集、拟议算法和分析将以各种方式帮助受到骚扰的人、当局、研究人员和其他相关方，例如自动填写报告，启发公众以防止未来的骚扰，并采取更有效、更快的行动。
2019-11-01 cs.CL
Position-Aware Tagging for Aspect Sentiment Triplet Extraction
Singapore University of Technology and Design（新加坡科技设计大学）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；ByteDance（字节跳动）
Aspect Sentiment Triplet Extraction（ASTE）是提取目标实体的三元组，它们的相关情感和解释情感原因的意见跨度的任务。现有的研究工作大多使用流水线方法来解决这个问题，该方法将三重态提取过程分成几个阶段。我们的观察是，三个元素内的三个三联体是高度相关的，这促使我们建立一个联合模型，以提取这样的三联体使用序列标签的方法。然而，如何有效地设计一个标签的方法来提取三元组，可以捕捉元素之间的丰富的相互作用是一个具有挑战性的研究问题。在这项工作中，我们提出了第一个端到端的模型与一个新的位置感知的标签计划，能够共同提取的三胞胎。我们在几个现有数据集上的实验结果表明，使用我们的方法联合捕获三元组中的元素可以提高现有方法的性能。我们还进行了大量的实验，以研究模型的有效性和鲁棒性。
2021-03-09 cs.CL
Causal Drawbridges: Characterizing Gradient Blocking of Syntactic Islands in Transformer LMs
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
研究通过Transformer模型的因果干预揭示语法岛屿的提取机制，发现其与wh依赖关系机制相似但受阻程度不同，提出'and'在可提取与不可提取结构中表示方式不同。
2026-04-15 cs.CL
Causal Interventions Reveal Typologically Organized Syntactic Mechanisms in Multilingual Language Models
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Saarland University（萨尔大学）；Leipzig University（莱比锡大学）；Heidelberg Institute for Theoretical Studies（海德堡理论研究所）
本研究利用机制可解释性技术，在四种多语言语言模型的三种句法结构上证实跨语言机制迁移，且迁移程度与语言类型学相似度正相关，为语言学理论提供新假说。
2026-09-01 cs.CL
The Impact of Automatic Pre-annotation in Clinical Note Data Element Extraction - the CLEAN Tool
University of California San Diego（加州大学圣地亚哥分校）
Objective.注释是昂贵的，但对于临床笔记审查和临床自然语言处理（cNLP）是必不可少的。然而，计算机生成的预注释在多大程度上有利于人类注释仍然是一个悬而未决的问题。我们的研究介绍了CLEAN（CLinical note rEview and ANnotation），这是一种基于预注释的cNLP注释系统，用于改进数据元素的临床笔记注释，并将CLEAN与广泛使用的注释系统Brat Rapid Annotation Tool（BRAT）进行了全面比较。材料和方法。CLEAN包括一个集成管道（CLEAN-EP）和新开发的注释工具（CLEAN-AT）。一位领域专家和一位新手用户/注释者参与了一项比较可用性测试，在84份公共笔记中标记了87个与充血性心力衰竭（CHF）和川崎病（KD）队列相关的数据元素。结果CLEAN的音符水平F1得分（0.896）高于BRAT（0.820），在正确性上有显著差异（P值< 0.001），最相关的因素是系统/软件（P值< 0.001）。CLEAN（7.262分钟/注）和BRAT（8.286分钟/注）之间的注释时间无显著差异（P值0.188）。差异主要与注释长度（P值< 0.001）和系统/软件（P值0.013）相关。专家报告CLEAN有用/令人满意，而新手报告略有改进。讨论CLEAN提高了注释的正确性，并在相同的效率水平下提高了有用性/满意度。局限性包括预…
2018-08-11 cs.CL
Jointly identifying opinion mining elements and fuzzy measurement of opinion intensity to analyze product features
University Lumière Lyon 2（里昂第二大学）；Qatar University（卡塔尔大学）
意见挖掘主要涉及三个要素：特征和特征-关系、意见表达和相关的意见属性（如极性）以及特征-意见关系。虽然已有许多研究成果来实现其获取信息的目的，但以往的研究通常孤立地处理这三个要素，无法给出充分的信息抽取结果，从而增加了信息抽取的复杂度和运行时间。本文提出了一种意见挖掘提取算法来联合发现主要的意见挖掘元素。具体而言，该算法自动构建内核，紧密相关的词结合成新的条款，从词级到短语级的依赖关系的基础上，我们确保的准确性的意见表达和极性的基础上：模糊测量，意见程度增强，意见模式。对3458篇评论的分析表明，该算法可以有效地同时识别主要元素，并且优于基线方法。该算法可用于同类产品中异构产品的特征分析。逐个功能的比较可以帮助选择较弱的功能，并从产品的开始生命周期推荐正确的规格。从这个比较中，我们发现了一些有趣的现象。例如，视频维度的负极性高于产品可用性维度。然而，提高产品的可用性维度可以更有效地改善产品（C）2015爱思唯尔有限公司保留所有权利。
2018-11-13 cs.CL
PAGED: A Benchmark for Procedural Graphs Extraction from Documents
College of Computer Science, Sichuan University（四川大学计算机学院）
本文提出PAGED基准，通过大规模数据集和标准评估揭示现有方法在程序图提取上的不足，并引入大语言模型与自精炼策略，分析其优势与差距，为自动程序图提取及非顺序元素逻辑推理研究提供新基准与见解。
2024-08-08 cs.CL
From syntactic structure to semantic relationship: hypernym extraction from definitions by recurrent neural networks using the part of speech information
Southwest University（西南大学）
上下义关系是语义网络中的重要组成部分。从定义中识别上位词是自然语言处理和语义分析中的一项重要任务。虽然像WordNet这样的公共词典适用于常见单词，但它在特定领域场景中的应用有限。现有的上位词提取工具要么依赖于特定的语义模式，要么专注于词的表示，这都表现出一定的局限性。
2020-12-07 cs.AI cs.CL
Beyond a Single Extractor: Re-thinking HTML-to-Text Extraction for LLM Pretraining
Apple（苹果公司）；Stanford（斯坦福大学）；University of Washington（华盛顿大学）
本文提出通过结合多种提取器提升HTML到文本提取的效率与效果，显著提高LLM预训练数据的token产出并改善下游任务性能。
2026-02-23 cs.CL cs.LG
Trialstreamer: Mapping and Browsing Medical Evidence in Real-Time
Northeastern University（东北大学）；UPenn（宾夕法尼亚大学）；King’s College London（伦敦国王学院）
我们介绍Trialstreamer，临床试验报告的实时数据库。在这里，我们主要描述证据提取组件;这从生物医学摘要中提取临床医生在评估文献时需要的关键信息，以及这些信息之间的关系。具体而言，该系统提取试验参与者的描述，每组（干预）中比较的治疗以及测量的结果。然后，该系统试图通过确定其与确定的试验结果测量的关系来推断哪些干预措施被报告为最有效。除了汇总单个试验外，这些提取的数据元素还可以自动合成同一主题的多项试验的结果。我们将该系统大规模应用于MEDLINE中索引的所有随机对照试验报告，为自动生成证据地图提供动力，这些证据地图提供了不同干预措施的疗效的全局视图，结合了所有相关临床试验的数据。我们免费提供所有代码和模型以及Web界面演示。
2020-05-21 cs.CL cs.HC cs.IR
A Causal View of Entity Bias in (Large) Language Models
University of Southern California（南加州大学）；University of California, Los Angeles（加州大学洛杉矶分校）；University of California, Davis（加州大学戴维斯分校）
本文提出一种参数更易估计的结构化因果模型及因果干预方法，通过邻近实体扰动缓解白盒和黑盒语言模型中的实体偏差，并在关系抽取和机器阅读理解任务上取得显著提升。
2023-10-26 cs.AI cs.CL cs.LG
