Beyond path selection: Better LLMs for Scientific Information Extraction with MimicSFT and Relevance and Rule-induced(R$^2$)GRPO
HKUST Hong Kong SAR, China（香港科技大学）；SEU Jiangsu, China（江苏大学）；HKUST(GZ) Guangzhou, China（香港科技大学（广州））；Zhipu AI Beijing, China（智谱AI）；HKUST(GZ), HKUST Guangzhou, China（香港科技大学（广州）、香港科技大学）
针对科学信息抽取中 LLMs 表现不佳的问题，提出结合 MimicSFT 和 R$^2$GRPO 的两阶段训练方法，无需高质量思维链数据即可优化推理路径并提升推理能力，在关系抽取任务上超越基线与专门监督模型。
2025-05-28 cs.AI cs.CL cs.IR
GRAPHCACHE: Message Passing as Caching for Sentence-Level Relation Extraction
National University of Singapore（新加坡国立大学）；University of Southern California（南加州大学）；Nanyang Technological University（南洋理工大学）
实体类型和文本上下文是事务级关系抽取的基本属性。现有的工作只编码这些属性在个别情况下，这限制了RE的性能在一个句子中的功能不足。相比之下，我们从整个数据集建模这些属性，并使用数据集级别的信息来丰富每个实例的语义。我们提出了GRAPHCACHE（图神经网络作为缓存）模块，该模块跨句子传播特征以学习RE的更好表示。GRAPHCACHE从整个数据集中的句子中聚合特征，以学习属性的全局表示，并使用它们来增强单个句子中的局部特征。全局属性特征作为逆向工程的样本级先验知识，是对样本级特征的补充。受计算机系统中经典缓存技术的启发，我们开发了GRAPHCACHE，以在线方式更新属性表示。总的来说，GRAPHCACHE在RE上产生了显着的有效性增益，并在数据集中的所有句子之间实现了有效的消息传递。
2022-05-08 cs.AI cs.CL cs.IR
Beyond the Numbers: Transparency in Relation Extraction Benchmark Creation and Leaderboards
Faculty of Informatics, TU Wien（维也纳工业大学信息学学院）；University of Klagenfurt（克拉根福大学）
本文探讨关系抽取基准创建与排行榜的透明度问题，揭示现有基准存在文档不足、数据不平衡和噪声标签等缺陷，倡导改进文档与评估方法以推动领域发展。
2024-11-07 cs.CL
Looking Beyond Label Noise: Shifted Label Distribution Matters in Distantly Supervised Relation Extraction
University of Southern California（南加州大学）；University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Purdue University（普渡大学）
近年来，应用远程监控（DS）自动生成关系抽取（RE）训练数据的兴趣激增。在本文中，我们研究了限制DS训练的神经模型性能的问题，进行了深入的分析，并确定了一个可以极大地影响性能的因素，即标签分布。具体来说，我们发现这个问题普遍存在于现实世界的DS数据集，没有特殊的处理，典型的DS-RE模型不能自动适应这种变化，从而实现恶化的性能。为了进一步验证我们的直觉，我们为DS训练的模型开发了一种简单而有效的自适应方法，偏差调整，它更新了在源域（即，DS训练集）与在目标域上估计的标签分布（即，测试集）。实验表明，偏差调整在DS训练的模型上实现了一致的性能增益，特别是在神经模型上，相对F1提高了23%，这验证了我们的假设。我们的代码和数据可以在\url{https://github.com/INK-USC/shifted-label-distribution}上找到。
2019-09-10 cs.CL cs.LG
FormNet: Structural Encoding beyond Sequential Modeling in Form Document Information Extraction
Google Cloud AI Research（谷歌云人工智能研究院）；Google Research（谷歌研究院）
序列建模在自然语言和文档理解任务上表现出了最先进的性能。然而，由于表单文档的布局模式多种多样，在实践中正确序列化表单文档中的标记是一个挑战。我们提出了FormNet，一个结构感知的序列模型，以减轻次优序列化的形式。首先，我们设计了Rich Attention，它利用表单中标记之间的空间关系来进行更精确的注意力分数计算。其次，我们通过图形卷积嵌入来自相邻令牌的表示来为每个单词构建超级令牌。因此，FormNet显式地恢复可能在序列化过程中丢失的本地语法信息。在实验中，FormNet优于现有的方法，具有更紧凑的模型大小和更少的预训练数据，在CORD，FUNSD和Payment基准上建立了新的最先进的性能。
2022-03-24 cs.CL cs.CV cs.LG
Beyond Chunk-Local Extraction: Cross-Chunk Graph Augmentation for GraphRAG
School of Data Science and Engineering, East China Normal University（数据科学与工程学院，东华大学）
提出CrossAug方法，利用GNN引导的跨块图增强，在查询前离线补充GraphRAG索引中缺失的跨块关系，提升多跳和长文档问答性能。
2026-05-27 cs.CL
Utilizing Large Language Models for Information Extraction from Real Estate Transactions
Rotman School of Management University of Toronto（罗特曼管理学院 东京大学）；ECE Department Carnegie Mellon University（电子工程系 卡内基梅隆大学）；Department of Computer Science San Francisco State University（计算机科学系 旧金山州立大学）；New York University（纽约大学）
本文探讨利用基于transformer的大型语言模型从房地产合同中自动提取信息，通过真实交易数据集生成合成合同进行微调，在信息检索和推理任务上取得显著提升。
2025-08-12 cs.CL cs.IR cs.LG
Beyond Extraction: Contextualising Tabular Data for Efficient Summarisation by Language Models
NLP Research Team Yellow.ai（Yellow.ai公司NLP研究团队）
本研究提出一种增强RAG系统复杂表格查询准确性的方法，通过单独提取表格并拼接表头与值进行上下文丰富，结合微调Llama-2-chat模型和ChatGPT 3.5 API单次提示生成摘要，显著提升了查询精度。
2024-02-10 cs.CL cs.LG
Beyond Sentiment: Structured Information Extraction from Financial News
School of ASEE, Beihang University（北京航空航天大学ASEE学院）；School of BME, Beihang University（北京航空航天大学生物医学工程学院）；CAIR and CECS, VinUniversity（VinUniversity CAIR与CECS机构）
该研究针对金融情感分析仅压缩新闻为单一极性评分的局限，提出用LLaMA-3.1-70B提取金融新闻的结构化语义特征，结合情感与结构化特征可提升股票预测性能，为多维金融NLP开辟新方向。
2026-07-31 cs.CL
Rapid Adaptation of BERT for Information Extraction on Domain-Specific Business Documents
University of Waterloo（滑铁卢大学）
从业务文档（如合同、报表和文件）中自动提取重要内容元素的技术有可能使业务操作更加高效。这个问题可以制定为一个序列标签的任务，我们证明了适应BERT两种类型的商业文件：监管文件和财产租赁协议。这个问题的某些方面使它比“标准”信息抽取任务更容易，而其他方面使它更困难，但总的来说，我们发现适量的注释数据（少于100个文档）足以达到合理的准确性。我们将我们的模型集成到一个端到端的云平台中，该平台提供了一个易于使用的注释接口以及一个推理接口，允许用户上传文档并检查模型输出。
2020-02-05 cs.CL cs.IR cs.LG
Data Augmented Pipeline for Legal Information Extraction and Reasoning
Center for Juris-Informatics, ROIS-DS（司法信息中心，ROIS-DS）；Japan Advanced Institute of Science and Technology（日本先进科学研究所）；Research and Development Center for LLMs, NII（大语言模型研发中心，NII）
本文提出了一种基于大型语言模型的数据增强管道，用于提升法律领域信息抽取与推理的效率和鲁棒性，同时具备跨领域应用的通用性。
2026-01-09 cs.CL
Improving Distantly Supervised Relation Extraction with Neural Noise Converter and Conditional Optimal Selector
Alibaba Group (U.S.) Inc.（阿里巴巴集团（美国）公司）
距离监督关系抽取已成功应用于具有数千个关系的大型语料库。然而，不可避免的错误标记的问题，由远程监督将损害性能的关系抽取。在本文中，我们提出了一种方法与神经噪声转换器，以减轻噪声数据的影响，和一个条件最优选择器，使正确的预测。我们的噪声转换器在logit水平上学习结构化转移矩阵，并捕获远程监督关系抽取数据集的属性。另一方面，条件最优选择器有助于对实体对做出正确的预测决策，即使句子组被无关系句子淹没。我们在一个广泛使用的数据集上进行了实验，结果表明，与竞争性基线方法相比，该方法有显著的改进。
2018-11-14 cs.AI cs.CL
Event Arguments Extraction via Dilate Gated Convolutional Neural Network with Enhanced Local Features
National University of Defense Technology（国防科技大学）
事件抽取在信息抽取中起着重要的作用。事件提取可以分为两个子任务：一个是事件触发器提取，另一个是事件参数提取。然而，事件参数提取的F-Score远低于事件触发器提取的F-Score，即在最近的工作中，事件触发器提取达到80.7%，而事件参数提取仅达到58%。在流水线结构中，事件参数提取的困难在于缺乏分类特征，计算量大。本文提出了一种基于多层扩张门控卷积神经网络（EE-DGCNN）的事件提取方法。此外，增强的本地信息被纳入到词的功能，分配事件参数角色的触发器预测的第一个子任务。数值实验表明，显着的性能改善超出了最先进的事件提取方法在现实世界的数据集。进一步分析了提取过程，并通过实验分析了影响性能提高的相关因素。
2020-06-02 cs.CL cs.LG
Improving Cross-Domain Performance for Relation Extraction via Dependency Prediction and Information Flow Control
University of Oregon（俄勒冈大学）
关系抽取（RE）是信息抽取和自然语言处理中的一项基本任务。相关树已被证明是一个非常有用的信息源，为这项任务。当前用于关系抽取的深度学习模型主要通过沿着依赖树的结构引导它们的计算来利用这种依赖信息。这种方法的一个潜在问题是它可能会阻止模型捕获语法结构之外的重要上下文信息，并导致较差的跨领域泛化。本文介绍了一种在RE中使用依赖树的新方法，用于联合预测依赖关系和语义关系的深度学习模型。我们还提出了一种新的机制来控制信息流的模型的基础上输入实体提及。我们在基准数据集上的大量实验表明，该模型明显优于现有的RE方法。
2019-07-07 cs.CL
Dynamic Global Memory for Document-level Argument Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
从新闻文章中提取事件的信息论元是信息抽取中一个具有挑战性的问题，它要求对每个文档有全局的上下文理解。虽然最近关于文档级提取的工作已经超越了单句，并增加了端到端模型的跨句推理能力，但它们仍然受到某些输入序列长度约束的限制，并且通常忽略事件之间的全局上下文。为了解决这个问题，我们引入了一个新的基于全局神经生成的框架，用于文档级事件参数提取，方法是构建一个文档内存存储来记录上下文事件信息，并利用它来隐式和显式地帮助解码后续事件的参数。实验结果表明，我们的框架大大优于以前的方法，它是更强大的对抗注释的例子与我们的约束解码设计。(Our代码和资源可在https://github.com/xinyadu/memory_docie上获得，以供研究之用。）
2022-09-18 cs.CL
A Comprehensive Survey of Document-level Relation Extraction (2016-2023)
Univ. La Rochelle（拉罗谢尔大学）；L3i（L3i实验室）
本文综述了2016至2023年间文档级关系抽取（DocRE）的最新进展，强调其跨句识别实体关系的挑战，并对比句子级方法，展示其在自动构建知识库中的应用价值。
2023-10-12 cs.CL
Speaker-Oriented Latent Structures for Dialogue-Based Relation Extraction
基于对话的关系抽取（DiaRE）旨在从对话中的非结构化话语中提取结构信息。现有的关系抽取模型在这样的会话环境下可能不能令人满意，这是由于涉及多个说话者的话语中的纠缠逻辑和信息稀疏问题。为此，我们引入SOLS，一种新的模型，它可以明确地诱导面向说话人的潜在结构，以获得更好的DiaRE。具体来说，我们学习潜在的结构，以捕捉话语边界以外的令牌之间的关系，减轻纠缠的逻辑问题。在学习过程中，我们的特定于说话人的正则化方法逐步突出与说话人相关的关键线索，并删除不相关的线索，从而缓解信息稀疏问题。在三个公开数据集上的实验证明了该方法的有效性。
2021-10-30 cs.CL
Learning Relation Ties with a Force-Directed Graph in Distant Supervised Relation Extraction
Beijing Institute of Technology（北京理工大学）
关系纽带定义为不同关系之间的相关性和互斥性，是远距离监督关系抽取的关键。现有方法通过贪婪地学习局部依赖关系来对该属性进行建模。然而，他们本质上是有限的，未能捕捉到全球的关系纽带的拓扑结构。因此，它们很容易落入局部最优解。为了解决这个问题，本文提出了一种新的基于力有向图的关系抽取模型来全面学习关系纽带。具体来说，我们首先根据关系的全局同现构建一个图。然后，我们借用物理学中库仑定律的思想，在这个图中引入吸引力和排斥力的概念，来学习关系之间的相关性和互斥性。最后，所获得的关系表示作为一个相互依赖的关系分类器。在大规模基准数据集上的实验结果表明，我们的模型能够建模全球关系纽带，并显着优于其他基线。此外，所提出的力有向图可以作为一个模块，以增强现有的关系抽取系统，并提高其性能。
2020-04-21 cs.CL
Beyond Rule-based Named Entity Recognition and Relation Extraction for Process Model Generation from Natural Language Text
University of Bayreuth（拜罗伊特大学）
本文将自然语言生成流程模型中的信息抽取流水线改造为完全数据驱动，并扩展 PET 数据集以标注和解析实体语言指代，提升跨领域适配性与模型生成质量。
2023-08-07 cs.CL cs.LG
Open Domain Web Keyphrase Extraction Beyond Language Modeling
Microsoft AI and Research（微软人工智能与研究院）
本文研究了现实世界中文档来自不同领域并且具有不同内容质量的关键词提取。我们策划并发布了OpenKP，这是一个大规模的开放领域关键词提取数据集，包含近十万个Web文档和专家关键词注释。为了处理域和内容质量的变化，我们开发了BLING-KPE，这是一种神经关键短语提取模型，它使用文档的视觉呈现和搜索查询的弱监督，超越了语言理解。OpenKP上的实验结果证实了BLING-KPE的有效性及其神经结构，视觉特征和搜索日志弱监督的贡献。对DUC-2001的Zero-shot评价表明，与特定领域相比，从开放领域数据学习的泛化能力得到了提高。
2019-11-06 cs.CL cs.IR
Layout-Aware Information Extraction for Document-Grounded Dialogue: Dataset, Method and Demonstration
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
由于文档传达了丰富的人类知识，并且在企业中普遍存在，因此构建基于文档的对话系统受到越来越多的关注。其中，如何从文档中理解和检索信息是一个具有挑战性的研究问题。以往的工作忽略了文档的视觉属性，将其视为纯文本，导致模态不完整。在本文中，我们提出了一个布局感知的文档级信息抽取数据集，LIE，以促进从视觉丰富的文档（VRD）中提取结构和语义知识的研究，从而在对话系统中生成准确的响应。LIE包含来自4，061页产品和官方文档的三个提取任务的62k注释，成为我们所知的最大的基于VRD的信息抽取数据集。我们还开发了基准测试方法，扩展了基于标记的语言模型，以考虑布局功能，如人类。实验结果表明，布局是关键的基于VRD的提取，系统演示也验证了提取的知识可以帮助定位用户关心的答案。
2022-07-14 cs.CL cs.MM
Evaluating improvements on using Large Language Models (LLMs) for property extraction in the Open Research Knowledge Graph (ORKG)
本文评估高级提示工程对 LLM 在 ORKG 科学文献属性提取中的改进，并引入基于 API 的现有属性匹配，显著提升结果对齐与属性一致性。
2025-02-15 cs.AI cs.CL cs.IR
Beyond Exact Match: Semantically Reassessing Event Extraction by Large Language Models
Beijing Institute of Technology（北京理工大学）；Beijing University of Technology（北京工业大学）
针对词元级精确匹配评估误判语义正确案例并低估模型真实性能的问题，提出基于LLM的语义级事件抽取评估框架RAEE，实现对触发词和论元精确率与召回率的自适应评估，揭示了精确匹配造成的显著性能低估。
2025-03-04 cs.CL
A general-purpose material property data extraction pipeline from large polymer corpora using Natural Language Processing
Georgia Institute of Technology（佐治亚理工学院）
本研究提出一种基于自然语言处理的自动流水线，利用MaterialsBERT模型从聚合物文献摘要中提取材料属性数据，在60小时内获取约30万条记录，并通过网络平台公开数据，验证了自动化提取的可行性。
2022-09-27 cond-mat.mtrl-sci cond-mat.soft cs.CL
Spurious Correlations and Beyond: Understanding and Mitigating Shortcut Learning in SDOH Extraction with Large Language Models
Department of Computer Science（计算机科学系）；School of Nursing（护理学院）；Department of Information Sciences and Technology（信息科学与技术系）；Department of Biomedical Informatics & Medical Education（生物医学信息学与医学教育系）
研究大型语言模型在 SDOH 抽取中因依赖表面线索导致的虚假预测及性别差异问题，并评估提示工程与思维链等缓解策略以提升模型可靠性。
2025-05-30 cs.AI cs.CL
Beyond Static Summarization: Proactive Memory Extraction for LLM Agents
State Key Laboratory for Novel Software Technology, Nanjing University, China（新型软件技术国家重点实验室，南京大学）；National Institute of Healthcare Data Science, Nanjing University, China（健康数据科学国家研究院，南京大学）
本文提出ProMem，一种主动记忆提取方法，通过递归反馈机制提升LLM代理的记忆完整性和问答准确性，实现高质量与低成本的平衡。
2026-09-02 cs.AI cs.CL
Beyond Indistinguishability: Measuring Extraction Risk in LLM APIs
Emory University（埃默里大学）；University of Virginia（弗吉尼亚大学）
本文提出$(l, b)$-不可提取性作为衡量LLM API提取风险的新标准，通过定义提取风险上界并实验证明其在不同模型中的有效性，为模型训练、API访问和解码配置提供缓解指南。
2026-04-20 cs.CL cs.CR cs.LG
MaterioMiner -- An ontology-based text mining dataset for extraction of process-structure-property entities
Fraunhofer Institute for Mechanics of Materials IWM（弗劳恩霍夫材料力学研究所）；IBM Research（IBM研究中心）
本文提出 MaterioMiner 数据集及关联材料力学本体，通过细粒度实体标注支持神经符号材料信息抽取、NER 训练与知识图谱构建。
2024-08-05 cond-mat.mtrl-sci cs.CL
Beyond Isolated Dots: Benchmarking Structured Table Construction as Deep Knowledge Extraction
University of Chinese Academy of Sciences（中国科学院大学）；Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所信息处理实验室）
针对大语言模型提取信息混乱无条理的问题，提出双语基准AOE，含三领域11项任务，要求模型生成适配查询的上下文特定模式来将碎片化信息重构为表格，评估显示前沿模型仍表现不佳。
2025-10-30 cs.CL
Beyond Logprobs: A Multi-Signal Confidence Engine for LLM-Based Document Field Extraction
Perfios Software Solutions Pvt. Ltd.（Perfios软件解决方案私人有限公司）
提出ExtractConf，通过双视角文档解析（字段引导与文档引导）的不一致性，融合多信号实现高可靠置信度估计，在DocILE上AUC达0.928，准确率99.1%。
2026-06-24 cs.CL
Beyond a Single Extractor: Re-thinking HTML-to-Text Extraction for LLM Pretraining
Apple（苹果公司）；Stanford（斯坦福大学）；University of Washington（华盛顿大学）
本文提出通过结合多种提取器提升HTML到文本提取的效率与效果，显著提高LLM预训练数据的token产出并改善下游任务性能。
2026-02-23 cs.CL cs.LG
Beyond Similarity: Grounded Agentic Extraction and Expert-Adjudicated Evaluation of Intertextuality in Classical Chinese Histories
本研究将细粒度互文性提取设为LLM智能体任务，构建专家裁决的古典史书互文基准，验证12种LLM性能，扩展至二十四史揭示引文的总体稳定与个案漂移规律并发布相关资源。
2026-07-31 cs.AI cs.CL cs.DL
Beyond N-gram: Data-Aware X-GRAM Extraction for Efficient Embedding Parameter Scaling
Peking University（北京大学）；IQuest Research（IQuest研究）
本文提出X-GRAM框架，通过频率感知的动态token注入方法，提升嵌入参数扩展效率，实验表明在0.73B和1.15B规模下，X-GRAM在准确率上优于基线模型。
2026-04-24 cs.CL
Document-Level Event Role Filler Extraction using Multi-Granularity Contextualized Encoding
Cornell University（康奈尔大学）
在事件提取的文献中，很少有作品超越了单个句子来做出提取决策。当识别事件论元所需的信息分散在多个句子中时，这是有问题的。我们认为，文档级事件提取是一项艰巨的任务，因为它需要一个更大的背景下，以确定哪些跨度的文本对应于事件角色填充。我们首先研究端到端神经序列模型（具有预训练的语言模型表示）如何执行文档级角色填充符提取，以及捕获的上下文长度如何影响模型的性能。为了动态地聚合由在不同粒度级别学习的神经表示捕获的信息（例如，句子级和段落级），我们提出了一种新的多粒度阅读器。我们在MUC-4事件提取数据集上评估了我们的模型，并表明我们最好的系统比以前的工作表现得更好。我们还报告了上下文长度和神经模型在任务中的表现之间的关系的研究结果。
2020-05-13 cs.CL
MAPLE: A Multi-Axis Parametric Knowledge Extraction Lens for LLM Evaluation
Ewha Womans University（梨花女子大学）；Seoul National University（首尔大学）；Institute for Multiscale Matter and Systems, Ewha Womans University（梨花女子大学多尺度物质与系统研究所）
提出MAPLE框架，通过多轴诊断指标解析KEE技术对LLM参数化知识提取的影响，评估6种KEE技术在3类模型上的表现，为KEE技术的评估提供更细致的视角。
2026-10-15 cs.CL cs.LG
Leak It: Per-Document Extraction Beyond Aggregate Membership Inference
Karolinska Institutet（卡罗林斯卡学院）
该研究针对黑盒语言模型提出概率训练数据提取方法，发现聚合AUC掩盖逐文档泄露风险，发布leakit工具，强调隐私审计需按领域分解逐文档提取结果。
2026-08-12 cs.CL cs.CR cs.LG
Super Library Agent: Joint Generation and Maintenance of Multiple Applications Beyond the Single Codebase
KAIST（韩国科学技术院）
针对关联应用组合维护的冗余与结构退化问题，提出超级库智能体方法，通过候选引导提取等技术，在WebGen-Bench等基准上减少冗余并避免结构退化。
2026-09-01 cs.AI cs.CL cs.SE
Beyond Raw Transcripts: Structured Persona Extraction for LLM-Based Digital Twins
University of Chicago（芝加哥大学）
本研究针对基于LLM的数字孪生，提出结构化角色提取方法，发现信息结构是性能关键，固定结构难通用，自动结构发现流水线可恢复性能并提升准确率。
2026-08-24 cs.CL cs.CY
Advancing Beyond Identification: Multi-bit Watermark for Large Language Models
Seoul National University（首尔大学）；Webtoon AI
针对现有零比特水印仅能检测无法追踪滥用者的问题，提出基于位置分配的多比特水印方法，在生成时嵌入可追踪信息，实现无模型访问鲁棒提取、无微调嵌入提取长消息且不增加延迟，同时保持文本质量并兼容零比特检测。
2024-03-20 cs.AI cs.CL cs.CR
Beyond Arrow's Impossibility: Fairness as an Emergent Property of Multi-Agent Collaboration
Department of Computer Science（计算机科学系）
本文探讨多智能体协作中公平性的涌现特性，通过医院急诊框架实验发现，智能体间的互动能产生比单一模型更公平的分配结果，揭示了公平性作为系统属性而非个体属性的机制。
2026-04-15 cs.AI cs.CL cs.GT
