Bridging Relevance and Reasoning: Rationale Distillation in Retrieval-Augmented Generation
City University of Hong Kong(香港城市大学);University of Science and Technology of China(中国科学技术大学);Huawei Noah’s Ark Lab(华为诺亚实验室)
RADIO通过推理提取和基于推理的对齐方法,弥合检索增强生成中重排器与生成器之间的相关性差距。
2025-12-08 cs.CL
PIKE-RAG: sPecIalized KnowledgE and Rationale Augmented Generation
Microsoft Research Asia(微软亚洲研究院)
PIKE-RAG针对工业应用中RAG系统仅靠检索难以完成深层专业知识提取与逻辑推理的问题,提出知识原子化与知识感知任务分解方法,通过构建连贯推理链逐步引导大语言模型,并在多个基准上取得优异表现。
2025-03-12 cs.CL
Did the Models Understand Documents? Benchmarking Models for Language Understanding in Document-Level Relation Extraction
Fudan University(复旦大学);Shanghai Key Laboratory of Data Science(上海市数据科学重点实验室)
本文通过标注人类依据、揭示DocRE模型决策规则与人类差异、提出专用攻击及引入MAP指标,呼吁同时评估模型性能与理解能力。
2023-06-20 cs.CL
WISTERIA: Weak Implicit Signal-based Temporal Relation Extraction with Attention
WISTERIA通过结合多头注意力与对事件对条件的top-K池化,提取时序关系的关键信息,提升时序关系提取的准确性和可解释性。
2026-03-24 cs.AI cs.CL
Unifying Model Explainability and Robustness for Joint Text Classification and Rationale Extraction
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Peng Cheng Laboratory(鹏城实验室)
最近的工作表明,可解释性和鲁棒性是值得信赖和可靠的文本分类的两个关键因素。然而,以前的工作通常解决两个方面之一:i)如何提取准确的合理解释,同时有利于预测; ii)如何使预测模型对不同类型的对抗攻击具有鲁棒性。直觉上,一个能产生有用解释的模型应该对对抗攻击更具鲁棒性,因为我们不能相信输出解释但在小扰动下改变其预测的模型。为此,我们提出了一个联合分类和合理性提取模型命名为AT-BMC。它包括两个关键机制:混合对抗训练(AT)旨在使用离散和嵌入空间中的各种扰动来提高模型的鲁棒性,边界匹配约束(BMC)有助于在边界信息的指导下更精确地定位合理性。在基准数据集上的性能表明,所提出的AT-BMC在分类和基本原理提取方面都大大优于基线。鲁棒性分析表明,AT-BMC有效降低了攻击成功率,最高可达69%。实证结果表明,稳健的模型和更好的解释之间存在联系。
2021-12-20 cs.AI cs.CL
UNIREX: A Unified Learning Framework for Language Model Rationale Extraction
University of Southern California(南加州大学);Meta AI
提取的基本原理解释了一个语言模型(LM)的预测对一个给定的任务实例,突出的文本输入,最影响的预测。理想情况下,合理性提取应该是忠实的(反映LM的实际行为)和合理的(对人类有说服力),而不损害LM的(即,任务模型)的任务性能。虽然归因算法和选择预测管道通常用于基本原理提取,但它们都依赖于某些阻碍它们满足所有三个需求的算法。有鉴于此,我们提出了UNIREX,一个灵活的学习框架,它将基本原理提取器优化概括如下:(1)为学习的基本原理提取器指定架构;(2)选择可解释性目标(即,忠实性和可解释性标准);以及(3)使用所选择的目标联合地对任务模型和基本原理提取器进行训练。UNIREX能够用(1)中的通用学习原理提取器替换先前作品的启发式设计选择,并针对(2)-(3)中的所有三个需求对其进行优化。为了便于比较方法之间的多个desiderata,我们引入了归一化相对增益(NRG)度量。在五个文本分类数据集中,我们最好的UNIREX配置比基线平均高出32.9%NRG。此外,我们发现UNIREX训练的基本原理提取器甚至可以推广到看不见的数据集和任务。
2023-02-27 cs.AI cs.CL cs.LG
Image-of-Thought Prompting for Visual Reasoning Refinement in Multimodal Large Language Models
School of Engineering, Westlake University(西湖大学工程学院);City University of Hong Kong(香港城市大学);Research Center for Industries of the Future, Westlake University(西湖大学未来产业研究中心);Johns Hopkins University(约翰斯·霍普金斯大学)
提出 Image-of-Thought (IoT) 提示方法,通过自动设计视觉信息提取操作逐步生成视觉推理路径,结合文本与视觉推理路径,提升了多模态大语言模型在零样本视觉推理任务中的性能并增强了过程可解释性。
2024-05-29 cs.AI cs.CL cs.CV
Deep Residual Learning for Weakly-Supervised Relation Extraction
National Taiwan University(国立台湾大学);University of California, Santa Barbara(加利福尼亚大学圣塔芭芭拉分校)
深度残差学习(ResNet)是一种使用身份映射来训练非常深的神经网络的新方法。ResNet赢得了ImageNet ILSVRC 2015分类任务,并在许多计算机视觉任务中实现了最先进的性能。然而,剩余学习对噪声自然语言处理任务的影响仍然没有得到很好的理解。在本文中,我们设计了一种新的卷积神经网络(CNN)与残留学习,并研究其对任务的影响,远距离监督噪声关系抽取。与ResNet只适用于非常深的网络的流行观点相反,我们发现即使有9层CNN,使用身份映射也可以显着提高远程监督关系抽取的性能。
2017-07-27 cs.AI cs.CL
Automatic Information Extraction From Employment Tribunal Judgements Using Large Language Models
University of Cambridge(剑桥大学);Newnham College(纽纳姆学院);Downing College(唐宁学院);University of Notre Dame(圣母大学)
本研究利用GPT-4从英国就业法庭判决中自动提取关键信息,验证其高准确性,并探索预测劳动法争议结果的工具开发。
2024-03-19 cs.AI cs.CL
Exploring Faithful Rationale for Multi-hop Fact Verification via Salience-Aware Graph Learning
Southeast University(东南大学)
多跳事实验证模型的不透明性对可解释性提出了迫切的要求。一种可行的方法是提取基本原理,即输入的子集,当被删除时,预测的性能会急剧下降。虽然是可解释的,但大多数用于多跳事实验证的合理提取方法单独探索每个证据内的语义信息,而忽略了不同证据之间的拓扑信息交互。直觉上,一个忠实的基本原理具有互补信息,能够通过多跳推理过程提取其他基本原理。为了解决这些缺点,我们将可解释的多跳事实验证转换为子图提取,可以基于具有显著性感知图学习的图卷积网络(GCN)来解决。具体地说,GCN是用来合并多个证据之间的拓扑相互作用信息,用于学习证据表示。同时,为了减轻噪声证据的影响,显着感知图扰动引入到GCN的消息传递。此外,多任务模型与三个诊断性质的理由是精心设计的,以提高质量的解释没有任何明确的注释。FEVEROUS基准测试的实验结果表明,与以前的最先进的方法相比,该方法在理论提取和事实验证方面都有显着的进步。
2022-12-02 cs.AI cs.CL
Improving BERT Model Using Contrastive Learning for Biomedical Relation Extraction
University of Delaware(特拉华大学);Weill Cornell Medicine(威尔康奈尔医学院)
在计算机视觉中,对比学习已被用于学习图像的高质量表示。然而,对比学习并没有被广泛地应用于自然语言处理中,这是由于缺乏一种通用的文本数据数据增强方法。在这项工作中,我们探索的方法,采用对比学习,以改善文本表示的BERT模型的关系抽取。我们的框架的关键旋钮是一个独特的对比预训练步骤,通过将语言知识无缝集成到数据增强中,为关系抽取任务量身定制。此外,我们研究了如何从外部知识库构建的大规模数据可以增强BERT的对比预训练的通用性。在三个关系抽取基准数据集上的实验结果表明,该方法能够提高BERT模型的表示能力,达到最佳性能。此外,我们通过展示具有对比预训练的BERT更多地依赖于预测的基本原理来探索模型的可解释性。我们的代码和数据可在https://github.com/udel-biotm-lab/BERT-CLRE上公开获取。
2021-04-28 cs.CL
Paragraph-level Rationale Extraction through Regularization: A case study on European Court of Human Rights Cases
EY AI Centre of Excellence in Document Intelligence(安永文档智能人工智能卓越中心);NCSR “Demokritos”(希腊德谟克利特国家科学研究中心);Athens University of Economics and Business(雅典经济与商业大学);University of Sheffield(谢菲尔德大学);University of York(约克大学)
可解释性是自然语言处理领域的一个新兴研究领域。从以用户为中心的角度来看,目标是通过要求模型满足额外的约束,构建能够为他们的决策提供适当理由的模型,类似于人类的决策。为此,我们引入了一个新的应用程序的法律文本,相反,主流文学针对字级的理由,我们设想的理由作为选定的段落在多段结构的法院案件。我们还发布了一个新的数据集,其中包括欧洲人权法院的案例,包括段落级理由的注释。我们使用这个数据集来研究已经提出的基本原理约束的影响,即,稀疏性、连续性和全面性,被公式化为正则化器。我们的研究结果表明,这些限制中的一些是没有好处的段落级的理由提取,而其他需要重新制定,以更好地处理我们考虑的任务的多标签性质。我们还引入了一个新的约束,奇异性,这进一步提高了质量的理由,甚至与嘈杂的理由监督。实验结果表明,新引入的任务是非常具有挑战性的,有很大的空间,进一步的研究。
2021-03-24 cs.CL
REFER: An End-to-end Rationale Extraction Framework for Explanation Regularization
University of Bologna(博洛尼亚大学);University of Edinburgh(爱丁堡大学)
提出端到端依据提取框架 REFER,通过可微提取器实现反向传播联合训练,在忠实性、合理性与下游任务准确率上显著优于基线。
2023-10-22 cs.CL
Consistent Multi-Granular Rationale Extraction for Explainable Multi-hop Fact Verification
Southeast University(东南大学)
本文提出一种一致多粒度理据提取方法,通过同时训练词元级和句子级解释器并引入三种诊断属性,解决了可解释多跳事实验证中单粒度解释的冗余和不一致问题。
2023-05-16 cs.CL
Finding the Needle in a Haystack: Unsupervised Rationale Extraction from Long Text Classifiers
Imperial College London(帝国理工学院);University of Cambridge(剑桥大学);King’s College London(伦敦国王学院)
长序列Transformers的设计是为了提高语言模型对较长文本的表示,以及它们在下游文档级任务上的性能。然而,人们对长模型中标记级预测的质量了解不多。我们研究了这种架构的性能在无监督的理由提取的文档分类的上下文中。我们发现,标准的软注意力方法与Longformer语言模型结合使用时,表现明显更差。我们提出了一个组成的软注意力架构,适用于Roberta明智的提取合理的理由在令牌级。我们发现这种方法在情感分类数据集上的表现明显优于Longformer驱动的基线,同时还表现出显着更低的运行时间。
2023-03-14 cs.CL cs.LG
A Survey of Deep Learning Methods for Relation Extraction
Indian Institute of Technology Delhi(印度理工学院德里分校)
关系抽取是信息抽取的一个重要子任务,它有可能采用深度学习(DL)模型,使用远程监督创建大型数据集。在这篇综述中,我们比较了用于该任务的各种深度学习模型的贡献和缺陷,以帮助指导前进的道路。
2017-05-10 cs.CL
DeepCPCFG: Deep Learning and Context Free Grammars for End-to-End Information Extraction
Ernst & Young (EY) AI Lab(安永人工智能实验室)
我们解决的挑战,提取结构化的信息,从业务文档中没有详细的注释。我们提出了深度条件概率上下文无关文法(DeepCPCFG)来解析二维复杂文档,并使用递归神经网络来创建一个端到端系统,用于找到最可能的解析,表示要提取的结构化信息。这个系统是端到端训练的,扫描的文档作为输入,只有关系记录作为标签。关系记录是从现有的数据库中提取的,避免了手工注释文档的成本。我们应用这种方法来提取信息,从扫描发票实现国家的最先进的结果,尽管没有使用手工注释。
2021-06-05 cs.AI cs.CL cs.LG
Deep Neural Networks for Relation Extraction
Jadavpur University(贾达普大学);National University of Singapore(新加坡国立大学);Texas A&M University(德克萨斯A&M大学)
从文本中抽取关系抽取是知识库自动填充的一项重要任务。在这篇论文中,我们首先提出了一个句法聚焦的多因素注意网络模型来发现两个实体之间的关系。接下来,我们提出了两个基于编码器-解码器架构的联合实体和关系抽取框架。最后,我们提出了一个层次实体图卷积网络跨文档的关系抽取。
2021-04-05 cs.CL
Deep Neural Approaches to Relation Triplets Extraction: A Comprehensive Survey
IIT Kharagpur(印度理工学院卡拉格普尔分校);Singapore University of Technology and Design(新加坡科技设计大学)
近年来,随着词的连续表示(词嵌入)和深层神经网络结构的发展,关系抽取领域的研究成果不断涌现,大量的论文已经难以统计。为了帮助未来的研究,我们提出了一个全面的评论最近发表的研究工作在关系抽取。我们主要关注使用深度神经网络的关系抽取,这些网络在公开可用的数据集上实现了最先进的性能。在本调查中,我们涵盖了文档级关系提取,基于管道的方法联合提取方法,注释数据集,远程监督数据集以及一些最近的研究方向,如zero-shot或Few-Shot关系抽取,远程监督数据集的噪声缓解。关于神经架构,我们在本调查中涵盖了卷积模型,递归网络模型,注意力网络模型和图卷积模型。
2021-03-31 cs.CL
DeepKE: A Deep Learning Based Knowledge Extraction Toolkit for Knowledge Base Population
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
本文提出开源可扩展的知识抽取工具包 DeepKE,统一支持低资源、文档级和多模态场景下的命名实体识别、关系抽取与属性抽取,并提供在线系统与教程。
2023-09-18 cs.AI cs.CL cs.IR
Comparative Analysis of Contextual Relation Extraction based on Deep Learning Models
Pondicherry University(本地治里大学)
本文针对现有机器学习方法在复杂句子上关系抽取效果不佳的问题,采用混合深度学习模型从多句上下文中有效抽取语义关系,并对多种深度学习模型进行了对比分析。
2023-09-13 cs.AI cs.CL cs.LG
AI in Education: Rationale, Principles, and Instructional Implications
University of Oslo(奥斯陆大学)
本研究评估生成式AI在学校中的利弊,强调其应补充而非取代认知努力,并提出以教学目标为导向的平衡整合策略,助力学生批判性参与和技能发展。
2024-12-02 cs.AI cs.CY
Translation Error Detection as Rationale Extraction
University of Sheffield(谢菲尔德大学);Imperial College London(伦敦帝国理工学院)
最近基于多语言预训练表示的质量估计(QE)模型在预测翻译句子的整体质量时取得了非常有竞争力的结果。预测翻译错误,即具体检测哪些单词是不正确的,是一项更具挑战性的任务,特别是在训练数据有限的情况下。我们假设,与人类不同,成功的QE模型依赖于翻译错误来预测整体句子质量。通过探索一组特征归因方法,将相关性得分分配给输入以解释模型预测,我们研究了最先进的量化宽松模型的行为,并表明从这些模型中提取的解释(即理由)确实可以用于检测翻译错误。因此,我们(i)引入了一种新的半监督方法,用于词级QE和(ii)建议使用QE任务作为一个新的基准来评估特征属性的可解释性,即如何解释模型解释是人类。
2021-08-27 cs.CL
An Information Bottleneck Approach for Controlling Conciseness in Rationale Extraction
Allen School of Computer Science & Engineering, University of Washington(华盛顿大学艾伦计算机科学与工程学院);Allen Institute of Artificial Intelligence(艾伦人工智能研究所)
复杂语言理解模型的决策可以通过将其输入限制在原始文本的相关子序列来合理化。理由应该尽可能简洁,而不会显着降低任务性能,但这种平衡在实践中可能难以实现。在本文中,我们表明,它是可能的,以更好地管理这种权衡,通过优化信息瓶颈(IB)目标的约束。我们完全无监督的方法共同学习一个解释器,它预测句子上的稀疏二进制掩码,以及一个只考虑提取的基本原理的最终任务预测器。使用IB,我们得到一个学习目标,允许通过可调稀疏先验直接控制掩模稀疏水平。ERASER基准任务上的实验表明,在任务性能和与人类理性的协议方面,范数最小化技术都有显着的收益。此外,我们发现,在半监督设置中,适量的黄金理论(训练样本的25%)缩小了与使用全部输入的模型的差距。
2020-11-03 cs.CL cs.LG
How much reliable is ChatGPT's prediction on Information Extraction under Input Perturbations?
University of Maryland(马里兰大学)
本文系统评估了ChatGPT在NER任务中面对输入扰动时的鲁棒性,发现其对稀有实体替换更脆弱、解释质量受扰动类型影响但可通过上下文学习改善,且对错误预测过度自信。
2024-04-07 cs.CL
Japanese Tort-case Dataset for Rationale-supported Legal Judgment Prediction
Tokyo Institute of Technology(东京技术大学);Nakamura, Tsunoda & Matsumoto;Hitotsubashi University(立命馆大学)
本文提出了首个日本 tort 案件数据集,用于基于理由的法律判断预测,包含 tort 预测和理由提取两个任务,并通过实验验证了其可行性。
2024-06-13 cs.AI cs.CL
From Cloze to Comprehension: Retrofitting Pre-trained Masked Language Model to Pre-trained Machine Reader
The Chinese University of Hong Kong(香港中文大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Carnegie Mellon University(卡内基梅隆大学)
提出PMR方法,利用维基百科超链接构建MRC风格训练数据,将预训练掩码语言模型改造为机器阅读理解模型,有效解决抽取与分类任务,提升低资源场景性能与可解释性。
2023-10-16 cs.CL
Breaking Free from MMI: A New Frontier in Rationalization by Probing Input Utilization
School of Computer Science and Technology, HUST(华中科技大学计算机科学与技术学院);Faculty of Artificial Intelligence in Education, Central China Normal University(华中师范大学人工智能教育学部);iWudao Tech(悟道科技);School of Artificial Intelligence and Automation, HUST(华中科技大学人工智能与自动化学院)
本文指出最大互信息准则存在边际收益递减问题,提出利用输入表示范数作为替代目标,通过匹配权重矩阵能力空间识别网络真正能利用的理性片段,并在多个数据集上验证其优于 MMI 及部分 LLM。
2025-03-08 cs.AI cs.LG
Systematic Evaluation of Large Language Models for Post-Discharge Clinical Action Extraction
Centific AI Research(Centific AI研究);Centific Global Solutions, Inc.(Centific全球解决方案公司)
本文系统评估了零样本和少样本大型语言模型在安全关键的出院后临床行动提取中的表现,提出两阶段提取框架以提升临床任务的可操作性,并分析标注不一致性和模型推理与标注规范的对齐问题。
2026-05-07 cs.AI
Model Interpretability and Rationale Extraction by Input Mask Optimization
Bielefeld University Faculty for Linguistics and Literary Studies(比勒菲尔德大学语言学与文学研究系)
本文提出一种基于梯度优化和输入掩码的正则化方法,无需训练专门模型即可从已训练分类器中生成兼具充分性、全面性和紧凑性的抽取式解释,并验证其可推广到图像分类任务。
2025-08-15 cs.CL cs.CV cs.LG
Part & Whole Extraction: Towards A Deep Understanding of Quantitative Facts for Percentages in Text
Microsoft Research Asia(微软亚洲研究院)
研究了百分比文本的定量事实抽取问题。例如,给定句子“30%的美国人喜欢看足球,而20%的人更喜欢看NBA。“,我们的目标是通过提取它们的定量事实:部分(“喜欢看足球”和“更喜欢看NBA”)和整体(“美国人”)来深入理解百分比数字(“30%”和“20%”)。这些定量事实可以为自动信息图生成等新应用提供支持。我们制定的部分和整体提取作为一个序列标记问题。由于部分/整体及其对应百分比之间的差距很大,我们在序列建模中引入了跳跃机制,并在我们的任务和CoNLL-2003命名实体识别任务上取得了改善的性能。实验结果表明,学习跳过序列标记是有前途的。
2021-10-26 cs.CL
Chinese Event Extraction Using DeepNeural Network with Word Embedding
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
大量关于事件提取的先前工作已经利用各种特征来表示事件。这种方法有几个缺点:1)特征通常是特定于特定领域的,并且不能很好地概括; 2)特征是从各种语言分析中导出的,并且容易出错;以及3)一些特征可能是昂贵的,并且需要领域专家。在本文中,我们开发了一个中文事件提取系统,使用词嵌入向量来表示语言,和深度神经网络学习的抽象特征表示,以大大减少特征工程的努力。此外,在这个框架中,我们利用大量的未标记的数据,这可以解决有限的标记语料的问题,这项任务。实验结果表明,与使用丰富语言特征的系统相比,我们提出的方法性能更好,并且使用未标记数据有利于词嵌入。这项研究表明DNN和词嵌入在事件提取任务中的潜力。
2016-10-04 cs.CL
Adaptive Ordered Information Extraction with Deep Reinforcement Learning
Fudan University(复旦大学);DataGrand Inc.(DataGrand公司);Fudan-Aishu Cognitive Intelligence Joint Research Center(复旦-数知认知智能联合研究中心)
针对复杂信息抽取中固定抽取顺序影响效果的问题,提出基于强化学习的自适应有序抽取范式及协同训练框架,动态生成最优抽取顺序以缓解曝光偏差,显著提升了复杂IE任务性能。
2023-06-19 cs.CL
On the Effectiveness of the Pooling Methods for Biomedical Relation Extraction with Deep Learning
University of Oregon(俄勒冈大学);Adobe Research(奥多比研究院)
深度学习模型在许多关系抽取数据集上取得了最先进的性能。这些深度学习模型中的一个共同元素涉及池化机制,其中隐藏向量的序列被聚合以生成单个表示向量,用作执行RE预测的特征。不幸的是,在文献中的模型往往采用不同的策略来执行池的RE,导致的挑战,以确定最好的池机制,这个问题,特别是在生物医学领域。为了回答这个问题,在这项工作中,我们进行了全面的研究,以评估生物医学RE中深度学习模型的不同池机制的有效性。实验结果表明,依赖性为基础的池是最好的池策略RE在生物医学领域,产生的国家的最先进的性能在两个基准数据集上的这个问题。
2019-11-04 cs.CL
Smart-Hiring: An Explainable end-to-end Pipeline for CV Information Extraction and Job Matching
ATM Mobilis Algiers, Algeria(阿尔及利亚阿尔梅里尔ATM Mobilis)
本文提出Smart-Hiring,一个端到端NLP流水线,通过文档解析、命名实体识别和上下文文本嵌入技术,从非结构化简历中提取结构化信息,并在共享向量空间中计算候选人与职位的相似度,实现了高准确率、高可解释性的自动化简历筛选与职位匹配。
2025-11-04 cs.CL
The performance evaluation of Multi-representation in the Deep Learning models for Relation Extraction Task
单一的实现,连接,添加或替换表示已经在许多NLP任务上取得了显着的改进。主要是在关系抽取中,静态的、上下文化的和其他能够通过这些结合的语言特征来解释词义的表示。在这项工作中解决的问题是如何改进的关系抽取使用不同类型的表示所产生的预训练的语言表示模型。我们使用流行的单词表示模型对我们的方法进行基准测试,替换和连接静态,上下文和其他手工提取特征的表示。实验表明,代表性是一个关键因素选择时,DL方法。Flair和BERT的词嵌入可以通过RE任务的深度学习模型很好地解释,并且用上下文化的词表示替换静态词嵌入可能会带来显着的改进。然而,手工创建的表示需要耗时,并且不能确保与其他表示相结合。
2019-12-17 cs.CL
SciLitBench: Benchmark and Design Principles for LLM-Powered Systematic Literature Reviews
Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院)
SciLitBench是一个多阶段系统综述基准,涵盖筛选与数据提取,发现明确标准提升筛选性能,但提取可靠性存在边界,为LLM辅助证据综合提供可复现评估资源。
2026-09-09 cs.AI
Temporal Relation Extraction with a Graph-Based Deep Biaffine Attention Model
University of California, San Diego(加利福尼亚大学圣迭戈分校);Hong Kong University of Science and Technology(香港科技大学);National Taiwan University(国立台湾大学)
时间信息抽取在自然语言理解中起着至关重要的作用。以前的系统已经结合了先进的神经语言模型,并成功地提高了时间信息抽取任务的准确性。然而,这些系统有两个主要缺点。首先,他们没有利用预测中时间关系的双面性。其次,它们在推理过程中涉及不可并行的流水线,带来的性能增益很小。为此,我们提出了一种新的时间信息抽取模型的基础上,深度biaffine注意,提取时间之间的关系,在非结构化文本中的事件有效和准确。我们的模型是高性能的,因为我们直接执行关系抽取任务,而不是考虑事件注释作为关系抽取的先决条件。此外,我们的架构使用多层感知器(MLP)与biaffine注意分别预测弧和关系标签,提高关系检测的准确性,利用双边性质的时间关系。我们的实验表明,我们的模型达到国家的最先进的性能在时间关系抽取。
2022-01-16 cs.CL cs.LG
Unlocking the Power of Deep PICO Extraction: Step-wise Medical NER Identification
Southeast University(东南大学);IBM Research(IBM研究院)
PICO框架(人群、干预、比较和结局)通常用于制定医学领域的证据。PICO抽取的主要任务是从医学文献中抽取句子并将其分类。然而,在大多数情况下,即使提取的句子已被归类为某个类别,提取的句子中也会存在多个证据。为了解决这个问题,我们提出了一个逐步的疾病命名实体识别(DNER)提取和PICO识别方法。该方法首先将论文标题和摘要中的句子划分为不同的PICO类,然后识别医学实体并将其划分为P类和O类。采用不同的深度学习框架进行实验,实验结果表明,与传统的PICO抽取方法相比,该方法能够获得高性能和细粒度的抽取结果。
2020-04-30 cs.CL cs.IR
End-to-end neural relation extraction using deep biaffine attention
The University of Melbourne(墨尔本大学)
我们提出了一个神经网络模型的联合提取命名实体和它们之间的关系,没有任何手工制作的功能。我们的模型的主要贡献是扩展了一个基于BiLSTM-CRF的实体识别模型,该模型具有一个深的双仿射注意层,可以对关系分类的潜在特征之间的二阶交互进行建模,特别是关注实体在方向关系中的作用。在基准测试“关系和实体识别”数据集CoNLL 04上,实验结果表明,我们的模型优于以前的模型,产生了新的最先进的性能。
2018-12-29 cs.CL cs.IR
SPECTRA: Sparse Structured Text Rationalization
Instituto de Telecomunicações(葡萄牙电信研究所);Instituto Superior Técnico(高等理工学院);Unbabel(Unbabel公司)
选择性合理化的目的是产生决策以及合理性(例如,文本突出显示或两个句子之间的单词对齐)。通常,基本原理被建模为随机二进制掩码,需要基于采样的梯度估计器,这使得训练复杂化,并且需要仔细的超参数调整。稀疏注意力机制是一种确定性的替代方案,但它们缺乏一种使基本原理提取规则化的方法(例如,以控制文本突出显示的稀疏度或对齐的数量)。在本文中,我们提出了一个统一的框架,确定性提取结构化的解释,通过约束推理的因素图,形成一个可微层。我们的方法极大地简化了训练和合理性规则化,在性能和提取的合理性方面通常优于以前的工作。我们进一步提供了一个比较研究的随机和确定性的方法提取分类和自然语言推理任务的理由,共同评估其预测能力,质量的解释,和模型的可变性。
2021-09-09 cs.CL cs.LG
Zero-shot Code-Mixed Offensive Span Identification through Rationale Extraction
Georgia Institute of Technology(佐治亚理工学院);Data Science Institute, National University of Ireland Galway(爱尔兰国立高威大学数据科学研究所)
本文探讨了有效性的代码混合泰米尔语数据集上的zero-shot攻击跨度识别的双电平Transformers。更具体地说,我们评估合理的本地可解释模型不可知推理(LIME)\cite{DBLP:conf/kdd/Ribeiro0G16}和综合推理(IG)\cite{DBLP:conf/icml/SundararajanTY17}适应Transformer为基础的攻击性语言分类模型的zero-shot进攻跨度识别的提取方法。为此,我们发现LIME和IG显示基线$F_{1}$分别为26.35%和44.83%。此外,我们研究了数据集大小和训练过程对跨度识别整体准确性的影响。因此,我们发现LIME和IG在掩蔽数据增强和多标签训练中表现出显着的改善,$F_{1}$分别为50.23%和47.38%。\textit{Disclaimer : This paper contains examples that may be considered profane, vulgar, or offensive. The examples do not represent the views of the authors or their employers/graduate schools towards any person(s), group(s), practice(s), or entity/en…
2022-05-12 cs.CL cs.LG
AutoTriggER: Label-Efficient and Robust Named Entity Recognition with Auxiliary Trigger Extraction
University of Southern California(南加州大学);Information Science Institute, University of Southern California(南加州大学信息科学研究所);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出两阶段框架AutoTriggER,通过自动生成和利用“实体触发词”辅助命名实体识别,结合事后解释和嵌入插值技术增强模型先验知识,在三个数据集上表现出强标签效率并平均比RoBERTa-CRF基线高近0.5个F1点。
2023-05-18 cs.CL cs.IR
Deep Reader: Information extraction from Document images via relation extraction and Natural Language
TCS Research(塔塔咨询服务公司研究院);BITS Pilani(比尔拉科学技术学院皮拉尼校区)
计算机视觉领域的最新进展与最先进的神经网络已经提高了光学字符识别(OCR)的准确性。然而,单独提取字符/文本通常不足以进行相关信息抽取,因为文档还具有OCR无法捕获的视觉结构。从表格、图表、脚注、框、标题中提取信息并检索文档的相应结构化表示仍然是一项挑战,并在大量现实用例中得到应用。在本文中,我们提出了一种新的企业为基础的端到端的框架,称为DeepReader,有利于信息抽取从文档图像通过识别视觉实体和填充一个Meta关系模型在不同的实体在文档图像。模型模式允许容易理解由深度视觉模型检测到的实体的抽象以及它们之间的关系。DeepReader拥有一套最先进的视觉算法,可用于识别手写和印刷文本,消除噪音影响,识别文档类型,并检测表格,线条和盒子等视觉实体。Deep Reader将提取的实体映射到丰富的关系模式中,以便捕获文档中检测到的实体(单词,文本框,行等)之间的所有相关关系。然后,通过在关系表上编写SQL查询,可以从文档中提取相关信息和字段。基于自然语言的接口被添加到关系模式之上,使得以自然语言指定查询的非技术用户可以以最小的努力获取信息。在本文中,我们还展示了Deep Reader的许多不同功能,并报告了真实用例的结果。
2018-12-14 cs.CL cs.CV
Legal Experts Disagree With Rationale Extraction Techniques for Explaining ECtHR Case Outcome Classification
Trustworthy Human Language Technologies, Research Center Trustworthy Data Science and Security of the University Alliance Ruhr, Ruhr University Bochum(鲁尔大学联盟可信数据科学与安全研究中心,可信人类语言技术,波鸿鲁尔大学);Center for Critical Computational Studies, Goethe University Frankfurt(法兰克福歌德大学关键计算研究中心)
本文研究了欧洲人权法院判决结果预测任务,引入了新的ECtHR数据集,并提出比较分析框架评估推理提取技术的解释能力,发现模型预测违规的'原因'与法律专家存在显著差异。
2026-04-07 cs.CL
Text to Insight: Accelerating Organic Materials Knowledge Extraction via Deep Learning
Drexel University(德雷塞尔大学);Northeastern University(东北大学);Kebotix, Inc.(Kebotix公司)
科学文献是知识共享的重要资源之一。研究人员将科学文献作为设计实验的第一步。鉴于文献的广泛和不断增长的数量,阅读和手动提取知识的常见方法过于耗时,在研究周期中造成瓶颈。这一挑战几乎涉及所有科学领域。对于材料科学来说,分布在数百万出版物中的实验数据对于预测材料性能和设计新材料非常有帮助。然而,直到最近,研究人员才探索了主要用于无机材料的知识提取的计算方法。本研究旨在探讨有机材料的知识提取。我们建立了一个研究数据集,由来自92,667篇摘要的855个注释和708,376个未注释句子组成。我们使用命名实体识别(NER)和BiLSTM-CNN-CRF深度学习模型来自动提取文献中的关键知识。早期阶段的结果显示了自动知识提取的巨大潜力。本文介绍了我们的研究结果和监督的知识提取,可以适应其他科学领域的框架。
2021-09-27 cs.CL cs.IR
Integrating Deep Learning with Logic Fusion for Information Extraction
Nanyang Technological University(南洋理工大学)
信息抽取(IE)旨在从输入文本中产生结构化信息,例如,命名实体识别和关系抽取。已经提出了通过特征工程或深度学习用于IE的各种尝试。然而,他们中的大多数人未能将任务本身固有的复杂关系联系起来,而这一点已被证明是特别重要的。例如,两个实体之间的关系高度依赖于它们的实体类型。这些依赖关系可以被视为复杂的约束,可以有效地表示为逻辑规则。为了将这种逻辑推理能力与深度神经网络的学习能力相结合,我们提出将逻辑知识以一阶逻辑的形式集成到深度学习系统中,该系统可以以端到端的方式进行联合训练。该集成框架能够通过逻辑规则的知识正则化来增强神经输出,同时更新逻辑规则的权重以符合训练数据的特性。我们证明了该模型的有效性和推广多IE任务。
2019-12-06 cs.CL cs.IR cs.LG
Hallucination vs interpretation: rethinking accuracy and precision in AI-assisted data extraction for knowledge synthesis
University of Illinois Chicago(伊利诺伊大学芝加哥分校);University of California, San Francisco(加利福尼亚大学旧金山分校)
本研究开发了基于LLM的AI数据提取平台,比较AI与人类在187篇文献中的提取表现,发现AI变异性主要源于解释性差异而非幻觉,AI可作为知识合成中可靠的合作伙伴。
2025-08-14 cs.AI cs.ET cs.HC
Deep Learning based Key Information Extraction from Business Documents: Systematic Literature Review
Saarland University(萨尔兰大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文对2017至2024年间130种基于深度学习的商业文档关键信息提取方法进行系统性文献综述,分析现有技术并指出未来研究方向。
2025-07-18 cs.CL cs.IR cs.LG
Rethinking Cooperative Rationalization: Introspective Extraction and Complement Control
IBM Research(IBM研究院);MIT(麻省理工学院);MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室)
选择性合理化已经成为一种常见的机制,以确保预测模型揭示它们如何使用任何可用的功能。选择可以是软的或硬的,并且识别与预测相关的输入特征的子集。这个设置可以被看作是选择器(又称基本原理生成器)和预测器之间的合作游戏,只使用选定的功能。然而,由于两个原因,合作环境可能会受到损害。首先,生成器通常不能直接存取它旨在证明的结果,从而导致性能差。第二,通常没有对选择之外的信息施加控制。我们修订了整体合作框架,以应对这些挑战。我们引入了一个内省模型,明确预测,并将结果纳入选择过程。此外,我们通过对手明确控制的理由补充,以免留下任何有用的信息的选择。我们发现,这两个互补的机制保持高的预测准确性,并导致全面的理由。
2019-12-15 cs.CL cs.LG
ERASER: A Benchmark to Evaluate Rationalized NLP Models
Northeastern University(东北大学);Salesforce Research(赛富时研究院)
NLP中最先进的模型现在主要基于深度神经网络,这些网络在如何进行预测方面是不透明的。这一限制增加了人们对为NLP设计更多可解释的深度模型的兴趣,这些模型揭示了模型输出背后的“推理”。但这方面的工作是在不同的数据集和任务上进行的,目标和指标也相应独特;这使得跟踪进展变得困难。我们提出了评估语义和简单英语推理(ERASER)基准,以推进NLP中可解释模型的研究。该基准包括多个数据集和任务,其中已收集了人类对“基本原理”(支持证据)的注释。我们提出了几个指标,旨在捕捉模型提供的基本原理与人类基本原理的一致程度,以及这些基本原理的忠实程度(即,所提供的基本原理影响相应预测的程度)。我们希望发布这个基准可以促进设计更可解释的NLP系统的进展。基准测试、代码和文档可在https://www.eraserbenchmark.com/上获得
2020-04-24 cs.AI cs.CL cs.LG
From Prediction to Justification: Aligning Sentiment Reasoning with Human Rationale via Reinforcement Learning
School of Computer Science and Technology, East China Normal University(东华大学计算机科学与技术学院);Shanghai Qiji Zhifeng Co., Ltd.(上海启智丰科技有限公司);Ocean University of China(中国海洋大学)
本文提出ABSA-R1框架,通过强化学习使模型具备生成自然语言论证的能力,提升情感分类和三元组提取性能。
2026-04-15 cs.AI cs.CL
Polish-ASTE: Aspect-Sentiment Triplet Extraction Datasets for Polish
Poznan University of Technology(波兹南理工大学);Adam Mickiewicz University(亚当·密茨凯维奇大学);Charles University(查理大学)
本文提出了两个波兰语的情感三元组抽取数据集,涵盖酒店和产品评论,并结合两种ASTE技术与大型语言模型进行实验,以评估性能和数据难度,数据集以宽松许可发布,格式与英语数据集一致。
2025-02-27 cs.AI cs.CL
Interpretable Neural Predictions with Differentiable Binary Variables
ILLC(逻辑、语言与计算研究所);University of Amsterdam(阿姆斯特丹大学);ILCC(语言与认知研究所);University of Edinburgh(爱丁堡大学)
神经网络的成功与人们对更好的可解释性的渴望密切相关。我们专注于文本分类器,并通过让它们为它们的预测提供一个理由,一个理由,使它们更容易解释。我们通过联合训练两个神经网络模型来解决这个问题:一个潜在模型选择一个基本原理(即输入文本的一个简短而信息丰富的部分),一个分类器只从基本原理中的单词中学习。以前的工作建议分配二进制潜在的掩码输入位置,并通过稀疏诱导的处罚,如L0正则化,以促进短的选择。我们提出了一个潜在的模型,它混合了离散和连续的行为,同时允许二进制选择和基于梯度的训练,而不需要REINFORCE。在我们的公式中,我们可以很容易地计算惩罚的期望值,例如L0,这使我们能够直接优化模型以达到预先指定的文本选择率。我们表明,我们的方法是有竞争力的与以前的工作的理由提取,并探讨进一步使用注意力机制。
2020-06-19 cs.CL