A Survey of Paraphrasing and Textual Entailment Methods
Athens University of Economics and Business（雅典经济与商业大学）
释义方法识别、生成或提取表达几乎相同信息的短语、句子或较长的自然语言表达。另一方面，文本蕴涵方法识别、生成或提取成对的自然语言表达，使得读取（并信任）成对的第一元素的人将最有可能推断出另一元素也是真的。释义可以被看作是双向的文本蕴涵和方法，从这两个领域往往是相似的。这两种方法至少在原则上都适用于广泛的自然语言处理应用，包括问答、摘要、文本生成和机器翻译。我们总结了这两个领域的关键思想，依次考虑识别，生成和提取方法，也指向突出的文章和资源。
2010-05-30 cs.AI cs.CL
Logic Against Bias: Textual Entailment Mitigates Stereotypical Sentence Reasoning
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）
由于其基于相似性的学习目标，预先训练的句子编码器经常内化反映其训练语料库中存在的社会偏见的刻板假设。在本文中，我们描述了流行的句子表示模型中存在的关于不同社区的几种刻板印象，包括预训练的下一句预测和对比句子表示模型。我们比较这样的模型文本蕴涵模型，学习语言逻辑的各种下游语言理解任务。通过比较基于文本相似度的强预训练模型和文本蕴涵学习，我们得出结论，具有文本蕴涵的显式逻辑学习可以显著减少偏见，提高社会社区的识别，而无需显式的去偏见过程
2023-03-10 cs.AI cs.CL cs.CY
Textual Entailment Recognition with Semantic Features from Empirical Text Representation
Fraunhofer Institute for Applied Information Technology FIT（弗劳恩霍夫应用信息技术研究所FIT）；University of Siegen（锡根大学）；Hajee Mohammad Danesh Science and Technology University（哈吉·穆罕默德·达内什科技大学）；Bangladesh University of Engineering and Technology（孟加拉工程技术大学）；RWTH Aachen University（亚琛工业大学）；Bonn-Rhein-Sieg University of Applied Sciences（波恩-莱茵-锡格应用科学大学）
本文提出基于经验阈值的语义文本表示新方法，采用元素级曼哈顿距离向量特征识别文本-假设对的语义蕴含关系，在SICK-RTE数据集上结合机器学习算法分类蕴含、中立或矛盾，显著优于已知方法。
2023-06-19 cs.AI cs.CL
Entailment Graph Learning with Textual Entailment and Soft Transitivity
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Center for Data Science, Peking University（北京大学数据科学中心）；The MOE Key Laboratory of Computational Linguistics, Peking University（北京大学计算语言学教育部重点实验室）
类型化蕴涵图试图从文本中学习谓词之间的蕴涵关系，并将它们建模为谓词节点之间的边。蕴涵图的构造通常受到分布相似性的严重稀疏性和不可靠性的影响。我们提出了一个两阶段的方法，蕴涵图与文本蕴涵和传递性（EGT2）。EGT2通过识别由类型化的CCG解析的谓词形成的模板句子之间可能的文本蕴涵来学习局部蕴涵关系。基于生成的局部图，EGT2然后使用三个新的软传递性约束来考虑蕴涵结构中的逻辑传递性。在基准数据集上的实验表明，EGT2可以很好地模拟蕴涵图的传递性，以减轻稀疏性问题，并导致显着改善目前的最先进的方法。
2022-07-15 cs.CL
Black-Box Analysis: GPTs Across Time in Legal Textual Entailment Task
National Institute of Informatics（国立信息学研究所）；University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）；Imperial College London（伦敦帝国理工学院）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
本文通过黑盒分析评估了GPT-3.5和GPT-4在COLIEE Task 4法律文本蕴含数据集（2006-2021年）上的表现，揭示了模型优缺点及训练数据分布对泛化能力的影响，为优化GPT在法律领域的应用奠定基础。
2023-09-11 cs.AI cs.CL
Hyperbolic sentence representations for solving Textual Entailment
本研究针对文本蕴含问题，提出基于庞加莱球的双曲空间句子表示方法，构建两个额外数据集，在二分类任务中SICK数据集表现优于多类基线，SNLI数据集仅次于Order Embeddings。
2024-06-15 cs.AI cs.CL cs.LG
Universal Natural Language Processing with Limited Annotations: Try Few-shot Textual Entailment as a Start
Salesforce Research（Salesforce研究）；Yale University（耶鲁大学）
解决不同NLP问题的标准方法是首先构建一个特定于问题的数据集，然后构建一个模型来拟合这个数据集。为了构建最终的人工智能，我们需要一台能够处理各种新问题的机器，而特定于任务的注释是有限的。我们提出文本蕴涵作为一个统一的解决方案，这样的NLP问题。然而，目前的文本蕴涵研究并没有在以下问题上投入太多的精力：（i）一个预先训练好的文本蕴涵系统在只有少数特定领域示例的情况下跨领域泛化的效果如何？以及（ii）什么时候值得将NLP任务转换为文本蕴涵？我们认为，转换是不必要的，如果我们可以获得丰富的注释这项任务。文本蕴涵真的很重要，特别是当目标NLP任务没有足够的注释时。通用NLP可能可以通过不同的例程来实现。在这项工作中，我们介绍了通用的Few-Shot文本蕴涵（UFO蕴涵）。我们证明了这个框架使预训练的蕴涵模型在Few-Shot设置中的新蕴涵域上工作良好，并显示其作为几个下游NLP任务的统一求解器的有效性，如问答和共指消解，当最终任务注释有限时。代码：https://github.com/salesforce/UniversalFewShotNLP
2020-10-06 cs.CL
AdvEntuRe: Adversarial Training for Textual Entailment with Knowledge-Guided Examples
Carnegie Mellon University（卡内基梅隆大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们考虑了有限监督（5 K-10 K训练样本）的文本蕴涵模型的学习问题，并提出了两种互补的方法。首先，我们提出了知识引导的对抗性示例生成器，用于通过少数规则模板将大型词汇资源纳入蕴涵模型。其次，为了使蕴涵模型-一个机器人-更强大，我们提出了第一种GAN风格的方法，使用自然语言示例生成器来训练它，该示例生成器根据机器人的性能进行迭代调整。我们使用两个蕴涵数据集证明了有效性，其中所提出的方法在SciTail上将准确率提高了4.7%，在SNLI的1%训练子样本上提高了2.8%。值得注意的是，即使是一个手写的规则，否定，提高了6.1%的SNLI否定示例的准确性。
2018-05-12 cs.AI cs.CL cs.LG
A corpus of precise natural textual entailment problems
在本文中，我们提出了一个新的语料库蕴涵问题。该语料库具有以下特点：1.它是精确的（不遗漏隐含的假设）2.它是基于“真实世界”的文本（即，大多数前提是为了测试文本蕴涵以外的目的而编写的）。3.它的大小是150。语料库的构建是通过从真实文本蕴涵中提取问题，并使用一群专家发现缺失的假设。我们相信，这个语料库构成了对精确的自然语言推理系统进行广泛测试的第一步。
2018-12-14 cs.CL
AWE: Asymmetric Word Embedding for Textual Entailment
IBM Research（IBM研究院）；Georgia Institute of Technology（佐治亚理工学院）
文本蕴涵是自然语言处理中的一项基本任务。它指的是文本片段之间的方向关系，使得“前提”可以推断出“假设”。近年来，深度学习方法在这项任务中取得了巨大成功。他们中的许多人都考虑了句间词与词之间的相互作用的前提假设对，然而，很少有人考虑这些相互作用的“不对称”。与释义识别或句子相似性评价不同，语篇蕴涵本质上是确定前提与假设之间的方向性（非对称性）关系。在本文中，我们提出了一个简单而有效的方法来增强现有的文本蕴涵算法，通过使用非对称词嵌入。在SciTail和SNLI数据集上的实验结果表明，学习的非对称词嵌入能显著改善基于词-词交互的文本蕴涵模型.值得注意的是，所提出的AWE-DeIsTe模型可以在SciTail上获得比现有技术高2.1%的准确性。
2018-09-12 cs.CL
Paraphrasing, textual entailment, and semantic similarity above word level
Universidad de Barcelona（巴塞罗那大学）
本论文探讨了两个或多个复杂的语言表达（短语，从句，句子，段落）之间的意义关系的语言和计算方面。特别是，它侧重于释义，文本蕴涵，矛盾和语义相似性。第一部分：在"词语层面的相似性"一文中，笔者研究了分布假设，并探讨了几种不同的方法来量化词语和短语层面的语义相似性。第二部分：在“释义类型与释义识别”一章中，我重点讨论了释义的意义关系和释义自动识别的实验任务。第三部分："释义、语篇蕴涵和语义相似"是本文在对释义、语篇蕴涵、矛盾和语义相似进行联合研究的基础上提出的一个新的语篇意义关系研究方向。
2022-08-10 cs.CL
Bridging Knowledge Gaps in Neural Entailment via Symbolic Models
Carnegie Mellon University（卡内基梅隆大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
大多数语篇蕴涵模型关注前提语篇和假设之间的词汇空缺，但很少关注知识空缺。我们专注于填补这些知识缺口的科学蕴涵任务，利用外部结构化的知识库（KB）的科学事实。我们的新架构将标准神经蕴涵模型与知识查找模块相结合。为了方便这种查找，我们提出了一个事实级的分解的假设，并验证由此产生的子事实对文本的前提和结构化的知识库。我们的模型NSnet学习从这些异构的数据格式中聚合预测。在SciTail数据集上，NSnet比两个预测的简单组合高出3%，比基本蕴涵模型高出5%。
2018-09-04 cs.AI cs.CL
Enhancing Systematic Decompositional Natural Language Inference Using Informal Logic
Johns Hopkins University（约翰斯·霍普金斯大学）；Allen Institute for AI（艾伦人工智能研究所）；University of Arizona（亚利桑那大学）
针对分解式文本推理缺乏明确判定协议导致的数据集噪声、性能受限问题，提出有理论依据的分解式蕴含标注方法，构建内部一致性提升9%的RDTE数据集，结合知识蒸馏训练的分类器可有效提升蕴含树推理的准确率与证明质量。
2024-08-12 cs.AI cs.CL
Textual Entailment for Effective Triple Validation in Object Prediction
针对基于提示的语言模型事实检索不稳定、易产生幻觉的问题，提出用文本蕴含验证完形填空提取的事实，可提升不同训练机制下的预测效果，还适用于验证知识图谱、文本段落等其他来源的候选事实。
2024-01-29 cs.AI cs.CL cs.DL
Using Description Logics for Recognising Textual Entailment
Loria（洛林计算机科学及其应用实验室）；UHP Nancy 2（南锡第二大学亨利·庞加莱大学）；Talaris（塔拉里）
本文的目的是展示我们如何处理识别文本蕴涵（RTE）的任务，通过使用描述逻辑（DLs）。要做到这一点，我们提出了一个表示自然语言语义在DL的启发，现有的表示在一阶逻辑。但我们最重要的贡献是定义了两个新的推理任务：A-Box饱和和子图检测，这对我们的RTE方法至关重要。
2007-10-16 cs.CL
Explaining Textual Entailment with Lexical Entailments: Using LLMs to Supply Lexical Relations for Formal Proofs
本文评估LLM在逻辑NLI系统中提供词汇蕴含的能力，发现其生成关系部分合理且贡献有限，任务仍具挑战性。
2026-09-29 cs.AI cs.CL
Dr.Quad at MEDIQA 2019: Towards Textual Inference and Question Entailment using contextualized representations
Carnegie Mellon University（卡内基梅隆大学）
本文介绍了Quad博士团队提交的ACL-BioNLP 2019共享任务，即医学领域的文本推理和问题蕴涵。我们的系统基于Liu et al.（2019）的先前工作，该工作使用多任务目标函数进行文本蕴涵。在这项工作中，我们探讨了不同的战略，推广国家的最先进的语言理解模型的专业医疗领域。我们在共享任务上的结果表明，通过数据增强整合领域知识是应对医学等专业领域所带来挑战的有力策略。
2019-07-23 cs.CL
Textual Entailment with Structured Attentions and Composition
Oregon State University（俄勒冈州立大学）
深度学习技术在文本蕴涵任务中越来越受欢迎，克服了传统离散模型的脆弱性，具有硬对齐和逻辑。特别是，最近提出的注意力模型（Rocktäschel等人，2015; Wang and Jiang，2015）通过计算前提和假设句子之间的软词对齐来实现最先进的准确性。然而，仍然存在一个主要的限制：这条工作路线完全忽略了语法和递归，这在许多传统的工作中是有帮助的。我们表明，将注意力模型扩展到前提和假设之间的树节点是有益的。更重要的是，这种子树层次的注意揭示了蕴涵关系的信息。我们研究了这种子树级蕴涵关系的递归组合，它可以被视为自然逻辑框架的软版本（MacCartney和Manning，2009）。实验结果表明，本文提出的结构化注意和蕴涵组合模型能够自自底向上的正确识别和推理蕴涵关系，在准确率上有显著提高。
2017-01-04 cs.CL
Multimodal Logical Inference System for Visual-Textual Entailment
Ochanomizu University（御茶水女子大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
近年来，大量关于跨文本和视觉的多模态推理的研究已经发展到获得基于视觉的单词和句子表示。在本文中，我们使用基于逻辑的表示作为文本和图像的统一意义表示，并提出了一个无监督的多模态逻辑推理系统，可以有效地证明它们之间的蕴涵关系。我们表明，通过结合语义解析和定理证明，该系统可以处理语义复杂的句子的视觉-文本推理。
2019-06-10 cs.CL
Textual Entailment Recognizing by Theorem Proving Approach
在本文中，我们提出了两个原始的方法来识别文本推理。第一个是一个修改的决议方法，使一些语言的考虑，介绍了两个原子的统一。这种方法是可能的，由于最近的方法转换文本的逻辑公式。第二种是基于文本中的语义关系，如WordNet中所示。这两种方法之间的一些相似之处被指出。
2008-05-29 cs.CL
End-Task Oriented Textual Entailment via Deep Explorations of Inter-Sentence Interactions
University of Pennsylvania（宾夕法尼亚大学）；LMU Munich（慕尼黑大学）
这项工作涉及SciTail，一个自然的蕴涵挑战来自多选择问答问题。SciTail中的前提和假设是在没有意识到彼此的情况下产生的，并且没有专门针对蕴涵任务。这使得它比其他蕴涵数据集更具挑战性，并且对最终任务--问答更直接有用。我们建议DEISTE（深层次的句子间互动的文本蕴涵）这个蕴涵任务。给定前提-假设对（$P$，$H$）之间的单词到单词的交互，DEISTE包括：（i）使$P$和$H$中的重要单词在学习的表示中起主导作用的参数动态卷积;以及（ii）对对齐单词对的表示和位置信息进行编码的位置感知卷积。实验表明，DEISTE得到$\approx$ 5\%的改进，比现有技术的状态，并在SciTail上的预训练的DEISTE推广RTE-5。
2018-05-15 cs.CL
Medical Knowledge-enriched Textual Entailment Framework
LHNCBC, U.S. National Library of Medicine（美国国家医学图书馆LHNCBC）；University of South Carolina（南卡罗来纳大学）
实现健壮的医学问答系统的一个主要任务是文本蕴涵。现有的方法利用预先训练的语言模型或数据增强的集合，通常在验证度量上记录更高的数字。然而，两个主要缺点阻碍了识别蕴涵的更高成功率：（1）理解问题的焦点/意图和（2）利用现实世界的背景知识来捕获句子之外的上下文的能力。在本文中，我们提出了一种新的医学知识丰富的文本蕴涵框架，允许该模型获得一个语义和全局表示的输入医学文本的帮助下，相关的特定领域的知识图谱。我们评估了我们的框架上的基准MEDIQA-RQE数据集，并表明，使用知识丰富的双编码机制有助于实现8.27%的绝对改善SOTA语言模型。我们在这里提供了源代码。
2020-11-10 cs.CL
Addressing Limited Data for Textual Entailment Across Domains
IBM T. J. Watson Research Center（IBM托马斯·J·沃森研究中心）；The Ohio State University（俄亥俄州立大学）
我们试图解决缺乏标记的数据（和高成本的注释）的文本蕴涵在某些领域。为此，我们首先为临床领域创建（出于实验目的）一个蕴涵数据集，以及一个高度竞争的监督蕴涵系统ENT，它在两个领域都是有效的（开箱即用）。然后，我们探索自我训练和主动学习策略，以解决缺乏标记数据。通过自我训练，我们成功地利用了未标记的数据，在新闻领域提高了15%的F分数，在临床数据上提高了13%的F分数。另一方面，我们的主动学习实验表明，我们可以匹配（甚至击败）耳鼻喉科使用只有6.6%的训练数据在临床领域，只有5.8%的训练数据在新闻领域。
2016-06-08 cs.CL
Logical Semantics, Dialogical Argumentation, and Textual Entailment
LIRMM, Univ Montpellier, CNRS（蒙彼利埃大学 LIRMM 实验室、法国国家科学研究中心）
在这一章中，我们引入了一个新的一阶经典逻辑的对话系统，它接近于自然语言论证，并证明了它关于通常的经典有效性的完备性。我们将我们的对话系统与第二作者开发的Grail语法和语义分析器相结合，以解决自动文本蕴涵问题，也就是说，我们用它来决定一个句子是否是一个简短的文本的结果。这项工作，它连接自然语言语义和论证与对话逻辑，可以被视为一个推理的观点自然语言语义的一步。
2020-08-17 cs.CL
Continuous Prompt Tuning Based Textual Entailment Model for E-commerce Entity Typing
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Saleforce Research（赛富时研究院）；Huski Inc（哈士奇公司）
电子商业的爆炸式增长导致了对产品标题的处理和分析的需求，如产品标题中的实体键入。然而，电子商业中的快速活跃导致了新实体的快速涌现，这是一般实体分型难以解决的问题。此外，电子商业中的产品标题与一般领域的文本数据具有很大的语言风格。为了处理产品标题中的新实体，解决电子商务领域产品标题的特殊语言风格问题，提出了基于连续提示微调的假设融合嵌入文本蕴涵模型，用于电子商业实体分类。首先，我们将实体键入任务重新表述为文本蕴涵问题，以处理训练过程中不存在的新实体。其次，我们设计了一个自动生成文本蕴涵假设的模型，该模型采用连续提示微调的方法，可以在不需要人工设计的情况下生成更好的文本蕴涵假设。第三，利用BERT嵌入和二阶BERT嵌入与两层MLP分类器的融合嵌入，解决了电子商业中产品标题语言风格与一般领域不同的问题。为了分析每个贡献的效果，我们比较了实体类型和文本蕴涵模型的性能，并对连续提示微调和融合嵌入进行了消融研究。我们还评估了不同提示模板初始化对连续提示微调的影响。我们表明，我们提出的模型提高了约2%的平均F1分数相比，基线BERT实体分型模型。
2022-11-04 cs.CL
A Survey on Recognizing Textual Entailment as an NLP Evaluation
Barnard College, Data Science Institute, Columbia University（巴纳德学院、数据科学研究所、哥伦比亚大学）；Columbia University（哥伦比亚大学）
文本蕴涵识别（RTE）是一个比较不同自然语言处理系统语义理解的统一评价框架。在这篇综述论文中，我们概述了评估和理解NLP系统推理能力的不同方法。然后，我们通过突出的RTE数据集以及RTE数据集的进展来集中讨论RTE，这些数据集专注于可用于在细粒度级别上评估NLP系统的特定语言现象。我们的结论是，在评估NLP系统时，社区应该利用新引入的RTE数据集，专注于特定的语言现象。
2020-10-06 cs.CL
Textual Entailment for Event Argument Extraction: Zero- and Few-Shot with Multi-Source Learning
HiTZ Basque Center for Language Technologies（HiTZ巴斯克语言技术中心）；Raytheon BBN Technologies（雷神BBN技术公司）；University of the Basque Country UPV/EHU（巴斯克大学UPV/EHU）
最近的工作表明，NLP任务（如关系抽取（RE））可以使用动词化重新转换为文本蕴涵任务，由于预先训练的蕴涵模型，在zero-shot和Few-Shot设置中具有强大的性能。事实上，在目前的RE数据集的关系很容易用语言表达的怀疑是否蕴涵将是有效的，在更复杂的任务。在这项工作中，我们证明了蕴涵在事件参数提取（EAE）中也是有效的，在ACE和WikiEvents中分别将手动注释的需要减少到50%和20%，同时实现与完整训练相同的性能。更重要的是，我们表明，重铸EAE蕴涵的依赖模式，这一直是一个路障域之间的注释转移。由于蕴涵，ACE和WikiEvents之间的多源传输进一步将注释减少到不传输的完整训练的10%和5%（分别）。我们的分析表明，获得良好结果的关键是使用多个蕴涵数据集来预训练蕴涵模型。与以前的方法类似，我们的方法需要少量的手动语言化工作：每个事件参数类型只需要不到15分钟，并且可以与具有不同专业知识水平的用户实现可比的结果。
2022-05-03 cs.CL
From Alignment to Entailment: A Unified Textual Entailment Framework for Entity Alignment
Nankai University（南开大学）
本文将实体对齐任务转化为跨知识图谱实体序列的双向文本蕴含任务，利用预训练语言模型显式建模原始信息的细粒度交互，在五个数据集上优于现有方法并实现异构信息互促。
2023-05-19 cs.CL
A Logic-based Approach for Recognizing Textual Entailment Supported by Ontological Background Knowledge
Universität zu Köln（科隆大学）；Fraunhofer-Institut FKIE（弗劳恩霍夫FKIE研究所）
我们提出了一个新的系统识别文本蕴涵（RTE）的体系结构和评价。在RTE中，我们希望自动识别两个输入文本之间的逻辑关系的类型。特别是，我们感兴趣的是证明它们之间的蕴涵的存在。我们设想我们的系统作为一个模块化的环境，允许高覆盖率的语法和语义的文本分析结合逻辑推理。对于句法和语义分析，我们将深层语义分析与统计模型支持的浅层语义分析相结合，以提高结果的质量和准确性。对于RTE，我们使用一阶逻辑推理，采用模型理论技术和自动推理工具。该推理由自动提取的问题相关背景知识支持，并根据需要从外部源提取，例如，WordNet、YAGO和OpenCyc，或其他更多的实验源，例如，手动定义的预设解决方案，或与公理化的一般和常识知识。结果表明，来自不同来源的细粒度和一致的知识是确定结果的正确性和可追溯性的必要条件。
2013-10-18 cs.AI cs.CL cs.LO
e-SNLI-VE: Corrected Visual-Textual Entailment with Natural Language Explanations
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）；University of Tuebingen（图宾根大学）
最近提出的SNLI-VE语料库识别视觉文本蕴涵是一个大的，真实世界的数据集细粒度的多模态推理。然而，SNLI-VE已经组装的自动方式（通过组合两个相关数据集的部分）在该语料库的标签中产生了大量的错误。在本文中，我们首先提出了一个数据汇集的努力，以纠正类的最高出错率在SNLI-VE。其次，我们重新评估现有的模型，我们称之为SNLI-VE-2.0的校正语料库，并提供了一个定量的比较，其性能的非校正语料库。第三，我们引入了e-SNLI-VE，它在SNLI-VE-2.0中增加了人类书写的自然语言解释。最后，我们在训练时训练从这些解释中学习的模型，并在测试时输出这些解释。
2021-08-19 cs.AI cs.CL cs.CV
Factually Consistent Summarization via Reinforcement Learning with Textual Entailment Feedback
Bar-Ilan University（巴伊兰大学）；Google Research（谷歌研究院）
本文提出利用无需参考的文本蕴含奖励进行强化学习，以优化抽象式摘要的事实一致性，并验证其可同时提升忠实性、显著性和简洁性。
2023-05-31 cs.CL
Grounded Textual Entailment
University of Malta（马耳他大学）；University of Trento（特伦托大学）
捕捉句子之间的语义关系，如蕴涵，是计算语义学的一个长期挑战。基于逻辑的模型根据可能的世界（解释或情况）来分析蕴涵，其中前提P蕴涵假设H当且仅当在所有P为真的世界中，H也为真。统计模型认为这种关系的概率，解决它在人类是否可能推断H从P.在本文中，我们希望弥合这两个角度来看，通过争论的文本蕴涵任务的视觉接地版本。具体来说，我们问的是，如果除了P和H之外，还有一个图像（对应于相关的“世界”或“情境”），模型是否能表现得更好。我们使用SNLI数据集的多模态版本（Bowman等人，2015），我们比较了文本蕴涵的“盲”和视觉增强模型。我们表明，视觉信息是有益的，但我们也进行了深入的错误分析，揭示了当前的多模态模型没有以最佳方式执行“接地”。
2018-06-14 cs.CL cs.CV
Accurate and Nuanced Open-QA Evaluation Through Textual Entailment
University of Alberta（阿尔伯塔大学）
本研究提出基于文本蕴含的开放问答评估方法，无需学习即可量化答案推理差距，实现更接近人类判断的细致评分，在NaturalQuestions和TriviaQA上取得更高AUC。
2024-05-26 cs.CL
Max-Cosine Matching Based Neural Models for Recognizing Textual Entailment
Fudan University（复旦大学）
识别文本蕴涵是文本挖掘或自然语言处理应用中的一项基本任务。本文提出了一个简单的神经网络模型的RTE问题。它首先将假设中的每个词与前提中最相似的词进行匹配，以词对序列的形式产生假设的增强表示。然后使用LSTM模型对这个增强序列进行建模，并将LSTM的最终输出馈送到softmax层进行预测。除了基本模型外，为了提高其性能，我们还提出了三种技术：多个词嵌入库的集成，双向集成和基于模型平均的集成。在SNLI数据集上的实验结果表明，这三种技术在提高预测精度方面是有效的，并且我们的方法优于几种状态的方法。
2017-05-25 cs.CL
Exploring Lexical, Syntactic, and Semantic Features for Chinese Textual Entailment in NTCIR RITE Evaluation Tasks
National Chengchi University（国立政治大学）
在NTCIR-9和NTCIR-10中，我们计算了繁体中文和简体中文文本中识别推理（RITE）任务的词汇、句法和语义水平的语言信息。采用句法分析、命名实体识别和近义词识别等技术，并考虑常用词数、语句长度、否定词和反义词等特征来判断两个语句的蕴涵关系，同时探索了基于语义的函数和机器学习方法。所报道的系统表现出的鲁棒性，同时实现第二个位置的二进制分类子任务的简体中文和繁体中文在NTCIR-10 RITE-2。利用NTCIR-9 RITE的测试数据进行了进一步的实验，取得了较好的效果。我们还扩展了我们的工作，以寻找更好的配置，我们的分类和调查的贡献，个别功能。这项长期工作显示出令人感兴趣的结果，应鼓励进一步讨论。
2015-04-08 cs.AI cs.CL cs.DL
Natural Language Inference from Multiple Premises
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们定义了一个新颖的文本蕴涵任务，需要对多个前提句子进行推理。我们提出了一个新的数据集为这项任务，最大限度地减少琐碎的词汇推理，强调日常事件的知识，并提出了一个更具挑战性的设置文本蕴涵。我们评估了几个强大的神经基线，并分析了多前提任务与标准文本蕴涵的不同之处。
2017-10-09 cs.CL
E-CONAN (Entailment, CONtradition And Neutral) Benchmarks: Arabic Textual Entailment and Natural Inference Datasets
Higher Institute for Applied Sciences and Technology（高等应用科学与技术学院）；Arab International University（阿拉伯国际大学）
针对阿拉伯语NLI资源匮乏，构建E-CONAN基准数据集（含二分类和三分类），评估多语言预训练模型与LLM，证明其多样构成优于现有基准，助力泛化评估与微调。
2026-09-11 cs.AI cs.CL cs.LG
Investigating Biases in Textual Entailment Datasets
理解句子之间逻辑关系的能力是语言理解的一项重要任务。为了帮助完成这项任务，研究人员收集了用于机器学习和评估当前系统的数据集。然而，就像众包的视觉问答（VQA）任务一样，数据中不可避免地会出现一些偏差。在我们的实验中，我们发现只对SNLI数据集上的假设进行分类，准确率为64%。我们分析了SNLI和MultiNLI数据集的偏差程度，讨论了其含义，并提出了一种简单的方法来减少数据集的偏差。
2019-06-23 cs.CL cs.LG
VLSP 2023 -- LTER: A Summary of the Challenge on Legal Textual Entailment Recognition
Vietnam Judicial Academy（越南司法学院）；Hanoi Law University（河内法律大学）；Hung Yen University of Technology and Education（兴安工业大学）；Ho Chi Minh City University of Science（胡志明市科学大学）；Japan Advanced Institute of Science and Technology（日本先进科学技术学院）；The Institute of Statistical Mathematics（统计数学研究所）；National Institute of Informatics（情报学研究所）
该研究在多语种法律文本蕴含研究成熟的背景下，推出越南语法律领域首项法律文本蕴含识别研究，并结合参赛结果分析了该领域关键语言学挑战。
2024-03-06 cs.CL
PatentEdits: Framing Patent Novelty as Textual Entailment
University of Southern California（南加州大学）
本文提出PatentEdits数据集，将专利新颖性修订建模为文本蕴含任务，并证明利用LLMs评估引用文献与草稿句子的蕴含关系可有效预测权利要求是否需要修改。
2024-11-20 cs.AI cs.CL cs.CY
THiFLY Research at SemEval-2023 Task 7: A Multi-granularity System for CTR-based Textual Entailment and Evidence Retrieval
THiFLY Research（THiFLY研究院）；Tsinghua University（清华大学）；State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）
本文提出融合 MGNet 句级与 token 级编码、SciFive 数值推理、模型集成及联合推理的多粒度系统，在 NLI4CT 两个子任务上均取得最佳 F1。
2023-06-02 cs.CL
UKP-Athene: Multi-Sentence Textual Entailment for Claim Verification
Technische Universität Darmstadt（达姆施塔特工业大学）
事实提取和验证（FEVER）共享任务的启动是为了支持能够通过从原始文本中提取支持或反驳事实来验证声明的系统的开发。共享任务组织器为索赔验证中涉及的连续步骤提供大规模数据集，特别是文档检索，事实提取和索赔分类。在本文中，我们提出了我们的索赔验证管道方法，根据初步结果，在23个竞争系统中，该方法在共享任务中排名第三。对于文档检索，我们实现了一种新的实体链接方法。为了能够对候选事实进行排名并根据几个选定的事实对索赔进行分类，我们对增强型LSTM（ESIM）进行了两个扩展。
2019-05-09 cs.AI cs.CL cs.IR
Refining Raw Sentence Representations for Textual Entailment Recognition via Attention
The University of Tokyo（东京大学）
在本文中，我们介绍了Rivercorners团队在2017年RepEval共享任务中使用的模型。首先，我们的模型通过使用双向LSTM将一对句子单独编码为可变长度表示。然后，它通过简单的聚合函数创建固定长度的原始表示，然后使用注意力机制对其进行细化。最后，它将两个句子的精确表示组合成一个用于分类的向量。使用该模型，我们在匹配和不匹配的评估轨道中分别获得了72.057%和72.055%的测试准确率，优于LSTM基线，并获得了类似于依赖于句子之间共享信息的模型（ESIM）的性能。当使用集成时，准确率分别提高到72.247%和72.827%。
2017-07-12 cs.CL
EntailE: Introducing Textual Entailment in Commonsense Knowledge Graph Completion
Hong Kong University of Science and Technology（香港科技大学）
针对常识知识图谱稀疏性问题，提出框架EntailE，利用自然语言推理任务微调的transformer挖掘节点间文本蕴含关系以致密化图谱，并通过对比损失增强节点表示，有效提升了图谱补全性能。
2024-02-15 cs.CL
Threshold-Based Retrieval and Textual Entailment Detection on Legal Bar Exam Questions
Otto von Guericke University Magdeburg（马格德堡奥托·冯·格里克大学）
对法律领域进行概述已成为一项挑战，特别是在广泛的国际背景下。法律问答系统有可能通过自动检索特定声明的相关法律文本并检查是否可以从找到的文档中推断出声明的含义来减轻这一任务。我们研究了Elasticsearch的BM 25评分方法与在德国和日本民法的英语翻译上训练的词嵌入的组合。为此，我们定义的标准，选择一个动态数量的相关文件，根据阈值分数。与基线相比，利用两个深度学习分类器及其各自的预测偏差以及基于阈值的答案包含标准已被证明对文本蕴涵任务是有益的。
2019-05-30 cs.CL cs.IR cs.LG
Dataset Creation for Visual Entailment using Generative AI
Leiden University（莱顿大学）
本文利用Stable Diffusion基于SNLI文本前提生成合成图像，构建视觉蕴含训练数据集，并在SNLI-VE和SICK-VTE上验证其性能仅略低于真实数据，证明合成数据可缓解视觉蕴含数据稀疏问题。
2025-08-15 cs.CL
MABEL: Attenuating Gender Bias using Textual Entailment Data
Princeton University（普林斯顿大学）
预先训练的语言模型编码了不受欢迎的社会偏见，这在下游使用中进一步加剧。为此，我们提出了MABEL（一种使用蕴涵标签减弱性别偏见的方法），这是一种用于减轻情境化表征中性别偏见的中间预训练方法。我们的方法的关键是使用反事实增强，性别平衡的蕴涵对自然语言推理（NLI）数据集的对比学习目标。我们还引入了一个对齐正则化器，它可以将相同的蕴涵对沿着相反的性别方向拉近。我们广泛评估我们的方法的内在和外在的指标，并表明MABEL优于以前的任务无关的去偏置方法的公平性。它还在对下游任务进行微调后保留任务性能。总之，这些研究结果表明，NLI数据作为一种有效的偏见缓解手段，而不是只使用未标记的句子在文献中的适用性。最后，我们发现，现有的方法往往使用的评估设置是不够的或不一致的。我们努力复制和比较以前的方法，并呼吁统一的评估设置跨性别去偏见的方法，以更好的未来比较。
2022-10-26 cs.CL cs.LG
Compositional Evaluation on Japanese Textual Entailment and Similarity
The University of Tokyo（东京大学）；Keio University（庆应义塾大学）
自然语言推理（NLI）和语义文本相似性（STS）是用于预训练语言模型的组合评估的广泛使用的基准任务。尽管对语言共性的兴趣越来越大，但大多数NLI/STS研究几乎完全集中在英语上。特别是，日语中没有可用的多语言NLI/STS数据集，这在类型上不同于英语，并且可以揭示语言模型在诸如词序和格粒子的敏感性等问题上的当前有争议的行为。在此背景下，我们介绍了JSICK，一个日本NLI/STS数据集，是手动翻译的英文数据集SICK。我们还提出了一个压力测试数据集的成分推理，通过转换在JSICK句子的句法结构，调查是否语言模型是敏感的词序和情况粒子。我们对不同的预训练语言模型进行基线实验，并比较多语言模型应用于日语和其他语言时的性能。压力测试的结果表明，目前预训练的语言模型是不敏感的词序和情况标记。
2022-08-09 cs.CL
New Protocols and Negative Results for Textual Entailment Data Collection
New York University（纽约大学）；Google Research（谷歌研究院）
自然语言推理（NLI）数据已被证明在基准测试中非常有用，特别是作为需要语言理解的任务的预训练数据。然而，用于收集这些数据的众包协议存在已知问题，并且没有针对这些目的进行明确优化，因此它可能远非理想。我们提出了四种替代协议，每个协议的目的是提高注释者可以产生声音训练样本的容易性或这些例子的质量和多样性。使用这些替代方案和第五个基线协议，我们收集并比较了五个新的8. 5k样本训练集。在专注于迁移学习应用的评估中，我们的结果是否定的，在我们的基线数据集上训练的模型对下游任务产生了良好的迁移性能，但我们的四种新方法（也不是最近的ANLI）都没有显示出超过该基线的任何改进。在一个小的一线希望中，我们观察到所有四个新协议，特别是那些注释者编辑预填充文本框的协议，减少了以前观察到的注释工件问题。
2020-09-29 cs.CL
LIME: Weakly-Supervised Text Classification Without Seeds
ActionPower
在弱监督文本分类中，只有标签名称作为监督源。弱监督文本分类的主要方法利用两阶段框架，其中测试样本首先被分配伪标签，然后用于训练神经文本分类器。在大多数以前的工作中，伪标记步骤取决于获得最能捕捉每个类别标签相关性的种子词。我们提出了LIME，弱监督文本分类的框架，完全取代了脆弱的种子词生成过程与基于蕴涵的伪分类。我们发现，将弱监督分类和文本蕴涵相结合可以减轻两者的缺点，从而实现更精简和有效的分类管道。仅使用现成的文本蕴涵模型，LIME在弱监督文本分类中的表现优于最近的基线，并在4个基准测试中达到了最先进的水平。我们在https://github.com/seongminp/LIME上开源我们的代码。
2022-10-13 cs.AI cs.CL
Sociocultural Norm Similarities and Differences via Situational Alignment and Explainable Textual Entailment
Columbia University（哥伦比亚大学）
提出一种跨文化对齐社会情境并提取规范的方法，构建包含3069条中美社会规范及解释的数据集，并引入可解释社会规范蕴含任务，发现3B以下模型表现不佳且揭示了跨文化规范差异。
2023-10-23 cs.CL
Leveraging Semantic Representations Combined with Contextual Word Representations for Recognizing Textual Entailment in Vietnamese
University of Information Technology（信息技术大学）；Vietnam National University, Ho Chi Minh City（胡志明市越南国家大学）
RTE是一个重要的问题，是一个相当活跃的研究社区。针对这一问题提出的研究工作是相当多样化的，有许多不同的方向。对于越南语来说，RTE问题是一个比较新的问题，但这个问题在自然语言理解系统中起着至关重要的作用。目前，基于上下文词表示学习模型的方法在解决这一问题上取得了显著的效果。然而，越南语是一种语义丰富的语言。因此，在本文中，我们想提出一个实验结合语义词表征通过SRL任务与上下文表征的BERT相关模型的RTE问题。实验结果表明语义表征对越南语自然语言理解的影响和作用。实验结果表明，语义感知的上下文表示模型的性能比没有加入语义表示的模型提高了约1%。此外，越南语对数据域的影响也高于英语。这一结果也显示了自主学习对越南语RTE问题的积极影响。
2023-01-01 cs.CL
Entailment Relation Aware Paraphrase Generation
University of Maryland, College Park（马里兰大学帕克分校）；Adobe Research（Adobe研究院）
我们引入了一个新的任务的蕴涵关系意识的释义生成，其目的是生成符合一个给定的蕴涵关系（例如，等价，正向蕴涵，或反向蕴涵）相对于一个给定的输入的释义。我们提出了一个基于强化学习的弱监督释义系统ERAP，它可以使用现有的释义和自然语言推理（NLI）语料库进行训练，而无需明确的特定任务语料库。自动化和人工评估的组合表明，ERAP生成的释义符合指定的蕴涵关系，并具有良好的质量相比，基线和不受控制的释义系统。使用ERAP来增加下游文本蕴涵任务的训练数据，提高了不受控制的释义系统的性能，并引入了更少的训练工件，表明释义期间显式控制的好处。
2022-03-20 cs.CL
Textual Entailment is not a Better Bias Metric than Token Probability
Information Sciences Institute University of Southern California（信息科学研究所 美国南加州大学）
本文通过实验表明，自然语言推理（NLI）与标记概率（TP）在评估语言模型偏见时表现不同，NLI更不稳定且对刻板印象句子更敏感，因此不推荐作为TP的替代方案。
2026-01-14 cs.CL cs.CY
