Logical Inference for Counting on Semi-structured Tables
The University of Tokyo(东京大学)
最近,自然语言推理(NLI)任务已被研究的半结构化表,没有严格的格式。虽然神经方法在各种类型的NLI中取得了很高的性能,包括半结构化表格和文本之间的NLI,但它们仍然难以执行数字类型的推理,例如计数。为了处理数字类型的推理,我们提出了一个逻辑推理系统的半结构化表格和文本之间的推理。我们使用逻辑表示作为表格和文本的意义表示,并使用模型检验来处理文本和表格之间的数值类型的推理。为了评估我们的系统可以在多大程度上进行推理与数值比较,我们做了一个评估协议,侧重于半结构化的表格和文本之间的数字理解英语。我们表明,与当前的神经方法相比,我们的系统可以更鲁棒地在需要数值理解的表格和文本之间进行推理。
2022-04-25 cs.CL
Supporting Context Monotonicity Abstractions in Neural NLI Models
University of Manchester(曼彻斯特大学);Idiap Research Institute(Idiap研究所)
自然语言语境显示了关于相关概念替换的逻辑冲突:这些被捕获在称为单调性的函数序理论属性中。对于某一类NLI问题,其中所产生的蕴涵标签仅取决于上下文单调性和替代概念之间的关系,我们建立在以前的技术,旨在提高这些问题的NLI模型的性能,因为即使对于最先进的模型,在向上和向下单调的上下文中的一致性能似乎仍然很难达到。为此,我们重新定义了上下文单调性分类的问题,使其与基于transformer的预训练NLI模型兼容,并将此任务添加到训练管道中。此外,我们介绍了一个健全的和完整的简化单调性逻辑形式主义,它描述了我们的处理上下文作为抽象单位。使用我们的形式主义中的概念,我们适应有针对性的挑战集,以调查是否中间上下文单调性分类任务可以帮助NLI模型的表现表现单调性推理的例子。
2021-05-17 cs.CL cs.LG
Weakly Supervised Explainable Phrasal Reasoning with Neural Fuzzy Logic
University of Alberta(阿尔伯塔大学);Carnegie Mellon University(卡内基梅隆大学)
自然语言推理的目的是确定两个句子之间的逻辑关系,如蕴涵、矛盾和中性。近年来,深度学习模型已成为NLI的主流方法,但它们缺乏可解释性和可解释性。在这项工作中,我们解决了NLI的弱监督逻辑推理的可解释性,并提出了一个可解释短语推理(EPR)的方法。我们的模型首先检测短语作为语义单位,并将两个句子中的相应短语对齐。然后,该模型预测对齐短语的NLI标签,并通过模糊逻辑公式归纳句子标签。我们的EPR几乎在任何地方都是可微的,因此系统可以端到端地训练。通过这种方式,我们能够以弱监督的方式提供短语逻辑关系的明确解释。我们进一步表明,这样的推理结果有助于文本解释生成。
2023-02-22 cs.AI cs.CL
NLI under the Microscope: What Atomic Hypothesis Decomposition Reveals
University of Maryland, College Park(马里兰大学帕克分校)
本文利用原子假设分解将NLI和可废止NLI任务拆分为原子子问题,以探究模型逻辑一致性,发现LLM在此类细粒度推理上仍存在困难,并提出衡量模型推理一致性的新指标。
2025-03-07 cs.CL
Discourse Marker Augmented Network with Reinforcement Learning for Natural Language Inference
Zhejiang University(浙江大学);Alibaba-Zhejiang University Joint Institute of Frontier Technologies(阿里巴巴-浙江大学前沿技术联合研究院);Fabu Inc.(Fabu公司)
自然语言推理(NLI),又称文本蕴涵识别(RTE),是自然语言处理中最重要的问题之一。它需要推断两个给定句子之间的逻辑关系。虽然目前的方法主要集中在句子的交互结构,在本文中,我们建议从一些重要的话语标记转移知识,以提高NLI模型的质量。我们观察到人们通常使用诸如“so”或“but”之类的话语标记来表示两个句子之间的逻辑关系。这些词与句子的意义有着潜在的深层联系,因此可以用来帮助改善句子的表征。此外,我们使用强化学习来优化一个新的目标函数,并根据NLI数据集的属性定义奖励,以充分利用标签信息。实验表明,我们的方法达到了最先进的性能在几个大规模的数据集。
2019-07-23 cs.AI cs.CL cs.LG
Which Spurious Correlations Impact Reasoning in NLI Models? A Visual Interactive Diagnosis through Data-Constrained Counterfactuals
ETH Zürich(苏黎世联邦理工学院);ETH AI Center(苏黎世联邦理工学院人工智能中心)
本文提出一种人机交互仪表盘,利用GPT-3生成反事实示例并获取模型反馈,以诊断NLI模型依赖的虚假相关性,将其归为语义相关性、逻辑谬误和偏见三类,并指出多样化训练数据与构建对抗性测试套件等研究机会。
2023-06-21 cs.CL cs.HC
Natural Language Inference over Interaction Space
New York University(纽约大学);Horizon Robotics, Inc.(地平线机器人技术有限公司(Horizon Robotics, Inc.))
自然语言推理(NLI)任务要求智能体确定自然语言前提和自然语言假设之间的逻辑关系。我们介绍了交互式推理网络(IIN),一类新的神经网络架构,能够实现高层次的理解的句子对分层提取的语义特征,从交互空间。我们发现,一个交互张量(注意力权重)包含语义信息来解决自然语言推理,和一个密集的交互张量包含更丰富的语义信息。这种架构的一个实例,密集交互式推理网络(DIIN),展示了国家的最先进的性能上的大规模NLI copora和大规模NLI相似的语料库。值得注意的是,相对于最强的已发布系统,DIIN在具有挑战性的多类型NLI(MultiNLI)数据集上实现了超过20%的错误减少。
2018-05-26 cs.CL
Inferring Latent Intentions: Attributional Natural Language Inference in LLM Agents
University of Manchester(曼彻斯特大学);University of Sheffield(谢菲尔德大学);Idiap Research Institute(Idiap研究 institute);National Biomarker Centre, CRUK-MI, University of Manchester(国家生物标志物中心,CRUK-MI,曼彻斯特大学)
本文提出归因性NLI框架,通过文本游戏实验展示其在多智能体环境中提升LLM推理能力的潜力。
2026-01-13 cs.CL
A Portuguese Native Language Identification Dataset
University of Lisbon(里斯本大学);University of Wolverhampton(伍尔弗汉普顿大学);Harvard Medical School(哈佛医学院);Macquarie University(麦考瑞大学)
在本文中,我们提出了NLI-PT,第一个葡萄牙语数据集编译的母语识别(NLI),确定作者的第一语言的基础上,他们的第二语言写作的任务。该数据集包括1,868篇由欧洲葡萄牙语学习者撰写的学生论文,母语为以下L1:中文,英语,西班牙语,德语,俄语,法语,日语,意大利语,荷兰语,德顿语,阿拉伯语,波兰语,韩语,罗马尼亚语和瑞典语。NLI-PT包括原始学生文本和四种不同类型的注释:POS,细粒度POS,选区解析和依赖解析。NLI-PT不仅可以用于NLI,还可以用于第二语言习得和教育NLP领域的多个主题的研究。我们讨论了这个数据集的可能应用,并提出了第一个词汇基线系统葡萄牙语NLI的结果。
2018-04-30 cs.CL
Probing the Natural Language Inference Task with Automated Reasoning Tools
Advancing Machine and Human Reasoning (AMHR) Lab(推进机器与人类推理(AMHR)实验室);University of South Florida(南佛罗里达大学)
自然语言推理(NLI)任务是现代NLP中的一项重要任务,因为它提出了一个广泛的问题,许多其他任务可以简化为:给定一对句子,第一个是否包含第二个?虽然NLI的当前基准数据集的最新技术是基于深度学习的,但值得使用其他技术来检查NLI任务的逻辑结构。我们这样做是通过测试如何以及面向机器的控制自然语言(Attempto控制英语)可以用来解析NLI句子,以及如何自动定理证明可以在由此产生的公式的原因。为了提高性能,我们开发了一套语法和语义转换规则。我们报告他们的表现,并讨论NLI和基于逻辑的NLP的影响。
2020-05-06 cs.AI cs.CL cs.SC
Natural Language Inference in Context -- Investigating Contextual Reasoning over Long Texts
Zhejiang University(浙江大学);Fudan University(复旦大学);Westlake University(西湖大学)
自然语言推理是自然语言处理的一项基本任务,它研究两个文本之间的蕴涵关系。受欢迎的NLI数据集将该任务呈现在任务级别。虽然足以测试语义表示,但它们不足以测试长文本的上下文推理,这是人类推理过程的自然部分。我们介绍了ConTRoL,一个新的数据集,用于长文本的上下文推理。ConTRoL由8,325个专家设计的带有黄金标签的“上下文假设”对组成,是一个高级NLI数据集,专注于复杂的上下文推理类型,如逻辑推理。该测验源于警察征聘的竞争性选拔和征聘测验(言语推理测验),具有专家级质量。与以前的NLI基准相比,ConTRoL中的材料更具挑战性,涉及一系列推理类型。实证结果表明,最先进的语言模型的表现远远不如受过教育的人。我们的数据集还可以作为下游任务的测试集,例如检查摘要的事实正确性。
2020-11-10 cs.CL
Semantic Sensitivities and Inconsistent Predictions: Measuring the Fragility of NLI Models
University of Copenhagen(哥本哈根大学)
该研究针对NLI模型对保语义微小表层变化敏感、预测不一致的问题,提出基于对抗生成样本的语义敏感性衡量框架,发现其会导致域内外性能显著下降,揭示了现有NLI模型的脆弱性。
2024-01-31 cs.AI cs.CL cs.CY
TaxiNLI: Taking a Ride up the NLU Hill
Microsoft Research India(微软印度研究院);Google Research(谷歌研究院);University of Richmond(里士满大学)
经过预训练的基于transformer的神经架构在自然语言推理(NLI)任务中始终实现了最先进的性能。由于NLI示例包含各种语言、逻辑和推理现象,因此仍不清楚训练系统学习了哪些特定概念,以及它们在哪里可以实现强大的泛化。为了研究这个问题,我们提出了一个分类层次的类别,是相关的NLI任务。我们引入TAXINLI,一个新的数据集,它有来自MNLI数据集的10 k个例子(Williams等人,2018年)与这些分类标签。通过对TAXINLI的各种实验,我们观察到,尽管SOTA神经模型在某些分类类别上已经达到了近乎完美的准确度--比以前的模型有了很大的飞跃--但有些类别仍然很困难。我们的工作增加了越来越多的文献,通过系统地介绍和分析推理类别,显示了当前NLI系统和数据集的差距。
2020-10-09 cs.AI cs.CL
ESNLIR: A Spanish Multi-Genre Dataset with Causal Relationships
本文针对西班牙语NLI资源稀缺问题,提出了多体裁且包含因果关系的ESNLIR数据集,并通过BERT家族模型验证了体裁丰富性有助于提升模型泛化能力。
2025-03-11 cs.CL
A New Dataset for Natural Language Inference from Code-mixed Conversations
Microsoft Research India(微软研究院印度分院);Microsoft Corporation(微软公司)
自然语言推理(NLI)是推理前提和假设之间的逻辑关系的任务,通常是蕴涵或矛盾。语码混合是指在同一会话或话语中使用一种以上的语言,在世界各地的多语言社区中普遍存在。在本文中,我们提出了第一个数据集的代码混合NLI,其中的前提和假设是在代码混合印地语-英语。我们使用的数据从印地语电影(宝莱坞)的前提下,和众包的假设,从印地语-英语双语。我们进行了一项试点注释研究,并根据试点的观察结果描述了最终的注释协议。目前,收集的数据包括400个前提的形式代码混合的对话片段和2240代码混合的假设。我们进行了广泛的分析,以推断在所获得的数据集中通常观察到的语言现象。我们使用标准的基于mBERT的NLI管道评估数据集并报告结果。
2020-04-13 cs.CL
VERITAS-NLI : Validation and Extraction of Reliable Information Through Automated Scraping and Natural Language Inference
D.J. Sanghvi College of Engineering(D.J. Sanghvi工程学院)
针对虚假新闻检测问题,提出VERITAS-NLI系统,结合动态网络抓取与自然语言推理检索外部知识验证标题准确性,准确率达84.3%,显著优于经典机器学习和BERT模型。
2024-10-12 cs.AI cs.CL cs.LG
Explaining Textual Entailment with Lexical Entailments: Using LLMs to Supply Lexical Relations for Formal Proofs
本文评估LLM在逻辑NLI系统中提供词汇蕴含的能力,发现其生成关系部分合理且贡献有限,任务仍具挑战性。
2026-09-29 cs.AI cs.CL
NL-Eye: Abductive NLI for Images
Technion - IIT(以色列理工学院);Google Research(谷歌研究院)
本文提出NL-Eye基准,将溯因自然语言推理任务扩展到视觉领域,通过350个三元组示例评估视觉语言模型的视觉溯因推理能力,实验表明现有模型表现接近随机水平,揭示了其在多模态推理上的不足。
2024-10-03 cs.AI cs.CL cs.CV
FLUTE: Figurative Language Understanding through Textual Explanations
Columbia University(哥伦比亚大学);Educational Testing Service(教育考试服务中心)
比喻性语言理解最近被定义为一个识别文本蕴涵(RTE)任务(a.k.a.自然语言推理或NLI)。然而,类似于经典的RTE/NLI数据集,目前的基准遭受虚假的相关性和注释工件。为了解决这个问题,NLI的工作建立了基于解释的数据集,如e-SNLI,使我们能够探索语言模型是否出于正确的原因而正确。然而,对于比喻语言来说,没有这样的数据,这使得评估对这些表达的真正理解变得更加困难。为了解决这个问题,我们发布了FLUTE,这是一个包含9,000个具有解释的比喻性NLI实例的数据集,涵盖四个类别:讽刺,明喻,隐喻和习语。我们通过基于GPT-3的模型在环框架,人群工作人员和专家注释器收集数据。我们展示了如何利用GPT-3与人类注释者(新手和专家)相结合,可以帮助扩大数据集的创建,即使是对于像比喻语言这样复杂的语言现象。在FLUTE上微调的T5模型的基线性能表明,我们的数据集可以使我们更接近于开发通过文本解释理解比喻语言的模型。
2022-10-14 cs.CL
LiTEx: A Linguistic Taxonomy of Explanations for Understanding Within-Label Variation in Natural Language Inference
MaiNLP, Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心 MaiNLP);Munich Center for Machine Learning(慕尼黑机器学习中心);FNRS, CENTAL, UCLouvain(比利时法语区科学研究基金、鲁汶大学自然语言处理中心);Faculty of Computer Science and UniVie Doctoral School Computer Science, University of Vienna(维也纳大学计算机科学学院与维也纳大学计算机科学博士学院)
针对NLI中标签内变异被忽视的问题,提出语言学分类体系LITEX,用于分类自由文本解释,并证明基于该分类引导的解释生成更接近人类解释。
2025-10-08 cs.CL
Investigating Reasons for Disagreement in Natural Language Inference
The Ohio State University(俄亥俄州立大学);UCLouvain(鲁汶大学)
我们研究如何在自然语言推理(NLI)注释出现分歧。我们开发了一个分类法的分歧来源,10个类别跨越3个高级别的类。我们发现,一些分歧是由于句子意义的不确定性,其他注释者的偏见和任务工件,导致不同的解释的标签分布。我们探讨了两种建模方法来检测项目与潜在的分歧:4路分类与“复杂”的标签,除了三个标准的NLI标签,和多标签分类方法。我们发现,多标签分类是更有表现力,并给出了更好的回忆数据中可能的解释。
2022-09-07 cs.CL
Unravelling Interlanguage Facts via Explainable Machine Learning
Università di Milano(米兰大学);Consiglio Nazionale delle Ricerche(意大利国家研究委员会)
母语识别(NLI)是训练(通过监督机器学习)猜测文本作者母语的分类器的任务。在过去的十年中,这项任务得到了广泛的研究,NLI系统的性能在过去几年中稳步提高。我们专注于NLI任务的另一个方面,即,分析由\emph{explainable}机器学习算法训练的NLI分类器的内部结构,以获得对其分类决策的解释,最终目标是深入了解哪些语言现象“泄露了说话者的母语”。我们使用这个视角来处理NLI和一个(研究得少得多的)伴随任务,即,猜测文本是由本族语者还是非本族语者撰写的。使用三个不同来源的数据集(两个英语学习者的文章数据集和一个社交媒体帖子数据集),我们调查了哪种语言特征(词汇,形态,句法和统计)对解决我们的两个任务最有效,即,最能表明说话者的L1。我们还提出了两个案例研究,一个西班牙语和一个意大利语的英语学习者,在其中我们分析了个人的语言特征,分类器已经挑出最重要的发现这些L1。总的来说,我们的研究表明,使用可解释的机器学习可以是一个有价值的工具,
2022-08-02 cs.AI cs.CL
ContractNLI: A Dataset for Document-level Natural Language Inference for Contracts
Stanford University(斯坦福大学);Hitachi America Ltd(日立美国有限公司)
审查合同是一个耗时的过程,招致大量的费用,公司和社会不平等的那些谁买不起it.In这项工作中,我们提出了“文件级自然语言推理(NLI)的合同”,一个新的,现实世界中的应用NLI,解决这些问题。在这项任务中,系统被赋予一组假设(如“协议的某些义务可能在终止后继续存在。“)和合同,并要求对每一项假设进行分类,确定每一项假设是否为合同“所必然”、“与合同相矛盾”或“未被合同提及”(对合同中性),并将决定的“证据”确定为合同中的跨度。我们注释并发布了迄今为止最大的语料库,包括607个注释合同。然后,我们发现现有的模型在我们的任务中失败得很严重,并引入了一个强大的基线,(1)将证据识别建模为跨度上的多标签分类,而不是试图预测开始和结束标记,(2)采用更复杂的上下文分割来处理长文档。我们还表明,合同的语言特点,如否定的例外情况,有助于这项任务的难度,有很大的改进空间。
2021-10-05 cs.AI cs.CL cs.LG
Introducing Verification Task of Set Consistency with Set-Consistency Energy Networks
Seoul National University(首尔国立大学)
本文提出集合一致性验证任务及SC-Energy模型,通过对比损失框架提升多陈述逻辑一致性验证性能,并发布新数据集
2025-03-19 cs.AI cs.CL cs.LG
Decompose-and-Formalise: Recursively Verifiable Natural Language Inference
Department of Computer Science, University of Manchester(曼彻斯特大学计算机科学系);School of Computer Science, University of Sheffield(谢菲尔德大学计算机科学学院);Idiap Research Institute(Idiap研究 institute);National Biomarker Centre, CRUK-MI, University of Manchester(曼彻斯特大学国家生物标记中心)
本文提出分解与形式化框架,通过自底向上的验证和局部诊断引导细化,提升自然语言推理的解释验证效率和准确性。
2026-01-27 cs.CL
The Effectiveness of Intermediate-Task Training for Code-Switched Natural Language Understanding
Indian Institute of Technology, Bombay(印度理工学院孟买分校)
虽然最近的基准测试已经激发了许多关于改进预训练的多语言模型在多语言任务上的泛化的新工作,但改进代码转换自然语言理解任务的技术却很少被探索。在这项工作中,我们提出使用双语中间预训练作为一种可靠的技术,以获得大的和一致的性能增益在三个不同的NLP任务使用代码切换文本。我们实现了7.87%,20.15%,和10.99%,平均准确率和F1分数比以前的国家的最先进的系统印地语-英语自然语言推理(NLI),问答(QA)任务,西班牙语-英语情感分析(SA)分别大幅绝对改善。我们表现出一致的性能增益四个不同的代码切换语言对(印地语-英语,西班牙语-英语,泰米尔语-英语和马拉雅拉姆语-英语)SA。我们还提出了一种代码切换的掩蔽语言建模(MLM)预训练技术,与使用真正代码切换文本的标准MLM预训练相比,该技术始终有利于SA。
2021-07-21 cs.CL cs.LG
Logic-Parametric Neuro-Symbolic NLI: Controlling Logical Formalisms for Verifiable LLM Reasoning
University of Luxemburg(卢森堡大学);University of Sheffield(谢菲尔德大学)
本文提出逻辑参数化框架,通过可控逻辑形式提升神经符号推理的鲁棒性与适应性,实验表明内部逻辑策略在不同领域具有更优表现。
2026-01-09 cs.AI cs.CL cs.LO
RLearner-LLM: Balancing Logical Grounding and Fluency in Large Language Models via Hybrid Direct Preference Optimization
University of Auckland(奥克兰大学);Aalto University(阿alto大学)
本文提出RLearner-LLM,通过融合DeBERTa-v3 NLI信号与验证器LLM评分,解决直接偏好优化在知识密集型生成中的逻辑对齐问题,实现NLI指标显著提升。
2026-07-20 cs.AI cs.CL
Evaluating Multilingual and Code-Switched Alignment in LLMs via Synthetic Natural Language Inference
Texas A\&M University, College Station, TX., USA(德克萨斯大学);Hamad Bin Khalifa University, Doha, Qatar(哈马德·本·卡伊夫大学)
针对大语言模型跨语言逻辑对齐能力未充分探索的问题,提出合成逻辑型NLI对并翻译至多语言的受控评估框架,发现语码转换不降低甚至提升性能,为多语言鲁棒性研究提供新视角与工具。
2025-08-20 cs.AI cs.CL
Emulating the Human Mind: A Neural-symbolic Link Prediction Model with Fast and Slow Reasoning and Filtered Rules
Iran University of Science and Technology(伊朗科技大学);Sohar University(苏哈尔大学)
受人类快慢思考与常识推理启发,提出神经符号模型 FaSt-FLiP,结合逻辑与神经模型进行链接预测,利用 NLI 过滤错误规则并统一答案,显著提升了预测性能与解释可靠性。
2023-10-21 cs.CL
BTZSC: A Benchmark for Zero-Shot Text Classification Across Cross-Encoders, Embedding Models, Rerankers and LLMs
European Central Bank(欧洲中央银行)
BTZSC是一个涵盖22个公开数据集的零样本文本分类基准,系统比较了跨编码器、嵌入模型、重排序器和LLMs四种模型家族,发现重排序器和LLMs在性能上表现突出,嵌入模型在准确性和延迟之间取得良好平衡。
2026-03-12 cs.AI cs.CL cs.LG
ViLegalNLI: Natural Language Inference for Vietnamese Legal Texts
University of Information Technology(信息技术大学);Vietnam National University(越南国家大学)
本文提出ViLegalNLI,首个针对法律领域构建的越南语自然语言推理数据集,包含42,012个前提-假设对,涵盖多种法律领域,用于评估法律推理的结构逻辑与术语一致性。
2026-04-30 cs.AI cs.CL cs.LG
Faithful and Robust LLM-Driven Theorem Proving for NLI Explanations
University of Manchester(曼彻斯特大学);Idiap Research Institute(IDIAP研究所);University of Sheffield(谢菲尔德大学)
本文研究LLM与定理证明器交互中的忠实性与鲁棒性问题,提出四种策略缓解自动形式化语义丢失、纠正语法错误、指导生成证明草图及解释反馈迭代优化,在多个数据集上显著提升自动形式化与解释优化效果并大幅减少验证迭代次数。
2025-05-30 cs.AI cs.CL
Multi-Granularity Reasoning for Natural Language Inference
University of Science and Technology of China(中国科学技术大学)
提出多粒度推理网络(MGRN),通过分层语义特征交互模拟人类认知过程,在多个基准上超越强基线模型。
2026-06-23 cs.AI cs.CL
Realistic Data Augmentation Framework for Enhancing Tabular Reasoning
IIT Kharagpur(印度理工学院克勒格布尔分校);Bloomberg(彭博社);IIT Guwahati(印度理工学院古瓦哈提分校);University of Utah(犹他大学)
构建用于自然语言推理(NLI)任务(诸如用于半结构化表格推理)的训练数据的现有方法是经由众包或全自动方法。然而,前者是昂贵和耗时的,因此限制了规模,而后者往往产生可能缺乏复杂推理的天真的例子。本文开发了一个现实的半自动化框架,数据增强的表格推理。而不是手动生成一个假设为每个表,我们的方法生成的假设模板转移到类似的表。此外,我们的框架需要创建基于人类书面逻辑约束和前提释义的理性反事实表。对于我们的案例研究,我们使用InfoTabs,这是一个以实体为中心的表格推理数据集。我们观察到,我们的框架可以生成类似人类的表格推理示例,这可能有利于训练数据增强,特别是在监督有限的情况下。
2022-10-23 cs.CL
Implementing a Logical Inference System for Japanese Comparatives
The University of Tokyo(东京大学);Riken(理化学研究所)
本文提出基于组合语义的日语比较级逻辑推理系统ccg-jcomp,通过在日语NLI数据集上与现有LLMs比较准确率,验证了其有效性。
2025-09-17 cs.CL
Analyzing Dynamic Adversarial Training Data in the Limit
University of California, Berkeley(加州大学伯克利分校);Facebook AI Research(脸书人工智能研究院);University of Southern California(南加州大学)
为了创建在广泛的测试输入中具有鲁棒性的模型,训练数据集应该包括跨越许多现象的各种示例。动态对抗性数据汇集(DADC),其中注释器制作的例子,挑战不断改进的模型,有希望作为一种方法来生成这种不同的训练集。之前的工作表明,运行1-3轮DADC可以帮助模型修复某些错误类型,但它并不一定能在对抗性测试数据之外实现更好的泛化。我们认为,运行DADC多轮最大限度地提高其训练时间的好处,因为不同的回合可以一起涵盖许多任务相关的现象。我们提出了第一个长期DADC的研究,在那里我们收集了20轮NLI的例子,一小部分的前提段落,对抗性和非对抗性的方法。与在非对抗性数据上训练的模型相比,在DADC示例上训练的模型在我们的专家策划的测试集上的错误减少了26%。我们的分析表明,与非对抗性示例相比,DADC产生的示例更困难,词汇和语法更多样化,并且包含更少的注释工件。
2022-09-26 cs.CL cs.LG
Enhancing Ethical Explanations of Large Language Models through Iterative Symbolic Refinement
University of Manchester(曼彻斯特大学);Idiap Research Institute(Idiap研究所);National Biomarker Centre, CRUK-MI, University of Manchester(曼彻斯特大学英国癌症研究中心曼彻斯特研究所国家生物标志物中心)
针对大语言模型伦理解释存在事实错误、逻辑一致性弱的问题,提出融合LLMs与反向链求解器的Logic-Explainer溯因-演绎框架,可精修解释、生成形式化证明,有效提升伦理NLI任务中解释质量与模型对齐性。
2024-02-01 cs.CL
Mathematical Reasoning Enhanced LLM for Formula Derivation: A Case Study on Fiber NLI Modellin
本文提出一种增强数学推理的生成AI方法,用于光学通信公式推导,聚焦光纤非线性干扰建模,通过结构化提示引导LLM推导出已知闭式ISRS GN表达式并推导出适用于多段C和C+L波段传输的新近似式。
2026-03-19 cs.CL
Can Large Language Models Robustly Perform Natural Language Inference for Japanese Comparatives?
The University of Tokyo(东京大学);Riken(理化学研究所)
针对LLM在日语比较级自然语言推理中稳健性不足的问题,构建了专用日语NLI数据集,评估发现模型对提示格式和金标签敏感且难处理日语特有现象,而引入逻辑语义表示提示可有效提升难解题的预测准确率。
2025-09-17 cs.CL
Faithful Autoformalization via Roundtrip Verification and Repair
Stanford University(斯坦福大学)
本文提出一种无需地面真实标注的往返验证方法,通过形式化-自然语言翻译-再形式化-逻辑等价性检查,验证形式化结果的可信度,并通过诊断引导的局部修复提升准确性。
2026-09-23 cs.AI cs.CL
Boosting Neural Language Inference via Cascaded Interactive Reasoning
Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院)
针对 PLMs 多依赖最终层表示而忽视中间层语义信息的问题,本文提出 CIRN,通过跨深度分层提取与持续跨句交互实现渐进推理,并在多个 NLI 基准上稳定优于基线。
2025-05-10 cs.CL
Verification and Refinement of Natural Language Explanations through LLM-Symbolic Theorem Proving
University of Manchester(曼彻斯特大学);Idiap Research Institute(Idiap研究所);National Biomarker Centre, CRUK-MI, University of Manchester(英国曼彻斯特大学英国癌症研究中心曼彻斯特研究所国家生物标志物中心)
本文提出神经符号框架Explanation-Refiner,整合LLMs和定理证明器,实现自然语言解释的生成、形式化验证与反馈精炼,用于评估和提升NLI模型的解释质量。
2024-10-11 cs.CL
Universal Semantic Parsing
Stanford University(斯坦福大学);Google Inc.(谷歌公司);University of Edinburgh(爱丁堡大学)
通用语法(UD)提供了一个统一的跨语言的句法表示,旨在推进多语言应用。最近的工作表明,语义解析可以通过将句法依赖转换为逻辑形式来完成。然而,这项工作仅限于英语,不能处理依赖图,这允许处理复杂的现象,如控制。在这项工作中,我们介绍了UDepLambda,UD的语义接口,映射自然语言的逻辑形式,在一个几乎语言独立的方式,可以处理依赖图。我们对Freebase进行问答实验,并提供WebQuestions和GraphQuestions数据集的德语和西班牙语翻译,以促进多语言评估。结果表明,UDepLambda在语言和数据集上的表现优于强基线。对于英语,它比最先进的GraphQuestions提高了4.9 F1点。我们的代码和数据可以在https://github.com/sivareddyg/udeplambda下载。
2017-08-28 cs.CL
Cross-Document Cross-Lingual NLI via RST-Enhanced Graph Fusion and Interpretability Prediction
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University(航空信息安全与可信计算重点实验室,教育部,网络安全与工程学院,武汉大学);Zhejiang University(浙江大学)
本文提出跨文档跨语言NLI(CDCL-NLI)范式,构建含25,410实例、26语言的数据集,并采用RST增强图融合与可解释性预测方法,显著优于传统模型及大语言模型。
2025-10-07 cs.AI cs.CL
Revisiting NLI: Towards Cost-Effective and Human-Aligned Metrics for Evaluating LLMs in Question Answering
University of Illinois at Chicago(伊利诺伊大学香槟分校)
针对LLM问答评估中词汇指标缺失语义细微差别、“LLM作为评判者”成本高的问题,提出用词汇匹配标志增强现成NLI评分的轻量方案,其在长文本问答上准确率达89.9%(与GPT-4o相当)且参数少,还引入DIVER-QA基准测试人类对齐性,为指标研究提供开放资源。
2025-11-10 cs.AI cs.CL
A Neural-Symbolic Approach to Natural Language Understanding
Shanghai Jiaotong University(上海交通大学);ByteDance(字节跳动)
由预先训练的语言模型授权的深度神经网络在自然语言理解(NLU)任务中取得了显着的成果。然而,当需要逻辑推理时,它们的性能会急剧恶化。这是因为NLU原则上不仅依赖于深度神经网络擅长的类比推理,还依赖于逻辑推理。根据双加工理论,类比推理和逻辑推理分别由人脑中的系统1和系统2完成。受该理论的启发,我们提出了一个新的框架NLU称为神经符号处理器(NSP),它执行基于神经处理的类比推理和基于神经和符号处理的逻辑推理。作为一个案例研究,我们进行了两个NLU任务,问答(QA)和自然语言推理(NLI),当数值推理(一种逻辑推理)是必要的实验。实验结果表明,我们的方法显着优于国家的最先进的方法在这两个任务。
2022-10-21 cs.CL
FarFetched: Entity-centric Reasoning and Claim Validation for the Greek Language based on Textually Represented Environments
Technical University of Crete(克里特技术大学);National Technical University of Athens(雅典国家技术大学);Hellenic Army Academy(希腊陆军学院)
本研究提出面向希腊语的实体中心推理与主张验证框架FarFetched,通过实体链接、语义相似度聚合多源证据,结合文本蕴含识别判定主张可信度,填补低资源语言相关研究空白。
2024-07-13 cs.AI cs.CL
Explaining Interactions Between Text Spans
University of Copenhagen(哥本哈根大学);University of Michigan(密歇根大学)
针对自然语言理解任务中文本跨度交互解释的缺失,研究引入 SpanEx 多标注者数据集,对比微调大模型与人类的决策过程,并提出基于社区检测的无监督方法提取交互解释。
2023-10-20 cs.AI cs.CL
The Geometry of Logic: Stratification Induces Semantic Structure and Robust Reasoning
本研究提出STRAT架构,通过将残差流分为正交的数据与类型子空间,实现数据-控制分离,在算术任务中将中位数OOD误差降低35倍,并在11个数据集上平均准确率提升26个百分点,显著增强逻辑推理的稳健性。
2026-09-29 cs.AI cs.LG
HELP: A Dataset for Identifying Shortcomings of Neural Models in Monotonicity Reasoning
RIKEN(理化学研究所);Ochanomizu University(御茶水女子大学);Tohoku University(东北大学);University of Groningen(格罗宁根大学)
大型众包数据集广泛用于训练和评估自然语言推理(NLI)的神经模型。尽管有这些努力,神经模型很难捕捉逻辑推理,包括那些由短语替换授权的推理,即所谓的单调性推理。由于还没有为单调性推理开发大型数据集,因此目前还不清楚主要障碍是数据集的大小还是模型架构本身。为了研究这个问题,我们引入了一个新的数据集,称为HELP,用于处理词汇和逻辑现象的蕴涵。我们将其添加到最先进的神经模型的训练数据中,并在测试集上评估单调性现象。结果表明,我们的数据增强提高了整体精度。我们还发现,这种改进对词汇替换的单调性推理比对析取和修饰的向下推理更好。这表明,某些类型的推断可以通过我们的数据增强来改进,而其他类型的推断则不受其影响。
2019-04-27 cs.CL
LogiPart: Local Large Language Models for Data Exploration at Scale with Logical Partitioning
Tiago Fernandes Tavares(独立研究者)
LogiPart通过本地大语言模型与逻辑分区技术,在大规模数据探索中实现高效、可解释的税目发现,克服传统方法的效率与成本限制。
2026-02-17 cs.AI cs.CL
D-SMART: Enhancing LLM Dialogue Consistency via Dynamic Structured Memory And Reasoning Tree
D-SMART通过动态结构化记忆和推理树,使LLM在多变对话中保持事实与逻辑一致,显著提升一致性分数超48%。
2025-10-15 cs.CL
Logic Haystacks: Probing LLMs Long-Context Logical Reasoning (Without Easily Identifiable Unrelated Padding)
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院)
本研究通过生成带干扰项的长逻辑文本,评估LLMs长上下文推理能力,发现现实干扰下有效上下文窗口远小于宣称值。
2025-02-24 cs.CL