Last Layer Logits to Logic: Empowering LLMs with Logic-Consistent Structured Knowledge Reasoning
Zhejiang University（浙江大学）；Ant Group（蚂蚁集团）；ZJU-Ant Group Joint Lab of Knowledge Graph（浙江大学-蚂蚁集团知识图谱联合实验室）
针对LLM在结构化知识推理中的逻辑漂移问题，提出Logits-to-Logic框架，通过logits增强和过滤模块修正输出逻辑缺陷，在多个KGQA基准上取得最佳性能。
2026-10-05 cs.CL
Enhancing Retrieval Systems with Inference-Time Logical Reasoning
MIT（麻省理工学院）；Center for Advanced AI, Accenture（埃森哲高级人工智能中心）
针对传统检索方法难以处理含逻辑结构复杂查询的问题，本文提出推理时逻辑推理框架，通过提取查询逻辑结构组合余弦相似度得分，在保证效率的同时显著提升复杂查询检索性能。
2025-03-22 cs.CL
Logic-Driven Context Extension and Data Augmentation for Logical Reasoning of Text
Fudan University（复旦大学）；Sun Yat-Sen University（中山大学）；Microsoft（微软）；Sinovation Ventures（创新工场）
文本的逻辑推理需要理解文本中的关键逻辑信息并对其进行推理。用于逻辑推理的大规模预训练模型主要关注文本的单词级语义，而难以捕获符号逻辑。在本文中，我们建议理解文本中的逻辑符号和表达式来得出答案。基于这些逻辑信息，我们不仅提出了一个上下文扩展框架，并提出了一个数据增强算法。前者将上下文扩展到涵盖遵循逻辑等价律的隐式逻辑表达式。后者增加了字面上相似但逻辑上不同的实例，以更好地捕获逻辑信息，特别是逻辑否定和条件关系。我们在ReClor数据集上进行了实验。实验结果表明，该方法具有较好的性能，逻辑驱动的上下文扩展框架和数据增强算法都有助于提高准确率。我们的多模型集成系统是第一个在ReClor的EASY集和HARD集上超过人类性能的系统。
2021-05-08 cs.CL
LogiNumSynth: Synthesizing Joint Logical-Numerical Reasoning Problems for Language Models
State Key Laboratory for Novel Software Technology（新型软件技术国家重点实验室）；Nanjing University（南京大学）
提出LogiNumSynth问题合成器，通过细粒度控制生成联合逻辑-数值推理任务，支持过程与答案评估及针对性训练，有效诊断并提升语言模型的综合推理能力。
2025-10-13 cs.CL
Logiformer: A Two-Branch Graph Transformer Network for Interpretable Logical Reasoning
Xi’an Jiaotong University（西安交通大学）；Shaanxi Province Key Laboratory of Satellite and Terrestrial Network Tech. R&D（陕西省卫星与地面网络技术研发重点实验室）；National Engineering lab for Big Data Analytics（国家大数据分析工程实验室）
机器阅读理解由于探索了模型在文本理解中的潜力而受到广泛关注。为了进一步使机器具有推理能力，提出了逻辑推理的挑战性任务。以往的逻辑推理研究从不同的角度提出了一些逻辑单位抽取的策略。然而，仍然存在对逻辑单元之间的长距离依赖性建模的挑战。此外，它要求揭示文本的逻辑结构，并进一步融合离散逻辑的连续文本嵌入。为了解决上述问题，我们提出了一个端到端的模型Logiformer，它利用一个双分支图Transformer网络的文本逻辑推理。首先，我们引入不同的抽取策略，将文本分成两组逻辑单元，分别构造逻辑图和语法图。逻辑图对逻辑分支的因果关系进行建模，而语法图捕获语法分支的同现关系。其次，为了对长距离依赖进行建模，每个图的节点序列被馈送到全连接图Transformer结构中。两个相邻的矩阵被视为图Transformer层的注意力偏差，图层将离散的逻辑结构映射到连续的文本嵌入空间。第三，在答案预测之前引入了动态门机制和问题感知自注意模块来更新特征。推理过程通过使用与人类认知一致的逻辑单位来提供可解释性。实验结果表明，我们的模型的优越性，它优于国家的最先进的单一模型在两个逻辑推理基准。
2022-07-08 cs.CL
Logic-of-Thought: Injecting Logic into Contexts for Full Reasoning in Large Language Models
University of Science and Technology of China（中国科学技术大学）；Beihang University（北京航空航天大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
本文提出 Logic-of-Thought 提示方法，通过命题逻辑生成扩展逻辑信息并注入原始上下文，以弥补逻辑表达式提取中的信息遗漏，从而显著提升大语言模型在多个逻辑推理任务上的表现。
2025-02-07 cs.CL
Learning Distributed Word Representations for Natural Logic Reasoning
自然逻辑提供了一个强大的关系概念的意义，这是一个自然的对应分布式语义表示，这已被证明是有价值的，在广泛的复杂的语言任务。然而，它仍然是一个悬而未决的问题，是否有可能训练分布式表示，以支持丰富的，多样化的逻辑推理所捕获的自然逻辑。我们使用两种基于神经网络的模型来学习嵌入：普通神经网络和神经张量网络来解决这个问题。我们的实验评估了模型从模拟数据和WordNet名词图中学习自然逻辑关系的基本代数的能力。总体积极的结果是有希望的未来学习分布式表示的应用建模的逻辑语义。
2014-10-15 cs.CL
Chain of Logic: Rule-Based Reasoning with Large Language Models
Northwestern University（西北大学）；Adobe Research（奥多比研究院）；Pattern Data（帕特恩数据公司）
本文提出 Chain of Logic 提示方法，通过分解与重组策略引导大语言模型进行组合规则推理，在 LegalBench 的八项任务上优于思维链和 Self-Ask 等方法。
2024-02-23 cs.CL
NLProlog: Reasoning with Weak Unification for Question Answering in Natural Language
University College London（伦敦大学学院）
基于规则的模型对各种任务都有吸引力，因为它们本质上导致可解释和可解释的决策，并且可以很容易地结合先验知识。然而，这样的系统是难以适用于涉及自然语言的问题，由于其语言的可变性。相比之下，神经模型可以通过从数据中学习单词及其组成的分布式表示来很好地应对歧义，但会导致难以解释的模型。在本文中，我们描述了一种新的方式解决多跳推理任务的自然语言的神经网络与逻辑编程相结合的模型。具体来说，我们建议使用Prolog证明器，我们扩展到利用预训练的句子编码器的相似性函数。我们通过反向传播来微调相似性函数的表示。这导致了一个系统，可以应用基于规则的推理自然语言，并从训练数据诱导特定领域的规则。我们在两个不同的问答任务上评估了所提出的系统，表明它优于两个基线- BIDAF（Seo等人，2016 a）和FAST QA（Weissenborn等人，2017 b），并在MedHop数据集上取得了有竞争力的结果（Welbl et al.，2017年）。
2019-06-14 cs.CL cs.LO
Socrates or Smartypants: Testing Logic Reasoning Capabilities of Large Language Models with Logic Programming-based Test Oracles
针对现有逻辑推理基准的局限，本文推出SmartyPat-Bench基准及基于逻辑编程预言机的自动化框架SmartyPat，可生成高质量逻辑谬误样例，实验揭示了大语言模型逻辑推理的相关特性。
2025-11-19 cs.CL
From Hypothesis to Premises: LLM-based Backward Logical Reasoning with Selective Symbolic Translation
本文提出HBLR框架，通过结合自信符号翻译与假设驱动反向推理，提升逻辑推理的准确性和效率。
2025-12-03 cs.CL
Knowledge Vector of Logical Reasoning in Large Language Models
Department of Computer & Information Science and Engineering（计算机与信息科学与工程系）
本文研究了大语言模型中演绎、归纳和溯因推理的知识表示，发现其在线性空间中可独立表示，提出互补子空间约束框架以增强其互补性。
2026-04-26 cs.CL
Discourse-Aware Graph Networks for Textual Logical Reasoning
Sun Yat-sen University（中山大学）；Tencent AI Lab（腾讯人工智能实验室）；Huawei（华为）；University of Liverpool（利物浦大学）
本文提出语篇感知图网络DAGNs，通过构建逻辑图并端到端演化逻辑关系来增强文本逻辑推理问答能力，实验验证了其有效性和泛化性。
2023-04-19 cs.AI cs.CL
Reason from Fallacy: Enhancing Large Language Models' Logical Reasoning through Logical Fallacy Understanding
School of Data Science, Fudan University（复旦大学数据科学学院）；Shanghai Key Laboratory of Data Science（上海市数据科学重点实验室）
本文提出WHAT、WHY、HOW三维LFU任务，并构建基于GPT-4与少量人工校验的LFUD数据集，用于评估和微调LLM，显著提升其逻辑推理能力。
2024-04-04 cs.AI cs.CL
Logical Reasoning in Large Language Models: A Survey
Westlake University（西湖大学）；Zhejiang Normal University（浙江师范大学）；Hainan University（海南大学）
本综述针对大型语言模型（LLMs）严格逻辑推理能力的开放性问题，梳理其逻辑推理的范围、理论基础与基准，分析不同推理范式的现有能力及提升策略，并指出未来探索方向以增强AI系统的逻辑推理能力。
2025-02-13 cs.AI cs.CL
Enhancing Logical Reasoning in Large Language Models to Facilitate Legal Applications
National Institute of Informatics（信息学研究所）
本文提出逻辑反馈强化学习（RLLF）方法以提升LLMs的逻辑推理能力，从而扩展其在法律等逻辑密集型学科中的应用，并探索该领域研究的新途径。
2023-11-22 cs.AI cs.CL
Evaluating the Logical Reasoning Ability of ChatGPT and GPT-4
Westlake University（西湖大学）；Zhejiang University（浙江大学）；Nanyang Technological University（南洋理工大学）；Fudan University（复旦大学）
该研究通过多个逻辑推理基准及自建分布外数据集测试ChatGPT和GPT-4的推理能力，发现二者在知名数据集表现较好但新数据集和分布外场景性能下降，同时发布了LogiEval基准套件。
2023-05-05 cs.AI cs.CL
Logic-LM: Empowering Large Language Models with Symbolic Solvers for Faithful Logical Reasoning
University of California, Santa Barbara（加州大学圣巴巴拉分校）
本文提出Logic-LM框架，通过将大型语言模型与符号求解器结合，把自然语言转化为符号公式进行推理，并引入自我修正模块，在五个逻辑数据集上显著提升了LLM的逻辑推理性能。
2023-10-19 cs.AI cs.CL
LogicBench: Towards Systematic Evaluation of Logical Reasoning Ability of Large Language Models
Arizona State University（亚利桑那州立大学）；Microsoft Research（微软研究院）
本文系统评估大语言模型的逻辑推理能力，提出覆盖命题、一阶和非单调逻辑共25种推理模式的LogicBench数据集，并发现现有LLMs在复杂推理与否定场景中表现不佳。
2024-06-06 cs.AI cs.CL
Logical Reasoning over Natural Language as Knowledge Representation: A Survey
Nanyang Technological University（南洋理工大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文综述了以自然语言作为知识表示、预训练语言模型作为推理器的逻辑推理新范式，涵盖其优势、基准、挑战及未来方向，该范式有效缓解了形式表示的瓶颈并优于端到端神经方法。
2024-02-16 cs.AI cs.CL
SymbolLKG: Towards Verifiable Logical Reasoning via Logical Knowledge Graph and Symbolic Solvers
Shanghai JiaoTong University（上海交通大学）
该研究针对大型语言模型逻辑推理的缺陷，提出结合逻辑知识图谱与动态求解器路由的神经-符号架构，在基准任务上优于现有方法，实现了可验证的高准确率逻辑推理。
2026-08-28 cs.AI cs.CL
Logic Agent: Enhancing Validity with Logic Rule Invocation
本文提出 Logic Agent 框架，通过将自然语言转为逻辑形式并动态调用命题逻辑规则，提升 LLM 推理的有效性、可解释性与跨规模任务表现。
2024-12-06 cs.AI cs.CL
Logical Phase Transitions: Understanding Collapse in LLM Logical Reasoning
Huazhong University of Science and Technology（华中科技大学）
研究通过控制逻辑复杂性分析大语言模型的逻辑推理性能，发现逻辑相变现象，提出神经符号课程调优框架以提升高复杂度下的推理能力。
2026-04-15 cs.AI cs.CL cs.LO
Enhancing Logical Reasoning in Large Language Models through Graph-based Synthetic Data
McGill University（麦吉尔大学）；Mila - Québec AI Institute（米拉-魁北克人工智能研究所）
本研究探索基于图的合成数据作为训练信号，通过监督微调增强LLM在归纳与空间推理任务上的能力，且不影响其他基准表现。
2024-12-16 cs.CL cs.LG
SALA: Semantic-Aware Logical Alignment for Complex Reasoning in In-Context Learning
School of Software Engineering, Sun Yat-sen University（中山大学软件工程学院）；School of Artificial Intelligence, Sun Yat-sen University（中山大学人工智能学院）；Merchants Union Consumer Finance Company Limited（招商局联融消费金融股份有限公司）
针对上下文学习中传统示例选择方法无法捕捉推理逻辑、刚性逻辑方法适配性差的问题，提出SALA框架，通过自动学习任务特定推理操作并结合动态时间规整实现灵活可解释的逻辑对齐，在多基准和多LLM上性能优于现有方法。
2026-09-03 cs.AI cs.CL
MERIt: Meta-Path Guided Contrastive Learning for Logical Reasoning
Shandong University（山东大学）；National University of Singapore（新加坡国立大学）
逻辑推理对自然语言理解至关重要。以往的研究要么采用基于图的模型来整合关于逻辑关系的先验知识，要么通过数据增强将符号逻辑引入神经模型。然而，这些方法严重依赖于带注释的训练数据，并且因此由于数据集稀疏而遭受过拟合和差的泛化问题。为了解决这两个问题，在本文中，我们提出MERIt，元路径引导的对比学习方法的逻辑推理的文本，进行自我监督的预训练丰富的未标记的文本数据。两个新的策略作为我们的方法不可或缺的组成部分。特别地，设计了一种基于元路径的策略来发现自然文本中的逻辑结构，然后采用反事实数据增强策略来消除预训练导致的信息捷径。在两个具有挑战性的逻辑推理基准上的实验结果，即，ReClor和LogiQA证明，我们的方法优于SOTA基线，具有显着的改进。
2022-03-01 cs.AI cs.CL
Can recursive neural tensor networks learn logical reasoning?
Stanford University（斯坦福大学）
递归神经网络模型及其伴随的单词向量表示在一系列语义日益复杂的任务中取得了成功，但几乎没有人知道它们准确捕捉解释或推理所需的语言意义方面的能力。为了评估这一点，我训练了一个递归模型，在一个新的语料库上构建了短句逻辑推理的例子，比如从"一些狗走路"或"一些猫走路"推断"一些动物走路"，假设狗和猫是动物。该模型学习的表示，以及推广到新类型的推理模式，在所有，但少数情况下，结果是有希望的学习表示模型捕捉逻辑推理的能力。
2014-02-15 cs.CL cs.LG
DivLogicEval: A Framework for Benchmarking Logical Reasoning Evaluation in Large Language Models
The Hong Kong University of Science and Technology（香港科技大学）；Fudan University（复旦大学）；WeChat AI, Tencent（腾讯微信AI）
本文提出DivLogicEval基准，以反直觉自然句子评估LLM逻辑推理，并引入新指标减少偏差，实验比较了多种流行LLM的性能。
2025-09-26 cs.AI cs.CL cs.LG
Weakly Supervised Explainable Phrasal Reasoning with Neural Fuzzy Logic
University of Alberta（阿尔伯塔大学）；Carnegie Mellon University（卡内基梅隆大学）
自然语言推理的目的是确定两个句子之间的逻辑关系，如蕴涵、矛盾和中性。近年来，深度学习模型已成为NLI的主流方法，但它们缺乏可解释性和可解释性。在这项工作中，我们解决了NLI的弱监督逻辑推理的可解释性，并提出了一个可解释短语推理（EPR）的方法。我们的模型首先检测短语作为语义单位，并将两个句子中的相应短语对齐。然后，该模型预测对齐短语的NLI标签，并通过模糊逻辑公式归纳句子标签。我们的EPR几乎在任何地方都是可微的，因此系统可以端到端地训练。通过这种方式，我们能够以弱监督的方式提供短语逻辑关系的明确解释。我们进一步表明，这样的推理结果有助于文本解释生成。
2023-02-22 cs.AI cs.CL
Disentangling Logic: The Role of Context in Large Language Model Reasoning Capabilities
Rutgers University（罗格斯大学）；Microsoft（微软公司）；University of Michigan（密歇根大学）；The University of Liverpool（利物浦大学）
本研究通过对比抽象与上下文化逻辑问题，系统解耦纯逻辑推理与文本理解，探究LLMs在保持逻辑结构不变时的真正推理能力及微调泛化潜力，并构建了包含4个难度级别、12个领域的命题推理数据集。
2024-06-04 cs.AI cs.CL cs.LG
RobustLR: Evaluating Robustness to Logical Perturbation in Deductive Reasoning
University of Southern California（南加州大学）
Transformers已经被证明能够在包含用英语自然语言编写的规则和语句的逻辑规则库上执行演绎推理。虽然进展是有希望的，但目前还不清楚这些模型是否确实通过理解语言中的底层逻辑语义来执行逻辑推理。为此，我们提出了RobustLR，一套评估数据集，评估这些模型的鲁棒性，以最小的逻辑编辑规则库和一些标准的逻辑等价条件。在我们对RoBERTa和T5的实验中，我们发现在以前的工作中训练的模型在RobustLR中的不同扰动上表现不一致，因此表明模型对所提出的逻辑扰动不鲁棒。此外，我们发现模型发现学习逻辑否定和析取运算符特别困难。总的来说，使用我们的评估集，我们证明了一些基于演绎推理的语言模型的缺点，这最终可以帮助设计更好的模型，逻辑推理超过自然语言。所有数据集和代码库都已公开。
2022-11-08 cs.CL cs.LG cs.LO
LogicAsker: Evaluating and Improving the Logical Reasoning Ability of Large Language Models
The Chinese University of Hong Kong（香港中文大学）；Tencent AI Lab（腾讯AI实验室）
针对大语言模型逻辑推理能力难以直接评估的问题，提出基于命题与谓词逻辑原子技能的LogicAsker评估增强方法，发现模型推理缺陷并构建数据将GPT-4o推理能力最高提升5%，相关资源已公开。
2024-10-08 cs.AI cs.CL cs.LO
LogicTree: Structured Proof Exploration for Coherent and Rigorous Logical Reasoning with Large Language Models
Electrical and Computer Engineering, Purdue University（电子与计算机工程系，普渡大学）
提出推理时框架LogicTree，通过算法引导的结构化证明探索、缓存机制与线性前提搜索，提升LLMs的逻辑连贯性，在五个数据集上超越CoT和ToT。
2025-09-15 cs.AI cs.CL cs.LG
AdaLoGN: Adaptive Logic Graph Network for Reasoning-Based Machine Reading Comprehension
Nanjing University（南京大学）
最近的机器阅读理解数据集，如ReClor和LogiQA，需要对文本进行逻辑推理。传统的神经模型不足以进行逻辑推理，而符号推理不能直接应用于文本。为了应对这一挑战，我们提出了一种神经符号的方法，预测答案，通过一个图表示文本单元之间的逻辑关系的消息。它采用了自适应逻辑图网络（AdaLoGN），自适应地推断逻辑关系，以扩展图形，本质上，实现神经和符号推理之间的相互和迭代增强。我们还实现了一种新的子图到节点的消息传递机制，以增强上下文选项的交互回答多项选择题。我们的方法在ReClor和LogiQA上显示出有希望的结果。
2022-03-16 cs.AI cs.CL cs.NE
Logic-Parametric Neuro-Symbolic NLI: Controlling Logical Formalisms for Verifiable LLM Reasoning
University of Luxemburg（卢森堡大学）；University of Sheffield（谢菲尔德大学）
本文提出逻辑参数化框架，通过可控逻辑形式提升神经符号推理的鲁棒性与适应性，实验表明内部逻辑策略在不同领域具有更优表现。
2026-01-09 cs.AI cs.CL cs.LO
Towards Logically Sound Natural Language Reasoning with Logic-Enhanced Language Model Agents
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
针对LLMs在开放式任务中易出现逻辑错误的问题，提出逻辑增强框架LELMA，通过自动形式化将自然语言推理转化为逻辑表示以验证和优化推理，实验表明该框架有效提升了错误检测准确率与推理正确性。
2025-05-29 cs.AI cs.CL cs.GT
Logical Structure as Knowledge: Enhancing LLM Reasoning via Structured Logical Knowledge Density Estimation
Huzhou University（湖州大学）；Zhejiang Key Laboratory of Intelligent Education Technology and Application（浙江智能教育技术与应用重点实验室）；Banbu AI Foundation（Banbu AI基金会）；Baichuan Inc（白川公司）；University of Edinburgh（爱丁堡大学）；Zhejiang University（浙江大学）
本文提出通过结构化逻辑知识密度估计提升LLM推理能力，通过增强逻辑密度而非扩大数据量来提高模型认知潜力。
2026-02-12 cs.AI cs.CL cs.LG
Learning Deductive Reasoning from Synthetic Corpus based on Formal Logic
Hitachi, Ltd. Research and Development Group（日立制作所研发集团）
本文提出基于形式逻辑的合成语料FLD，训练语言模型获得可泛化的演绎推理能力，并验证其有效性，同时作为基准揭示LLM纯逻辑推理的挑战。
2023-11-14 cs.AI cs.CL cs.LG
