Faithful Logical Reasoning via Symbolic Chain-of-Thought
National University of Singapore（新加坡国立大学）；University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；University of Auckland（奥克兰大学）
本文提出SymbCoT框架，将符号表达式和逻辑规则融入链式思维提示，以增强大语言模型的逻辑推理能力，在多个标准数据集上取得最先进性能并提升推理的忠实性与可解释性。
2024-06-11 cs.CL
Boosting Logical Reasoning in Large Language Models through a New Framework: The Graph of Thought
University of Connecticut（康涅狄格大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）
本文提出 Graph of Thoughts（GoT）提示框架，通过图结构组织推理过程，在24点游戏、高次方程和递归序列任务上显著提升 GPT-4 及 ToT 的逻辑推理准确率。
2023-08-16 cs.AI cs.CL cs.LG
Logic-of-Thought: Injecting Logic into Contexts for Full Reasoning in Large Language Models
University of Science and Technology of China（中国科学技术大学）；Beihang University（北京航空航天大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
本文提出 Logic-of-Thought 提示方法，通过命题逻辑生成扩展逻辑信息并注入原始上下文，以弥补逻辑表达式提取中的信息遗漏，从而显著提升大语言模型在多个逻辑推理任务上的表现。
2025-02-07 cs.CL
Visual Chain of Thought: Bridging Logical Gaps with Multimodal Infillings
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
本文提出 VCoT 方法，通过视觉-语言 grounding 与思维链提示递归生成多模态填充内容，以弥合序列数据中的逻辑缺口，并在 Visual Storytelling 和 WikiHow 数据集上验证其优于思维链基线的数据增强效果。
2024-01-23 cs.CL cs.CV
Learning to Reason via Mixture-of-Thought for Logical Reasoning
UMD（马里兰大学）；Yale University（耶鲁大学）
针对 LLM 训练仅依赖单一推理模态的问题，本文提出融合自然语言、代码和真值表的 MoT 两阶段框架，在 FOLIO 与 ProofWriter 上最高提升平均准确率 11.7 个百分点。
2025-06-09 cs.CL
RATT: A Thought Structure for Coherent and Correct LLM Reasoning
Portland State University（波特兰州立大学）；Renmin University of China（中国人民大学）；Pennsylvania State University（宾夕法尼亚州立大学）；Dalian Maritime University（大连海事大学）；University of Kansas（堪萨斯大学）
针对现有思维结构在复杂任务中事实检索不足和策略选择不佳的问题，提出RATT思维结构，在每步推理中结合RAG事实核查与LLM策略评估，显著提升了LLM推理的事实正确性与逻辑连贯性。
2024-12-23 cs.CL
Recursive Decomposition of Logical Thoughts: Framework for Superior Reasoning and Knowledge Propagation in Large Language Models
Southwest Jiaotong University（西南交通大学）；University of Jeddah（吉达大学）；National Textile University（国立纺织大学）
本文提出 RDoLT 提示框架，通过递归任务分解、思维选择评分及强弱思维知识传播提升 LLM 推理，并在多个数学与逻辑基准上显著超越现有方法。
2025-01-03 cs.AI cs.CL cs.LG
LOGICAL-COMMONSENSEQA: A Benchmark for Logical Commonsense Reasoning
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文提出LOGICAL-COMMONSENSEQA基准，通过逻辑运算符评估常识推理，发现模型在否定类问题上表现下降，揭示了推理局限性。
2026-04-20 cs.AI cs.CL
Prompting Large Language Models with Chain-of-Thought for Few-Shot Knowledge Base Question Generation
East China Normal University（华东师范大学）；Singapore Management University（新加坡管理大学）
本文提出基于思维链的提示方法 KQG-CoT 及其改进版 KQG-CoT+，将知识库问题生成转化为推理问题，通过检索逻辑形式并按复杂度排序构建推理链，在少样本场景下显著优于基线并在 PathQuestions 数据集上大幅超越现有 SoTA。
2023-10-23 cs.AI cs.CL
Theorem-of-Thought: A Multi-Agent Framework for Abductive, Deductive, and Inductive Reasoning in Language Models
Texas A&M University（德克萨斯大学）；Hamad Bin Khalifa University（哈马德·本·卡伊夫大学）
针对大语言模型推理鲁棒性差、缺乏逻辑结构校验的问题，提出模拟三类推理模式的多智能体框架ToTh，通过贝叶斯信念传播评估推理一致性，在多个基准上优于现有提示技术，可生成可解释的逻辑推理链。
2025-07-31 cs.AI cs.CL
SymbolLKG: Towards Verifiable Logical Reasoning via Logical Knowledge Graph and Symbolic Solvers
Shanghai JiaoTong University（上海交通大学）
该研究针对大型语言模型逻辑推理的缺陷，提出结合逻辑知识图谱与动态求解器路由的神经-符号架构，在基准任务上优于现有方法，实现了可验证的高准确率逻辑推理。
2026-08-28 cs.AI cs.CL
C2-Faith: Benchmarking LLM Judges for Causal and Coverage Faithfulness in Chain-of-Thought Reasoning
SPARAI
提出C2-Faith基准，通过因果和覆盖两个维度评估LLM评判者对思维链推理过程忠实性的判断能力，发现模型在错误定位和覆盖评分上存在显著不足。
2026-06-15 cs.AI cs.CL
Beyond Symbolic Solving: Multi Chain-of-Thought Voting for Geometric Reasoning in Large Language Models
本文提出MARS-GPS方法，通过生成多个并行推理流程并结合Python代码执行，利用熵值进行排序并多阶段投票，提升大语言模型在几何推理中的性能，实验显示其在Geometry3K数据集上达到88.8%的准确率，比现有最佳水平提升11%。
2026-04-01 cs.AI cs.CL cs.CV
Enhancing Logical Reasoning in Large Language Models to Facilitate Legal Applications
National Institute of Informatics（信息学研究所）
本文提出逻辑反馈强化学习（RLLF）方法以提升LLMs的逻辑推理能力，从而扩展其在法律等逻辑密集型学科中的应用，并探索该领域研究的新途径。
2023-11-22 cs.AI cs.CL
Logic-LM: Empowering Large Language Models with Symbolic Solvers for Faithful Logical Reasoning
University of California, Santa Barbara（加州大学圣巴巴拉分校）
本文提出Logic-LM框架，通过将大型语言模型与符号求解器结合，把自然语言转化为符号公式进行推理，并引入自我修正模块，在五个逻辑数据集上显著提升了LLM的逻辑推理性能。
2023-10-19 cs.AI cs.CL
From Implicit to Explicit: Token-Efficient Logical Supervision for Mathematical Reasoning in LLMs
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出FSLR框架，通过显式监督提升大语言模型对逻辑关系的理解能力，实验显示其在推理准确率和训练效率上均优于CoT-SFT。
2026-04-18 cs.AI cs.CL
LogicTree: Structured Proof Exploration for Coherent and Rigorous Logical Reasoning with Large Language Models
Electrical and Computer Engineering, Purdue University（电子与计算机工程系，普渡大学）
提出推理时框架LogicTree，通过算法引导的结构化证明探索、缓存机制与线性前提搜索，提升LLMs的逻辑连贯性，在五个数据集上超越CoT和ToT。
2025-09-15 cs.AI cs.CL cs.LG
Enhancing Zero-Shot Chain-of-Thought Reasoning in Large Language Models through Logic
University of Hamburg（汉堡大学）
本文提出 LoT 框架，利用符号逻辑中的反证法逐步验证和纠正推理过程，显著提升了大型语言模型在多领域的零样本思维链推理能力。
2024-03-26 cs.AI cs.CL cs.LG
Deductive Logic in Language Models: Horizontal vs Vertical Reasoning
Department of Computer Science and Engineering, University of Bologna（博洛尼亚大学计算机科学与工程系）
研究小型Transformer语言模型在演绎任务中的推理机制，区分横向推理（自回归生成中间步骤）和纵向推理（跨层隐式推理），发现思维链监督有助于学习基于规则的推理，并通过机械可解释性揭示其实现方式。
2026-07-01 cs.AI cs.CL
A Chain-of-Thought Is as Strong as Its Weakest Link: A Benchmark for Verifiers of Reasoning Chains
Bar Ilan University（巴伊兰大学）；Google DeepMind（谷歌DeepMind）；Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
针对缺乏细粒度步骤级数据集评估推理验证方法的问题，研究提出REVEAL基准数据集，用于开放域问答下思维链推理验证器测试，标注涵盖步骤相关性、证据归因与逻辑正确性，实验发现验证器在逻辑正确性验证和矛盾检测上表现不佳。
2024-05-21 cs.CL
Critical-Questions-of-Thought: Steering LLM reasoning with Argumentative Querying
University of Lincoln（林肯大学）；Brunel University of London（伦敦布鲁内尔大学）
本文针对LLM逻辑与数学推理泛化能力弱的问题，提出基于Toulmin论证模型中“批判性问题”的推理引导方法，通过探究推理过程纠正逻辑错误，在MT-Bench上表现优于基线及CoT。
2024-12-19 cs.AI cs.CL
Proof of Thought : Neurosymbolic Program Synthesis allows Robust and Interpretable Reasoning
Case Western Reserve University（凯斯西储大学）；Microsoft Corporation（微软公司）
本文提出 Proof of Thought 框架，通过神经符号程序合成将 LLM 输出转化为一阶逻辑并由定理证明器验证，结合 JSON 领域特定语言实现鲁棒且可解释的推理，在 StrategyQA 和多模态任务上验证了有效性。
2024-10-23 cs.AI cs.CL cs.LG
Human-in-the-Loop through Chain-of-Thought
Peking University（北京大学）；Beijing Jiaotong University（北京交通大学）
针对语言模型在复杂推理中的不足，提出基于思维链的人机协同系统MCS及成本效用模型CAMLOP，在12个数据集上验证了其成本与效用的优势。
2023-06-23 cs.AI cs.CL
Balancing Efficiency and Efficacy: Training-Free Attention-Guided Switching Between Explicit and Latent Thoughts for MLLMs
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Peng Cheng Laboratory（鹏城实验室）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
针对MLLM推理中感知与逻辑混淆的问题，提出无训练的注意力引导式切换框架，通过视觉-文本注意力比率自适应切换显式与隐式推理，实现性能与效率的双重提升。
2026-08-05 cs.AI cs.CL cs.CV
Mind the Gap: Bridging Thought Leap for Improved Chain-of-Thought Tuning
Zhejiang University（浙江大学）；SF Technology（SF技术）；Microsoft Research Asia（微软亚洲研究院）
本文提出CoT思维跳跃桥任务，通过生成缺失的中间推理步骤提升数学推理任务的性能，实验表明在NuminaMath上改进达+5.87%。
2025-11-27 cs.AI cs.CL
MyGO Multiplex CoT: A Method for Self-Reflection in Large Language Models via Double Chain of Thought Thinking
Data Dream, AI（Data Dream AI）
本文提出Multiplex CoT方法，通过双重思维链实现LLM自我反思，无需额外训练即可提升推理质量，并提供了Google Colab实现指南。
2025-01-20 cs.AI cs.CL
Knowledge Distillation with Structured Chain-of-Thought for Text-to-SQL
本文提出Struct-SQL框架，通过结构化思维链知识蒸馏提升小型语言模型在文本到SQL任务中的性能，实现8.1%的准确率提升。
2026-03-11 cs.AI cs.CL cs.DB
Forest-of-Thought: Scaling Test-Time Compute for Enhancing LLM Reasoning
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
针对LLM单次推理无法纠错的问题，提出Forest-of-Thought框架，通过集成多推理树、稀疏激活、动态自纠正和共识引导决策，显著提升了模型解决复杂推理任务的精度与效率。
2025-04-01 cs.AI cs.CL
COIG-Writer: A High-Quality Dataset for Chinese Creative Writing with Thought Processes
M-A-P 2077AI
针对大模型中文创意写作缺陷，提出COIG-Writer数据集，含1665个带思维过程的三元组，揭示过程监督需与通用数据配比及文化约束等关键洞见。
2025-10-16 cs.AI cs.CL
ProLaViT: Learning Progressive Latent Visual Thoughts in Structured Latent Space
Basic Algorithm Center, PCG, Tencent（腾讯PCG基础算法中心）；Zhejiang University（浙江大学）；Peking University（北京大学）
针对多模态大语言模型在复杂视觉推理任务中的不足，ProLaViT框架利用内生自蒸馏机制等，设计两种推理范式及损失函数，使其能在潜在空间进行结构化视觉推导，实验证明效果优于基线。
2026-07-07 cs.CL cs.CV
CRISP: Compressing Redundancy in Chain-of-Thought via Intrinsic Saliency Pruning
College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（南京航空航天大学人工智能学院）；The Key Laboratory of Brain-Machine Intelligence Technology, Ministry of Education（教育部脑机智能技术重点实验室）
本文提出CRISP框架，通过利用模型内在显著性信号压缩链式推理，减少冗余并保持逻辑一致性，实验表明在不牺牲准确性的情况下实现50-60%的token减少。
2026-04-19 cs.CL
GroupDebate: Enhancing the Efficiency of Multi-Agent Debate Using Group Discussion
University of Science and Technology of China（中国科学技术大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Beihang University（北航）
本文提出GroupDebate方法，通过将智能体划分为小组并共享中间结果，减少多智能体辩论的token成本，提升效率和准确性。
2025-12-26 cs.AI cs.CL
When Do Program-of-Thoughts Work for Reasoning?
本文提出 CIRS 衡量代码结构与逻辑复杂度对 LLM 推理能力的影响，并设计自动合成分层算法用于数学指令生成和代码数据过滤。
2023-12-18 cs.AI cs.CL cs.LG
MTMT: Consolidating Multiple Thinking Modes to Form a Thought Tree for Strengthening LLM
University of Science and Technology of China（中国科学技术大学）
针对 LLM 复杂推理不足的问题，本文提出 MTMT，通过整合联想、反事实、分解和比较等多种思维模式构建思维树，并在 GPT-4o mini 上验证其可显著提升复杂任务处理能力。
2024-12-05 cs.AI cs.CL
Contrastive Chain-of-Thought Prompting
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Singapore University of Technology and Design（新加坡科技设计大学）；Nanyang Technological University（南洋理工大学）
提出对比思维链，通过同时提供有效和无效推理演示并自动构建，增强语言模型推理并减少错误，在推理基准上验证其作为通用增强手段的有效性。
2023-11-15 cs.CL
Syzygy of Thoughts: Improving LLM CoT with the Minimal Free Resolution
UESTC（乌东德科技大学）；CNU（中国矿业大学）；KHU（韩国大学）；Tongji Univ（同济大学）
Syzygy of Thoughts通过引入最小自由分解方法，改进LLM的链式思维推理，提升复杂问题的解决能力和推理准确性。
2025-12-22 cs.CL
Breaking Thought Patterns: A Multi-Dimensional Reasoning Framework for LLMs
Behavision（行为智能研究院）
针对大语言模型推理僵化、缺乏创造性的问题，提出融合思维链推理、混合专家模型与多维度采样的LADDER框架，实验证明其在任务完成度、创造性等方面优于传统模型。
2025-06-16 cs.AI cs.CL
Logical Reasoning with Outcome Reward Models for Test-Time Scaling
Department of Data Science & AI, Monash University（数据科学与人工智能系，莫纳什大学）；College of Engineering and Computer Science, VinUniversity（工程与计算机科学学院，文大学）
本文提出用于演绎逻辑推理的结果奖励模型，并通过回声生成技术扩展训练数据中的错误类型，在FOLIO、JustLogic和ProverQA数据集上提升了多个LLMs的推理性能。
2025-08-27 cs.AI cs.CL
CLOMO: Counterfactual Logical Modification with Large Language Models
City University of Hong Kong（香港城市大学）；Tsinghua University（清华大学）；Tencent AI Lab（腾讯AI实验室）；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；City University of Hong Kong Shenzhen Research Institute（香港城市大学深圳研究院）；Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区）；MBZUAI（Mohamed bin Zayed 人工智能大学）；DarkMatter AI Research（DarkMatter AI 研究院）
本文提出反事实逻辑修改任务CLOMO及人工标注基准，并设计分解式自评估分数SES来直接评估LLMs的自然语言输出，实验表明LLMs虽具备一定反事实推理能力但与人类仍有差距。
2024-06-07 cs.AI cs.CL
Towards LogiGLUE: A Brief Survey and A Benchmark for Analyzing Logical Reasoning Capabilities of Language Models
Amazon Alexa AI（亚马逊Alexa人工智能）；IIT KGP（印度理工学院 Kharagpur 分校）
本文提出 LogiGLUE 基准，涵盖 24 个数据集和演绎、溯因、归纳三类推理，并训练 LogiT5 模型，发现大语言模型在溯因推理上表现最好、归纳推理最差，为提升逻辑推理能力提供分析基础。
2024-03-31 cs.AI cs.CL
Rethinking the Chain-of-Thought: The Roles of In-Context Learning and Pre-trained Priors
School of Intelligence Science and Technology, National Key Laboratory for Novel Software Technology, Nanjing University（智能科学与技术学院，新型软件技术国家重点实验室，南京大学）；School of Computing and Information Systems, Singapore Management University（计算与信息系统学院，新加坡管理大学）；Central South University（中南大学）；School of Global Education and Development, International Chinese Language Education, University of Chinese Academy of Social Sciences（全球教育与发展学院，国际中文教育，中国社会科学院）
该研究从上下文学习与预训练先验的双重关系视角探究思维链推理机制，通过细粒度分析、噪声示例引入等实验得出三项关键发现，为理解思维链推理原理及优化提示工程提供了依据。
2025-09-01 cs.AI cs.CL
Markov Chain of Thought for Efficient Mathematical Reasoning
Alibaba Tongyi Lab（阿里通义实验室）
受人类认知启发，提出Markov Chain of Thought (MCoT)框架，将多步推理步骤压缩为简化问题，在保持准确率的同时显著提升了大型语言模型数学推理的计算效率。
2025-03-06 cs.AI cs.CL
Think Thrice Before You Act: Progressive Thought Refinement in Large Language Models
Fudan University（复旦大学）；East China Normal University（华东师范大学）；Alibaba Group（阿里巴巴集团）；RhineAI（莱茵人工智能）
本文提出渐进式思维精炼框架PTR，通过弱强模型协同构建精炼数据和思维掩码微调，使大语言模型学会逐步改进回答，在十个任务上平均准确率从49.6%提升至53.5%，并展现出开放式任务中的自我改进能力。
2024-10-17 cs.AI cs.CL
Let's Think Outside the Box: Exploring Leap-of-Thought in Large Language Models with Creative Humor Generation
Sea AI Lab（Sea AI实验室）；Sun Yat-sen University（中山大学）；Harvard University（哈佛大学）
本文探索大型语言模型的跳跃思维（LoT）能力，构建多模态大喜利数据集并提出创造性跳跃思维（CLoT）范式，通过指令微调与探索性自我精炼显著提升了模型在幽默生成及多种任务中的创造力。
2024-04-21 cs.AI cs.CL cs.CV
Multi-LogiEval: Towards Evaluating Multi-Step Logical Reasoning Ability of Large Language Models
Arizona State University（亚利桑那州立大学）
针对现有逻辑推理基准规则有限、缺非单调推理评估的问题，提出覆盖三类逻辑、多规则多深度的Multi-LogiEval数据集，评估发现LLM性能随推理深度显著下降，为相关研究提供支撑。
2024-10-07 cs.AI cs.CL
Lost in the Logic: An Evaluation of Large Language Models' Reasoning Capabilities on LSAT Logic Games
Princeton University（普林斯顿大学）
本文通过构建LSAT逻辑游戏数据集并引入Reflexion提示框架，评估并提升了GPT-4和GPT-3.5在复杂逻辑推理任务上的表现，揭示了LLMs修正逻辑错误的能力。
2024-09-23 cs.AI cs.CL
SR-FoT: A Syllogistic-Reasoning Framework of Thought for Large Language Models Tackling Knowledge-based Reasoning Tasks
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；South China Normal University（华南师范大学）
提出SR-FoT框架，通过多阶段三段论演绎推理增强LLMs处理基于知识的复杂推理任务的能力，实验验证其有效性。
2025-01-20 cs.AI cs.CL
CLR-Fact: Evaluating the Complex Logical Reasoning Capability of Large Language Models over Factual Knowledge
The Hong Kong University of Science and Technology（香港科技大学）
本文提出CLR-Fact基准，系统评估LLMs在通用与生物医学知识图谱上的复杂逻辑推理能力，发现思维链提示可显著提升性能，且模型擅长并集运算但交集推理薄弱。
2024-07-30 cs.CL
$π$-CoT: Prolog-Initialized Chain-of-Thought Prompting for Multi-Hop Question-Answering
cornell（康奈尔大学）
$π$-CoT通过结合逻辑编程与语言模型，提升多跳问答性能，优于传统RAG和CoT方法。
2026-02-15 cs.CL
DetermLR: Augmenting LLM-based Logical Reasoning from Indeterminacy to Determinacy
XiaoMi AI Lab（小米AI实验室）；Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；University of Electronic Science and Technology of China（电子科技大学）
针对LLM推理中结构适应性差、条件利用不精确及历史经验缺失的问题，提出DetermLR方法，将推理视为从不确定性到确定性的演变，通过前提分类、定量优先和推理记忆，在多个逻辑基准上以更少步骤取得更高准确率。
2024-05-26 cs.AI cs.CL
LogicBench: Towards Systematic Evaluation of Logical Reasoning Ability of Large Language Models
Arizona State University（亚利桑那州立大学）；Microsoft Research（微软研究院）
本文系统评估大语言模型的逻辑推理能力，提出覆盖命题、一阶和非单调逻辑共25种推理模式的LogicBench数据集，并发现现有LLMs在复杂推理与否定场景中表现不佳。
2024-06-06 cs.AI cs.CL
Matrix as Plan: Structured Logical Reasoning with Feedback-Driven Replanning
Faculty of Arts and Sciences（艺术与科学学院）；Beijing Normal University（北京师范大学）；Institute of Artificial Intelligence and Future Networks（人工智能与未来网络研究所）；Engineering Research Center of Cloud-Edge Intelligent Collaboration on Big Data, Ministry of Education（教育部云-边智能协同大数据工程研究中心）
MatrixCoT通过引入矩阵基础计划和反馈驱动重计划机制，提升LLM在复杂符号推理任务中的鲁棒性和可解释性。
2026-01-19 cs.AI cs.CL
LCoT-GV: Graph Attention Networks for Verifying Long Reasoning Chains in Large Language Models
Télécom Paris（巴黎电信学院）；Institut Polytechnique de Paris（巴黎理工学院）；BNP Paribas（法国巴黎银行）
针对大语言模型长推理链存在的步骤缺陷问题，提出LCoT-GV图框架结合图注意力网络验证推理链，构建新数据集且方法具竞争力。
2026-09-01 cs.AI cs.CL
ConMax: Confidence-Maximizing Compression for Efficient Chain-of-Thought Reasoning
The Chinese University of Hong Kong（香港中文大学）；LLM Department, Tencent（腾讯机器学习部门）
ConMax通过强化学习框架在保持推理模式的同时，高效压缩推理轨迹，提升大规模推理模型的效率与性能
2026-01-08 cs.AI cs.CL
