Adaptive Termination for Multi-round Parallel Reasoning: An Universal Semantic Entropy-Guided Framework
Tencent（腾讯）；The Chinese University of Hong Kong（香港中文大学）
针对顺序推理依赖任意token预算和并行推理缺乏协调的问题，提出一种基于语义熵的自适应终止框架，动态控制推理过程，实现高效且准确的测试时协作推理。
2025-07-09 cs.CL
RAISE: Enhancing Scientific Reasoning in LLMs via Step-by-Step Retrieval
Seoul National University（首尔国立大学）；KAIST（韩国科学技术院）；Hanyang University（翰阳大学）
RAISE通过逐步检索增强科学推理，其核心方法是问题分解、逻辑查询生成和逻辑检索，优于其他基线模型。
2026-03-19 cs.CL
SQuARE: Sequential Question Answering Reasoning Engine for Enhanced Chain-of-Thought in Large Language Models
Intel Labs（英特尔实验室）
针对大型语言模型推理能力未被充分利用的问题，提出新型提示技术SQuARE，通过自我询问生成并解决辅助问题分解主查询，在多个数据集上显著优于传统思维链提示，提升推理任务性能。
2025-02-13 cs.AI cs.CL cs.LG
Full-Step-DPO: Self-Supervised Preference Optimization with Step-wise Rewards for Mathematical Reasoning
Nanyang Technological University（南洋理工大学）；Shopee Pte. Ltd（Shopee私人有限公司）；SEA Group（SEA集团）
本文提出 Full-Step-DPO，通过自监督过程奖励模型对整条推理链逐步评分，并设计基于逐步奖励动态更新梯度的 DPO 损失，显著提升语言模型的数学推理能力。
2025-02-20 cs.CL
DeCoRL: Decoupling Reasoning Chains via Parallel Sub-Step Generation and Cascaded Reinforcement for Interpretable and Scalable RLHF
Ziyuan Gao 1（某大学）；Di Liang 2（某大学）；Xianjie Wu 3（某大学）；Philippe Morel 1（某大学）；Minlong Peng 2（某大学）
DeCoRL通过并行子步骤生成和级联强化学习，实现了推理链的解耦，提升了推理效率、可解释性和系统性能。
2025-11-11 cs.CL
Premise-Augmented Reasoning Chains Improve Error Identification in Math reasoning with LLMs
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出前提增强推理链（PARC）框架，通过识别每步前提并构建有向无环图，提升大语言模型数学推理中错误识别的准确率（绝对提升6%-16%），并构建了PERL数据集验证其有效性。
2025-09-23 cs.CL
Let's reward step by step: Step-Level reward model as the Navigators for Reasoning
National University of Singapore（新加坡国立大学）；ByteDance, Inc.（字节跳动公司）；Shanghai Jiao Tong University（上海交通大学）
本文提出利用过程监督奖励模型的逐步反馈，通过启发式贪心搜索优化大语言模型的多步推理路径，在数学和代码生成任务上均取得优于思维链的效果。
2023-10-16 cs.CL
Making Reasoning Matter: Measuring and Improving Faithfulness of Chain-of-Thought Reasoning
EPFL（洛桑联邦理工学院）
针对大语言模型思维链推理中最终答案与推理步骤忠实度不足的问题，提出包含双模块的FRODO框架，通过因果奖励与反事实偏好目标提升推理忠实度，在多个基线上取得更优效果与更强泛化性。
2024-10-06 cs.CL
Stepwise Informativeness Search for Efficient and Effective LLM Reasoning
University of Southern California（南加州大学）；Tsinghua University（清华大学）；Fudan University（复旦大学）
针对LLMs在长推理过程中易忽略早期步骤信息的问题，提出逐步信息性搜索框架，通过引用未充分利用的先前步骤信息并减少步骤间冗余，提升推理准确率与推理过程质量。
2025-04-12 cs.CL
Resprompt: Residual Connection Prompting Advances Multi-Step Reasoning in Large Language Models
University of California, Los Angeles（加州大学洛杉矶分校）；Meta AI；LinkedIn, Inc.（领英公司）
针对标准CoT难以表示多步推理图的问题，本文提出RESPROMPT，通过在提示中加入残差连接重构推理依赖，并在六个基准上显著提升LLaMA模型的多步推理准确率。
2024-05-08 cs.CL
Reasoning Error from Known Fact: Step-Level Self-Consistency Group Relative Policy Optimization for LLMs
Zhejiang University（浙江大学）
针对大语言模型推理中因上下文干扰产生事实错误的问题，提出步骤级自一致性组相对策略优化（SSC - GRPO），通过计算自一致性分数分配步骤级奖励，在数学推理基准和幻觉排行榜上取得领先，为检测和减轻幻觉提供新视角。
2026-10-16 cs.CL
Learning Multi-Step Reasoning by Solving Arithmetic Tasks
Singapore University of Technology and Design（新加坡科技设计大学）
本文针对小型语言模型缺乏多步推理能力的问题，提出在合成多步算术任务数据集 MsAT 上持续预训练，并在四个数学应用题数据集上验证了其增强数学推理的效果。
2023-06-07 cs.CL
First Heuristic Then Rational: Dynamic Use of Heuristics in Language Model Reasoning
Tohoku University（东北大学）；RIKEN（理化学研究所）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
该研究揭示语言模型在多步推理中会动态调整策略：早期依赖词汇重叠等启发式方法，接近答案时依赖度降低，且仅能有限回溯未来步骤，为理解大模型推理机制提供了新视角。
2024-10-07 cs.CL
Measuring Chain of Thought Faithfulness by Unlearning Reasoning Steps
Technion - Israel Institute of Technology（技术学院-以色列理工学院）；University of Utah（犹他大学）
通过反向学习推理步骤来评估推理链的参数忠实性，揭示模型推理与预测之间的关系。
2025-12-13 cs.CL
Investigating the Shortcomings of LLMs in Step-by-Step Legal Reasoning
Arizona State University（亚利桑那州立大学）；Cisco Research（思科研究院）
本文针对LLMs在法律推理中的应用，通过《民事诉讼法》数据集的大学级MCQA任务，提出新的错误分类法并构建自动化评估框架，揭示其推理缺陷，且将该分类法作为反馈能略微提升模型性能。
2025-02-08 cs.CL
Stop Rewarding Hallucinated Steps: Faithfulness-Aware Step-Level Reinforcement Learning for Small Reasoning Models
Institute of Computing and Intelligence, Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学深圳研究院）；Institute of Artificial Intelligence (TeleAI), China Telecom Corp Ltd（中国电信人工智能研究院）；College of Integrated Circuits, Zhejiang University, Hangzhou, Zhejiang, China（浙江大学集成电路学院）；Zhongguancun Academy, Beijing, China（中关村学院）
针对小型推理模型在中间推理步骤中容易产生忠实性幻觉的问题，提出忠实感知步骤级强化学习（FaithRL），通过过程奖励模型提供步骤级监督和隐式截断重采样策略，减少幻觉并提高推理可靠性。
2026-05-27 cs.CL
The Complexity Ceiling Benchmark: A Multi-Domain Evaluation of Sequential Reasoning Under Depth Scaling
提出复杂性天花板基准（CCB），通过控制任务语义内容、仅改变推理深度N，评估语言模型在三个结构不同领域中的顺序推理衰减，发现几何级数衰减和领域天花板差异，并引入跟踪级指标TFBC。
2026-06-28 cs.AI cs.CL
TRACES: Tagging Reasoning Steps for Adaptive Cost-Efficient Early-Stopping
IBM Research Europe（IBM欧洲研究院）；Trinity College Dublin（三一学院）；ADAPT Research Centre（ADAPT研究中心）
TRACES通过实时标记推理步骤，实现大语言模型推理的适应性成本高效提前停止，通过监控特定步骤类型提升数学和知识推理任务的效率与准确性。
2026-08-28 cs.CL
Evaluating Step-by-Step Reasoning through Symbolic Verification
MBZUAI（穆罕默德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）；AWS AI, Amazon（亚马逊AWS人工智能部门）；Petuum Inc.（Petuum公司）
本文构建自然语言与符号等价数据集，提出神经符号方法LMLP，通过逻辑规则迭代推理并支持自动验证，在演绎推理中比思维链准确率提升超过25%。
2024-03-28 cs.CL
Stepwise Reasoning Enhancement for LLMs via External Subgraph Generation
School of Information Science and Engineering, Chongqing Jiaotong University（重庆交通大学信息科学与工程学院）；School of Computer Science and Technology, Chongqing University of Posts and Telecommunications（重庆邮电大学计算机科学与技术学院）
提出SGR框架，通过从知识图谱生成查询相关子图来引导大语言模型进行逐步推理，提升复杂多步推理的准确性、鲁棒性和可解释性。
2026-06-03 cs.CL
Dancing with Critiques: Enhancing LLM Reasoning with Stepwise Natural Language Self-Critique
Tencent（腾讯）
针对大语言模型多步推理中传统标量奖励缺乏定性信息的问题，提出逐步自然语言自我批评方法PANEL，通过自生成自然语言批评指导步骤级搜索，无需任务特定验证器，在AIME、GPQA等基准上性能优于传统方法。
2025-03-21 cs.CL
PCRLLM: Proof-Carrying Reasoning with Large Language Models under Stepwise Logical Constraints
Temple University（特拉华大学）
针对大语言模型逻辑连贯性有限的问题，提出PCRLLM框架，通过单步推理约束与明确前提、规则、结论的输出设计，实现黑盒链式验证，支持多LLM协作，并构建大规模步骤级推理数据基准模式。
2025-11-11 cs.CL
MiCEval: Unveiling Multimodal Chain of Thought's Quality via Image Description and Reasoning Steps
Waseda University（早稻田大学）；University of Edinburgh（爱丁堡大学）；Cardiff University（卡迪夫大学）；Rice University（莱斯大学）
针对多模态思维链缺乏自动化质量评估的问题，提出MiCEval框架，通过细粒度数据集和逐步评估，在四个MLLMs上验证其与人类判断更一致。
2025-02-28 cs.CL
seqBench: A Tunable Benchmark to Quantify Sequential Reasoning Limits of LLMs
Salesforce AI Palo Alto（Salesforce AI 巴尔的摩）；Capital One；MIT（麻省理工学院）
seqBench 通过可控的逻辑深度、回溯步数和噪声比率，系统揭示了大语言模型在顺序推理中准确率随深度指数级崩溃的普遍极限，并公开数据集以促进对模型推理边界的深入研究。
2025-09-21 cs.AI cs.CL cs.LG
ImageChain: Advancing Sequential Image-to-Text Reasoning in Multimodal Large Language Models
University of Copenhagen（哥本哈根大学）
针对多模态大语言模型难处理图像序列推理的问题，提出ImageChain框架，将视觉序列建模为多轮对话优化下一场景描述任务，提升了SimRate指标且具备稳健零样本域外性能，验证了多模态多轮指令微调的关键作用。
2025-06-11 cs.CL cs.CV cs.LG
AQA-Bench: An Interactive Benchmark for Evaluating LLMs' Sequential Reasoning Ability
UC Santa Cruz（加州大学圣克鲁兹分校）；University of Edinburgh（爱丁堡大学）
AQA-Bench是一个交互式基准，通过二分搜索、深度优先搜索和广度优先搜索评估LLMs的顺序推理能力，发现闭源模型表现更强，且提供前驱步骤可提升小模型性能。
2025-06-20 cs.AI cs.CL cs.LG
From Outcome to Representation: Tracing Reasoning Mechanisms through Integrated Policy Gradient
Independent Researcher（独立研究者）；ShanghaiTech University（上海科技大学）
本文提出集成策略梯度框架，通过反向传播复合结果信号，实现对大语言模型推理行为的精确解释与控制。
2026-11-05 cs.AI cs.CL cs.LG
ThreadWeaver: Adaptive Threading for Efficient Parallel Reasoning in Language Models
UC Berkeley（伯克利大学）；UCSF（旧金山大学）
提出ThreadWeaver框架，通过两阶段并行轨迹生成、基于trie的展开设计和并行化感知强化学习，在保持与顺序推理模型相当准确率的同时，显著降低推理延迟。
2026-07-03 cs.AI cs.CL cs.LG
ReaSeq: Unleashing World Knowledge via Reasoning for Sequential Modeling
TaoRank Team（TaoRank团队）
ReaSeq通过引入世界知识增强推理，提升推荐系统在物品表示和用户兴趣建模上的性能，实现IPV、CTR、订单和GMV的显著提升。
2025-12-29 cs.CL cs.IR
Beyond Sequential Reranking: Reranker-Guided Search Improves Reasoning Intensive Retrieval
Massachusetts Institute of Technology（麻省理工学院）；University of Washington（华盛顿大学）
提出重排序器引导搜索（RGS），利用邻近图贪心搜索按重排序器偏好直接检索文档，在受限预算下显著提升推理密集型检索性能。
2025-09-08 cs.CL cs.IR cs.LG
SemPOI-RL: Aligning LLM Semantic Reasoning for Interpretable Out-of-Town POI Sequential Generation
State Key Laboratory of Complex & Critical Software Environment（复杂与关键软件环境国家重点实验室）；Beihang University（北京航空航天大学）
SemPOI-RL框架通过微调LLM、引入SPAM模块并结合推荐导向强化学习，实现LLM语义推理与结构化序列生成的对齐，在两个真实数据集上优于传统推荐器和LLM基线，可生成可解释的异地POI序列。
2026-09-01 cs.AI cs.CL
ROSCOE: A Suite of Metrics for Scoring Step-by-Step Reasoning
Meta AI Research（Meta人工智能研究院）
本文提出ROSCOE，一套可解释的无监督自动评分指标，用于评估大型语言模型逐步推理步骤的正确性，在语义一致性、逻辑性等多维度上持续优于基线指标。
2023-09-12 cs.CL cs.LG
Beyond Token Length: Step Pruner for Efficient and Accurate Reasoning in Large Language Models
Xi’an Jiaotong University（西安交通大学）；JD Future Academy（京东未来学院）
本文提出步剪枝框架，通过强化学习优化大语言模型的推理效率与准确性，显著减少响应长度并在多个基准测试中取得最佳性能。
2025-11-29 cs.AI cs.CL
A Survey on Feedback-based Multi-step Reasoning for Large Language Models on Mathematics
Santa Clara University（圣克拉拉大学）
本文综述了基于步骤级与结果级反馈增强大语言模型多步数学推理的各类策略，涵盖基于训练与免训练的反馈方法，旨在为该领域研究奠定基础并推动后续发展。
2025-02-20 cs.AI cs.CL
MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task
Zhejiang University（浙江大学）；Meituan Group（美团集团）；Peking University（北京大学）；Hong Kong University of Science and Technology（香港科技大学）
MathFimer通过填空中间任务扩展推理步骤，提升大语言模型的数学推理能力，无需依赖强大外部模型或昂贵计算资源。
2026-02-25 cs.AI cs.CL
Beyond Imitation: Learning Key Reasoning Steps from Dual Chain-of-Thoughts in Reasoning Distillation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对SLMs仅模仿教师CoT形式而难以学习关键推理步骤的问题，提出EDIT方法，通过生成结论分歧的双重CoTs并利用最小编辑距离定位关键步骤进行优化，显著提升了推理蒸馏效果。
2024-05-30 cs.AI cs.CL
R1-VL: Learning to Reason with Multimodal Large Language Models via Step-wise Group Relative Policy Optimization
Nanyang Technological University（南洋理工大学）
本文提出StepGRPO在线强化学习框架，通过逐步奖励提升多模态大语言模型的推理能力，并推出R1-VL模型系列，在8个基准上验证了优越性。
2025-08-04 cs.AI cs.CL cs.CV
Can Small Language Models be Good Reasoners for Sequential Recommendation?
Beijing University of Posts and Telecommunications（北京邮电大学）；Ant Group（蚂蚁集团）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；Beihang University（北京航空航天大学）
本文提出逐步知识蒸馏框架SLIM，利用大模型CoT推理蒸馏小模型，使小模型以低成本获得序列推荐中的逐步推理能力。
2024-03-28 cs.CL cs.IR cs.LG
Step Guided Reasoning: Improving Mathematical Reasoning using Guidance Generation and Step Reasoning
Huawei Technologies Co., Ltd.（华为技术有限公司）；Shanghai Jiaotong University（上海交通大学）
本文提出免训练的Step Guided Reasoning框架，通过在推理阶段引入逐步反思引导机制，使通用大语言模型无需额外训练即可显著提升数学推理性能，并在多个模型上验证了其优于数学专用模型的效果。
2025-09-21 cs.AI cs.CL cs.HC
What Defines Good Reasoning in LLMs? Dissecting Reasoning Steps with Multi-Aspect Evaluation
ETH Zürich, ETH AI Center（苏黎世联邦理工学院，ETH人工智能中心）；NAVER AI Lab（NAVER人工智能实验室）；University of Tübingen（图宾根大学）
本文提出因果逐步评估（CaSE）方法，从相关性和连贯性两个维度细粒度评估LLM推理步骤，并在新基准上验证，证明其可用于数据策划以提升任务性能。
2025-10-23 cs.AI cs.CL
Exploring the Role of Reasoning Structures for Constructing Proofs in Multi-Step Natural Language Reasoning with Large Language Models
Ingenuity Labs Research Institute（Ingenuity Labs 研究院）；NEC Laboratories America（美国 NEC 实验室）
本文研究通用大语言模型能否通过上下文学习利用少量示例中的结构来更好地构建多步推理的证明结构，提出结构感知演示与结构感知剪枝方法，实验证明二者均能提升模型性能。
2025-01-30 cs.AI cs.CL
Opening the Black Box: A Survey on the Mechanisms of Multi-Step Reasoning in Large Language Models
Peking University（北京大学）；Stanford University（斯坦福大学）；Tsinghua University（清华大学）；University of Arizona（亚利桑那大学）；National University of Singapore（新加坡国立大学）
本文综述了大语言模型多步推理机制，探讨了隐式和显式推理过程，并提出了未来研究方向。
2026-01-02 cs.AI cs.CL
LLM Reasoners: New Evaluation, Library, and Analysis of Step-by-Step Reasoning with Large Language Models
UC San Diego（加州大学圣地亚哥分校）；University of Florida（佛罗里达大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
针对大语言模型推理链评估缺自动化方法、推理方法缺统一实现的问题，提出AutoRace全自动评估方法与LLM Reasoners统一推理库，系统分析了多类推理方法的影响因素。
2024-08-11 cs.AI cs.CL
Entropy-based Exploration Conduction for Multi-step Reasoning
Portland State University（波特兰州立大学）；University of Montreal（蒙特利尔大学）；Uber；Jilin University（吉林大学）
针对多步推理中探索深度固定导致成本高和灵活性不足的问题，提出基于熵的探索深度引导方法，动态调整探索深度，在四个基准数据集上验证了其有效性。
2025-06-17 cs.AI cs.CL
The Impact of Reasoning Step Length on Large Language Models
Rutgers University（罗格斯大学）；University of Liverpool（利物浦大学）；Northwestern University（西北大学）；New Jersey Institute of Technology（新泽西理工学院）；University of Exeter（埃克塞特大学）
本研究通过控制变量的实证实验，探究大语言模型思维链提示中推理步骤长度对推理能力的影响，发现步骤长度、推理序列长度与模型性能正相关，且该优势具有任务依赖性，为复杂问题求解提供了实践指导。
2024-06-22 cs.AI cs.CL
Stabilizing Efficient Reasoning with Step-Level Advantage Selection
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Advanced Micro Devices, Inc.（先进微器件公司）
本文提出SAS方法，在步骤层面选择优势，提升推理稳定性与效率，实验显示在多个基准上准确率提升0.86点，推理长度减少16.3%。
2026-04-27 cs.CL cs.LG
Empowering Multi-step Reasoning across Languages via Tree-of-Thoughts
University of Rome Tor Vergata（罗马第二大学）；University of Aberdeen（阿伯丁大学）
针对大语言模型多步推理能力受限于英语的问题，提出受思维树启发的Cross-ToT跨语言推理方法，通过自洽跨语言提示提供多语言推理路径，减少交互次数并达到最优性能。
2024-06-21 cs.AI cs.CL
Mind the Gap Between Spatial Reasoning and Acting! Step-by-Step Evaluation of Agents With Spatial-Gym
本文提出Spatial-Gym环境，通过2D网格谜题的分步决策任务评估模型在空间推理中的能力，发现分步格式对弱模型有益但对强模型有负面影响，且视觉模型在空间环境中的表现较差。
2026-04-10 cs.AI cs.CL
How to think step-by-step: A mechanistic understanding of chain-of-thought reasoning
IIT Delhi（印度理工学院德里分校）；IIT Bombay（印度理工学院孟买分校）
本文首次从机制角度研究LLMs的思维链推理，发现Llama-2 7B在逐步推理中采用多条并行答案生成路径，且模型中间层存在从预训练先验到上下文先验的功能分裂，不同注意力头分工各异。
2024-05-06 cs.CL cs.LG
Table as Thought: Exploring Structured Thoughts in LLM Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Michigan（密歇根大学）
本文提出 Table as Thought 框架，用表格结构组织 LLM 的思维步骤、约束与上下文，并通过迭代填充和自验证提升规划与数学推理能力。
2025-01-04 cs.AI cs.CL
Complexity-Based Prompting for Multi-Step Reasoning
University of Edinburgh（爱丁堡大学）；Allen Institute for AI（艾伦人工智能研究所）
我们研究了促使大规模语言模型执行多步推理的任务。现有的工作表明，当提示与思维链（CoT），描述中间推理步骤走向最终答案的短句序列，大语言模型可以生成新的推理链和预测新的输入的答案。一个核心问题是，哪些推理示例是最有效的提示。在这项工作中，我们提出了基于复杂性的提示，一个简单而有效的多步推理的例子选择方案。我们表明，提示具有较高的推理复杂性，即，具有更多推理步骤的链，在强基线上的多步推理任务上实现了更好的性能。我们进一步扩展了我们的基于复杂性的标准，从提示（选择输入）到解码（选择输出），我们从模型中抽取多个推理链，然后从复杂推理链（而不是简单链）中选择大多数生成的答案。当用于提示GPT-3和Codex时，我们的方法大大提高了多步推理的准确性，并在三个数学基准（GSM 8 K，MultiArith和MathQA）和两个BigBenchHard任务（Date Understanding和Penguins）上实现了新的最先进（SOTA）性能，平均精度提高了+5.3和+18。与现有的例子选择方案，如手动调整或检索为基础的选择，选择基于推理的复杂性是直观的，易于实现，和注释效率。进一步的结果证明了格式扰动和分布偏移下复杂提示的性能增益的鲁棒性。
2023-01-30 cs.AI cs.CL cs.LG
Time-Scaling Is What Agents Need Now
CareerInternational Research Team（CareerInternational研究团队）
本文提出时间扩展概念，旨在通过扩展时间路径提升智能体的深度推理和问题解决能力，无需增加静态参数。
2026-01-06 cs.AI cs.CL
ChestX-Reasoner: Advancing Radiology Foundation Models with Reasoning through Step-by-Step Verification
Shanghai Jiao Tong University（上海交通大学）；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）
本研究提出放射诊断多模态大模型ChestX-Reasoner，基于临床报告构建推理链数据集，采用两阶段训练框架对齐临床推理标准，配套推出基准与评估指标，在诊断准确率和推理能力上均优于现有模型，且资源全开源。
2025-05-21 cs.AI cs.CL cs.CV
Deductive Verification of Chain-of-Thought Reasoning
UC San Diego（加州大学圣地亚哥分校）；Qualcomm AI Research（高通人工智能研究院）
针对大语言模型思维链推理易产生幻觉与累积误差的问题，本研究提出基于Natural Program格式的逐步演绎自验证方法，提升了推理严谨性与复杂任务答案准确率。
2023-10-03 cs.AI cs.CL cs.LG
