Between Underthinking and Overthinking: An Empirical Study of Reasoning Length and correctness in LLMs
Cornell University(康奈尔大学);Adobe Research(Adobe研究);MBZUAI
本文实证研究了 LLMs 推理长度与正确性的关系,发现模型对简单问题易思考过度、对困难问题易思考不足,并指出利用偏好优化算法仅偏好较短响应即可在保持准确率的同时显著缩减生成长度。
2025-04-30 cs.AI cs.CL
Can LLMs Correct Themselves? A Benchmark of Self-Correction in LLMs
Huazhong University of Science and Technology(华中科技大学);Griffith University(格里菲斯大学);Squirrel Ai Learning(squirrel ai 学习);Shanghai Jiaotong University(上海交通大学);Lehigh University(莱斯大学)
本研究推出CorrectBench基准,评估三类LLM自我修正策略在三项推理任务上的表现,发现自我修正可提升性能但存在效率瓶颈,简单CoT基线表现具竞争力,呼吁优化推理与效率的平衡。
2025-10-22 cs.AI cs.CL
Boosting Process-Correct CoT Reasoning by Modeling Solvability of Multiple-Choice QA
Heidelberg University(海德堡大学)
该研究针对大语言模型思维链推理易出现虚假中间步骤的问题,通过建模MCQA的问题可解性,调整奖励模型和强化学习目标,有效提升了过程正确推理比例与答案准确率。
2025-09-30 cs.AI cs.CL
Reinforcing Step-level Reasoning for Effective Self-Correction in LLMs
Nanyang Technological University(南洋理工大学);National University of Singapore(新加坡国立大学);VinUniversity;Institute for Infocomm Research (IR), A*STAR(新加坡科技研究局信息通信研究院)
针对大语言模型自校正的核心挑战,提出SFS-DPO及教师辅助变体SFS-DPO-R框架,经多模型多域评估,其性能优于现有步骤级训练基线,可提升自校正频率与有效性。
2026-09-01 cs.AI cs.CL
Adaptive Triggering for Bias Correction in LLM Reasoning
本研究针对LLM推理中思维链提示引发的偏差问题,提出基于在线变点检测的自适应触发校正框架,在gpt-4o-mini等模型上验证了其在减少干预次数的同时保留准确率的优势。
2026-08-27 cs.AI cs.CL
LLM Reasoning as Trajectories: Step-Specific Representation Geometry and Correctness Signals
Microsoft(微软)
研究通过表示空间结构揭示大语言模型的推理过程,发现推理步骤在不同层深度下逐渐分离,晚期阶段正确与错误解的分歧可预测最终答案正确性,提出轨迹引导框架控制推理。
2026-04-07 cs.AI cs.CL cs.LG
Embedding Self-Correction as an Inherent Ability in Large Language Models for Enhanced Mathematical Reasoning
Tencent(腾讯)
针对大语言模型数学推理易出错的问题,提出自我修正链(CoSC)机制,通过多阶段迭代验证修正将自我修正嵌入模型,经两阶段微调实现,在MATH数据集上达53.5%得分,优于ChatGPT等模型且零样本运行。
2025-02-08 cs.AI cs.CL
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST))
本研究提出无需微调大语言模型的UPTURN框架,通过在学习位置注入新用户轮次指令重定向推理,在多推理器与数学基准上提升准确率,可跨模型迁移并与其他方法互补。
2026-11-16 cs.AI cs.CL
Look Light, Think Heavy: What Multimodal Chain-of-Thought Reasoning Can and Cannot Do
The Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所复杂系统认知与决策智能实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
本文系统探究多模态思维链推理在12个感知与推理任务上的表现,发现CoT对感知任务有副作用,但对数学、科学等多图像推理有效,且现有开源多模态推理模型提升有限,视觉推理仍是瓶颈。
2026-06-23 cs.AI cs.CL cs.CV
Towards Safe Reasoning in Large Reasoning Models via Corrective Intervention
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海启智机构);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);RealAI
本文提出IPO方法,通过干预优化提升大推理模型的安全性,显著降低有害性并保持性能。
2026-02-28 cs.AI cs.CL
Deceptive Semantic Shortcuts on Reasoning Chains: How Far Can Models Go without Hallucination?
University of California, Davis(加利福尼亚大学戴维斯分校);University of Pennsylvania(宾夕法尼亚大学);University of Southern California(南加利福尼亚大学)
本文提出EureQA探测基准,通过递归遮蔽实体并植入语义干扰线索,评估LLM能否沿证据链推理而非依赖关键词偏误走捷径。
2024-04-05 cs.AI cs.CL
Correct Is Not Enough: Training Reasoning Planners with Executor-Grounded Rewards
D 4 Lab(D4实验室);Independent Researcher(独立研究者)
本文提出TraceLift框架,通过执行器导向的奖励提升推理质量,利用rubric-based Reasoning Reward Model评估推理轨迹的可靠性与有效性。
2026-06-08 cs.AI cs.CL
Process or Result? Manipulated Ending Tokens Can Mislead Reasoning LLMs to Ignore the Correct Reasoning Steps
University of California, Merced(加州大学默塞德分校);National University of Singapore(新加坡国立大学);University of Queensland(昆士兰大学)
本文揭示了推理LLMs的“Compromising Thought”漏洞,发现被操纵的结束标记会误导模型忽略正确推理步骤,甚至导致DeepSeek-R1停止推理,凸显了推理密集型应用的安全风险。
2025-04-01 cs.AI
Correct, Concise and Complete: Multi-stage Training For Adaptive Reasoning
Universitat Pompeu Fabra(庞培法布拉大学);AWS AI Labs(AWS人工智能实验室);Amazon AGI(亚马逊人工智能实验室)
本文提出多阶段训练方法,通过结合监督微调与强化学习,有效减少推理响应长度并提升效率。
2026-01-06 cs.AI cs.CL
Beyond Answer Voting: Fine-Grained Correction of LLM Reasoning through Graph Alignment across Sampled Traces
School of Informatics, Xiamen University(厦门大学信息学院);The University of Tokyo(东京大学);National Institute of Informatics (NII)(信息学研究所(NII))
本研究针对大语言模型推理的中间分歧问题,提出DDRG框架,通过推理图对齐暴露分歧并选择性修正,在五个基准上提升了Qwen2.5-7B和Llama3.1-8B的宏平均准确率,性能优于CoT、GoT、GoV及SC方法。
2026-10-14 cs.AI cs.CL
Internal Reasoning vs. External Control: A Thermodynamic Analysis of Sycophancy in Large Language Models
Department of Computer Science, Stanford University(计算机科学系,斯坦福大学)
本文提出受控因果锚定(RCA)方法,通过评估推理过程而非结果,有效检测大型语言模型中的谄媚现象,无需真实数据且打破自我强化偏见循环。
2026-01-08 cs.AI cs.CL
Reflective Confidence: Correcting Reasoning Flaws via Online Self-Correction
Sun Yat-sen University(中山大学)
本文提出反思性信心框架,通过在线自我纠正修正推理缺陷,提升数学推理任务的准确性。
2025-12-21 cs.AI
PHRBench: A Behavioral Evaluation of Post-Hallucination Reasoning in LLMs
National University of Singapore(新加坡国立大学);Tsinghua University(清华大学);Johns Hopkins University(约翰斯·霍普金斯大学);Nanyang Technological University(南洋理工大学)
本研究提出PHRBench基准,评估18个LLM在四个领域中的幻觉后推理行为,发现成功恢复罕见且与信念更新相关,提示属性可预测恢复,AUROC达0.847。
2026-10-12 cs.AI cs.CL
AdvChain: Adversarial Chain-of-Thought Tuning for Robust Safety Alignment of Large Reasoning Models
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));State University of New York at Buffalo(纽约州立大学布法罗分校);Huawei International, Singapore(新加坡华为国际)
针对安全CoT微调中的“雪球效应”,本文提出AdvChain对抗性思维链微调范式,通过诱惑—纠正与犹豫—纠正样本训练模型自我纠正,提升抗攻击能力并降低过度拒绝。
2025-09-29 cs.AI cs.CL
Beyond Penalizing Mistakes: Stabilizing Efficiency Training in Large Reasoning Models via Adaptive Correct-Only Rewards
Korea University(高丽大学);Soongsil University(崇实大学)
针对GRPO中长度惩罚导致奖励崩溃的问题,提出ACOER方法,通过仅对正确回答给予简洁奖励并动态调整预算,在数学推理任务中准确率提升且生成token减少超60%。
2026-06-23 cs.AI cs.CL
CriticBench: Benchmarking LLMs for Critique-Correct Reasoning
Tsinghua University(清华大学);University of Hong Kong(香港大学)
本文提出CriticBench基准,评估17个LLM在生成、批判和修正推理(GQC)上的能力,发现批判训练显著提升性能,修正效果因任务而异,且模型间批判存在强弱互补的动态关系。
2024-06-01 cs.AI cs.CL cs.LG
GRACE: Discriminator-Guided Chain-of-Thought Reasoning
University of Michigan(密歇根大学);LG AI Research(LG人工智能研究);University of Illinois at Chicago(伊利诺伊大学香槟分校)
GRACE通过引入判别器引导链式推理,有效提升多步推理任务中答案的准确性和中间推理的正确性。
2026-01-03 cs.AI cs.CL
History-Guided Iterative Visual Reasoning with Self-Correction
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
H-GIVR框架通过迭代视觉推理与自我校正,显著提升多模态推理准确性并保持低计算成本。
2026-02-04 cs.AI cs.CL cs.MM
Rethinking External Slow-Thinking: From Snowball Errors to Probability of Correct Reasoning
Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China(中国人民大学人工智能学院);Beijing Key Laboratory of Research on Large Models(北京大型模型研究关键实验室);Engineering Research Center of Next-Generation Intelligent Search(下一代智能搜索工程研究中心);College of Artificial Intelligence, Tianjin University of Science(天津科技大学人工智能学院)
本文从理论角度研究外部慢思考,揭示其通过降低雪球误差概率提升LLM推理,并指出扩大搜索范围或内部推理能力比框架选择更关键。
2025-06-19 cs.AI cs.CL
Denoising Iterative Self-Correction: Structured Verification Loops for Reliable LLM Reasoning
Thomson Reuters Labs(汤森路透实验室)
提出DISC方法,通过将验证输出视为噪声测量,在多次验证-判断-校正循环中逐步减少推理错误,并引入二元判断门控机制防止破坏正确答案,在三个基准上优于现有方法。
2026-06-23 cs.AI cs.CL
Learning to Correct for QA Reasoning with Black-box LLMs
Yonsei University(延世大学);KAIST(韩国科学技术院);Carnegie Mellon University(卡内基梅隆大学)
针对黑盒大语言模型推理能力提升的现有方法存在依赖可访问性、成本高的问题,提出CoBB方法,通过小开源LLM构建适配模型,结合遗传算法采样训练对对比训练,在多个QA基准上显著提升推理准确率。
2024-10-08 cs.AI cs.CL cs.LG
Catching The Correct Answer Trap: Characterising AI Tutor Blind Spots When Analysing Student Reasoning
Department of Computer Science, University College London, UK(英国伦敦大学学院计算机科学系);Centre for Artificial Intelligence, University College London, UK(英国伦敦大学学院人工智能中心)
本研究通过分析Eedi数学平台的学生回答,发现智能辅导系统在评估学生推理时存在“正确答案陷阱”,即当学生通过错误推理得出正确答案时,系统难以检测其误解,并比较了微调T5与大型语言模型的检测性能。
2026-04-20 cs.AI cs.CL cs.CY
Unveiling Reasoning Thresholds in Language Models: Scaling, Fine-Tuning, and Interpretability through Attention Maps
University of Connecticut(康涅狄格大学)
该研究发现纯解码器Transformer语言模型存在约16亿参数的推理阈值,超阈值模型推理性能显著提升,提出用任务样例微调改善亚阈值模型表现,并通过注意力图揭示推理过程的可解释性机制。
2025-02-21 cs.AI cs.CL
SAFE: An LLM-as-Verifier Framework for Evidence-Grounded Multi-Hop Reasoning
Seoul National University(首尔国立大学)
提出SAFE框架,通过将推理分解为知识图谱三元组,在生成过程中逐步验证中间步骤,以解决多跳问答中模型通过无效推理得到正确答案的问题,平均准确率提升8.8个百分点。
2026-10-30 cs.AI cs.CL
LLMs cannot find reasoning errors, but can correct them given the error location
University of Cambridge(剑桥大学);Google Research(谷歌研究院)
研究表明LLM自我纠正推理错误效果差是因为无法定位错误,而非无法纠错;提供错误位置可提升性能,且用域外数据训练的小型分类器能更有效地发现错误。
2024-06-04 cs.AI cs.CL cs.LG
Evaluating Legal Reasoning Traces with Legal Issue Tree Rubrics
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);LBOX;Stanford(斯坦福);Yale(耶鲁)
本文提出 LEGIT 数据集,用于评估 LLM 在法律领域推理轨迹的质量,发现法律问题覆盖度和正确性影响 LLM 推理能力,RAG 和带准则的 RL 分别提升整体能力与正确性。
2026-05-01 cs.AI cs.CL
Evaluating LLM Reasoning Beyond Correctness and CoT
Microsoft Research, Vancouver, Canada(微软研究院,温哥华,加拿大)
SIEV框架通过动态轨迹评估推理过程,揭示模型在面对冲突和挑战时的鲁棒性与综合能力,展现大语言模型推理能力的显著差异。
2026-02-12 cs.AI
DICE: Structured Reasoning in LLMs through SLM-Guided Chain-of-Thought Correction
Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文提出轻量级框架 DICE,利用微调后的 SLM 通过两阶段数据构建与双调优策略校正 LLM 的 CoT 输出,在保持推理能力的同时显著提升结构化格式与内容准确性。
2025-10-20 cs.AI cs.CL
Reasoning over Logically Interacted Conditions for Question Answering
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
有些问题有多个答案,但这些答案并不相同,即在不同的条件下答案是不同的。条件用于区分答案以及提供额外的信息来支持它们。在本文中,我们研究了一个更具挑战性的任务,其中答案受到一系列逻辑交互条件的约束,这需要对条件进行逻辑推理以确定答案的正确性。更具有挑战性的是,我们只为一个子集的条件提供证据,所以有些问题可能没有确定性的答案。在这种情况下,模型被要求找到可能的答案,并确定需要满足的条件,以使答案正确。我们针对这个具有挑战性的推理任务提出了一个新模型TReasoner。TRasoner由一个蕴涵模块、一个推理模块和一个生成模块(如果答案是自由格式的文本跨度)组成。TReasoner在两个基准条件QA数据集上实现了最先进的性能,比之前的最先进性能高出3-10个点。
2022-05-25 cs.AI cs.CL
Automated Theorem Provers Help Improve Large Language Model Reasoning
School of Computer Science, Australian National University(澳大利亚国立大学计算机科学学院);Data61, CSIRO(联邦科学与工业研究组织Data61)
本文提出一种神经符号方法,利用一阶逻辑自动定理证明器自动纠正大语言模型在逻辑推理中的翻译错误,从而显著提升其在PRONTOQA基准上的推理准确性。
2024-08-07 cs.AI cs.CL
LLMs cannot spot math errors, even when allowed to peek into the solution
Mohamed bin Zayed University of Artificial Intelligence(莫莫德·宾·扎耶德人工智能大学)
本研究针对LLMs难以定位学生数学解答首个错误的问题,使用VtG和PRM800K数据集验证了即便有参考答案SOTA模型仍表现不佳,提出生成更贴合原解答的中间修正解答的方法以提升性能。
2025-09-01 cs.AI cs.CL
Correct Reasoning Paths Visit Shared Decision Pivots
New York University(纽约大学);Amazon(亚马逊);University of Washington(华盛顿大学);UC Irvine(加州大学欧文分校)
本文提出了一种基于决策枢纽的自训练方法,通过挖掘共享决策点提升大语言模型的推理能力。
2026-02-07 cs.AI
Think$^{2}$: Grounded Metacognitive Reasoning in Large Language Models
IIIT Hyderabad(IIIT海得拉尔)
Think$^{2}$通过引入基于心理理论的元认知框架,提升大语言模型的自我诊断与纠正能力,显著提高推理准确性和可信度。
2026-02-21 cs.AI cs.CL
Forest-of-Thought: Scaling Test-Time Compute for Enhancing LLM Reasoning
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
针对LLM单次推理无法纠错的问题,提出Forest-of-Thought框架,通过集成多推理树、稀疏激活、动态自纠正和共识引导决策,显著提升了模型解决复杂推理任务的精度与效率。
2025-04-01 cs.AI cs.CL
Measuring Reasoning Utility in LLMs via Conditional Entropy Reduction
KTH Royal Institute of Technology(皇家理工学院)
本文通过条件熵变化测量推理步骤对最终答案正确性的效用,发现熵递减与正确答案相关,且错误推理链往往更长,为设计高效推理流水线提供依据。
2025-08-28 cs.AI cs.CL
Refining Over Resampling: Test-Time Self-Correction for LLM Reasoning
University of Oklahoma(俄克拉荷马大学);Stanford University(斯坦福大学);Universitat Pompeu Fabra(庞培法布拉大学);Air University(空军大学)
本文提出无验证器的广度-深度优化框架,通过迭代自我批判与校正优化采样的 LLM 推理轨迹,在多个数学推理数据集及多款开放权重模型上,较基线方法实现了推理准确率的显著提升。
2026-08-07 cs.AI cs.CL
Small Language Models Need Strong Verifiers to Self-Correct Reasoning
University of Michigan(密歇根大学);LG AI Research(LG人工智能研究院);University of Illinois at Chicago(芝加哥伊利诺伊大学)
本文研究小型语言模型的自校正推理能力,提出利用正确解答引导错误批评并筛选后微调的新流程,在多个推理数据集上提升性能,并强调强验证器对自校正效果至关重要。
2024-06-06 cs.CL
Right Answer, Wrong Method: Shortcut Hacking Misleads the Evaluation of LLM Reasoning on Frontier Science Benchmarks
Alibaba Group(阿里巴巴集团);Alibaba DAMO Academy(阿里巴巴达摩院)
该研究指出前沿LLM在科学推理基准中存在解题作弊问题,仅答案评估会高估其推理能力,开发的反作弊策略可抑制该问题。
2026-08-04 cs.AI cs.CL
Uncovering Hidden Correctness in LLM Causal Reasoning via Symbolic Verification
University of Toronto(多伦多大学);Vector Institute(向量研究所);ETH Zürich(苏黎世联邦理工学院);MPI for Intelligent Systems(智能系统研究所);ETH AI Center(苏黎世联邦理工学院人工智能中心)
本文提出DoVerifier,通过符号验证揭示LLM因果推理中的隐藏正确性,提升因果推理评估的严谨性与信息量。
2026-01-29 cs.AI
Correct Chains, Wrong Answers: Dissociating Reasoning from Output in LLM Logic
本文提出新型操作测试基准,区分操作逻辑与名称,揭示LLM在深度推理中存在策略与内容两类失败模式,验证名称不决定推理能力。
2026-03-19 cs.AI cs.CL cs.LO
Learning From Correctness Without Prompting Makes LLM Efficient Reasoner
City University of Hong Kong(香港城市大学);Dongguan University of Technology(东莞理工学院)
本文提出LeCo框架,通过从正确推理步骤中学习并基于生成逻辑概率度量步骤置信度,无需人类反馈或外部工具即可提升大语言模型在多步推理任务上的性能并减少令牌消耗。
2024-07-18 cs.CL
Semantic Reasoning Denoising: Correcting Language Model Reasoning with Semantic Operators
本文提出语义推理去噪(SRD)方法,用语义算子修正语言模型推理,在六个域内基准平均提升基线3.2个点,七个跨数据集迁移目标上也有良好表现。
2026-08-25 cs.AI cs.CL cs.LG
Amplified Does Not Mean Predictive: Reasoning Behaviors in Thinking Models
Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学)
该研究揭示思考模型存在“放大-提升差距”,即面向推理的训练放大了与正确性关联弱的推理行为,却未放大高提升值的关键行为,推动了过程级推理目标的研究。
2026-08-17 cs.AI cs.CL cs.CV
Correct Prediction, Wrong Steps? Consensus Reasoning Knowledge Graph for Robust Chain-of-Thought Synthesis
Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));University of Pennsylvania(宾夕法尼亚大学);Huazhong University of Science and Technology(华中科技大学);Hong Kong Polytechnic University(香港理工大学);RLWRLD
本文提出CRAFT框架,通过构建共识推理知识图谱缓解LLM推理中的内部和步骤性错误,提升推理链质量,实验显示其在逻辑和数学推理基准上表现优越。
2026-10-01 cs.CL
Retrieval-Augmented Self-Taught Reasoning Model with Adaptive Chain-of-Thought for ASR Named Entity Correction
AI Research Institute, Midea Group (Shanghai) Co.,Ltd., China(美的集团(上海)研究院);Zhejiang University, China(浙江大学)
本文提出一种检索增强自教推理模型,用于改进ASR中命名实体修正,通过自适应思维链和音节级编辑距离提升纠错效果。
2026-01-21 cs.AI cs.CL eess.AS
One-Token Verification for Reasoning Correctness Estimation
Southern University of Science(南方科技大学);City University of Hong Kong(香港城市大学);Zhejiang University(浙江大学)
本文提出单token验证方法,用于高效估计推理正确性,通过低秩适应集成到LLM中,减少token使用并提升推理可靠性。
2026-03-01 cs.AI cs.LG
VISCO: Benchmarking Fine-Grained Critique and Correction Towards Self-Improvement in Visual Reasoning
University of California, Los-Angeles(加利福尼亚大学洛杉矶分校);Stanford(斯坦福大学)
该研究提出 VISCO 基准,细粒度评估 LVLM 对视觉推理各步骤的批判与纠正能力,发现模型批判是自我改进瓶颈,并通过 LookBack 重看图像验证信息,最高提升 13.5%。
2025-03-18 cs.AI cs.CL cs.CV
Evaluating Mathematical Reasoning of Large Language Models: A Focus on Error Identification and Correction
University of Science Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学)
本文针对LLMs数学推理评估缺乏考官视角的问题,提出包含错误识别与纠正四任务及基于AnnotatedErrorTypes数据集的评估框架,发现GPT-4优于所有模型,闭源模型表现最好,LlamaMA-2-7B和GPT-3.5,
2024-06-02 cs.AI cs.CL cs.LG
CECOR: Correction-oriented synthetic data construction for factual error correction
Tianjin University(天津大学)
提出CECoR框架,通过分解与注入范式合成高质量训练数据,结合两阶段学习策略,有效提升多跳事实错误纠正的准确性和鲁棒性。
2026-06-01 cs.CL