Retrieved In-Context Principles from Previous Mistakes
Peking University(北京大学);Beijing Institute of Technology(北京理工大学);Alibaba Group(阿里巴巴集团);Chinese Academy of Sciences(中国科学院)
提出检索式上下文原则(RICP)框架,通过教师模型分析学生模型错误生成原则,聚类错误以增强覆盖,检索相关错误生成问题级原则,提升定制化,无需推理时干预,在七个推理基准上提升多种提示策略性能。
2026-05-23 cs.CL
Beyond Penalizing Mistakes: Stabilizing Efficiency Training in Large Reasoning Models via Adaptive Correct-Only Rewards
Korea University(高丽大学);Soongsil University(崇实大学)
针对GRPO中长度惩罚导致奖励崩溃的问题,提出ACOER方法,通过仅对正确回答给予简洁奖励并动态调整预算,在数学推理任务中准确率提升且生成token减少超60%。
2026-06-23 cs.AI cs.CL
Contrastive Chain-of-Thought Prompting
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Singapore University of Technology and Design(新加坡科技设计大学);Nanyang Technological University(南洋理工大学)
提出对比思维链,通过同时提供有效和无效推理演示并自动构建,增强语言模型推理并减少错误,在推理基准上验证其作为通用增强手段的有效性。
2023-11-15 cs.CL
Physics of Language Models: Part 2.2, How to Learn From Mistakes on Grade-School Math Problems
CMU(卡内基梅隆大学);Meta FAIR;MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文研究将“纠错”数据直接纳入预训练阶段以提升语言模型推理准确率,发现其优于使用等量无错误数据,并深入探讨了数据准备、掩码处理等多方面细节。
2024-08-29 cs.AI cs.CL cs.LG
Mistake Notebook Learning: Batch-Clustered Failures for Training-Free Agent Adaptation
Bairong Inc.(柏龙公司);School of Mathematics, Harbin Institute of Technology(哈尔滨工业大学数学学院);School of Software, Jilin University(吉林大学软件学院)
MNL通过批量聚类失败提炼结构化错误笔记,提升代理适应性和鲁棒性,无需参数更新。
2026-01-16 cs.CL
Get an A in Math: Progressive Rectification Prompting
University of Notre Dame(圣母大学)
针对思维链提示易因推理路径错误导致数学应用题答案不准的问题,提出渐进式纠错提示法PRP,通过迭代验证纠错提升准确率,在8个数据集上从77.3%升至90.5%,性能优于现有思维链方法。
2023-12-11 cs.CL
No Need for Explanations: LLMs can implicitly learn from mistakes in-context
Imperial College London(伦敦帝国学院);Cohere
本文发现大语言模型在数学推理中仅凭错误答案而无需显式纠正解释即可更有效地隐式学习,且该方法优于思维链提示,并分析了其背后的机制。
2025-09-20 cs.AI cs.CL
BiasCause: Evaluate Socially Biased Causal Reasoning of Large Language Models
Google(谷歌);The Ohio State University(俄亥俄州立大学)
本文提出BiasCause框架,评估LLMs在回答社会偏见问题时的因果推理,揭示其偏见产生机制及去偏策略。
2026-03-10 cs.CL
NeuralNexus at BEA 2025 Shared Task: Retrieval-Augmented Prompting for Mistake Identification in AI Tutors
MBZUAI(穆萨大学人工智能研究所)
针对BEA 2025共享任务的AI导师数学错误识别赛道,团队探索四种方法后采用基于GPT 4o的检索增强少样本提示系统,其性能优于所有基线,验证了该组合方法在教学反馈评估中的有效性。
2025-06-12 cs.AI cs.CL
The Riddle Riddle: Testing Flexible Reasoning in Large Language Models and Humans
Department of Psychology, Princeton University(普林斯顿大学心理学系);Department of Computer Science, Princeton University(普林斯顿大学计算机科学系)
通过谜语谜题范式,发现LLM在真实谜语上准确率高(84.9%),但在谜语谜题上表现差(50.7%),而人类相反;错误分析表明LLM更倾向于过度使用创造性推理。
2026-06-26 cs.CL
When Can LLMs Actually Correct Their Own Mistakes? A Critical Survey of Self-Correction of LLMs
Penn State University(宾夕法尼亚州立大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文批判性综述LLM自我纠正研究,梳理实验设计缺陷与研究问题分类,指出仅凭提示反馈通常无法成功纠错,可靠外部反馈和大规模微调才是关键条件。
2024-12-03 cs.CL
Automatic Chain of Thought Prompting in Large Language Models
Shanghai Jiao Tong University(上海交通大学);Amazon Web Services(亚马逊云科技)
大语言模型(LLM)可以通过生成中间推理步骤来执行复杂的推理。提供这些提示演示的步骤被称为思想链(CoT)提示。CoT提示有两个主要范例。一个是利用一个简单的提示,比如“让我们一步一步地思考”,在回答问题之前促进一步一步的思考。另一种是使用几个逐个手动演示,每个演示由一个问题和一个推理链组成,推理链导致答案。第二范式的卓越表现取决于逐个手工制作特定任务的演示。我们表明,这种手动工作可以通过利用LLM与“让我们一步一步地思考”提示来逐个生成演示的推理链来消除,即,我们不仅要一步一步来想,还要一个一个来想。然而,这些生成的链经常会出现错误。为了减轻这种错误的影响,我们发现,多样性的自动构建演示的事项。我们提出了一种自动CoT提示方法:Auto-CoT。它对具有多样性的问题进行采样,并生成推理链来构建演示。在使用GPT-3的10个公共基准推理任务中,Auto-CoT始终匹配或超过需要手动设计演示的CoT范例的性能。代码可在https://github.com/amazon-research/auto-cot上获得
2022-10-07 cs.AI cs.CL
DiffCoT: Diffusion-styled Chain-of-Thought Reasoning in LLMs
Hong Kong Baptist University(香港 Baptist 大学);Harbin Institute of Technology(哈尔滨工业大学)
DiffCoT通过扩散风格的推理链框架,改进了大语言模型在多步数学问题解决中的鲁棒性和错误纠正能力,通过迭代去噪过程实现中间步骤的统一生成与回顾性修正。
2026-04-19 cs.CL
Learning from Committee: Reasoning Distillation from a Mixture of Teachers with Peer-Review
School of Computing and Information, University of Pittsburgh(计算与信息学院,匹兹堡大学);Salesforce Research(Salesforce 研究)
针对现有知识蒸馏仅依赖单一教师模型黄金推理依据的不足,提出带同行评审的故障感知蒸馏FAIR方法,通过教师识别学生错误、多教师模拟同行评审筛选优质推理数据,有效提升小型开源模型的推理能力。
2025-05-20 cs.AI cs.CL
Beyond Imitation: Learning Key Reasoning Steps from Dual Chain-of-Thoughts in Reasoning Distillation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
针对SLMs仅模仿教师CoT形式而难以学习关键推理步骤的问题,提出EDIT方法,通过生成结论分歧的双重CoTs并利用最小编辑距离定位关键步骤进行优化,显著提升了推理蒸馏效果。
2024-05-30 cs.AI cs.CL
Persona is a Double-edged Sword: Mitigating the Negative Impact of Role-playing Prompts in Zero-shot Reasoning Tasks
Pohang University of Science and Technology(浦项科技大学);Seoul National University(首尔大学)
本文研究角色扮演提示对LLM零样本推理的负面影响,并提出Jekyll & Hyde框架,通过集成角色扮演与中性提示结果并由LLM评估选择更优解,在12个推理数据集上提升推理鲁棒性。
2024-10-19 cs.CL
Prejudge-Before-Think: Enhancing Large Language Models at Test-Time by Process Prejudge Reasoning
Meituan(美团);Peking University(北京大学)
本文提出“思考前预判”策略及含动态树搜索的自动化推理框架,结合两阶段训练机制,让LLM自适应预测推理错误,显著提升竞赛级复杂推理任务的表现。
2025-04-18 cs.CL
Boosting Language Models Reasoning with Chain-of-Knowledge Prompting
East China Normal University(华东师范大学);The University of Hong Kong(香港大学)
针对思维链提示中推理链易出错的问题,提出知识链提示生成结构化知识证据,并引入F^2-Verification方法评估推理可靠性,通过指出错误证据促使模型重新思考,有效提升了多类推理任务的性能。
2024-06-03 cs.CL
Enhancing Mathematical Reasoning in LLMs by Stepwise Correction
University of Notre Dame(圣母大学)
提出StepCo提示方法,通过迭代验证和修改阶段帮助LLMs识别并纠正推理路径中的错误步骤,显著提高数学推理准确率并大幅降低token消耗。
2024-10-16 cs.CL
In-Context Principle Learning from Mistakes
UC Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind);AI2(艾伦人工智能研究所)
本文提出LEAP框架,通过故意诱导模型在少样本示例上犯错并反思学习任务特定原则,在不增加输入的情况下显著提升了GPT-4等LLMs在多跳问答、文本问答、推理和数学问题等基准上的性能。
2024-02-09 cs.AI cs.CL
Conditional and Modal Reasoning in Large Language Models
University of California, Berkeley(加州大学伯克利分校);New York University(纽约大学);Massachusetts Institute of Technology(麻省理工学院)
本文评估29个大型语言模型在条件句和认识模态词推理上的表现,发现即使使用零样本思维链提示,表现最好的模型仍存在基本逻辑错误、判断不一致及与人类判断不符等问题,揭示了当前LLM在基本逻辑推理上的差距。
2024-10-13 cs.AI cs.CL cs.LO
AdaTIR: Adaptive Tool-Integrated Reasoning via Difficulty-Aware Policy Optimization
Trip.com Group(Trip.com集团)
AdaTIR通过难度感知策略优化实现自适应工具集成推理,有效减少工具调用并提升推理准确性。
2026-01-21 cs.CL
On Memorization of Large Language Models in Logical Reasoning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Google(谷歌公司);University of Washington(华盛顿大学)
本文通过动态生成的逻辑推理基准定量测量了大型语言模型在推理任务中的记忆现象,发现微调虽导致严重记忆但也持续提升泛化能力,模型在记忆的同时发展出推理技能。
2025-03-04 cs.CL
J&H: Evaluating the Robustness of Large Language Models Under Knowledge-Injection Attacks in Legal Domain
School of Law, Tsinghua University(清华大学法学院);University of Waterloo(滑铁卢大学)
该研究提出法律领域知识注入攻击评估框架J&H,通过攻击推理逻辑各环节测试大语言模型鲁棒性,发现现有模型易受误导,同时提出并对比了多种提升知识鲁棒性的方法。
2025-03-24 cs.CL
Denoising Iterative Self-Correction: Structured Verification Loops for Reliable LLM Reasoning
Thomson Reuters Labs(汤森路透实验室)
提出DISC方法,通过将验证输出视为噪声测量,在多次验证-判断-校正循环中逐步减少推理错误,并引入二元判断门控机制防止破坏正确答案,在三个基准上优于现有方法。
2026-06-23 cs.AI cs.CL
ReaLM: Reflection-Enhanced Autonomous Reasoning with Small Language Models
ReaLM提出强化学习框架,通过MRPV对比正负推理路径、EAAI渐近淡化外部信号及引导式思维链蒸馏,同时提升小型语言模型的推理能力、自主性与泛化性。
2025-08-17 cs.CL
R-PRM: Reasoning-Driven Process Reward Modeling
National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);China Mobile Communications Company Limited Research Institute(中国移动通信有限公司研究院)
针对过程奖励模型直接输出分数导致效率与精度受限的问题,提出推理驱动的R-PRM,通过种子数据引导、偏好优化和推理时扩展,在多个基准上显著提升评估与推理性能。
2025-03-27 cs.CL
FINEREASON: Evaluating and Improving LLMs' Deliberate Reasoning through Reflective Puzzle Solving
Nanyang Technological University(南洋理工大学);DAMO Academy, Alibaba Group(阿里达摩院);Hupan Lab(虎扑实验室)
该研究提出FINEREASON逻辑谜题基准,通过状态检查和转换任务细粒度评估LLM的中间推理能力,并利用相关数据训练模型,使其在GSM8K数学推理上提升5.1%。
2025-06-01 cs.CL
Turning Dust into Gold: Distilling Complex Reasoning Capabilities from LLMs by Leveraging Negative Data
Beijing Institute of Technology(北京理工大学);Xiaohongshu Inc(小红书公司)
提出利用负样本数据从大语言模型蒸馏推理能力至小模型的框架,通过训练到推理的三步递进过程,在算术推理任务上验证了负数据对提升蒸馏效果的作用。
2023-12-20 cs.AI cs.CL
Learning from the Irrecoverable: Error-Localized Policy Optimization for Tool-Integrated LLM Reasoning
MYbank, Ant Group(蚂蚁集团网商银行);Tongji University(同济大学)
ELPO通过误差局部化策略优化提升工具集成大语言模型推理的性能,有效解决稀疏奖励和信用分配问题。
2026-02-10 cs.CL
Audited Reasoning Refinement: Fine-Tuning Language Models via LLM-Guided Step-Wise Evaluation and Correction
提出 R2tA 方法,通过 LLM 引导的逐步评估与校正精炼推理轨迹生成监督信号,结合 SFT 与 DPO 两阶段对齐训练特定任务推理模型,在 EERD 评估任务上验证了其在数据稀缺领域的有效性与低成本优势。
2025-09-17 cs.CL
ArgLLM-App: An Interactive System for Argumentative Reasoning with Large Language Models
Imperial College London(伦敦帝国学院)
ArgLLM-App是一个基于大语言模型的论证推理交互系统,通过可视化解释和用户交互实现决策的可解释性和可挑战性。
2026-02-27 cs.AI cs.CL
Multi-Turn Reflective Masking Elicits Reasoning in Mask Diffusion Models
University of Maryland(马里兰大学);Virginia Tech(弗吉尼亚理工大学);Intuit;UC Davis(加州大学戴维斯分校);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
提出反射掩码(RM)方法,通过轻量级后训练使掩码扩散模型具备多轮掩码与去噪能力,实现迭代局部修正,无需架构改变,在文本生成、数独和图像编辑等任务中优于基线。
2026-06-16 cs.CL
PSSD: Making Large Language Models Self-denial via Human Psyche Structure
National University of Defense Technology(国防科技大学)
本文提出PSSD框架,通过引入人类心理结构设计本我、超我和自我三个多智能体角色,使大型语言模型在内部实现自我否定以高效纠正推理错误,显著提升了推理性能。
2025-02-03 cs.AI cs.CL cs.IR
ResRL: Boosting LLM Reasoning via Negative Sample Projection Residual Reinforcement Learning
MAIS\&NLPR, Institute of Automation, Chinese Academy of Sciences, Beijing, China(MAIS与NLPR,自动化研究所,中国科学院,北京,中国);School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences, Beijing, China(先进交叉学科学院,中国科学院大学,北京,中国)
本文提出ResRL,通过解耦正负响应的语义分布,提升LLM推理能力同时保持生成多样性,在十二个基准测试中超越强基线,尤其在数学推理上表现更优。
2026-05-08 cs.CL cs.LG
DCGC: Draft-Conditioned Global Correction for Complex Reasoning with Masked Diffusion Models
Seoul National University(首尔大学)
DCGC是结合SFT与动态双CFG机制的MDM框架,用于修正LLMs推理错误,在多推理基准中优于现有方法,可作为无验证器的全局修正模块。
2026-10-15 cs.AI cs.CL
Large Language Models are Better Reasoners with Self-Verification
The Laboratory of Cognition and Decision Intelligence for Complex Systems, IA, CAS(中国科学院自动化研究所复杂系统认知与决策智能实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);College of Electrical and Information Engineering, Hunan University(湖南大学电气与信息工程学院);Unisound(云知声);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对大型语言模型在思维链推理中易受误差累积影响的问题,提出自我验证方法,通过反向验证模型推导的答案并计算验证分数来选择最优候选,有效提升了多类推理任务的性能。
2023-10-19 cs.AI cs.CL
On-Policy Distillation of Language Models: Learning from Self-Generated Mistakes
Google DeepMind(谷歌DeepMind);Mila(米拉研究所);University of Toronto(多伦多大学)
本文提出广义知识蒸馏(GKD),通过让学生从自生成输出中利用教师反馈进行在线策略学习,解决分布不匹配问题,并支持替代损失函数和与RLHF集成,在摘要、翻译、算术推理及指令微调上验证了有效性。
2024-01-17 cs.AI cs.CL cs.LG
Automatic Replication of LLM Mistakes in Medical Conversations
Lumos AI
本文提出MedMistake自动管道,通过提取医疗对话中LLM的错误生成单次问答对,构建基准测试集,验证了GPT、Claude和Grok在医疗问答任务中的最佳性能。
2026-04-07 cs.AI cs.CL cs.LG
Do LLMs Make Mistakes Like Students? Exploring Natural Alignment between Language Models and Human Error Patterns
Rice University(莱斯大学)
本研究探究大语言模型与学生选择题错误选择模式的对齐性,发现二者存在中等相关且大小模型均有类似犯错倾向,为教育评估中自动干扰项生成提供了新思路。
2025-02-21 cs.CL cs.HC
Contextual Drag: How Errors in the Context Affect LLM Reasoning
Princeton University(普林斯顿大学)
研究发现上下文中的错误会偏向下文生成的推理错误,导致性能下降,并指出缓解策略无法完全消除该问题。
2026-03-02 cs.AI cs.CL cs.LG
SelfCheck: Using LLMs to Zero-Shot Check Their Own Step-by-Step Reasoning
University of Oxford(牛津大学)
针对大语言模型处理复杂非线性问题时推理易出错的问题,提出通用零样本验证框架SelfCheck,可让模型自查推理错误,结合多解答加权投票提升了三个数学数据集上的问答准确率。
2023-10-05 cs.AI cs.CL cs.LG
DiARC: Distinguishing Positive and Negative Samples Helps Improving ARC-like Reasoning Ability of Large Language Models
College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院)
提出DiARC方法,通过构建偏好对(正负样本)来提升大型语言模型在类ARC任务上的推理能力,实验表明该方法在多个基准上持续改进基线模型。
2026-06-29 cs.AI cs.CL
Reinforcing Step-level Reasoning for Effective Self-Correction in LLMs
Nanyang Technological University(南洋理工大学);National University of Singapore(新加坡国立大学);VinUniversity;Institute for Infocomm Research (IR), A*STAR(新加坡科技研究局信息通信研究院)
针对大语言模型自校正的核心挑战,提出SFS-DPO及教师辅助变体SFS-DPO-R框架,经多模型多域评估,其性能优于现有步骤级训练基线,可提升自校正频率与有效性。
2026-09-01 cs.AI cs.CL
Physics of Language Models: Part 2.1, Grade-School Math and the Hidden Reasoning Process
CMU(卡内基梅隆大学);Meta FAIR;MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文通过受控实验研究语言模型解决小学数学问题的隐藏推理机制,探讨其是否真正具备推理技能及与人类推理的异同,揭示了超越当前LLM理解的内部机制。
2024-07-29 cs.AI cs.CL cs.LG
Harnessing Negative Signals: Reinforcement Distillation from Teacher Data for LLM Reasoning
National University of Singapore(国立新加坡大学);INF AI
本文提出通过强化蒸馏利用正负推理轨迹提升LLM推理性能,实验表明在少量数据下可达到与大量数据训练模型相当的性能。
2025-12-14 cs.AI cs.CL cs.LG
When Absence Is Evidence: Evaluating Completeness-Sensitive Negative Reasoning in Large Language Models
该研究针对大语言模型的完整性敏感负向推理能力,构建CROWN-QA评估基准,发现模型存在过度闭合等问题,提示无法持续解决错误,且部分覆盖不对称性在真实文档中依然存在。
2026-08-06 cs.AI cs.CL
TripletCLIP: Improving Compositional Reasoning of CLIP via Synthetic Vision-Language Negatives
Arizona State University(亚利桑那州立大学);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
TripletCLIP通过合成困难负样本对,增强CLIP的组合推理能力,在SugarCrepe上提升超9%,并改进零样本分类与检索。
2024-11-04 cs.CL cs.CV
Composite Learning Units: Generalized Learning Beyond Parameter Updates to Transform LLMs into Adaptive Reasoners
Agnostiq Inc.(阿格诺斯特克公司)
提出 Composite Learning Units (CLUs) 框架,通过动态知识库和强化反馈循环,使 LLMs 无需参数更新即可实现持续学习与自适应推理,在密码学推理任务中显著优于常规模型。
2024-10-09 cs.AI cs.CL cs.LG
Balancing Faithfulness and Performance in Reasoning via Multi-Listener Soft Execution
University of Texas at Austin(德克萨斯大学奥斯汀分校)
REMUL通过多听众强化学习方法提升推理忠实性与性能,改进多个基准的忠实性指标和准确性。
2026-02-18 cs.AI cs.CL
When Does In-Context Search Help? A Sampling-Complexity Theory of Reflection-Driven Reasoning
The Hebrew University(希伯来大学)
研究上下文搜索何时有用,通过将其建模为对推理轨迹的近似推理分析采样复杂性,表明反思能定位早期错误时可指数级改进,收益稳健可学习,还在强化学习抽象下验证了理论预测。
2026-07-09 cs.AI cs.CL
TinyV: Reducing False Negatives in Verification Improves RL for LLM Reasoning
University of Washington(华盛顿大学);Western Washington University(西雅图华盛顿大学)
本文针对LLM推理强化学习中验证器假阴性问题,提出轻量级验证器TinyV,动态识别并恢复正确响应,提升奖励准确性,在数学基准上通过率提升达10%。
2025-05-22 cs.AI cs.CL cs.LG
COMPASS: Enhancing Agent Long-Horizon Reasoning with Evolving Context
Google Cloud AI(谷歌云人工智能);University of Virginia(弗吉尼亚大学)
针对长程任务中上下文管理导致的推理失败问题,提出COMPASS分层框架,通过主智能体、元思考者和上下文管理器分工,在多个基准上提升准确率高达20%。
2025-10-09 cs.AI cs.CL
Calibrating Reasoning in Language Models with Internal Consistency
Shanghai Jiao Tong University(上海交通大学);Adobe Research(奥多比研究院);The University of Hong Kong(香港大学)
本文提出用中间层潜在预测的内部一致性衡量 LLM 推理置信度,并据此上调高一致性推理路径权重,从而有效区分推理正误并提升性能。
2024-12-05 cs.AI cs.CL