Geometry of Divergence: Tracking Hidden-State Trajectories for Adaptive Multi-Turn Reasoning
Lancaster University(兰卡斯特大学);University of Huddersfield(哈德斯菲尔德大学)
该研究将多轮推理建模为LLM的隐状态轨迹,提出时间曲率与方差斜率两种几何信号,分解推理动作链,提升τ-Bench任务成功率并降低token成本。
2026-09-01 cs.AI cs.CL
LLM-Driven Multi-Turn Task-Oriented Dialogue Synthesis for Realistic Reasoning
本文提出基于LLM的多轮任务导向对话合成框架,通过三级优化生成真实推理场景下的对话,提升LLM的逻辑推理能力。
2026-02-27 cs.AI cs.CL
Query Your Way Out: Benchmarking Multi-Turn Knowledge Reasoning through Generalized Puzzle Solving
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院)
该研究针对现有谜题基准的局限性,提出主动探测基准(APB),评估模型多轮主动探测推理能力,发现多数开源推理模型表现逊于标准指令模型,为交互式知识推理提供了可扩展基准生成流程。
2026-10-14 cs.AI cs.CL
MARS: Margin-Adversarial Risk-controlled Stopping for Parallel LLM Test-time Scaling
Amazon(亚马逊);Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学)
提出MARS停止规则,通过监测中间检查点的聚合投票并利用对抗性边界估计未来投票变化,在保证准确率的同时节省25-47%的自一致性token。
2026-06-12 cs.AI
Turning Dust into Gold: Distilling Complex Reasoning Capabilities from LLMs by Leveraging Negative Data
Beijing Institute of Technology(北京理工大学);Xiaohongshu Inc(小红书公司)
提出利用负样本数据从大语言模型蒸馏推理能力至小模型的框架,通过训练到推理的三步递进过程,在算术推理任务上验证了负数据对提升蒸馏效果的作用。
2023-12-20 cs.AI cs.CL
Is Depth All You Need? An Exploration of Iterative Reasoning in LLMs
UESTC(电子科技大学);SUTD(新加坡科技设计大学)
针对深度迭代思维链推理的持续改进与停止标准挑战,本文提出通过增加初始推理路径多样性实现广度推理,并提出整合上下文探索与减少采样随机性的方法,显著优于深度迭代推理。
2025-02-18 cs.AI cs.CL
Inject a Turn, Not a Token: Learning Where to Redirect LLM Reasoning for Self-Correction
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST))
本研究提出无需微调大语言模型的UPTURN框架,通过在学习位置注入新用户轮次指令重定向推理,在多推理器与数学基准上提升准确率,可跨模型迁移并与其他方法互补。
2026-11-16 cs.AI cs.CL
Certainty-Guided Reasoning in Large Language Models: A Dynamic Thinking Budget Approach
Nokia Bell Labs, France(诺基亚贝尔实验室,法国)
CGR通过动态调整推理预算,在保持准确性的同时减少token使用,通过确定性评估实现高效的推理过程。
2026-02-09 cs.AI cs.CL
ESPO: Early-Stopping Proximal Policy Optimization
Tongyi Lab(通义实验室);Alibaba Group(阿里巴巴集团);Peking University(北京大学)
提出ESPO算法,通过在强化学习训练大语言模型时在线检测轨迹失败并提前终止,节省计算资源并提升数学推理性能。
2026-05-28 cs.AI cs.LG
Just on Time: Token-Level Early Stopping for Diffusion Language Models
本文提出了一种无需训练的标记级早期停止方法,通过动态确定标记收敛点,减少扩散步骤并提升生成效率。
2026-10-08 cs.CL cs.LG
Beyond Token Length: Step Pruner for Efficient and Accurate Reasoning in Large Language Models
Xi’an Jiaotong University(西安交通大学);JD Future Academy(京东未来学院)
本文提出步剪枝框架,通过强化学习优化大语言模型的推理效率与准确性,显著减少响应长度并在多个基准测试中取得最佳性能。
2025-11-29 cs.AI cs.CL
CORE: A Conceptual Reasoning Layer for Large Language Models
CORE通过引入概念优先的交互层,提升大型语言模型在多轮对话中的稳定性,利用持久的局部概念和通用认知运算符,减少提示token数量,实现更稳定的多轮交互。
2025-12-10 cs.AI cs.CL
One-Pass to Reason: Token Duplication and Block-Sparse Mask for Efficient Fine-Tuning on Multi-Turn Reasoning
提出复制响应 Token 与自定义注意力掩码,将多轮推理微调从 N 次前向传递简化为单次,时间复杂度降至 $O(N^2)$ 且保持精度与内存复杂度。
2025-07-11 cs.AI cs.CL cs.LG
First Try Matters: Revisiting the Role of Reflection in Reasoning Models
MiroMind AI;National University of Singapore(新加坡国立大学);Singapore University of Technology and Design(新加坡科技设计大学)
本文通过分析八个推理模型在五个数学数据集上的生成轨迹,发现反思多为确认性且很少改变初始答案,并提出问题感知早停与动态截断反思方法,以减少24.5%推理令牌且准确率仅降2.9%。
2025-10-09 cs.AI
CASE: Cost-Aware Stopping for Efficient Long-Video Agents
Peking University(北京大学)
CASE提出成本感知的序列停止框架,通过轻量回归器决定长视频智能体何时停止证据收集,在多个基准上显著节省令牌和运行时间,同时保持或提升准确率。
2026-10-06 cs.AI cs.CV
MatchTIR: Fine-Grained Supervision for Tool-Integrated Reasoning via Bipartite Matching
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院);Baidu Inc.(百度公司)
MatchTIR通过双图匹配实现细粒度监督,提升工具集成推理在长周期多轮任务中的性能。
2026-01-15 cs.AI cs.CL
Improving Multi-turn Dialogue Consistency with Self-Recall Thinking
University of Electronic Science and Technology of China(电子科技大学)
本文提出自回忆思考框架,解决多轮对话中长距离上下文依赖和稀疏信息问题,通过自动生成回忆链和优化推理过程,提升F1分数并降低延迟。
2026-05-14 cs.AI cs.CL
LOTAPO: Leave-One-Turn Attribution for Self-Generated Process Rewards in Multi-Turn Search Reasoning
Zhejiang University(浙江大学)
研究多轮搜索推理中强化学习依赖终端结果奖励的问题,提出基于反向留一回合归因的LAPO方法,无需额外模型,在七个问答数据集上取得较好成绩,证明策略追溯归因能为多轮搜索智能体提供有效过程监督。
2026-07-17 cs.AI
Reasoning-Augmented Conversation for Multi-Turn Jailbreak Attacks on Large Language Models
Beihang University(北京航空航天大学);AI Security Lab(360人工智能安全实验室);National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学)
本文提出推理增强对话框架RACE,通过状态机建模、增益引导探索、自博弈和拒绝反馈,将有害查询转化为多轮良性推理任务,在OpenAI o1和DeepSeek R1上分别取得82%和92%的攻击成功率。
2025-03-11 cs.AI cs.CL cs.CR
A Simple "Try Again" Can Elicit Multi-Turn LLM Reasoning
Imperial College London(帝国理工学院);Northwestern University(西北大学);University of Washington(华盛顿大学);IBM Research AI(IBM研究院)
本文提出UFO方法,在错误答案后仅用“再试一次”等一元反馈进行多轮强化学习,在不损失单轮性能的同时将多轮推理准确率提升最高14%,并设计奖励结构减少所需轮数并鼓励多样化推理。
2025-08-22 cs.AI cs.LG
Thinking by Doing: Building Efficient World Model Reasoning in LLMs via Multi-turn Interaction
CUHK MMLab(香港中文大学MMLab);Peking University(北京大学);StepFun;Tsinghua University(清华大学)
WMAct通过高效交互和主动推理机制,使LLM在复杂环境中实现高效世界模型推理,提升任务解决能力和迁移性能。
2025-11-28 cs.AI
TABQAWORLD: Optimizing Multimodal Reasoning for Multi-Turn Table Question Answering
University of California, Los Angeles(加州大学洛杉矶分校);McGill University(麦吉尔大学);Université de Montréal(蒙特利尔大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));SimpleWay
TABQAWORLD通过联合优化表格表示与估计,提升多轮表格问答的可靠性与效率,实现4.87%的准确率提升和33.35%的推理延迟降低。
2026-04-03 cs.AI
Optimal Bayesian Stopping for Efficient Inference of Consistent LLM Answers
Stern School of Business, New York University, New York, USA(纽约大学 Stern 商学院);Graduate School of Business, Columbia University, New York, USA(哥伦比亚大学 商学院)
利用贝叶斯先验信息,通过L-聚合停止策略在达到足够一致性时提前停止采样,以最小化采样成本并高效识别最一致的LLM答案。
2026-05-31 cs.AI cs.LG stat.ML
Training-Free Inference-Time Self-Reflection and Cost-Bounded Early Stopping for Large Language Models
School of Digital Arts, Jiangxi Arts & Ceramics Technology Institute(江西工艺美术职业技术学院数字艺术学院);School of Computing, Universiti Sains Malaysia(马来西亚理科大学计算机学院)
本文提出无训练的推理时协议EvoResearcher,通过成本受限的自我反思实现大语言模型早停,在多个推理基准上验证其成本受限自我验证的价值。
2026-08-20 cs.AI
Learning Reasoning Paths over Semantic Graphs for Video-grounded Dialogues
Singapore Management University(新加坡管理大学);A*STAR, Institute for Infocomm Research(新加坡科技研究局资讯通信研究院);Salesforce Research Asia(赛富时亚洲研究院)
与传统的视觉问答相比,基于视频的对话需要对对话上下文进行额外的推理,以在多轮设置中回答问题。以前的方法,以视频为基础的对话大多使用对话上下文作为一个简单的文本输入,没有建模的内在信息流在回合级别。在本文中,我们提出了一个新的框架,推理路径对话上下文(PDC)。PDC模型通过对每个问题和回答中的词汇成分构建语义图,发现对话轮之间的信息流。PDC模型然后学习预测这个语义图上的推理路径。我们的路径预测模型预测的路径从当前的回合通过过去的对话回合,包含额外的视觉线索来回答当前的问题。我们的推理模型顺序处理视觉和文本信息通过这个推理路径和传播的功能被用来生成答案。我们的实验结果证明了我们的方法的有效性,并提供了额外的见解模型如何使用语义依赖在对话上下文检索视觉线索。
2022-12-07 cs.AI cs.CL cs.CV
Early Stopping for Large Reasoning Models via Confidence Dynamics
University of Maryland(马里兰大学);University of Southern California(南加州大学)
本文研究推理过程中中间答案的置信度,提出CoDE-Stop方法利用置信度动态决定早停,无需额外训练,提升准确率与效率,减少25-50%的token使用。
2026-08-17 cs.AI cs.CL cs.LG
Shopping Reasoning Bench: An Expert-Authored Benchmark for Multi-Turn Conversational Shopping Assistants
Amazon(亚马逊)
提出一个由零售专家编写的525个任务的多轮对话购物推理基准,包含10863个加权评分标准,评估9个模型显示通过率仅57-77%,多轮任务性能下降4-18分。
2026-06-12 cs.CL cs.LG
TRACE: Trajectory Aware Reasoning for Multi-Turn Adversarial Conversation Evaluation
Texas A&M University(德克萨斯农工大学);Amazon(亚马逊公司)
针对LLM多轮越狱攻击,提出具备轨迹感知推理的Trace防御方法,训练Llama-3.1-8B-Instruct实现安全与实用平衡,在多轮攻击基准中显著降低攻击成功率并提升合规率。
2026-09-25 cs.AI
Escape Sky-high Cost: Early-stopping Self-Consistency for Multi-step Reasoning
Beijing Institute of Technology(北京理工大学);Xiaohongshu Inc(小红书公司)
针对自洽性推理需多次采样、成本高昂的问题,本文提出早停自洽性ESC及动态性能-成本控制方案,在六类算术、常识和符号推理基准上大幅减少采样并保持相当性能。
2024-01-19 cs.AI cs.CL
Verify, Repair, Repeat, or Stop? Robust Stopping for Noisy Verify-Repair Loops in LLM Agents
研究大语言模型代理中验证-修复循环有噪声时缺乏停止原则的问题,提出VRR-Stop框架,通过四参数噪声模型和信念过滤估计有效性,依真实边际增益符号决策,配对VRR-Guard,提升了停止可靠性与真实有效性。
2026-07-21 cs.AI cs.SE
Think Straight, Stop Smart: Structured Reasoning for Efficient Multi-Hop RAG
Qualcomm AI Research(高通人工智能研究院)
针对现有多跳RAG迭代提示方法token消耗高、终止不稳定的问题,提出结构化框架TSSS,通过模板化推理加检索器终止机制,在多个基准上实现RAG-CoT类方法的最优准确率与高效推理,适配端侧等效率受限场景。
2025-10-22 cs.CL
MathChat: Benchmarking Mathematical Reasoning and Instruction Following in Multi-Turn Interactions
University of Notre Dame(圣母大学);Tencent AI Lab(腾讯AI实验室)
本文提出MathChat基准,评估LLMs在多轮交互和开放式数学任务中的表现,并构建MathChat sync数据集以提升模型交互与指令遵循能力。
2024-05-29 cs.AI
RoTRAG: Rule of Thumb Reasoning for Conversation Harm Detection with Retrieval-Augmented Generation
Peking University(北京大学);Enhans;University of North Texas(北得克萨斯大学)
提出RoTRAG框架,通过检索外部道德规范(RoTs)增强LLM的多轮对话有害内容检测,实现基于规范推理和分类,平均F1提升约40%,分布误差降低8.4%。
2026-06-16 cs.AI cs.CL cs.HC
TRACES: Tagging Reasoning Steps for Adaptive Cost-Efficient Early-Stopping
IBM Research Europe(IBM欧洲研究院);Trinity College Dublin(三一学院);ADAPT Research Centre(ADAPT研究中心)
TRACES通过实时标记推理步骤,实现大语言模型推理的适应性成本高效提前停止,通过监控特定步骤类型提升数学和知识推理任务的效率与准确性。
2026-08-28 cs.CL
AV-AIVAT: 74x Cheaper Agent Evaluation with Certified Anytime-Valid Stopping in Imperfect-Information Games
IIIS, Tsinghua University(清华大学交叉信息研究院)
AV-AIVAT将AIVAT与置信序列结合,在非完全信息博弈中实现任意时间有效停止,成本降低74倍,可高效评估智能体并向第三方提供可审计的验证依据。
2026-08-07 cs.AI cs.CL cs.GT
Scores Are Not Decisions: Cost-Aware Stopping for Tool Acquisition in LLM Agents
针对LLM智能体工具获取的异构成本问题,提出CAM-DF及其轻量变体,通过训练停止决策的离线差距实现成本感知停止,在1343个任务上验证其优于基线,减少工具接触量的同时保持任务成功率。
2026-07-30 cs.AI cs.LG
Martingale Foresight Sampling: A Principled Approach to Inference-Time LLM Decoding
University of Arizona(亚利桑那大学);Microsoft Research Asia(微软亚洲研究院);Villanova University(维拉诺瓦大学)
本文提出鞅前瞻性采样,通过概率论原理改进LLM解码,提升推理准确性和计算效率。
2026-01-21 cs.AI cs.LG
Metacognitive Reuse: Turning Recurring LLM Reasoning Into Concise Behaviors
Meta;Mila-Quebec AI Institute, University of Montreal(魁北克AI研究所,蒙特利尔大学);Princeton University(普林斯顿大学);Mila--Quebec AI Institute, Université de Montréal(魁北克AI研究所,蒙特利尔大学)
本文提出一种元认知复用机制,将LLM重复的推理片段转化为简洁可复用的“行为”,通过行为手册在推理时提供上下文或通过SFT蒸馏入参数,在三种设置下显著降低token用量并提升准确率。
2025-09-16 cs.AI cs.LG
VisChainBench: A Benchmark for Multi-Turn, Multi-Image Visual Reasoning Beyond Language Priors
VisChainBench是一个多轮多图视觉推理基准,通过多代理生成流水线构建,旨在评估LVLM在连续、相互依赖任务中进行多步骤视觉推理的能力。
2025-12-07 cs.AI cs.CV
Think Just Enough: Sequence-Level Entropy as a Confidence Signal for LLM Reasoning
Lossfunk
本研究提出基于序列级香农熵的大语言模型推理提前停止框架,可在保持准确率的同时节省25%-50%计算量,且该熵置信校准是高级后训练推理模型的涌现特性。
2025-10-28 cs.AI cs.LG
Solving Without Stopping: On-Policy Distillation at Small Scale
University of Luxembourg(卢森堡大学);Seafill Open-Source Community(Seafill 开源社区);Université Paris-Saclay(巴黎-萨克雷大学)
本文分析小规模同策略蒸馏,发现其传递求解能力但不传递停止能力,学生越小差距越大,并提出区分答案标记、正确性与停止的诊断方法。
2026-09-30 cs.AI cs.CL
Turning Drift into Constraint: Robust Reasoning Alignment in Non-Stationary Multi-Stream Environments
Australian Artificial Intelligence Institute (AAII)(澳大利亚人工智能研究所);Faulty of Engineering and Information Technology(工程与信息技术学院);University of Technology Sydney(悉尼技术大学);Australia(澳大利亚)
本文提出APO框架,通过约束满足问题解决多源推理对齐问题,实验表明其在胸片解读中鲁棒性优于现有模型,并发布CXR-MAX基准测试集。
2026-05-11 cs.AI cs.CV cs.LG
Judged Useless, Queried Anyway: Tool-Using Agents Rarely Turn Their Own Evidence Judgments into Stopping Decisions
Nanyang Technological University(南洋理工大学);National University of Singapore(新加坡国立大学);CFAR, Agency for Science, Technology and Research(新加坡科技研究局高等研究院);UNC-Chapel Hill(北卡罗来纳大学教堂山分校);Carnegie Mellon University(卡内基梅隆大学);IHPC, Agency for Science, Technology and Research(新加坡科技研究局高性能计算研究院)
本研究通过受控检索实验发现,工具使用主体虽能高比例识别无用结果,却很少据此停止,仅强制整合步骤能使其停止遵循证据并提升成功率。
2026-10-06 cs.AI cs.CL
Answer Convergence as a Signal for Early Stopping in Reasoning
Computer Science and Engineering University of Michigan(计算机科学与工程系密歇根大学)
针对 CoT 推理冗长冗余问题,本文研究答案收敛规律,提出答案一致性提前停止、结束信号增强和基于内部激活的监督停止三种推理时方法,在五个基准上显著降低 token 用量且基本不损失准确率。
2025-09-29 cs.CL
Stop When Enough: Adaptive Early-Stopping for Chain-of-Thought Reasoning
UCLA;NEC Labs America;Arizona State University(亚利桑那州立大学)
本文提出无需训练的框架REFRAIN,通过两阶段停止判别器和SW-UCB控制器自适应决定推理停止时机,有效缓解LLM过度思考,在保持准确率的同时减少20-55%的token使用。
2025-10-11 cs.CL
TERMINATOR: Learning Optimal Exit Points for Early Stopping in Chain-of-Thought Reasoning
UT Austin(得克萨斯大学);EPFL(苏黎世联邦理工学院);ENS Paris-Saclay(巴黎-萨克雷大学);Télécom Paris (IP Paris)(巴黎理工学院)
本文提出TERMINATOR方法,通过预测模型最终答案的首次出现位置,学习最优推理长度,从而减少链式推理的计算量,提升推理效率。
2026-11-17 cs.AI cs.CL cs.LG
Logit-Entropy Adaptive Stopping Heuristic for Efficient Chain-of-Thought Reasoning
Purdue University(普渡大学)
本文提出无需训练的 LEASH 解码算法,通过监控 token 级熵斜率和 top-logit 边际改善两个信号自适应停止思维链生成,在 GSM8K 和 AQuA-RAT 上以约 10 个百分点准确率下降为代价,将 token 生成量减少 30--35%、延迟降低 27%。
2025-11-06 cs.CL
Early Stopping Chain-of-thoughts in Large Language Models
University of Delaware(德克萨斯大学);Peking University(北京大学)
本文提出了一种在推理阶段减少思维链生成长度的方法ES-CoT,通过检测答案收敛并提前停止来降低推理成本,同时保持与标准思维链相当的准确性。
2026-05-18 cs.CL
Learning to Stop without Learning to Stop: Self-Supervised Confidence Training Improves Reasoning Efficiency
University of Maryland(马里兰大学);AI Foundations, Capital One(第一资本人工智能基础部)
通过自监督置信度训练,仅用600个问题微调推理模型预测中间置信度,无需显式优化长度或早停,即可在匹配准确率下减少最多25%的生成token,效率提升媲美直接优化短推理的方法。
2026-09-28 cs.AI cs.CL cs.LG
ThinkBrake: Efficient Reasoning via Log-Probability Margin Guided Decoding
Graduate School of Data Science, Seoul National University(数据科学研究生院,首尔国立大学)
ThinkBrake通过监控句子边界处最高延续词与终止词的对数概率边际,减少过度推理,提升推理效率和准确性。
2026-04-20 cs.CL
When Should Agents Think? Adaptive Reasoning via Cross-Turn Estimation
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Alibaba Token Hub, Alibaba Group(阿里巴巴集团阿里巴巴令牌中心)
该研究针对LLM智能体每轮均推理的高成本问题,提出RACE方法,通过跨轮次估计识别冗余推理轮次,在四个基准上实现降推理成本且维持或提升任务性能。
2026-10-09 cs.AI cs.CL
Consistency of Large Reasoning Models Under Multi-Turn Attacks
研究评估了多轮对抗攻击下九种前沿推理模型的鲁棒性,发现推理虽提供部分鲁棒性,但存在显著脆弱性,指出基于自信的防御需重新设计以适应推理模型。
2026-03-11 cs.AI cs.CL
A Graph Reasoning Network for Multi-turn Response Selection via Customized Pre-training
Northeastern University(东北大学);Alibaba Group(阿里巴巴集团)
我们研究了基于检索的聊天机器人中多轮对话的响应选择。现有的研究更多地关注话语与应答之间的匹配,基于学习到的特征计算匹配分数,导致模型推理能力不足。在本文中,我们提出了一个图推理网络(GRN)来解决这个问题。GRN首先基于ALBERT进行预训练,使用专门为响应选择设计的下一个话语预测和话语顺序预测任务。这两个定制的预训练任务可以赋予我们的模型捕捉话语之间的语义和时间依赖的能力。然后,我们微调的模型与序列推理和图形推理结构的集成网络。序列推理模块从全局的角度出发,基于高度概括的话语-应答对的上下文向量进行推理。图推理模块从局部角度对话语级图神经网络进行推理。在两个会话推理数据集上的实验表明,我们的模型可以显着优于强基线方法,并可以达到接近人类水平的性能。
2021-01-15 cs.AI cs.CL
TurnSight: Turn-Level Hindsight Self-Distillation for Tool-Integrated Reasoning
针对工具集成推理中现有方法缺乏细粒度监督的问题,提出TurnSight框架,通过回合级事后自蒸馏生成可靠监督信号,在三个基准上验证了其有效性。
2026-08-05 cs.AI cs.CL