大模型推理能力

HintMR: Eliciting Stronger Mathematical Reasoning in Small Language Models

HintMR：在小型语言模型中激发更强的数学推理

Jawad Hossain, Xiangyu Guo, Jiawei Zhou, Chong Liu

机构 * University at Albany（阿尔巴尼大学） ； University at Buffalo（布法罗大学） ； Stony Brook University（石溪大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HintMR框架，通过提示辅助引导小型语言模型进行多步数学问题解决，通过协作的双模型系统提升推理准确性，实验表明在多种数学基准上显著提升性能。

Comments 15 pages, 5 figures, Preprint

MathAgent: Adversarial Evolution of Constraint Graphs for Mathematical Reasoning Data Synthesis

MathAgent: 基于约束图的对抗进化用于数学推理数据合成

Zixiong Yu, Jun Rao, Guhan Chen, Songtao Tian, Bohan Li, Jiansheng Wei, Min Zhang, Xiaojun Meng

机构 * Huawei Large Model Data Technology Lab（华为大模型数据技术实验室） ； Tsinghua University（清华大学） ； Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Kyoto University（京都大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MathAgent框架，通过约束图的对抗进化生成高质量数学推理数据，提升模型在八个数学基准上的泛化能力。

Comments Accepted by ACL 2026 findings

ERPO: Token-Level Entropy-Regulated Policy Optimization for Large Reasoning Models

ERPO：基于熵调节的策略优化用于大推理模型

Song Yu, Li Li, Wenwen Zhao, Zhisheng Yang

机构 * School of Computer and Information Science, Southwest University（西南大学计算机与信息科学学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 ERPO通过引入熵感知门控、桶式隐式归一化和结果锚定优势合成，解决大语言模型中因统一优势信号导致的探索不足问题，提升推理准确性和路径简洁性。

Comments 17 pages, 5 figures

Dynamical Systems Theory Behind a Hierarchical Reasoning Model

层次推理模型背后的动力系统理论

Vasiliy A. Es'kin, Mikhail E. Smorkalov

机构 * Department of Radiophysics, University of Nizhny Novgorod（尼日尼诺夫戈罗德大学无线电物理系） ； Huawei Nizhny Novgorod Research Center（华为尼日尼诺夫戈罗德研究中心） ； Skolkovo Institute of Science and Technology（斯克洛科夫科学与技术研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Contraction Mapping Model，通过将离散递归推理转化为连续的NODEs/NSDEs，提供数学严谨且稳定的推理引擎，在Sudoku-Extreme基准测试中取得93.7%的准确率，优于现有模型。

When and Why Does Unsupervised RL Succeed in Mathematical Reasoning? A Manifold Envelopment Perspective

在何种情况下和为何无监督强化学习在数学推理中成功？一种流形包裹视角

Zelin Zhang, Fei Cheng, Chenhui Chu

机构 * Kyoto University（京都大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究无监督强化学习在数学推理中的成功条件，提出通过流形包裹视角分析其稳定性与失效原因，设计内在奖励机制并揭示基础逻辑先验对性能的影响。

Comments work in progress

Shorten After You're Right: Lazy Length Penalties for Reasoning RL

在正确后缩短：用于推理RL的懒惰长度惩罚

Danlong Yuan, Tian Xie, Shaohan Huang, Zhuocheng Gong, Huishuai Zhang, Chong Luo, Furu Wei, Dongyan Zhao

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出三种集成到大推理模型强化学习过程中的奖励设计，通过减少响应长度而不增加训练阶段，实验证明在逻辑推理和数学问题中均显著缩短响应长度并保持或提升性能。

Comments Under review

Reasoning Boosts Opinion Alignment in LLMs

推理提升大语言模型中的观点一致性

Frédéric Berdoz, Yann Billeter, Yann Vonlanthen, Roger Wattenhofer

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究通过结构化推理提升大语言模型的观点一致性，验证了推理在改善观点建模中的有效性，但指出仍需进一步机制以减少偏见。

Comments Accepted at ICLR 2026

Confidence-Calibrated Small-Large Language Model Collaboration for Cost-Efficient Reasoning

置信度校准的小-大语言模型协作用于成本有效的推理

Chuang Zhang, Zizhen Zhu, Yihao Wei, Bing Tian, Junyi Liu, Henan Wang, Xavier Wang, Yaxiao Liu

机构 * Amazon Web Services（亚马逊网络服务） ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 COREA通过结合小型和大型语言模型，利用置信度校准提升推理效率，降低21.5%-16.8%成本，同时保持高准确率。

Comments Accepted to EACL 2026 Main Conference

To Think or Not To Think, That is The Question for Large Reasoning Models in Theory of Mind Tasks

思考还是不思考，这是大型推理模型在心智理论任务中的问题

Nanxu Gong, Haotian Li, Sixun Dong, Jianxun Lian, Yanjie Fu, Xing Xie

机构 * Arizona State University, Tempe, Arizona, United States（亚利桑那州立大学） ； Microsoft Research Asia, Beijing, China（微软亚洲研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了大型推理模型在心智理论任务中的表现，发现其并不总优于非推理模型，且依赖选项匹配而非真实推理，提出干预方法以缓解问题。

DRPO: Efficient Reasoning via Decoupled Reward Policy Optimization

DRPO：通过解耦奖励策略优化实现高效推理

Gang Li, Yan Chen, Ming Lin, Tianbao Yang

机构 * Texas A&M University（德克萨斯A&M大学） ； The University of Virginia（弗吉尼亚大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 DRPO通过解耦奖励策略优化，有效解决大型推理模型过度思考问题，实现高效推理并减少响应延迟。

Comments Accepted to ICLR 2026

AReaL: A Large-Scale Asynchronous Reinforcement Learning System for Language Reasoning

AReaL: 一种用于语言推理的大规模异步强化学习系统

Wei Fu, Jiaxuan Gao, Xujie Shen, Chen Zhu, Zhiyu Mei, Chuyi He, Shusheng Xu, Guo Wei, Jun Mei, Jiashu Wang, Tongkai Yang, Binhang Yuan, Yi Wu

机构 * IIIS, Tsinghua University（清华信息学院） ； Ant Group（蚂蚁集团） ； HKUST（香港科技大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 AReaL通过异步机制提升大语言模型推理训练效率，实现GPU利用率显著提升

Strategy Executability in Mathematical Reasoning: Leveraging Human-Model Differences for Effective Guidance

数学推理中的策略可执行性：利用人类-模型差异实现有效指导

Weida Liang, Yiyou Sun, Shuyuan Nan, Chuang Li, Dawn Song, Kenji Kawaguchi

机构 * National University of Singapore（新加坡国立大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出SSR框架，通过显式建模策略可执行性，利用人类-模型差异提升数学推理的指导效果。

InftyThink: Breaking the Length Limits of Long-Context Reasoning in Large Language Models

InftyThink: 突破大型语言模型长上下文推理的长度限制

Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Mengdi Zhang, Jian Shao, Yueting Zhuang

机构 * Zhejiang University（浙江大学） ； Meituan Group（美团集团） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 InftyThink通过迭代推理与中间摘要机制，突破大型语言模型长上下文推理的长度限制，提升推理深度与效率。

Comments ICLR 2026: https://openreview.net/forum?id=T1h5em349L Project Page: https://zju-real.github.io/InftyThink Code: https://github.com/ZJU-REAL/InftyThink

MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task

MathFimer: 通过填空中间任务扩展推理步骤以增强数学推理

Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 MathFimer通过填空中间任务扩展推理步骤，提升大语言模型的数学推理能力，无需依赖强大外部模型或昂贵计算资源。

Comments ICLR 2026: https://openreview.net/forum?id=14i2wzPPfn

AbstRaL: Augmenting LLMs' Reasoning by Reinforcing Abstract Thinking

AbstRaL: 通过强化抽象思维增强大语言模型的推理能力

Silin Gao, Antoine Bosselut, Samy Bengio, Emmanuel Abbe

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 AbstRaL通过强化学习提升LLM的抽象推理能力，有效缓解GSM扰动基准测试中的性能下降，并提升模型在OD数学和一般推理任务上的泛化能力。

Comments ICLR 2026

Thinking by Subtraction: Confidence-Driven Contrastive Decoding for LLM Reasoning

通过减法思考：基于置信度的对比解码用于大语言模型推理

Lexiang Tang, Weihao Gao, Bingchen Zhao, Lu Ma, Qiao jin, Bang Yang, Yuexian Zou

机构 * Peking University, Beijing, China（北京大学） ； University of Edinburgh, Edinburgh, UK（爱丁堡大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 通过置信度驱动的对比解码方法提升大语言模型推理可靠性，减少输出长度并提高准确性。

Training Large Reasoning Models Efficiently via Progressive Thought Encoding

通过渐进性思维编码高效训练大型推理模型

Zeliang Zhang, Xiaodong Liu, Hao Cheng, Hao Sun, Chenliang Xu, Jianfeng Gao

机构 * University of Rochester（罗切斯特大学） ； Microsoft Research（微软研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 通过渐进性思维编码方法，提升大型推理模型在有限内存下的推理效率和准确性。

Comments ICLR 2026, 15 pages

m1: Unleash the Potential of Test-Time Scaling for Medical Reasoning with Large Language Models

m1：通过大语言模型的测试时缩放释放医疗推理的潜力

Xiaoke Huang, Juncheng Wu, Hui Liu, Xianfeng Tang, Yuyin Zhou

机构 * UC Santa Cruz（加州大学圣克ruz分校） ； Amazon Research（亚马逊研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出m1方法，通过测试时缩放提升医疗推理能力，发现最佳推理预算和医学知识不足是关键瓶颈。

Comments 17 pages; 7 figures; Data, code, and models: https://github.com/UCSC-VLAA/m1 ; Accepted by ML4H'25

wd1: Weighted Policy Optimization for Reasoning in Diffusion Language Models

wd1: 为扩散语言模型推理的加权策略优化

Xiaohang Tang, Rares Dolga, Sangwoong Yoon, Ilija Bogunovic

机构 * Department of Statistical Science, University College London, United Kingdom（伦敦大学统计科学系） ； UCL AI Centre, University College London, United Kingdom（伦敦大学UCL人工智能中心） ； Graduate School of AI, Ulsan National Institute of Science and Technology, South Korea（韩国乌山国立科学与技术研究院人工智能研究生院） ； Department of Mathematics and Computer Science, Universität Basel, Switzerland（巴塞尔大学数学与计算机科学系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 wd1通过加权策略优化提升扩散语言模型推理能力，实现更高准确率和更低计算成本。

Comments Accepted to ICLR 2026

ADORA: Training Reasoning Models with Dynamic Advantage Estimation on Reinforcement Learning

ADORA: 通过强化学习中的动态优势估计训练推理模型

Qingnan Ren, Shiting Huang, Zhen Fang, Zehui Chen, Lin Chen, Lijun Li, Feng Zhao

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 ADORA通过动态优势估计提升强化学习中推理模型的训练效率与稳定性

The Reasoning Lingua Franca: A Double-Edged Sword for Multilingual AI

推理通用语：多语言AI的双刃剑

Alan Saji, Raj Dabre, Anoop Kunchukuttan, Ratish Puduppully

机构 * Nilekani Centre at AI4Bharat（AI4Bharat人工智能中心） ； Indian Institute of Technology Madras（印度理工学院马德拉斯分校） ； Google（谷歌） ； Microsoft（微软） ； IT University of Copenhagen（丹麦技术大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究探讨了大型推理模型在多语言环境下的推理能力，发现英语推理在准确性上表现更优，但可能因翻译错误导致问题，揭示了多语言AI的双刃剑特性。

Comments 14 pages, 13 figures, 5 tables

Generating Data-Driven Reasoning Rubrics for Domain-Adaptive Reward Modeling

生成数据驱动的推理评分标准以实现领域自适应奖励建模

Kate Sanders, Nathaniel Weir, Sapana Chaudhary, Kaj Bostrom, Huzefa Rangwala

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出数据驱动的推理评分标准，用于提升领域自适应奖励建模的错误检测能力，实验显示其在技术领域任务准确性提升达45%

Back to Basics: Revisiting Exploration in Reinforcement Learning for LLM Reasoning via Generative Probabilities

回归基础：通过生成概率重新审视强化学习中LLM推理的探索

Pengyi Li, Elizaveta Goncharova, Andrey Kuznetsov, Ivan Oseledets

机构 * FusionBrain Lab, Russia（融合脑实验室，俄罗斯） ； Institute of Numerical Mathematics, Russia（数值数学研究所，俄罗斯） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 通过生成概率重新审视强化学习中LLM推理的探索，提出ARM机制平衡置信度，提升生成多样性与准确性。

Beyond KL Divergence: Policy Optimization with Flexible Bregman Divergences for LLM Reasoning

超越KL散度：基于灵活Bregman散度的群体策略优化用于大语言模型推理

Rui Yuan, Mykola Khandoga, Vinay Kumar Sankarapu

机构 * Lexsi Labs（Lexsi实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GBMPO框架，通过灵活Bregman散度提升大语言模型在数学推理和代码生成任务中的性能。

Beyond Alignment: Expanding Reasoning Capacity via Manifold-Reshaping Policy Optimization

超越对齐：通过流形重塑策略优化扩展推理能力

Dayu Wang, Jiaye Yang, Weikang Li, Jiahui Liang, Yang Li

机构 * Baidu Inc.（百度公司） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出流形重塑策略优化方法，通过几何干预扩展LLM的推理能力，实验证明其在数学任务中优于现有模型。

Generalization or Hallucination? Understanding Out-of-Context Reasoning in Transformers

泛化还是幻觉？理解Transformer中的上下文推理

Yixiao Huang, Hanlin Zhu, Tianyu Guo, Jiantao Jiao, Somayeh Sojoudi, Michael I. Jordan, Stuart Russell, Song Mei

机构 * UC Berkeley（加州大学伯克利分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了Transformer中上下文推理机制，揭示其驱动泛化与幻觉的双重性，并通过理论分析与实验验证了矩阵因子化在其中的关键作用。

Comments NeurIPS 2025, first three authors contributed equally

Enhancing LLM Reasoning via Non-Human-Like Reasoning Path Preference Optimization

通过非人类样式推理路径偏好优化增强大语言模型推理

Junjie Lu, Yuliang Liu, Chaofeng Qu, Wei Shen, Zhouhan Lin, Chuheng Zhang, Min Xu

机构 * University of Technology Sydney（悉尼技术大学） ； Shanghai Innovation Institute（上海创新研究院） ； Southeast University（东南大学） ； Microsoft Research（微软研究院） ； Nanjing University（南京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Independent Researcher（独立研究者） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CGPO方法，通过置信度信号优化推理路径，提升大语言模型在代码和数学推理任务中的性能。

Comments 15 pages

Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B Technical Report

Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B 技术报告

Zhuoran Yang, Ed Li, Jianliang He, Aman Priyanshu, Baturay Saglam, Paul Kassianik, Sajana Weerawardhena, Anu Vellore, Blaine Nelson, Neusha Javidnia, Arthur Goldblatt, Fraser Burch, Avi Zohary, Assaf Eisenman, Mahdi Sabbaghi, Supriti Vijay, Rahim Dharssi, Dhruv Kedia, Kojin Oshiba, Yaron Singer, Amin Karbasi

机构 * Foundation AI–Cisco Systems Inc.（Foundation AI–Cisco系统公司） ； Yale University（耶鲁大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； University of Pennsylvania（宾夕法尼亚大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B 是首个开源的网络安全专用推理模型，通过结合监督微调和强化学习训练，实现了在网络安全任务上的高性能表现。

Comments 31 pages, 5 figures, 7 tables

Gained in Translation: Privileged Pairwise Judges Enhance Multilingual Reasoning

翻译中获益：特权成对评判增强多语言推理

Lintang Sutawika, Gokul Swamy, Zhiwei Steven Wu, Graham Neubig

机构 * Carnegie Mellon University, Language Technologies Institute（卡内基梅隆大学语言技术研究所） ； Carnegie Mellon University, Robotics Institute（卡内基梅隆大学机器人研究所） ； Carnegie Mellon University, Software and Societal Systems Department（卡内基梅隆大学软件与社会系统系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 SP3F通过自我扮演和特权成对反馈提升多语言推理能力，无需目标语言数据，有效提升模型在多语言任务中的表现。

Comments Code available at https://github.com/lintangsutawika/SP3F

SpatialMath: Spatial Comprehension-Infused Symbolic Reasoning for Mathematical Problem-Solving

SpatialMath: 基于空间认知的符号推理框架用于数学问题解决

Ashutosh Bajpai, Akshat Bhandari, Akshay Nambi, Tanmoy Chakraborty

机构 * Indian Institute of Technology Delhi（印度理工学院德里） ； Indian Institute of Technology Abu Dhabi（印度理工学院阿布扎克） ； Microsoft Research（微软研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 SpatialMath通过整合空间表示到结构化符号推理链中，提升多模态模型在视觉密集型数学问题中的推理能力。