大模型推理能力

Mind the (DH) Gap! A Contrast in Risky Choices Between Reasoning and Conversational LLMs

注意（DH）差距！理性推理与对话LLM在风险选择中的对比

Luise Ge, Yongyan Zhang, Yevgeniy Vorobeychik

机构 * Washington University in St. Louis（华盛顿大学圣路易斯分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究通过对比推理模型与对话模型在风险决策中的表现，发现前者更理性，后者更接近人类但受因素影响更大。

Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data

过于正确而无法学习：在饱和推理数据上进行强化学习

Zhenwen Liang, Yujun Zhou, Sidi Lu, Xiangliang Zhang, Haitao Mi, Dong Yu

机构 * Tencent AI Lab（腾讯AI实验室） ； University of Notre Dame（诺丁汉大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出CUTS策略，通过约束均匀Top-K采样增强探索，结合Mixed-CUTS框架提升推理多样性，实验显示在AIME25基准上Pass@1准确率提升15.1%。

Comments ACL 2026 Main Paper

ErrorRadar: Benchmarking Complex Mathematical Reasoning of Multimodal Large Language Models Via Error Detection

ErrorRadar：通过错误检测基准测试多模态大语言模型的复杂数学推理能力

Yibo Yan, Shen Wang, Jiahao Huo, Hang Li, Boyan Li, Jiamin Su, Xiong Gao, Yi-Fan Zhang, Tianlong Xu, Zhendong Chu, Aoxiao Zhong, Kun Wang, Hui Xiong, Philip S. Yu, Xuming Hu, Qingsong Wen

机构 * Squirrel AI ； HKUST(GZ)（香港科技大学(广州)） ； HKUST（香港科技大学） ； MSU（密歇根州立大学） ； UCAS（中国科学技术大学） ； University of Illinois at Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 ErrorRadar通过错误检测任务评估多模态大语言模型在复杂数学推理中的能力，包含2500个高质量K-12数学问题，实验显示GPT-4o仍比人类评价差10%。

Comments Accepted by The 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026, Findings)

MCPO: Mastery-Consolidated Policy Optimization for Large Reasoning Models

MCPO：面向大推理模型的 mastery-consolidated 策略优化

Zhaokang Liao, Yingguo Gao, Yi Yang, Yongheng Hu, Jingting Ding

机构 * Ant Group（蚂蚁集团） ； Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出 MCPO 算法，通过引入 hinge-KL 正则化和优先机制，解决高准确度提示下的策略漂移和巩固问题，提升大模型推理性能。

Agentic Frameworks for Reasoning Tasks: An Empirical Study

代理框架用于推理任务：一项实证研究

Zeeshan Rasheed, Abdul Malik Sami, Muhammad Waseem, Kai-Kristian Kemell, Mika Saari, Pekka Abrahamsson

机构 * Faculty of Information Technology and Communication Sciences, Tampere University（信息科技与通信科学学院，塔尔塔大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文通过实证研究评估了22种代理框架在BBH、GSM8K和ARC三个推理基准上的表现，发现19种框架完成所有任务，其中12种性能稳定，但数学推理能力下降显著。

Comments 43 Pages, 3 Figures, and 9 Tables

SpiralThinker: Latent Reasoning through an Iterative Process with Text-Latent Interleaving

SpiralThinker: 通过文本-潜在交织的迭代过程进行潜在推理

Shengmin Piao, Sanghyun Park

机构 * Yonsei University（延世大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 SpiralThinker通过文本-潜在交织的迭代过程实现稳定潜在推理，结合渐进对齐目标和结构化标注，提升推理稳定性与一致性，实现数学、逻辑和常识推理任务的SOTA性能。

Comments Accepted by ACL 2026 Findings

Disentangling Mathematical Reasoning in LLMs: A Methodological Investigation of Internal Mechanisms

解构大语言模型中的数学推理：对内部机制的调查

Tanja Baeumel, Josef van Genabith, Simon Ostermann

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Saarland University（萨尔兰大学） ； Center for European Research in Trusted AI (CERTAIN)（可信人工智能欧洲研究中心） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 研究通过分析LLM执行算术任务时的内部机制，揭示模型在早期层识别算术任务，但正确结果生成仅在最终层完成，并发现擅长算术的模型在注意力与MLP模块间有明确分工。

Comments MathNLP 2025

Think Multilingual, Not Harder: A Data-Efficient Framework for Teaching Reasoning Models to Code-Switch

多语言思考，而非更难：一种数据高效的框架，用于教授推理模型进行语言混合

Eleanor M. Lin, David Jurgens

机构 * University of Michigan（密歇根大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出一种数据高效的框架，用于识别并教授推理模型更有效的语言混合行为，通过分析不同模型的语言混合行为，开发出有效的微调干预措施，提升推理模型的语言混合能力。

Curing Miracle Steps in LLM Mathematical Reasoning with Rubric Rewards

用评分奖励模型治愈大语言模型数学推理中的奇迹步骤

Youliang Yuan, Qiuyang Mang, Jingbang Chen, Hong Wan, Xiaoyuan Liu, Junjielong Xu, Jen-tse Huang, Wenxuan Wang, Wenxiang Jiao, Pinjia He

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen, China（数据科学学院，香港中文大学（深圳）） ； UC Berkeley（加州大学伯克利分校） ； Zhejiang University（浙江大学） ； Johns Hopkins University（约翰霍普金斯大学） ； Renmin University of China（中国人民大学） ； Xiaohongshu Inc.（小红书公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文通过评分奖励模型解决大语言模型数学推理中的奇迹步骤问题，通过系统分析和人类验证建立失败模式分类，提升推理准确性和可靠性。

Comments Accepted by ACL 2026 Main, 22 pages, 10 figures, 7 Tables

Unlocking Exploration in RLVR: Uncertainty-aware Advantage Shaping for Deeper Reasoning

解锁RLVR中的探索：面向更深层次推理的不确定性感知优势塑造

Can Xie, Ruotong Pan, Xiangyu Wu, Yunfei Zhang, Jiayi Fu, Tingting Gao, Guorui Zhou

机构 * Kuaishou Technology（快手科技） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出UCAS方法，通过不确定性感知的优势塑造提升RLVR中的推理能力，解决探索效率低和熵崩溃问题，实验表明在多个数学推理基准上表现优异。

Comments 20 pages, 4 figures, ACL2026

When Slower Isn't Truer: Inverse Scaling Law of Truthfulness in Multimodal Reasoning

当慢并非真：多模态推理中真理性的反比例定律

Sitong Fang, Wenjing Cao, Jiahao Li, Xuyao Wang, Juntao Dai, Chi-Min Chan, Sirui Han, Yike Guo, Yaodong Yang, Jiaming Ji

机构 * Institute for AI（人工智能研究院） ； Peking University（北京大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究探讨了多模态推理中慢思考模式的反比例定律，发现慢思考模型在面对不完整或误导性视觉输入时更易生成虚假细节，揭示了推理模型在处理模糊输入时的脆弱性。

Comments Accepted at ACL 2026

Mathematical Reasoning Enhanced LLM for Formula Derivation: A Case Study on Fiber NLI Modellin

增强数学推理的LLM用于公式推导：光纤非线性干扰建模的案例研究

Yao Zhang, Yuchen Song, Xiao Luo, Shengnan Li, Xiaotian Jiang, Min Zhang, Danshi Wang

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出一种增强数学推理的生成AI方法，用于光学通信公式推导，聚焦光纤非线性干扰建模，通过结构化提示引导LLM推导出已知闭式ISRS GN表达式并推导出适用于多段C和C+L波段传输的新近似式。

Reasoning Fails Where Step Flow Breaks

推理在步骤流断裂处失效

Xiaoyu Xu, Yulan Pan, Xiaosong Yuan, Zhihong Shen, Minghao Su, Yuanhao Su, Xiaofeng Zhang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Fuzhou University（福州大学） ； Jilin University（吉林大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究提出StepFlow方法，通过修复信息流提升多步骤数学、科学和编码任务的推理准确性，揭示了浅层锁定和深层衰减两种信息流失效模式。

Comments Accepted at ACL 2026

ThinkTwice: Jointly Optimizing Large Language Models for Reasoning and Self-Refinement

ThinkTwice：联合优化大型语言模型以进行推理和自我完善

Difan Jiao, Qianfeng Wen, Blair Yang, Zhenwei Tang, Ashton Anderson

机构 * Department of Computer Science, University of Toronto（多伦多大学计算机科学系） ； Coolwei AI Lab（Coolwei AI实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 ThinkTwice通过两阶段框架联合优化LLM，提升推理和自我完善性能，基于GRPO方法，在多个数学推理基准上优于现有基线。

Comments 27 pages,7 figures,5 tables

Document-Level Numerical Reasoning across Single and Multiple Tables in Financial Reports

跨单表和多表的财务报告中数字推理

Yi-Cheng Wang, Wei-An Wang, Chu-Song Chen

机构 * Department of Computer Science and Information Engineering, National Taiwan University（国立台湾大学资讯工程学系） ； FinTech Center, National Taiwan University（国立台湾大学金融科技中心） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出FinLongDocQA数据集，解决长文档中跨表数字推理问题，发现LLM在长文本中定位和多步计算时存在瓶颈，提出FinLongDocAgent多智能体方法提升可靠性。

BioAlchemy: Distilling Biological Literature into Reasoning-Ready Reinforcement Learning Training Data

生物炼金术：将生物文献提炼为可用于强化学习训练的数据

Brian Hsu, Ozan Gökdemir, Carlo Siebenschuh, Bruce Parrello, Neil Getty, Thomas S. Brettin, Rick L. Stevens, Ian T. Foster, Nicholas Chia, Arvind Ramanathan

机构 * University of Chicago（芝加哥大学） ； Argonne National Laboratory（阿贡国家实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出BioAlchemy方法，通过提炼生物文献生成高质量训练数据，提升生物领域推理性能，最终在生物基准测试中实现9.12%的提升。

Distilling the Thought, Watermarking the Answer: A Principle Semantic Guided Watermark for Large Reasoning Models

提炼思维，标注答案：一种基于原则语义的水印方法用于大型推理模型

Shuliang Liu, Xingyu Li, Hongyi Liu, Dong Fang, Yibo Yan, Bingchen Duan, Qi Zheng, Lingfeng Su, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； The Hong Kong University of Science and Technology（香港科技大学） ； LIGHTSPEED（光速） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出ReasonMark，一种专为推理密集型LLM设计的水印框架，通过分离生成过程为无干扰的思维阶段和水印标注的答案阶段，利用关键性评分提取语义关键标记，提升水印鲁棒性与推理质量。

Comments 31 pages, Published in ICLR 2026

TAPO: Translation Augmented Policy Optimization for Multilingual Mathematical Reasoning

TAPO：多语言数学推理中的翻译增强策略优化

Xu Huang, Zhejian Lai, Zixian Huang, Jiajun Chen, Shujian Huang

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 TAPO通过引入翻译增强策略优化框架，提升多语言数学推理能力，有效结合语言理解和推理能力，优于基线方法并在未见语言和领域任务中表现良好。

When Models Judge Themselves: Unsupervised Self-Evolution for Multimodal Reasoning

当模型自我评判：多模态推理的无监督自进化

Zhengxian Wu, Kai Shi, Chuanrui Zhang, Zirui Liao, Jun Yang, Ni Yang, Qiuying Peng, Luyuan Zhang, Hangrui Xu, Tianhuang Su, Zhenyu Yang, Haonan Lu, Haoqian Wang

机构 * OPPO AI Center（OPPO人工智能中心） ； Tsinghua University（清华大学） ； Nanyang Technological University（南洋理工大学） ； Hefei University of Technology（合肥工业大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出一种无监督自进化框架，通过自一致性信号和动态调节机制，在无需人工标注或外部奖励模型的情况下提升多模态推理性能。

Comments 21 pages, 7 figures

SSR: Speculative Parallel Scaling Reasoning in Test-time

SSR：测试时的推测并行扩展推理

Yuanlin Chu, Bo Wang, Xiang Liu, Hong Chen, Aiwei Liu, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 SSR提出一种无需训练的框架，通过引入分步推测解码加速推理而不牺牲正确性，提升数学推理任务的效率与准确性。

ARISE: Agent Reasoning with Intrinsic Skill Evolution in Hierarchical Reinforcement Learning

ARISE: 在分层强化学习中通过内在技能进化实现智能体推理

Yu Li, Rui Miao, Zhengling Qi, Tian Lan

机构 * Department of Electrical and Computer Engineering, George Washington University（乔治华盛顿大学电气与计算机工程系） ； Department of Mathematical Sciences, University of Texas at Dallas（德克萨斯大学达拉斯分校数学科学系） ； School of Business, George Washington University（乔治华盛顿大学商学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 ARISE提出一种分层强化学习框架，通过共享策略管理高阶技能和生成低阶响应，提升数学推理能力，实验显示其在多个基准测试中优于现有方法。

GRPO and Reflection Reward for Mathematical Reasoning in Large Language Models

GRPO与反思奖励在大语言模型数学推理中的应用

Zhijie Wang

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出GRPO与反思奖励机制相结合的四阶段框架，提升大语言模型的自我反思能力，通过实验验证其在数学推理中的优越性。

Journal ref Applied and Computational Engineering 154 161-166 (2025)

Co-rewarding: Stable Self-supervised RL for Eliciting Reasoning in Large Language Models

共奖励：用于大型语言模型中激发推理的稳定自监督强化学习

Zizhuo Zhang, Jianing Zhu, Xinmu Ge, Zihua Zhao, Zhanke Zhou, Xuan Li, Xiao Feng, Jiangchao Yao, Bo Han

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出Co-rewarding框架，通过引入互补监督提升训练稳定性，通过对比一致性和模型蒸馏方法，在多个数学推理基准上实现性能提升，尤其在Llama-3.2-3B-Instruct上表现突出。

Comments Accepted by ICLR 2026

DeReason: A Difficulty-Aware Curriculum Improves Decoupled SFT-then-RL Training for General Reasoning

DeReason: 一种考虑难度的课程改进了解耦的SFT-然后-RL训练以促进一般推理

Hanxu Hu, Yuxuan Wang, Maggie Huan, Jannis Vamvas, Yinya Huang, Zhijiang Guo, Rico Sennrich

机构 * University of Zurich（苏黎世大学） ； University of Pennsylvania（宾夕法尼亚大学） ； ETH Zurich（苏黎世联邦理工学院） ； HKUST (GZ)（香港科技大学（广州）） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 DeReason通过基于难度的数据解耦策略，优化SFT与RL的训练分配，提升一般推理能力。

Comments 13 pages, 6 figures

IndiMathBench: Autoformalizing Mathematical Reasoning Problems with a Human Touch

IndiMathBench: 用人类触感实现数学推理问题的自动形式化

Param Biyani, Shashank Kirtania, Yasharth Bajpai, Sumit Gulwani, Ashish Tiwari

机构 * Microsoft（微软） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 IndiMathBench通过人机协作管道形式化数学问题，提供具有挑战性的数学推理测试环境。

Zipage: Maintain High Request Concurrency for LLM Reasoning through Compressed PagedAttention

Zipage: 通过压缩分页注意力维持大语言模型推理的高请求并发性

Mengqi Liao, Lu Wang, Chaoyun Zhang, Bo Qiao, Si Qin, Qingwei Lin, Saravan Rajmohan, Dongmei Zhang, Huaiyu Wan

机构 * School of Computer Science and Technology, Beijing Jiaotong University（北京交通大学计算机科学与技术学院） ； Microsoft（微软） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Zipage通过压缩分页注意力技术，在维持高并发的同时实现接近全KV推理性能的高效大语言模型推理

DiSCTT: Consensus-Guided Self-Curriculum for Efficient Test-Time Adaptation in Reasoning

DiSCTT: 基于共识的自我课程学习用于推理中的高效测试时适应

Mohammad Mahdi Moradi, Sudhir Mudur

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 DiSCTT通过动态分配测试时优化策略，提升推理模型在异质问题上的适应效率与稳定性。

Bidirectional Curriculum Generation: A Multi-Agent Framework for Data-Efficient Mathematical Reasoning

双向课程生成：一种用于数据高效数学推理的多智能体框架

Boren Hu, Xiao Liu, Boci Peng, Xinping Zhao, Xiaoran Shang, Yun Zhu, Lijun Wu

机构 * Zhejiang University（浙江大学） ； University of Macau（澳门大学） ； Peking University（北京大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Wuhan University（武汉大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出双向课程生成框架，通过多智能体系统动态生成数据以提升数学推理效率，优化学习轨迹并减少训练样本需求。

NeuroProlog: Multi-Task Fine-Tuning for Neurosymbolic Mathematical Reasoning via the Cocktail Effect

NeuroProlog：通过鸡尾酒效应实现神经符号数学推理的多任务微调

Pratibha Zunjare, Michael Hsiao

机构 * Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 NeuroProlog通过鸡尾酒效应实现神经符号数学推理的多任务微调，提升数学推理准确率并改进程序修复能力。

Learning Structured Reasoning via Tractable Trajectory Control

通过可计算的轨迹控制学习结构化推理

Po-Nien Kung, Zhen Yang, Jeffrey Luo, Cheng-Fu Yang, Haikang Deng, Zi-Yi Dou, Yinfei Yang, Nanyun Peng, Zhe Gan, Kai-Wei Chang

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Apple（苹果公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Ctrl-R通过可计算的轨迹控制学习结构化推理，提升复杂问题解决的多样化推理能力。