大模型推理能力

Asking the Right Questions: Improving Reasoning with Generated Stepping Stones

问对问题：通过生成的中间步骤提升推理能力

Hengyuan Hu, Tingchen Fu, Minqi Jiang, Alexander H Miller, Yoram Bachrach, Jakob Nicolaus Foerster

机构 * FAIR at Meta（Meta的FAIR） ； Stanford University（斯坦福大学） ； University of Oxford（牛津大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文研究了生成中间步骤对提升LLM推理能力的作用，提出ARQ框架通过生成问题增强推理过程，展示了生成问题的有效性和训练方法。

Stabilizing Knowledge, Promoting Reasoning: Dual-Token Constraints for RLVR

稳定知识，促进推理：双令牌约束用于RLVR

Jiakang Wang, Runze Liu, Fuzheng Zhang, Xiu Li, Guorui Zhou, Ling Pan

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Kuaishou Technology（快手科技） ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出Archer框架，通过双令牌约束在RLVR中平衡优化，提升LLM的推理和知识保持能力，实验显示在数学推理和代码生成任务中表现优异。

Inducing Overthink: Hierarchical Genetic Algorithm-based DoS Attack on Black-Box Large Language Reasoning Models

诱导过度思考：基于分层遗传算法的黑盒大语言推理模型DoS攻击

Shuqiang Wang, Wei Cao, Jiaqi Weng, Jialing Tao, Licheng Pan, Hui Xue, Zhixuan Chu

机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出一种基于分层遗传算法的黑盒攻击方法，通过系统扰动输入问题的逻辑结构，诱导大语言模型产生过度思考，从而引发资源耗尽攻击。

Comments Accepted at ICML 2026. Code available at: https://github.com/EndlessCao/Overthink-HGA

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026), PMLR 306, 2026

Seirênes: Adversarial Self-Play with Evolving Distractions for LLM Reasoning

Seirênes：具有演变干扰的对抗自博弈用于LLM推理

Chi Zhang, Haibo Qiu, Qiming Zhang, Yufei Xu, Xinbo Gao, Jing Zhang

机构 * School of Computer Science, Wuhan University（武汉大学计算机学院） ； Independent Researchers（独立研究者） ； Xidian University（西安电子科技大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Seirênes通过对抗自博弈框架将LLM推理中的上下文干扰转化为训练信号，提升推理鲁棒性，在多个数学推理基准测试中取得显著提升。

M2A: Synergizing Mathematical and Agentic Reasoning in Large Language Models

M2A：在大型语言模型中协同数学与代理推理

Junjian Wang, Xin Zhou, Qiran Xu, Kun Zhan

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Li Auto Inc.（Li Auto公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出M2A框架，通过模型融合协同数学与代理推理，提升多任务学习下的推理稳定性与性能。

Crosslingual On-Policy Self-Distillation for Multilingual Reasoning

跨语言在线策略自蒸馏用于多语言推理

Yihong Liu, Raoyuan Zhao, Michael A. Hedderich, Hinrich Schütze

机构 * Center for Information and Language Processing, LMU Munich（信息与语言处理中心，慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出COPSD方法，通过将高资源语言的推理行为迁移到低资源语言，提升多语言推理能力，实验显示其在17种低资源非洲语言上表现优异，优于GRPO。

Comments preprint

Beyond Accuracy: Evaluating Strategy Diversity in LLM Mathematical Reasoning

超越准确性：评估大语言模型数学推理中的策略多样性

Xia Yang, Xuanyi Zhang, Hao Hu, Feng Ji

机构 * University of Toronto（多伦多大学） ； Upper Canada College（上加拿大学院） ； East China Normal University（华东师范大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究探讨了大语言模型在数学推理中策略多样性与准确性之间的关系，发现策略多样性是评估数学推理的重要补充维度。

SARL: Label-Free Reinforcement Learning by Rewarding Reasoning Topology

SARL：通过奖励推理拓扑实现无标签强化学习

Yifan Wang, Bolian Li, David Cho, Ruqi Zhang, Fanping Sui, Ananth Grama

机构 * Purdue University（普渡大学） ； Texas Instruments（德州仪器） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出SARL框架，通过奖励推理拓扑而非最终结果来提升大模型的推理能力，在可验证数学任务和非可验证开放任务中均取得显著性能提升。

Ranking Reasoning LLMs under Test-Time Scaling

在测试时间扩展下对推理LLM进行排名

Mohsen Hariri, Michael Hinczewski, Jing Ma, Vipin Chaudhary

机构 * Department of Computer and Data Sciences（计算机与数据科学系） ； Department of Physics（物理系） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出Scorio库，通过统计排名方法评估推理模型，在20个数学竞赛基准上验证了多种排名方法的有效性，并展示了在不同测试时间扩展下的性能。

Comments Code is available at https://github.com/mohsenhariri/scorio

Journal ref The 64th Annual Meeting of the Association for Computational Linguistics (ACL), 2026

Rubric-Grounded RL: Structured Judge Rewards for Generalizable Reasoning

基于评分标准的强化学习：用于通用推理的结构化评判奖励

Manish Bhattarai, Ismael Boureima, Nishath Rajiv Ranasinghe, Scott Pakin, Dan O'Malley

机构 * Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出基于评分标准的强化学习框架，通过LLM评判器生成多标准奖励，提升模型在通用推理任务中的表现。

Implicit Compression Regularization: Concise Reasoning via Internal Shorter Distributions in RL Post-Training

隐式压缩正则化：通过内部更短分布实现简洁推理（在强化学习后训练）

Chen Wang, Hexuan Deng, Yining Zhang, Yuchen Zhang, Jionghao Bai, Zhaochun Li, Ge Lan, Yue Wang

机构 * College of Software, Nankai University（南开大学软件学院） ； Zhongguancun Academy（中关村学院） ； Harbin Institute of Technology（哈尔滨工业大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； East China Normal University（华东师范大学） ； Zhejiang University（浙江大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出隐式压缩正则化（ICR），通过内部更短分布实现简洁推理，改进强化学习后训练中的推理效率和准确性。

Scheduling Your LLM Reinforcement Learning with Reasoning Trees

用推理树调度你的LLM强化学习

Hong Wang, Zhezheng Hao, Jian Luo, Chenxing Wei, Yao Shu, Lei Liu, Qiang Lin, Hande Dong, Jiawei Chen

机构 * Cranberry-Lemon University（Cranberry-Lemon 大学） ； University of the Witwatersrand（独立研究者） ； Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出基于推理树结构的Re-Schedule算法，通过r-score衡量查询难度，提升数据效率和准确性，实验显示在数学推理任务中平均准确率提升3.2%。

Tandem: Riding Together with Large and Small Language Models for Efficient Reasoning

Tandem: 大小语言模型协同以实现高效的推理

Zichuan Fu, Xian Wu, Guojing Li, Yejing Wang, Yijun Chen, Zihao Zhao, Yixuan Luo, Hanyu Yan, Yefeng Zheng, Xiangyu Zhao

机构 * City University of Hong Kong（香港城市大学） ； Tencent Jarvis Lab（腾讯Jarvis实验室） ； Renmin University of China（中国人民大学） ； Westlake University（西湖大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Tandem通过结合大语言模型和小语言模型，减少计算成本并提升推理质量，实验表明其在数学推理和代码生成任务中性能优越。

Comments ACL 2026 Findings

LLM-Assisted Op-Amp Behavioral-Level Design via Agentic Human-Mimicking Reasoning

通过代理人类模拟推理的LLM辅助运算放大器行为级设计

Zihao Chen, Ziyi Sun, Jiayin Wang, Ji Zhuang, Jinyi Shen, Xiaoyue Ke, Li Shang, Xuan Zeng, Fan Yang

机构 * State Key Laboratory of Integrated Chips and Systems（集成芯片与系统国家重点实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出White-Op框架，利用大语言模型代理的类人推理能力，实现运算放大器行为级参数设计，通过符号推理与数值求解分离方法，结合模拟验证和迭代优化，提升设计可解释性与电路功能保持性。

Beyond Math: Stories as a Testbed for Memorization-Constrained Reasoning in LLMs

超越数学：故事作为LLM中受记忆限制推理的测试平台

Yuxuan Jiang, Francis Ferraro

机构 * Department of Computer Science and Electrical Engineering（计算机科学与电气工程系） ； University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文通过故事测试平台探讨LLM在记忆受限推理中的表现，提出减少机械记忆的方法，发现记忆驱动性能下降，揭示现有基准测试的数据污染问题。

Comments published on EACL 2026 Main

Toward Automated Robustness Evaluation of Mathematical Reasoning

迈向数学推理的自动化鲁棒性评估

Yutao Hou, Zeguan Xiao, Fei Yu, Yihan Jiang, Ma Shuguang, Zhaoqian Dai, Hailiang Huang, Yun Chen, Guanhua Chen

机构 * Shanghai University of Finance and Economics（上海金融学院） ； Ant Group（蚂蚁集团） ； Southern University of Science and Technology（南方科技大学） ； MoE Key Laboratory of Interdisciplinary Research of Computation and Economics（计算与经济学交叉学科研究教育部重点实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出Math Stress Tester框架，通过多轮重写验证循环生成对抗样本，提升数学推理任务的鲁棒性评估能力，并验证其在非数学任务中的扩展性。

Comments Accepted by Findings of ACL2026

TRACES: Tagging Reasoning Steps for Adaptive Cost-Efficient Early-Stopping

TRACES：用于适应性成本高效提前停止的推理步骤标记

Yannis Belkhiter, Seshu Tirupathi, Giulio Zizzo, John D. Kelleher

机构 * IBM Research Europe（IBM欧洲研究院） ； Trinity College Dublin（三一学院） ； ADAPT Research Centre（ADAPT研究中心） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 TRACES通过实时标记推理步骤，实现大语言模型推理的适应性成本高效提前停止，通过监控特定步骤类型提升数学和知识推理任务的效率与准确性。

Kalman Filter Enhanced GRPO for Reinforcement Learning-Based Language Model Reasoning

卡尔曼滤波增强的GRPO用于基于强化学习的语言模型推理

Hu Wang, Congbo Ma, Ian Reid, Mohammad Yaqub

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； New York University Abu Dhabi（纽约大学阿布扎克分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出KRPO，通过卡尔曼滤波估计潜在提示级奖励基线，提升语言模型推理的训练奖励和准确性。

Multi-modal Reasoning with LLMs for Visual Semantic Arithmetic

基于LLM的多模态推理用于视觉语义算术

Chuou Xu, Liya Ji, Qifeng Chen

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出两种新型任务和IRPD数据集，通过SAri-RFT方法提升大视觉语言模型的跨模态关系推理能力，实现视觉语义算术的突破。

Mind the (DH) Gap! A Contrast in Risky Choices Between Reasoning and Conversational LLMs

注意（DH）差距！理性推理与对话LLM在风险选择中的对比

Luise Ge, Yongyan Zhang, Yevgeniy Vorobeychik

机构 * Washington University in St. Louis（华盛顿大学圣路易斯分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究通过对比推理模型与对话模型在风险决策中的表现，发现前者更理性，后者更接近人类但受因素影响更大。

Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data

过于正确而无法学习：在饱和推理数据上进行强化学习

Zhenwen Liang, Yujun Zhou, Sidi Lu, Xiangliang Zhang, Haitao Mi, Dong Yu

机构 * Tencent AI Lab（腾讯AI实验室） ； University of Notre Dame（诺丁汉大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出CUTS策略，通过约束均匀Top-K采样增强探索，结合Mixed-CUTS框架提升推理多样性，实验显示在AIME25基准上Pass@1准确率提升15.1%。

Comments ACL 2026 Main Paper

ErrorRadar: Benchmarking Complex Mathematical Reasoning of Multimodal Large Language Models Via Error Detection

ErrorRadar：通过错误检测基准测试多模态大语言模型的复杂数学推理能力

Yibo Yan, Shen Wang, Jiahao Huo, Hang Li, Boyan Li, Jiamin Su, Xiong Gao, Yi-Fan Zhang, Tianlong Xu, Zhendong Chu, Aoxiao Zhong, Kun Wang, Hui Xiong, Philip S. Yu, Xuming Hu, Qingsong Wen

机构 * Squirrel AI ； HKUST(GZ)（香港科技大学(广州)） ； HKUST（香港科技大学） ； MSU（密歇根州立大学） ； UCAS（中国科学技术大学） ； University of Illinois at Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 ErrorRadar通过错误检测任务评估多模态大语言模型在复杂数学推理中的能力，包含2500个高质量K-12数学问题，实验显示GPT-4o仍比人类评价差10%。

Comments Accepted by The 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026, Findings)

MCPO: Mastery-Consolidated Policy Optimization for Large Reasoning Models

MCPO：面向大推理模型的 mastery-consolidated 策略优化

Zhaokang Liao, Yingguo Gao, Yi Yang, Yongheng Hu, Jingting Ding

机构 * Ant Group（蚂蚁集团） ； Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出 MCPO 算法，通过引入 hinge-KL 正则化和优先机制，解决高准确度提示下的策略漂移和巩固问题，提升大模型推理性能。

Agentic Frameworks for Reasoning Tasks: An Empirical Study

代理框架用于推理任务：一项实证研究

Zeeshan Rasheed, Abdul Malik Sami, Muhammad Waseem, Kai-Kristian Kemell, Mika Saari, Pekka Abrahamsson

机构 * Faculty of Information Technology and Communication Sciences, Tampere University（信息科技与通信科学学院，塔尔塔大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文通过实证研究评估了22种代理框架在BBH、GSM8K和ARC三个推理基准上的表现，发现19种框架完成所有任务，其中12种性能稳定，但数学推理能力下降显著。

Comments 43 Pages, 3 Figures, and 9 Tables

SpiralThinker: Latent Reasoning through an Iterative Process with Text-Latent Interleaving

SpiralThinker: 通过文本-潜在交织的迭代过程进行潜在推理

Shengmin Piao, Sanghyun Park

机构 * Yonsei University（延世大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 SpiralThinker通过文本-潜在交织的迭代过程实现稳定潜在推理，结合渐进对齐目标和结构化标注，提升推理稳定性与一致性，实现数学、逻辑和常识推理任务的SOTA性能。

Comments Accepted by ACL 2026 Findings

Disentangling Mathematical Reasoning in LLMs: A Methodological Investigation of Internal Mechanisms

解构大语言模型中的数学推理：对内部机制的调查

Tanja Baeumel, Josef van Genabith, Simon Ostermann

机构 * German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Saarland University（萨尔兰大学） ； Center for European Research in Trusted AI (CERTAIN)（可信人工智能欧洲研究中心） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 研究通过分析LLM执行算术任务时的内部机制，揭示模型在早期层识别算术任务，但正确结果生成仅在最终层完成，并发现擅长算术的模型在注意力与MLP模块间有明确分工。

Comments MathNLP 2025

Think Multilingual, Not Harder: A Data-Efficient Framework for Teaching Reasoning Models to Code-Switch

多语言思考，而非更难：一种数据高效的框架，用于教授推理模型进行语言混合

Eleanor M. Lin, David Jurgens

机构 * University of Michigan（密歇根大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出一种数据高效的框架，用于识别并教授推理模型更有效的语言混合行为，通过分析不同模型的语言混合行为，开发出有效的微调干预措施，提升推理模型的语言混合能力。

Curing Miracle Steps in LLM Mathematical Reasoning with Rubric Rewards

用评分奖励模型治愈大语言模型数学推理中的奇迹步骤

Youliang Yuan, Qiuyang Mang, Jingbang Chen, Hong Wan, Xiaoyuan Liu, Junjielong Xu, Jen-tse Huang, Wenxuan Wang, Wenxiang Jiao, Pinjia He

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen, China（数据科学学院，香港中文大学（深圳）） ； UC Berkeley（加州大学伯克利分校） ； Zhejiang University（浙江大学） ； Johns Hopkins University（约翰霍普金斯大学） ； Renmin University of China（中国人民大学） ； Xiaohongshu Inc.（小红书公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文通过评分奖励模型解决大语言模型数学推理中的奇迹步骤问题，通过系统分析和人类验证建立失败模式分类，提升推理准确性和可靠性。

Comments Accepted by ACL 2026 Main, 22 pages, 10 figures, 7 Tables

Unlocking Exploration in RLVR: Uncertainty-aware Advantage Shaping for Deeper Reasoning

解锁RLVR中的探索：面向更深层次推理的不确定性感知优势塑造

Can Xie, Ruotong Pan, Xiangyu Wu, Yunfei Zhang, Jiayi Fu, Tingting Gao, Guorui Zhou

机构 * Kuaishou Technology（快手科技） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出UCAS方法，通过不确定性感知的优势塑造提升RLVR中的推理能力，解决探索效率低和熵崩溃问题，实验表明在多个数学推理基准上表现优异。

Comments 20 pages, 4 figures, ACL2026

When Slower Isn't Truer: Inverse Scaling Law of Truthfulness in Multimodal Reasoning

当慢并非真：多模态推理中真理性的反比例定律

Sitong Fang, Wenjing Cao, Jiahao Li, Xuyao Wang, Juntao Dai, Chi-Min Chan, Sirui Han, Yike Guo, Yaodong Yang, Jiaming Ji

机构 * Institute for AI（人工智能研究院） ； Peking University（北京大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究探讨了多模态推理中慢思考模式的反比例定律，发现慢思考模型在面对不完整或误导性视觉输入时更易生成虚假细节，揭示了推理模型在处理模糊输入时的脆弱性。

Comments Accepted at ACL 2026