大模型推理能力

MAGE: Multi-Agent Self-Evolution with Co-Evolutionary Knowledge Graphs

MAGE：多智能体自进化与共进化知识图谱

Ruiyi Yang, Zechen Li, Hao Xue, Imran Razzak, Flora D. Salim

机构 * University of New South Wales（新南威尔士大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） ； Mohamed Bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 MAGE通过共进化知识图谱实现多智能体自进化，利用冻结弱骨干模型与任务级搜索带宽及技能级路由带宽协同更新，提升冻结学习者在多个领域任务中的表现。

Comments 25 pages, 3 figures

f-GRPO and Beyond: Divergence-Based Reinforcement Learning Algorithms for General LLM Alignment

f-GRPO 与 beyond：基于发散性的强化学习算法用于通用大语言模型对齐

Rajdeep Haldar, Lantao Mei, Guang Lin, Yue Xing, Qifan Song

机构 * Department of Statistics, Purdue University（普渡大学统计学系） ； Department of Statistics, Michigan State University（密歇根州立大学统计学系） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出f-GRPO和f-HAL算法，通过发散性估计提升大语言模型对齐效果，在数学推理任务中改进GRPO并缓解奖励黑客问题。

Re$^2$Math: Benchmarking Theorem Retrieval in Research-Level Mathematics

Re²Math：研究级数学中的定理检索基准测试

Zicheng Lyu, Wenjie Yang, Shengzhong Zhang, Zengfeng Huang

机构 * Fudan University（复旦大学） ； Fudan University Shanghai Innovation Institute（复旦大学上海创新研究院） ； Nanjing University of Aeronautics and Astronautics（南京航空航天大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 Re²Math基准测试旨在评估从部分数学证明中检索工具的能力，通过构建包含层级上下文和可选泄漏控制锚点提示的实例，评估系统在检索文献支持的数学工具时的准确性与适用性。

CoDistill-GRPO: A Co-Distillation Recipe for Efficient Group Relative Policy Optimization

CoDistill-GRPO：一种高效的群体相对策略优化共蒸馏方法

Soo Min Kwon, Ziteng Sun, Ananda Theertha Suresh, Himanshu Jain, Sanjiv Kumar

机构 * University of Michigan, Ann Arbor（密歇根大学，安阿伯分校） ； Google Research（谷歌研究院） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出CoDistill-GRPO，通过同时训练大模型和小模型，利用精心设计的GRPO目标提升小模型性能，减少计算开销，在数学基准上显著优于标准GRPO。

Mid-Training with Self-Generated Data Improves Reinforcement Learning in Language Models

中期使用自生成数据提升语言模型中的强化学习

Aswin RRV, Jacob Dineen, Divij Handa, Mihir Parmar, Ben Zhou, Swaroop Mishra, Chitta Baral

机构 * Arizona State University（亚利桑那州立大学） ； Google Cloud AI Research（谷歌云人工智能研究） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文研究在强化学习前使用多样化的自生成数据提升语言模型的强化学习效果，通过自生成数据训练后，模型在数学推理等任务中表现更优。

CoCoDA: Co-evolving Compositional DAG for Tool-Augmented Agents

CoCoDA：用于工具增强代理的共进化组合DAG

Ziyang Yu, Qiyue Li, Liang Zhao

机构 * Emory University（埃默里大学） ； Beijing Normal-Hong Kong Baptist University（北京师范大学-香港 Baptist大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 CoCoDA通过共进化规划器和工具库，利用组合代码DAG结构提升工具库检索效率和规划效果，实现在数学推理和代码任务中的性能提升。

The Differences Between Direct Alignment Algorithms are a Blur

直接对齐算法之间的差异变得模糊

Alexey Gorbatovski, Boris Shaposhnikov, Viacheslav Sinii, Alexey Malakhov, Daniil Gavrilov

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文系统比较了直接对齐算法，发现排名目标是影响对齐质量的主要因素，而特定的标量分数次之。

NSMQ Riddles: A Benchmark of Scientific and Mathematical Riddles for Quizzing Large Language Models

NSMQ谜题：一个科学和数学谜题的基准，用于评估大型语言模型

George Boateng, Naafi Ibrahim, Samuel John, Philemon Badu, Patrick Agyeman-Budu, Jonathan Mensah, Kevin Yeboah, William Edor, Andrew Mensa-Onumah, Nana Yeboah, Victor Wumbor-Apin Kumbol

机构 * ETH Zurich（苏黎世联邦理工学院） ； Charité - Universitätsmedizin Berlin（柏林夏里特医学院） ； Kwame AI Inc.（夸梅人工智能公司） ； Ashesi University（阿什西大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出NSMQ谜题基准，基于加纳国家科学与数学竞赛的谜题，评估大型语言模型的科学和数学推理能力，发现即使是最先进的模型也难以应对。

Comments 15 pages. Accepted at the 27th International Conference on Artificial Intelligence in Education

BoHA: Blockwise Hadamard Product Adaptation for Parameter-Efficient Fine-Tuning

BoHA：基于块状哈达玛积的参数高效微调

Feng Yu, Jia Hu, Geyong Min

机构 * Department of Computer Science（计算机科学系） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 BoHA通过块状哈达玛积适配在参数受限下提升模型微调性能，保留初始任务表现，优于LoRA并在连续学习中表现优异。

Beyond Negative Rollouts: Positive-Only Policy Optimization with Implicit Negative Gradients

超越负回滚：仅正回滚的策略优化

Mingwei Xu, Hao Fang

机构 * University of Washington（华盛顿大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出POPO框架，通过仅使用在线正回滚进行学习，避免负回滚，并通过siamese网络和相似性惩罚提升稳定性，实验证明其在数学基准测试中性能优于GRPO。

EternalMath: A Living Benchmark of Frontier Mathematics that Evolves with Human Discovery

EternalMath: 一个与人类发现同步演化的前沿数学基准

Jicheng Ma, Guohua Wang, Xinhua Feng, Yiming Liu, Zhichao Hu, Yuhong Liu

机构 * School of Mathematics, Renmin University of China（中国人民大学数学学院） ； Tencent（腾讯） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出一个自动化数学推理评估框架，通过将最新数学文献转化为可执行任务，构建可扩展的EternalMath基准，揭示LLM在前沿数学上的性能差距。

Deep Thinking by Markov Chain of Continuous Thoughts

基于连续思维的马尔可夫链深度思考

Jiayu Liu, Zhenya Huang, Xuan Yang, Tianyun Ji, Anya Sims, Hao Xu, Enhong Chen, Yee Whye Teh, Ning Miao

机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（认知智能国家重点实验室，中国科学技术大学） ； Department of Statistics, University of Oxford（牛津大学统计系） ； Department of Data Science, City University of Hong Kong（香港城市大学数据科学系） ； Hong Kong Institute of AI for Science, City University of Hong Kong（香港人工智能科学研究院，香港城市大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出MarCos模型，通过连续表示实现多步推理，提升数学任务处理速度，实现并行思维。

Decouple before Integration: Test-time Synthesis of SFT and RLVR Task Vectors

在整合前解耦：测试时合成SFT和RLVR任务向量

Chaohao Yuan, Chenghao Xiao, Yu Rong, Hong Cheng, Long-Kai Huang

机构 * Department of Systems Engineering and Engineering Management, Chinese University of Hong Kong, Hong Kong, China（系统工程与工程管理系，香港中文大学，香港，中国） ； Department of Computer Science, Hong Kong Baptist University, Hong Kong, China（计算机科学系，香港 Baptist 大学，香港，中国） ； DAMO Academy, Alibaba Group, Hangzhou, China（达摩院，阿里巴巴集团，杭州，中国） ； Hupan Lab, Hangzhou, China（虎派实验室，杭州，中国） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出DoTS框架，通过测试时任务向量运算解耦SFT和RLVR，减少干扰并提升性能，实验表明其在多个数学推理基准上表现优异。

TUR-DPO: Topology- and Uncertainty-Aware Direct Preference Optimization

TUR-DPO：基于拓扑和不确定性的直接偏好优化

Abdulhady Abas Abdullah, Fatemeh Daneshfar, Seyedali Mirjalili, Mourad Oussalah

机构 * Artificial Intelligence and Innovation Centre, University of Kurdistan, Erbil, Iraq（人工智能与创新中心，乌尔米耶大学，伊拉克） ； Department of Computer Engineering, University of Kurdistan, Iran（计算机工程系，乌尔米耶大学，伊朗） ； Centre for Artificial Intelligence Research and Optimisation, Torrens University Australia, Brisbane, Australia（人工智能研究与优化中心，塔伦斯大学澳大利亚，布里斯班，澳大利亚） ； Research and Innovation Center, Obuda University, Budapest 1034, Hungary（研究与创新中心，奥布达大学，布达佩斯1034，匈牙利） ； Center for Machine Vision and Signal Analysis (CMVS), University of Oulu, Finland（机器视觉与信号分析中心（CMVS），奥卢大学，芬兰） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 TUR-DPO通过引入轻量级推理拓扑和结合语义忠实度、效用和拓扑质量，提升偏好对齐的稳定性与鲁棒性，同时保持训练简洁性和无需在线回滚。

Comments Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)

Compiling Deterministic Structure into SLM Harnesses

将确定性结构编译进SLM以获取优势

Zan Kai Chong, Hiroyuki Ohsaki, Bryan Ng

机构 * School of Science and Technology（科学与技术学系） ； Kwansei Gakuin University（冈山学院大学） ； School of Engineering & Computer Science（工程与计算机科学学系） ； Victoria University of Wellington（惠灵顿维多利亚大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出SGDe框架，通过编译代理工作流为离散执行计划，提升SLM在推理和数据主权方面的性能。

Placing Puzzle Pieces Where They Matter: A Question Augmentation Framework for Reinforcement Learning

将拼图碎片放在关键位置：一种用于强化学习的问题增强框架

Yangyi Fang, Jiaye Lin, Xiaoliang Fu, Cong Qin, Haolin Shi

机构 * Tsinghua University（清华大学） ； Fudan University（复旦大学） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出PieceHint框架，通过战略性提供关键推理步骤，解决强化学习中训练易问题过拟合和训练难问题奖励稀疏的问题，实验表明其在数学推理基准上性能优异且保持pass@k多样性。

Distributional Alignment Games for Answer-Level Fine-Tuning

分布对齐博弈用于答案级微调

Mehryar Mohri, Jon Schneider, Yifan Wu

机构 * Google Research（谷歌研究） ； Microsoft Research（微软研究） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出分布对齐博弈框架，通过策略与目标的博弈达到答案级优化，统一了多样性与自改进方法，提升数学推理任务效率。

Exploring the Limits of Pruning: Task-Specific Neurons, Model Collapse, and Recovery in Task-Specific Large Language Models

探索剪枝的极限：任务特定神经元、模型崩溃与任务特定大语言模型中的恢复

M. K. Khalidi Siam, Md. Tausif-Ul-Islam, Md. Reshad Romim Khan, Mohammed Ali Hossain, Mushfiqul Amin, Labib Hasan Khan, Niloy Farhan, Farig Sadeque

机构 * BRAC University（布拉格大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 研究通过系统剪枝实验揭示任务特定语言模型中神经元的专有性，发现任务特定神经元对性能至关重要，剪枝策略影响模型鲁棒性和恢复能力。

PAINT: Partial-Solution Adaptive Interpolated Training for Self-Distilled Reasoners

PAINT：部分解适应插值训练用于自蒸馏推理器

Zhiquan Tan, Yinrong Hong

机构 * Tsinghua University（清华大学） ； Beihang University（北航） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 PAINT通过部分解适应插值训练，在自蒸馏推理器中提升大语言模型的推理能力，优于现有基线方法。

Student Guides Teacher: Weak-to-Strong Inference via Spectral Orthogonal Exploration

学生指导教师：通过频谱正交探索实现弱到强推断

Dayu Wang, Jiaye Yang, Weikang Li, Jiahui Liang, Yang Li, Deguo Xia, Jizhou Huang

机构 * Baidu Inc.（百度公司） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出Spectral Orthogonal Exploration框架，通过正交探针引入语义异质性推理信号，提升数学推理任务的准确率和采样效率。

Comments Accepted to ACL 2026 Main Conference

Heterogeneous Adaptive Policy Optimization: Tailoring Optimization to Every Token's Nature

异质自适应策略优化：针对每个token的性质进行定制化优化

Zheng Liu, Mengjie Liu, Siwei Wen, Mengzhang Cai, Bin Cui, Conghui He, Wentao Zhang

机构 * Peking University Shanghai AI Laboratory（北京大学上海人工智能实验室） ； Beihang University（北京航空航天大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； Peking University Zhongguancun Academy, 5 Beijing Key Laboratory of Software and Hardware Cooperative Artificial Intelligence Systems（北京大学中关村学院，5北京软件硬件协同人工智能系统重点实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出HAPO算法，通过熵度量异质性指导优化，实现细粒度调节。算法包含四个核心组件，通过token级处理提升LLM在数学推理、代码和逻辑任务中的性能。

From Insight to Action: A Novel Framework for Interpretability-Guided Data Selection in Large Language Models

从洞察到行动：一种新的框架，用于基于可解释性指导的数据选择在大语言模型中

Ling Shi, Xinwei Wu, Xiaohu Zhao, Hao Wang, Heng Liu, Yangyang Liu, Linlong Xu, Longyue Wang, Deyi Xiong, Weihua Luo

机构 * TJUNLP Lab, School of Computer Science and Technology, Tianjin University, China（天津大学计算机科学与技术学院TJUNLP实验室，中国） ； Alibaba Group, China（阿里巴巴集团，中国） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出IGDS框架，通过内部任务特征识别和选择共振数据来提升大语言模型性能，实验显示在数学推理任务中数据效率提升显著。

From Prototype to Classroom: An Intelligent Tutoring System for Quantum Education

从原型到课堂：面向量子教育的智能辅导系统

Iizalaarab Elhaimeur, Nikos Chrisochoides

机构 * Center for Real-Time Computing（实时计算中心） ； Computer Science Department（计算机科学系） ； Old Dominion University（旧 Dominion 大学） ； Physics Departments（物理系） 纠错

专题命中 数学推理 ：planning(abstract)；分类 cs.AI

AI总结 本文提出ITAS系统，通过多智能体架构和课程设计解决量子教育中的可靠性问题，验证系统在真实课堂中的可行性及教学分析能力。

Comments 10 pages, 6 figures, 1 table. Submitted to IEEE QCE 2026. Companion papers (in preparation): ITAS architecture and latency analysis

Differentiable Faithfulness Alignment for Cross-Model Circuit Transfer

可微的忠实对齐用于跨模型电路转移

Shun Shao, Binxu Wang, Shay B. Cohen, Anna Korhonen, Yonatan Belinkov

机构 * University of Cambridge（剑桥大学） ； Kempner Institute, Harvard University（哈佛大学凯普勒研究所） ； University of Edinburgh（爱丁堡大学） ； Technion（技术学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出DFA框架，通过学习可微对齐将小模型的电路信息转移到大模型，实验证明在事实检索、多选推理和算术任务中，DFA在Llama-3 1B→3B任务中表现优异，且在某些情况下恢复的电路忠实度不低于直接归因。

Comments 10 pages, 5 figures

Guided Speculative Inference for Efficient Test-Time Alignment of LLMs

引导推测推断用于大型语言模型的高效测试时间对齐

Jonathan Geuter, Youssef Mroueh, David Alvarez-Melis

机构 * Harvard SEAS（哈佛大学SEAS学院） ； Kempner Institute（Kempner研究所） ； IBM Research（IBM研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出引导推测推断（GSI），通过结合软最佳n次测试时间缩放、奖励模型和小型辅助模型的推测样本，提高大语言模型的奖励引导解码效率，并在多个基准测试中实现更高的准确性和更低的延迟。

Comments 41 pages, 11 figures. Published at ICLR 2026

Doubly Saturated Ramsey Graphs: A Case Study in Computer-Assisted Mathematical Discovery

双重饱和的Ramsey图：计算机辅助数学发现的一个案例研究

Benjamin Przybocki, John Mackey, Marijn J. H. Heule, Bernardo Subercaseaux

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文通过结合SAT求解与定制生成的代码，发现无限多的双重饱和Ramsey图，回答了Grinstead和Roberts在1982年的疑问，并利用LLM生成形式化证明，展示自动化推理、大语言模型和形式验证在数学发现中的潜力。

Forage V2: Knowledge Evolution and Transfer in Autonomous Agent Organizations

Forage V2：自主代理组织中的知识进化与转移

Huaqing Xie

机构 * Independent Researcher（独立研究者） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 Forage V2通过构建学习型组织架构，实现知识积累与跨模型转移，提升自主代理任务的可靠性与效率。

Mechanistic Interpretability of Large-Scale Counting in LLMs through a System-2 Strategy

通过系统2策略解析大语言模型中大规模计数的机制

Hosein Hasani, Mohammadali Banayeeanzade, Ali Nafisi, Sadegh Mohammadian, Fatemeh Askari, Mobin Bagherian, Amirmohammad Izadi, Mahdieh Soleymani Baghshah

机构 * Sharif University of Technology（谢里夫理工大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出一种系统2策略，通过分解大计数任务为小问题来提升LLM计数精度，揭示了计数机制并验证了其有效性。

Comments ACL 2026

A Control Architecture for Training-Free Memory Use

无训练记忆使用的控制架构

Yanzhen Lu, Muchen Jiang, Zhicheng Qian, Xingyu Zhou

机构 * Shanghai Qizhi Institute（上海启智研究所） ； Nanjing Whale Cloud（南京鲸云） ； Southeast University（东南大学） ； Xiamen University（厦门大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出一种无训练环境下记忆使用的控制方法，通过不确定性路由、置信度选择和记忆银行治理，提升推理任务表现。

Bridging the Culture Gap: A Framework for LLM-Driven Socio-Cultural Localization of Math Word Problems in Low-Resource Languages

弥合文化鸿沟：一种基于LLM的数学应用题社会文化本地化的框架

Israel Abebe Azime, Tadesse Destaw Belay, Dietrich Klakow, Philipp Slusallek, Anshuman Chhabra

机构 * Saarland University（萨尔兰大学） ； Saarland Informatics Campus（萨尔兰信息技术校园） ； Instituto Politécnico Nacional（墨西哥理工学院） ； University of South Florida（佛罗里达州立大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出一种基于LLM的数学应用题社会文化本地化框架，通过自动构建包含本地名称、组织和货币的本地化数据集，缓解英语中心主义偏差并提升模型鲁棒性。