大模型推理能力

DOS: Dependency-Oriented Sampler for Masked Diffusion Language Models

DOS：基于依赖关系的掩码扩散语言模型采样器

Xueyu Zhou, Yangrong Hu, Jian Huang

机构 * Department of Data Science and AI（数据科学与人工智能系） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 DOS是一种无需训练的解码策略，通过利用令牌间依赖关系提升生成质量，尤其在代码生成和数学推理任务中表现优异，且能与现有并行采样方法结合提升效率。

Comments 16 pages, 5 figures

When Right Meets Wrong: Bilateral Context Conditioning with Reward-Confidence Correction for GRPO

当正确与错误相遇：基于奖励-信心校正的双侧上下文条件化GRPO

Yu Li, Tian Lan, Zhengling Qi

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出BICC和RCC机制，通过对比正确与错误推理轨迹提升GRPO性能，无需额外采样或辅助模型，实验证明在数学推理基准上表现更优。

To Mix or To Merge: Toward Multi-Domain Reinforcement Learning for Large Language Models

混合还是合并：为大语言模型的多领域强化学习而努力

Haoqing Wang, Xiang Long, Ziheng Li, Yilong Xu, Tingguang Li, Yehui Tang

机构 * Samsung Research（三星研究院） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本研究提出M2RL框架，通过混合多任务训练或模型合并策略，提升大语言模型在多领域任务中的推理能力。

In-Context Reinforcement Learning for Tool Use in Large Language Models

上下文强化学习用于大型语言模型中的工具使用

Yaoqi Ye, Yiran Zhao, Keyu Duan, Zeyu Zheng, Kenji Kawaguchi, Cihang Xie, Michael Qizhe Shieh

机构 * National University of Singapore（新加坡国立大学） ； Salesforce AI Research（Salesforce AI研究） ； University of California Berkeley（加州大学伯克利分校） ； University of California, Santa Cruz（加州大学圣克ruz分校） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出ICRL框架，通过强化学习无需微调即可实现大型语言模型的工具使用能力，实验显示其在推理和工具任务中表现优异。

Adaptive Collaboration with Humans: Metacognitive Policy Optimization for Multi-Agent LLMs with Continual Learning

适应性协作与人类：多智能体大语言模型的元认知策略优化与持续学习

Wei Yang, Defu Cao, Jiacheng Pang, Muyan Weng, Yan Liu

机构 * University of Southern California（南加州大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 HILA框架通过元认知策略优化与持续学习，实现多智能体与人类的协同协作，提升复杂任务处理能力。

Query-Level Uncertainty in Large Language Models

查询级不确定性在大语言模型中

Lihu Chen, Gerard de Melo, Fabian M. Suchanek, Gaël Varoquaux

机构 * Imperial College London（伦敦帝国学院） ； Hasso Plattner Institute / University of Potsdam（霍普夫纳研究所/波茨坦大学） ； Telecom Paris, Institut Polytechnique de Paris（电信巴黎学院，巴黎理工学院） ； Soda, Inria Saclay（Soda，法国国家信息与自动化技术研究院萨克利实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本研究提出了一种无需训练的内部置信度方法，用于检测大语言模型的知识边界，通过查询级不确定性提高回答质量并降低计算成本。

Comments ICLR 2026

Re4: Scientific Computing Agent with Rewriting, Resolution, Review and Revision

Re4: 具有重写、推理、审查和修订的科学计算代理

Ao Cheng, Lei Zhang, Guowei He

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 Re4提出一种基于重写、推理、审查和修订机制的科学计算代理，通过协作框架提升代码生成的可靠性与准确性。

Comments 31 pages, 31 figures, Presented at the ICLR 2026 Workshop on AI and Partial Differential Equations (AI&PDE)

The FM Agent

FM代理

Annan Li, Chufan Wu, Zengle Ge, Yee Hin Chong, Zhinan Hou, Lizhe Cao, Cheng Ju, Jianmin Wu, Huaiming Li, Haobo Zhang, Shenghao Feng, Mo Zhao, Fengzhi Qiu, Rui Yang, Mengmeng Zhang, Wenyi Zhu, Yingying Sun, Quan Sun, Shunhao Yan, Danyu Liu, Dawei Yin, Dou Shen

机构 * Baidu AI Cloud（百度AI云） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 FM代理是一种利用LLM推理和进化搜索的通用多代理框架，能够自主解决复杂问题并达到先进水平。

FrugalRAG: Less is More in RL Finetuning for Multi-Hop Question Answering

FrugalRAG: 在多跳问答中少即是多

Abhinav Java, Srivathsan Koundinyan, Nagarajan Natarajan, Amit Sharma

机构 * Microsoft Research India（微软印度研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 FrugalRAG通过强化学习减少检索步骤，实现多跳问答任务的高效准确权衡。

Behavioral Generative Agents for Energy Operations

行为生成代理在能源运营中的应用

Cong Chen, Omer Karaduman, Xu Kuang

机构 * Thayer School of Engineering, Dartmouth College（达特茅斯学院泰勒工程学院） ； Graduate School of Business, Stanford University（斯坦福大学商学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出利用生成代理模拟客户决策，揭示能源运营中消费者行为模式，提升能源管理系统设计和政策分析能力。

ParamMem: Augmenting Language Agents with Parametric Reflective Memory

ParamMem: 通过参数化反思记忆增强语言代理

Tianjun Yao, Yongqiang Chen, Yujia Zheng, Pan Li, Zhiqiang Shen, Kun Zhang

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 ParamMem通过参数化记忆模块提升语言代理的反思多样性，实现更高效的推理和跨任务迁移能力。

Comments 20 pages

PARL: Prompt-based Agents for Reinforcement Learning

PARL：基于提示的强化学习智能体

Yarik Menchaca Resendiz, Roman Klinger

机构 * Fundamentals of Natural Language Processing, University of Bamberg, Germany（自然语言处理基础，巴姆伯格大学，德国） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 PARL是一种基于提示的强化学习智能体，利用预训练语言模型在无需微调的情况下完成RL任务，适用于简单环境但受限于复杂数学运算任务。

Interleaved Head Attention

交错头部注意力

Sai Surya Duvvuri, Chanakya Ekbote, Rachit Bansal, Rishabh Tiwari, Devvrit Khatri, David Brandfonbrener, Paul Liang, Inderjit Dhillon, Manzil Zaheer

机构 * Meta ； UT Austin（德克萨斯大学） ； UC Berkeley（伯克利大学） ； Harvard University（哈佛大学） ； MIT（麻省理工学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 交错头部注意力通过构造伪头实现跨头混合，提升多步推理效率，在多项式任务和顺序敏感任务中参数效率提高，实测在RULER和OpenThoughts上取得显著提升。

Pipeline for Verifying LLM-Generated Mathematical Solutions

验证大语言模型生成数学解的管道

Varvara Sazonova, Dmitri Shmelkin, Stanislav Kikot, Vasily Motolygin

机构 * Moscow State University（莫斯科国立大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本研究提出了一种验证大语言模型数学解的管道，通过提示生成特定形式的解以提高验证准确性，并提供开源实现。

ATTS: Asynchronous Test-Time Scaling via Conformal Prediction

ATTS: 通过置信预测实现异步测试时间扩展

Jing Xiong, Qiujiang Chen, Fanghua Ye, Zhongwei Wan, Chuanyang Zheng, Chenyang Zhao, Hui Shen, Hanbo Li, Chaofan Tao, Haochen Tan, Haoli Bai, Lifeng Shang, Lingpeng Kong, Ngai Wong

机构 * The University of Hong Kong（香港大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） ； University College London（伦敦大学学院） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 ATTS通过异步测试时间扩展方法，在保持精度的同时实现测试时间扩展的显著加速和吞吐量提升。

Comments Accepted by ICLR 2026

TROLL: Trust Regions improve Reinforcement Learning for Large Language Models

TROLL：通过信任区域改进大型语言模型的强化学习

Philipp Becker, Niklas Freymuth, Serge Thilges, Fabian Otto, Gerhard Neumann

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 TROLL通过引入基于信任区域的离散可微投影，改进了大型语言模型的强化学习训练，提升了训练速度、稳定性和最终成功率。

Comments Published as a conference paper at ICLR 2026

MathScape: Benchmarking Multimodal Large Language Models in Real-World Mathematical Contexts

MathScape：在现实数学情境中评估多模态大语言模型

Hao Liang, Linzhuang Sun, Minxuan Zhou, Zirong Chen, Meiyi Qiang, Mingan Lin, Tianpeng Li, Fan Yang, Zenan Zhou, Wentao Zhang

机构 * Peking University（北京大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； Nankai University（南开大学） ； Beijing Institute of Technology（北京理工大学） ； Baichuan Inc.（百度文心） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 MathScape是一个评估多模态大语言模型在现实数学情境中推理能力的新基准，揭示了现有模型在现实任务中的局限性。

MentalBlackboard: Evaluating Spatial Visualization via Mathematical Transformations

MentalBlackboard: 通过数学变换评估空间可视化能力

Nilay Yilmaz, Maitreya Patel, Naga Sai Abhiram Kusumba, Yixuan He, Yezhou Yang

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 数学推理 ：planning(abstract)；分类 cs.LG

AI总结 MentalBlackboard通过数学变换评估模型的空间可视化能力，揭示其在预测和规划任务中的局限性。

Watermarking LLM Agent Trajectories

对LLM代理轨迹进行水印标记

Wenlong Meng, Chen Gong, Terry Yue Zhuo, Fan Zhang, Kecen Li, Zheng Liu, Zhou Yang, Chengkun Wei, Wenzhi Chen

机构 * Zhejiang University, China（浙江大学） ； University of Virginia, USA（弗吉尼亚大学） ； Alibaba Qwen, China（阿里巴巴通义实验室） ； University of Alberta, Canada（阿尔伯塔大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出ActHook，一种针对LLM代理轨迹数据集的水印方法，通过在决策点插入钩子动作实现可靠的黑盒检测，实验显示其在数学推理等任务中具有高检测精度且性能影响小。

Comments 20 pages, 9 figures

MerLean: An Agentic Framework for Autoformalization in Quantum Computation

MerLean：一个用于量子计算自动形式化的代理框架

Yuanjie Ren, Jinzheng Li, Yidi Qi

机构 * Massachusetts Institute of Technology（麻省理工学院） ； Northeastern University（东北大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 MerLean通过自动化形式化框架将量子计算论文中的数学语句转化为Lean代码并回译为可读格式，实现端到端验证，为同行评审和合成数据训练提供实用工具。

Improving Interactive In-Context Learning from Natural Language Feedback

通过自然语言反馈提升交互式上下文学习

Martin Klissarov, Jonathan Cook, Diego Antognini, Hao Sun, Jingling Li, Natasha Jaques, Claudiu Musat, Edward Grefenstette

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本研究提出一种框架，通过自然语言反馈提升模型交互式上下文学习能力，使模型在多轮交互中表现更优，并具备自我纠正能力。

LACONIC: Length-Aware Constrained Reinforcement Learning for LLM

LACONIC：面向LLM的长度感知约束强化学习

Chang Liu, Yiran Zhao, Lawrence Liu, Yaoqi Ye, Csaba Szepesvári, Lin F. Yang

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Salesforce AI Research（Salesforce AI研究院） ； National University of Singapore（新加坡国立大学） ； University of Alberta（阿尔伯塔大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 LACONIC通过长度感知约束强化学习，在保持任务性能的同时有效控制输出长度，减少50%以上。

R-Diverse: Mitigating Diversity Illusion in Self-Play LLM Training

R-Diverse: 缓解自博弈LLM训练中的多样性幻觉

Gengsheng Li, Jinghan He, Shijie Wang, Dan Zhang, Ruiqi Liu, Renrui Zhang, Zijun Yao, Junfeng Fang, Haiyun Guo, Jinqiao Wang

机构 * Foundation Model Research Center, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所基础模型研究中心） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Wuhan AI Research（武汉人工智能研究所） ； National University of Singapore（新加坡国立大学） ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 R-Diverse通过引入记忆增强惩罚和技能感知测量，缓解自博弈LLM训练中的多样性幻觉问题，提升模型推理能力。

Discrete Adjoint Matching

离散共轭匹配

Oswin So, Brian Karrer, Chuchu Fan, Ricky T. Q. Chen, Guan-Horng Liu

机构 * Massachusetts Institute of Technology（麻省理工学院） ； FAIR at Meta（Meta 的 FAIR） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出离散共轭匹配方法，用于微调离散生成模型，通过离散域上的共轭估计器解决熵正则化奖励优化问题。

Comments ICLR 2026

Mathematics and Machine Creativity: A Survey on Bridging Mathematics with AI

数学与人工智能：连接数学与AI的综述

Shizhe Liang, Wei Zhang, Tianyang Zhong, Tianming Liu

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文综述了AI在数学研究中的应用，探讨了AI通过提供灵活框架和归纳推理能力，如何支持数学研究，并促进数学与AI的跨学科理解。

Comments This article is withdrawn due to internal authorship and supervisory considerations that require clarification before the work can proceed in its current form. After further review, I believe it is appropriate to pause and formally resolve these matters to ensure full compliance with institutional and collaborative research policies

$\mathcal{X}$-KD: General Experiential Knowledge Distillation for Large Language Models

$\mathcal{X}$-KD：用于大型语言模型的通用经验知识蒸馏

Yuang Cai, Yuyu Yuan

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出$\mathcal{X}$-KD，通过模拟教师的原始学习环境，提升大型语言模型的蒸馏效果，优于现有基线方法。

Temperature as a Meta-Policy: Adaptive Temperature in LLM Reinforcement Learning

温度作为元策略：LLM强化学习中的自适应温度

Haoran Dang, Cuiling Lan, Hai Wan, Xibin Zhao, Yan Lu

机构 * Tsinghua University（清华大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 TAMPO通过将温度控制转化为可学习的元策略，实现了LLM强化学习中的自适应探索，优于固定或启发式温度方法。

Comments Accepted at ICLR 2026. 10 pages (main text) + supplementary material, 6 figures

Beyond Parameter Arithmetic: Sparse Complementary Fusion for Distribution-Aware Model Merging

超越参数运算：用于分布感知模型融合的稀疏互补融合

Weihong Lin, Lin Sun, Qilong Shi, Aomufei Yuan, Yuxuan Tian, Zhengyang Wang, Guangxiang Zhao, Xiangzheng Zhang, Tong Yang

机构 * Beijing Qiyuan Technology Co., Ltd.（北京启元科技有限公司） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出SCF-RKL方法，通过稀疏、分布感知的更新控制功能干扰，提升模型融合的稳定性与泛化能力。

Expanding the Capabilities of Reinforcement Learning via Text Feedback

通过文本反馈扩展强化学习的能力

Yuda Song, Lili Chen, Fahim Tajwar, Remi Munos, Deepak Pathak, J. Andrew Bagnell, Aarti Singh, Andrea Zanette

机构 * Department of XXX, University of YYY, Location, Country（YYY大学XXX系） ； School of ZZZ, Institute of WWW, Location, Country（WWW研究所ZZZ学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出通过文本反馈改进强化学习的方法，通过自我蒸馏和反馈建模在推理、数学和写作任务中超越基线性能。

Comments 43 pages, 6 figures

Unveiling Super Experts in Mixture-of-Experts Large Language Models

揭示混合专家大语言模型中的超级专家

Zunhai Su, Qingyuan Li, Hao Zhang, Weihao Ye, Qibo Xue, YuLei Qian, Yuchen Xie, Ngai Wong, Kehong Yuan

机构 * Tsinghua University（清华大学） ； Meituan（美团） ； Xiamen University（厦门大学） ； Nanjing University（南京大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 研究揭示了混合专家大语言模型中起关键作用的超级专家，通过分析其影响发现其在数学推理中的重要性，并探讨了压缩这些专家对模型性能的显著影响。

Comments Published as a conference paper at ICLR 2026