大模型推理能力

SAEM: Stage-Aware Expert Management for Memory-Efficient MoE Inference in Chain-of-Thought Reasoning

SAEM：面向思维链推理的内存高效混合专家模型推理的阶段感知型专家管理

Yujie Zhang, Bin Gao, Tulika Mitra

机构 * School of Computing, National University of Singapore（新加坡国立大学计算机学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(title,abstract)；CoT(abstract,abstract_cn)；分类 cs.AI

AI总结 针对思维链推理中MoE模型的内存与延迟问题，提出SAEM阶段感知型专家管理运行时，通过阶段感知缓存等技术提升吞吐量，在受限GPU内存下平均实现1.33倍的性能提升。

Comments Extended version of the paper accepted at DAC 2026. Extends the conference version with evaluations on AIME 2024 and GPQA-Diamond and a prediction-oracle upper-bound analysis

Decoupled Physical Modeling and Execution for Physics Reasoning

用于物理推理的解耦物理建模与执行

Ye Zhang, Xuehang Guo, Rui Pan, Pengfei Yu, Denghui Zhang, Manling Li, Qingyun Wang

机构 * University of Pennsylvania（宾夕法尼亚大学） ； William & Mary（威廉玛丽学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Amazon（亚马逊公司） ； Stevens Institute of Technology（史蒂文斯理工学院） ； Northwestern University（西北大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 该研究提出解耦物理建模与执行的统一框架，通过两阶段后训练策略提升小型大语言模型物理推理性能，在多个基准上实现约3%的平均性能提升。

SRPO: Self-Reflective Policy Optimization for Long-Horizon Reasoning

SRPO：用于长程推理的自反思策略优化

Jialong Liu, Yuling Shi, Ning Yang, Xiaodong Gu, Zuchao Li

机构 * School of artificial intelligence, Wuhan University（武汉大学人工智能学院） ； School of computer science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） ； Institute of automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本研究提出 SRPO 框架，将人类的自反思能力内化到 LLMs 中，无需额外模型即可将稀疏监督转化为密集训练信号，在数学推理等基准上以高数据效率取得了最先进性能。

Comments Accepted to ICML 2026

More Accurate or More Efficient? Evaluating Locally Deployed Compact Open-Weight Language Models for Mathematical Reasoning

更准确还是更高效？评估用于数学推理的本地部署紧凑型开放权重语言模型

Orion Powers, Daniella Seum, Khaled Slhoub

机构 * Florida Institute of Technology（佛罗里达理工学院） ； College of Engineering and Science（工程与科学学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出了一种用于评估本地部署语言模型数学推理性能的受控流程，研究三款紧凑型开放权重模型后发现，无单一模型占优，仅靠准确性不足以选择本地模型。

Comments 8 pages, 1 figure, 6 tables

Ask, Condition or Abstain: Reinforcement Learning for Missing-Premise Reasoning

询问、条件化或弃权：针对缺失前提推理的强化学习

Yongqi Tong, Zhenyu Zhang, Zimi Liu, Kewei Fu, Mingli Song, Haofei Zhang, Junshao Zhang, Hong Zhu, Jiang-Ming Yang, Xin Zhang, Jianshe Li

机构 * Ant International（蚂蚁国际） ； Zhejiang University（浙江大学） ； Dingtalk, Alibaba Group（阿里巴巴集团钉钉） ； Ant Group（蚂蚁集团） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本研究提出ACA-RL框架，结合MPB基准，训练模型应对缺失前提的推理任务，可询问、条件化或弃权，提升欠定问题处理能力。

Comments Accepted to EMNLP 2026

AdaR: A Framework for Equipping LLMs with Adaptive Reasoning

AdaR：为大语言模型（LLM）配备自适应推理能力的框架

Zhejian Lai, Xiang Geng, Zhijun Wang, Yang Bai, Jiahuan Li, Rongxiang Weng, Jingang Wang, Xuezhi Cao, Xunliang Cai, Shujian Huang

机构 * Nanjing University（南京大学） ； Meituan Inc.（美团公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 针对现有LLM数学推理的鲁棒性与泛化性缺陷，本文提出AdaR框架，通过RLVR训练及数据质量保障方法，有效提升了LLM数学推理能力并缓解了相关缺陷。

SPADE: Self-Play in Adaptive Synthetic Executable Environments

SPADE：自适应合成可执行环境中的自博弈

Bo Liu, Simon Yu, Yiding Jiang, Ao Qu, Andrew Zhao, Zichen Liu, Junsu Kim, Zijian Zhou, Seungone Kim, Tongzheng Ren, Mickel Liu, Hanfei Yu, Zhaorun Chen, Weiyan Shi, Paul Pu Liang, Luke Zettlemoyer, Yejin Choi, Natasha Jaques

机构 * University of Washington（华盛顿大学） ； Stanford University（斯坦福大学） ； Northeastern University（东北大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Massachusetts Institute of Technology（麻省理工学院） ； National University of Singapore（新加坡国立大学） ； Seoul National University（首尔大学） ； Stevens Institute of Technology（史蒂文斯理工学院） ； University of Chicago（芝加哥大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.CL、cs.AI

AI总结 SPADE是一种双角色自博弈强化学习框架，让单个LLM同时担任环境设计者与推理智能体，在多类基准上显著提升了语言智能体的性能，推动了开放式自我改进。

Comments Work in progress. Project page: this https URL (https://spade-rl.github.io); Code: this https URL (https://github.com/spade-rl/spade)

LongWoF-Bench: Evaluating EvoMap Genes for Verifiable Long-Workflow Tasks

LongWoF-Bench：评估用于可验证长工作流任务的EvoMap基因

Xiao Zhang, Qumeng Sun, Jihao Li, Yiming Ren, Xiang Liu, Haoyang Zhang, Junjie Wang

机构 * EvoMap ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.CL

AI总结 该研究提出LongWoF-Bench基准，发现通过EvoMap将验证的执行轨迹转化为可复用的Gene，能显著提升多模型在长工作流任务上的表现，且优于Skill和参考蒸馏的Gene。

How to Train a Critic Stably and Efficiently

如何稳定且高效地训练评价模型

Penghui Qi, Xiangxin Zhou, Wee Sun Lee

机构 * National University of Singapore（新加坡国立大学） ； Tencent Hunyuan（腾讯混元） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出BPCO流程稳定高效训练评价模型，在数学推理任务上，其优于基线，且采样1个响应时可匹配或超过基于组的GRPO基线。

Measuring Stability and Failure Behavior in Language Models Under Structured Perturbations

结构化扰动下语言模型的稳定性与失效行为测量

Samira Golsefid

机构 * NeuroLoft（神经 loft（或：神经实验室）） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出分级多类别失效感知框架，在四类模型上测试七种结构化扰动，发现模型失效层级因类别而异，冲突指令与不可能前提问题是所有模型共有的弱点，此类失效无法被标准准确率检测。

Answer First, Reason Later: When Commitment Order Costs Accuracy in Diffusion Language Models

先给出答案，后进行推理：扩散大语言模型中的承诺顺序

Jewon Yeom, Jaewon Sok, Seonghyeon Park, Jeongjae Park, Hwiyeong Lee, Taesup Kim

机构 * Graduate School of Data Science, Seoul National University（首尔国立大学数据科学研究生院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本研究发现扩散大语言模型（dLLMs）的任意顺序提交机制会导致推理失败，通过前沿门控承诺干预可恢复推理性能，同时保留并行解码优势。

How Should LLMs Consume High-Quality Data? Optimal Data Scheduling via Quality-Aware Functional Scaling Laws

LLM应如何消费高质量数据？通过质量感知的功能缩放定律实现最优数据调度

Zhitao Zhu, Xili Wang, Shizhe Wu, Jiawei Fu, Xiaoqing Liu

机构 * Peking University（北京大学） ； Meituan（美团） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过引入数据质量维度扩展功能缩放定律，解析求解了联合数据质量和批次大小调度问题，揭示了高质量数据的双重角色，并提出了Drop-Stable-Rampup调度策略，在15B MoE模型上相比WSD和余弦衰减分别提升平均准确率+1.70和+2.98。

Beyond the Stability-Exploration Dilemma: Environmental Regularization for LLM Policy Optimization

超越稳定性-探索困境：面向大语言模型策略优化的环境正则化方法

Xianlei Zhou, Xiangdi Meng, Yu He, Tianyu Qi, Shuyan Guan, Xianli Zhang, Jian Zhang, Xin Li, Qika Lin, Jun Liu

机构 * Alibaba Group（阿里巴巴集团） ； Beijing Normal University（北京师范大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 该研究针对大语言模型策略优化的稳定性-探索困境，提出ERPO方法，通过查询KL散度正则化输入侧分布，接入现有策略优化流水线，在数学推理基准上实现了更强准确率与更稳定行为。

Comments Accepted to EMNLP 2026 main conference

DIAG: Diagnostic Iterative Alignment and Generation for Data-Efficient Mathematical Preference Distillation

DIAG：面向数据高效数学偏好蒸馏的诊断式迭代对齐与生成

Guhan Chen, Songtao Tian, Bohan Li, Hejin Wang, YeXin Xie, Zixiong Yu

机构 * Tsinghua University（清华大学） ； Kyoto University（京都大学） ； Nanjing University（南京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 DIAG是一种自适应调整训练分布的框架，通过诊断偏好对产出与生成针对性训练数据，提升数学推理任务中偏好监督的信息价值，在同等训练预算下增强模型性能。

Comments Accepted by EMNLP 2026 findings

CAI-DLLM: Convergence Aware Inference for Diffusion Language Models

CAI-DLLM：面向扩散语言模型的感知收敛推理

Farhana Amin, Sabiha Afroz, Dimitrios S. Nikolopoulos

机构 * Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 CAI-DLLM 是一种无需训练的扩散语言模型推理方法，通过利用第一步置信度调整解码策略，在多类任务上实现显著推理加速，同时保持较高准确率并降低能耗。

The geometry of AI validation: Exact certification limits for iid best-of-N search

AI验证的几何：独立同分布N选最优搜索的精确认证极限

Ricardo Fitas

机构 * Technical University of Darmstadt（达姆施塔特工业大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 该研究针对独立同分布N选最优搜索推导了精确认证极限，提出双门审计规则，其在数学推理和代码选择的回顾性分析中可降低保留误差。

Comments 32 pages, 4 figures; includes Supporting Information. Code and processed data are available at this https URL (https://github.com/rfitas-lab/geometry-of-ai-validation)

Rethinking Reverse KL as Adaptive Entropy Distillation

将反向KL重新思考为自适应熵蒸馏

Shizhen Li, Zhiyu Shen, Yuyin Lu, Yunhe Pang, Jielin Song, Yanghui Rao, Fu Lee Wang

机构 * School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院） ； School of Science and Technology, Hong Kong Metropolitan University（香港都会大学科技学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 该研究针对知识蒸馏难以平衡忠实模仿与鲁棒生成的问题，提出自适应熵蒸馏（AED）方法，通过分解反向KL目标函数并利用教师熵动态校准模仿强度，在指令遵循与数学推理基准上表现更优。

Enhancing LLM Metacognition via Cognitive Pairwise Training

通过认知成对训练增强LLM元认知

Weitao Li, Hao Zhou, Xuanyu Lei, Fandong Meng, Yuanhang Liu, Jingyi Ren, Ante Wang, Xiaolong Wang, Yuanchi Zhang, Fuwen Luo, Guangwen Yang, Lin Gan, Weizhi Ma, Yang Liu

机构 * National Engineering Laboratory for Intelligent Information Processing, Academy of Mathematics and Physics, Chinese Academy of Sciences（智能信息处理国家工程实验室，中国科学院数学物理研究所） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 提出认知成对训练（CPT），通过成对比较推理轨迹来学习区分可靠与不可靠推理，从而提升LLM的推理与元认知权衡。

When Less Latent Leads to Better Relay: Information-Preserving Compression for Latent Multi-Agent LLM Collaboration

少而精的潜在信息带来更好的中继：面向潜在多智能体大语言模型协作的信息保持压缩

Yiping Li, Zhiyu An, Wan Du

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出一种信息保持压缩方法，通过引入正交回填机制，在减少通信开销的同时保持信息完整性，提升了多智能体大语言模型协作性能。

Dual-Grained Agent Memory and Shapley Context Attribution for Multimodal Agentic Learner

面向多模态智能体学习者的双粒度智能体记忆与Shapley上下文归因

Jieke Wang, Tiancheng Shen, Yibo Yang, Ming-Hsuan Yang

机构 * UC Merced（加州大学默塞德分校） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 数学推理 ：reasoning(abstract)

AI总结 针对多模态大模型推理不足的问题，提出双粒度智能体记忆框架DG-Mem，结合Shapley上下文归因，在多个数学多模态推理数据集上实现性能提升，且无需参数更新即可适配各类骨干模型。

Perturb the Thought, Not the Pixels: Latent-Space Rollout Diversification for Reinforcement Learning of Vision-Language Models

扰动思路而非像素：用于视觉语言模型强化学习的潜在空间展开多样化

Michael Jerge, Joseph Pelczar, Justin Downes

机构 * Amazon Web Services（亚马逊网络服务） 纠错

专题命中 数学推理 ：reasoning(abstract)

AI总结 该研究提出 NC-GRPO 方法，通过在 VLM 潜在空间注入噪声实现展开多样化，提升了其数学推理与幻觉鲁棒性，且仅需少量代码修改即可整合进 RLVR 流程。

Neuro-Formal Verification: Agentic Language-Agnostic Formal Program Reasoning

神经形式化验证：智能体的语言无关形式化程序推理

Shuvendu K. Lahiri

专题命中 代码与定理证明 ：reasoning(title)；verifier(abstract)

AI总结 该研究提出神经形式化验证（NFV），让AI编码智能体与成熟验证器结合，为主流语言开发者实现一键式程序验证，在Python编程问题数据集上取得了良好的验证效果。

Expected Value Alignment for Generative Reward Modeling in Formal Mathematics Verification

形式数学验证中生成式奖励建模的期望值对齐

Shihao Ji, Haotao Tan, Zihui Song, Mingyu Li

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 提出期望值对齐（EVA）方法，通过从模型词元分布中提取连续分数，在保持生成式奖励模型离散输出的同时实现连续评分，用于Lean 4形式验证。

Comments Withdrawn due to serious concerns regarding the authenticity and accuracy of the listed authorship. The identity of one or more listed authors cannot presently be verified, and the author list may not represent distinct contributors. The manuscript is withdrawn pending institutional review

VeGo: Direct Deductive Formal Verification of Go Programs for Computer Science Education

VeGo：面向计算机科学教育的Go程序直接演绎形式化验证

Tina Massoudi, Chris Dutchyn

专题命中 代码与定理证明 ：reasoning(abstract)

AI总结 该研究提出面向计算机科学教育的VeGo系统，可直接验证标准Go程序，整合多种形式化验证技术，对比其他语言论证Go的优势，经教育教材评估并规划了形式并发规约的路线图。

Comments 13 pages + 2 pages of references, 5 code displays, ancillary reference manual for VeGo

GrOIL: Graph-Grounded Domain Ontology Induction with Constrained LLM Mediation

GrOIL：基于图的领域本体归纳与受限大语言模型调解

Maruf Ahmed Mridul, Abid Talukder, Oshani Seneviratne

专题命中 代码与定理证明 ：reasoning(abstract)

AI总结 该研究提出GrOIL流程，以受限LLM调解的七阶段图基方法构建可审计OWL TBox，在人寿保险领域的基准测试中，其CQ覆盖率等指标优于LLM基线，可生成稳定领域表示。

Comments 12 pages, 9 figures, 3 tables

Training Large Language Models to Reason in a Continuous Latent Space

训练大型语言模型在连续潜在空间中进行推理

Shibo Hao, Sainbayar Sukhbaatar, DiJia Su, Xian Li, Zhiting Hu, Jason Weston, Yuandong Tian

机构 * FAIR at Meta（Meta 的 FAIR） 纠错

专题命中 逻辑推理 ：CoT(summary_cn,abstract)；chain-of-thought(abstract,abstract_cn)；reasoning(abstract)；planning(abstract)

AI总结 本文提出名为Coconut的连续思维链新范式，将LLM推理状态表示为连续潜在空间中的隐藏状态，支持广度优先搜索，在需大量搜索的逻辑推理任务上优于CoT，实现更优的准确率效率权衡。

Comments Accepted to COLM 2025

PertMind: Eliciting Emergent Biological Reasoning in LLM via Reinforcement Learning on Cellular Perturbation Data

PertMind：通过细胞扰动数据的强化学习在大语言模型中引出涌现生物推理能力

Zhenchao Tang, Xiaogang Xu, Tianxu Lv, Jiahui Guan, Jiale Zhou, Haohuai He, Zhi Song, Hanbo Huang, Jiehui Huang, Jiafei Wu, Zhe Liu

专题命中 逻辑推理 ：reasoning(title,abstract)；logical reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出PertMind模型，结合可信轨迹监督初始化与多层面强化信号，以细胞扰动图谱为强化学习环境训练，实现生物推理能力的涌现，且可迁移至多类生物任务。

Comments Withdrawn because one or more co-authors do not consent to the public posting of this work on arXiv. No replacement version will be submitted

Small Reasoning Models are Instruction Followers in Function Calling

小型推理模型是函数调用中的指令跟随者

Yalda Taheri, Mohammad Hassan Heydari, Erfan Naaman, Afsaneh Fatemi

机构 * Islamic Azad University（伊斯兰阿扎德大学） ； University of Isfahan（伊斯法罕大学） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出指令跟随式函数调用（IFFC）框架，将函数调用逻辑与主大语言模型解耦，交由专用小型模型处理，其性能优于原生和基于提示的函数调用基线，可高效部署于边缘计算场景。

From Solver Feedback to Faithful Plans: Multi-Role Reinforcement Learning for Symbolic Planning

从求解器反馈到可信规划：用于符号规划的多角色强化学习

Chenghao Zhang, Yikai Mao, Shanqi Liu, Haoyu Gao, SaiSai Hu, Dan Roth

机构 * University of Pennsylvania（宾夕法尼亚大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Pace University（佩斯大学） 纠错

专题命中 逻辑推理 ：planning(title,abstract)；分类 cs.AI

AI总结 该研究提出基于求解器的多角色强化学习框架，仅用求解器反馈实现无人工演示的自然语言转PDDL，在PlanBench上显著提升规划成功率与可信性，降低语义漂移。

Neural-Symbolic Reasoning over Knowledge Graphs: A Survey from a Query Perspective

面向知识图谱的神经符号推理：一种查询视角的综述

Lihui Liu, Zihao Wang, Hanghang Tong

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 该综述从查询视角全面梳理知识图谱推理，涵盖神经符号推理分类及与大语言模型的融合，旨在为多领域研究者提供当前态势与未来方向的相关见解。