大模型推理能力

Quantization Meets Reasoning: Exploring and Mitigating Degradation of Low-Bit LLMs in Mathematical Reasoning

量化与推理：探索和缓解低比特LLM在数学推理中的退化

Zhen Li, Yupeng Su, Songmiao Wang, Runming Yang, Congkai Xie, Aofan Liu, Ming Li, Jiannong Cao, Yuan Xie, Ngai Wong, Hongxia Yang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； University of California, Santa Barbara（加州大学圣芭芭拉分校） ； Peking University（北京大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；math reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种轻量级方法，通过定位和恢复量化模型中最早出现的故障步骤，有效缓解低比特LLM在数学推理中的退化问题。

Comments 27pages

Seek in the Dark: Reasoning via Test-Time Instance-Level Policy Gradient in Latent Space

在黑暗中寻求：通过测试时实例级策略梯度进行潜在空间推理

Hengli Li, Chenxi Li, Tong Wu, Xuekai Zhu, Yuxuan Wang, Zhaoxin Yu, Eric Hanchen Jiang, Song-Chun Zhu, Zixia Jia, Ying Nian Wu, Zilong Zheng

机构 * Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； NLCo Lab, Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院NLCo实验室） ； Department of Automation, Tsinghua University（清华大学自动化系） ； Shanghai Jiao Tong University（上海交通大学） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 LatentSeek通过测试时实例级策略梯度在潜在空间中提升LLM推理能力，展现高效且可扩展的性能。

InT: Self-Proposed Interventions Enable Credit Assignment in LLM Reasoning

InT：自我提出干预使LLM推理中的信用分配成为可能

Matthew Y. R. Yang, Hao Bai, Ian Wu, Gene Yang, Amrith Setlur, Aviral Kumar

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 InT通过自我提出干预实现LLM推理中的细粒度信用分配，提升模型在数学推理任务中的表现。

Reinforcement Learning for Reasoning in Small LLMs: What Works and What Doesn't

用于小型大语言模型推理的强化学习：什么有效，什么无效

Quy-Anh Dang, Chris Ngo

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究通过强化学习提升小型LLM的推理能力，展示了在有限资源下实现显著性能提升的可行性。

Answering the Unanswerable Is to Err Knowingly: Analyzing and Mitigating Abstention Failures in Large Reasoning Models

回答不可回答的问题是明知其错：分析和缓解大推理模型中的回避失败

Yi Liu, Xiangyu Liu, Zequn Sun, Wei Hu

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文针对大推理模型在面对不可回答问题时的回避失败问题，提出一种轻量级两阶段方法，通过认知监控与推理干预提升回避率并保持推理性能。

Comments Accepted in the 39th AAAI Conference on Artificial Intelligence (AAAI 2026)

Process In-Context Learning: Enhancing Mathematical Reasoning via Dynamic Demonstration Insertion

过程在上下文学习：通过动态演示插入增强数学推理

Ang Gao, Changshuo Zhang, Xiao Zhang, Deyang Li, Minjun Zhao, Fangchao Liu, Xinyu Zhang

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Huawei Poisson Lab, China（华为Poisson实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 PICL通过动态插入相关演示来提升数学推理能力，有效缓解推理过程中的困惑问题。

Do Instruction-Tuned Models Always Perform Better Than Base Models? Evidence from Math and Domain-Shifted Benchmarks

指令微调模型是否总是比基模型表现更好？数学和领域转移基准的证据

Prateek Munjal, Clement Christophe, Ronnie Rajan, Praveenkumar Kanithi

机构 * M42, Abu Dhabi, UAE（阿布扎希德） 纠错

专题命中 数学推理 ：reasoning(abstract)；CoT(abstract)；分类 cs.LG

AI总结 研究通过数学和领域转移基准验证指令微调模型在不同设置下的表现差异，发现其性能依赖于提示模式而非内在推理能力。

A model of errors in transformers

Transformer 中的错误模型

Suvrat Raju, Praneeth Netrapalli

机构 * International Centre for Theoretical Sciences, Tata Institute of Fundamental Research, Bengaluru, India（理论科学国际研究中心，印度塔塔基础研究研究所，班加罗尔） ； Google Deepmind, Bengaluru, India（谷歌DeepMind，班加罗尔） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出了一种Transformer错误模型，通过双参数关系解释任务复杂度与准确性的关系，并展示了如何通过提示减少错误率。

Comments 8+17pages

Towards a Unified View of Large Language Model Post-Training

迈向大规模语言模型后训练的统一视角

Xingtai Lv, Yuxin Zuo, Youbang Sun, Hongyi Liu, Yuntian Wei, Zhekai Chen, Xuekai Zhu, Kaiyan Zhang, Bingning Wang, Ning Ding, Bowen Zhou

机构 * Tsinghua University（清华大学） ； Shanghai AI Laboratory（上海人工智能实验室） ； WeChat AI Code（微信AI代码） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出混合后训练算法，通过统一的优化过程整合在线与离线数据，实现稳定探索与有效利用演示，提升大规模语言模型的推理能力。

Deferred Commitment Decoding for Diffusion Language Models

延迟承诺解码用于扩散语言模型

Yingte Shu, Yuchuan Tian, Chao Xu, Yunhe Wang, Hanting Chen

机构 * Peking University（北京大学） ； Huawei Technologies（华为技术） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出延迟承诺解码方法，通过基于不确定性的策略提升扩散语言模型解码质量和效率，实验显示在多个模型和基准测试中效果显著。

Neurosymbolic LoRA: Why and When to Tune Weights vs. Rewrite Prompts

神经符号LoRA：为何以及何时调整权重 versus 重写提示

Kevin Wang, Neel P. Bhatt, Cong Liu, Junbo Li, Runjin Chen, Yihan Xi, Timothy Barclay, Alvaro Velasquez, Ufuk Topcu, Zhangyang Wang

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 神经符号LoRA结合数值和符号更新，提升语言模型微调的适应性和性能。

PRISM: A Unified Framework for Post-Training LLMs Without Verifiable Rewards

PRISM: 一种无需可验证奖励的统一后训练LLM框架

Mukesh Ghimire, Aosong Feng, Liwen You, Youzhi Luo, Fang Liu, Xuan Zhu

机构 * Arizona State University（亚利桑那州立大学） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 PRISM通过结合过程奖励模型与自我确定性，实现无需真实标签的稳定训练和提升LLM测试性能。

Comments Added open-sourced github url

Beyond Memorization: Testing LLM Reasoning on Unseen Theory of Computation Tasks

超越记忆：在未见的计算理论任务上测试LLM推理能力

Shlok Shelat, Jay Raval, Souvik Roy, Manas Gaur

机构 * Ahmedabad University Gujarat, India（古吉拉特邦阿赫迈德亚布大学） ； University of Maryland Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 代码与定理证明 ：reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过构建DFA基准测试，揭示LLM在未见计算理论任务上的推理缺陷，发现其在处理复杂约束和语义一致性时存在系统性不足。

Comments 30 pages, 11 figures, 6 tables, Work in Progress

Numina-Lean-Agent: An Open and General Agentic Reasoning System for Formal Mathematics

Numina-Lean-Agent: 一种面向形式数学的开放且通用的代理推理系统

Junqi Liu, Zihao Zhou, Zekai Zhu, Marco Dos Santos, Weikun He, Jiawei Liu, Ran Wang, Yunzhou Xie, Junqiao Zhao, Qiufeng Wang, Lihong Zhi, Jia Li, Wenda Li

机构 * Academy of Mathematics and Systems Science, University of Chinese Academy of Sciences（中国科学院数学与系统科学研究院） ； Tongji University（同济大学） ； University of Cambridge（剑桥大学） ； Imperial College London（伦敦帝国学院） ； University of Edinburgh（爱丁堡大学） ； University of Liverpool（利物浦大学） ； Xi'an Jiaotong-Liverpool University（西安交通大学利物浦大学） 纠错

专题命中 代码与定理证明 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Numina-Lean-Agent通过通用编码代理实现形式数学推理，解决Putnam 2025全部问题并成功形式化Brascamp-Lieb定理。

Thinking Longer, Not Always Smarter: Evaluating LLM Capabilities in Hierarchical Legal Reasoning

深入思考，而非总是更聪明：评估大语言模型在分层法律推理中的能力

Li Zhang, Matthias Grabmair, Morgan Gray, Kevin Ashley

机构 * University of Pittsburgh（匹兹堡大学） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 代码与定理证明 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出一个框架评估大语言模型在分层法律推理中的能力，发现模型在表面推理准确但分层推理表现下降，揭示了模型在复杂领域中的局限性。

Comments 15 pages, 7 figures, Proceedings of the 2026 Symposium on Computer Science and Law (CSLAW '26)

CoRe: Benchmarking LLMs Code Reasoning Capabilities through Static Analysis Tasks

CoRe：通过静态分析任务基准测试LLM的代码推理能力

Danning Xie, Mingwei Zheng, Xuwei Liu, Jiannan Wang, Chengpeng Wang, Lin Tan, Xiangyu Zhang

机构 * Department of Computer Science Purdue University（计算机科学系 帕克森大学） 纠错

专题命中 代码与定理证明 ：reasoning(title,abstract)；分类 cs.AI

AI总结 CoRe通过静态分析任务评估LLM的代码推理能力，发现主流模型在深层次语义理解和多步骤推理上存在不足。

Comments NeurIPS 2025 Datasets & Benchmarks Spotlight

Dynamical Systems Analysis Reveals Functional Regimes in Large Language Models

动力系统分析揭示大语言模型中的功能模式

Hassan Ugail, Newton Howard

机构 * Centre for Visual Computing and Intelligent Systems（视觉计算与智能系统中心） ； University of Bradford（布拉德福德大学） ； School of Individualised Study（个性化学习学院） ； Rochester Institute of Technology（罗切斯特技术学院） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文通过动力系统分析揭示大语言模型在不同功能模式中的计算组织差异，提出一种基于时间序列的动态度量指标，用于评估模型内部动态特性。

Predictive Spike Timing Enables Distributed Shortest Path Computation in Spiking Neural Networks

预测性脉冲时间使分布式最短路径计算在脉冲神经网络中成为可能

Simen Storesund, Kristian Valset Aars, Robin Dietrich, Nicolai Waniek

机构 * Department of Mathematical Sciences（数学科学系） ； Norwegian University of Science and Technology（挪威科学与技术大学） ； School of Computation, Information and Technology（计算、信息与技术学院） ； Technical University Munich（慕尼黑技术大学） 纠错

专题命中 代码与定理证明 ：planning(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出了一种基于生物合理机制的最短路径计算算法，利用脉冲时间巧合实现分布式计算，为生物和人工系统中的复杂问题解决提供新思路。

Large Language Model for OWL Proofs

面向OWL证明的大型语言模型

Hui Yang, Jiaoyan Chen, Uli Sattler

机构 * The University of Manchester（曼彻斯特大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出面向OWL本体论证明生成的LLM方法，通过构建评估框架验证了逻辑复杂性对LLM性能的影响，并发现输入数据质量对证明生成至关重要。

AI Co-Scientist for Knowledge Synthesis in Medical Contexts: A Proof of Concept

医疗领域知识综合的AI合作者：概念验证

Arya Rahgozar, Pouria Mortezaagha

机构 * Methodological Implementation Research, Ottawa Hospital Research Institute（方法实施研究，渥太华医院研究所） ； School of Engineering Design and Teaching Innovation, University of Ottawa（工程设计与教学创新学院，渥太华大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 本研究提出了一种基于PICOS的AI合作者，通过整合知识图谱和自然语言处理技术，提升医疗领域证据综合的可扩展性、透明性和效率。

LeanProgress: Guiding Search for Neural Theorem Proving via Proof Progress Prediction

LeanProgress: 通过证明进度预测引导神经定理证明的搜索

Robert Joseph George, Suozhi Huang, Peiyang Song, Anima Anandkumar

机构 * Computing + Mathematical Sciences Department（计算与数学科学系） ； California Institute of Technology（加利福尼亚理工学院） ； Computer Science Department（计算机科学系） ； Princeton University（普林斯顿大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 LeanProgress通过预测证明进度提升神经定理证明效率，实现Mathlib4证明效率提升3.8%

Comments Published in TMLR (Transactions on Machine Learning Research)

Automatic Generation of Formal Specification and Verification Annotations Using LLMs and Test Oracles

利用LLMs和测试或acles自动生成形式规范和验证注解

João Pascoal Faria, Emanuel Trigo, Vinicius Honorato, Rui Abreu

专题命中 代码与定理证明 ：verifier(abstract)

AI总结 本文利用LLMs和测试或acles自动为Dafny程序生成形式规范和验证注解，实验表明该方法在多数情况下有效，并展示了IDE集成的可行性。

Matrix as Plan: Structured Logical Reasoning with Feedback-Driven Replanning

矩阵作为计划：基于反馈驱动的重计划的结构化逻辑推理

Ke Chen, Jiandian Zeng, Zihao Peng, Guo Li, Guangxue Zhang, Tian Wang

机构 * Faculty of Arts and Sciences（艺术与科学学院） ； Beijing Normal University（北京师范大学） ； Institute of Artificial Intelligence and Future Networks（人工智能与未来网络研究所） ； Engineering Research Center of Cloud-Edge Intelligent Collaboration on Big Data, Ministry of Education（教育部云-边智能协同大数据工程研究中心） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；logical reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)

AI总结 MatrixCoT通过引入矩阵基础计划和反馈驱动重计划机制，提升LLM在复杂符号推理任务中的鲁棒性和可解释性。

Comments 12 pages, 5 figures, 2 tables. Accepted at The Web Conference (WWW) 2026

Graph Reasoning Paradigm: Structured and Symbolic Reasoning with Topology-Aware Reinforcement Learning for Large Language Models

图推理范式：基于拓扑感知强化学习的结构化和符号推理用于大语言模型

Runxuan Liu, Xianhao Ou, Xinyan Ma, Jiyuan Wang, Jiafeng Liang, Jiaqi Li, Tao He, Zheng Chu, Rongchuan Mu, Zekun Wang, Baoxin Wang, Dayong Wu, Ming Liu, Shijin Wang, Guoping Hu, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室） ； Tianjin Normal University（天津师范大学） ； Pengcheng Laboratory（鹏城实验室） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL

AI总结 图推理范式通过拓扑感知强化学习实现结构化和符号推理，提升大语言模型的数学推理和代码生成能力。

Confidence over Time: Confidence Calibration with Temporal Logic for Large Language Model Reasoning

时间上的信心：基于时序逻辑的大型语言模型推理信心校准

Zhenjiang Mao, Anirudhh Venkat, Artem Bisliouk, Akshat Kothiyal, Sindhura Kumbakonam Subramanian, Saithej Singhu, Ivan Ruchkin

机构 * University of Florida（佛罗里达大学） ； University of Mannheim（曼海姆大学） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出基于时序逻辑的大型语言模型推理信心校准方法，通过STL挖掘和参数超网络提升信心评估的准确性。

Acting Flatterers via LLMs Sycophancy: Combating Clickbait with LLMs Opposing-Stance Reasoning

通过LLMs的趋炎附势行为进行煽动性行为：用LLMs的对立立场推理对抗软文

Chaowei Zhang, Xiansheng Luo, Zewei Zhang, Yi Zhu, Jipeng Qiang, Longwei Wang

机构 * Yangzhou University（扬州大学） ； Auburn University（亚伯拉罕大学） ； University of South Dakota（南达科他大学） ； Institute for Clarity in Documentation（文档清晰研究所） ； Inria Paris-Rocquencourt（巴黎-罗quentourt研究所） ； Rajiv Gandhi University（拉贾夫·甘地大学） ； Tsinghua University（清华大学） ； Palmer Research Laboratories（帕勒尔研究实验室） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用LLMs的趋炎附势行为生成对立立场推理，以提升软文检测的鲁棒性。

MirrorGuard: Toward Secure Computer-Use Agents via Simulation-to-Real Reasoning Correction

MirrorGuard：通过模拟到现实推理校正实现安全的计算机使用代理

Wenqi Zhang, Yulin Shen, Changyue Jiang, Jiarun Dai, Geng Hong, Xudong Pan

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 MirrorGuard通过模拟到现实推理校正提升计算机使用代理的安全性，有效降低系统风险并保持代理实用性

The Orchestration of Multi-Agent Systems: Architectures, Protocols, and Enterprise Adoption

多智能体系统的编排：架构、协议与企业采纳

Apoorva Adimulam, Rajesh Gupta, Sumit Kumar

专题命中 逻辑推理 ：reasoning(abstract)；planning(abstract)；分类 cs.AI

AI总结 本文提出了一种统一架构框架和两种互补通信协议，旨在提升多智能体系统在企业级AI生态系统中的可扩展性和合规性。

LLM-VLM Fusion Framework for Autonomous Maritime Port Inspection using a Heterogeneous UAV-USV System

基于异构无人机-水下机器人系统的LLM-VLM融合框架用于自主港口检测

Muhayy Ud Din, Waseem Akram, Ahsan B. Bakht, Irfan Hussain

机构 * Khalifa University Center for Autonomous Robotic Systems (KUCARS)（卡利法大学自主机器人系统中心（KUCARS）） ； Khalifa University（卡利法大学） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；planning(abstract)

AI总结 本文提出基于LLM和VLM的融合框架，利用异构无人机-水下机器人系统实现自主港口检测，通过符号规划与语义检测提升检测效率和安全性。

Comments submitted in AEJ

Constraint-Aware Neurosymbolic Uncertainty Quantification with Bayesian Deep Learning for Scientific Discovery

具有贝叶斯深度学习的约束感知神经符号不确定性量化框架用于科学发现

Shahnawaz Alam, Mohammed Mudassir Uddin, Mohammed Kaif Pasha

机构 * Department of Computer Science and Engineering Muffakham Jah College of Engineering and Technology (MJCET)（计算机科学与工程系穆法卡姆·贾赫工程与技术学院） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 CANUF通过结合贝叶斯深度学习与可微符号推理，首次实现科学预测中的不确定性量化、约束满足和可解释性解释。