大模型推理能力

How Much Cache Does Reasoning Need? Depth-Cache Tradeoffs in KV-Compressed Transformers

推理需要多少缓存？KV压缩变换器中的深度-缓存权衡

Xiao Wang

机构 * FujianAI（福建AI） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过k步指针追逐分析KV缓存压缩对多步推理的影响，揭示了深度与缓存大小的理论界限及带宽限制，同时比较了自适应与非自适应缓存的误差缩放差异。

PiERN: Token-Level Routing for Integrating High-Precision Computation and Reasoning

PiERN：基于令牌级别的路由以整合高精度计算与推理

Hengbo Xiao, Jingyuan Fan, Xin Tong, Jingzhao Zhang, Chao Lu, Guannan He

机构 * Peking University（北京大学） ； Peking University Changsha Institute for Computing and Digital Economy（北京大学长沙计算与数字经济研究院） ； Beihang University（北京航空航天大学） ； Tsinghua University（清华大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 PiERN通过内生整合计算能力，提升语言模型在复杂系统中的精度与效率，实现高准确性、低延迟和可扩展性。

OpenVLThinkerV2: A Generalist Multimodal Reasoning Model for Multi-domain Visual Tasks

OpenVLThinkerV2: 一个多领域视觉任务的通用多模态推理模型

Wenbo Hu, Xin Chen, Yan Gao-Tian, Yihe Deng, Nanyun Peng, Kai-Wei Chang

机构 * University of California, Los Angeles (UCLA)（加州大学洛杉矶分校） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出G$^2$RPO训练目标，通过非线性分布匹配解决多视觉任务中的奖励拓扑差异和感知与推理平衡问题，构建了鲁棒的OpenVLThinkerV2模型，在18个基准测试中表现优异。

Comments code at: https://github.com/uclanlp/openvlthinker

Stateful Evidence-Driven Retrieval-Augmented Generation with Iterative Reasoning

具有迭代推理的有状态证据驱动检索增强生成

Qi Dong, Ziheng Lin, Ning Ding

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种具有迭代推理的有状态证据驱动检索增强生成框架，通过逐步积累证据提升问答稳定性与鲁棒性，在多个基准测试中表现出色。

Quantifying and Understanding Uncertainty in Large Reasoning Models

对大规模推理模型中不确定性量化与理解的研究

Yangyi Li, Chenxu Zhao, Mengdi Huai

机构 * Department of Computer Science, Iowa State University（爱荷华州立大学计算机科学系） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种量化推理-答案结构不确定性的新方法，并开发了基于Shapley值的统一解释框架，通过理论分析和实验验证了方法的有效性。

TS-Reasoner: Domain-Oriented Time Series Inference Agents for Reasoning and Automated Analysis

TS-Reasoner: 面向领域的时序推理代理用于推理和自动化分析

Wen Ye, Wei Yang, Defu Cao, Yizhou Zhang, Lumingyuan Tang, Jie Cai, Yan Liu

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TS-Reasoner，一种面向领域的时序推理代理，结合大语言模型与领域工具，实现多步推理和约束感知分析，实验表明其在时序理解与多步推理任务中优于通用LLM。

Towards Hierarchical Multi-Step Reward Models for Enhanced Reasoning in Large Language Models

面向增强大语言模型推理能力的分层多步奖励模型

Teng Wang, Zhangyi Jiang, Zhenqi He, Shenyang Tong, Wenhan Yang, Yanan Zheng, Zeyu Li, Zifan He, Hailei Gong, Zewen Ye, Shengjie Ma, Jianping Zhang

机构 * the University of Hong Kong（香港大学） ； Tsinghua University（清华大学） ； Georgia Institute of Technology（佐治亚理工学院） ； National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） ； Renmin University of China（中国人民大学） ； the Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出分层奖励模型和轻量数据增强策略，解决大语言模型推理中奖励黑客问题，提升多步推理评估的稳定性和泛化能力。

Enabling Intrinsic Reasoning over Dense Geospatial Embeddings with DFR-Gemma

通过DFR-Gemma实现对密集地理嵌入的内在推理

Xuechen Zhang, Aviv Slobodkin, Joydeep Paul, Mandar Sharma, Samet Oymak, Shravya Shetty, Gautam Prasad

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 DFR-Gemma通过轻量投影器将高维嵌入与LLM潜在空间对齐，使LLM能直接处理地理嵌入进行空间推理，提升效率和准确性。

ChemVLR: Prioritizing Reasoning in Perception for Chemical Vision-Language Understanding

ChemVLR：在化学视觉语言理解中优先考虑推理

Xuanle Zhao, Xinyuan Cai, Xiang Cheng, Xiuyi Chen, Bo Xu

机构 * The Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所复杂系统认知与决策智能重点实验室） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 ChemVLR通过细化化学描述符识别，提升化学视觉语言模型的推理能力，实现更清晰的推理路径，实验显示其在分子和反应任务中达到SOTA性能。

Comments Accepted by ACL 2026 Findings, Preprint Version

Attention-Aligned Reasoning for Large Language Models

面向大语言模型的注意力对齐推理

Hongxiang Zhang, Yuan Tian, Tianyi Zhang

机构 * Purdue University（普渡大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ATAR方法，通过利用推理结构引导LLM注意力，提升复杂任务处理性能，实验显示在六个基准上表现优于现有方法，且非推理模型性能可与推理模型媲美。

HUMORCHAIN: Theory-Guided Multi-Stage Reasoning for Interpretable Multimodal Humor Generation

HUMORCHAIN: 基于理论的多阶段推理用于可解释的多模态幽默生成

Jiajun Zhang, Shijia Luo, Ruikang Zhang, Qi Su

机构 * Peking University（北京大学） ； Ocean University of China（海洋大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HUMORCHAIN框架，通过整合视觉语义解析、基于幽默和心理学的推理及细调判别器，实现可解释的多模态幽默生成，实验表明其在人类幽默偏好、Elo/BT评分和语义多样性上优于现有方法。

Balancing the Reasoning Load: Difficulty-Differentiated Policy Optimization with Length Redistribution for Efficient and Robust Reinforcement Learning

平衡推理负担：基于长度再分配的难度差异化策略优化用于高效且鲁棒的强化学习

Yinan Xia, Haotian Zhang, Huiming Wang

机构 * Tianjin University（天津大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出DDPO算法，通过区分任务难度优化输出长度，提升强化学习的效率与鲁棒性，实验表明在多个基准上准确率提升1.85%的同时平均回答长度减少12%。

Comments 13 pages

Taming the Long-Tail: Efficient Reasoning RL Training with Adaptive Drafter

驯服长尾：通过自适应草案器实现高效的推理强化学习训练

Qinghao Hu, Shang Yang, Junxian Guo, Xiaozhe Yao, Yujun Lin, Yuxian Gu, Han Cai, Chuang Gan, Ana Klimovic, Song Han

机构 * MIT（麻省理工学院） ； ETH Zurich（苏黎世联邦理工学院） ； NVIDIA（英伟达） ； MIT-IBM AI Lab（麻省理工-IBM人工智能实验室） ； MIT, NVIDIA（麻省理工学院、英伟达） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TLT系统，通过自适应草案器和自适应回放引擎，解决强化学习训练中响应生成的长尾分布问题，实现1.7倍的训练加速并保持模型精度。

LLM-MRD: LLM-Guided Multi-View Reasoning Distillation for Fake News Detection

LLM-MRD: 基于大语言模型的多视角推理蒸馏用于虚假新闻检测

Weilin Zhou, Shanwen Tan, Enhao Gu, Yurong Qian

机构 * Xinjiang University, Urumqi, China（新疆大学） ； Sichuan University, Chengdu, China（四川大学） ； Joint International Research Laboratory of Silk Road Multilingual Cognitive Computing, Xinjiang University, Urumqi, China（丝绸之路多语种认知计算国际联合实验室） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LLM-MRD框架，通过多视角推理蒸馏提升虚假新闻检测性能，实验显示在准确率和F1-Fake指标上均优于现有方法。

Comments Accepted at DASFAA 2026 (Oral)

How Clued up are LLMs? Evaluating Multi-Step Deductive Reasoning in a Text-Based Game Environment

LLMs有多好？在文本基于的游戏环境中评估多步骤演绎推理

Rebecca Ansell, Autumn Toney-Wails

机构 * Georgetown University（乔治城大学） ； Syntheos, Corp（Syntheos公司） ； UNU-Merit 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过文本多智能体版经典棋盘游戏Clue评估LLM的多步骤演绎推理能力，发现即使在结构化逻辑谜题微调后，推理一致性仍难以维持，且推理精度未显著提升。

IndexRAG: Bridging Facts for Cross-Document Reasoning at Index Time

IndexRAG：在索引时间进行跨文档推理的桥梁

Zhenghua Bao, Yi Shi

机构 * Continuum AI 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 IndexRAG通过在索引阶段进行跨文档推理，提升多跳问答的F1得分，无需额外训练，仅需单次检索和一次LLM调用。

BabyReasoningBench: Generating Developmentally-Inspired Reasoning Tasks for Evaluating Baby Language Models

BabyReasoningBench: 生成发育启发式的推理任务以评估婴儿语言模型

Kaustubh D. Dhole

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出BabyReasoningBench，基于发展心理学经典范式，设计19个推理任务，评估婴儿语言模型在因果推理、信念归因等任务上的表现，揭示不同任务对模型能力的影响。

Disentangling Recall and Reasoning in Transformer Models through Layer-wise Attention and Activation Analysis

通过分层注意力和激活分析解构Transformer模型中的回忆与推理

Harshwardhan Fartale, Ashish Kattamuri, Rahul Raja, Arpita Vats, Ishita Prasad, Akshata Kishore Moharir

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过可控数据集和激活分析，揭示Transformer模型中回忆与推理的分离电路，为模型泛化和安全部署提供依据。

Consistency of Large Reasoning Models Under Multi-Turn Attacks

多轮攻击下大推理模型的一致性

Yubo Li, Ramayya Krishnan, Rema Padman

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究评估了多轮对抗攻击下九种前沿推理模型的鲁棒性，发现推理虽提供部分鲁棒性，但存在显著脆弱性，指出基于自信的防御需重新设计以适应推理模型。

A Simple "Motivation" Can Enhance Reinforcement Finetuning of Large Reasoning Models

一个简单的‘动机’可以增强大推理模型的强化微调

Junjie Zhang, Guozheng Ma, Shunyu Liu, Haoyu Wang, Jiaxing Huang, Ting-En Lin, Fei Huang, Yongbin Li, Dacheng Tao

机构 * Generative AI Lab, College of Computing and Data Science, Nanyang Technological University, Singapore（生成式人工智能实验室，计算与数据科学学院，南洋理工大学，新加坡） ； Tongyi Lab, Alibaba Group（通义实验室，阿里巴巴集团） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MeRF，通过在强化微调中引入任务动机，提升大模型在复杂任务中的推理性能。

Knowledge Graphs are Implicit Reward Models: Path-Derived Signals Enable Compositional Reasoning

知识图谱是隐式奖励模型：路径衍生信号促进组合推理

Yuval Kansal, Niraj K. Jha

机构 * Department of Electrical and Computer Engineering, Princeton University, New Jersey, USA（电气与计算机工程系，普林斯顿大学，新泽西州，美国） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用知识图谱作为隐式奖励模型，通过路径衍生信号提升模型在复杂推理任务中的组合推理能力。

Symbol-Equivariant Recurrent Reasoning Models

符号等变递归推理模型

Richard Freinschlag, Timo Bertram, Erich Kobler, Andreas Mayr, Günter Klambauer

机构 * ELLIS Unit Linz, LIT AI Lab \& Institute for Machine Learning, Johannes Kepler University Linz, Austria ； Clinical Research Institute for Medical AI, Johannes Kepler University Linz, Austria 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 SE-RRMs通过显式编码符号对称性，提升了神经推理的鲁棒性和可扩展性，在数独和ARC-AGI任务中表现优异。

One-Token Verification for Reasoning Correctness Estimation

单token验证用于推理正确性估计

Zhan Zhuang, Xiequn Wang, Zebin Chen, Feiyang Ye, Ying Wei, Kede Ma, Yu Zhang

机构 * Southern University of Science（南方科技大学） ； City University of Hong Kong（香港城市大学） ； Zhejiang University（浙江大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出单token验证方法，用于高效估计推理正确性，通过低秩适应集成到LLM中，减少token使用并提升推理可靠性。

SideQuest: Model-Driven KV Cache Management for Long-Horizon Agentic Reasoning

SideQuest: 为长时间范围代理推理的模型驱动KV缓存管理

Sanjay Kariyappa, G. Edward Suh

机构 * NVIDIA 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 SideQuest通过利用大型推理模型自身进行KV缓存压缩，有效减少代理任务中的内存使用，同时保持较高的准确性。

Stop Unnecessary Reflection: Training LRMs for Efficient Reasoning with Adaptive Reflection and Length Coordinated Penalty

停止不必要的反思：通过自适应反思和长度协调惩罚训练高效的推理模型

Zewei Yu, Lirong Gao, Yuke Zhu, Bo Zheng, Junbo Zhao, Sheng Guo, Haobo Wang

机构 * State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室） ； MYbank, Ant Group（蚂蚁集团MYbank） ； Innovation and Management Center, School of Software Technology (Ningbo), Zhejiang University（浙江大学软件学院（宁波）创新与管理中心） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 通过自适应反思和长度协调惩罚方法，提升推理效率和准确性，减少响应长度并提高性能。

Comments Accepted to ICLR 2026

REA-RL: Reflection-Aware Online Reinforcement Learning for Efficient Reasoning

REA-RL：面向高效推理的反思意识在线强化学习

Hexuan Deng, Wenxiang Jiao, Xuebo Liu, Jun Rao, Min Zhang

机构 * Institute of Computing and Intelligence, Harbin Institute of Technology, Shenzhen, China（计算与智能学院，哈尔滨工业大学深圳学院） ； Zhongguancun Academy, Beijing, China（中关村学院，北京） ； Xiaohongshu Inc.（小红书公司） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 REA-RL通过引入反思模型和反思奖励，提升在线强化学习中推理效率和性能平衡。

Comments Accepted by ICLR 2026

Long Grounded Thoughts: Synthesizing Visual Problems and Reasoning Chains at Scale

长 grounded 思考：大规模合成视觉问题和推理链

David Acuna, Chao-Han Huck Yang, Yuntian Deng, Jaehun Jung, Ximing Lu, Prithviraj Ammanabrolu, Hyunwoo Kim, Yuan-Hong Liao, Yejin Choi

机构 * nvidia（NVIDIA公司） ； uoft（多伦多大学） ； uwaterloo（滑铁卢大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种大规模合成视觉问题和推理链的框架，通过生成高质量数据集提升多模态推理性能，验证了其在视觉、文本和音频任务中的有效性。

Reasoning Language Models for complex assessments tasks: Evaluating parental cooperation from child protection case reports

用于复杂评估任务的推理语言模型：从儿童保护案件报告中评估父母合作

Dragan Stoll, Brian E. Perron, Zia Qi, Selina Steinmann, Nicole F. Eicher, Andreas Jud

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了推理语言模型在评估儿童保护案件中父母合作方面的有效性，发现模型在母亲合作评估上表现更佳，但对父亲合作的评估准确性较低，提示需关注性别差异。

Probabilistic Aggregation and Targeted Embedding Optimization for Collective Moral Reasoning in Large Language Models

概率聚合与定向嵌入优化用于大语言模型中的集体道德推理

Chenchen Yuan, Zheyu Zhang, Shuo Yang, Bardh Prenkaj, Gjergji Kasneci

机构 * School of Computation, Information and Technology, Technical University of Munich（计算、信息与技术学院，慕尼黑技术大学） ； School of Social Sciences and Technology, Technical University of Munich（社会科学与技术学院，慕尼黑技术大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种概率聚合与定向嵌入优化方法，通过融合多个大语言模型的道德判断，提升集体道德推理的一致性和准确性。

Comments Accepted to ACL 2025 (Findings)

Agentic Proposing: Enhancing Large Language Model Reasoning via Compositional Skill Synthesis

代理提案：通过组合技能合成增强大语言模型推理

Zhengbo Jiao, Shaobo Wang, Zifan Zhang, Xuan Ren, Wei Wang, Bing Zhao, Hu Wei, Linfeng Zhang

机构 * AI DATA, Alibaba Group Holding Limited（阿里数据，阿里巴巴集团控股有限公司） ； EPIC Lab, Shanghai Jiao Tong University（上海交通大学EPIC实验室） ； Shanghai University of Finance（上海财经大学） ； Wuhan University（武汉大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 Agentic Proposing通过组合技能合成生成高质量训练数据，使大语言模型在数学、编程和科学领域实现更高效的推理和泛化能力。

Comments 23page4