大模型推理能力

Optical Reasoning: Rethinking Images as an Expressive Reasoning Medium Beyond Text

光学推理：重新思考图像作为超越文本的表达性推理媒介

Yutong Bian, Dongjie Cheng, Heming Xia, Yongqi Li, Wenjie Li

机构 * The Hong Kong Polytechnic University（香港理工大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.AI

AI总结 提出光学推理概念，将图像作为独立推理媒介，通过排版和图形两种变体实现，在语言和多模态任务中匹配或超越文本推理，同时减少推理令牌。

Quantized Reasoning Models Think They Need to Think Longer, but They Do Not

量化推理模型认为它们需要思考更长时间，但实际上并不需要

Sanae Lotfi, Polina Kirichenko, Steven Li, Zechun Liu

机构 * FAIR at Meta（Meta 联合实验室） ； Meta AI 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.LG

AI总结 本文发现后训练量化会降低推理模型准确率并增加思维链长度，通过分析量化模型在中间步骤正确但最终输出错误的“过度思考”错误，提出一种无训练的对过度思考标记施加logit惩罚的方法，在保持或提升准确率的同时减少12-23%的思维链长度。

Can Aha Moments Be Fake? Towards Quantifying Decorative and True Thinking in Chain-of-Thought

顿悟时刻可以是假的吗？——量化思维链中的装饰性思考与真实思考

Jiachen Zhao, Yiyou Sun, Weiyan Shi, Dawn Song

机构 * Northeastern University（东北大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 数学推理 ：chain-of-thought(title,abstract)；CoT(abstract,abstract_cn)；reasoning(abstract)；分类 cs.LG

AI总结 提出真实思考得分（TTS）量化思维链中每一步对最终答案的因果贡献，发现模型常混合真实思考与装饰性思考，并利用TTS实现有效剪枝与自训练，揭示前沿模型常表述未因果使用的推理步骤。

Selective Latent Thinking: Adaptive Compression of LLM Reasoning Chains

选择性潜在思考：LLM推理链的自适应压缩

Hui Xie, Jie Liu, Ziyue Qiao, Joaquin Vanschore

机构 * Eindhoven University of Technology（埃因霍温理工大学） ； School of Computing and Information Technology（计算与信息科技学院） ； Great Bay University（大湾大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 提出选择性潜在思考（SLT）框架，通过置信度门控将冗余推理步骤压缩为潜在表示，关键步骤保留显式思维链，在压缩比相当的情况下准确率比潜在推理基线高22.7%，推理链长度减少58.4%且准确率仅下降2.8%。

STOP: Structured On-Policy Pruning of Long-Form Reasoning in Low-Data Regimes

STOP：低数据场景下长形式推理的结构化在线剪枝

Chenjun Xu, Zhennan Zhou, Zhan Su, Bill Howe, Lucy Lu Wang, Bingbing Wen

机构 * University of Washington（华盛顿大学） ； University of Montreal（蒙特利尔大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 STOP通过结构化在线剪枝减少低数据场景下的长形式推理生成token，同时保持准确性，提升推理效率与结构效率。

Comments 20 pages, 6 figures, 6 tables. Code available at: https://github.com/chenjux/ECN-STOP

Mind-Paced Speaking: A Dual-Brain Approach to Real-Time Reasoning in Spoken Language Models

有意识说话：一种双脑方法用于语音语言模型中的实时推理

Donghang Wu, Haoyang Zhang, Jun Chen, Xiangyu, Zhang, Hexin Liu, Eng Siong Chng, Fei Tian, Xuerui Yang, Xiangyu Zhang, Daxin Jiang, Gang Yu

机构 * StepFun ； Nanyang Technological University（南洋理工大学） ； University of New South Wales（新南威尔士大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文提出Mind-Paced Speaking方法，通过双脑架构实现语音语言模型的实时推理，显著提升推理性能并降低延迟。

Dual Tuning for Reasoning Efficacy-Driven Data Curation in Multimodal LLM Training

双调优：面向多模态大语言模型训练的推理效能驱动的数据筛选

Ruobing Zheng, Tianqi Li, Jianing Li, Qingpei Guo, Yi Yuan, Jingdong Chen

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文提出双调优框架，通过评估训练数据对推理训练的收益及推理训练的效能，指导多模态大语言模型的数据筛选与训练策略匹配。

Comments Project Page: https://digital-avatar.github.io/ai/ThinkingBoundary/

Self-Jailbreaking: Language Models Can Reason Themselves Out of Safety Alignment After Benign Reasoning Training

自我越狱：语言模型在良性推理训练后可通过推理自行摆脱安全对齐

Zheng-Xin Yong, Stephen H. Bach

机构 * Brown University（布朗大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；分类 cs.CL

AI总结 研究发现推理语言模型在良性训练后可能通过引入良性假设来规避安全限制，提出通过增加安全推理数据训练可缓解该问题。

Comments Published in The Fourteenth International Conference on Learning Representations (ICLR) 2026

ThinkBrake: Efficient Reasoning via Log-Probability Margin Guided Decoding

ThinkBrake: 通过对数概率边际引导解码实现高效推理

Sangjun Song, Minjae Oh, Seungkyu Lee, Sungmin Jo, Yohan Jo

机构 * Graduate School of Data Science, Seoul National University（数据科学研究生院，首尔国立大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 ThinkBrake通过监控句子边界处最高延续词与终止词的对数概率边际，减少过度推理，提升推理效率和准确性。

CRISP: Compressing Redundancy in Chain-of-Thought via Intrinsic Saliency Pruning

通过内在显著性剪枝压缩链式推理中的冗余

Yangsong Lan, Hongliang Dai, Piji Li

机构 * College of Artificial Intelligence, Nanjing University of Aeronautics and Astronautics（南京航空航天大学人工智能学院） ； The Key Laboratory of Brain-Machine Intelligence Technology, Ministry of Education（教育部脑机智能技术重点实验室） 纠错

专题命中 数学推理 ：chain-of-thought(title,abstract)；CoT(abstract,abstract_cn)；reasoning(abstract)；分类 cs.CL

AI总结 本文提出CRISP框架，通过利用模型内在显著性信号压缩链式推理，减少冗余并保持逻辑一致性，实验表明在不牺牲准确性的情况下实现50-60%的token减少。

Comments Findings of the Association for Computational Linguistics: ACL 2026

Improving Reasoning Capabilities in Small Models through Mixture-of-Layers Distillation with Stepwise Attention on Key Information

通过关键信息的分步注意力混合层蒸馏提升小模型的推理能力

Yao Chen, Jiawei Sheng, Wenyuan Zhang, Tingwen Liu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文提出一种基于分步注意力的混合层蒸馏方法，通过引导学生模型逐步聚焦关键信息，提升小模型的推理能力，并在多个数学和常识推理数据集上取得一致性能提升。

Comments Accepted at EMNLP 2025

Large Reasoning Models Are (Not Yet) Multilingual Latent Reasoners

大型推理模型是（尚未）多语言潜在推理器

Yihong Liu, Raoyuan Zhao, Hinrich Schütze, Michael A. Hedderich

机构 * cisnlp 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文研究了多语言潜在推理在大型推理模型中的表现，发现其在资源丰富语言中表现较强，但在低资源语言中较弱，且在更难的基准测试中更不明显。

Comments ACL 2026 Findings

CoTEvol: Self-Evolving Chain-of-Thoughts for Data Synthesis in Mathematical Reasoning

CoTEvol：用于数学推理数据合成的自演化思维链

Zhuo Wang, Zhuo Zhang, Yafu Li, Yu Cheng, Lizhen Qu, Zenglin Xu

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； The Chinese University of Hong Kong（香港中文大学） ； Monash University（墨尔本大学） ； Independent Researcher（独立研究者） ； Shanghai Academy of AI for Science（上海人工智能科学研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.AI

AI总结 本文提出CoTEvol，一种基于遗传算法的思维链生成框架，通过全局交叉和局部突变提升生成准确性和多样性，实验表明其在数学推理任务中效果优于传统方法。

Comments acl2026 findings

STITCH: Simultaneous Thinking and Talking with Chunked Reasoning for Spoken Language Models

STITCH：基于分块推理的 spoken language models 的同时思考与说话

Cheng-Han Chiang, Xiaofei Wang, Linjie Li, Chung-Ching Lin, Kevin Lin, Shujie Liu, Zhendong Wang, Zhengyuan Yang, Hung-yi Lee, Lijuan Wang

机构 * National Taiwan University（国立台湾大学） ； Microsoft（微软） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

AI总结 STITCH通过分块推理实现语音语言模型的同时思考与说话，提升推理效率与响应速度。

Comments ICLR 2026 camera-ready version. Project page: https://d223302.github.io/STITCH/

Dual-Phase LLM Reasoning: Self-Evolved Mathematical Frameworks

双阶段LLM推理：自演化数学框架

ShaoZhen Liu, Xinting Huang, Houwen Peng, Xin Chen, Xinyang Song, Qi Li, Zhenan Sun

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；self-correction(abstract)

AI总结 本文提出双阶段训练框架，通过自动生成的长链式思考数据增强模型自我纠正能力，提升数学问题解决性能。

Interleaved Reasoning for Large Language Models via Reinforcement Learning

通过强化学习实现大型语言模型的交错推理

Roy Xie, David Qiu, Deepak Gopinath, Dong Lin, Yanchao Sun, Chong Wang, Saloni Potdar, Bhuwan Dhingra

机构 * Apple（苹果公司） ； Duke University（杜克大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；logical reasoning(abstract)

AI总结 通过强化学习实现大型语言模型的交错推理，提升推理效率和准确性。

Eliciting Chain-of-Thought in Base LLMs via Gradient-Based Representation Optimization

通过基于梯度的表示优化在基础LLM中引导链式思维

Zijian Wang, Yanxiang Ma, Chang Xu

机构 * Zijian Wang, Yanxiang Ma, Chang Xu（作者） 纠错

专题命中 数学推理 ：chain-of-thought(title,abstract)；reasoning(abstract)；CoT(abstract)；logical reasoning(abstract)

AI总结 本文提出了一种基于概率条件生成的隐藏状态优化方法，通过梯度优化提升基础LLM的链式思维推理能力，有效解决隐藏状态操纵中的分布偏移问题。

Comments AAAI2026

Unspoken Hints: Accuracy Without Acknowledgement in LLM Reasoning

Arash Marioriyad, Shaygan Adim, Nima Alighardashi, Mahdieh Soleymani Banghshah, Mohammad Hossein Rohban

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；logical reasoning(abstract)

Comments 5 Pages, 4 Figures, 4 Tables

Journal ref 39th Conference on Neural Information Processing Systems, 2025, Workshop: Reliable ML from Unreliable Data

Answer Convergence as a Signal for Early Stopping in Reasoning

Xin Liu, Lu Wang

机构 * Computer Science and Engineering University of Michigan（计算机科学与工程系密歇根大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

ReCUT: Balancing Reasoning Length and Accuracy in LLMs via Stepwise Trails and Preference Optimization

Zhensheng Jin, Xinze Li, Yifan Ji, Chunyi Peng, Zhenghao Liu, Qi Shi, Yukun Yan, Shuo Wang, Furong Peng, Ge Yu

机构 * School of Computer Science and Engineering, Northeastern University, China（东北大学计算机科学与工程学院） ； Department of Computer Science and Technology, Institute for AI, Tsinghua University, China（清华大学计算机科学与技术系） ； Beijing National Research Center for Information Science and Technology, China（北京信息科学与技术国家研究中心） ； Institute of Big Data Science and Industry/School of Computer and Information Technology, Shanxi University, China（山西大学大数据科学与产业研究院/计算机与信息学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

Phi-4-Mini-Reasoning: Exploring the Limits of Small Reasoning Language Models in Math

Haoran Xu, Baolin Peng, Hany Awadalla, Dongdong Chen, Yen-Chun Chen, Mei Gao, Young Jin Kim, Yunsheng Li, Liliang Ren, Yelong Shen, Shuohang Wang, Weijian Xu, Jianfeng Gao, Weizhu Chen

机构 * Microsoft（微软） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

Rethinking the Generation of High-Quality CoT Data from the Perspective of LLM-Adaptive Question Difficulty Grading

Qianjin Yu, Keyu Wu, Zihan Chen, Chushu Zhang, Manlin Mei, Lingjun Huang, Fang Tan, Yongsheng Du, Kunlin Liu, Yurui Zhu

专题命中 数学推理 ：CoT(title,abstract)；reasoning(abstract)；chain-of-thought(abstract)；math reasoning(abstract)

mCoT: Multilingual Instruction Tuning for Reasoning Consistency in Language Models

Huiyuan Lai, Malvina Nissim

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

Comments Accepted to ACL 2024 main (Corrected Figure 2 (a))

InternLM-Math: Open Math Large Language Models Toward Verifiable Reasoning

Huaiyuan Ying, Shuo Zhang, Linyang Li, Zhejian Zhou, Yunfan Shao, Zhaoye Fei, Yichuan Ma, Jiawei Hong, Kuikun Liu, Ziyi Wang, Yudong Wang, Zijian Wu, Shuaibin Li, Fengzhe Zhou, Hongwei Liu, Songyang Zhang, Wenwei Zhang, Hang Yan, Xipeng Qiu, Jiayu Wang, Kai Chen, Dahua Lin

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；math reasoning(abstract)；verifier(abstract)

Learning Multi-Step Reasoning by Solving Arithmetic Tasks

Tianduo Wang, Wei Lu

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

Comments ACL 2023. Code and data are available at https://github.com/TianduoWang/MsAT

On-Policy Delta Distillation for Multilingual Math Reasoning

面向多语言数学推理的在线策略增量蒸馏

Byeongho Heo, Jaehui Hwang, Sangdoo Yun, Dongyoon Han

机构 * NAVER AI Lab（NAVER AI实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(title)；分类 cs.CL、cs.LG

AI总结 本研究针对多语言数学推理任务，提出OPD²方法，实验表明其在韩语、日语上性能提升显著，且能缩小英语与韩语的性能差距，凸显多语言数据的重要性。

Comments 9 pages, 3 figures, 10 tables

TabularMath: Understanding Math Reasoning over Tables with Large Language Models

TabularMath: 通过大规模语言模型理解表格上的数学推理

Shi-Yu Tian, Zhi Zhou, Wei Dong, Kun-Yang Yu, Ming Yang, Zi-Jian Cheng, Lan-Zhe Guo, Yu-Feng Li

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； School of Intelligence Science and Technology, Nanjing University（南京大学智能科学与技术学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(title)；分类 cs.CL、cs.AI

AI总结 本文提出TabularMath基准，通过神经符号框架将数学问题转化为可扩展的表格推理任务，揭示表格复杂度、质量及表征对推理性能的影响，发现低质量表格对当前LLM的可靠性构成严重风险。

Comments Accepted by ACL 26

Towards Interpretable and Inference-Optimal COT Reasoning with Sparse Autoencoder-Guided Generation

Daniel Zhao, Abhilash Shankarampeta, Lanxiang Hu, Tajana Rosing, Hao Zhang

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(title)；分类 cs.AI、cs.LG

Guiding Through Complexity: What Makes Good Supervision for Hard Math Reasoning Tasks?

Xuan He, Da Yin, Nanyun Peng

机构 * Tsinghua University（清华大学） ； University of California, Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(title)；分类 cs.CL、cs.LG

Comments NAACL 2025 Main

Benchmarking Large Language Models for Math Reasoning Tasks

Kathrin Seßler, Yao Rong, Emek Gözlüklü, Enkelejda Kasneci

机构 * Technical University of Munich（慕尼黑工业大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(title)；分类 cs.CL、cs.LG

Comments This work has been submitted to the IEEE for possible publication