大模型推理能力

Enhancing Large Language Model Reasoning via Selective Critical Token Fine-Tuning

Zhiwen Ruan, Yixia Li, He Zhu, Yun Chen, Peng Li, Yang Liu, Guanhua Chen

机构 * Southern University of Science and Technology（南方科技大学） ； Peking University（北京大学） ； Shanghai University of Finance and Economics（上海金融学院） ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Making Mathematical Reasoning Adaptive

Zhejian Lai, Xiang Geng, Zhijun Wang, Yang Bai, Jiahuan Li, Rongxiang Weng, Jingang Wang, Xuezhi Cao, Xunliang Cai, Shujian Huang

机构 * Nanjing University（南京大学） ； Meituan Inc.（美团公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Systematic Diagnosis of Brittle Reasoning in Large Language Models

V. S. Raghu Parupudi

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments Submitted to NEURIPS-2025 MATHAI workshop

Learning to Disentangle Latent Reasoning Rules with Language VAEs: A Systematic Study

Yingji Zhang, Marco Valentino, Danilo S. Carvalho, André Freitas

机构 * Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系） ； School of Computer Science, University of Sheffield（谢菲尔德大学计算机科学学院） ； Idiap Research Institute（Idiap研究机构） ； Cancer Biomarker Centre, CRUK Manchester Institute（CRUK曼彻斯特研究所癌症生物标记中心） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

ARES: Multimodal Adaptive Reasoning via Difficulty-Aware Token-Level Entropy Shaping

Shuang Chen, Yue Guo, Yimeng Ye, Shijue Huang, Wenbo Hu, Haoxi Li, Manyuan Zhang, Jiayu Chen, Song Guo, Nanyun Peng

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； The Hong Kong University of Science and Technology（香港科技大学） ； Columbia University（哥伦比亚大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Evaluating LLMs' Mathematical Reasoning in Financial Document Question Answering

Pragya Srivastava, Manuj Malik, Vivek Gupta, Tanuja Ganu, Dan Roth

机构 * Microsoft Research（微软研究院） ； Singapore Management University（新加坡管理大学） ； University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments 26 pages, 17 figures

Haibu Mathematical-Medical Intelligent Agent:Enhancing Large Language Model Reliability in Medical Tasks via Verifiable Reasoning Chains

Yilun Zhang, Dexing Kong

机构 * Zhejiang Qiushi Institute of Mathematical Medicine（浙江启思数学医学研究院） ； School of Mathematical Sciences, Zhejiang University（浙江大学数学科学学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

More Data or Better Data? A Critical Analysis of Data Selection and Synthesis for Mathematical Reasoning

Yike Zhao, Simin Guo, Ziqing Yang, Shifan Han, Dahua Lin, Fei Tan

机构 * East China Normal University（东华师范大学） ； University of Chicago（芝加哥大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments 12 pages, 3 figures, submitted to EMNLP 2025 Industry Track

Executable Counterfactuals: Improving LLMs' Causal Reasoning Through Code

Aniket Vashishtha, Qirun Dai, Hongyuan Mei, Amit Sharma, Chenhao Tan, Hao Peng

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； The University of Chicago（芝加哥大学） ； TTIC ； Microsoft Research India（微软印度研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

SKYLENAGE Technical Report: Mathematical Reasoning and Contest-Innovation Benchmarks for Multi-Level Math Evaluation

Hu Wei, Ze Xu, Boyu Yang, Linlin Miao, Weiqi Zhai, Yihan Li, Zixuan Li, Zhijun Wang, Boya Wang, Jianwei Yu, Jialing Yuan, Xiaoyue Zhang, Cheng He, Minglei Chen, Zifan Zhang, Qianhui Li, Wei Wang, Xiang Xu

机构 * SKYLENAGE 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

On Code-Induced Reasoning in LLMs

Abdul Waheed, Zhen Wu, Carolyn Rosé, Daphne Ippolito

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Topology of Reasoning: Understanding Large Reasoning Models through Reasoning Graph Properties

Gouki Minegishi, Hiroki Furuta, Takeshi Kojima, Yusuke Iwasawa, Yutaka Matsuo

机构 * The University of Tokyo（东京大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Comments Accepted to Neurips 2025

Atomic Thinking of LLMs: Decoupling and Exploring Mathematical Reasoning Abilities

Jiayi Kuang, Haojing Huang, Yinghui Li, Xinnian Liang, Zhikun Xu, Yangning Li, Xiaoyu Tan, Chao Qu, Meishan Zhang, Ying Shen, Philip S. Yu

机构 * Sun Yat-sen University（中山大学） ； Tsinghua University（清华大学） ； ByteDance Inc（字节跳动公司） ； Arizona State University（亚利桑那州立大学） ； Tencent Youtu Lab（腾讯优图实验室） ； Fudan University（复旦大学） ； Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）） ； Guangdong Provincial Key Laboratory of Fire Science and Intelligent Emergency Technology（广东省消防科学与智能应急技术重点实验室） ； University of Illinois Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Socratic-Zero : Bootstrapping Reasoning via Data-Free Agent Co-evolution

Shaobo Wang, Zhengbo Jiao, Zifan Zhang, Yilang Peng, Xu Ze, Boyu Yang, Wei Wang, Hu Wei, Linfeng Zhang

机构 * Alibaba Group Holding Limited（阿里巴巴集团控股有限公司） ； EPIC Lab, Shanghai Jiao Tong University（上海交通大学EPIC实验室） ； Shanghai University of Finance and Economics（上海财经大学） ； Wuhan University（武汉大学） ； Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments 23 pages, 3 figures

WirelessMathLM: Teaching Mathematical Reasoning for LLMs in Wireless Communications with Reinforcement Learning

Xin Li, Mengbing Liu, Yiyang Zhu, Wenhe Zhang, Li Wei, Jiancheng An, Chau Yuen

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

Comments Project Homepage: https://lixin.ai/WirelessMathLM

Revisiting Visual Understanding in Multimodal Reasoning through a Lens of Image Perturbation

Yuting Li, Lai Wei, Kaipeng Zheng, Jingyuan Huang, Guilin Li, Bo Wang, Linghe Kong, Lichao Sun, Weiran Huang

机构 * School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学学院） ； Shanghai Innovation Institute（上海创新研究院） ； Zhongguancun Academy（中关村学院） ； Tencent（腾讯） ； State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI） ； Lehigh University（莱斯大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Comments Technical Report

VCSearch: Bridging the Gap Between Well-Defined and Ill-Defined Problems in Mathematical Reasoning

Shi-Yu Tian, Zhi Zhou, Kun-Yang Yu, Ming Yang, Lin-Han Jia, Lan-Zhe Guo, Yu-Feng Li

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（南京大学新型软件技术国家重点实验室） ； School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； School of Intelligence Science and Technology, Nanjing University（南京大学智能科学与技术学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Comments Accepted by EMNLP 2025

Reasoning BO: Enhancing Bayesian Optimization with Long-Context Reasoning Power of LLMs

Zhuo Yang, Daolang Wang, Lingli Ge, Beilun Wang, Tianfan Fu, Yuqiang Li

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Xidian University（西安电子科技大学） ； North University of China（北方大学） ； Fudan University（复旦大学） ； Southeast University（东南大学） ； Nanjing University（南京大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

PEPS: Quantum-Inspired Reinforcement Learning for Coherent Reasoning Traces in LLMs

Venkat Margapuri, Garik Kazanjian, Naren Kosaraju

机构 * Department of Computing Sciences, Villanova University（计算机科学系，维拉诺瓦大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

SteinerSQL: Graph-Guided Mathematical Reasoning for Text-to-SQL Generation

Xutao Mao, Tao Liu, Hongying Zan

机构 * Vanderbilt University（范德比大学） ； Zhengzhou University（郑州大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Comments Accept in Non-archival EMNLP 2025 MathNLP

Mitigating Strategy-Selection Bias in Reasoning for More Effective Test-Time Scaling

Zongqian Wu, Baoduo Xu, Tianyu Li, Zhu Sun, Xiaofeng Zhu, Lei Feng

机构 * UESTC（乌兹克斯坦技术学院） ； Nanjing University（南京大学） ； Southeast University（东南大学） ； Hainan University（海南大学） ； SUTD（新加坡科技设计大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Comments 23 pages, 9 figures

Unraveling Misinformation Propagation in LLM Reasoning

Yiyang Feng, Yichen Wang, Shaobo Cui, Boi Faltings, Mina Lee, Jiawei Zhou

机构 * EPFL（瑞士联邦理工学院） ； Stony Brook University（史泰士布鲁克大学） ； University of Chicago（芝加哥大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments Accepted to EMNLP 2025 (Findings)

GRPO-LEAD: A Difficulty-Aware Reinforcement Learning Approach for Concise Mathematical Reasoning in Language Models

Jixiao Zhang, Chunsheng Zuo

机构 * Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments Accepted to EMNLP 2025 (Main)

FG-PRM: Fine-grained Hallucination Detection and Mitigation in Language Model Mathematical Reasoning

Ruosen Li, Ziming Luo, Xinya Du

机构 * Department of Computer Science, University of Texas at Dallas（德克萨斯大学达拉斯分校计算机科学系） ； Department of Electrical Engineering Computer Science, University of Michigen（密歇根大学电子工程与计算机科学系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments Findings of EMNLP 2025

MAgICoRe: Multi-Agent, Iterative, Coarse-to-Fine Refinement for Reasoning

Justin Chih-Yao Chen, Archiki Prasad, Swarnadeep Saha, Elias Stengel-Eskin, Mohit Bansal

机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments EMNLP 2025 (Camera-Ready)

NeedleBench: Evaluating LLM Retrieval and Reasoning Across Varying Information Densities

Mo Li, Songyang Zhang, Taolin Zhang, Haodong Duan, Yunxin Liu, Kai Chen

机构 * Tsinghua University（清华大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments v3: Revisions with added experiments, clarifications, and related work updates

Quantifying The Limits of AI Reasoning: Systematic Neural Network Representations of Algorithms

Anastasis Kratsios, Dennis Zvigelsky, Bradd Hart

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

Comments 18 pages main body, 45 pages total + references

RIMO: An Easy-to-Evaluate, Hard-to-Solve Olympiad Benchmark for Advanced Mathematical Reasoning

Ziye Chen, Chengwei Qin, Yao Shu

机构 * Artificial Intelligence Thrust, Information Hub, Hong Kong University of Science and Technology (Guangzhou), Guangzhou, China（人工智能 thrust，信息中心，香港科学与技术大学（广州），广州，中国） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

Multimodal Reasoning for Science: Technical Report and 1st Place Solution to the ICML 2025 SeePhys Challenge

Hao Liang, Ruitao Wu, Bohan Zeng, Junbo Niu, Wentao Zhang, Bin Dong

机构 * Peking University（北京大学） ； Beihang University（北航） ； Zhongguancun Academy（中关村学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Chain-of-Reasoning: Towards Unified Mathematical Reasoning in Large Language Models via a Multi-Paradigm Perspective

Yiyao Yu, Yuxiang Zhang, Dongdong Zhang, Xiao Liang, Hengyuan Zhang, Xingxing Zhang, Ziyi Yang, Mahmoud Khademi, Hany Awadalla, Junjie Wang, Yujiu Yang, Furu Wei

机构 * Microsoft Research Asia（微软亚洲研究院） ； Tsinghua University（清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

Comments Accepted to ACL 2025 (Main)