大模型推理能力

A Survey on Post-training of Large Language Models

Guiyao Tie, Zeli Zhao, Dingjie Song, Fuyang Wei, Rong Zhou, Yurou Dai, Wen Yin, Zhejian Yang, Jiangyue Yan, Yao Su, Zhenhan Dai, Yifeng Xie, Yihan Cao, Lichao Sun, Pan Zhou, Lifang He, Hechang Chen, Yu Zhang, Qingsong Wen, Tianming Liu, Neil Zhenqiang Gong, Jiliang Tang, Caiming Xiong, Heng Ji, Philip S. Yu, Jianfeng Gao

机构 * Huazhong University of Science and Technology（华中科技大学） ； Lehigh University（莱斯大学） ； The University of Hong Kong（香港大学） ； Jilin University（吉林大学） ； Southern University of Science and Technology（南方科技大学） ； Worcester Polytechnic Institute（沃思堡理工学院） ； LinkedIn Corporation（领英公司） ； Squirrel Ai Learning ； University of Georgia（佐治亚大学） ； Duke University（杜克大学） ； Michigan State University（密歇根州立大学） ； Salesforce Research（Salesforce研究） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Illinois at Chicago（伊利诺伊大学芝加哥分校） ； Microsoft Research（微软研究院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 87 pages, 21 figures, 9 tables

EducationQ: Evaluating LLMs' Teaching Capabilities Through Multi-Agent Dialogue Framework

Yao Shi, Rongkeng Liang, Yong Xu

机构 * South China University of Technology（华南理工大学） ； Education Innovation Research Institute of Guangdong（广东教育创新研究院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Paper URL: https://aclanthology.org/2025.acl-long.1576 ;Presentation Video: https://www.youtube.com/watch?v=j63ooKE50I0

Journal ref Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (2025) 32799-32828

Where to show Demos in Your Prompt: A Positional Bias of In-Context Learning

Kwesi Cobbina, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学 College Park分校） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Solving Formal Math Problems by Decomposition and Iterative Reflection

Yichi Zhou, Jianqiu Zhao, Yongxin Zhang, Bohan Wang, Siran Wang, Luoxin Chen, Jiahui Wang, Haowei Chen, Allan Jie, Xinbo Zhang, Haocheng Wang, Luong Trung, Rong Ye, Phan Nhat Hoang, Huishuai Zhang, Peng Sun, Hang Li

机构 * University of science and technology of China（科学技术大学） ； Peking University（北京大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

LLM Alignment as Retriever Optimization: An Information Retrieval Perspective

Bowen Jin, Jinsung Yoon, Zhen Qin, Ziqi Wang, Wei Xiong, Yu Meng, Jiawei Han, Sercan O. Arik

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Google Cloud AI Research（谷歌云人工智能研究） ； Google DeepMind（谷歌DeepMind） ； University of Virginia（弗吉尼亚大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 26 pages

Infinite Video Understanding

Dell Zhang, Xiangyu Chen, Jixiang Luo, Mengxi Jia, Changzhi Sun, Ruilong Ren, Jingren Liu, Hao Sun, Xuelong Li

机构 * Institute of Artificial Intelligence (TeleAI), China Telecom（人工智能研究院（TeleAI），中国电信） ； Peking University（北京大学） ； Tianjin University（天津大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

WebShaper: Agentically Data Synthesizing via Information-Seeking Formalization

Zhengwei Tao, Jialong Wu, Wenbiao Yin, Junkai Zhang, Baixuan Li, Haiyang Shen, Kuan Li, Liwen Zhang, Xinyu Wang, Yong Jiang, Pengjun Xie, Fei Huang, Jingren Zhou

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Explainable Collaborative Problem Solving Diagnosis with BERT using SHAP and its Implications for Teacher Adoption

Kester Wong, Sahan Bulathwela, Mutlu Cukurova

机构 * UCL Knowledge Lab, Institute of Education, University College London, UK（伦敦大学学院教育学院知识实验室） ； UCL Centre for Artificial Intelligence, Department of Computer Science, University College London, UK（伦敦大学学院人工智能中心） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Accepted to appear in the workshop proceedings for the HEXED'25 workshop in the 26th International Conference on Artificial Intelligence in Education 2025 (AIED 2025), 22 July 2025, Palermo, Italy. 6 pages, 2 figures

GHPO: Adaptive Guidance for Stable and Efficient LLM Reinforcement Learning

Ziru Liu, Cheng Gong, Xinyu Fu, Yaofang Liu, Ran Chen, Shoubo Hu, Suiyun Zhang, Rui Liu, Qingfu Zhang, Dandan Tu

机构 * Huawei Research（华为研究） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments Code avaiable at https://github.com/hkgc-1/GHPO

Hi Robot: Open-Ended Instruction Following with Hierarchical Vision-Language-Action Models

Lucy Xiaoyang Shi, Brian Ichter, Michael Equi, Liyiming Ke, Karl Pertsch, Quan Vuong, James Tanner, Anna Walling, Haohuan Wang, Niccolo Fusai, Adrian Li-Bell, Danny Driess, Lachy Groom, Sergey Levine, Chelsea Finn

机构 * Stanford University（斯坦福大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments ICML 2025

The Odyssey of the Fittest: Can Agents Survive and Still Be Good?

Dylan Waldner, Risto Miikkulainen

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments Accepted to CogSci 2025. Code can be found at https://github.com/dylanwaldner/BeGoodOrSurvive

DeepResearch$^{\text{Eco}}$: A Recursive Agentic Workflow for Complex Scientific Question Answering in Ecology

Jennifer D'Souza, Endres Keno Sander, Andrei Aioanei

机构 * TIB Leibniz Information Centre for Science（图灵-莱比锡科学与技术信息中心） ； Leibniz University Hannover, Germany（莱比锡汉诺威大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 12 pages, 3 figures

Theme-Explanation Structure for Table Summarization using Large Language Models: A Case Study on Korean Tabular Data

TaeYoon Kwack, Jisoo Kim, Ki Yong Jung, DongGeon Lee, Heesun Park

机构 * Sungkyunkwan University（成均馆大学） ； Pohang University of Science and Technology（釜山科学技术大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Accepted to TRL@ACL 2025

Coding Triangle: How Does Large Language Model Understand Code?

Taolin Zhang, Zihan Ma, Maosong Cao, Junnan Liu, Songyang Zhang, Kai Chen

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

SciMaster: Towards General-Purpose Scientific AI Agents, Part I. X-Master as Foundation: Can We Lead on Humanity's Last Exam?

Jingyi Chai, Shuo Tang, Rui Ye, Yuwen Du, Xinyu Zhu, Mengcheng Zhou, Yanfeng Wang, Weinan E, Yuzhi Zhang, Linfeng Zhang, Siheng Chen

机构 * School of Artificial Intelligence, Shanghai Jiao Tong University（1 人工智能学院，上海交通大学） ； DP Technology（2 DP技术） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 15 pages, 10 figures

Learning Federated Neural Graph Databases for Answering Complex Queries from Distributed Knowledge Graphs

Qi Hu, Weifeng Jiang, Haoran Li, Zihao Wang, Jiaxin Bai, Qianren Mao, Yangqiu Song, Lixin Fan, Jianxin Li

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； Nanyang Technological University（南洋理工大学） ； Zhongguancun Laboratory（中关村实验室） ； WeBank ； Beihang University（北航大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments Accepted by TMLR. Reviewed on OpenReview: https://openreview.net/forum?id=3K1LRetR6Y

Leveraging LLM-Assisted Query Understanding for Live Retrieval-Augmented Generation

Guanting Dong, Xiaoxi Li, Yuyao Zhang, Mengjie Deng

机构 * Renmin University of China（中国人民大学） 纠错

专题命中 复杂问题求解 ：chain-of-thought(abstract)；分类 cs.CL、cs.AI

Comments Accepted at SIGIR 2025 LiveRAG Workshop (Oral Presentation)

Agent-RLVR: Training Software Engineering Agents via Guidance and Environment Rewards

Jeff Da, Clinton Wang, Xiang Deng, Yuntao Ma, Nikhil Barhate, Sean Hendryx

机构 * Scale AI 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Tower+: Bridging Generality and Translation Specialization in Multilingual LLMs

Ricardo Rei, Nuno M. Guerreiro, José Pombal, João Alves, Pedro Teixeirinha, Amin Farajian, André F. T. Martins

机构 * Unbabel ； Instituto de Telecomunicações（电信研究所） ； Instituto Superior Técnico & Universidade de Lisboa (Lisbon ELLIS Unit)（里斯本大学技术学院及里斯本大学（里斯本ELLIS单位）） ； MICS, CentraleSupélec, Université Paris-Saclay（MICS，CentraleSupélec，巴黎萨克雷大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

ChatDBG: Augmenting Debugging with Large Language Models

Kyla H. Levin, Nicolas van Kempen, Emery D. Berger, Stephen N. Freund

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Amazon Web Services（亚马逊网络服务） ； Williams College（威廉姆斯学院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments 22 pages, https://doi.org/10.1145/3729355

Journal ref FSE 2025

Revisiting Compositional Generalization Capability of Large Language Models Considering Instruction Following Ability

Yusuke Sakai, Hidetaka Kamigaito, Taro Watanabe

机构 * Nara Institute of Science and Technology（奈良科学技術大學） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments ACL 2025 Main

Singular Value Decomposition on Kronecker Adaptation for Large Language Model

Yee Hin Chong, Peng Qu

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Multi-Agent Language Models: Advancing Cooperation, Coordination, and Adaptation

Arjun Vaithilingam Sudhakar

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments arXiv admin note: substantial text overlap with arXiv:2311.07687

Socratic RL: A Novel Framework for Efficient Knowledge Acquisition through Iterative Reflection and Viewpoint Distillation

Xiangfan Wu

机构 * Xiangfan Wu (June 16, 2025)（武相帆（2025年6月16日）） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Accurate and Regret-aware Numerical Problem Solver for Tabular Question Answering

Yuxiang Wang, Jianzhong Qi, Junhao Gan

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Compositional Shielding and Reinforcement Learning for Multi-Agent Systems

Asger Horn Brorholt, Kim Guldstrand Larsen, Christian Schilling

机构 * Aalborg University（奥胡斯大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Journal ref AAMAS 2025

TACTIC: Translation Agents with Cognitive-Theoretic Interactive Collaboration

Weiya Li, Junjie Chen, Bei Li, Boyang Liu, Zichen Wen, Nuanqiao Shan, Xiaoqian Liu, Anping Liu, Huajie Liu, Hu Song, Linfeng Zhang

机构 * Big Data&AI Lab, ICBC（大数据与人工智能实验室，ICBC） ； Shanghai Jiao Tong University（上海交通大学） ； Meituan Inc.（美团公司） ； Tongji University（同济大学） ； Fudan University（复旦大学） ； Northeastern University（东北大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 20 pages, 4 figures, Under review. Code: https://github.com/weiyali126/TACTIC

$τ^2$-Bench: Evaluating Conversational Agents in a Dual-Control Environment

Victor Barres, Honghua Dong, Soham Ray, Xujie Si, Karthik Narasimhan

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Tree-of-Debate: Multi-Persona Debate Trees Elicit Critical Thinking for Scientific Comparative Analysis

Priyanka Kargupta, Ishika Agarwal, Tal August, Jiawei Han

机构 * Department of Computer Science, University of Illinois at Urbana-Champaign（计算机科学系，伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments ACL 2025 Main Conference. Code available at: https://github.com/pkargupta/tree-of-debate

Semantic Exploration with Adaptive Gating for Efficient Problem Solving with Language Models

Sungjae Lee, Hyejin Park, Jaechang Kim, Jungseul Ok

机构 * Department of Computer Science and Engineering, POSTECH, South Korea（计算机科学与工程系，POSTECH，韩国） ； Graduate School of Artificial Intelligence, POSTECH, South Korea（人工智能研究生院，POSTECH，韩国） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI