大模型推理能力

LLMs Can Simulate Standardized Patients via Agent Coevolution

Zhuoyun Du, Lujie Zheng, Renjun Hu, Yuyang Xu, Xiawei Li, Ying Sun, Wei Chen, Jian Wu, Haolei Cai, Haohao Ying

机构 * State Key Lab of CAD & CG, Zhejiang University（浙江大学计算机辅助设计与图形学国家重点实验室） ； Zhejiang Polytechnic Institute, Polytechnic Institute, Zhejiang University（浙江工业大学之江学院） ； College of Computer Science & Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； East China Normal University（华东师范大学） ； Sun Yat-sen University Cancer Center（中山大学肿瘤中心） ； School of Public Health, Zhejiang University（浙江大学公共卫生学院） ； Second Affiliated Hospital, Zhejiang University School of Medicine（浙江大学医学院第二附属医院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Accepted to ACL 2025

From Struggle (06-2024) to Mastery (02-2025) LLMs Conquer Advanced Algorithm Exams and Pave the Way for Editorial Generation

Adrian Marius Dumitran, Theodor-Pierre Moroianu, Vasile Paul Alexe

机构 * University of Bucharest（布加勒斯大学） ； ETH（苏黎世联邦理工学院） ； Softbinator Technologies（Softbinator技术公司） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 15 pages Pre-print Paper accepted to ITS 2025

Debate, Reflect, and Distill: Multi-Agent Feedback with Tree-Structured Preference Optimization for Efficient Language Model Enhancement

Xiaofeng Zhou, Heyan Huang, Lizi Liao

机构 * Beijing Institute of Technology（北京理工大学） ； Singapore Management University（新加坡国立大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 16 pages, 10 figures. The camera-ready paper for Findings of ACL 2025

Verbosity-Aware Rationale Reduction: Effective Reduction of Redundant Rationale via Principled Criteria

Joonwon Jang, Jaehee Kim, Wonbin Kweon, Seonghyeon Lee, Hwanjo Yu

机构 * POSTECH ； Seoul National University（首尔国立大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Kyungpook National University（庆北国立大学） ； LG AI Research（LG AI研究院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments ACL 2025 FINDINGS

StreamBP: Memory-Efficient Exact Backpropagation for Long Sequence Training of LLMs

Qijun Luo, Mengqi Li, Lei Zhao, Xiao Li

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

BNPO: Beta Normalization Policy Optimization

Changyi Xiao, Mengdi Zhang, Yixin Cao

机构 * School of Computer Science, Fudan University（复旦大学计算机学院） ； Meituan Group（美团集团） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Towards Efficient Online Tuning of VLM Agents via Counterfactual Soft Reinforcement Learning

Lang Feng, Weihao Tan, Zhiyi Lyu, Longtao Zheng, Haiyang Xu, Ming Yan, Fei Huang, Bo An

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments ICML 2025

How do Transformer Embeddings Represent Compositions? A Functional Analysis

Aishik Nagar, Ishaan Singh Rawal, Mansi Dhanania, Cheston Tan

机构 * ASUS Intelligent Cloud Services（ASUS智能云服务） ； Institute of High Performance Computing (IHPC), Agency for Science, Technology and Research (A*STAR)（高性能计算研究所（A*STAR）） ； Center for Frontier AI Research (CFAR), Agency for Science, Technology and Research (A*STAR)（前沿人工智能研究中心（A*STAR）） ； Texas A&M University（德克萨斯大学阿姆斯特朗分校） ； McGill University（麦吉尔大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Mixture of insighTful Experts (MoTE): The Synergy of Thought Chains and Expert Mixtures in Self-Alignment

Zhili Liu, Yunhao Gou, Kai Chen, Lanqing Hong, Jiahui Gao, Fei Mi, Yu Zhang, Zhenguo Li, Xin Jiang, Qun Liu, James T. Kwok

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； Southern University of Science and Technology（南方科技大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Efficient Latent Semantic Clustering for Scaling Test-Time Computation of LLMs

Sungjae Lee, Hoyoung Kim, Jeongyeon Hwang, Eunhyeok Park, Jungseul Ok

机构 * Department of Computer Science and Engineering, POSTECH, South Korea（计算机科学与工程系，POSTECH，韩国） ； Graduate School of Artificial Intelligence, POSTECH, South Korea（人工智能研究生院，POSTECH，韩国） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

LKD-KGC: Domain-Specific KG Construction via LLM-driven Knowledge Dependency Parsing

Jiaqi Sun, Shiyou Qian, Zhangchi Han, Wei Li, Zelin Qian, Dingyu Yang, Jian Cao, Guangtao Xue

机构 * Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Alibaba Group, Hangzhou, Zhejiang, China（阿里巴巴集团） ； Zhejiang University, Hangzhou, Zhejiang, China（浙江大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Submitting to EDBT 2026

Agent-UniRAG: A Trainable Open-Source LLM Agent Framework for Unified Retrieval-Augmented Generation Systems

Hoang Pham, Thuy-Duong Nguyen, Khac-Hoai Nam Bui

机构 * Viettel Group（越通集团） ； Hanoi University of Science and Technology（河内科学技术大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Generative AI in Health Economics and Outcomes Research: A Taxonomy of Key Definitions and Emerging Applications, an ISPOR Working Group Report

Rachael Fleurence, Xiaoyan Wang, Jiang Bian, Mitchell K. Higashi, Turgay Ayer, Hua Xu, Dalia Dawoud, Jagpreet Chhatwal

专题命中 复杂问题求解 ：chain-of-thought(abstract)；分类 cs.AI、cs.LG

Comments 36 pages, 1 figure, 2 tables

Cross-Task Experiential Learning on LLM-based Multi-Agent Collaboration

Yilong Li, Chen Qian, Yu Xia, Ruijie Shi, Yufan Dang, Zihao Xie, Ziming You, Weize Chen, Cheng Yang, Weichuan Liu, Ye Tian, Xuantang Xiong, Lei Han, Zhiyuan Liu, Maosong Sun

机构 * Peking University（北京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Siemens（西门子） ； Tencent Robotics X（腾讯机器人实验室） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Work in Progress

Verify-in-the-Graph: Entity Disambiguation Enhancement for Complex Claim Verification with Interactive Graph Representation

Hoang Pham, Thanh-Do Nguyen, Khac-Hoai Nam Bui

机构 * Viettel Artificial Intelligence and Data Services Center（越南 Viettel 人工智能与数据服务中心） ； Viettel Group（越南 Viettel 集团） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Published at NAACL 2025 Main Conference

Journal ref https://aclanthology.org/2025.naacl-long.268

ClaimPKG: Enhancing Claim Verification via Pseudo-Subgraph Generation with Lightweight Specialized LLM

Hoang Pham, Thanh-Do Nguyen, Khac-Hoai Nam Bui

机构 * Viettel Artificial Intelligence and Data Services Center（越南 Viettel 人工智能与数据服务中心） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Accepted by ACL 2025 findings

Journal ref ACL 2025

Learning Compositional Behaviors from Demonstration and Language

Weiyu Liu, Neil Nie, Ruohan Zhang, Jiayuan Mao, Jiajun Wu

机构 * Stanford University（斯坦福大学） 纠错

专题命中 复杂问题求解 ：planning(abstract)；分类 cs.CL、cs.AI

Comments Presented at CoRL 2024 and as an Oral Presentation at the 2024 CoRL LEAP Workshop. The first two authors contributed equally. The last two authors jointly advised the project. For videos and additional results, visit: https://blade-bot.github.io/

Co-Saving: Resource Aware Multi-Agent Collaboration for Software Development

Rennai Qiu, Chen Qian, Ran Li, Yufan Dang, Weize Chen, Cheng Yang, Yingli Zhang, Ye Tian, Xuantang Xiong, Lei Han, Zhiyuan Liu, Maosong Sun

机构 * Tsinghua University（清华大学） ； Shanghai Jiao Tong University（上海交通大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Siemens（西门子） ； Tencent Robotics X（腾讯机器人院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Work in Progress

Understanding the learned look-ahead behavior of chess neural networks

Diogo Cruz

机构 * Pivotal 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments 40 pages, 47 figures

Self-Taught Agentic Long Context Understanding

Yufan Zhuang, Xiaodong Yu, Jialian Wu, Ximeng Sun, Ze Wang, Jiang Liu, Yusheng Su, Jingbo Shang, Zicheng Liu, Emad Barsoum

机构 * AMD ； UC San Diego（加州大学圣地亚哥分校） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Published at ACL 2025 Main Conference

ComplexFormer: Disruptively Advancing Transformer Inference Ability via Head-Specific Complex Vector Attention

Jintian Shao, Hongyi Huang, Jiayi Wu, Beiwen Zhang, ZhiYu Wu, You Shan, MingKai Zheng

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.LG

Comments We are withdrawing this submission as the underlying experiment is currently incomplete. We require additional time to gather more data and supplement the existing findings to ensure a comprehensive and robust presentation. We intend to resubmit once these additions are finalized

KnowTrace: Bootstrapping Iterative Retrieval-Augmented Generation with Structured Knowledge Tracing

Rui Li, Quanyu Dai, Zeyu Zhang, Xu Chen, Zhenhua Dong, Ji-Rong Wen

机构 * Gaoling School of Artificial Intelligence（人工智能学院） ； Renmin University of China（中国人民大学） ； Huawei Noah’s Ark Lab（华为诺亚实验室） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments Accepted by KDD 2025

Sable: a Performant, Efficient and Scalable Sequence Model for MARL

Omayma Mahjoub, Sasha Abramowitz, Ruan de Kock, Wiem Khlifi, Simon du Toit, Jemma Daniel, Louay Ben Nessir, Louise Beyers, Claude Formanek, Liam Clark, Arnu Pretorius

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Single-agent or Multi-agent Systems? Why Not Both?

Mingyan Gao, Yanzi Li, Banruo Liu, Yifan Yu, Phillip Wang, Ching-Yu Lin, Fan Lai

机构 * Siebel School of Computing and Data Science（计算与数据科学学院） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Vendi-RAG: Adaptively Trading-Off Diversity And Quality Significantly Improves Retrieval Augmented Generation With LLMs

Mohammad Reza Rezaei, Adji Bousso Dieng

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments A RAG pipeline that accounts for both diversity and answer quality and that can be used with any LLM backbone to solve complex multi-hop question-answering tasks

Can Knowledge Graphs Make Large Language Models More Trustworthy? An Empirical Study Over Open-ended Question Answering

Yuan Sui, Yufei He, Zifeng Ding, Bryan Hooi

机构 * National University of Singapore（新加坡国立大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments This paper has been accepted by ACL 2025

Graph Foundation Models: A Comprehensive Survey

Zehong Wang, Zheyuan Liu, Tianyi Ma, Jiazheng Li, Zheyuan Zhang, Xingbo Fu, Yiyang Li, Zhengqing Yuan, Wei Song, Yijun Ma, Qingkai Zeng, Xiusi Chen, Jianan Zhao, Jundong Li, Meng Jiang, Pietro Lio, Nitesh Chawla, Chuxu Zhang, Yanfang Ye

机构 * University of Notre Dame（诺丁汉大学） ； University of Connecticut（康涅狄格大学） ； University of Virginia（弗吉尼亚大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Cambridge（剑桥大学） ； Mila - Québec AI Institute（魁北克AI研究院） ； Université de Montréal（蒙特利尔大学） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Comments Github Repo: https://github.com/Zehong-Wang/Awesome-Foundation-Models-on-Graphs. 93 pages, 438 references

DAPO: An Open-Source LLM Reinforcement Learning System at Scale

Qiying Yu, Zheng Zhang, Ruofei Zhu, Yufeng Yuan, Xiaochen Zuo, Yu Yue, Weinan Dai, Tiantian Fan, Gaohong Liu, Lingjun Liu, Xin Liu, Haibin Lin, Zhiqi Lin, Bole Ma, Guangming Sheng, Yuxuan Tong, Chi Zhang, Mofan Zhang, Wang Zhang, Hang Zhu, Jinhua Zhu, Jiaze Chen, Jiangjie Chen, Chengyi Wang, Hongli Yu, Yuxuan Song, Xiangpeng Wei, Hao Zhou, Jingjing Liu, Wei-Ying Ma, Ya-Qin Zhang, Lin Yan, Mu Qiao, Yonghui Wu, Mingxuan Wang

机构 * ByteDance Seed 2 Institute for AI Industry Research (AIR), Tsinghua University（字节跳动种子2人工智能产业研究院（AIR）、清华大学） ； The University of Hong Kong（香港大学） ； SIA-Lab of Tsinghua AIR and ByteDance Seed（清华大学AIR和字节跳动种子实验室） 纠错

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.LG

Comments Project Page: https://dapo-sia.github.io/

STD-PLM: Understanding Both Spatial and Temporal Properties of Spatial-Temporal Data with PLM

YiHeng Huang, Xiaowei Mao, Shengnan Guo, Yubin Chen, Junfeng Shen, Tiankuo Li, Youfang Lin, Huaiyu Wan

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.AI、cs.LG

Enhancing LLMs for Power System Simulations: A Feedback-driven Multi-agent Framework

Mengshuo Jia, Zeyu Cui, Gabriela Hug

专题命中 复杂问题求解 ：reasoning(abstract)；分类 cs.CL、cs.AI

Comments 16 pages