语言大模型 / LLM

Mapping Faithful Reasoning in Language Models

Jiazheng Li, Andreas Damianou, J Rosser, José Luis Redondo García, Konstantina Palla

机构 * King’s College London（伦敦国王学院） ； Spotify UK（Spotify英国分公司） ； University of Oxford（牛津大学） ； Spotify Spain（Spotify西班牙分公司） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

Comments 9 pages, Accepted to the Mechanistic Interpretability Workshop at NeurIPS 2025

PACR: Progressively Ascending Confidence Reward for LLM Reasoning

Eunseop Yoon, Hee Suk Yoon, Jaehyun Jang, SooHwan Eom, Qi Dai, Chong Luo, Mark A. Hasegawa-Johnson, Chang D. Yoo

机构 * Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院） ； Microsoft Research Asia (MSRA)（微软亚洲研究院） ； University of Illinois at Urbana-Champaign (UIUC)（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments 16 pages, 14 figures

Part I: Tricks or Traps? A Deep Dive into RL for LLM Reasoning

Zihe Liu, Jiashun Liu, Yancheng He, Weixun Wang, Jiaheng Liu, Ling Pan, Xinyu Hu, Shaopan Xiong, Ju Huang, Jian Hu, Shengyi Huang, Johan Obando-Ceron, Siran Yang, Jiamang Wang, Wenbo Su, Bo Zheng

机构 * Alibaba Group（阿里巴巴集团） ； Beijing Jiaotong University（北京交通大学） ； Hong Kong University of Science and Technology（香港理工大学） ； Nanjing University（南京大学） ； Peking University（北京大学） ； OpenRLHF ； CleanRL ； Mila 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.LG

Comments 26 pages, 21 figures

Learning to Better Search with Language Models via Guided Reinforced Self-Training

Seungyong Moon, Bumsoo Park, Hyun Oh Song

机构 * Seoul National University（首尔国立大学） ； KRAFTON 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted at NeurIPS 2025

The Surprising Effectiveness of Negative Reinforcement in LLM Reasoning

Xinyu Zhu, Mengzhou Xia, Zhepei Wei, Wei-Lin Chen, Danqi Chen, Yu Meng

机构 * Computer Science Department, University of Virginia（弗吉尼亚大学计算机科学系） ； Princeton Language and Intelligence (PLI), Princeton University（普林斯顿大学语言与智能研究所） 纠错

专题命中 推理与问题求解 ：LLM(title)；language model(abstract)；分类 cs.CL、cs.LG

Comments Accepted to NeurIPS 2025

Cascaded Language Models for Cost-effective Human-AI Decision-Making

Claudio Fanconi, Mihaela van der Schaar

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 推理与问题求解 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

Code-enabled language models can outperform reasoning models on diverse tasks

Cedegao E. Zhang, Cédric Colas, Gabriel Poesia, Joshua B. Tenenbaum, Jacob Andreas

机构 * MIT（麻省理工学院） ； Inria（法国国家科研机构） ； Harvard University（哈佛大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Sherlock: Self-Correcting Reasoning in Vision-Language Models

Yi Ding, Ruqi Zhang

机构 * Department of Computer Science, Purdue University, USA（计算机科学系，普渡大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

Comments Published at NeurIPS 2025, 27 pages

UniRL-Zero: Reinforcement Learning on Unified Models with Joint Language Model and Diffusion Model Experts

Fu-Yun Wang, Han Zhang, Michael Gharbi, Hongsheng Li, Taesung Park

机构 * Cuhk（香港中文大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Investigating Safety Vulnerabilities of Large Audio-Language Models Under Speaker Emotional Variations

Bo-Han Feng, Chien-Feng Liu, Yu-Hsuan Li Liang, Chih-Kai Yang, Szu-Wei Fu, Zhehuai Chen, Ke-Han Lu, Sung-Feng Huang, Chao-Han Huck Yang, Yu-Chiang Frank Wang, Yun-Nung Chen, Hung-yi Lee

机构 * National Taiwan University（国立台湾大学） ； NVIDIA 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Submitted to ICASSP 2026

Robust Search with Uncertainty-Aware Value Models for Language Model Reasoning

Fei Yu, Yingru Li, Benyou Wang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； ByteDance, Singapore（字节跳动（新加坡）） 纠错

专题命中 推理与问题求解 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

ProofOptimizer: Training Language Models to Simplify Proofs without Human Demonstrations

Alex Gu, Bartosz Piotrowski, Fabian Gloeckle, Kaiyu Yang, Aram H. Markosyan

机构 * Meta FAIR & MIT CSAIL（Meta FAIR 与 MIT CSAIL） ； Meta FAIR ； Meta FAIR & École des Ponts Paris（Meta FAIR 与 巴黎École des Ponts） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Comments 52 pages, 16 figures, website: http://proof-optimizer.github.io/

GuardReasoner: Towards Reasoning-based LLM Safeguards

Yue Liu, Hongcheng Gao, Shengfang Zhai, Yufei He, Jun Xia, Zhengyu Hu, Yulin Chen, Xihong Yang, Jiaheng Zhang, Stan Z. Li, Hui Xiong, Bryan Hooi

机构 * NUS（新加坡国立大学） ； HKUST (Guangzhou)（香港科技大学（广州）） ； Westlake University（西湖大学） 纠错

专题命中 推理与问题求解 ：LLM(title)；SFT(abstract)；分类 cs.AI、cs.LG

Comments 22 pages, 18 figures

LLM-guided Chemical Process Optimization with a Multi-Agent Approach

Tong Zeng, Srivathsan Badrinarayanan, Janghoon Ock, Cheng-Kai Lai, Amir Barati Farimani

机构 * Department of Chemical Engineering, Carnegie Mellon University（化学工程系，卡内基梅隆大学） ； Department of Mechanical Engineering, Carnegie Mellon University（机械工程系，卡内基梅隆大学） ； Department of Biomedical Engineering, Carnegie Mellon University（生物医学工程系，卡内基梅隆大学） ； Machine Learning Department, Carnegie Mellon University（机器学习系，卡内基梅隆大学） ； Department of Chemical and Biomolecular Engineering, University of Nebraska--Lincoln（化学与生物分子工程系，内布拉斯加大学林肯分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Comments 16 pages (main manuscript without references), 4 figures

Asymmetric Proximal Policy Optimization: mini-critics boost LLM reasoning

Jiashun Liu, Johan Obando-Ceron, Han Lu, Yancheng He, Weixun Wang, Wenbo Su, Bo Zheng, Pablo Samuel Castro, Aaron Courville, Ling Pan

机构 * HKUST（香港科技大学） ； Mila, Université de Montréal（蒙特利尔大学Mila实验室） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

UniFusion: Vision-Language Model as Unified Encoder in Image Generation

Kevin Li, Manuel Brack, Sudeep Katakol, Hareesh Ravi, Ajinkya Kale

机构 * Adobe Applied Research（Adobe应用研究） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Comments Project page at https://thekevinli.github.io/unifusion/

UALM: Unified Audio Language Model for Understanding, Generation and Reasoning

Jinchuan Tian, Sang-gil Lee, Zhifeng Kong, Sreyan Ghosh, Arushi Goel, Chao-Han Huck Yang, Wenliang Dai, Zihan Liu, Hanrong Ye, Shinji Watanabe, Mohammad Shoeybi, Bryan Catanzaro, Rafael Valle, Wei Ping

机构 * CMU（卡内基梅隆大学） ； NVIDIA（英伟达） ； UMD（马里兰大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

Let's Reason Formally: Natural-Formal Hybrid Reasoning Enhances LLM's Math Capability

Ruida Wang, Yuxin Li, Yi R. Fung, Tong Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Hong Kong University of Science and Technology（香港科学与技术大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Wide-Horizon Thinking and Simulation-Based Evaluation for Real-World LLM Planning with Multifaceted Constraints

Dongjie Yang, Chengqiang Lu, Qimeng Wang, Xinbei Ma, Yan Gao, Yao Hu, Hai Zhao

机构 * Shanghai Jiao Tong University（上海交通大学） ； Xiaohongshu Inc.（小红书公司） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted by NeurIPS 2025 Spotlight

Automated Alignment of Math Items to Content Standards in Large-Scale Assessments Using Language Models

Qingshu Xu, Hong Jiao, Tianyi Zhou, Ming Li, Nan Zhang, Sydney Peters, Yanbin Fu

机构 * University of Maryland, College Park（马里兰大学学院公园分校） ； Shandong Jiaotong University（山东交通大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

SpatialLadder: Progressive Training for Spatial Reasoning in Vision-Language Models

Hongxing Li, Dingming Li, Zixuan Wang, Yuchen Yan, Hang Wu, Wenqi Zhang, Yongliang Shen, Weiming Lu, Jun Xiao, Yueting Zhuang

机构 * Zhejiang University（浙江大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Project Page: https://zju-real.github.io/SpatialLadder/ Code: https://github.com/ZJU-REAL/SpatialLadder

STEPER: Step-wise Knowledge Distillation for Enhancing Reasoning Ability in Multi-Step Retrieval-Augmented Language Models

Kyumin Lee, Minjin Jeon, Sanghwan Jang, Hwanjo Yu

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments EMNLP 2025 Main

PuzzlePlex: Benchmarking Foundation Models on Reasoning and Planning with Puzzles

Yitao Long, Yuru Jiang, Hongjun Liu, Yilun Zhao, Jingchen Sun, Yiqiu Shen, Chen Zhao, Arman Cohan, Dennis Shasha

机构 * New York University（纽约大学） ； Zhejiang University（浙江大学） ； Yale University（耶鲁大学） ； University at Buffalo, SUNY（布法罗大学） ； NYU Grossman School of Medicine（纽约大学医学院） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.CL、cs.AI

Weight Ensembling Improves Reasoning in Language Models

Xingyu Dang, Christina Baek, Kaiyue Wen, Zico Kolter, Aditi Raghunathan

专题命中 推理与问题求解 ：language model(title)；SFT(abstract)；分类 cs.AI、cs.LG

Journal ref COLM 2025

Adaptive and Explainable AI Agents for Anomaly Detection in Critical IoT Infrastructure using LLM-Enhanced Contextual Reasoning

Raghav Sharma, Manan Mehta

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Comments 22 pages

TravelBench : Exploring LLM Performance in Low-Resource Domains

Srinivas Billa, Xiaonan Jing

机构 * Expedia Group（Expedia集团） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments 10 pages, 3 figures

Preemptive Detection and Correction of Misaligned Actions in LLM Agents

Haishuo Fang, Xiaodan Zhu, Iryna Gurevych

机构 * Ubiquitous Knowledge Processing Lab, Department of Computer Science, TU Darmstadt（图宾根大学计算机科学系） ； National Research Center for Applied Cybersecurity ATHENE, Germany（德国应用网络安全国家研究中心ATHENE） ； Department of Electrical and Computer Engineering & Ingenuity Labs Research Institute, Queen’s University, Canada（加拿大女王大学电气与计算机工程系及创新实验室研究院） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted by EMNLP 2025

Taming Masked Diffusion Language Models via Consistency Trajectory Reinforcement Learning with Fewer Decoding Step

Jingyi Yang, Guanxu Chen, Xuhao Hu, Jing Shao

机构 * Fudan University（复旦大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments 10 pages, 4 figures, 7 tables. Code: https://github.com/yjyddq/EOSER-ASS-RL

Scaling Policy Compliance Assessment in Language Models with Policy Reasoning Traces

Joseph Marvin Imperial, Harish Tayyar Madabushi

专题命中 推理与问题求解 ：language model(title)；LLM(abstract)；分类 cs.CL、cs.LG

LayoutAgent: A Vision-Language Agent Guided Compositional Diffusion for Spatial Layout Planning

Zezhong Fan, Xiaohan Li, Luyi Ma, Kai Zhao, Liang Peng, Topojoy Biswas, Evren Korpeoglu, Kaushiki Nag, Kannan Achan

机构 * Personalization Team, Walmart Global Tech（Walmart全球科技个性化团队） 纠错

专题命中 推理与问题求解 ：language agent(title)；language model(abstract)；分类 cs.AI、cs.LG

Comments NeurIPS 2025 Workshop on SPACE in Vision, Language, and Embodied AI