语言大模型 / LLM

Re-ranking Reasoning Context with Tree Search Makes Large Vision-Language Models Stronger

Qi Yang, Chenghao Zhang, Lubin Fan, Kun Ding, Jieping Ye, Shiming Xiang

机构 * School of Artificial Intelligence, University of Chinese Academy of Sciences, China（中国科学院大学人工智能学院） ； MAIS, Institute of Automation, Chinese Academy of Sciences, China（中国科学院自动化研究所MAIS部） ； Alibaba Cloud Computing, China（阿里巴巴云计算） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Comments ICML 2025 Spotlight. 22 pages, 16 figures

KG-BiLM: Knowledge Graph Embedding via Bidirectional Language Models

Zirui Chen, Xin Wang, Zhao Li, Wenbin Guo, Dongxiao He

机构 * College of Intelligence and Computing（智能与计算学院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Act Only When It Pays: Efficient Reinforcement Learning for LLM Reasoning via Selective Rollouts

Haizhong Zheng, Yang Zhou, Brian R. Bartoldson, Bhavya Kailkhura, Fan Lai, Jiawei Zhao, Beidi Chen

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Meta AI 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Beyond Completion: A Foundation Model for General Knowledge Graph Reasoning

Yin Hua, Zhiqiang Liu, Mingyang Chen, Zheng Fang, Chi Man Wong, Lingxiao Li, Chi Man Vong, Huajun Chen, Wen Zhang

机构 * Zhejiang University（浙江大学） ； Shopee Pte.Ltd.（Shopee公司） ； University of Macau（澳门大学） ； Zhejiang Key Laboratory of Big Data Intelligent Computing（浙江大学大数据智能计算重点实验室） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.CL、cs.AI

Comments ACL 2025 Findings

Efficiently Scaling LLM Reasoning with Certaindex

Yichao Fu, Junda Chen, Siqi Zhu, Zheyu Fu, Zhongdongming Dai, Yonghao Zhuang, Yian Ma, Aurick Qiao, Tajana Rosing, Ion Stoica, Hao Zhang

机构 * UCSD（加州大学圣迭戈分校） ； Tsinghua University（清华大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Snowflake（Snowflake公司） ； UC Berkeley（加州大学伯克利分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.LG

Reason-Align-Respond: Aligning LLM Reasoning with Knowledge Graphs for KGQA

Xiangqing Shen, Fanfan Wang, Rui Xia

机构 * School of Computer Science and Engineering, Nanjing University of Science and Technology, China（计算机科学与工程学院，南京理工大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Anchored Diffusion Language Model

Litu Rout, Constantine Caramanis, Sanjay Shakkottai

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

Comments Preprint

DialogXpert: Driving Intelligent and Emotion-Aware Conversations through Online Value-Based Reinforcement Learning with LLM Priors

Tazeek Bin Abdur Rakib, Ambuj Mehrish, Lay-Ki Soon, Wern Han Lim, Soujanya Poria

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Conformal Language Model Reasoning with Coherent Factuality

Maxon Rubin-Toles, Maya Gambhir, Keshav Ramji, Aaron Roth, Surbhi Goel

机构 * University of Pennsylvania（宾夕法尼亚大学） ； IBM Research AI（IBM人工智能研究） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

DAPO: An Open-Source LLM Reinforcement Learning System at Scale

Qiying Yu, Zheng Zhang, Ruofei Zhu, Yufeng Yuan, Xiaochen Zuo, Yu Yue, Weinan Dai, Tiantian Fan, Gaohong Liu, Lingjun Liu, Xin Liu, Haibin Lin, Zhiqi Lin, Bole Ma, Guangming Sheng, Yuxuan Tong, Chi Zhang, Mofan Zhang, Wang Zhang, Hang Zhu, Jinhua Zhu, Jiaze Chen, Jiangjie Chen, Chengyi Wang, Hongli Yu, Yuxuan Song, Xiangpeng Wei, Hao Zhou, Jingjing Liu, Wei-Ying Ma, Ya-Qin Zhang, Lin Yan, Mu Qiao, Yonghui Wu, Mingxuan Wang

机构 * ByteDance Seed 2 Institute for AI Industry Research (AIR), Tsinghua University（字节跳动种子2人工智能产业研究院（AIR）、清华大学） ； The University of Hong Kong（香港大学） ； SIA-Lab of Tsinghua AIR and ByteDance Seed（清华大学AIR和字节跳动种子实验室） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.LG

Comments Project Page: https://dapo-sia.github.io/

An Automated LLM-based Pipeline for Asset-Level Database Creation to Assess Deforestation Impact

Avanija Menon, Ovidiu Serban

专题命中 推理与问题求解 ：LLM(title)；prompting(abstract)；分类 cs.AI、cs.LG

Comments Accepted to ACL ClimateNLP 2025

Enigme: Generative Text Puzzles for Evaluating Reasoning in Language Models

John Hawkins

机构 * Centre for Artificial Intelligence and Innovation（人工智能与创新中心） ； Pingla Institute（Pingla研究院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments To be published in the proceedings of The 2025 11th International Conference on Engineering, Applied Sciences, and Technology (ICEAST)

VL-Rethinker: Incentivizing Self-Reflection of Vision-Language Models with Reinforcement Learning

Haozhe Wang, Chao Qu, Zuming Huang, Wei Chu, Fangzhen Lin, Wenhu Chen

机构 * HKUST（香港科技大学） ； University of Waterloo（滑铁卢大学） ； Vector Institute（向量研究所） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Comments Preprint

Position: Foundation Models Need Digital Twin Representations

Yiqing Shen, Hao Ding, Lalithkumar Seenivasan, Tianmin Shu, Mathias Unberath

机构 * Department of Computer Science（计算机科学系） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

On the Limitations of Steering in Language Model Alignment

Chebrolu Niranjan, Kokil Jaidka, Gerard Christopher Yeo

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Weaving Context Across Images: Improving Vision-Language Models through Focus-Centric Visual Chains

Juntian Zhang, Chuanqi cheng, Yuhan Liu, Wei Liu, Jian Luan, Rui Yan

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Know Where You're Uncertain When Planning with Multimodal Foundation Models: A Formal Framework

Neel P. Bhatt, Yunhao Yang, Rohan Siva, Daniel Milan, Ufuk Topcu, Zhangyang Wang

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

Comments Fine-tuned models, code, and datasets are available at https://uncertainty-in-planning.github.io/

Understanding the Limits of Vision Language Models Through the Lens of the Binding Problem

Declan Campbell, Sunayana Rane, Tyler Giallanza, Nicolò De Sabbata, Kia Ghods, Amogh Joshi, Alexander Ku, Steven M. Frankland, Thomas L. Griffiths, Jonathan D. Cohen, Taylor W. Webb

机构 * Princeton University（普林斯顿大学） ； EPFL（洛桑联邦理工学院） ； Dartmouth College（达特茅斯学院） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Visual Language Models show widespread visual deficits on neuropsychological tests

Gene Tangtartharakul, Katherine R. Storrs

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Comments 31 pages, 3 figures, 1 supplementary document with 1 figure and 51 sample images; corrected typo in Fig 1

Exact Byte-Level Probabilities from Tokenized Language Models for FIM-Tasks and Model Ensembles

Buu Phan, Brandon Amos, Itai Gat, Marton Havasi, Matthew Muckley, Karen Ullrich

机构 * University of Toronto（多伦多大学） ； Meta AI 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.LG

Advancing Multimodal In-Context Learning in Large Vision-Language Models with Task-aware Demonstrations

Yanshu Li

机构 * Brown University（布朗大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted by ICLR 2025 Workshop on Reasoning and Planning for LLMs, 25 pages, 13 tables

STP: Self-play LLM Theorem Provers with Iterative Conjecturing and Proving

Kefan Dong, Tengyu Ma

机构 * Stanford University（斯坦福大学） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.AI、cs.LG

Comments 25 pages, 5 figures

VideoTree: Adaptive Tree-based Video Representation for LLM Reasoning on Long Videos

Ziyang Wang, Shoubin Yu, Elias Stengel-Eskin, Jaehong Yoon, Feng Cheng, Gedas Bertasius, Mohit Bansal

机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；分类 cs.CL、cs.AI

Comments CVPR 2025; First three authors contributed equally; Project page: https://videotree2024.github.io/

Is LLMs Hallucination Usable? LLM-based Negative Reasoning for Fake News Detection

Chaowei Zhang, Zongling Feng, Zewei Zhang, Jipeng Qiang, Guandong Xu, Yun Li

专题命中 推理与问题求解 ：LLM(title)；prompting(abstract)；分类 cs.CL、cs.AI

Comments 9 pages, 12 figures, conference

Holistically Evaluating the Environmental Impact of Creating Language Models

Jacob Morrison, Clara Na, Jared Fernandez, Tim Dettmers, Emma Strubell, Jesse Dodge

机构 * Allen Institute for AI（艾伦人工智能研究所） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.AI、cs.LG

Comments ICLR 2025 (spotlight)

DynaMath: A Dynamic Visual Benchmark for Evaluating Mathematical Reasoning Robustness of Vision Language Models

Chengke Zou, Xingang Guo, Rui Yang, Junyu Zhang, Bin Hu, Huan Zhang

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted by ICLR 2025

Magma: A Foundation Model for Multimodal AI Agents

Jianwei Yang, Reuben Tan, Qianhui Wu, Ruijie Zheng, Baolin Peng, Yongyuan Liang, Yu Gu, Mu Cai, Seonghyeon Ye, Joel Jang, Yuquan Deng, Lars Liden, Jianfeng Gao

机构 * Microsoft Research（微软研究院） ； University of Maryland（马里兰大学） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； KAIST（韩国科学技术院） ； University of Washington（华盛顿大学） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

Comments 29 pages, 16 figures, technical report from MSR

CausalEval: Towards Better Causal Reasoning in Language Models

Longxuan Yu, Delin Chen, Siheng Xiong, Qingyang Wu, Qingzhen Liu, Dawei Li, Zhikai Chen, Xiaoze Liu, Liangming Pan

机构 * UC San Diego（加州大学圣地亚哥分校） ； UMass Amherst（马萨诸塞大学阿默斯特分校） ； Georgia Tech（佐治亚理工学院） ； UCLA（加利福尼亚大学洛杉矶分校） ； Arizona State University（亚利桑那州立大学） ； Michigan State University（密歇根州立大学） ； Purdue University（普渡大学） ； University of Arizona（亚利桑那大学） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted to NAACL25 (main)

CORRECT: Context- and Reference-Augmented Reasoning and Prompting for Fact-Checking

Delvin Ce Zhang, Dongwon Lee

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 推理与问题求解 ：prompting(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted to NAACL-25

LLM The Genius Paradox: A Linguistic and Math Expert's Struggle with Simple Word-based Counting Problems

Nan Xu, Xuezhe Ma

专题命中 推理与问题求解 ：LLM(title)；pretraining(abstract)；分类 cs.CL、cs.AI

Comments NAACL 2025