语言大模型 / LLM

Rethinking Inter-LoRA Orthogonality in Adapter Merging: Insights from Orthogonal Monte Carlo Dropout

Andi Zhang, Xuan Ding, Haofan Wang, Steven McDonagh, Samuel Kaski

机构 * University of Manchester（曼彻斯特大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； InstantX Team（InstantX团队） ； University of Edinburgh（爱丁堡大学） ； Aalto University（阿alto大学） 纠错

专题命中 指令微调 ：prompting(abstract)；分类 cs.AI、cs.LG

Guided by the Experts: Provable Feature Learning Dynamic of Soft-Routed Mixture-of-Experts

Fangshuo Liao, Anastasios Kyrillidis

专题命中 指令微调 ：post-training(abstract)；分类 cs.LG

AC-LoRA: (Almost) Training-Free Access Control-Aware Multi-Modal LLMs

Lara Magdalena Lazier, Aritra Dhar, Vasilije Stambolic, Lukas Cavigelli

专题命中 指令微调 ：LLM(abstract)；分类 cs.AI

Comments Accepted in NeurIPS 2025

Aligning Large Language Models via Fully Self-Synthetic Data

Shangjian Yin, Zhepei Wei, Xinyu Zhu, Wei-Lin Chen, Yu Meng

机构 * University of California, Riverside（加州大学河滨分校） ； University of Virginia（弗吉尼亚大学） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；RLHF(abstract)

No MoCap Needed: Post-Training Motion Diffusion Models with Reinforcement Learning using Only Textual Prompts

Girolamo Macaluso, Lorenzo Mandelli, Mirko Bicchierai, Stefano Berretti, Andrew D. Bagdanov

机构 * University of Florence（佛罗伦萨大学） 纠错

专题命中 后训练与偏好优化 ：post-training(title,abstract)

360-LLaMA-Factory: Plug & Play Sequence Parallelism for Long Post-Training

Haosheng Zou, Xiaowei Lv, Shousheng Jia, Lin Li, Xiaochun Gong, Xiangzheng Zhang

机构 * Qiyuan Tech（启元科技） ； Renmin University（中国人民大学） 纠错

专题命中 后训练与偏好优化 ：post-training(title)；分类 cs.CL、cs.LG

Comments v2: sp for vlms; code at https://github.com/Qihoo360/360-LLaMA-Factory

Reward Model Perspectives: Whose Opinions Do Reward Models Reward?

Elle

机构 * Elle University of Oxford（埃勒 奥克舍大学） 纠错

专题命中 后训练与偏好优化 ：language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

Comments Published at EMNLP 2025 under the full author name "Elle"

TGPR: Tree-Guided Policy Refinement for Robust Self-Debugging of LLMs

Daria Ozerova, Ekaterina Trofimova

机构 * HSE University（俄罗斯莫斯科国立高等经济学院） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；分类 cs.AI

Unlocking Latent Discourse Translation in LLMs Through Quality-Aware Decoding

Wafaa Mohammed, Vlad Niculae, Chrysoula Zerva

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Sotopia-RL: Reward Design for Social Intelligence

Haofei Yu, Zhengyang Qi, Yining Zhao, Kolby Nottingham, Keyang Xuan, Bodhisattwa Prasad Majumder, Hao Zhu, Paul Pu Liang, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of California Irvine（加州大学尔湾分校） ； Allen Institute for Artificial Intelligence（人工智能艾伦研究所） ； Carnegie Mellon University（卡内基梅隆大学） ； Stanford University（斯坦福大学） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Comments 10 pages

Unsupervised Backdoor Detection and Mitigation for Spiking Neural Networks

Jiachen Li, Bang Wu, Xiaoyu Xia, Xiaoning Liu, Xun Yi, Xiuzhen Zhang

机构 * RMIT University（皇家墨尔本理工大学） 纠错

专题命中 后训练与偏好优化 ：post-training(abstract)；分类 cs.LG

Comments To appear in The 28th International Symposium on Research in Attacks, Intrusions and Defenses (RAID 2025)

A-MEM: Agentic Memory for LLM Agents

Wujiang Xu, Zujie Liang, Kai Mei, Hang Gao, Juntao Tan, Yongfeng Zhang

机构 * Rutgers University（罗杰斯大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；foundation model(abstract)

Comments Advances in Neural Information Processing Systems (NeurIPS 2025)

Scaling LLM Multi-turn RL with End-to-end Summarization-based Context Management

Miao Lu, Weiwei Sun, Weihua Du, Zhan Ling, Xuesong Yao, Kang Liu, Jiecao Chen

机构 * Stanford University（斯坦福大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

HoPE: Hybrid of Position Embedding for Long Context Vision-Language Models

Haoran Li, Yingjie Qin, Baoyuan Ou, Lai Xu, Ruiwen Xu

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Xiaohongshu Inc.（小红书公司） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；large language model(abstract)；分类 cs.LG

Comments NeurIPS 2025

Beyond More Context: How Granularity and Order Drive Code Completion Quality

Uswat Yusuf, Genevieve Caumartin, Diego Elias Costa

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)

FlowKV: Enhancing Multi-Turn Conversational Coherence in LLMs via Isolated Key-Value Cache Management

Xiang Liu, Hong Chen, Xuming Hu, Xiaowen Chu

机构 * The Hong Kong University of Science and Technology(Guangzhou)（香港科技大学（广州）） 纠错

专题命中 长上下文与记忆 ：large language model(abstract,comments)；language model(abstract,comments)；分类 cs.CL

Comments NeurIPS 2025 Workshop on Multi-Turn Interactions in Large Language Models

ToolMem: Enhancing Multimodal Agents with Learnable Tool Capability Memory

Yunzhong Xiao, Yangmin Li, Hewei Wang, Yunlong Tang, Zora Zhiruo Wang

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Rochester（罗切斯特大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

Generalized Multi-agent Social Simulation Framework

Gang Li, Jie Lin, Yining Tang, Ziteng Wang, Yirui Huang, Junyu Zhang, Shuang Luo, Chao Wu, Yike Guo

机构 * Zhejiang University（浙江大学） ； Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

VGGT-X: When VGGT Meets Dense Novel View Synthesis

Yang Liu, Chuanchen Luo, Zimo Tang, Junran Peng, Zhaoxiang Zhang

机构 * NLPR, MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所国家智能机器人实验室、智能信息所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Huazhong University of Science and Technology（华中科技大学） ； Shandong University（山东大学） ； University of Science and Technology Beijing（北京科技大学） ； Linketic 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)

Comments Project Page: https://dekuliutesla.github.io/vggt-x.github.io/

Adaptive LLM-Symbolic Reasoning via Dynamic Logical Solver Composition

Lei Xu, Pierre Beckmann, Marco Valentino, André Freitas

机构 * Idiap Research Institute（Idiap研究机构） ； École Polytechnique Fédérale de Lausanne（联邦理工学院洛桑分校） ； School of Computer Science, University of Sheffield（谢菲尔德大学计算机科学学院） ； Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系） ； Cancer Biomarker Centre, CRUK Manchester Institute（癌症生物标志物中心，CRUK曼彻斯特研究所） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

Hint of Pseudo Code (HoPC): Zero-Shot Step by Step Pseudo Code Reasoning Prompting

Iok Tong Lei, Ziyu Zhu, Han Yu, Yige Yao, Zhidong Deng

机构 * Department of Computer Science and Technology（计算机科学与技术系） ； Institute for Artificial Intelligence at Tsinghua University（清华大学人工智能研究院） ； Beijing National Research Center for Information Science and Technology（北京信息科学国家研究中心） ； Tsinghua University（清华大学） 纠错

专题命中 推理与问题求解 ：prompting(title,abstract)；LLM(abstract)；large language model(abstract)；language model(abstract)

RedTWIZ: Diverse LLM Red Teaming via Adaptive Attack Planning

Artur Horal, Daniel Pina, Henrique Paz, Iago Paulo, João Soares, Rafael Ferreira, Diogo Tavares, Diogo Glória-Silva, João Magalhães, David Semedo

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Diagnosing Moral Reasoning Acquisition in Language Models: Pragmatics and Generalization

Guangliang Liu, Zimo Qi, Xitong Zhang, Lei Jiang, Kristen Marie Johnson

机构 * Michigan State University（密歇根州立大学） ； Johns Hopkins University（约翰霍普金斯大学） ； University of Illinois Chicago（伊利诺伊大学香槟分校） 纠错

专题命中 推理与问题求解 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

Understanding Software Engineering Agents: A Study of Thought-Action-Result Trajectories

Islem Bouzenia, Michael Pradel

机构 * CISPA Helmholtz Center for Information Security Germany（CISPA海德堡信息安全中心） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

Comments ACCEPTED FOR ASE 2025

PuzzlePlex: Benchmarking Foundation Models on Reasoning and Planning with Puzzles

Yitao Long, Yuru Jiang, Hongjun Liu, Yilun Zhao, Jingchen Sun, Yiqiu Shen, Chen Zhao, Arman Cohan, Dennis Shasha

机构 * New York University（纽约大学） ； Zhejiang University（浙江大学） ； Yale University（耶鲁大学） ； University at Buffalo, SUNY（布法罗大学） ； NYU Grossman School of Medicine（纽约大学医学院） 纠错

专题命中 推理与问题求解 ：foundation model(title,abstract)；分类 cs.CL、cs.AI

Weight Ensembling Improves Reasoning in Language Models

Xingyu Dang, Christina Baek, Kaiyue Wen, Zico Kolter, Aditi Raghunathan

专题命中 推理与问题求解 ：language model(title)；SFT(abstract)；分类 cs.AI、cs.LG

Journal ref COLM 2025

SimpleDeepSearcher: Deep Information Seeking via Web-Powered Reasoning Trajectory Synthesis

Shuang Sun, Huatong Song, Yuhao Wang, Ruiyang Ren, Jinhao Jiang, Junjie Zhang, Fei Bai, Jia Deng, Wayne Xin Zhao, Zheng Liu, Lei Fang, Zhongyuan Wang, Ji-Rong Wen

机构 * Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； DataCanvas Alaya NeW 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

InfiMed: Low-Resource Medical MLLMs with Advancing Understanding and Reasoning

Zeyu Liu, Zhitian Hou, Guanghao Zhu, Zhijie Sang, Congkai Xie, Hongxia Yang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Sun Yat-sen University（中山大学） 纠错

专题命中 推理与问题求解 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

More Data or Better Data? A Critical Analysis of Data Selection and Synthesis for Mathematical Reasoning

Yike Zhao, Simin Guo, Ziqing Yang, Shifan Han, Dahua Lin, Fei Tan

机构 * East China Normal University（东华师范大学） ； University of Chicago（芝加哥大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

Comments 12 pages, 3 figures, submitted to EMNLP 2025 Industry Track

TALENT: Table VQA via Augmented Language-Enhanced Natural-text Transcription

Guo Yutong, Wanying Wang, Yue Wu, Zichen Miao, Haoyu Wang

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Purdue University（普渡大学） ； University at Albany（阿尔巴尼大学） 纠错

专题命中 推理与问题求解 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL