语言大模型 / LLM

Do Reviews Matter for Recommendations in the Era of Large Language Models?

在大语言模型时代，评论对推荐有何影响？

Chee Heng Tan, Huiying Zheng, Jing Wang, Zhuoyi Lin, Shaodi Feng, Huijing Zhan, Xiaoli Li, J. Senthilnath

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 本文研究了在大语言模型时代，文本评论对推荐系统的影响，通过比较深度学习和LLM方法，发现LLMs在数据稀疏和冷启动条件下表现更优，且移除评论不影响推荐准确性。

Comments 11 pages, 9 figures, 3 tables

Efficiently Seeking Flat Minima for Better Generalization in Fine-Tuning Large Language Models and Beyond

高效寻找平坦极小值以提升大型语言模型及其他模型的泛化能力

Jiaxin Deng, Qingcheng Zhu, Junbiao Pang, Linlin Yang, Zhongqian Fu, Baochang Zhang

专题命中 指令微调 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 本文提出EFMLoRA，通过寻找LoRA的平坦极小值提升模型泛化能力，实验表明其在效率和性能上均优于传统LoRA方法。

Diagnose, Localize, Align: A Full-Stack Framework for Reliable LLM Multi-Agent Systems under Instruction Conflicts

诊断、定位、对齐：一种用于在指令冲突下可靠LLM多智能体系统的全栈框架

Guancheng Wan, Leixin Sun, Longxu Dou, Zitong Shi, Fang Wu, Eric Hanchen Jiang, Wenke Huang, Guibin Zhang, Hejia Geng, Xiangru Tang, Zhenfei Yin, Yizhou Sun, Wei Wang

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Sea AI Lab（Sea AI 实验室） ； Stanford University（斯坦福大学） ； University of Oxford（牛津大学） ； Yale University（耶鲁大学） ； NTU（南洋理工大学） ； NUS（新加坡国立大学） ； Boston University（波士顿大学） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出了一种全栈框架，通过诊断、定位和对齐三个阶段提升LLM多智能体系统在指令冲突下的可靠性。

Comments Upon further review, we realized that the version submitted to arXiv was not the final draft and omits crucial results and discussion. To avoid confusion and ensure the integrity of the record, we request withdrawal and will resubmit once the complete work is ready

Chasing Shadows: Pitfalls in LLM Security Research

追影：大语言模型安全研究中的陷阱

Jonathan Evertz, Niklas Risse, Nicolai Neuer, Andreas Müller, Philipp Normann, Gaetano Sapia, Srishti Gupta, David Pape, Soumya Shaw, Devansh Srivastav, Christian Wressnegger, Erwin Quiring, Thorsten Eisenhofer, Daniel Arp, Lea Schönherr

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文识别了大语言模型安全研究中的九种常见陷阱，并通过实证案例研究分析了这些陷阱对评估、性能和可重复性的影响，提出可操作的指导方针。

Comments About to appear at NDSS'26

Bilevel ZOFO: Efficient LLM Fine-Tuning and Meta-Training

双层零阶优化：高效的LLM微调与元训练

Reza Shirkavand, Peiran Yu, Qi He, Heng Huang

机构 * Department of Computer Science University of Maryland - College Park（计算机科学系马里兰大学- College Park） ； Department of Computer Science and Engineering University of Texas at Arlington（计算机科学与工程系德克萨斯理工大学阿灵顿分校） 纠错

专题命中 指令微调 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Bilevel-ZOFO结合了快速的FO-PEFT内循环和稳定的ZO外循环，实现高效LLM微调与元训练，提升训练速度和泛化能力。

A Modular LLM-Agent System for Transparent Multi-Parameter Weather Interpretation

一个模块化的LLM-代理系统用于透明的多参数天气解释

Daniil Sukhorukov, Andrei Zakharov, Nikita Glazkov, Katsiaryna Yanchanka, Vladimir Kirilin, Maxim Dubovitsky, Roman Sultimov, Yuri Maksimov, Ilya Makarov

专题命中 指令微调 ：LLM(title,abstract)；prompting(abstract)

AI总结 本文提出AI-Meteorologist，一个基于LLM-代理的透明天气解释系统，通过多参数分析和结构化解释提升天气预报的可解释性和科学性。

Adapting Multimodal Foundation Models for Few-Shot Learning: A Comprehensive Study on Contrastive Captioners

为少样本学习适应多模态基础模型：对比captioners的全面研究

N. K. B. M. P. K. B. Narasinghe, Uthayasanker Thayasivam

机构 * Department of Computer Science and Engineering, University of Moratuwa, Sri Lanka（计算机科学与工程系，穆塔瓦大学，斯里兰卡） 纠错

专题命中 指令微调 ：foundation model(title,abstract)；分类 cs.AI

AI总结 本文研究了如何通过对比captioners适应少样本学习，探讨了参数高效微调策略及生成-对比基础模型的高效适应方法。

Comments 9 pages, 3 figures. Accepted to VISAPP 2026

Skrull: Towards Efficient Long Context Fine-tuning through Dynamic Data Scheduling

Skrull：通过动态数据调度实现高效的长上下文微调

Hongtao Xu, Wenting Shen, Yuanxin Wei, Ang Wang, Guo Runfan, Tianxing Wang, Yong Li, Mingzhen Li, Weile Jia

机构 * School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院） ； State Key Lab of Processors, Institute of Computing Technology, CAS（中国科学院计算技术研究所 processors 国家重点实验室） ； Alibaba Group（阿里巴巴集团） ； Sun Yat-sen University（中山大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI、cs.LG

AI总结 Skrull通过动态数据调度提升长上下文微调效率，实现高效训练和性能优化。

Comments Accepted by NeurIPS 2025

Reassessing the Role of Supervised Fine-Tuning: An Empirical Study in VLM Reasoning

重新评估监督微调的作用：VLM推理中的实证研究

Yongcan Yu, Lingxiao He, Shuo Lu, Lijun Sheng, Yinuo Xu, Yanbo Wang, Kuangpu Guo, Jianjie Cheng, Meng Wang, Qianlong Xie, Xingxing Wang, Dapeng Hu, Jian Liang

机构 * NLPR & MAIS, Institute of Automation, Chinese Academy of Sciences（人工智能研究院 & 模式识别与人工智能研究所，中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（人工智能学院，中国科学院大学） ； Meituan（美团） 纠错

专题命中 指令微调 ：language model(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.CL、cs.LG

AI总结 本研究通过实证分析发现，监督微调在VLM推理中具有重要作用，挑战了强化学习优于监督微调的主流观点。

SCIR: A Self-Correcting Iterative Refinement Framework for Enhanced Information Extraction Based on Schema

SCIR: 一种基于模式的增强信息提取的自校正迭代细化框架

Yushen Fang, Jianjun Li, Mingqian Ding, Chang Liu, Xinchi Zou, Wenqi Yang

机构 * Yushen Fang, Jianjun Li, Mingqian Ding, Chang Liu, Xinchi Zou, Wenqi Yang（作者） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 SCIR框架通过自校正迭代细化方法，有效降低信息提取的训练成本并提升准确性，实现跨任务的高效信息提取。

MetaTPT: Meta Test-time Prompt Tuning for Vision-Language Models

MetaTPT: 用于视觉-语言模型的元测试时间提示微调

Yuqing Lei, Yingjun Du, Yawen Huang, Xiantong Zhen, Ling Shao

机构 * UCAS-Terminus AI Lab, University of Chinese Academic of Sciences（中国科学院大学Terminus AI实验室，中国科学院大学） ； AIM Lab, University of Amsterdam（阿姆斯特丹大学AIM实验室） ； Jarvis Research Center, Tencent Youtu Lab（腾讯优图实验室 Jarvis 研究中心） ； Central Research Institue, United Imaging Healthcare Co., Ltd（联合影像医疗科技有限公司中央研究所） 纠错

专题命中 指令微调 ：language model(title,abstract)

AI总结 MetaTPT通过元学习框架结合自监督任务和提示微调，提升视觉-语言模型在领域偏移下的测试时间适应性，实现领域泛化和跨数据集的高性能表现。

Comments NeurIPS 2025 Workshop

Evolutionary Reinforcement Learning based AI tutor for Socratic Interdisciplinary Instruction

基于进化强化学习的AI导师用于苏格拉底跨学科教学

Mei Jiang, Haihai Shen, Zhuo Luo, Bingdong Li, Wenjing Hong, Ke Tang, Aimin Zhou

机构 * East China Normal University（华东师范大学） ； Shenzhen University（深圳大学） ； Southern University of Science and Technology（南方科技大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 本文提出ERL4SIIP框架，通过动态学生模拟器、分层奖励机制和LoRA-Division优化策略，解决苏格拉底跨学科教学中的认知建模、奖励稀疏性和策略多样性问题。

Parameter-Efficient Fine-Tuning with Attributed Patch Semantic Graph for Automated Patch Correctness Assessment

基于属性补丁语义图的参数高效微调用于自动补丁正确性评估

Zhenyu Yang, Jingwen Wu, Zhen Yang, Zhongxing Yu

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出基于属性补丁语义图的参数高效微调方法，用于提升自动补丁正确性评估的准确性和F1分数。

Comments 20 pages, 5 figures, 18 tables

Relation Extraction or Pattern Matching? Unravelling the Generalisation Limits of Language Models for Biographical RE

关系抽取还是模式匹配？揭示语言模型在生物信息关系抽取中的泛化极限

Varvara Arzt, Allan Hanbury, Michael Wiegand, Gábor Recski, Terra Blevins

机构 * Faculty of Informatics, TU Wien（信息学院，维也纳技术大学） ； D!ARC, University of Klagenfurt（D!ARC，克雷格福特大学） ； Digital Philology, University of Vienna（数字人文，维也纳大学） ； Khoury College of Computer Sciences, Northeastern University（科赫计算机科学学院，东北大学） 纠错

专题命中 指令微调 ：language model(title)；分类 cs.CL

AI总结 本研究揭示了语言模型在生物信息关系抽取任务中的泛化极限，指出数据质量和适应策略选择对迁移能力的影响，并指出现有基准的结构性问题限制了模型性能。

Comments Accepted as a main conference paper at IJCNLP-AACL 2025

From Clicks to Preference: A Multi-stage Alignment Framework for Generative Query Suggestion in Conversational System

从点击到偏好：一种多阶段对齐框架用于对话系统中的生成查询建议

Junhao Yin, Haolin Wang, Peng Bao, Ju Xu, Yongliang Wang

机构 * Bytedance Shanghai China（字节跳动上海中国） ； Bytedance Beijing China（字节跳动北京中国） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种多阶段对齐框架，通过提示工程、知识蒸馏和高斯奖励模型，提升生成式查询建议的用户偏好对齐效果，实验显示在自动和人工评估中均优于基线，并提高用户参与度34%

Comments Accepted by SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 26)

CogniEdit: Dense Gradient Flow Optimization for Fine-Grained Image Editing

CogniEdit: 密集梯度流优化用于细粒度图像编辑

Yan Li, Lin Liu, Xiaopeng Zhang, Wei Xue, Wenhan Luo, Yike Guo, Qi Tian

机构 * Hongkong University of Science and Technology（香港科学与技术大学） ； Huawei Company（华为公司） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)

AI总结 CogniEdit通过密集梯度流优化实现细粒度图像编辑，结合多模态推理与动态令牌焦点重新定位，提升指令遵循与视觉质量的平衡

Toward Ambulatory Vision: Learning Visually-Grounded Active View Selection

迈向便携视觉：基于视觉的主动视角选择

Juil Koo, Daehyeon Choi, Sangwoo Youn, Phillip Y. Lee, Minhyuk Sung

机构 * KAIST（韩国科学技术院） 纠错

专题命中 指令微调 ：language model(abstract)；SFT(abstract)

AI总结 本文提出基于视觉的主动视角选择方法，通过仅利用当前图像中的视觉信息来选择最有信息量的视角，从而提升视觉问答的性能和泛化能力。

Comments Project page: https://active-view-selection.github.io/

CogDoc: Towards Unified thinking in Documents

CogDoc: 向文档中的统一思维迈进

Qixin Xu, Haozhe Wang, Che Liu, Fangzhen Lin, Wenhu Chen

机构 * Tsinghua University（清华大学） ； The Hong Kong University of Science and Technology（香港科技大学） ； University of Waterloo（滑铁卢大学） ； Imperial College London（伦敦帝国学院） 纠错

专题命中 指令微调 ：post-training(abstract)；SFT(abstract)

AI总结 CogDoc提出一种统一的粗到细思维框架，通过直接强化学习提升文档推理性能，优于现有方法并在视觉丰富任务中表现优异。

Direct Confidence Alignment: Aligning Verbalized Confidence with Internal Confidence In Large Language Models

直接置信对齐：将 verbalized 置信度与内部置信度对齐于大语言模型

Glenn Zhang, Treasure Mayowa, Jason Fan, Yicheng Fu, Aaron Sandoval, Sean O'Brien, Kevin Zhu

机构 * Algoverse AI Research（Algoverse AI研究院） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；preference optimization(abstract)

AI总结 本文提出直接置信对齐方法，通过优化使LLM的 verbalized 置信度与内部置信度对齐，提升模型透明度和可靠性。

Comments Accepted at ACL 2025 SRW, 5 pages body, 14 pages total

M-GRPO: Stabilizing Self-Supervised Reinforcement Learning for Large Language Models with Momentum-Anchored Policy Optimization

M-GRPO：通过动量锚定策略优化稳定大语言模型的自监督强化学习

Bizhe Bai, Hongming Wu, Peng Ye, Tao Chen

机构 * Shanghai Innovation Institute（上海创新研究院） ； College of Future Information Technology, Fudan（复旦大学未来信息技术学院） ； Shanghai AI Laboratory（上海人工智能实验室） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 后训练与偏好优化 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 M-GRPO通过动量锚定策略优化和IQR过滤方法，稳定大语言模型的自监督强化学习训练，提升训练稳定性和性能。

Comments 7 pages, 5 figures,Accepted NeurIPS 2025 Workshop on Efficient Reasoning

Reflective Preference Optimization (RPO): Enhancing On-Policy Alignment via Hint-Guided Reflection

反射偏好优化（RPO）：通过提示引导的反思增强策略对齐

Zihui Zhao, Zechang Li

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；language model(abstract)；RLHF(abstract)；分类 cs.AI、cs.LG

AI总结 RPO通过提示引导的反思增强策略对齐，减少幻觉并提升多模态基准性能。

MR-FlowDPO: Multi-Reward Direct Preference Optimization for Flow-Matching Text-to-Music Generation

MR-FlowDPO：多奖励直接偏好优化用于流匹配文本到音乐生成

Alon Ziv, Sanyuan Chen, Andros Tjandra, Yossi Adi, Wei-Ning Hsu, Bowen Shi

机构 * FAIR Team, Meta MSL（Meta MSL FAIR团队） ； The Hebrew University of Jerusalem（耶路撒冷希伯来大学） 纠错

专题命中 后训练与偏好优化 ：preference optimization(title,abstract)；prompting(abstract)

AI总结 MR-FlowDPO通过多奖励直接偏好优化提升文本到音乐生成的质量，增强音频质量、文本对齐和音乐性。

Improving Generative Ad Text on Facebook using Reinforcement Learning

通过强化学习改进Facebook上的生成广告文本

Daniel R. Jiang, Alex Nikulkov, Yu-Chia Chen, Yang Bai, Zheqing Zhu

机构 * Meta Platforms（Meta平台） 纠错

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 通过强化学习改进Facebook广告文本生成，提升点击率和广告效果

Comments D.J. and A.N. contributed equally, 41 pages, 6 figures

Beyond Pass@1: Self-Play with Variational Problem Synthesis Sustains RLVR

超越Pass@1：基于变分问题合成的自我博弈维持RLVR

Xiao Liang, Zhongzhi Li, Yeyun Gong, Yelong Shen, Ying Nian Wu, Zhijiang Guo, Weizhu Chen

专题命中 后训练与偏好优化 ：LLM(abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出基于变分问题合成的自我博弈策略，有效维持RLVR训练中的策略熵，显著提升Pass@k性能，在多个基准测试中取得绝对提升。

Post-Training and Test-Time Scaling of Generative Agent Behavior Models for Interactive Autonomous Driving

生成代理行为模型在交互式自动驾驶中的训练和测试时间缩放

Hyunki Seong, Jeong-Kyun Lee, Heesoo Myeong, Yongho Shin, Hyun-Mook Cho, Duck Hoon Kim, Pranav Desai, Monu Surana

专题命中 后训练与偏好优化 ：post-training(title,abstract)

AI总结 本文提出GRBO和Warm-K两种方法，用于提升交互式自动驾驶中生成代理行为模型的训练和测试时间性能，提高安全性和鲁棒性。

Comments 11 pages, 5 figures

RollMux: Phase-Level Multiplexing for Disaggregated RL Post-Training

RollMux：基于分拆强化学习后训练的阶段级多路复用

Tianyuan Wu, Lunxi Cao, Yining Wei, Wei Gao, Yuheng Zhao, Dakai An, Shaopan Xiong, Zhiqiang Lv, Ju Huang, Siran Yang, Yinghao Yu, Jiamang Wang, Lin Qu, Wei Wang

专题命中 后训练与偏好优化 ：post-training(title,abstract)

AI总结 RollMux通过跨集群编排优化强化学习后训练的资源利用，提升效率1.84倍，实现100%服务等级目标。

Comments 17 pages, 15 figures

Self-Rewarding Large Vision-Language Models for Optimizing Prompts in Text-to-Image Generation

自奖励的大型视觉-语言模型用于优化文本到图像生成中的提示

Hongji Yang, Yucheng Zhou, Wencheng Han, Jianbing Shen

机构 * University of Macau（澳门大学） 纠错

专题命中 后训练与偏好优化 ：language model(title,abstract)

AI总结 本文提出了一种自奖励的大型视觉-语言模型框架，用于优化文本到图像生成中的提示，通过统一求解器和奖励模型实现自我改进，实验表明其优于其他方法。

Comments Accepted by ACL2025 Findings

D-STEER - Preference Alignment Techniques Learn to Behave, not to Believe -- Beneath the Surface, DPO as Steering Vector Perturbation in Activation Space

D-STEER - 通过偏好对齐技术学习行为而非信念 -- 在表象之下，DPO作为激活空间中的低秩引导机制

Samarth Raina, Saksham Aggarwal, Aman Chadha, Vinija Jain, Amitava Das

机构 * IIIT Delhi（印度理工学院德里分校） ； Microsoft（微软） ； Apple (USA)（苹果（美国）） ； Google (USA)（谷歌（美国）） ； Pragya Lab, BITS Pilani, K. K. Birla Goa Campus（普拉吉亚实验室，比斯科大学，K.K. 布尔拉果阿校区） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；preference optimization(abstract)；分类 cs.LG

AI总结 D-STEER研究揭示DPO通过引导激活空间中的低秩机制实现行为对齐，而非改变模型内部信念。

Anchoring Values in Temporal and Group Dimensions for Flow Matching Model Alignment

在时间和群体维度上锚定值以实现流匹配模型对齐

Yawen Shao, Jie Xiao, Kai Zhu, Yu Liu, Wei Zhai, Yang Cao, Zheng-Jun Zha

机构 * University of Science and Technology of China（中国科学技术大学） ； Tongyi Lab（通义实验室） 纠错

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 VGPO通过在时间和群体维度上锚定值，改进流匹配模型对齐，提升图像生成质量与任务准确性。

Feedforward 3D Editing via Text-Steerable Image-to-3D

通过文本可控的图像到3D进行前馈编辑

Ziqi Ma, Hongqiao Chen, Yisong Yue, Georgia Gkioxari

机构 * California Institute of Technology（加州理工学院） 纠错

专题命中 后训练与偏好优化 ：preference optimization(abstract)；分类 cs.AI

AI总结 Steer3D通过文本可控的图像到3D生成方法，实现高效且准确的3D资产编辑，速度提升显著。

Comments https://glab-caltech.github.io/steer3d/