语言大模型 / LLM

BEAT: Visual Backdoor Attacks on VLM-based Embodied Agents via Contrastive Trigger Learning

BEAT：通过对比触发学习对基于VLM的具身代理进行视觉后门攻击

Qiusi Zhan, Hyeonjeong Ha, Rui Yang, Sirui Xu, Hanyang Chen, Liang-Yan Gui, Yu-Xiong Wang, Huan Zhang, Heng Ji, Daniel Kang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 指令微调 ：language model(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

AI总结 BEAT通过对比触发学习在基于VLM的具身代理中实现视觉后门攻击，提升后门激活精度至39%。

Comments ICLR 2026. Project Page: https://zqs1943.github.io/BEAT/

Towards A Universal Graph Structural Encoder

迈向通用图结构编码器

Jialin Chen, Haolan Zuo, Haoyu Peter Wang, Siqi Miao, Pan Li, Rex Ying

机构 * Yale University（耶鲁大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GFSE是一种通用预训练图编码器，通过多目标自监督学习实现跨领域图结构的可转移编码，提升下游任务性能。

Non-Interfering Weight Fields: Treating Model Parameters as a Continuously Extensible Function

非干扰权重场：将模型参数视为可扩展的连续函数

Sarim Chaudhry

机构 * Purdue University（普渡大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出非干扰权重场（NIWF）框架，通过将模型参数视为可扩展的连续函数，解决大型语言模型中的灾难性遗忘问题，实现能力的版本控制与灵活管理。

From Perceptions To Evidence: Detecting AI-Generated Content In Turkish News Media With A Fine-Tuned Bert Classifier

从感知到证据：利用微调的BERT分类器检测土耳其新闻媒体中的AI生成内容

Ozancan Ozdemir

机构 * Bernoulli Institute University of Groningen（格罗宁根大学伯努利研究所） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究利用微调的土耳其BERT模型，首次实证测量土耳其新闻媒体中AI生成内容的使用情况，实现了高准确率的分类和检测。

Towards Reliable Machine Translation: Scaling LLMs for Critical Error Detection and Safety

迈向可靠的机器翻译：扩展LLMs以检测关键错误和安全

Muskaan Chopra, Lorenz Sparrenberg, Rafet Sifa

机构 * Rheinische Friedrich-Wilhelms-Universität Bonn, Bonn, Germany（莱茵-威斯巴登大学波恩分校） ； Fraunhofer IAIS, Sankt Augustin, Germany（弗劳恩霍夫人工智能研究所） ； Lamarr Institute for Machine Learning（拉马尔人工智能与机器学习研究所） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过扩展LLMs检测关键错误，提升机器翻译的安全性和可靠性，减少虚假信息和语言伤害风险。

Comments Accepted at ECIR 2026

Steering MoE LLMs via Expert (De)Activation

通过专家（去）激活引导MoE LLMs

Mohsen Fayyaz, Ali Modarressi, Hanieh Deilamsalehy, Franck Dernoncourt, Ryan Rossi, Trung Bui, Hinrich Schütze, Nanyun Peng

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； Adobe Research（Adobe研究） ； CIS, LMU Munich（慕尼黑大学计算机学院） ； Munich Center for Machine Learning（慕尼黑机器学习中心） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 SteerMoE通过激活或去激活特定专家，在不微调的情况下提升LLM的安全性和忠实性，同时揭示了MoE模型的潜在漏洞。

Comments ICLR 2026

Scaling Towards the Information Boundary of Instruction Sets: The Infinity Instruct Subject Technical Report

向指令集的信息边界扩展：Infinity Instruct主体技术报告

Li Du, Hanyu Zhao, Yiming Ju, Tengfei Pan

机构 * BAAI（北京人工智能研究院） 纠错

专题命中 指令微调 ：foundation model(abstract)；instruction tuning(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出系统化的指令数据构建框架，构建高质量的Infinity Instruct Subject数据集，提升模型在复杂指令任务上的性能。

GRP-Obliteration: Unaligning LLMs With a Single Unlabeled Prompt

GRP-Obliteration: 通过单个无标签提示解耦大语言模型

Mark Russinovich, Yanan Cai, Keegan Hines, Giorgio Severi, Blake Bullwinkel, Ahmed Salem

机构 * Microsoft（微软） 纠错

专题命中 指令微调 ：language model(abstract)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 GRP-Obliteration通过单个无标签提示解耦大语言模型，利用GRPO技术有效移除安全约束，实现更强的不对齐能力。

Split Personality Training: Revealing Latent Knowledge Through Alternate Personalities

分裂人格训练：通过交替人格揭示潜在知识

Florian Dietz, William Wale, Oscar Gilg, Robert McCarthy, Felix Michalak, Gustavo Ewbank Rodrigues Danon, Miguelito de Guzman, Dietrich Klakow

机构 * University of Bergen, Bergen, Norway（卑尔根大学） ； Independent Researcher, London, UK（独立研究者） ； University College London, London, UK（伦敦大学学院） ； Independent Researcher, Berlin, Germany（独立研究者） ； Independent Researcher（独立研究者） ； Head of Research（研发负责人） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过分裂人格训练方法，揭示大型语言模型中隐藏的潜在知识，提升对模型行为的审计能力。

David vs. Goliath: Verifiable Agent-to-Agent Jailbreaking via Reinforcement Learning

大卫与歌利亚：通过强化学习实现可验证的代理到代理劫持

Samuel Nellessen, Tal Kachman

机构 * Department of Artificial Intelligence, Radboud University, Nijmegen, The Netherlands（人工智能系，拉德堡德大学，尼姆韦根，荷兰） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过强化学习框架Slingshot，验证了Tag-Along攻击作为可验证的威胁模型，并展示了如何通过环境交互从现成模型中引发有效代理攻击。

Comments Under review. 8 main pages, 2 figures, 2 tables. Appendix included

Effective LoRA Adapter Routing using Task Representations

利用任务表示的有效LoRA适配器路由

Akash Dhasade, Anne-Marie Kermarrec, Igor Pavlovic, Diana Petrescu, Rafael Pires, Mathis Randl, Martijn de Vos

机构 * EPFL（苏黎世联邦理工学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 LORAUTER通过任务表示实现高效适配器路由，优于现有方法并在未见过的任务上取得最佳成绩。

Ravan: Multi-Head Low-Rank Adaptation for Federated Fine-Tuning

Ravan：用于联邦微调的多头低秩适应

Arian Raje, Baris Askin, Divyansh Jhunjhunwala, Gauri Joshi

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Ravan通过多头低秩适应方法提升联邦微调的准确率，实现高效参数更新和高模型表达性。

RPO:Reinforcement Fine-Tuning with Partial Reasoning Optimization

RPO：基于部分推理优化的强化微调

Hongzhu Yi, Xinming Wang, Zhenghao zhang, Tianyu Zong, Yuanxiang Wang, Jun Xie, Tao Yu, Haopeng Jin, Kaixin Xu, Feng Chen, Jiahuan Chen, Yujia Yang, Zhenyu Guan, Bingkang Shi, Jungang Xu

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 RPO通过部分推理优化显著降低训练时间，提升大型语言模型的训练效率。

Task-Specific Directions: Definition, Exploration, and Utilization in Parameter Efficient Fine-Tuning

任务特定方向：在参数高效微调中的定义、探索与利用

Chongjie Si, Zhiyi Shi, Shifan Zhang, Xiaokang Yang, Hanspeter Pfister, Wei Shen

机构 * MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University（人工智能基础理论实验室，人工智能研究院，上海交通大学） ； School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University（电子信息与电气工程学院，上海交通大学） ； School of Engineering and Applied Sciences, Harvard University（工程与应用科学学院，哈佛大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出LoRA-TSD，通过任务特定方向优化LoRA初始化和微调，提升模型在目标任务上的性能。

Comments 2026, TPAMI, Codes in https://github.com/Chongjie-Si/Subspace-Tuning

FedMentalCare: Towards Privacy-Preserving Fine-Tuned LLMs to Analyze Mental Health Status Using Federated Learning Framework

FedMentalCare: 向隐私保护的微调大语言模型分析心理健康状态的联邦学习框架

Nobin Sarwar

机构 * University of Maryland Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 FedMentalCare通过联邦学习与低秩适应技术，在保护隐私的同时微调大语言模型，用于分析心理健康状况，提升心理健康护理的可行性和安全性。

Comments 9 pages, 3 figures, 3 tables and 2 algorithms

Timely Machine: Awareness of Time Makes Test-Time Scaling Agentic

及时机器：时间意识使测试时间缩放成为代理

Yichuan Ma, Linyang Li, Yongkang chen, Peiji Li, Xiaozhe Li, Qipeng Guo, Dahua Lin, Kai Chen

机构 * Fudan University Shanghai AI Laboratory（复旦大学上海人工智能实验室） ； Shanghai AI Laboratory（上海人工智能实验室） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 Timely Machine通过重新定义测试时间为实时时钟时间，提出Timely-RL方法提升时间预算意识，以应对高频工具调用和时间受限推理的挑战。

Comments Under Review

Objective Matters: Fine-Tuning Objectives Shape Safety, Robustness, and Persona Drift

目标至关重要：微调目标影响安全、鲁棒性和人格漂移

Daniel Vennemeyer, Punya Syon Pandey, Phan Anh Duong, Michael Umeokoli, Samuel Ratnam

机构 * University of Cincinnati（辛辛那提大学） ； University of Toronto（多伦多大学） ； University of Oxford（牛津大学） 纠错

专题命中 指令微调 ：preference optimization(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了微调目标对LLM安全性和鲁棒性的影响，发现目标选择在不同训练规模下对安全、鲁棒性和人格漂移有显著影响。

WebRollback: Enhancing Web Agents with Explicit Rollback Mechanisms

WebRollback: 通过显式回滚机制增强网络代理

Zhisong Zhang, Tianqing Fang, Kaixin Ma, Wenhao Yu, Hongming Zhang, Haitao Mi, Dong Yu

机构 * City University of Hong Kong（香港城市大学） ； Tencent AI Lab（腾讯人工智能实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过显式回滚机制提升网络代理的导航效率与灵活性

Comments EACL 2026

A Curriculum Learning Approach to Reinforcement Learning: Leveraging RAG for Multimodal Question Answering

一种基于RAG的强化学习课程学习方法：用于多模态问答

Chenliang Zhang, Lin Wang, Yuanyuan Lu, Yusheng Qi, Kexin Wang, Peixu Hou, Wenshi Chen

机构 * Meituan（美团） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种结合课程学习与强化学习的方法，用于多模态问答任务，通过检索增强生成系统在挑战中取得优异成绩。

Optimizing Fine-Tuning through Advanced Initialization Strategies for Low-Rank Adaptation

通过先进的初始化策略优化低秩适应的微调

Yongfu Xue

机构 * Tongji University（同济大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 IniLoRA通过优化低秩矩阵初始化策略，提升大型语言模型微调效果，优于LoRA并在多种任务中表现更佳。

Triplets Better Than Pairs: Towards Stable and Effective Self-Play Fine-Tuning for LLMs

三元组优于对：迈向稳定且有效的自play微调方法用于大语言模型

Yibo Wang, Hai-Long Sun, Qing-Guo Chen, Zhao Xu, Weihua Luo, Kaifu Zhang, Lijun Zhang

机构 * National Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室） ； School of Artificial Intelligence, Nanjing University（人工智能学院） ； Alibaba International Digital Commerce（阿里巴巴国际数字商务） ； Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔）） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 T-SPIN通过引入历史优势和熵约束，提升自play微调在稀缺标注数据下的稳定性和性能

Comments NeurIPS 2025

GenCtrl -- A Formal Controllability Toolkit for Generative Models

GenCtrl -- 生成模型的正式可控性工具包

Emily Cheng, Carmen Amo Alonso, Federico Danieli, Arno Blaas, Luca Zappella, Pau Rodriguez, Xavier Suau

机构 * Apple（苹果公司） ； Universitat Pompeu Fabra（庞培法布拉大学） ； Stanford（斯坦福大学） 纠错

专题命中 指令微调 ：language model(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 GenCtrl 提出了一种理论框架，用于评估生成模型的可控性，并通过实验展示了可控性在不同任务中的脆弱性。

Text as a Universal Interface for Transferable Personalization

文本作为通用的可转移个性化接口

Yuting Liu, Jian Guan, Jia-Nan Li, Wei Wu, Jiang-Ming Yang, Jianzhe Zhao, Guibing Guo

机构 * Software College, Northeastern University（东北大学软件学院） ； Ant Group（蚂蚁集团） ； Ant International（蚂蚁国际） ； Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学商学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用自然语言作为通用接口，通过两阶段训练框架开发出可转移的偏好推理模型，实现在多个任务和模型家族中的高性能表现。

Safety-Utility Conflicts Are Not Global: Surgical Alignment via Head-Level Diagnosis

安全与效用冲突并非全球性：通过头部层面诊断的手术对齐

Wang Cai, Yilin Wen, Jinchang Hou, Du Su, Guoqiu Wang, Zhonghou Lv, Chenfu Bao, Yunfang Wu

机构 * Baidu Inc.（百度公司） ； School of Software and Microelectronics, Peking University（北京大学软件与微电子学院） ； School of Computer Science, Peking University（北京大学计算机学院） ； State Key Laboratory of AI Safety, Institute of Computing Technology, CAS（中国科学院计算技术研究所人工智能安全重点实验室） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CAST框架，通过头部层面诊断与稀疏微调相结合，解决LLMs中安全与效用冲突问题，减少训练损失并提升安全性。

L-MoE: End-to-End Training of a Lightweight Mixture of Low-Rank Adaptation Experts

L-MoE：轻量级低秩适应专家的端到端训练

Shihao Ji, Zihui Song

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 L-MoE通过端到端训练将低秩适应专家与混合专家架构结合，实现轻量级、高效且可扩展的语言模型训练方法。

Comments The authors have identified a technical error in the mathematical formulation regarding the differentiable routing mechanism described in Section 3.2. To ensure the accuracy and integrity of the scientific record, we wish to withdraw the paper to correct these formulations and re-evaluate the theoretical proofs

Tackling the Inherent Difficulty of Noise Filtering in RAG

应对RAG中噪声过滤的固有难度

Jingyu Liu, Jiaen Lin, Yong Liu

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Beijing Key Laboratory of Big Data Management and Analysis Methods（北京大数据管理与分析方法重点实验室） ； School of Software Tsinghua University（清华大学软件学院） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种新的微调方法，旨在提升LLM在RAG中对相关信息和不相关信息的区分能力，从而增强模型的鲁棒性和性能。

Safety at One Shot: Patching Fine-Tuned LLMs with A Single Instance

单次实例实现安全：用一个实例修补微调的LLM

Jiawen Zhang, Lipeng He, Kejia Chen, Jian Lou, Jian Liu, Xiaohu Yang, Ruoxi Jia

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过单个安全示例高效修复微调后的LLM安全性，无需牺牲实用性且成本极低。

Learning Evolving Latent Strategies for Multi-Agent Language Systems without Model Fine-Tuning

为多智能体语言系统学习演化的潜在策略而无需模型微调

Wenlong Tang

机构 * Independent Researcher（独立研究者） 纠错

专题命中 指令微调 ：language model(abstract)；language agent(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出一种无需微调的多智能体语言系统框架，通过双环架构实现持续策略进化，利用外部潜在空间提供可解释的抽象战略表示。

Comments 17 pages, 5 figures. Code available at https://github.com/wltang-dev/Latent-Strategy-RL-Agent

Balancing Fidelity and Plasticity: Aligning Mixed-Precision Fine-Tuning with Linguistic Hierarchies

在保真度与可塑性之间寻求平衡：将混合精度微调与语言层次结构对齐

Changhai Zhou, Shiyang Zhang, Yuhua Zhou, Qian Qiao, Jun Gao, Shichao Weng, Weizhong Zhang, Cheng Jin

机构 * Fudan University（复旦大学） ； Yale University（耶鲁大学） ； Zhejiang University（浙江大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 QR-Adaptor通过联合优化量化位宽和LoRA秩，解决混合精度微调中保真度与可塑性的平衡问题，实现内存与性能的高效资源分配。

Comments 18 pages, 5 figures

Comparing Approaches to Automatic Summarization in Less-Resourced Languages

在资源较少的语言中自动摘要方法的比较

Chester Palen-Michel, Constantine Lignos

专题命中 指令微调 ：LLM(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 本文比较了不同方法在资源较少语言中自动摘要的效果，发现多语言微调的mT5基线表现最佳，而LLM作为评判者在资源较少语言上可靠性较低。

Comments Under review