语言大模型 / LLM

Influence-Preserving Proxies for Gradient-Based Data Selection in LLM Fine-tuning

保留影响的梯度基数据选择代理

Sirui Chen, Yunzhe Qi, Mengting Ai, Yifan Sun, Ruizhong Qiu, Jiaru Zou, Jingrui He

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 指令微调 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 Iprox通过两阶段框架直接从目标模型生成保留影响的代理，有效提升LLM微调中基于梯度的数据选择效率。

Entailed Opinion Matters: Improving the Fact-Checking Performance of Language Models by Relying on their Entailment Ability

蕴含观点重要性：通过依赖生成语言模型的蕴含能力提升事实核查性能

Gaurav Kumar, Ayush Garg, Debajyoti Mazumder, Aditya Kishore, Babu kumar, Jasabanta Patro

机构 * Department of Data Science and Engineering（数据科学与工程系） ； Indian Institute of Science Education and Research（印度科学教育与研究学院） 纠错

专题命中 指令微调 ：language model(title,abstract)；prompting(abstract)；分类 cs.CL

AI总结 本文提出通过生成语言模型的蕴含能力提升事实核查性能，通过证据分类和蕴含论证训练仅编码器的语言模型，以提高事实核查的准确性。

Comments 22 pages

Topic Modeling with Fine-tuning LLMs and Bag of Sentences

基于微调大语言模型和句子袋的主题建模

Johannes Schneider

机构 * University of Liechtenstein（列支敦士登大学） 纠错

专题命中 指令微调 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出FT-Topic方法，通过自动构建训练数据集并结合SenClu方法实现高效主题建模。

Comments This is the submitted journal version of enhanced with the novel fine-tuning part of "Efficient and Flexible Topic Modeling using Pretrained Embeddings and Bag of Sentences'' which appeared at the International Conference on Agents and Artificial Intelligence(ICAART) in 2024

GeoEyes: On-Demand Visual Focusing for Evidence-Grounded Understanding of Ultra-High-Resolution Remote Sensing Imagery

GeoEyes: 面向超高清遥感影像证据驱动理解的按需视觉聚焦

Fengxiang Wang, Mingshuo Chen, Yueying Li, Yajie Yang, Yifan Zhang, Long Lan, Xue Yang, Hongda Sun, Yulin Wang, Di Wang, Jun Song, Jing Zhang, Bo Du

机构 * National University of Defense Technology, China（国防科技大学） ； Beijing University of Posts and Telecommunications, China（北京邮电大学） ； University of the Chinese Academy of Sciences, China（中国科学院大学） ； Shanghai Jiao Tong University, China（上海交通大学） ； Wuhan University, China（武汉大学） ； Chinese Academy of Science, China（中国科学院） ； Tsinghua University, China（清华大学） ； Renmin University of China, China（中国人民大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.AI

AI总结 GeoEyes通过分阶段训练框架，结合冷启动数据集和代理强化学习方法，解决超高清遥感影像中证据获取不足的问题，提升视觉问答任务的准确性。

Continual-NExT: A Unified Comprehension And Generation Continual Learning Framework

Continual-NExT: 一种统一的理解和生成持续学习框架

Jingyang Qiao, Zhizhong Zhang, Xin Tan, Jingyu Gong, Yanyun Qu, Yuan Xie

机构 * East China Normal University（华东师范大学） ； Shanghai Innovation Institute（上海创新研究院） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Xiamen University（厦门大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Continual-NExT框架，通过MAGE方法提升双到双多模态大语言模型的持续学习能力，实现跨模态知识转移和减少遗忘。

Calibrated Adaptation: Bayesian Stiefel Manifold Priors for Reliable Parameter-Efficient Fine-Tuning

校准适应：基于贝叶斯斯蒂夫尔流形先验的可靠参数高效微调

Ibne Farabi Shihab, Sanjeda Akter, Anuj Sharma

机构 * Department of Computer Science, Iowa State University（计算机科学系，爱荷华州立大学） ； Department of Civil, Construction and Environmental Engineering, Iowa State University（土木、建设与环境工程系，爱荷华州立大学） 纠错

专题命中 指令微调 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 SBA通过在斯蒂夫尔流形上使用贝叶斯先验，提高参数高效微调的可靠性，减少校准误差并提升领域转移性能。

Enabling Training-Free Text-Based Remote Sensing Segmentation

无需训练的基于文本的遥感分割

Jose Sosa, Danila Rukhovich, Anis Kacem, Djamila Aouada

机构 * SnT, University of Luxembourg（SnT，卢森堡大学） 纠错

专题命中 指令微调 ：language model(abstract)；foundation model(abstract)

AI总结 本研究提出无需额外训练的遥感分割方法，结合对比和生成型VLMs与SAM，实现零样本开放词汇语义分割。

Gradient-Sign Masking for Task Vector Transport Across Pre-Trained Models

任务向量跨预训练模型传输的梯度符号遮蔽

Filippo Rinaldi, Aniello Panariello, Giacomo Salici, Fengyuan Liu, Marco Ciccone, Angelo Porrello, Simone Calderara

机构 * University of Modena and Reggio Emilia（摩德纳和雷吉奥艾米利亚大学） ； Vector Institute（向量研究所） ； University of Toronto（多伦多大学） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.AI、cs.LG

AI总结 GradFix通过近似梯度符号结构，利用少量标记样本实现任务向量跨预训练模型的高效转移，提升多任务和多源模型性能。

Comments Accepted at ICLR 2026

SeedFlood: A Step Toward Scalable Decentralized Training of LLMs

SeedFlood：迈向大规模大语言模型去中心化训练的一小步

Jihun Kim, Namhoon Lee

专题命中 指令微调 ：LLM(abstract)；分类 cs.LG

AI总结 SeedFlood 通过利用零阶更新的种子可重构结构，实现去中心化训练的高效通信和大规模扩展。

Mitigating Subject Dependency in EEG Decoding with Subject-Specific Low-Rank Adapters

通过主体特定低秩适配器缓解EEG解码中的主体依赖性

Timon Klein, Piotr Minakowski, Sebastian Sager, Steffen Schotthöfer

机构 * Department of Mathematics（数学系） ； Otto von Guericke University Magdeburg（奥托·冯·格里克大学马格德堡分校） ； Max Planck Institute for Dynamics of Complex Technical Systems（复杂技术系统动力学马克斯·普朗克研究所） ； Oak Ridge National Laboratory（橡树岭国家实验室） 纠错

专题命中 指令微调 ：foundation model(abstract)；分类 cs.LG

AI总结 SuLoRA通过分解权重为共享和主体特定部分，提升EEG解码中跨主体鲁棒性，实现参数更少但性能更优的解码模型。

I, Robot? Exploring Ultra-Personalized AI-Powered AAC; an Autoethnographic Account

我，机器人？探索超个性化AI驱动的AAC；一项自传式研究

Tobias M. Weinberg, Ricardo E. Gonzalez Penuela, Stephanie Valencia, Thijs Roumen

专题命中 指令微调 ：language model(abstract)

AI总结 本文探讨超个性化AI驱动的AAC系统对用户自主权、身份和隐私的影响，通过自传式研究发现个性化建议重塑了交流方式，强调了设计支持真实表达的AAC技术的重要性。

Comments 16 pages, 8 figures

Mod-Adapter: Tuning-Free and Versatile Multi-concept Personalization via Modulation Adapter

Mod-Adapter：通过调制适配器实现无需微调的多概念个性化

Weizhi Zhong, Huan Yang, Zheng Liu, Huiguo He, Zijian He, Xuesong Niu, Di Zhang, Guanbin Li

机构 * School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院） ； Kolors Team, Kuaishou Technology（快手科技Kolors团队） ； Shenzhen Loop Area Institute, Shenzhen, China（深圳循环区研究所） ； Guangdong Key Laboratory of Big Data Analysis and Processing, Guangzhou, China（广东大数据分析与处理重点实验室） ； South China University of Technology, Guangzhou, China（华南理工大学） 纠错

专题命中 指令微调 ：language model(abstract)

AI总结 本文提出Mod-Adapter方法，通过调制适配器实现无需微调的多概念个性化，有效定制物体和抽象概念，提升生成质量。

Comments Accepted by ICLR 2026, project page: https://weizhi-zhong.github.io/Mod-Adapter