TMLR

Adversarial Attacks on Multimodal Large Language Models: A Comprehensive Survey

对多模态大语言模型的对抗攻击：全面综述

Bhavuk Jain, Sercan Ö. Arık, Hardeo K. Thakur

机构 * Google（谷歌） ； Bennett University, India（印度贝内特大学） 纠错

AI总结 本文综述了多模态大语言模型面临的对抗威胁，分析了攻击类型及其根源，提出分类框架以提升模型安全性。

Comments Survey paper, 37 pages, 10 figures, accepted at TMLR

Journal ref Transactions on Machine Learning Research, 2026

iiANET: Inception Inspired Attention Hybrid Network for efficient Long-Range Dependency

iiANET：受启发于 inception 的注意力混合网络用于高效长距离依赖

Haruna Yunusa, Adamu Lawan, Abdulganiyu Abdu Yusuf

机构 * NewraLab ； Beihang University（北京航空航天大学） ； Beijing GoerTek Alpha Labs（北京歌尔泰克阿尔法实验室） ； Beijing Institute of Technology（北京理工大学） 纠错

AI总结 本文提出 iiANET，一种高效的混合视觉骨干网络，通过 iiABlock 模块结合改进的全局 r-MHSA 和卷积层，有效捕捉长距离依赖，提升复杂视觉识别任务的性能。

Comments 17 pages, 7 figures. Published in Transactions on Machine Learning Research (TMLR). Available at https://openreview.net/pdf?id=HGSjlgFodQ

Journal ref Transactions on Machine Learning Research (12/2025)

Low-Rank Adaptation Reduces Catastrophic Forgetting in Sequential Transformer Encoder Fine-Tuning: Controlled Empirical Evidence and Frozen-Backbone Representation Probes

低秩适应减少序列Transformer编码器微调中的灾难性遗忘：受控经验证据和冻结背骨表征探针

Ashish Pandey

AI总结 本研究通过受控实验发现，低秩适应（LoRA）在序列Transformer编码器微调中显著降低灾难性遗忘，且冻结背骨机制能维持任务间相似性，验证了LoRA在持续学习中的有效性。

Comments 14 pages, 11 figures, 4 tables. 234 experiments across BERT-base, RoBERTa-base, GPT-2. Submitted to TMLR

A Systematic Study of In-the-Wild Model Merging for Large Language Models

对大型语言模型在真实场景中模型合并的系统研究

Oğuz Kağan Hitit, Leander Girrbach, Zeynep Akata

机构 * Koç University（科奇大学） ； Technical University of Munich（慕尼黑工业大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Helmholtz Munich（亥姆霍兹慕尼黑中心） 纠错

AI总结 本文系统评估了在真实场景中合并异构专家模型的效果，发现任务算术是唯一在该场景下可靠提升性能的方法，其他方法效果不显著。

Journal ref Transactions on Machine Learning Research (03/2026)

Forgetting: A New Mechanism Towards Better Large Language Model Fine-tuning

遗忘：一种改进大型语言模型微调的新机制

Ali Taheri, Alireza Taban, Qizhou Wang, Shanshan Ye, Abdolreza Mirzaei, Tongliang Liu, Bo Han

机构 * Department of Electrical and Computer Engineering, Isfahan University of Technology（伊斯法罕理工大学电气与计算机工程系） ； RIKEN Center for Advanced Intelligence Project (AIP)（理化学研究所先进智能项目中心） ； Australian Artificial Intelligence Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所） ； School of Computer Science, Simon Fraser University（西蒙菲莎大学计算机科学学院） ； Sydney AI Centre, The University of Sydney（悉尼大学悉尼人工智能中心） ； Department of Computer Science, Hong Kong Baptist University（香港浸会大学计算机科学系） 纠错

AI总结 本文提出通过区分正负token来优化微调过程，通过遗忘不相关信息提升模型性能，实验表明该机制在多种基准上有效。

Journal ref Transactions on Machine Learning Research (TMLR), 03/2026