TMLR

A Unifying Framework for Parallelizing Sequential Models with Linear Dynamical Systems

一种基于线性动态系统并行化序列模型的统一框架

Xavier Gonzalez, E. Kelly Buchanan, Hyun Dong Lee, Jerry Weihong Liu, Ke Alexander Wang, David M. Zoltowski, Leo Kozachkov, Christopher Ré, Scott W. Linderman

机构 * Stanford University（斯坦福大学） ； Brown University（布朗大学） 纠错

AI总结 本文提出一种基于线性动态系统（LDSs）的统一框架，用于并行化序列模型，分析了牛顿、皮卡德和雅可比迭代方法的收敛速率，并通过案例研究验证了理论预测。

Comments TMLR. Code: https://github.com/lindermanlab/parallelizing_with_lds

Amortized Inference of Causal Models via Conditional Fixed-Point Iterations

通过条件固定点迭代实现因果模型的 amortized 推断

Divyat Mahajan, Jannes Gladrow, Agrin Hilmkil, Cheng Zhang, Meyer Scetbon

机构 * Mila, Université de Montréal（蒙特利尔大学米拉研究所） ； Microsoft Research（微软研究院） 纠错

AI总结 本文提出一种 amortized 推断框架，通过条件固定点迭代推断因果模型的因果机制，能够在不更新参数的情况下生成观测和干预数据，实验表明其在数据稀缺时表现更优。

Comments Transactions on Machine Learning Research (TMLR) 2025 (J2C Certification). ICLR 2026

V-OCBF: Learning Safety Filters from Offline Data via Value-Guided Offline Control Barrier Functions

V-OCBF：通过价值引导的离线控制屏障函数学习安全过滤器

Mumuksh Tayal, Manan Tayal, Aditya Singh, Shishir Kolathaya, Ravi Prakash

机构 * Microsoft Research, India（微软研究院（印度）） 纠错

AI总结 本文提出V-OCBF方法，通过价值引导学习离线数据中的安全过滤器，无需依赖在线交互或专家设计的屏障函数，有效提升安全性和任务性能。

Comments 28 pages, 9 figures, 11 tables. Paper accepted at TMLR

Structure is Supervision: Multiview Masked Autoencoders for Radiology

结构是监督：用于放射学的多视图掩码自编码器

Sonia Laguna, Andrea Agostini, Alain Ryser, Samuel Ruiperez-Campillo, Irene Cannistraci, Moritz Vandenhirtz, Stephan Mandt, Nicolas Deperrois, Farhad Nooralahzadeh, Michael Krauthammer, Thomas M. Sutter, Julia E. Vogt

机构 * Department of Computer Science, ETH Zurich（苏黎世联邦理工学院计算机科学系） ； Department of Computer Science, UC Irvine（加州大学尔湾分校计算机科学系） ； Department of Quantitative Biomedicine, University of Zurich（苏黎世大学定量生物医学系） 纠错

AI总结 本文提出多视图掩码自编码器（MVMAE），通过利用放射学研究的多视图结构学习视图不变和疾病相关表征，并在三个公开数据集上验证了其在疾病分类任务中的优越性能。

Journal ref Transactions on Machine Learning Research (TMLR) 2026

One Pic is All it Takes: Poisoning Visual Document Retrieval Augmented Generation with a Single Image

一张图片足矣：通过单张图片对视觉文档检索增强生成进行污染攻击

Ezzeldin Shereen, Dan Ristea, Shae McFadden, Burak Hasircioglu, Vasilios Mavroudis, Chris Hicks

机构 * The Alan Turing Institute（艾伦·图灵研究所） ； University College London（伦敦大学学院） 纠错

AI总结 本文研究了视觉文档检索增强生成（VD-RAG）对污染攻击的脆弱性，通过单张恶意图片实现针对性和通用性攻击，展示了VD-RAG在目标和通用设置下的漏洞，但在黑盒攻击下表现出一定的鲁棒性。

Comments Published in Transactions on Machine Learning Research (03/2026)

Journal ref Transactions on Machine Learning Research (TMLR), 2026

The Final-Stage Bottleneck: A Systematic Dissection of the R-Learner for Network Causal Inference

最终阶段瓶颈：网络因果推断中R学习器的系统解剖

S Sairam, Sara Girdhar, Shivam Soni

机构 * PES University（PES大学） 纠错

AI总结 本文系统分析了R学习器在网络数据中的表现，发现最终阶段的CATE估计器的归纳偏差是性能的关键因素，提出Graph R-Learner在解决最终阶段瓶颈方面优于传统方法。

Comments Published In TMLR 15 pages, 4 figures

Neural Conditional Transport Maps

神经条件传输映射

Carlos Rodriguez-Pardo, Leonardo Chiani, Emanuele Borgonovo, Massimo Tavoni

机构 * Department of Management, Economics and Industrial Engineering, Politecnico di Milano（米兰理工大学管理、经济与工业工程系） ； RFF-CMCC European Institute on Economics and the Environment (EIEE)（RFF-CMCC欧洲经济与环境研究所） ； Euro-Mediterranean Center on Climate Change (CMCC)（欧洲-地中海气候变化中心） ； Bocconi University, Department of Decision Sciences（博科尼大学决策科学系） ； MIT, Department of Nuclear Science and Engineering（麻省理工学院核科学与工程系） 纠错

AI总结 本文提出神经框架学习概率分布间的条件最优传输映射，引入能处理分类和连续条件变量的机制，通过超网络生成传输层参数，实现优于简单条件方法的自适应映射，并应用于全局敏感性分析。

Comments Published in Transactions on Machine Learning Research

Towards Online Multi-Modal Social Interaction Understanding

面向在线多模态社交交互理解

Xinpeng Li, Shijian Deng, Bolin Lai, Weiguo Pian, James M. Rehg, Yapeng Tian

机构 * University of Texas at Dallas（德克萨斯大学达拉斯分校） ； Georgia Institute of Technology（佐治亚理工学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

AI总结 本文提出在线多模态社交交互理解问题，通过历史信息实现多模态社交交互理解，采用多模态大语言模型框架，引入多对话者预测和社交感知视觉提示，实现三个任务的最优性能。

Comments Accepted to Transactions on Machine Learning Research (TMLR). Project page: https://sampson-lee.github.io/online-mmsi-project-page

Inductive Global and Local Manifold Approximation and Projection

归纳式全局和局部流形近似与投影

Jungeum Kim, Xiao Wang

AI总结 本文提出GLoMAP和iGLoMAP，通过保留局部和全局距离估计实现数据降维和可视化，iGLoMAP利用深度神经网络处理未见数据，适用于小批量学习。

Comments Accepted at TMLR (2024)

Reasoning-Driven Synthetic Data Generation and Evaluation

基于推理的合成数据生成与评估

Tim R. Davidson, Benoit Seguin, Enrico Bacis, Cesar Ilharco, Hamza Harkous

机构 * EPFL（瑞士联邦理工学院洛桑） ； Google（谷歌） ； Google Deepmind（谷歌DeepMind） 纠错

AI总结 本文提出Simula框架，通过无种子、代理化方法生成大规模合成数据，提供可解释且可控的生成流程，验证了其在多种数据集上的有效性，为合成数据机制设计和大规模生成评估提供指导。

Comments Accepted to TMLR 2026, J2C Certification

GenOL: Generating Diverse Examples for Name-only Online Learning

GenOL：为名称-only在线学习生成多样化示例

Minhyuk Seo, Seongwon Cho, Minjae Lee, Diganta Misra, Hyeonbeom Choi, Seon Joo Kim, Jonghyun Choi

机构 * KU Leuven（鲁汶大学） ； Seoul National University（首尔大学） ； ELLIS（欧洲学习与智能系统实验室） ； MPI-IS Tübingen（马克斯·普朗克智能系统研究所图宾根） ； Yonsei University（延世大学） 纠错

AI总结 针对在线学习中数据分布偏移问题，提出GenOL框架，通过生成模型提升名称-only训练中图像的内在和跨模型多样性，优于传统监督和网络监督方法。

Comments TMLR 2025

Adversarial Attacks on Multimodal Large Language Models: A Comprehensive Survey

对多模态大语言模型的对抗攻击：全面综述

Bhavuk Jain, Sercan Ö. Arık, Hardeo K. Thakur

机构 * Google（谷歌） ； Bennett University, India（印度贝内特大学） 纠错

AI总结 本文综述了多模态大语言模型面临的对抗威胁，分析了攻击类型及其根源，提出分类框架以提升模型安全性。

Comments Survey paper, 37 pages, 10 figures, accepted at TMLR

Journal ref Transactions on Machine Learning Research, 2026

iiANET: Inception Inspired Attention Hybrid Network for efficient Long-Range Dependency

iiANET：受启发于 inception 的注意力混合网络用于高效长距离依赖

Haruna Yunusa, Adamu Lawan, Abdulganiyu Abdu Yusuf

机构 * NewraLab ； Beihang University（北京航空航天大学） ； Beijing GoerTek Alpha Labs（北京歌尔泰克阿尔法实验室） ； Beijing Institute of Technology（北京理工大学） 纠错

AI总结 本文提出 iiANET，一种高效的混合视觉骨干网络，通过 iiABlock 模块结合改进的全局 r-MHSA 和卷积层，有效捕捉长距离依赖，提升复杂视觉识别任务的性能。

Comments 17 pages, 7 figures. Published in Transactions on Machine Learning Research (TMLR). Available at https://openreview.net/pdf?id=HGSjlgFodQ

Journal ref Transactions on Machine Learning Research (12/2025)

Low-Rank Adaptation Reduces Catastrophic Forgetting in Sequential Transformer Encoder Fine-Tuning: Controlled Empirical Evidence and Frozen-Backbone Representation Probes

低秩适应减少序列Transformer编码器微调中的灾难性遗忘：受控经验证据和冻结背骨表征探针

Ashish Pandey

AI总结 本研究通过受控实验发现，低秩适应（LoRA）在序列Transformer编码器微调中显著降低灾难性遗忘，且冻结背骨机制能维持任务间相似性，验证了LoRA在持续学习中的有效性。

Comments 14 pages, 11 figures, 4 tables. 234 experiments across BERT-base, RoBERTa-base, GPT-2. Submitted to TMLR

A Systematic Study of In-the-Wild Model Merging for Large Language Models

对大型语言模型在真实场景中模型合并的系统研究

Oğuz Kağan Hitit, Leander Girrbach, Zeynep Akata

机构 * Koç University（科奇大学） ； Technical University of Munich（慕尼黑工业大学） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； Helmholtz Munich（亥姆霍兹慕尼黑中心） 纠错

AI总结 本文系统评估了在真实场景中合并异构专家模型的效果，发现任务算术是唯一在该场景下可靠提升性能的方法，其他方法效果不显著。

Journal ref Transactions on Machine Learning Research (03/2026)

Forgetting: A New Mechanism Towards Better Large Language Model Fine-tuning

遗忘：一种改进大型语言模型微调的新机制

Ali Taheri, Alireza Taban, Qizhou Wang, Shanshan Ye, Abdolreza Mirzaei, Tongliang Liu, Bo Han

机构 * Department of Electrical and Computer Engineering, Isfahan University of Technology（伊斯法罕理工大学电气与计算机工程系） ； RIKEN Center for Advanced Intelligence Project (AIP)（理化学研究所先进智能项目中心） ； Australian Artificial Intelligence Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所） ； School of Computer Science, Simon Fraser University（西蒙菲莎大学计算机科学学院） ； Sydney AI Centre, The University of Sydney（悉尼大学悉尼人工智能中心） ； Department of Computer Science, Hong Kong Baptist University（香港浸会大学计算机科学系） 纠错

AI总结 本文提出通过区分正负token来优化微调过程，通过遗忘不相关信息提升模型性能，实验表明该机制在多种基准上有效。

Journal ref Transactions on Machine Learning Research (TMLR), 03/2026

PruneFuse: Efficient Data Selection via Weight Pruning and Network Fusion

PruneFuse：通过权重剪枝和网络融合实现高效的数据选择

Humaira Kousar, Hasnain Irshad Bhatti, Jaekyun Moon

AI总结 PruneFuse通过剪枝网络进行数据选择并融合原始网络，降低计算成本，提升训练效率，优于基线方法。

Comments Published in TMLR (Featured Certification). arXiv admin note: substantial text overlap with arXiv:2501.01118

Journal ref Transactions on Machine Learning Research (TMLR), March 2026

Do All Vision Transformers Need Registers? A Cross-Architectural Reassessment

视觉变换器是否都需要寄存器？一种跨架构重新评估

Spiros Baxevanakis, Platon Karageorgis, Ioannis Dravilas, Konrad Szewczyk

AI总结 本文重新评估了视觉变换器中寄存器的必要性，验证了Darcet等人的发现，并发现其结论在不同模型中并不普遍，同时探讨了模型规模和术语一致性的影响。

Comments Preprint. Submitted to Transactions on Machine Learning Research (TMLR). 26 pages, 17 figures

AI Security in the Foundation Model Era: A Comprehensive Survey from a Unified Perspective

在基础模型时代的人工智能安全：从统一视角的综合调查

Zhenyi Wang, Siyu Luan

机构 * University of Central Florida（中佛罗里达大学） ； University of Copenhagen（哥本哈根大学） 纠错

AI总结 本文从统一视角出发，系统探讨了基础模型时代AI安全问题，提出统一闭环威胁分类框架，揭示模型与数据之间的双向风险传播，为构建可扩展的安全策略提供理论基础。

Comments Published at Transactions on Machine Learning Research (TMLR)

Transformers in the Dark: Navigating Unknown Search Spaces via Bandit Feedback

在黑暗中导航：通过多臂反馈探索未知搜索空间

Jungtaek Kim, Thomas Zeng, Ziqian Lin, Minjae Lee, Chungpa Lee, Jy-yong Sohn, Hyung Il Koo, Kangwook Lee

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； FuriosaAI ； Yonsei University（延世大学） ； KRAFTON AI ； Ludo Robotics 纠错

AI总结 本文探讨LLM能否通过Transformer架构近似搜索算法，提出未知树搜索与多臂反馈框架，证明Transformer可实现不同搜索策略并具备泛化能力。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR)

Amplified Patch-Level Differential Privacy for Free via Random Cropping

通过随机裁剪实现免费的增强型像素级差分隐私

Kaan Durmaz, Jan Schuchardt, Sebastian Schmidt, Stephan Günnemann

机构 * Technical University of Munich（慕尼黑技术大学） ； Machine Learning Research, Morgan Stanley（摩根大通机器学习研究） 纠错

AI总结 本文研究了随机裁剪在差分隐私训练中的作用，发现其能增强隐私保护而不需改变模型结构，通过引入像素级邻域关系和分析隐私界限，验证了在多个分割架构和数据集上提升隐私-效用权衡。

Comments Published at TMLR

Journal ref Transactions on Machine Learning Research, 2026, ISSN 2835-8856

Adaptive Online Mirror Descent for Tchebycheff Scalarization in Multi-Objective Learning

自适应在线镜像下降法用于多目标学习中的切比雪夫标量化

Meitong Liu, Xiaoyuan Zhang, Chulin Xie, Kate Donahue, Han Zhao

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； The University of Hong Kong（香港大学） ； City University of Hong Kong（城市大学） 纠错

AI总结 本文提出自适应在线镜像下降算法(AdaOMD-TCH)，用于多目标学习中的切比雪夫标量化，通过自适应在线到批量转换提升解的最优性，实现$\mathcal O(\sqrt{\log m/T})$收敛速度。

Comments TMLR 2026

Learning to Localize Leakage of Cryptographic Sensitive Variables

学习定位加密敏感变量的泄漏

Jimmy Gammell, Anand Raghunathan, Abolfazl Hashemi, Kaushik Roy

机构 * Elmore Family School of Electrical and Computer Engineering, Purdue University（埃尔莫尔电气与计算机工程学院，普渡大学） 纠错

AI总结 本文提出一种深度学习框架，通过分析不同时间点的测量数据，定位加密泄漏源，以指导防御措施。

Comments Accepted to TMLR (Transactions on Machine Learning Research), 2026. Camera-ready version. 65 pages, 21 figures. Code available at https://github.com/jimgammell/learning_to_localize_leakage

Multiway Multislice PHATE: Visualizing Hidden Dynamics of RNNs through Training

多维多切片PHATE：通过训练可视化RNN的隐藏动态

Jiancheng Xie, Lou C. Kohler Voinov, Noga Mudrik, Gal Mishne, Adam Charles

机构 * Boston University（波士顿大学） ； Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院） ； Johns Hopkins University（约翰霍普金斯大学） ； University of California San Diego（加州大学圣地亚哥分校） 纠错

AI总结 MM-PHATE通过多维分析RNN隐藏状态演变，揭示训练过程中表示几何变化，提供直观方法理解RNN架构与性能关系。

Comments Accepted at TMLR 2026. This version includes additional experiments on bifurcation and warp perturbations, revised figures, and expanded quantitative analysis. Published version: https://openreview.net/forum?id=9Yr4V7iZsq

Journal ref Transactions on Machine Learning Research (TMLR), 2026

Covariance Density Neural Networks

协方差密度神经网络

Om Roy, Yashar Moshfeghi, Keith Smith

机构 * Computer and Information Sciences, University of Strathclyde（斯特拉思克莱德大学计算机与信息科学系） 纠错

AI总结 本文提出协方差密度神经网络，通过构建密度矩阵提升模型性能，增强鲁棒性并实现更好的泛化能力，在脑机接口任务中表现优异。

Journal ref Transactions on Machine Learning Research (TMLR) 03/2026 issn=2835-8856

Neural ODE and SDE Models for Adaptation and Planning in Model-Based Reinforcement Learning

神经ODE和SDE模型用于基于模型的强化学习中的适应与规划

Chao Han, Stefanos Ioannou, Luca Manneschi, T. J. Hayward, Michael Mangan, Aditya Gilra, Eleni Vasilaki

机构 * School of Computer Science, The University of Sheffield, UK（谢菲尔德大学计算机科学学院，英国） ； Cancer Research UK National Biomarker Centre, The University of Manchester, UK（英国曼彻斯特大学癌症研究UK国家生物标志物中心） ； School of Chemical, Materials and Biological Engineering, The University of Sheffield, UK（谢菲尔德大学化学、材料和生物工程学院，英国） ； Machine Learning group, Centrum Wiskunde & Informatica, Amsterdam, Netherlands（荷兰阿姆斯特丹Centrum Wiskunde & Informatica机器学习组） ； Institute for Ecological Economics, Vienna University of Economics and Business, Austria（奥地利维也纳经济与商业大学生态经济研究所） 纠错

AI总结 本文利用神经ODE和SDE建模随机动力学，通过实验展示SDE在复杂场景中提升策略样本效率的效果，并引入隐式SDE模型应对部分可观测性问题。

Journal ref Transactions on Machine Learning Research (10/2025)

Extracting and Following Paths for Robust Relational Reasoning with Large Language Models

基于大语言模型的稳健关系推理路径提取与追踪

Ge Zhang, Mohammad Ali Alomrani, Hongjian Gu, Jiaming Zhou, Yaochen Hu, Bin Wang, Qun Liu, Mark Coates, Yingxue Zhang, Jianye Hao

机构 * Huawei Technologies Canada（华为技术加拿大公司） ； Huawei Technologies（华为技术） ； McGill University（麦吉尔大学） ； Mila - Québec AI Institute（魁北克人工智能研究所） 纠错

AI总结 本文提出Path-of-Thoughts框架，通过图提取、路径识别和推理三个阶段解决关系推理问题，在四个数据集上超越现有方法，无需微调或大量LLM调用，且对LLM提取错误和输入模糊更具鲁棒性。

Journal ref Transactions on Machine Learning Research, 2026

Foundation Models for Trajectory Planning in Autonomous Driving: A Review of Progress and Open Challenges

自动驾驶轨迹规划中的基础模型：进展与开放挑战综述

Kemal Oksuz, Alexandru Buburuzan, Anthony Knittel, Yuhan Yao, Puneet K. Dokania

机构 * Five AI Ltd.（Five AI有限公司） ； Robert Bosch GmbH（罗伯特·博世有限公司） ； United Kingdom（英国） 纠错

AI总结 本文综述了自动驾驶中基于基础模型的轨迹规划方法，分析了其架构设计、方法优势及局限性，并评估了37种最新方法的代码和数据集开放性。

Comments Accepted to TMLR (Survey Certification)

Unlearning in Diffusion models under Data Constraints: A Variational Inference Approach

在数据约束下扩散模型的卸载：一种变分推断方法

Subhodip Panda, Varun M S, Shreyans Jain, Sarthak Kumar Maharana, Prathosh A. P

机构 * Department of ECE, Indian Institute of Science（印度科学研究院电子工程系） 纠错

AI总结 本文提出变分扩散卸载方法，用于在数据受限条件下防止预训练扩散模型生成不良内容，通过优化损失函数中的可塑性诱导器和稳定性正则化器来提高效率。

Journal ref Transaction on Machine Learning Research (TMLR), 2026

The Cost of Replicability in Active Learning

主动学习中可重复性的成本

Rupkatha Hira, Dominik Kau, Jessica Sorrell

机构 * Johns Hopkins University（约翰霍普金斯大学） ； University of Pennsylvania（宾夕法尼亚大学） ； Penn Institute for Computational Science（宾夕法尼亚大学计算科学研究所） 纠错

AI总结 本文研究了主动学习中可重复性带来的样本复杂性增加，提出两种可重复的主动学习算法，在保证一致性的同时实现标签节省。

Journal ref Transactions on Machine Learning Research, 2026