TMLR

Training Non-Differentiable Networks via Optimal Transport

基于最优传输训练不可微网络

An T. Le

AI总结 该研究提出PolyStep方法，通过最优传输框架利用前向传播训练不可微网络，在脉冲网络、MAX-SAT等任务上优于多数无梯度基线，仅前向传播即可实现子空间平稳性。

Comments 93 pages, 26 tables, 6 figures, submitted to Transactions on Machine Learning Research

Efficient Image Restoration with State-Dependent Forward Diffusion

基于状态依赖正向扩散的高效图像复原

Ziwei Luo, Fredrik K. Gustafsson, Jens Sjölund, Thomas B. Schön

AI总结 该研究提出状态依赖均值回复正向扩散（FoD）框架，以单正向扩散过程实现高效图像复原，其含状态依赖SDE，可少步采样，在多类图像复原任务上性能优于多种对比方法。

Comments Accepted by TMLR. Project page: https://algolzw.github.io/fod

Patch-based Memory Gate Model in Time Series Foundation Model

MOMEMTO：基于补丁的记忆门模型在时间序列基础模型中的应用

Samuel Yoon, Jongwon Kim, Juyoung Ha, Young Myoung Ko

机构 * Pohang University of Science and Technology（浦项科学技术大学） 纠错

AI总结 MOMEMTO通过基于补丁的记忆模块改进时间序列基础模型，有效缓解过度泛化问题，提升异常检测性能，尤其在少样本学习中表现突出。

Comments Published in Transactions on Machine Learning Research (TMLR), 2026

Journal ref Transactions on Machine Learning Research (TMLR), 2026

A New First-Order Meta-Learning Algorithm with Convergence Guarantees

一种具有收敛性保证的新型一阶元学习算法

El Mahdi Chayti, Martin Jaggi

AI总结 该研究提出了具有收敛性保证的一阶元学习算法FO-B-MAML，其性能接近二阶MAML且内存开销低，可扩展至深度模型。

Journal ref Transactions on Machine Learning Research (2026)

Clarity: The Flexibility-Interpretability Trade-Off in Sparsity-aware Concept Bottleneck Models

Clarity：稀疏性感知概念瓶颈模型中的灵活性与可解释性权衡

Konstantinos P. Panousis, Diego Marcos

机构 * Department of Statistics, University of Economics and Business（经济与商业大学统计系） ； UMR TETIS, Inria, EVERGREEN, University of Montpellier（蒙彼利埃大学） 纠错

AI总结 研究探讨了概念瓶颈模型中稀疏性对语义对齐的影响，提出Clarity指标衡量下游性能与概念激活稀疏性和精度的相互作用，通过实验揭示灵活性与可解释性之间的关键权衡。

Journal ref Transactions on Machine Learning Research (2026)

Behavioral Inference at Scale: The Fundamental Asymmetry Between Motivations and Belief Systems

大规模行为推断：动机与信念系统之间的根本不对称性

Jason Starace, Terence Soule

机构 * Department of Computer Science University of Idaho（计算机科学系 俄克拉荷马州立大学） 纠错

AI总结 研究通过大规模实验揭示动机与信念系统在行为推断中的根本不对称性，发现动机推断效率远超信念系统，且信念系统推断的瓶颈在于信息理论限制。

Comments Published in Transactions on Machine Learning Research (2026). OpenReview: https://openreview.net/forum?id=aDMDqtw63H

Journal ref Transactions on Machine Learning Research, ISSN 2835-8856 (2026)

On The Statistical Limits of Self-Improving Agents

关于自我改进智能体的统计极限

Charles L. Wang, Keir Dorchen, Peter Jin

机构 * Columbia University（哥伦比亚大学） 纠错

AI总结 研究探讨了自我改进智能体的统计极限，揭示了效用驱动的自我修改可能引发的学习能力下降问题，并提出了容量有界条件下的安全自我改进边界。

Comments Published in TMLR 2026

Token-Based Detection of Spurious Correlations in Vision Transformers

基于Token的视觉Transformer虚假相关性检测

Solha Kang, Esla Timothy Anzaku, Wesley De Neve, Arnout Van Messem, Joris Vankerschaver, Francois Rameau, Utku Ozbulak

机构 * Center for Biosystems and Biotech Data Science（生物系统与生物技术数据科学中心） ； Ghent University Global Campus（根特大学全球校区） ； State University of New York Korea（纽约州立大学韩国分校） ； Department of Mathematics（数学系） ； Université de Liège（列日大学） ； Department of Applied Mathematics, Computer Science and Statistics（应用数学、计算机科学与统计学系） ； Ghent University（根特大学） ； Department of Electronics and Information Systems（电子与信息系统系） 纠错

AI总结 本研究提出基于Token的诊断流程，通过留一Token移除法检测视觉Transformer中的虚假相关性，经ImageNet等实验验证了方法的有效性，还探讨了虚假信号的来源及相关案例。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR)

Emergent Neural Network Mechanisms for Generalization to Objects in Novel Orientations

面向新朝向物体泛化的涌现神经网络机制

Avi Cooper, Xavier Boix, Daniel Harari, Spandan Madan, Hanspeter Pfister, Tomotake Sasaki, Pawan Sinha

AI总结 该研究探究DNNs对训练分布外朝向物体的泛化能力，发现其可通过熟悉物体的朝向不变性实现，且与调谐共同特征的神经元有关，揭示类脑泛化机制。

Journal ref Transactions on Machine Learning Research (TMLR), 2025, ISSN 2835-8856

Legal Retrieval for Public Defenders

为公共辩护人设计的法律检索

Dominik Stammbach, Kylie Zhang, Patty Liu, Nimra Nadeem, Inyoung Cheong, Lucia Zheng, Peter Henderson

AI总结 本文提出了一种针对公共辩护人工作的法律检索工具，通过引入领域知识提升检索效果，并发布了一个真实辩护人检索查询的分类学和手动标注的数据集，以改进现实中的法律检索基准。

Comments Forthcoming TMLR

Family Matters: A Systematic Study of Spatial vs. Frequency Masking for Continual Test-Time Adaptation

家庭事务：空间掩码与频率掩码在连续测试时自适应中的系统研究

Chandler Timm C. Doloriel, Yunbei Zhang, Yeonguk Yu, Taki Hasan Rafi, Muhammad salman siddiqui, Tor Kristian Stevik, Fadi Al Machot, Kristian Hovde Liland, Habib Ullah

机构 * Faculty of Science and Technology (REALTEK), Norwegian University of Life Sciences (NMBU)（科学与技术学院（REALTEK）、挪威生命科学大学） ； Tulane University（路易斯安那州立大学） ； Gwangju Institute of Science and Technology（全州科学技术学院） ； Hanyang University（翰阳大学） 纠错

AI总结 通过控制变量实验，系统研究了空间掩码与频率掩码在连续测试时自适应中的效果，发现空间掩码在补丁标记化架构上积累稳定表示，而频率掩码导致灾难性崩溃，且最优掩码家族取决于架构-任务对齐。

Comments Accepted to TMLR 2026, camera-ready at https://openreview.net/forum?id=pBI64qNXHp; code at https://github.com/chandlerbing65nm/m2a.git

Length-MAX Tokenizer for Language Models

用于语言模型的Length-MAX分词器

Dong Dong, Weijie Su

机构 * Dong Dong（董东） ； Weijie Su（苏伟杰） 纠错

AI总结 Length-MAX分词器通过优化平均token长度，提高了语言模型的效率和下游任务性能。

Comments Accepted at Transactions on Machine Learning Research (TMLR). OpenReview: https://openreview.net/forum?id=CRjrpwGD9A

Probing Visual Concepts in Lightweight Vision-Language Models for Automated Driving

探测轻量视觉语言模型中视觉概念以用于自动驾驶

Nikos Theodoridis, Reenu Mohandas, Ganesh Sistu, Anthony Scanlan, Ciarán Eising, Tim Brophy

机构 * University of Limerick（利默里克大学） ； Valeo Vision Systems, Ireland（爱尔兰瓦莱欧视觉系统） ； Department of Electronic and Computer Engineering（电子与计算机工程系） 纠错

AI总结 本研究探讨了轻量视觉语言模型在自动驾驶中的视觉概念编码问题，发现某些概念显式编码而其他隐式编码，并识别出感知和认知两种失败模式。

Journal ref Transactions on Machine Learning Research, 2026

Optimization as a Dynamical System: Generative Schedules from Latent ODEs

作为动力系统的优化：来自潜在常微分方程（Latent ODE）的生成式学习率调度

Matt L. Sampson, Peter Melchior

机构 * Princeton University（普林斯顿大学） 纠错

AI总结 该研究提出一种基于潜在常微分方程的元学习调度器，可生成梯度下降的最优学习率调度，在图像分类、下一个token预测任务上优于基准，能提升模型泛化能力且计算高效。

Comments Accepted in Transactions on Machine Learning Research (TMLR)

Symbolic Graphics Programming with Large Language Models

基于大语言模型的符号图形编程

Yamei Chen, Haoquan Zhang, Yangyi Huang, Zeju Qiu, Kaipeng Zhang, Yandong Wen, Weiyang Liu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Westlake University（西湖大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） 纠错

AI总结 本文针对大语言模型生成符号图形程序（SGP）能力不足的问题，提出带可验证奖励的强化学习方法，在Qwen-2.5-7B上实现与前沿系统相当的SVG生成性能，揭示SGP是跨模态 grounding 的有效视角。

Comments Accepted by Transactions on Machine Learning Research. (32 pages, 12 figures.) This version refines the paper structure, adds experimental results. Project page: https://spherelab.ai/SGP-Gen/

ASAT: Adaptive Scoring and Thresholding with Human Feedback for Robust Out-of-Distribution Detection

ASAT：结合人类反馈的自适应评分与阈值方法用于鲁棒分布外检测

Daisuke Yamada, Harit Vishwakarma, Ramya Korlakai Vinayak

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

AI总结 ASAT是结合人类反馈的人机协作框架，可实时更新评分函数与阈值，在静态条件下控制FPR并最大化TPR，非静态条件下适应分布漂移，在OpenOOD基准上性能优于现有方法。

Comments Published in TMLR (2026) with J2C Certification

Journal ref Transactions on Machine Learning Research (TMLR), 2026

Optimal or Greedy Decision Trees? Revisiting their Objectives, Tuning, and Performance

最优决策树还是贪心决策树？重新审视它们的目标、调参与性能

Jacobus G. M. van der Linden, Daniël Vos, Mathijs M. de Weerdt, Sicco Verwer, Emir Demirović

AI总结 本文针对最优决策树（ODT）与贪心决策树的目标、调参与性能等开放问题开展迄今规模最大的实验研究，证实ODT可直接优化目标函数、超参数调优至关重要等结论，驳斥了两个先前假设并给出使用建议与代码。

Comments Reviewed on OpenReview https://openreview.net/forum?id=DvDOAtskXl

Journal ref Transactions on Machine Learning Research (2026)

A Survey of Agent Memory in the Second Half: Towards Self-Evolving and Long-Horizon Agents

重新思考基础智能体的内存机制：第二阶段综述

Wei-Chieh Huang, Weizhi Zhang, Yueqing Liang, Yuanchen Bei, Yankai Chen, Tao Feng, Xinyu Pan, Zhen Tan, Yu Wang, Tianxin Wei, Shanglin Wu, Ruiyao Xu, Liangwei Yang, Rui Yang, Wooseong Yang, Chin-Yuan Yeh, Hanrong Zhang, Haozhen Zhang, Siqi Zhu, Henry Peng Zou, Wanjia Zhao, Song Wang, Wujiang Xu, Zixuan Ke, Zheng Hui, Dawei Li, Yaozu Wu, Langzhou He, Chen Wang, Xiongxiao Xu, Baixiang Huang, Juntao Tan, Shelby Heinecke, Huan Wang, Caiming Xiong, Ahmed A. Metwally, Jun Yan, Chen-Yu Lee, Hanqing Zeng, Yinglong Xia, Xiaokai Wei, Ali Payani, Yu Wang, Haitong Ma, Wenya Wang, Chenguang Wang, Yu Zhang, Xin Eric Wang, Yongfeng Zhang, Jiaxuan You, Hanghang Tong, Xiao Luo, Xue Liu, Yizhou Sun, Wei Wang, Julian McAuley, James Zou, Jiawei Han, Philip S. Yu, Kai Shu

机构 * UIC（伊利诺伊大学香槟分校） ； IIT（伊利诺伊理工学院） ； UIUC（伊利诺伊大学厄巴纳-香槟分校） ； UW–Madison（威斯康星大学麦迪逊分校） ； ASU（亚利桑那州立大学） ； Emory（埃默里大学） ； Northwestern（西北大学） ； NTU（国立台湾大学） ； UCF（佛罗里达大学） ； Rutgers（新泽西罗格斯大学） ； Cambridge（剑桥大学） ； Harvard（哈佛大学） ； UTokyo（东京大学） ； UCSD（加州大学圣地亚哥分校） ； UCSC（加州大学圣塔克鲁斯分校） ； TAMU（德克萨斯大学奥斯汀分校） ； UCSB（加州大学圣塔芭芭拉分校） ； MBZUAI（马克斯·普朗克人工智能研究所） ； McGill（麦吉尔大学） ； UCLA（加州大学洛杉矶分校） ； Stanford（斯坦福大学） ； Salesforce ； Google（谷歌） ； Meta ； Roblox ； Cisco（思科） ； Capital One 纠错

AI总结 本文综述了基础智能体内存机制，从内存基质、认知机制和主体维度分析内存在不同拓扑结构下的实现，并探讨内存操作的学习策略与评估指标。

Comments Accepted at Transactions on Machine Learning Research (TMLR) with Survey Certification. Project page: https://github.com/AgentMemoryWorld/Awesome-Agent-Memory

Neural Diversity Regularizes Hallucinations in Language Models

神经多样性调节语言模型的幻觉

Kushal Chakrabarti, Nirmal Balachundhar

机构 * South Park Commons（南公园公馆） 纠错

AI总结 神经多样性通过解相关并行表示减少语言模型幻觉，结合LoRA适配器与Barlow Twins正则化，提升可靠性并保持准确性。

Journal ref Transactions on Machine Learning Research, 08/2026, ISSN 2835-8856

E$^2$M: Double Bounded $α$-Divergence Optimization for Tensor-based Discrete Density Estimation

E²M：基于张量的离散密度估计的双边界α-散度优化

Kazu Ghalamkari, Jesper Løve Hinrich, Morten Mørup

AI总结 E²M算法通过松弛优化与张量多体近似解决α-散度优化难题，实现多种低秩结构的灵活建模，在合成与真实数据集上展现出良好的收敛性、鲁棒性及密度估计性能。

Comments 53 pages, 14 figures

Journal ref Transactions on Machine Learning Research, 2026

GENERIC-FNO: Embedding Energy Conservation and Entropy Production into Fourier Neural Operators

GENERIC-FNO：将能量守恒和熵产生嵌入傅里叶神经算子

Jason Sulskis, Sathya Ravi

机构 * University of Illinois at Chicago（伊利诺伊大学芝加哥分校） ； Georgia Tech Research Institute（佐治亚理工学院研究所） 纠错

AI总结 提出GENERIC-FNO，首个在函数空间直接嵌入非平衡热力学完整GENERIC结构的神经算子，通过秩一投影精确满足退化条件，实现能量守恒与熵产生，在超分辨率下保持结构保证。

Comments Under review at TMLR

Toward Understanding the Transferability of Adversarial Suffixes in Large Language Models

面向大型语言模型中对抗性后缀的可迁移性理解

Sarah Ball, Niki Hasrati, Alexander Robey, Avi Schwarzschild, Frauke Kreuter, Zico Kolter, Andrej Risteski

机构 * Ludwig-Maximilians-Universität München（慕尼黑莱布尼茨-马克斯大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Maryland（马里兰大学） 纠错

AI总结 该研究针对大型语言模型的对抗性后缀可迁移性，分析出三个与迁移成功高度相关的统计属性，其成果可用于提升越狱攻击的实际效果。

Comments Accepted at TMLR 2026

NashPG: A Policy Gradient Method with Iteratively Refined Regularization for Finding Nash Equilibria

NashPG: 一种通过迭代细化正则化寻找纳什均衡的策略梯度方法

Eason Yu, Tzu Hao Liu, Clément L. Canonne, Yunke Wang, Chang Xu, Nguyen H. Tran, Stefano V. Albrecht

机构 * University of Sydney（悉尼大学） ； Nanyang Technological University（南洋理工大学） 纠错

AI总结 本文提出NashPG算法，通过在策略优化目标中直接引入正则化，解决了多智能体强化学习中两玩家零和不完全信息游戏寻找纳什均衡的挑战，实现了在经典基准游戏和大型领域中的高效收敛与高收益。

Comments Transactions on Machine Learning Research (TMLR), 2026

Foundation Models in Robotics: A Comprehensive Review of Methods, Models, Datasets, Challenges and Future Research Directions

机器人中的基础模型：方法、模型、数据集、挑战及未来研究方向的全面综述

Aggelos Psiris, Vasileios Argyriou, Evangelos K. Markakis, Panagiotis Sarigiannidis, Efstratios Gavves, Kostas Bekris, Arash Ajoudani, Georgios Th. Papadopoulos

机构 * Department of Informatics and Telematics, Harokopio University of Athens（信息与电信系，哈罗科比欧大学） 纠错

AI总结 本文综述了机器人中基础模型的发展，涵盖方法、模型、数据集、挑战及未来方向，分析了不同阶段的研究演变及关键方面。

Journal ref Transactions on Machine Learning Research (TMLR), 07/2026

TS-Reasoner: Aligning Time Series Foundation Models with LLM Reasoning

TS-Reasoner：将时间序列基础模型与大语言模型推理能力对齐

Fangxu Yu, Hongyu Zhao, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学学院公园分校） 纠错

AI总结 TS-Reasoner通过两阶段训练将时间序列基础模型与大语言模型对齐，在多个基准上性能优于同类模型且数据效率更高，解决了时间序列模型推理能力不足的问题。

Comments Accepted to Transactions on Machine Learning Research, 2026

CDG-MAE: Cross-view Masked Modeling using Diffusion Generated Views

CDG-MAE：基于扩散生成视图的跨视图掩码建模

Varun Belagali, Pierre Marza, Srikar Yellapragada, Zilinghan Li, Tarak Nath Nandi, Ravi K Madduri, Joel Saltz, Stergios Christodoulidis, Maria Vakalopoulou, Dimitris Samaras

机构 * Stony Brook University（石溪大学） ； MICS, CentraleSupélec, Université Paris-Saclay（MICS，CentraleSupélec，巴黎-萨克雷大学） ； Argonne National Laboratory（阿贡国家实验室） ； University of Chicago（芝加哥大学） ； Archimedes/Athena RC 纠错

AI总结 CDG-MAE是一种基于MAE的自监督方法，通过图像条件扩散模型生成多样化合成视图并采用多锚掩码策略，缩小了与基于视频的MAE方法的差距，同时保持仅图像MAE的数据优势。

Comments Accepted to TMLR 2026, Github link: https://github.com/cvlab-stonybrook/CDG-MAE

When Iterative RAG Beats Ideal Evidence: A Diagnostic Study in Scientific Multi-hop Question Answering

当迭代RAG优于理想证据：科学多跳问答中的诊断研究

Mahdi Astaraki, Mohammad Arshi Saloot, Ali Shiraee Kasmaee, Hamidreza Mahyar, Soheila Samiee

机构 * Faculty of Engineering, McMaster University, Canada（麦斯特大学工程学院，加拿大） ； BASF Canada Inc., Canada（巴斯夫加拿大公司，加拿大） 纠错

AI总结 通过化学多跳问答数据集，诊断发现迭代检索-推理循环在科学领域显著优于静态RAG上限，揭示了阶段式检索的优势与失败模式。

Comments 51 pages, 29 figures, Published in Transactions on Machine Learning Research (05/2026). OpenReview: https://openreview.net/forum?id=pa5TnBdyDP

Journal ref Transactions on Machine Learning Research (05/2026), ISSN 2835-8856

Accelerating SGDM via Learning Rate and Batch Size Schedules: A Lyapunov-Based Analysis

基于李雅普诺夫分析的学习率与批量大小调度加速SGDM

Yuichi Kondo, Hideaki Iiduka

机构 * Meiji University（明治大学） 纠错

AI总结 该研究基于李雅普诺夫分析扩展理论框架，研究SGDM在三种动态超参数调度下的收敛性，证明递增批量大小及同步递增批量与学习率可加速收敛，且动态调度SGDM及预热策略表现更优。

Comments Accepted at TMLR (Jul. 2026)

MEDIC: Comprehensive Evaluation of Leading Indicators for LLM Safety and Utility in Clinical Applications

MEDIC：对LLM在临床应用中的安全性和实用性领先指标的综合评估

Praveenkumar Kanithi, Clément Christophe, Marco AF Pimentel, Tathagata Raha, Prateek Munjal, Nada Saadi, Hamza A Javed, Svetlana Maslenkova, Nasir Hayat, Ronnie Rajan, Shadab Khan

机构 * M42 纠错

AI总结 MEDIC通过综合评估框架揭示LLM在临床应用中的安全性和实用性差异，强调需采用组合方法以应对多维度性能权衡。

Comments Published in Transactions on Machine Learning Research (06/2026)

ARC-Encoder: learning compressed text representations for large language models

ARC-Encoder：为大语言模型学习压缩文本表示

Hippolyte Pilchen, Edouard Grave, Patrick Pérez

机构 * Kyutai 纠错

AI总结 ARC-Encoder是可将文本压缩为原词元数1/4或1/8的编码器，适配多类LLM解码器，在提升推理效率的同时保持最优性能，为大语言模型提供灵活高效的上下文压缩方案。

Comments Featured Certification

Journal ref Transactions on Machine Learning Research 2026 (https://openreview.net/forum?id=lU1P9dsqfn)