TMLR

Theoretical Foundations of Continual Learning via Drift-Plus-Penalty

基于漂移加惩罚的持续学习的理论基础

Nazreen Shah, Govinda Arya, Bharath B. N., Ranjitha Prasad

机构 * IIIT Delhi（德里印度理工学院） ； IIT Dharwad（达尔瓦德印度理工学院） 纠错

AI总结 提出COLD框架，利用漂移加惩罚原理调节稳定性-可塑性权衡，通过虚拟队列控制遗忘，理论保证收敛性，实验优于现有方法。

Comments Accepted to Transactions on Machine Learning Research (TMLR)

Learning Fine-grained Parameter Sharing via Sparse Tensor Decomposition

通过稀疏张量分解学习细粒度参数共享

Cem Üyük, Mike Lasby, Mohamed Yassin, Utku Evci, Yani Ioannou

机构 * Department of Computer Science, Technical University of Munich（计算机科学系，慕尼黑技术大学） ； Schulich School of Engineering, University of Calgary（工程学院，卡尔加里大学） ； Google DeepMind, Canada（加拿大谷歌深Mind） 纠错

AI总结 提出FiPS框架，通过跨块参数共享、低秩分解和稀疏性联合优化，压缩Transformer MLP，在ViT和LLM上实现高效压缩且性能损失小。

Comments Accepted as is to Transactions on Machine Learning Research (TMLR), 2026. OpenReview: https://openreview.net/forum?id=vbS7Z8Zswe

Decomposable Neuro Symbolic Regression

可分解的神经符号回归

Giorgio Morales, John W. Sheppard

机构 * Gianforte School of Computing（吉安福特计算学院） ； Montana State University（蒙塔纳州立大学） 纠错

AI总结 本文提出一种可解释的神经符号回归方法，利用Transformer、遗传算法和遗传编程生成可解释的多元表达式，通过多集合Transformer生成单变量符号骨架，并通过GA和GP融合优化，实现比其他方法更准确的数学表达。

Comments Under review as submission to TMLR

Cropping outperforms dropout as an augmentation strategy for self-supervised training of text embeddings

裁剪优于dropout作为自监督训练文本嵌入的增强策略

Rita González-Márquez, Philipp Berens, Dmitry Kobak

机构 * Hertie Institute for AI in Brain Health（人工智能与脑健康赫尔蒂研究所） ； University of Tübingen（图宾根大学） ； University of Tübingen, Germany（德国图宾根大学） 纠错

AI总结 本文研究了自监督微调中裁剪和dropout两种增强策略，发现裁剪在文本嵌入质量上表现更优，尤其在领域内数据中能快速生成高质量嵌入。

Journal ref Transactions on Machine Learning Research (TMLR) 2026

DREAMS: Preserving both Local and Global Structure in Dimensionality Reduction

DREAMS: 在降维中保持局部和全局结构

Noël Kury, Dmitry Kobak, Sebastian Damrich

机构 * Hertie Institute for AI in Brain Health（人工智能与脑健康赫尔蒂研究所） ； University of Tübingen（图宾根大学） ； University of Tübingen, Germany（德国图宾根大学） 纠错

AI总结 DREAMS结合t-SNE和PCA的局部和全局结构保持，通过简单正则化项生成多种嵌入，平衡局部和全局结构。

Comments Transactions on Machine Learning Research (2026)

Journal ref Transactions on Machine Learning Research (TMLR) 2026

Node Embeddings via Neighbor Embeddings

通过邻居嵌入进行节点嵌入

Jan Niklas Böhm, Marius Keute, Alica Guzmán, Sebastian Damrich, Andrew Draganov, Dmitry Kobak

机构 * Hertie AI, University of Tübingen, Germany（赫尔特人工智能研究所、图宾根大学，德国） ； Department of Computer Science, Aarhus University, Denmark（计算机科学系，奥胡斯大学，丹麦） 纠错

AI总结 本文提出图邻居嵌入框架，无需随机游走即可直接整合相邻节点的嵌入向量，优于现有节点嵌入算法，在局部结构保持方面表现突出，并应用于2D节点嵌入问题，获得优于现有图布局算法的t-SNE布局。

Comments Accepted to Transactions of Machine Learning Research (TMLR)

Journal ref Transactions on Machine Learning Research (TMLR) 2025

LARP: Learner-Agnostic Robust Data Prefiltering

LARP: 学习者无关的鲁棒数据预过滤

Kristian Minchev, Dimitar I. Dimitrov, Nikola Konstantinov

机构 * INSAIT, Sofia University "St. Kliment Ohridski"（INSAIT，索菲亚大学‘圣克莱门特·奥赫里德斯基’） 纠错

AI总结 提出LARP框架，通过预过滤程序保护多种下游学习器性能，理论证明可行性并分析性能损失，实验评估了图像和表格任务中的代价。

Comments Published in Transactions on Machine Learning Research (06/2026). URL: https://openreview.net/forum?id=gI6VOV3jfO

Modeling Stochastic Conditional Dynamics from Sparse Observations via Kernel-Stabilized Flow Matching

通过核稳定流匹配从稀疏观测中建模随机条件动力学

Adam P. Generale, Andreas E. Robertson, Surya R. Kalidindi

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Sandia National Laboratories（桑地亚国家实验室） 纠错

AI总结 提出条件变量流匹配（CVFM）框架，通过联合采样状态和条件变量流，利用条件不匹配核和Wasserstein距离重加权目标，从稀疏非配对数据中学习条件分布的时间演化，在材料结构建模中表现更优。

Comments Accepted to Transactions on Machine Learning Research (2026); OpenReview: https://openreview.net/forum?id=3A6oAS2TWo

Journal ref Transactions on Machine Learning Research, 2026

Federated Learning with Uncertainty and Personalization via Efficient Second-order Optimization

基于高效二阶优化的联邦学习中的不确定性与个性化

Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

机构 * Department of Computer Science and Engineering, IIT Kanpur, India（计算机科学与工程系，印度IIT坎pur） 纠错

AI总结 本文提出一种高效的联邦学习方法，利用二阶优化减少计算和通信成本，同时保留贝叶斯方法的不确定性与个性化优势。

Journal ref Transactions on Machine Learning Research (TMLR), 2025