TMLR

JE-IRT: A Geometric Lens on LLM Abilities through Joint Embedding Item Response Theory

JE-IRT: 通过联合嵌入项目反应理论审视LLM能力的几何视角

Louie Hong Yao, Nicholas Jarvis, Tiffany Zhan, Saptarshi Ghosh, Linfeng Liu, Tianyu Jiang

机构 * Independent Researcher（独立研究者） ； University of Cincinnati（辛辛那提大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 提出JE-IRT几何框架，将LLM和问题嵌入共享空间，通过方向编码语义、范数编码难度，揭示主题专长和分布外行为，支持新模型高效扩展，并发现与人类分类部分对齐的内部结构。

Comments 35 pages, 17 figures, 9 tables, accepted to TMLR

Random Erasing vs. Model Inversion: A Promising Defense or a False Hope?

随机擦除 vs. 模型反演：有希望的防御还是虚假的希望？

Viet-Hung Tran, Ngoc-Bao Nguyen, Son T. Mai, Hans Vandierendonck, Ira Assent, Alex Kot, Ngai-Man Cheung

机构 * Temasek Laboratories, Singapore University of Technology and Design（Temasek实验室，新加坡技术与设计大学） ； The Queen’s University Belfast（女王大学贝尔法斯特分校） ； Aarhus University（阿arhus大学） ； Nanyang Technological University (NTU)（南洋理工大学（NTU）；河内 Vin 大学） ； VinUniversity, Hanoi, Vietnam 纠错

AI总结 本文探索随机擦除（RE）作为防御模型反演攻击的方法，通过特征空间分析揭示其有效性，并在37种设置下实现隐私-效用权衡的最优性能。

Comments Accepted in Transactions on Machine Learning Research (TMLR). First two authors contributed equally

Imbalanced Semi-Supervised Learning via Label Refinement and Threshold Adjustment

通过标签精炼和阈值调整实现不平衡半监督学习

Zeju Li, Ying-Qiu Zheng, Chen Chen, Saad Jbabdi

机构 * College of Biomedical Engineering, Fudan University, Shanghai, China（复旦大学生物医学工程学院，上海，中国） ； FMRIB Centre, Oxford Centre for Integrative Neuroimaging (OxCIN), University of Oxford, Oxford, UK（牛津大学FMRIB研究中心，牛津大学整合神经影像中心（OxCIN），牛津，英国） ； School of Computer Science, University of Sheffield, Sheffield, UK（谢菲尔德大学计算机科学学院，谢菲尔德，英国） ； Department of Engineering Science, University of Oxford, Oxford, UK（牛津大学工程科学系，牛津，英国） 纠错

AI总结 针对半监督学习在类别不平衡数据上性能下降的问题，提出SEVAL框架，通过从类别平衡的子集学习标签精炼和阈值调整参数，联合优化生成更准确的伪标签，在多种不平衡场景下超越现有方法。

Comments Accepted by Transactions on Machine Learning Research

When the Tool Decides: LLM Agents Defer Blindly to Graph Neural Network Tools, and Stronger Backbones Defer More

当工具决定时：LLM代理盲目服从图神经网络工具，更强的骨干网络服从更多

Zhongyuan Wang, Pratyusha Vemuri

机构 * raptorX.ai 纠错

AI总结 研究LLM代理在使用GNN工具时是否真正判断而非盲目服从，发现代理在97.6-99.2%的情况下完全采纳GNN输出，且更强的骨干网络服从更多，选择性调用设计受限。

Comments 9 pages, 2 figures. Under review at TMLR

Structured Noise Adaptation for Sequential Bayesian Filtering with Embedded Latent Transfer Operators

基于嵌入潜传递算子的序贯贝叶斯滤波的结构化噪声自适应

Naichang Ke, Pongpisit Thanasutives, Yoshinobu Kawahara

机构 * The University of Osaka（大阪大学） ； RIKEN Center for Advanced Intelligence Project (AIP)（理化学研究所革新智能综合研究中心（AIP）） 纠错

AI总结 针对ELTO卡尔曼滤波器噪声模型无法适应非平稳过程的问题，提出结构化噪声参数化方法，结合最优时不变噪声学习与动态参数自适应，提升时变噪声环境下的状态估计性能。

Comments Accepted by TMLR

Concatenated Matrix SVD: Compression Bounds, Incremental Approximation, and Error-Constrained Clustering

拼接矩阵SVD：压缩界限、增量近似与误差约束聚类

Maksym Shamrai

机构 * Institute of Mathematics of NAS of Ukraine（乌克兰国家科学院数学研究所） ； MacPaw Research（MacPaw研究） 纠错

AI总结 针对拼接后截断SVD压缩中哪些矩阵可安全合并的问题，提出基于谱界和增量SVD的聚类框架，实现显式误差约束下的压缩感知矩阵分组。

Comments Published in Transactions on Machine Learning Research (06/2026)

Journal ref Transactions on Machine Learning Research (2026)

A Unified Theory of Sinusoidal Activation Families for Implicit Neural Representations

隐式神经表示的正弦激活函数族统一理论

Alireza Morsali, MohammadJavad Vaez, Mohammadhossein Soltani, Amirhossein Kazerouni, Babak Taati, Morteza Mohammad-Noori

机构 * McGill University（麦吉尔大学） ； University of Melbourne（墨尔本大学） ； ARC Centre of Excellence for the Mathematical Analysis of Cellular Systems (MACSYS)（细胞系统数学分析卓越中心（MACSYS）） ； University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； University Health Network（大学健康网络） ； University of Tehran（塔里斯坦大学） 纠错

AI总结 提出STAF框架，通过可学习振幅、频率和相位的傅里叶式激活函数，理论分析其表达能力、NTK谱变化及初始化，实验证明在图像、音频、形状、逆问题和NeRF任务中优于或匹敌现有方法。

Comments Published in TMLR

Hard-Negative Sampling for Contrastive Learning: Optimal Representation Geometry and Neural- vs Dimensional-Collapse

对比学习中的硬负样本：最优表示几何与神经折叠与维度折叠

Ruijie Jiang, Thuan Nguyen, Shuchin Aeron, Prakash Ishwar

机构 * Department of Electrical Engineering, Tufts University（Tufts大学电气工程系） ； Department of Engineering, Engineering Technology, East Tennessee State University（东田纳西州立大学工程系） ； Department of Electrical and Computer Engineering, Boston University（波士顿大学电气与计算机工程系） 纠错

AI总结 本文证明了在对比学习中，SCL、HSCL和UCL的损失最小化需要神经折叠几何，且HSCL和HUCL损失下界不低于SCL和UCL。同时，通过随机初始化和合适难度级别，Adam优化可收敛至神经折叠几何，而无硬负样本或特征归一化则会导致维度折叠。

Comments Final version: Reviewed and accepted to TMLR April 2025. Updated exposition, Added analysis of lower bounds

Journal ref Transactions on Machine Learning Research, 2025

ARROW: Augmented Replay for RObust World models

ARROW：增强重放用于鲁棒世界模型

Abdulaziz Alyahya, Abdallah Al Siyabi, Markus R. Ernst, Luke Yang, Levin Kuhlmann, Gideon Kowadlo

机构 * Imam Mohammad Ibn Saud Islamic University (IMSIU)（伊玛姆·穆罕默德·本·沙特伊斯兰大学） ； Monash University（莫纳什大学） ； University of New South Wales, Sydney（新南威尔士大学，悉尼） ； Cerenaut 纠错

AI总结 本文提出ARROW算法，一种基于模型的持续强化学习方法，通过高效的重放缓冲区减少灾难性遗忘，提升在无共享结构任务和有共享结构任务中的表现。

Comments 36 pages and 11 figures (includes Appendix)

Journal ref Transactions on Machine Learning Research, 2026

Improving Detection of Rare Nodes in Hierarchical Multi-Label Learning

改进分层多标签学习中稀有节点的检测

Isaac Xu, Martin Gillis, Ayushi Sharma, Benjamin Misiuk, Craig J. Brown, Thomas Trappenberg

机构 * Faculty of Computer Science（计算机科学学院） ； Dalhousie University（达尔豪斯大学） ； Department of Geography（地理系） ； Memorial University of Newfoundland（纽芬兰纪念大学） ； Department of Oceanography（海洋学系） 纠错

AI总结 针对分层多标签分类中稀有节点检测困难的问题，提出结合节点不平衡加权和焦点加权的损失函数，利用集成不确定性量化，在基准数据集上将召回率提升至五倍，并显著提高F1分数。

Comments Accepted for publication in Transactions on Machine Learning Research (TMLR), 2026

A Survey on Evaluating Quality and Trustworthiness in LLM-Generated Data

评估LLM生成数据的质量与可信度综述

Kaituo Zhang, Mingzhi Hu, Hoang Anh Duy Le, Fariha Kabir Torsha, Zhimeng Jiang, Minh Khai Bui, Chia-Yuan Chang, Yu-Neng Chuang, Zhen Xiong, Ying Lin, Guanchu Wang, Na Zou

机构 * University of Houston（德克萨斯大学休斯敦分校） ； Worcester Polytechnic Institute（沃思利理工学院） ； Rice University（里德大学） ； Texas A&M University（德克萨斯农工大学） ； University of Wisconsin - Madison（威斯康星大学麦迪逊分校） ； University of Southern California（南加州大学） ； University of North Carolina at Charlotte（北卡罗来纳州立大学夏洛特分校） 纠错

AI总结 提出LLM数据审计框架，从质量和可信度两个维度系统分类评估指标，分析六种模态数据生成方法的评估缺陷并给出改进建议。

Comments Published at TMLR. Title changed in the final version

Journal ref Transactions on Machine Learning Research, 2026

A Survey of Reasoning and Agentic Systems in Time Series with Large Language Models

时间序列中基于大语言模型的推理与智能体系统综述

Ching Chang, Yidan Shi, Defu Cao, Wei Yang, Jeehyun Hwang, Haixin Wang, Jiacheng Pang, Wei Wang, Yan Liu, Wen-Chih Peng, Tien-Fu Chen

机构 * University of California, Los Angeles（加州大学洛杉矶分校） ； University of Southern California（南加州大学） ； National Yang Ming Chiao Tung University（阳明交通大学） 纠错

AI总结 本文定义时间序列推理问题，按推理拓扑分为直接、线性链和分支结构三类，结合传统分析、解释、因果推断和生成等目标，综述方法、系统、数据集和评估实践，并指导拓扑选择与部署权衡。

Comments Accepted to Transactions on Machine Learning Research (TMLR)

Diffusion-based Cumulative Adversarial Purification for Vision Language Models

基于扩散的累积对抗净化方法用于视觉语言模型

Jia Fu, Yongtao Wu, Yihang Chen, Kunyu Peng, Xiao Zhang, Volkan Cevher, Sepideh Pashami, Anders Holst

机构 * KTH Royal Institute of Technology（皇家理工学院） ； Swiss Federal Institute of Technology Lausanne（洛桑联邦理工学院） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院） ； CISPA Helmholtz Center for Information Security（信息安全赫尔姆霍兹中心） ； RISE Research Institutes of Sweden（瑞典RISE研究机构） ； Halmstad University（哈马碧大学） 纠错

AI总结 提出DiffCAP，一种基于扩散的对抗净化策略，通过理论证明对抗效应随扩散单调衰减，并利用噪声注入与VLM嵌入相似度阈值自适应净化，显著提升防御效果并加速去噪。

Comments Accepted to Transactions on Machine Learning Research (TMLR 2026)

Mitigating Disparate Impact of Differentially Private Learning through Bounded Adaptive Clipping

通过有界自适应裁剪减轻差分隐私学习中的差异影响

Linzh Zhao, Aki Rehn, Mikko A. Heikkilä, Razane Tajeddine, Antti Honkela

机构 * Department of Computer Science, University of Helsinki（计算机科学系，赫尔辛基大学） ； Department of Electrical and Computer Engineering, American University of Beirut（电气与计算机工程系，贝鲁特美国大学） 纠错

AI总结 针对差分隐私学习中梯度裁剪对少数群体造成的不公平影响，提出有界自适应裁剪方法，通过引入可调下界防止过度梯度抑制，在Skewed和Fashion MNIST上最差类准确率提升超过10个百分点。

Comments TMLR camera-ready version

Cost-Aware Routing for Efficient Text-To-Image Generation

面向文本到图像生成的高效路由：成本感知方法

Qinchan Li, Kenneth Chen, Changyue Su, Wittawat Jitkrittum, Qi Sun, Patsorn Sangkloy

机构 * Tandon School of Engineering, New York University（纽约大学Tandon工程学院） ； Google（谷歌） ； Eigen 4D Inc.（Eigen 4D公司） 纠错

AI总结 提出成本感知路由框架，根据提示复杂度自动选择不同去噪步数或模型，在保证高质量的同时降低计算成本，优于单一模型。

Comments Accepted by TMLR

Visual-TCAV: Concept-based Attribution and Saliency Maps for Post-hoc Explainability in Image Classification

Visual-TCAV：用于图像分类事后可解释性的基于概念的归因和显著性图

Antonio De Santis, Riccardo Campi, Matteo Bianchi, Marco Brambilla

机构 * Politecnico di Milano（米兰理工大学） 纠错

AI总结 提出Visual-TCAV框架，结合概念激活向量和积分梯度，生成类无关显著性图并估计概念归因，在受控实验中比TCAV更忠实于真实解释。

Comments Accepted in TMLR

Theoretical Foundations of Continual Learning via Drift-Plus-Penalty

基于漂移加惩罚的持续学习的理论基础

Nazreen Shah, Govinda Arya, Bharath B. N., Ranjitha Prasad

机构 * IIIT Delhi（德里印度理工学院） ； IIT Dharwad（达尔瓦德印度理工学院） 纠错

AI总结 提出COLD框架，利用漂移加惩罚原理调节稳定性-可塑性权衡，通过虚拟队列控制遗忘，理论保证收敛性，实验优于现有方法。

Comments Accepted to Transactions on Machine Learning Research (TMLR)

Learning Fine-grained Parameter Sharing via Sparse Tensor Decomposition

通过稀疏张量分解学习细粒度参数共享

Cem Üyük, Mike Lasby, Mohamed Yassin, Utku Evci, Yani Ioannou

机构 * Department of Computer Science, Technical University of Munich（计算机科学系，慕尼黑技术大学） ； Schulich School of Engineering, University of Calgary（工程学院，卡尔加里大学） ； Google DeepMind, Canada（加拿大谷歌深Mind） 纠错

AI总结 提出FiPS框架，通过跨块参数共享、低秩分解和稀疏性联合优化，压缩Transformer MLP，在ViT和LLM上实现高效压缩且性能损失小。

Comments Accepted as is to Transactions on Machine Learning Research (TMLR), 2026. OpenReview: https://openreview.net/forum?id=vbS7Z8Zswe

Decomposable Neuro Symbolic Regression

可分解的神经符号回归

Giorgio Morales, John W. Sheppard

机构 * Gianforte School of Computing（吉安福特计算学院） ； Montana State University（蒙塔纳州立大学） 纠错

AI总结 本文提出一种可解释的神经符号回归方法，利用Transformer、遗传算法和遗传编程生成可解释的多元表达式，通过多集合Transformer生成单变量符号骨架，并通过GA和GP融合优化，实现比其他方法更准确的数学表达。

Comments Under review as submission to TMLR

Cropping outperforms dropout as an augmentation strategy for self-supervised training of text embeddings

裁剪优于dropout作为自监督训练文本嵌入的增强策略

Rita González-Márquez, Philipp Berens, Dmitry Kobak

机构 * Hertie Institute for AI in Brain Health（人工智能与脑健康赫尔蒂研究所） ； University of Tübingen（图宾根大学） ； University of Tübingen, Germany（德国图宾根大学） 纠错

AI总结 本文研究了自监督微调中裁剪和dropout两种增强策略，发现裁剪在文本嵌入质量上表现更优，尤其在领域内数据中能快速生成高质量嵌入。

Journal ref Transactions on Machine Learning Research (TMLR) 2026

DREAMS: Preserving both Local and Global Structure in Dimensionality Reduction

DREAMS: 在降维中保持局部和全局结构

Noël Kury, Dmitry Kobak, Sebastian Damrich

机构 * Hertie Institute for AI in Brain Health（人工智能与脑健康赫尔蒂研究所） ； University of Tübingen（图宾根大学） ； University of Tübingen, Germany（德国图宾根大学） 纠错

AI总结 DREAMS结合t-SNE和PCA的局部和全局结构保持，通过简单正则化项生成多种嵌入，平衡局部和全局结构。

Comments Transactions on Machine Learning Research (2026)

Journal ref Transactions on Machine Learning Research (TMLR) 2026

Node Embeddings via Neighbor Embeddings

通过邻居嵌入进行节点嵌入

Jan Niklas Böhm, Marius Keute, Alica Guzmán, Sebastian Damrich, Andrew Draganov, Dmitry Kobak

机构 * Hertie AI, University of Tübingen, Germany（赫尔特人工智能研究所、图宾根大学，德国） ； Department of Computer Science, Aarhus University, Denmark（计算机科学系，奥胡斯大学，丹麦） 纠错

AI总结 本文提出图邻居嵌入框架，无需随机游走即可直接整合相邻节点的嵌入向量，优于现有节点嵌入算法，在局部结构保持方面表现突出，并应用于2D节点嵌入问题，获得优于现有图布局算法的t-SNE布局。

Comments Accepted to Transactions of Machine Learning Research (TMLR)

Journal ref Transactions on Machine Learning Research (TMLR) 2025

LARP: Learner-Agnostic Robust Data Prefiltering

LARP: 学习者无关的鲁棒数据预过滤

Kristian Minchev, Dimitar I. Dimitrov, Nikola Konstantinov

机构 * INSAIT, Sofia University "St. Kliment Ohridski"（INSAIT，索菲亚大学‘圣克莱门特·奥赫里德斯基’） 纠错

AI总结 提出LARP框架，通过预过滤程序保护多种下游学习器性能，理论证明可行性并分析性能损失，实验评估了图像和表格任务中的代价。

Comments Published in Transactions on Machine Learning Research (06/2026). URL: https://openreview.net/forum?id=gI6VOV3jfO

Modeling Stochastic Conditional Dynamics from Sparse Observations via Kernel-Stabilized Flow Matching

通过核稳定流匹配从稀疏观测中建模随机条件动力学

Adam P. Generale, Andreas E. Robertson, Surya R. Kalidindi

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Sandia National Laboratories（桑地亚国家实验室） 纠错

AI总结 提出条件变量流匹配（CVFM）框架，通过联合采样状态和条件变量流，利用条件不匹配核和Wasserstein距离重加权目标，从稀疏非配对数据中学习条件分布的时间演化，在材料结构建模中表现更优。

Comments Accepted to Transactions on Machine Learning Research (2026); OpenReview: https://openreview.net/forum?id=3A6oAS2TWo

Journal ref Transactions on Machine Learning Research, 2026

Federated Learning with Uncertainty and Personalization via Efficient Second-order Optimization

基于高效二阶优化的联邦学习中的不确定性与个性化

Shivam Pal, Aishwarya Gupta, Saqib Sarwar, Piyush Rai

机构 * Department of Computer Science and Engineering, IIT Kanpur, India（计算机科学与工程系，印度IIT坎pur） 纠错

AI总结 本文提出一种高效的联邦学习方法，利用二阶优化减少计算和通信成本，同时保留贝叶斯方法的不确定性与个性化优势。

Journal ref Transactions on Machine Learning Research (TMLR), 2025

Perplexity Can Miss SAE Feature Damage Under Quantization

量化如何改变可解释特征：语言模型的稀疏自编码器分析

Evan Duan

机构 * University of Michigan（密歇根大学） 纠错

AI总结 通过稀疏自编码器分析，发现量化导致语言模型中的可解释特征逐渐退化，且任务指标无法完全反映这种损伤，量化与幅度剪枝共享相似的损伤模式。

Comments 12 Pages of Content, Submitted to TMLR

CacheFlow: Fast Human Motion Prediction by Cached Normalizing Flow

CacheFlow: 通过缓存归一化流实现快速的人体运动预测

Takahiro Maeda, Jinkun Cao, Norimichi Ukita, Kris Kitani

机构 * Toyota Technological Institute（丰田技术研究所） ； Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所） 纠错

AI总结 CacheFlow通过缓存归一化流生成模型，实现快速3D人体运动预测，相比传统方法速度提升显著，且保持预测精度和模型表达能力。

Comments Accepted at Transactions on Machine Learning Research (TMLR). See https://openreview.net/forum?id=icq5659pQt

Journal ref Transactions on Machine Learning Research, 2026

Twin: Tuning Learning Rate and Weight Decay of Deep Homogeneous Classifiers without Validation

Twin: 无需验证的深度同质分类器学习率和权重衰减调优

Lorenzo Brigato, Stavroula Mougiakakou

机构 * ARTORG Center, University of Bern（伯恩大学ARTORG中心） 纠错

AI总结 提出Twin方法，利用同质网络的边界最大化动态和训练-测试损失间的经验缩放定律，实现无需验证集的学习率和权重衰减调优，在37个图像分类配置上达到与Oracle基线1.28%的平均绝对误差。

Comments Accepted at TMLR

Symmetric Divergence and Normalized Similarity: A Unified Topological Framework for Representation Analysis

对称散度与归一化相似性：表示分析的统一拓扑框架

Yan Wang, Tianyang Hu

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen（数据科学学院，香港中文大学（深圳）） 纠错

AI总结 提出对称表示拓扑散度（SRTD）和归一化拓扑相似性（NTS），分别解决现有拓扑散度的非对称性和无界性问题，实现细粒度结构诊断与跨场景标准化评估。

Comments Accepted by TMLR

MSTN: A Lightweight and Fast Model for General TimeSeries Analysis

MSTN: 一种轻量且快速的通用时间序列分析模型

Sumit S Shevtekar, Chandresh K Maurya

机构 * Department of Computer Science and Engineering（计算机科学与工程系） ； Indian Institute of Technology Indore（印度理工学院印度尔） 纠错

AI总结 本文提出了一种轻量且快速的MSTN模型，通过多尺度时间网络架构，结合早期内部聚合原理，有效处理时间序列中的非平稳性、非线性动态和多时间尺度行为，实现了在多个时间尺度上的灵活建模，同时保持了模型的轻量级和低延迟特性。

Comments 30 pages, published in Transactions on Machine Learning Research (TMLR)