JMLR

The Sample Complexity of Parameter-Free Stochastic Convex Optimization

无参数随机凸优化的样本复杂度

Jared Lawrence, Ari Kalinsky, Hannah Bradfield, Yair Carmon, Oliver Hinder

机构 * Department of Industrial Engineering, University of Pittsburgh（工业工程系，匹兹堡大学） ； Department of Computer Science, Tel Aviv University（计算机科学系，特拉维夫大学） 纠错

AI总结 研究未知问题参数（如到最优点的距离和Lipschitz常数）下随机凸优化的样本复杂度，提出可靠模型选择方法和正则化方法，实现最优样本复杂度并避免过拟合。

Comments Accepted for publication in JMLR

Investigating the Histogram Loss in Regression

探究回归中的直方图损失

Ehsan Imani, Kai Luedemann, Sam Scholnick-Hughes, Esraa Elelimy, Martha White

机构 * Alberta Machine Intelligence Institute (Amii) and Reinforcement Learning and Artificial Intelligence Laboratory（阿尔伯塔机器智能研究所（Amii）和强化学习与人工智能实验室） ； Department of Computing Science, University of Alberta（计算科学系，阿尔伯塔大学） ； University of Tübingen（图宾根大学） ； Zuse School ELIZA（祖斯学校ELIZA） 纠错

AI总结 本文通过理论和实验分析，探究直方图损失在回归任务中提升性能的原因，发现其优势源于优化改进而非额外信息建模，并在常见深度学习应用中验证其有效性。

Comments 52 pages

Journal ref JMLR,2026

FLAGG: Flexible Autoregressive Graph Generation

FLAGG：灵活自回归图生成

Samuel Cognolato, Alessandro Sperduti, Luciano Serafini

机构 * Department of Mathematics, University of Padova（帕多瓦大学数学系） ； Fondazione Bruno Kessler (FBK)（布鲁诺·克瑟研究所） ； Department of Information Engineering and Computer Science, University of Trento（特伦托大学信息工程与计算机科学系） 纠错

AI总结 提出FLAGG框架，通过将一次性模型与自回归顺序生成相结合，灵活处理不同规模和拓扑的图生成任务，在多个数据集上优于纯一次性或纯自回归基线。

Comments Accepted for publication at JMLR, currently in press

Accelerated Alternating Projections for Robust Principal Component Analysis

加速交替投影用于鲁棒主成分分析

HanQin Cai, Jian-Feng Cai, Ke Wei

机构 * Department of Mathematics, University of California, Los Angeles（加州大学洛杉矶分校数学系） ； Department of Mathematics, Hong Kong University of Science and Technology（香港理工大学数学系） ； School of Data Science, Fudan University（复旦大学数据科学学院） 纠错

AI总结 本文提出了一种加速交替投影算法，用于鲁棒主成分分析，显著提高了现有交替投影方法在更新低秩因子时的计算效率，并证明了该算法的精确恢复保证和线性收敛性。

Journal ref Journal of Machine Learning Research, 20 (2019): 685-717

Deep Reinforcement Learning for Swarm Systems

深度强化学习用于群体系统

Maximilian Hüttenrauch, Adrian Šošić, Gerhard Neumann

机构 * L-CAS University of Lincoln（L-CAS林肯大学） ； Technische Universität Darmstadt（达姆施塔特技术大学） 纠错

AI总结 本文提出了一种基于分布均嵌入的新状态表示方法，用于深度多智能体强化学习，以更有效地处理大规模同质群体系统的去中心化决策问题。

Comments 31 pages, 12 figures, version 3 (published in JMLR Volume 20)

Journal ref Journal of Machine Learning Research 20(54):1-31, 2019

A Bootstrap Method for Error Estimation in Randomized Matrix Multiplication

一种用于随机矩阵乘法误差估计的自助法

Miles E. Lopes, Shusen Wang, Michael W. Mahoney

机构 * Department of Statistics University of California at Davis（加州大学戴维斯分校统计学系） ； Department of Computer Science Stevens Institute of Technology（史蒂文斯理工学院计算机科学系） ； International Computer Science Institute and Department of Statistics University of California at Berkeley（伯克利大学国际计算机科学研究所和统计学系） 纠错

AI总结 本文提出了一种自助方法，用于直接估计随机矩阵乘法（降维）的准确性，作为解决一般问题的原型设置。该方法在计算上不显著增加标准降维方法的成本，并通过插值技术实现，同时提供了理论和实证结果以证明其有效性。

Journal ref Journal of Machine Learning Research, 20(39): 1-40, 2019

Inverse Reinforcement Learning via Nonparametric Spatio-Temporal Subgoal Modeling

通过非参数时空子目标建模实现逆强化学习

Adrian Šošić, Elmar Rueckert, Jan Peters, Abdelhak M. Zoubir, Heinz Koeppl

机构 * Signal Processing Group（信号处理组） ； Institute for Robotics and Cognitive Systems（机器人与认知系统研究所） ； Autonomous Systems Labs（自主系统实验室） ； Bioinspired Communication Systems（生物启发通信系统） 纠错

AI总结 本文提出了一种基于非参数时空子目标建模的逆强化学习方法，通过局部上下文更高效地解释单条轨迹，实现更紧凑的行为表示，并构建隐式意图模型以预测未观察到的情况，从而在处理意图变化和主动学习场景中表现出色。

Comments 45 pages, 14 figures; ### Version 3 ### published in the Journal of Machine Learning Research

Sketched Ridge Regression: Optimization Perspective, Statistical Perspective, and Model Averaging

草图岭回归：优化视角、统计视角和模型平均

Shusen Wang, Alex Gittens, Michael W. Mahoney

机构 * International Computer Science Institute and Department of Statistics University of California at Berkeley（国际计算机科学研究所和统计学系加州大学伯克利分校） ； Computer Science Department Rensselaer Polytechnic Institute（计算机科学系拉特格斯理工学院） 纠错

AI总结 本文从优化和统计角度研究了草图和Hessian草图在矩阵岭回归中的影响，发现经典草图能近似最优解，而Hessian草图则不同。通过理论和实验表明，模型平均可显著降低真实与草图解间的风险差距。

Comments To appear in Journal of Machine Learning Research, 2018. A short version has appeared in International Conference on Machine Learning (ICML), 2017

Journal ref Journal of Machine Learning Research, 19, pp1-50, 2018

A variational approach to path estimation and parameter inference of hidden diffusion processes

隐扩散过程路径估计与参数推断的变分方法

Tobias Sutter, Arnab Ganguly, Heinz Koeppl

AI总结 本文提出一种变分方法，用于估计隐扩散过程的路径并推断参数，通过高效推理方案提升对随机微分方程参数的估计精度。

Comments 37 pages, 2 figures, revised

Journal ref JMLR, volume 17, number 190, year 2016

A Bounded $p$-norm Approximation of Max-Convolution for Sub-Quadratic Bayesian Inference on Additive Factors

具有 bounded p-范数的 max-卷积近似用于亚二次贝叶斯推理在加法因子上

Julianus Pfeuffer, Oliver Serang

AI总结 本文提出两种基于 p-范数快速卷积的数值稳定方法，用于近似 max-卷积，从而将隐马尔可夫模型中 Toeplitz 转移矩阵的 Viterbi 路径近似时间从 O(nk²) 降低到 O(nk logk)。

Journal ref Journal of Machine Learning Research 17 (2016) 1-39

Spectral Compressed Sensing via Structured Matrix Completion

通过结构矩阵补全的谱压缩感知

Yuxin Chen, Yuejie Chi

AI总结 本文提出基于结构矩阵补全的增强矩阵补全算法，用于从少量时域样本中恢复谱稀疏对象，通过核范数最小化实现完美恢复，且在信息理论极限附近具有鲁棒性和超分辨率应用能力。

Comments accepted to International Conference on Machine Learning (ICML 2013)

Journal ref Journal of Machine Learning Research, W&CP 28 (3) :414-422, 2013

Probabilistic Solutions to Differential Equations and their Application to Riemannian Statistics

微分方程的概率解及其在黎曼统计学中的应用

Philipp Hennig, Søren Hauberg

AI总结 本文提出一种概率数值方法，用于求解初值和边界值问题，返回解的高斯过程后验。该方法在黎曼流形统计中具有应用价值，能处理非解析常微分方程，通过不确定性边际化提升统计鲁棒性，提出新的黎曼算法和主地理分析方法。

Comments 11 page (9 page conference paper, plus supplements)

Journal ref Proceedings of the 17th International Conference on Artificial Intelligence and Statistics (AISTATS) 2014, Reykjavik, Iceland. Journal of Machine Learning Research: W&CP volume 33

Sample Complexity and Decision-Theoretic Guarantees for Bayesian Model Averaging over Decision Trees with Catalan-Exponential Priors

基于Catalan指数先验的决策树贝叶斯模型平均的样本复杂度和决策理论保证

Livija Jakaite, Vitaly Schetinin

机构 * School of Computing and Engineering University of Bedfordshire, Luton, UK（计算与工程学院贝德福德郡大学，卢顿，英国） 纠错

AI总结 针对具有Dirichlet-Multinomial叶模型和Catalan指数树大小先验的贝叶斯决策树，建立了理性承诺阈值的完整非渐近理论，回答了贝叶斯模型平均权重何时蕴含足够认知信息以证明对平均分布的承诺利用是合理的。

Comments 22 pages, 3 figures, Submitted to the Journal of Machine Learning Research

Greedy Feature Selection for Subspace Clustering

子空间聚类的贪婪特征选择

Eva L. Dyer, Aswin C. Sankaranarayanan, Richard G. Baraniuk

AI总结 本文研究使用贪婪方法（正交匹配追踪）进行子空间聚类的精确特征选择，并证明其在稀疏采样条件下优于最近邻方法。

Comments 32 pages, 7 figures, 1 table

Journal ref Journal of Machine Learning Research, Vol.14, Issue 1, pp. 2487-2517, January 2013

Tensor decompositions for learning latent variable models

用于学习潜变量模型的张量分解

Anima Anandkumar, Rong Ge, Daniel Hsu, Sham M. Kakade, Matus Telgarsky

AI总结 本文利用低阶可观测矩的张量结构，通过对称张量分解（类似矩阵SVD的推广）实现高斯混合模型、隐马尔可夫模型等潜变量模型的参数估计，并提供了鲁棒张量幂法的详细分析。

Journal ref Journal of Machine Learning Research, 15(Aug):2773-2832, 2014

Improving CUR Matrix Decomposition and the Nyström Approximation via Adaptive Sampling

通过自适应采样改进CUR矩阵分解和Nyström近似

Shusen Wang, Zhihua Zhang

AI总结 本文通过建立自适应列/行采样算法的更一般误差界，提出了具有预期相对误差界的更精确CUR和Nyström算法，并给出了标准Nyström方法和集成Nyström方法的低误差界理论分析。

Journal ref Journal of Machine Learning Research, 14: 2549-2589, 2013

Greedy Sparsity-Constrained Optimization

贪婪稀疏约束优化

Sohail Bahmani, Bhiksha Raj, Petros Boufounos

AI总结 提出一种贪婪算法GraSP，用于近似任意形式代价函数的稀疏最小值，并在代价函数满足稳定受限Hessian或稳定受限线性化时保证收敛到真稀疏最优解的有界距离内。

Journal ref Journal of Machine Learning Research, 14(3):807--841, 2013

Sparse and Unique Nonnegative Matrix Factorization Through Data Preprocessing

通过数据预处理实现稀疏且唯一的非负矩阵分解

Nicolas Gillis

AI总结 本文提出一种基于数据预处理的非负矩阵分解方法，利用M-矩阵理论和几何解释，在可分离性假设下得到稀疏且唯一的最优解。

Comments 34 pages, 11 figures

Journal ref Journal of Machine Learning Research 13 (Nov), pp. 3349-3386, 2012

MahNMF: Manhattan Non-negative Matrix Factorization

MahNMF: 曼哈顿非负矩阵分解

Naiyang Guan, Dacheng Tao, Zhigang Luo, John Shawe-Taylor

AI总结 针对重尾噪声和异常值问题，提出基于曼哈顿距离的MahNMF模型，并开发了秩一残差迭代和Nesterov平滑两种快速优化算法。

Comments 43 pages, 20 figures, 2 tables, submission to Journal of Machine Learning Research

Dynamic Policy Programming

动态策略编程

Mohammad Gheshlaghi Azar, Vicenc Gomez, Hilbert J. Kappen

AI总结 提出动态策略编程（DPP）方法，通过平均累积误差的无穷范数界，在近似误差下优于标准近似值迭代和近似策略迭代，并在多个问题域中显著超越现有强化学习方法。

Comments Submitted to Journal of Machine Learning Research

Safe Feature Elimination for the LASSO and Sparse Supervised Learning Problems

LASSO和稀疏监督学习问题的安全特征消除

Laurent El Ghaoui, Vivian Viallon, Tarek Rabbani

AI总结 提出一种快速方法，在LASSO问题中消除无关特征，显著减少运行时间，并可推广到一般l1惩罚凸问题。

Comments Submitted to JMLR in April 2011

End-to-End Deep Learning for Predicting Metric Space-Valued Outputs

端到端深度学习预测度量空间值输出

Yidong Zhou, Su I Iao, Hans-Georg Müller

机构 * University of California, Davis（加州大学戴维斯分校） 纠错

AI总结 提出E2M框架，通过加权Fréchet均值和神经网络学习权重，实现度量空间值输出的几何感知预测，具有理论保证并在多种结构化输出上取得最优性能。

Comments 38 pages, 4 figures, 9 tables

Journal ref Journal of Machine Learning Research, 27:1--38, 2026

On Mixup Regularization

关于混合正则化

Luigi Carratino, Moustapha Cissé, Rodolphe Jenatton, Jean-Philippe Vert

机构 * MaLGa - University of Genova, Italy（马尔加-热那亚大学，意大利） ； Google Research - Brain team, Accra（谷歌研究-大脑团队，阿克拉） ； Google Research - Brain team, Berlin（谷歌研究-大脑团队，柏林） ； Google Research - Brain team, Paris（谷歌研究-大脑团队，巴黎） 纠错

AI总结 本文通过将混合解释为数据变换与随机扰动的组合，揭示了其正则化效应，并提出了测试时数据变换改进以及标签平滑和Lipschitz常数减小等机制。

Journal ref Journal of Machine Learning Research, 23(325):1-31, 2022

Distribution-Aware Conformal Prediction: A Framework for generating efficient prediction intervals for time series

分布感知共形预测：一种为时间序列生成高效预测区间的框架

Daniel Schweizer, Peter Kuhn, Jayant Sharma, Shivali Dubey, Malte von Ramin, Christoph Brockt-Haßauer

机构 * Fraunhofer Institute for Highspeed Dynamics, Ernst-Mach-Institut, EMI Freiburg（弗劳恩霍夫高速动力研究所，恩斯特-马赫研究所，EMI弗赖堡） 纠错

AI总结 提出分布感知共形预测（DCP）框架，通过集成概率预测器与分数无关的共形校准，为时间序列生成有效且高效的预测区间。

Comments submitted to Journal of Machine Learning Research (JMLR)

Near-Optimal Nonconvex-Strongly-Convex Bilevel Optimization with Fully First-Order Oracles

基于全一阶Oracle的近似最优非凸强凸双层优化

Lesi Chen, Yaohua Ma, Jingzhao Zhang

机构 * IIIS, Tsinghua University（清华大学人工智能院） ； Shanghai Qi Zhi Institute（上海启智研究院） ； Shanghai AI Lab（上海人工智能实验室） 纠错

AI总结 针对下层问题强凸的双层优化，提出一种两时间尺度更新的一阶方法，在确定性设置下达到近最优的$\tilde{\mathcal{O}}(\varepsilon^{-2})$一阶Oracle复杂度，并扩展到随机和高阶光滑场景。

Comments JMLR 2025; fix a bug in the proof in Appendix E compared to the journal version

Human-Centered Learning Mechanics: A Dynamical Framework for Entropy-Regulated Representation Learning

以人为中心的学习力学：熵正则化表示学习的动力学框架

Kim Phuc Tran

机构 * Univ. Lille, ENSAIT, ULR 2461 – GEMTEX – Génie et Matériaux Textiles（里尔大学，ENSAIT，ULR 2461 – GEMTEX – 纺织工程与材料纺织系） ； International Chair in DS & XAI, International Research Institute for Artificial Intelligence and Data Science, Dong A University（数据科学与可解释人工智能国际主席，人工智能与数据科学国际研究所，东亚大学） 纠错

AI总结 提出以人为中心的学习力学（HCLM）框架，通过有效熵和信息力概念分析熵正则化在开放学习系统中的作用，并证明几何熵代理（特别是对数行列式协方差熵）能产生更强更稳定的信息力。

Comments Submitted to JMLR

Corruptions of Supervised Learning Problems: Typology and Mitigations

监督学习问题的腐败：类型与缓解方法

Laura Iacovissi, Nan Lu, Robert C. Williamson

机构 * Tübingen AI Center, University of Tübingen（图宾根人工智能中心，图宾根大学） 纠错

AI总结 本文提出了一种通用的腐败理论，通过马尔可夫核分析底层概率分布的变化，统一了不同类型的腐败模型，并探讨了针对各种腐败类型的缓解方法。

Comments 73 pages. To be published in Journal of Machine Learning Research 27 (2026) 1-73

Causal Influences over Social Learning Networks

社交学习网络中的因果影响

Mert Kayaalp, Ali H. Sayed

机构 * Dalle Molle Institute for Artificial Intelligence (IDSIA USI-SUPSI)（达勒莫勒人工智能研究所（IDSIA USI-SUPSI）） ； École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院（EPFL）） 纠错

AI总结 本文研究了由社交图连接的智能体之间的时间动态因果影响，分析了社交学习模型和分布式决策协议的动力学，并推导出揭示智能体对之间因果关系的表达式，解释了网络中的影响流动。结果依赖于图拓扑和每个智能体对推理问题的信息水平。基于这些结论，本文提出了一种算法来对智能体的整体影响进行排名，以发现具有高度影响力的智能体，并提供了一种从原始观测数据中学习必要模型参数的方法。结果和所提算法通过考虑合成数据和真实社交媒体数据进行了示例说明。

Comments Accepted to the Journal of Machine Learning Research

A Survey on Data-Dependent Worst-Case Generalization Bounds

数据依赖性最坏情况泛化界限的综述

Hubert Leroux, Jean Marcus, Julien Roger

机构 * École polytechnique（巴黎政治学院） 纠错

AI总结 本文综述了通过扩展PAC-Bayesian理论、优化轨迹的几何拓扑描述以及稳定性假设来改进数据依赖性最坏情况泛化界限的方法。

Comments 15 pages, 4 figures, 3 tables. The LaTeX source uses the JMLR preprint style (jmlr2e.sty) and BibTeX (refs.bib). Central references in arXiv form include arXiv:2404.17442, arXiv:2006.09313, arXiv:2302.02766, arXiv:2407.08723, and arXiv:2507.06775

A Unified Measure-Theoretic View of Diffusion, Score-Based, and Flow Matching Generative Models

扩散、基于分数的和流匹配生成模型的统一测度论观点

Aditya Ranganath, Mukesh Singhal

机构 * Center for Applied Scientific Computing（应用科学计算中心） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） ； University of California Merced（加州默塞德大学） 纠错

AI总结 本文从测度论角度统一了扩散、基于分数和流匹配生成模型，探讨了时间依赖向量场诱导的边缘分布，并分析了采样、稳定性和计算的权衡。

Comments 62 pages, 1 figure, jmlr preprint