Online AUC Optimization Based on Second-order Surrogate Loss
本文提出一种基于二阶代理损失的在线AUC优化算法,直接替代聚合成对损失,实现更紧的遗憾界并扩展到核方法,实验验证其高效性。
2025-10-24 cs.LG
Optimal Binary Autoencoding with Pairwise Correlations
UC San Diego(加州大学圣地亚哥分校)
我们将二进制自动编码器的学习公式化为双凸优化问题,该问题从编码和解码比特之间的成对相关性中学习。在所有可能的算法中,使用这些信息,我们找到了自动编码器,重建其输入与最坏情况下的最佳损失。最佳解码器是一个单层的人工神经元,完全从极小极大损失最小化,并与凸优化学习的权重。所有这些都反映在竞争性的实验结果中,表明二进制自动编码可以通过以最佳方式以成对相关的方式传递信息来有效地完成。
2016-11-07 cs.AI cs.LG stat.ML
Surrogate Regret Bounds for Bipartite Ranking via Strongly Proper Losses
Indian Institute of Science(印度科学学院)
二分排名问题,其中实例被标记为正面或负面,目标是学习一个评分函数,该函数最大限度地减少对一对正面和负面实例的错误排名概率(或等效地,最大化ROC曲线下的面积),近年来已被广泛研究。一个占主导地位的理论和算法框架的问题已经减少二分排名成对分类,特别是,它是众所周知的,二分排名遗憾可以制定成对分类遗憾,这反过来又可以使用通常的遗憾界分类问题的上限。最近,Kotlowski et al.(2011)根据与标准(非成对)逻辑和指数损失的平衡版本相关的遗憾,显示了二分排序的遗憾界限。在本文中,我们表明,这种(非成对)代理遗憾界的二分排名可以得到一个广泛的类适当的(复合)损失,我们的术语作为强适当的。我们的证明技术比Kotlowski等人(2011)简单得多,并且依赖于Reid和Williamson(2010,2011)和其他人最近阐明的适当(复合)损失的性质。我们的结果产生明确的代理边界(没有隐藏的平衡条款)在各种强适当的损失,包括例如逻辑,指数,平方和平方铰链损失的特殊情况。我们还通过Clemencon和Robbiano(2011)的最新结果在某些低噪声条件下获得了更紧密的代理边界。
2012-07-02 cs.LG stat.ML
Robust low-rank estimation with multiple binary responses using pairwise AUC loss
Norwegian Institute of Public Health(挪威公共卫生研究院)
本文提出了一种基于成对AUC损失的鲁棒低秩估计框架,用于处理多个二元响应问题,通过低秩约束和高效算法提升了模型的判别性能和鲁棒性。
2026-01-13 cs.LG stat.ME stat.ML
Online Convex Optimization with Unconstrained Domains and Losses
Stanford University(斯坦福大学)
我们提出了一个在线凸优化算法(RescaledExp),实现了最佳的遗憾,在无约束的设置没有任何先验知识的损失函数的界限。我们证明了一个下界显示现有的算法,需要一个已知的界上的损失函数和任何算法,不需要这样的知识的遗憾之间的指数分离。RescaledExp在迭代次数上渐进地匹配此下限。RescaledExp本质上是无超参数的,我们根据经验证明它与需要超参数优化的先前优化算法相匹配。
2017-03-07 cs.LG stat.ML
Stability and Optimization Error of Stochastic Gradient Descent for Pairwise Learning
Hong Kong Baptist University(香港浸会大学);State University of New York at Albany(纽约州立大学奥尔巴尼分校);The University of Hong Kong(香港大学)
本文研究了两两学习环境下随机梯度下降(SGD)算法的稳定性及其与优化误差的折衷关系。成对学习是指涉及依赖于成对实例的损失函数的学习任务,其中值得注意的示例是二分排名、度量学习、ROC下的面积(AUC)最大化和最小误差熵(ROC)原则。我们的贡献是双重的。首先,我们建立了两两学习的SGD在凸、强凸和非凸环境下的稳定性结果,由此可以自然地导出推广界。其次,我们建立了成对学习SGD算法的稳定性和优化误差之间的权衡。这是通过在规定的成对损失函数类上用极小极大统计误差下界稳定性和优化误差之和来实现的。从这个基本的权衡,我们得到了下界的SGD算法的优化误差和超额预期风险的一类成对损失。此外,我们通过给出AUC最大化、度量学习和迭代的一些具体例子来说明我们的稳定性结果。
2019-04-26 cs.LG math.ST stat.ML
Online and Stochastic Gradient Methods for Non-decomposable Loss Functions
Microsoft Research(微软研究院);Indian Institute of Science(印度科学学院)
在敏感领域的现代应用,如生物识别和医学经常需要使用不可分解的损失函数,如精度@k,F-测量等相比,点损失函数,如铰链损失,这些提供了更细粒度的控制预测,但在同一时间提出了新的挑战,在算法设计和分析。在这项工作中,我们发起了在线学习技术的研究,这样的不可分解的损失函数的目的是使增量学习,以及设计可扩展的批量问题求解器。为此,我们提出了一个在线学习框架,这样的损失函数。我们的模型享有几个很好的属性,其中主要是存在有效的在线学习算法与次线性遗憾和在线批量转换的界限。我们的模型是现有的点损失函数在线学习模型的可证明扩展。我们实例化两个流行的损失,prec@k和pAUC,在我们的模型中,并证明了他们两个的次线性遗憾界。我们的证明需要一个新的结构引理排名名单可能是独立的利益。然后,我们开发了可扩展的随机梯度下降求解不可分解的损失函数。我们证明了,对于满足一定的一致收敛性质(包括prec@k,pAUC和F-测度)的损失函数的大家庭,我们的方法可证明收敛到经验风险最小化。这种一致收敛的结果是不知道这些损失,我们建立这些使用新的证明技术。然后,我们在现实生活和基准数据集上进行了广泛的实验,以确定我们的方法可以比最近提出的切割平面方法快几个数量级。
2014-10-24 cs.LG stat.ML
Unregularized Online Learning Algorithms with General Loss Functions
State University of New York at Albany(纽约州立大学奥尔巴尼分校);City University of Hong Kong(香港城市大学)
在本文中,我们考虑再生核希尔伯特空间(RKHS)中的非正则化在线学习算法。首先,我们得到显式的非正则化在线学习算法的收敛速度与一般的伽玛激活损失(见定义1的文件)的分类。我们的结果扩展和改进了Ying和Pontil(2008)中关于最小二乘损失的结果以及Bach和Moulines(2011)中关于具有Lipschitz连续梯度的损失函数的最新结果。此外,我们建立了一个非常一般的条件,保证了这种算法的最后一个收敛的步长。其次,我们建立了,第一次,非正则成对学习算法与一般损失函数的收敛性,并推导出明确的速度多项式衰减步长的假设下。具体的例子来说明我们的主要结果。主要的技术是凸分析工具,高斯平均值的精细不等式,和归纳法。
2015-04-26 cs.LG stat.ML
On the Robustness of Regularized Pairwise Learning Methods Based on Kernels
包括支持向量机在内的正则化经验风险最小化方法在机器学习理论中占有重要地位。本文将研究基于核函数的正则化成对学习方法。一个例子是正则化的误差熵损失的最小化,最近吸引了相当多的兴趣,从一致性和学习率的观点。本文表明,这样的RPL方法具有额外的良好的统计鲁棒性,如果损失函数和核选择适当。我们处理两种情况下特别感兴趣的:(i)有界和非凸损失函数和(ii)无界凸损失函数满足一定的Lipschitz型条件。
2015-10-12 math.FA math.ST stat.ML
Fine-grained Analysis of Non-parametric Estimation for Pairwise Learning
Catholic University of Eichstätt-Ingolstadt(埃施特哈姆-英戈尔施塔特天主教大学);Istituto Italiano di Tecnologia(意大利技术研究院);City University of Hong Kong(香港城市大学);RPTU Kaiserslautern-Landau(凯撒斯劳滕-兰道大学);The University of Sydney(悉尼大学)
本文提出了一种非参数估计方法,通过放松传统假设条件,建立了经验最小化解的精确Oracle不等式,并应用于成对最小二乘回归,推导出与最小大下界匹配的风险界。
2026-02-10 cs.LG stat.ML
The Many Faces of Exponential Weights in Online Learning
Leiden University(莱顿大学);Poznań University of Technology(波兹南理工大学)
在线学习的标准介绍可能会将在线梯度下降置于其中心,然后继续开发泛化和扩展,如在线镜像下降和二阶方法。在这里,我们将探索将指数权重(EW)放在首位的替代方法。我们表明,许多标准的方法和他们的遗憾界,然后作为一个特殊的情况下,通过插入合适的替代损失和发挥EW后验均值。例如,我们可以通过使用线性损失的高斯先验的EW来轻松恢复在线梯度下降,更一般地说,基于常规Bregman发散的在线镜像下降的所有实例也对应于具有依赖于镜像映射的先验的EW。此外,适当的二次代理损失自然会产生在线梯度下降的强凸损失和在线牛顿步骤。我们进一步解释了最近的几种自适应方法(iProd,Squint和专家硬币投注的变体)作为一系列密切相关的减少指数凹代理损失,然后由指数权重处理。最后,我们的EW解释的一个好处是,它开辟了从EW后验分布中抽样的可能性,而不是玩的意思。正如Bubeck和Eldan已经观察到的那样,这恢复了在线Bandit线性优化中最著名的速率。
2018-06-05 cs.LG stat.ML
OEUVRE: OnlinE Unbiased Variance-Reduced loss Estimation
Machine Learning Department(机器学习系);Carnegie Mellon University(卡内基梅隆大学)
OEUVRE提出一种在线无偏方差缩减损失估计器,利用算法稳定性实现常数时间更新,并证明其一致性、收敛速率和集中界,在多种任务上优于或匹配其他估计器。
2025-10-26 cs.LG stat.ML
Mixability of Integral Losses: a Key to Efficient Online Aggregation of Functional and Probabilistic Forecasts
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Institute for Information Transmission Problems(信息传输问题研究所)
本文将专家建议在线预测扩展到函数值预测,通过改造可混合且指数凹的积分损失,证明其可混合性,并用于统一验证多种概率预测损失。
2025-01-06 cs.LG stat.ML
Rethinking and Reweighting the Univariate Losses for Multi-Label Ranking: Consistency and Generalization
Tsinghua University(清华大学)
(部分)排名损失是多标签分类的常用评估指标,通常使用凸代理进行优化以提高计算效率。以前的理论工作多标签排名主要集中在(Fisher)的一致性分析。然而,现有的理论和实践之间存在差距-一些成对损失可以导致有希望的性能,但缺乏一致性,而一些单变量损失是一致的,但通常在实践中没有明显的优势。本文试图从学习算法的一致性和泛化误差界两个互补的角度对这一问题进行系统的研究。我们的研究结果表明,一致的单变量损失的学习算法有一个错误界$O(c)$($c$是标签的数量),而不一致的成对损失的算法依赖于$O(\sqrt{c})$在以前的工作。这说明后者在实际应用中可以取得比前者更好的性能。此外,我们提出了一个不一致的重加权单变量损失为基础的学习算法,享有$O(\sqrt{c})$的错误界有前途的性能,以及单变量损失的计算效率。最后,实验结果验证了我们的理论分析。
2021-05-10 cs.LG stat.ML
Generalized Translation and Scale Invariant Online Algorithm for Adversarial Multi-Armed Bandits
我们研究了对抗性多臂强盗问题,并创建了一个完全在线的算法框架,该框架在任意平移和手臂损失的尺度下都是不变的。我们研究了我们的算法对一个通用的竞争类,这使得它适用于各种各样的问题场景的预期性能。我们的算法从一个普遍的预测的角度来看,所使用的性能指标是对任意臂选择序列的预期遗憾,这是我们的损失和竞争损失序列之间的差异。竞争类可以被设计为包括固定臂选择、切换强盗、上下文强盗或任何其他感兴趣的竞争。竞赛类中的顺序通常由手头的具体应用决定,并应相应地进行设计。我们的算法既不使用也不需要任何关于损失序列的初步信息,并且完全在线。它的性能界限是二阶界的平方损失的总和,其中任何仿射变换的损失没有影响的归一化遗憾。
2021-09-19 cs.LG stat.ML
Online Optimization with Predictions and Non-convex Losses
IIIS, Tsinghua University(清华大学交叉信息研究院);California Institute of Technology(加州理工学院)
我们研究在线优化的设置,在线学习者寻求优化每轮命中成本,这可能是非凸的,而在轮之间改变动作时会产生移动成本。我们要求:\textit{under what general conditions is it possible for an online learner to leverage predictions of future cost functions in order to achieve near-optimal costs?}先前的工作提供了接近最优的在线算法的特定组合的假设击中和切换成本,但没有一般的结果是已知的。在这项工作中,我们给出了两个一般的充分条件,指定击球和运动成本之间的关系,保证了一个新的算法,同步固定地平线控制(SFHC),提供了一个$1+O(1/w)$竞争比,其中$w$是学习者可用的预测数。我们的条件不要求成本函数是凸的,我们也得到了非凸的打击和运动成本的竞争比结果。我们的研究结果提供了第一个常数,无量纲的竞争比在线非凸优化运动成本。此外,我们给出了一个自然实例的例子,凸体追逐(CBC),其中不满足充分条件,我们可以证明没有在线算法可以具有收敛到1的竞争比。
2020-01-24 cs.LG stat.ML
Scalable and Accurate Online Feature Selection for Big Data
Simon Fraser University(西蒙弗雷泽大学);Hefei University of Technology(合肥工业大学);University of Vermont(佛蒙特大学);University of Massachusetts Boston(马萨诸塞大学波士顿分校)
特征选择在许多大数据应用中非常重要。与大数据密切相关的两个关键挑战。首先,在许多大数据应用中,维度非常高,以百万计,并且还在不断增长。其次,大数据应用要求以在线方式的高度可扩展的特征选择算法,使得每个特征可以在顺序扫描中被处理。本文提出了一种可扩展的、精确的在线特征选择方法SAOLA。通过对特征间成对相关性的理论分析,SAOLA采用了新的成对比较技术,并以在线方式随时间保持一个简约模型。此外,为了处理即将到来的功能,到达组,我们扩展了SAOLA算法,然后提出了一个新的组-SAOLA算法的在线组特征选择。group-SAOLA算法能够同时在线维护一组在组和个体特征两个层次上都稀疏的特征组。使用一系列基准真实数据集的实证研究表明,我们的两个算法,SAOLA和组SAOLA,是可扩展的数据集的极高维,并具有优越的性能比国家的最先进的特征选择方法。
2016-07-28 cs.LG
Excess Risk Bounds for Exponentially Concave Losses
Michigan State University(密歇根州立大学)
本文的总体目标是从被动和顺序学习环境中的指数凹损失函数中获得学习的超额风险界限。指数凹损失函数包含机器学习中的几个基本问题,例如线性回归中的平方损失,分类中的逻辑损失和投资组合管理中的负对数损失。在批量设置,我们得到了尖锐的界限上的性能进行的经验风险最小化的线性假设空间和相对于指数凹损失函数。我们还将结果扩展到在线设置,学习者以顺序的方式接收训练样本。我们提出了一个在线学习算法,这是一个适当的修改版本的在线牛顿方法,以获得尖锐的风险界。在一个额外的温和的假设下的损失函数,我们表明,在这两种设置中,我们能够实现超额风险界的$O(d\log n/n)$,具有很高的概率。
2014-02-08 cs.LG stat.ML
Online learning with kernel losses
UC Berkeley(加州大学伯克利分校)
我们提出了一个广义的对抗线性强盗框架,其中潜在的损失是核函数(与相关的再生核希尔伯特空间),而不是线性函数。我们研究了指数权重算法的一个版本,并将其限制在此设置中。在核的本征衰变的条件下,我们提供了一个尖锐的表征该算法的遗憾。当我们有多项式本征衰减$μ_j \le \mathcal{O}(j^{-β})$时,我们发现遗憾是有界的$\mathcal{R}_n \le \mathcal{O}(n^{β/(2(β-1))})$ ;而在指数本征衰减$μ_j \le \mathcal{O}(e^{-βj })$的假设下,我们得到一个更紧的界的遗憾$\mathcal{R}_n \le \mathcal{O}(n^{1/2}\log(n)^{1/2})$。我们还研究了当潜在损失是核函数时的完全信息设置,并提出了自适应指数权重算法和条件梯度下降算法。
2018-02-27 cs.LG stat.ML
A Comparative Study of Pairwise Learning Methods based on Kernel Ridge Regression
Ghent University(根特大学);University of Turku(图尔库大学)
许多机器学习问题可以公式化为一对对象的预测标签。这类问题通常被称为成对学习、二元预测或网络推理问题。在过去的十年中,核方法在成对学习中发挥了主导作用。它们仍然获得了最先进的预测性能,但在机器学习文献中对其行为的理论分析还不够深入。在这项工作中,我们审查和统一现有的基于内核的算法,通常用于不同的成对学习设置,从矩阵过滤到zero-shot学习。为此,我们专注于克罗内克核岭回归的封闭形式的有效实例。我们发现,独立的任务内核岭回归,两步内核岭回归和线性矩阵滤波器自然出现的Kronecker内核岭回归的特殊情况下,这意味着所有这些方法隐式地最小化平方损失。此外,我们分析了普适性,一致性和光谱滤波性质。我们的理论结果提供了有价值的见解,在评估现有的成对学习方法的优点和局限性。
2018-03-05 cs.LG stat.ML
Rank-smoothed Pairwise Learning In Perceptual Quality Assessment
Google Research(谷歌研究院)
进行成对比较是管理人类感知偏好数据的一种广泛使用的方法。通常情况下,评分员被指示根据一组特定的规则来做出选择,这些规则涉及图像质量和美学的某些方面。这个过程的结果是采样图像对的数据集,以及它们相关的经验偏好概率。根据这些成对偏好训练模型是一种常见的深度学习方法。然而,通过小批量学习通过梯度下降进行优化意味着图像的“全局”排名没有被明确考虑。换句话说,梯度下降的每个步骤仅依赖于有限数量的成对比较。在这项工作中,我们证明了用聚合的秩向概率正则化成对经验概率会导致更可靠的训练损失。我们表明,用我们的秩平滑损失训练深度图像质量评估模型,可以持续提高预测人类偏好的准确性。
2020-11-21 cs.CV cs.LG
Online Structured Prediction with Fenchel--Young Losses and Improved Surrogate Regret for Online Multiclass Classification with Logistic Loss
The University of Tokyo(东京大学);Kyoto University(京都大学)
本文将利用代理差距框架从在线多类分类扩展到基于Fenchel–Young损失的在线结构化预测,提出随机化解码方法,并在逻辑损失下将代理遗憾界改进为O(‖U‖F²),比先前结果提升d倍。
2024-10-22 cs.LG
Online Learning for Structured Loss Spaces
Indian Institute of Science(印度科学理工学院)
我们考虑预测专家的意见时,损失向量被假定为位于一个原子规范球的总和所描述的集合。我们得到一个遗憾的约束的一般版本的在线镜像下降(OMD)算法,使用正则化的组合,每个适应的组成原子规范。一般的结果恢复标准OMD遗憾界,并产生遗憾界的新结构化设置的损失向量是(i)噪声版本的点从一个低秩子空间,(ii)稀疏向量损坏的噪声,和(iii)稀疏扰动的低秩向量。对于具有结构化损失的在线学习问题,我们还显示了损失向量的源集的秩和稀疏性方面的遗憾下界,这也意味着上述附加损失设置的下界。
2017-11-12 cs.LG
Pairwise Ranking Losses of Click-Through Rates Prediction for Welfare Maximization in Ad Auctions
The University of Chicago Booth School of Business(芝加哥大学布斯商学院);Google Research(谷歌研究院);Stanford University(斯坦福大学)
本文面向广告拍卖社会福利优化,提出无需eCPM分布假设的加权成对排序损失及教师标签校准方法,并在合成与真实数据上验证其优势。
2023-06-01 cs.GT cs.IR cs.LG
Surrogate Losses for Online Learning of Stepsizes in Stochastic Non-Convex Optimization
Boston University(波士顿大学);Google(谷歌)
随机梯度下降(SGD)在机器学习中发挥了核心作用。然而,它需要一个精心挑选的步长来快速收敛,这是众所周知的繁琐和耗时的调整。在过去的几年里,大量的自适应梯度算法已经出现,以改善这个问题。他们已被证明有效地减少劳动调整在实践中,但他们中的许多人缺乏理论保证,即使在凸设置。在本文中,我们提出了新的代理损失铸造的问题学习的最佳步长的随机优化的非凸光滑的目标函数到一个在线凸优化问题。这允许使用无遗憾在线算法来计算最佳步长。反过来,这导致SGD算法具有自调整的步长,保证了自动适应噪声水平的收敛速度。
2019-06-07 cs.LG math.OC stat.ML
Stability-based Generalization Analysis for Mixtures of Pointwise and Pairwise Learning
College of Science, Huazhong Agricultural University(华中农业大学理学院);College of Informatics, Huazhong Agricultural University(华中农业大学信息学院);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Ping An Property & Casualty Insurance Company(中国平安财产保险股份有限公司)
近年来,一些基于“逐点损失+成对损失”的混合误差度量的逐点和成对学习(PPL)混合算法在特征选择、排序和推荐等任务中表现出了实验上的有效性。然而,据我们所知,PPL的学习理论基础在现有的工作中还没有触及。本文试图通过研究PPL的推广性质来填补这一理论空白,将算法稳定性的定义推广到PPL环境,建立了一致稳定PPL算法的高概率推广界.此外,通过发展成对学习的稳定性分析技术,给出了PPL的随机梯度下降(SGD)和正则化风险最小化(RRM)的显式收敛速度。此外,通过用平均稳定性代替一致稳定性,得到了PPL的精确推广界。
2023-02-20 cs.AI cs.LG
Exploiting the Surrogate Gap in Online Multiclass Classification
Leiden University(莱顿大学)
我们提出了Gaptron,一个随机的一阶在线多类分类算法。在充分的信息设置中,我们显示预期的错误界相对于逻辑损失,铰链损失,和平滑铰链损失与不断遗憾,其中的期望是相对于学习者的随机性。在强盗分类设置,我们表明,Gaptron是第一个线性时间算法与$O(K\sqrt{T})$预期遗憾,其中$K$是类的数量。此外,Gaptron的预期错误界不依赖于特征向量的维数,与以前的算法$O(K\sqrt{T})$遗憾的强盗分类设置。我们提出了一种新的证明技术,利用零-一损失和代理损失之间的差距,而不是利用属性,如指数或混合性,这是传统上用于证明对数或常数遗憾界。
2021-02-26 cs.LG math.OC stat.ML
AutoEmbedder: A semi-supervised DNN embedding system for clustering
Bangladesh University of Business & Technology(孟加拉国商业与技术大学);King Abdulaziz University(阿卜杜勒阿齐兹国王大学)
聚类是处理无标记数据的无监督学习方法中广泛使用的一种。深度集群已成为一个流行的研究领域,它将集群与深度神经网络(DNN)架构联系起来。深度聚类方法对高维数据进行下采样,这也可能与聚类损失有关。深度聚类也被引入到半监督学习(SSL)中。大多数SSL方法依赖于成对约束信息,这是一个矩阵,包含数据对是否可以在同一个集群中的知识。本文介绍了一种新的嵌入系统AutoEmbedder,下采样高维数据的聚类嵌入点。据我们所知,这是第一个与传统分类器DNN架构相关的研究工作,具有成对损失减少技术。训练过程是半监督的,并使用Siamese网络架构来计算特征学习阶段的成对约束损失。AutoEmbedder优于大多数现有的基于DNN的半监督方法,这些方法在著名的数据集上进行了测试。
2020-07-11 cs.CV cs.LG stat.ML
Online Learning on Hidden-Convex Losses via Algorithmic Equivalence: Optimal Regret, Geometric Barrier, and Bandit Feedback
Singapore University of Technology and Design(新加坡科技设计大学);National Technical University of Athens(雅典国家技术大学);National and Kapodistrian University of Athens(雅典国家与卡多斯大学);University of California, Irvine(加州大学 Irvine 分校);Archimedes, Athena Research Center, Greece(希腊阿提卡研究中心 Archimedes);National University of Singapore, Centre for Quantum Technologies(新加坡国立大学 量子技术中心)
本文通过更精确的离散时间算法等价性论证,证明在线梯度下降在隐凸损失上达到最优的$\mathcal{O}(\sqrt{T})$遗憾,并澄清了所需几何条件,同时扩展到单点Bandit反馈得到$\mathcal{O}(T^{3/4})$期望遗憾。
2026-11-10 cs.LG math.OC stat.ML
Online Robust Regression via SGD on the l1 loss
EPFL(洛桑联邦理工学院)
我们考虑在线设置中的鲁棒线性回归问题,其中我们可以以流式方式访问数据,一个数据点接一个数据点。更具体地,对于真实参数$θ^*$,我们考虑损坏的高斯线性模型$y = \langle x , \ θ^* \rangle + \varepsilon + b$,其中对抗性噪声$b$可以以概率$η$取任何值,否则等于零。我们认为这个对手是健忘的(即,独立于数据的$b$),因为这是唯一可能保持一致性的污染模型。目前的算法依赖于手头的全部数据,以便识别和删除离群值。相比之下,我们在这项工作中,随机梯度下降的$\ell_1$损失收敛到真正的参数向量在$\tilde{O}( 1 / (1 - η)^2 n )$率是独立的污染测量值。我们的证明依赖于优雅的平滑的非光滑$\ell_1$损失的高斯数据和一个经典的非渐近分析的Polyak-Ruppert平均SGD。此外,我们提供了实验证据的效率,这个简单的和高度可扩展的算法。
2020-07-01 cs.LG math.OC stat.ML
Optimal Rates for Random Order Online Optimization
Tel Aviv University(特拉维夫大学);Google Research(谷歌研究院)
我们研究在线凸优化的随机顺序模型,最近提出的\citet{garber2020online},其中的损失函数可能会选择由对手,但然后提交给在线算法在一个统一的随机顺序。聚焦的情况下,累积损失函数是(强)凸的,但个别损失函数是光滑的,但可能是非凸的,我们给出的算法,实现最佳的界限,并显着优于结果的\citet{garber2020online},完全消除了维度的依赖性,并提高其缩放方面的强凸性参数。我们的分析依赖于算法稳定性和泛化之间的新联系,类似于在带替换i.i.d.~设置,以及对随机梯度下降的精细平均稳定性分析。
2021-06-29 cs.LG math.OC stat.ML
LEARN: An Invex Loss for Outlier Oblivious Robust Online Optimization
Institute of Data Science(数据科学研究所);National University of Singapore(新加坡国立大学);Department of Electrical and Computer Engineering(电气与计算机工程系);Department of Mathematics(数学系)
针对无利普希茨假设、存在未知轮数异常值的鲁棒在线凸优化问题,提出非凸(不变凸)的LEARN损失及对应鲁棒在线梯度下降算法,证明紧后悔界并给出统一分析框架。
2024-08-12 cs.LG math.OC
Online Inventory Problems: Beyond the i.i.d. Setting with Online Convex Optimization
LOPF, Califrais’ Machine Learning Lab, Paris, France(LOPF,Califrais机器学习实验室,巴黎,法国);Université Paris Cité and Sorbonne Université, CNRS, Laboratoire de Probabilités, Statistique et Modélisation, Paris, France(巴黎大学和索邦大学,CNRS,概率、统计与建模实验室,巴黎,法国)
本文提出MaxCOSD算法,通过非退化假设解决非i.i.d.需求下的多产品库存控制问题,实现对动态和损失的鲁棒优化。
2023-07-12 cs.LG math.OC stat.ML
Revisiting Online Learning Approach to Inverse Linear Optimization: A Fenchel$-$Young Loss Perspective and Gap-Dependent Regret Analysis
The University of Tokyo(东京大学);RIKEN AIP(理化学研究所人工智能项目);Kyoto University(京都大学)
本文从Fenchel-Young损失视角重新理解逆线性优化的在线学习方法,并利用最优与次优目标值之间的间隔结构,获得了与时间范围无关的更快遗憾上界,突破了标准O(√T)界。
2025-02-07 cs.LG
Distributed Online Non-convex Optimization with Composite Regret
Johnson Controls(江森自控);Iowa State University(爱荷华州立大学);New York University(纽约大学)
遗憾已被广泛采用的分布式,多智能体系统的在线优化算法的性能评估的选择度量。然而,与代理相关的数据/模型变化可能会显著影响决策,并需要代理之间的共识。此外,大多数现有的工作都集中在开发方法(无论是强或非强)凸损失,并已获得很少的结果,在分布式在线优化一般非凸损失的遗憾界。为了解决这两个问题,我们提出了一种新的复合遗憾与一个新的网络遗憾为基础的度量来评估分布式在线优化算法。我们具体定义了复合遗憾的静态和动态形式。通过利用我们的复合遗憾的动态形式,我们开发了一个基于共识的在线归一化梯度(CONGD)方法的伪凸损失,它证明了一个次线性的行为有关的规则项的路径变化的优化。对于一般的非凸损失,我们首先阐明了遗憾的设置分布式在线非凸学习的基础上,最近的进展,没有确定性算法可以实现次线性遗憾。然后,我们开发了分布式在线非凸优化与复合遗憾(DINOCO)没有访问的梯度,依赖于离线优化预言。DINOCO实现了次线性遗憾;据我们所知,这是一般分布式在线非凸学习的第一个遗憾界。
2022-09-21 cs.DC cs.LG stat.ML
Non-Stationary Online Structured Prediction with Surrogate Losses
CyberAgent, Tokyo, Japan(日本东京CyberAgent公司);National Institute of Informatics, Tokyo, Japan(日本东京信息机构);Center for Advanced Intelligence Project, RIKEN, Tokyo, Japan(日本东京RIKEN高级智能项目);The Institute of Statistical Mathematics, Tokyo, Japan(日本东京统计数学研究所);Tohoku University, Miyagi, Japan(日本宫城县立东大学);Nanyang Technological University, Singapore(新加坡南洋理工大学)
本文提出在非平稳环境下,通过结合在线梯度下降的动态后悔分析与替代损失间隙技术,获得目标损失的上限,同时扩展到更广泛的设置,并证明依赖于F_T和P_T的紧性。
2026-05-14 cs.LG
Online Learning of k-CNF Boolean Functions
DeepMind Technologies Ltd(深度思维科技有限公司);University of Alberta(阿尔伯塔大学);Australian National University(澳大利亚国立大学)
在对数损失下的在线学习背景下,重新讨论了从例子中学习k-CNF布尔函数的问题.在这样做的时候,我们给一个贝叶斯解释的Valiant的著名的PAC学习算法,然后我们建立在两个高效的,在线的,概率的,监督学习算法预测输出的一个未知的k-CNF布尔函数。我们分析了我们的方法的损失,并表明,累积对数损失可以上界,忽略对数因子,由每个例子的大小的多项式函数。
2014-03-26 cs.LG
Logistic Regression: Tight Bounds for Stochastic and Online Optimization
Technion—Israel Institute of Technology(以色列理工学院)
逻辑损失函数在机器学习和统计学中经常被提倡作为0-1损失的光滑和严格凸的替代。在本文中,我们调查的问题是否这些光滑性和凸性的属性,使物流损失优于其他广泛考虑的选项,如铰链损失。我们发现,在已知的渐近界相比,只要预测/优化迭代次数是次指数,物流损失提供了一个通用的非光滑损失函数,如铰链损失没有改善。特别是,我们证明了随机逻辑优化的收敛速度是有界的决策集的直径和预测迭代次数的多项式从下面,并提供了一个匹配的紧上界。这解决了McMahan和Streeter(2012)的COLT开放问题。
2014-05-15 cs.LG
Online Convex Optimization Perspective for Learning from Dynamically Revealed Preferences
Carnegie Mellon University(卡内基梅隆大学)
我们研究的问题,在线学习(OL)从显示的偏好:学习者希望学习一个非战略代理的私人效用函数,通过观察代理的效用最大化的行动,在不断变化的环境。我们采用了在线逆优化设置,学习者观察代理的行动流在网上的时尚和学习性能的衡量与损失函数的遗憾。我们首先刻画了一类特殊但广泛的智能体效用函数,然后利用这种结构设计了一个新的凸损失函数。我们建立了关于我们的新损失函数的后悔也限制了关于文献中所有其他常见的损失函数的后悔。这使我们能够设计一个灵活的OL框架,使一个统一的处理损失函数,并支持各种在线凸优化算法。我们证明与理论和实证证据表明,我们的框架的基础上新的损失函数(特别是在线镜像下降)的遗憾性能和解决方案的时间比其他OL算法从文献和绕过以前的技术假设,以及显着的优势。
2021-06-04 cs.LG math.OC
Universal Online Learning with Unbounded Losses: Memory Is All You Need
Massachusetts Institute of Technology(麻省理工学院);Purdue University(普渡大学)
我们解决了一个开放的问题Hanneke的主题普遍一致的在线学习与非i.i.d.过程和无限的损失。乐观普适学习规则的概念是由Hanneke定义的,目的是在最小假设下研究学习理论。一个给定的学习规则被称为乐观普适的,如果它实现了一个低的长期平均损失,每当数据生成过程使这个目标可以通过一些学习规则实现。Hanneke提出了一个开放的问题,即对于每一个无界损失,承认普遍学习的过程家族是否恰好是那些几乎肯定具有有限数量的不同值的过程。在本文中,我们完全解决了这个问题,表明情况确实如此。因此,这也为任何无限损失提供了一个非常简单的乐观普适学习规则的公式:即,简单的记忆规则已经足够了。我们的证明依赖于构造实例空间的随机可测量分区,并且可能对解决其他开放问题具有独立的兴趣。我们将结果扩展到不可实现的设置,从而提供了一个乐观的普遍贝叶斯一致的学习规则。
2022-01-21 cs.LG math.ST stat.ML
Online Convex Optimization Against Adversaries with Memory and Application to Statistical Arbitrage
Technion(以色列理工学院)
具有记忆的在线学习的框架自然地捕获具有时间约束的学习问题,并且先前针对专家设置进行了研究。在这项工作中,我们扩展的概念,学习与记忆的一般在线凸优化(OCO)的框架,并提出了两个算法,达到低遗憾。第一个算法适用于Lipschitz连续损失函数,获得凸和强凸损失的最优遗憾界。第二个算法达到最佳遗憾界,并适用于更广泛的凸损失,而不需要Lipschitz连续性,但更复杂的实现。我们补充我们的理论结果与金融统计套利的应用:我们设计算法构建均值回复投资组合。
2014-06-10 cs.LG
Online Convex Optimization with Sublinear Noisy Probes
Sapienza University of Rome(罗马大学);New York University(纽约大学);EPFL(瑞士联邦理工学院洛桑分校)
研究在线凸优化中利用亚线性噪声成对探测降低遗憾,通过方差缩减和连续指数权重二阶分析获得紧界。
2026-06-15 cs.DS cs.LG
A Bayesian Approach for Online Classifier Ensemble
Boston University(波士顿大学);University of Michigan(密歇根大学)
我们提出了一个贝叶斯方法递归估计分类器的权重在在线学习的分类器集成。与过去的方法,如随机梯度下降或在线提升,我们的方法估计的权重递归更新其后验分布。对于一类特定的损失函数,我们表明,它是可以制定一个适当定义的似然函数,因此使用后验分布作为近似的全球经验损失最小。如果训练数据流是从一个平稳的过程中采样的,我们还可以证明,我们的方法比标准的随机梯度下降方法具有更好的收敛速度。在真实世界数据集的实验中,我们的公式通常比最先进的随机梯度下降和在线提升算法表现得更好。
2015-07-08 cs.LG
No-Regret Learnability for Piecewise Linear Losses
Operations Research Center(运筹学研究中心);Massachusetts Institute of Technology(麻省理工学院);Dept. of Electrical Engineering and Computer Science(电气工程与计算机科学系)
在在线遗憾最小化的凸优化方法中,已经开发了许多方法来保证具有有界次梯度的次可微凸损失函数的遗憾的$O(\sqrt{T})$界,通过使用线性损失函数的约化。这表明,线性损失函数往往是最难学习的函数,无论底层的决策空间如何。我们系统地研究了这个问题,研究了决策者和敌对环境之间的相互作用。这使我们能够突出关于分段线性损失函数的可学习性的鲜明的独特行为。一方面,当决策者的决策集是一个多面体,我们建立了$Ω(\sqrt{T})$下界后悔的一个大类的分段线性损失函数的重要应用在在线线性优化,重复零和Stackelberg游戏,在线预测边信息,在线两阶段优化。另一方面,我们展示$o(\sqrt{T})$学习率,实现跟随领导者算法,在线线性优化时,决策者的决策集的边界是弯曲的,当$0$不在于环境的决策集的凸包。因此,决策者的决策集的曲率是最佳学习率的决定因素。这些结果在完全对抗的情况下成立。
2016-09-17 cs.LG
An Online Convex Optimization Approach to Dynamic Network Resource Allocation
University of Minnesota(明尼苏达大学)
本文提出MOSP方案,解决对抗性损失和约束下的动态优化问题,实现子线性动态遗憾和适应性,应用于网络资源分配并优于现有方法。
2017-01-27 cs.LG cs.SY eess.SY
Adaptive Decision-Making with Constraints and Dependent Losses: Performance Guarantees and Applications to Online and Nonlinear Identification
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
研究适应性决策中带约束和依赖损失的优化问题,提出实例依赖的高效算法,利用损失结构和预算约束改进遗憾界限,并在在线与非线性系统辨识任务中验证性能。
2023-04-06 cs.LG cs.SY eess.SY
Online non-convex optimization with imperfect feedback
Criteo AI Lab(Criteo人工智能实验室);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LIG(格勒诺布尔信息学实验室)
研究了具有非凸损失的在线学习问题。在反馈方面,我们假设学习者观察-或以其他方式构建-一个不精确的模型,在每个阶段遇到的损失函数,我们提出了一个混合策略的学习策略的基础上双平均。在这种情况下,我们得到了一系列严格的遗憾最小化的保证,无论是学习者的静态(外部)遗憾,以及后悔对最好的动态政策事后诸葛亮。随后,我们将这个通用模板应用于学习者只能访问过程中每个阶段发生的实际损失的情况。这是通过基于核的估计器来实现的,该估计器仅使用学习者的已实现损失作为输入来为每轮的损失函数生成不精确模型。
2020-10-16 cs.LG math.OC
CLASP: An online learning algorithm for Convex Losses And Squared Penalties
Department of Computer Science, NOVA School of Science and Technology(计算机科学系,NOVA科学与技术学院);Institute for Systems and Robotics, LARSyS, Instituto Superior Técnico, Universidade de Lisboa(系统与机器人研究所,LARSyS,理工学院,里斯本大学)
CLASP是一种用于凸损失和平方惩罚的在线学习算法,通过利用凸投影的强非扩张性,实现了对强凸问题的对数级别的悔值和累积惩罚保证。
2026-01-24 cs.LG math.OC
Universal Online Convex Optimization Meets Second-order Bounds
National Key Laboratory for Novel Software Technology(现代软件工程国家重点实验室);School of Artificial Intelligence, Nanjing University(南京大学人工智能学院);College of Computing, Georgia Institute of Technology(佐治亚理工学院计算学院);JD AI Research(京东AI研究院)
本文提出一种通用在线凸优化策略,通过专家集合与带二阶界和超额损失的元算法聚合预测,统一处理强凸、指数凹和一般凸函数,并扩展至在线复合优化,在保持极小极大最优性的同时取得问题相关遗憾界。
2024-11-20 cs.LG math.OC
Doing well with less! On Sampling Techniques for Empirical Pairwise Loss Estimation/Minimization
IDS, LTCI Télécom Paris Palaiseau, France(IDS、LTCI 雷电巴黎实验室,巴黎帕莱索,法国)
本文利用调查采样技术,通过直接对成对样本进行采样而非单个观测,在保留少量信息的情况下实现与全量成对评估相当的估计或优化性能,为精度与计算成本之间提供了理论上有依据的权衡。
2026-06-01 cs.LG stat.ML
Similarity Function Tracking using Pairwise Comparisons
University of Michigan(密歇根大学)
最近在距离度量学习方面的工作集中在学习数据的变换,这些变换最好与指定的成对相似性和相异性约束(通常由人类观察者提供)保持一致。由于更好地适应距离或相似性度量,学习的转换导致改进的检索、分类和聚类算法。在这里,我们解决的问题,学习这些转换时,底层的约束生成过程是非平稳的。这种非平稳性可能是由于用于生成约束的地面实况聚类的变化或类结构明显的特征子空间的变化。我们提出了在线凸包络强自适应动态学习(OCELAD),一个通用的自适应,在线学习和跟踪最佳指标的方法,因为它们随着时间的推移而变化,是非常强大的各种非平稳行为的变化度量。我们将OCELAD框架应用于在线学习者的集合。具体来说,我们创建了一个由一组具有不同学习率的并行COMID学习器组成的逆向初始化复合目标镜像下降(COMID)集成(RICE),并在合成数据和高度非平稳的Twitter数据集上展示了无参数RICE-OCELAD度量学习。我们表现出显着的性能改进和增加的鲁棒性,相对于以前提出的批处理和在线距离度量学习算法的非平稳效应。
2017-01-07 cs.LG stat.ML
Pairwise Augmented GANs with Adversarial Reconstruction Loss
Samsung AI Center in Moscow(三星莫斯科人工智能中心);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);National Research University Higher School of Economics(国立研究型大学高等经济学院);Federal Research Center "Informatics and Management" of the Russian Academy of Sciences(俄罗斯科学院联邦研究中心“信息学与管理学”)
我们提出了一种新型的自动编码模型,称为成对增强的GANs。我们训练一个生成器和一个编码器联合和对抗的方式。生成器网络学习对真实对象进行采样。反过来,编码器网络同时被训练以将真实数据分布映射到潜在空间中的先验。为了确保良好的重建,我们引入了增强的对抗重建损失。在这里,我们训练一个机器人来区分两种类型的对:一个对象与它的增强和一个与它的重建。我们表明,这种对抗性损失比较对象的内容,而不是在完全匹配。我们通过实验证明,我们的模型在数据集MNIST,CIFAR10,CelebA上生成的样本和重建质量与最先进的数据集具有竞争力,并在CIFAR10上取得了良好的定量结果。
2018-10-11 cs.LG stat.ML
On the Consistency of AUC Pairwise Optimization
Nanjing University(南京大学)
ROC曲线下面积(area under ROC curve,AUC)是一个重要的评价指标,在类不平衡学习、代价敏感学习、学习排序等学习任务中得到了广泛的应用。许多学习方法都试图优化AUC,但由于AUC的非凸性和不连续性,几乎所有的学习方法都使用代理损失函数。因此,AUC的一致性至关重要;然而,它以前几乎没有被触及过。本文给出了基于代理损失函数的学习方法的渐近一致性的一个充分条件。在此基础上,我们证明了指数损失和逻辑损失与AUC是一致的,但铰链损失是不一致的。然后,我们推导出与AUC一致的$q$ -范数铰链损失和一般铰链损失。我们还得到了指数损失和逻辑损失的一致界,并得到了许多代理损失函数在无噪声设置下的一致界。此外,我们公开了AUC的指数替代损失和准确度的指数替代损失之间的等效性,并且这种发现的一个直接结果是AdaBoost和RankBoost是等效的。
2014-07-02 cs.LG stat.ML
Understand Functionality and Dimensionality of Vector Embeddings: the Distributional Hypothesis, the Pairwise Inner Product Loss and Its Bias-Variance Trade-off
Stanford University(斯坦福大学)
向量嵌入是许多深度学习模型的基础构建块,特别是在自然语言处理中。在本文中,我们提出了一个理论框架来理解向量嵌入的维数的影响。我们观察到,分布假设,统计语义的一个主导原则,需要一个自然的酉不变性的向量嵌入。受酉不变观测的启发,我们提出了成对内积(PIP)损失,这是一种关于两个嵌入之间相似性的酉不变度量。我们证明了PIP损失捕获嵌入之间的功能差异,并且PIP损失与向量嵌入的两个基本属性(即相似性和组合性)密切相关。通过将嵌入训练过程制定为具有噪声的矩阵分解,我们揭示了在维度选择过程中信号频谱和噪声功率之间的基本偏差-方差权衡。这种偏差-方差权衡揭示了许多尚未得到彻底解释的经验观察,例如最佳维度的存在。此外,我们发现了两个新的结果向量嵌入,即对过参数化的鲁棒性和前向稳定性。PIP损失的偏差-方差权衡明确回答了向量嵌入的维度选择的基本开放问题。
2018-05-21 cs.LG stat.ML