Characterizing Online and Private Learnability under Distributional Constraints via Generalized Smoothness
GeorgiaTech(佐治亚理工学院);MIT(麻省理工学院)
本文通过广义平滑性理论,研究了在分布约束下在线学习和隐私学习的可学习性条件,并提出了通用算法和改进的界限。
2026-02-24 cs.LG stat.ML
A Characterization of Multioutput Learnability
University of Michigan(密歇根大学)
针对批量、在线及扩展的bandit反馈设置下的多输出函数类学习问题,证明多输出函数类可学习当且仅当其每个单输出限制可学习,完整刻画了多标签分类与多输出回归的可学习性。
2024-11-25 cs.LG stat.ML
On the Learnability of Multilabel Ranking
本文刻画了多标签排序在批处理和在线设置下针对一大类排序损失的可学习性,并基于可学习性给出两类涵盖实践中大多数损失的排序损失等价类。
2023-05-25 cs.LG stat.ML
Online Learning with Improving Agents: Multiclass, Budgeted Agents and Bandit Learners
University of Waterloo(滑铁卢大学)
本文提出了一种在线学习模型,允许代理通过改进特征值来获得更优标签,并探讨了多类分类、老虎机反馈及成本建模等关键问题。
2026-02-19 cs.LG stat.ML
Online Learning with Set-Valued Feedback
University of Michigan(密歇根大学)
该研究针对集值反馈的在线多类分类场景,证明确定性与随机化在线可学习性不等价,提出两个新组合维度分别刻画两类可学习性,并为三种实际学习场景的最小最大遗憾值建立界。
2024-06-18 cs.LG stat.ML
Private List Learnability vs. Online List Learnability
本研究探讨PAC列表学习中差分隐私与在线学习的关联,证明多类场景下二者的等价性在列表学习中不成立,引入k-单调维新维度并给出DP k-列表可学习的两个必要条件,留下充分性开放问题。
2025-06-15 cs.DS cs.LG
Online Learning via Sequential Complexities
University of Pennsylvania(宾夕法尼亚大学);University of Michigan(密歇根大学)
我们考虑的顺序预测的问题,并提供工具来研究相关的游戏的极大极小值。经典的统计学习理论提供了几个有用的复杂性措施,研究学习i.i.d.数据我们提出的顺序复杂性可以看作是这些措施的顺序设置的扩展。发达国家的理论证明,产生精确的学习保证顺序预测的问题。特别是,我们在线学习的监督学习设置的必要和充分条件。几个例子表明我们的框架的效用:我们可以建立可学习性,而不必展示一个明确的在线学习算法。
2014-08-12 cs.LG stat.ML
Differentially Private Nonparametric Regression Under a Growth Condition
MIT(麻省理工学院)
给定一个实值的假设类$\mathcal{H}$,我们调查在什么条件下有一个差分隐私算法,学习一个最佳的假设从$\mathcal{H}$给定的i.i.d.数据受二元分类的相关设置的最近结果的启发(Alon等人,2019; Bun等人,Jung等人(2020)表明,在回归的设置中,$\mathcal{H}$的在线可学习性对于私人可学习性是必要的。这里,$\mathcal{H}$的在线可学习性的特征在于其$η$ -连续脂肪粉碎维度${\rm sfat}_η(\mathcal{H})$对于所有$η> 0$的有限性。在私人可学习性的充分条件方面,Jung等人(2020)表明,如果$\lim_{η\downarrow 0} {\rm sfat}_η(\mathcal{H})$是有限的,则$\mathcal{H}$是私人可学习的,这是一个相当严格的条件。我们证明,在宽松条件$\lim \inf_{η\downarrow 0} η\cdot {\rm sfat}_η(\mathcal{H}) = 0$下,$\mathcal{H}$是可私下学习的,从而为类$\mathcal{H}$建立了第一个非参数私人可学习性保证,其中${\rm sfat}_η(\mathcal{H})$与$η\downarrow 0$发散。我们的技术涉及一种新的过滤过程,输出稳定的假设非参数函数类。
2021-11-24 cs.CR cs.LG stat.ML
Online Learning and Disambiguations of Partial Concept Classes
McGill University(麦吉尔大学);Ohio State University(俄亥俄州立大学);University of Rochester(罗切斯特大学)
本文通过构造一个可在线学习但无法扩展为可学习的全概念类的部分概念类,解决了部分概念类在线可学习性是否继承自全概念类的开放问题。
2023-03-30 cs.CC cs.LG
Partial Feedback Online Learning
本文研究了部分反馈在线学习协议,提出集合版本空间概念,定义了PFLdim和PMSdim,揭示了确定性和随机学习的可学习性条件,并指出在集合可实现性之外,即使|H|=2,最小最大遗憾仍可能线性增长。
2026-04-02 cs.LG stat.ML
Learnability in Online Kernel Selection with Memory Constraint via Data-dependent Regret Analysis
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部)
针对带内存约束的在线核选择问题,提出依赖核对齐和竞争假设累积损失的数据依赖上界,构建基于新型缓冲区与专家建议预测归约的算法框架,证明小内存下次线性数据复杂度下可学习,并经实验验证性能。
2025-03-24 cs.LG
Online learnability of Statistical Relational Learning in anomaly detection
Swedish Defence Research Agency(瑞典国防研究局)
统计关系学习(SRL)的异常检测方法介绍通过安全相关的应用。操作要求在线学习的稳定性进行了概述和比较的数学定义,适用于学习过程中的一个代表性的SRL方法-贝叶斯逻辑程序(BLP)。由于在线稳定性的正式证明似乎是不可能的,暂定常识的要求制定和测试的理论和实验分析一个简单的和易于分析的BLP模型。结果发现,在线学习的初始阶段的学习算法可以锁定不稳定的假预测,但符合我们的暂定稳定性要求,从而伪装成真正的解决方案。SRL的表现力似乎在具有许多变量和稀缺数据的环境中引起了显着的稳定性问题。我们的结论是,可靠的异常检测与SRL的方法需要一个总体框架,可能涉及一个全面的上下文知识库或人类监督的监测。
2017-05-18 cs.AI cs.LG
Learning with Differential Privacy: Stability, Learnability and the Sufficiency and Necessity of ERM Principle
Carnegie Mellon University(卡内基梅隆大学)
虽然机器学习已被证明是解决许多现实问题的强大数据驱动解决方案,但由于隐私问题,其在敏感领域的使用受到限制。一种被称为 ** 差分隐私 ** 的流行方法提供了可证明的隐私保证,但在实践中经常观察到,它可能会大大妨碍学习的准确性。在Vapnik的一般学习环境下,研究了具有差分隐私约束的可学习性(问题是否可以被任何算法学习),揭示了隐私性、稳定性和可学习性之间的复杂关系。特别是,我们证明了一个问题是私人可学习的 **,当且仅当 ** 存在一个渐进最小化经验风险(AERM)的私人算法。相比之下,对于非私人学习,单独的AERM不足以实现可学习性。这个结果表明,当搜索私有学习算法时,我们可以将搜索限制在AERM算法上。鉴于此,我们提出了一个概念性的过程,总是找到一个普遍一致的算法,每当问题是学习隐私约束下。我们还提出了一个通用的和实用的算法,并表明在非常一般的条件下,它私下学习广泛的学习问题。最后,我们将一些结果扩展到更实际的$(ε,δ)$ -差分隐私,并建立了存在的相变类的问题,大约是私人学习如何小$δ$需要。
2016-04-27 cs.CR cs.LG stat.ML
Robust Online Learning
University of Waterloo(滑铁卢大学)
本文提出了一种新的维度概念,用于分析鲁棒在线学习中假设类的可学习性,并探讨了在未知扰动情况下的学习挑战。
2026-02-26 cs.LG stat.ML
No-Regret Learnability for Piecewise Linear Losses
Operations Research Center(运筹学研究中心);Massachusetts Institute of Technology(麻省理工学院);Dept. of Electrical Engineering and Computer Science(电气工程与计算机科学系)
在在线遗憾最小化的凸优化方法中,已经开发了许多方法来保证具有有界次梯度的次可微凸损失函数的遗憾的$O(\sqrt{T})$界,通过使用线性损失函数的约化。这表明,线性损失函数往往是最难学习的函数,无论底层的决策空间如何。我们系统地研究了这个问题,研究了决策者和敌对环境之间的相互作用。这使我们能够突出关于分段线性损失函数的可学习性的鲜明的独特行为。一方面,当决策者的决策集是一个多面体,我们建立了$Ω(\sqrt{T})$下界后悔的一个大类的分段线性损失函数的重要应用在在线线性优化,重复零和Stackelberg游戏,在线预测边信息,在线两阶段优化。另一方面,我们展示$o(\sqrt{T})$学习率,实现跟随领导者算法,在线线性优化时,决策者的决策集的边界是弯曲的,当$0$不在于环境的决策集的凸包。因此,决策者的决策集的曲率是最佳学习率的决定因素。这些结果在完全对抗的情况下成立。
2016-09-17 cs.LG
Learning From An Optimization Viewpoint
Toyota Technological Institute at Chicago(芝加哥丰田技术学院)
本文从优化的角度研究了统计学习和在线学习问题。我们首先考虑在一般学习环境中统计学习问题的可学习性问题。学习能力的问题是很好的研究和充分的特点,为二进制分类和实值监督学习问题,使用一致收敛理论。然而,我们发现,对于一般的学习设置一致收敛理论无法表征可学习性。为了填补这一空白,我们使用学习算法的稳定性,充分表征统计学习能力的一般设置。接下来我们考虑在线学习的问题。与统计学习框架不同的是,一般来说,缺乏通用工具来建立在线学习问题的可学习性和学习率。我们提供在线模拟经典的工具,从统计学习理论,如Rademacher复杂性,覆盖数等,我们进一步使用这些工具,充分表征在线监督学习问题的可学习性。二.在第二部分中,对于一般类凸学习问题,我们提供了适当的镜像下降(MD)更新,用于这些问题的在线和统计学习。此外,我们还证明了MD对于在线凸学习是接近最优的,对于大多数情况下,对于统计凸学习也是接近最优的。接下来,我们考虑凸优化问题,并表明预言复杂性可以下界的所谓脂肪粉碎维度的相关线性类。因此,我们建立了离线凸优化问题和统计学习问题之间的强连接。我们还表明,对于一大类高维优化问题,MD实际上是接近最优的,即使是凸优化。
2012-04-18 cs.GT cs.LG
Ramsey Theorems for Trees and a General 'Private Learning Implies Online Learning' Theorem
Gran Sasso Science Institute (GSSI)(格兰萨索科学研究所);Purdue University(普渡大学);Technion(以色列理工学院);Google Research(谷歌研究院)
本研究针对更一般分类场景下DP可学习性是否蕴含在线可学习性的开放问题,通过建立树的拉姆齐型定理,直接基于Littlestone树推导给出肯定答案,证明一般分类任务中DP可学习性蕴含在线可学习性。
2024-08-14 cs.CR cs.DS cs.LG
Universal Multiclass Transductive Online Learning
Department of Computer Science, Purdue University, West Lafayette, IN 47907, USA.(计算机科学系,普渡大学,西拉法叶,印第安纳州,47907,美国)
研究具有可能无界标签空间的通用转导在线分类问题,通过引入“Level-Constrained-Littlestone-Littlestone (LCLL)树”和冷漠性质来刻画可学习性,并证明可学习类的最优错误率要么有界要么对数增长。
2026-05-28 cs.LG
Exploiting Class Learnability in Noisy Data
Rensselaer Polytechnic Institute(伦斯勒理工学院);Air Force Research Laboratory(美国空军研究实验室)
在许多领域,为监督式机器学习收集足够的标记训练数据需要容易访问但有噪声的来源,例如众包服务或标记的Web数据。噪声标签经常出现在通过这些方法收集的数据集中,有时会导致整个类的数据,学习分类器概括不良。对于现实世界的应用程序,我们认为完全避免在这些类上进行训练是有益的。在这项工作中,我们的目标是探索给定数据集中的类,并引导监督训练在类上花费与其可学习性成比例的时间。通过聚焦训练过程,我们的目标是提高模型在具有强信号的类上的泛化能力。为此,我们开发了一种在线算法,结合分类器和训练算法,迭代地选择训练数据的分类器的基础上,以及它似乎对每个类的推广。在各种数据集上测试我们的方法,我们表明我们的算法学习专注于模型相对于强基线具有低泛化误差的类,从而产生在可学习类上具有良好性能的分类器。
2018-11-15 cs.LG stat.ML
Online Learning: Beyond Regret
University of Pennsylvania(宾夕法尼亚大学);TTIC(丰田技术研究所(芝加哥));University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们研究在线学习的广泛的一类问题,扩展(Rakhlin,Sridharan,Tewari,2010)的结果,以一般的概念,远远超出外部遗憾的性能测量。我们的框架同时捕捉这些著名的概念,如内部和一般的Phi遗憾,学习与非添加剂的全球成本函数,布莱克威尔的可接近性,校准的预测,自适应遗憾,等等。我们表明,在所有这些情况下的可学习性是由于控制相同的三个量:一个鞅收敛项,一个术语描述的能力,表现良好,如果未来是已知的,和序列的广义拉德马赫复杂度,研究(Rakhlin,Sridharan,Tewari,2010)。由于我们直接研究问题的复杂性,而不是专注于有效的算法,我们能够改进和扩展许多已知的结果,这些结果以前已经通过一个算法的建设。
2011-03-24 cs.GT cs.LG stat.ML
Optimal Learners for Realizable Regression: PAC Learning and Online Learning
Ben-Gurion University(本-古里安大学);Purdue University(普渡大学);Yale University(耶鲁大学);Google Research(谷歌研究院)
本文针对可实现回归,在PAC学习和在线学习两种设置下提出新的组合维度与极小极大实例最优学习器,分别刻画了可学习性、ERM可学习性及最优累积损失,并解决了STOC '22中的一个开放问题。
2024-10-02 cs.AI cs.LG stat.ML
An Equivalence Between Private Classification and Online Prediction
Boston University(波士顿大学);Tel Aviv University(特拉维夫大学);Google AI Princeton(谷歌AI普林斯顿);Princeton University(普林斯顿大学)
我们证明了每一个有限Littlestone维数的概念类可以学习的(近似)微分私有算法。这回答了Alon等人(STOC 2019)的一个开放问题,他们证明了相反的陈述(Neel等人也提出了这个问题。~ (FOCS 2019年))。这两个结果一起产生在线学习能力和私人PAC学习能力之间的等价性。我们引入了一个新的概念,算法的稳定性称为“全球稳定性”,这是必不可少的,我们的证明,可能是独立的利益。我们还讨论了我们的研究结果的应用,以提高隐私和准确性参数的差异私人学习者。
2021-06-22 cs.CR cs.LG stat.ML
Smoothed Online Classification can be Harder than Batch Classification
University of Michigan(密歇根大学)
本文证明在标签空间无界时,平滑在线分类可能比iid批量分类更难,构造了在PAC批量可学习但平滑在线不可学习的假设类,并给出PAC可学习性足以保证平滑在线可学习的条件。
2024-05-24 cs.LG
Stability and List-Replicability for Agnostic Learners
McGill University(麦吉尔大学);Ohio State University(俄亥俄州立大学)
本文针对不可知设定下全局稳定PAC可学习性限制过强的问题,刻画了两种松弛条件下的可学习假设类,解决了相关开放问题,强化了已有结论并明确了不同松弛条件的适用范围。
2025-05-16 cs.LG
Multiclass learnability and the ERM principle
The Hebrew University(希伯来大学);University of Waterloo(滑铁卢大学)
我们研究了多类预测的样本复杂性在几个学习设置。对于PAC设置,我们的分析揭示了一个令人惊讶的现象:在鲜明的对比,二元分类,我们发现,存在多类假设类,其中一些经验风险最小化(ERM学习者)具有较低的样本复杂性比其他。此外,有些课程是一些机构风险管理学习者可以学习的,而其他机构风险管理学习者将无法学习它们。我们提出了一个原则,设计良好的ERM学习者,并使用这一原则证明紧界学习{ \em对称}多类假设类的样本复杂性-类的标签名称的排列下不变。我们进一步提供了一个表征的错误和遗憾界多类学习的在线设置和强盗设置,使用新的概括Littlestone的尺寸。
2014-11-24 cs.LG
Distributionally-Constrained Adversaries in Online Learning
Columbia University(哥伦比亚大学)
本文提出分布约束对抗者框架,刻画可学习分布类,并证明对线性分类器等自然函数类,无需先验知识即可同时对抗任意可学习分布类内的对抗者。
2025-06-17 cs.LG math.ST stat.ML
Conservative classifiers do consistently well with improving agents: characterizing statistical and online learning
Northwestern University(西北大学);Toyota Technological Institute at Chicago(芝加哥丰田技术研究所);Alphabetical order(字母顺序);University of Chicago(芝加哥大学)
本文研究了改进智能体对分类器的影响,提出了一种非对称的最小一致概念类,并在可实现设置中精确刻画了带改进的proper学习。通过欧几里得球改进集,解决了开放性问题,降低了泛化误差并改进了在线学习界限。
2025-08-07 cs.GT cs.LG cs.MA
Almost-everywhere algorithmic stability and generalization error
我们探讨了一些细节的概念,算法的稳定性作为一个可行的框架,分析学习算法的泛化误差。我们引入了新的概念,训练稳定性的学习算法,并表明,在一般情况下,这是足够的良好的界泛化误差。在PAC设置中,训练稳定性对于可学习性来说既是必要的,也是充分的。该方法基于训练稳定性,不需要考虑VC维数和VC熵。该方法不需要证明一致收敛性,并且泛化误差直接由一个推广的McDiarmid不等式来确定.因此,它潜在地允许我们处理比经验风险最小化更广泛的一类学习算法。我们还探讨了VC维数、泛化误差和各种稳定性概念之间的关系。学习算法的几个例子被认为是。
2012-12-12 cs.LG stat.ML
Optimal and Adaptive Algorithms for Online Boosting
Yahoo Labs(雅虎实验室);Princeton University(普林斯顿大学)
我们研究在线提升,将任何弱在线学习者转换为强在线学习者的任务。基于一种新颖而自然的弱在线可学习性定义,我们开发了两种在线提升算法。第一种算法是多数支持的在线版本。通过证明一个匹配的下界,我们表明,该算法本质上是最优的弱学习者的数量和样本的复杂性,需要达到指定的精度。然而,该最优算法不是自适应的。使用在线损失最小化的工具,我们推导出一个自适应在线提升算法,也是无参数的,但不是最优的。这两种算法都使用可以直接处理示例重要性权重的基本学习器,以及通过助推器定义的概率拒绝采样示例。结果补充了广泛的实验研究。
2015-02-09 cs.LG
Multiclass Online Learning and Uniform Convergence
Purdue University(普渡大学);Technion(以色列理工学院);Google Research(谷歌研究院);University of Michigan(密歇根大学)
本文证明多类概念类在不可知对抗在线学习中可学习当且仅当其Littlestone维度有限,解决了类别数无界时的开放问题,并给出在线可学习性与在线一致收敛之间的分离结果。
2023-07-07 cs.LG stat.ML
The Interplay Between Stability and Regret in Online Learning
University of Chicago(芝加哥大学);Microsoft Research India(微软印度研究院);University of Michigan(密歇根大学)
本文考虑了在线学习算法的稳定性及其对可学习性(有界遗憾)的影响。我们引入了一个新的数量称为{ \em forward regret},直观地衡量一个在线学习算法是多么好,如果它被允许一步前瞻到未来。我们表明,给定的稳定性,有界向前后悔是等价的有界后悔。我们还证明了有界遗憾算法的存在性意味着有界遗憾和有界前向遗憾的稳定算法的存在性。等价结果适用于一般的,可能是非凸的问题。据我们所知,我们的分析提供了第一个一般性的稳定性和遗憾之间的连接,在网上设置,不限于特定类别的算法。我们的稳定性-后悔关系为分析任何在线学习算法所引发的后悔提供了一个简单的方法。使用我们的框架,我们分析了几个现有的在线学习算法,以及“近似”版本的算法,如RDA,解决了优化问题,在每次迭代。我们的证明比现有的分析各自的算法简单,表现出明确的稳定性和前向遗憾之间的权衡,并提供更严格的遗憾界在某些情况下。此外,使用我们的配方,我们分析了几种算法的“近似”版本,例如在每一步都需要解决一个优化问题的跟随正则化领导者(FTRL)。
2012-11-26 cs.LG stat.ML
Smoothed Analysis of Online and Differentially Private Learning
Cornell University(康奈尔大学);Columbia University(哥伦比亚大学)
对算法的鲁棒性和隐私性的实际和普遍需求激发了在线对抗和差异隐私学习算法的设计。在这些设置中表征可学习性的主要数量是假设类的Littlestone维度[Ben-David等人,2009年,Alon等人,2019年]。这种特征通常被解释为不可能的结果,因为线性阈值和神经网络等类具有无限的Littlestone维数。在本文中,我们应用平滑分析的框架[Spielman和Teng,2004],其中逆向选择的输入被自然稍微扰动。我们表明,从根本上更强的遗憾和错误的保证是可能的平滑的对手比最坏情况下的对手。特别是,我们得到的遗憾和隐私的误差范围,只依赖于VC维和括号数的假设类,和扰动的大小。
2020-06-17 cs.DS cs.LG stat.ML
Realizable Learning is All You Need
Yale University(耶鲁大学)
本文提出首个模型无关的三行黑盒归约框架,统一证明可实现与不可知可学习性等价,并将其推广为学习算法性质从有限假设类到可学习假设类的泛化现象。
2024-02-03 cs.LG stat.ML
Rethinking Learnability in Offline Data-driven Optimization
Nanjing University(南京大学)
本文提出算法依赖型可学习性,设计轨迹学习框架,提出UGTL方法,在五个Design-Bench任务上的25种方法中取得最佳综合平均排名3.1/25,验证了轨迹构建的重要作用。
2026-09-03 cs.AI cs.LG cs.NE
Online Ranking with Top-1 Feedback
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
我们考虑一个系统学习排名一组固定的$m$项目的设置。我们的目标是为具有不同兴趣的用户提供良好的项目排名,这些用户在$T$轮中与系统进行在线交互。我们考虑一种新的顶部$1$反馈模型:在每一轮结束时,只有排名靠前的对象的相关性得分被揭示。然而,系统的性能是根据整个排名列表来判断的。我们提供了一套全面的结果,在这个具有挑战性的设置下的可学习性。对于PairwiseLoss和DCG这两种常用的排序测度,我们证明了极小极大后悔是$Θ(T^{2/3})$ .此外,极小极大后悔是可以实现的,使用一个有效的策略,每轮只花$O(m \log m)$时间。同样有效的策略实现了$O(T^{2/3})$对Precision@ $k$的遗憾。令人惊讶的是,我们表明,对于这些排名措施的标准化版本,即,AUC,NDCG \& MAP,没有在线排名算法可以有次线性遗憾。
2016-03-06 cs.LG
Private learning implies quantum stability
IBM Quantum(IBM量子);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心);Stanford University(斯坦福大学)
学习未知的$n$ -量子比特量子态$ρ$是量子计算中的基本挑战。信息-理论上,已知断层摄影需要$n$中的指数形式的$ρ$的多个拷贝以估计它直到迹线距离。受计算学习理论的启发,Aaronson等人引入了许多(较弱的)学习模型:学习状态的PAC模型(皇家学会学报A '07),用于学习状态“阴影”的阴影断层扫描(STOC'18),也要求学习者具有差异隐私的模型(STOC'19)和学习状态的在线模型(NeurIPS'18)。在这些模型中,它被证明是一个未知的状态可以学习“近似”使用线性的$n$许多副本的ρ。但是这些模型之间有什么联系吗?在本文中,我们证明了一系列的(信息理论)的影响,从不同的私人PAC学习,通信的复杂性,在线学习,然后量子稳定性。我们的主要结果概括了Bun,Livni和Moran(ACM'21杂志)的最近工作,他们表明有限的Littlestone维数(布尔值概念类)意味着PAC在(近似)差分私有(DP)设置中的可学习性。我们首先考虑他们在实值环境中的工作,并进一步将他们的技术扩展到学习量子态的环境中。我们的结果的关键是我们的通用量子在线学习器,鲁棒标准最优算法(RSOA),它对对抗性不精确具有鲁棒性。然后,我们显示DP学习量子态在PAC模型,量子态在单向通信模型,在线学习的量子态,量子稳定性(这是我们的概念贡献),各种组合参数之间的信息理论的影响,并给出进一步的应用程序温和…
2021-02-14 cs.LG quant-ph
Learnable and Instance-Robust Predictions for Online Matching, Flows and Load Balancing
Carnegie Mellon University(卡内基梅隆大学);Zhejiang University(浙江大学)
我们提出了一个新的模型,要求他们正式学习和实例强大的预测增强算法。可学习性确保可以从合理数量的过去数据中有效地构建预测。实例鲁棒性确保预测对于问题输入中的适度变化是鲁棒的,其中变化的度量可以是特定于问题的。实例鲁棒性坚持作为变化的函数的性能的平滑降级。理想情况下,性能永远不会比最坏情况下的边界差。这也使得预测能够客观地进行比较。我们设计了在线算法,预测网络流量分配问题和限制分配最大完工时间最小化。对于这两个问题,建立了两个关键属性:高质量的预测可以从先前实例的小样本中学习,并且这些预测对于随着底层问题实例的变化而平滑降级的错误是鲁棒的。
2021-07-02 cs.DS cs.LG
Online Learning: Stochastic and Constrained Adversaries
University of Pennsylvania(宾夕法尼亚大学);TTIC(丰田理工学院芝加哥分校);University of Texas at Austin(德克萨斯大学奥斯汀分校)
学习理论主要集中在两个主要的学习场景。第一种是经典的统计设置,其中实例是独立同分布的。第二种情况是在线学习,完全对抗性的情况,其中对手在每个时间步都选择最差的实例提供给学习者。可以说,在现实世界中,这两个假设都是不合理的。因此,重要的是要研究问题的一系列假设的数据。不幸的是,在这方面的理论成果是稀缺的,可能是由于缺乏一般的分析工具。专注于遗憾的制定,我们定义了一个游戏的最小最大值的对手在他的动作受到限制。该框架捕捉了对数据的随机和非随机假设。建立在顺序对称化方法,我们定义了一个概念的分布依赖的拉德马赫复杂度的频谱问题,从i.i.d.最坏的情况。这些界限让我们可以立即推导出变分类型的界限。然后我们考虑i.i.d.对手,并显示等价的在线和批量学习。在监督设置中,我们考虑各种混合假设的方式,x和y变量的选择。最后,我们考虑平滑的学习问题,并表明半空间是在线学习的平滑模型。事实上,在对手的决策中加入指数级的小噪声,将这个具有无限Littlestone维数的问题变成了一个可学习的问题。
2011-04-27 cs.GT cs.LG stat.ML
Multi-fidelity Stability for Graph Representation Learning
New York University(纽约大学)
在基于图表示学习的结构化预测(简称GRL)问题中,算法返回的假设将目标顶点的\emph{receptive field}中的特征集映射到其标签上。为了理解这些算法的可学习性,我们引入了一种较弱形式的一致稳定性称为\emph{multi-fidelity stability},并给出了弱依赖图的学习保证。我们证明了当感受野稀疏时,~ \citet{london2016stability}关于单样本推广的主张对GRL成立。此外,我们还研究了两个流行的算法:\textbf{(1)}随机梯度下降在凸和非凸景观下的稳定性诱导界。在这个例子中,我们提供了高度依赖于由算法构造的感受野的稀疏性的非渐近界。\textbf{(2)} 1层线性等变GNN上的约束回归问题。在这个例子中,我们提出了两种类型的稳定性之间的差异,证明了多保真度设计的下限。
2021-11-25 cs.LG
Apple Tasting: Combinatorial Dimensions and Minimax Rates
本文从组合视角研究苹果品鉴反馈下的在线二分类可学习性,证明Littlestone维度可紧致刻画不可知设定下的学习难度,提出有效宽度参数量化可实现设定下的极小极大错误数,并建立该设定下错误数的三分性结论。
2024-06-18 cs.LG stat.ML
The Dimension of Self-Directed Learning
Purdue University(普渡大学)
本文提出维度$SDdim$,通过“标注博弈”精确刻画自指导学习的错误界,并在多种概念类上计算该维度,同时分析了自指导学习与离线序列学习模型的可学习性差距及不可知设置下的上下界。
2024-02-20 cs.LG stat.ML
Small Loss Bounds for Online Learning Separated Function Classes: A Gaussian Process Perspective
Microsoft Research NYC(微软研究院纽约市);MIT(麻省理工学院)
本文从高斯过程视角提出ρ-分离概念,统一小分离集与γ-可近似性,并设计预言机高效算法以更一般条件获得改进的小损失界及差分隐私最优速率。
2025-02-14 cs.LG stat.ML
Online Learning, Stability, and Stochastic Gradient Descent
Massachusetts Institute of Technology(麻省理工学院)
在批处理学习中,稳定性以及解的存在性和唯一性对应于经验风险最小化(ERM)方法的适定性;最近,证明了CV_loo稳定性对于ERM的推广性和一致性是必要和充分的。在本文中,我们介绍CV_on稳定性,它在在线学习中起着类似的作用。我们证明了在通常的假设下随机梯度下降(SDG)是CV_on稳定的,并讨论了CV_on稳定性对SGD收敛性的影响.
2011-09-08 cs.LG
Online Learning in the Random Order Model
Bocconi University(博科尼大学);Meta, UK(Meta公司);Sapienza University of Rome(罗马萨皮恩扎大学)
针对随机顺序模型下有限时间非平稳性导致部分随机学习算法失效的问题,提出适配通用模板以保留悔值保证,还证明该模型下在线分类可学习性由VC维刻画。
2025-10-03 cs.DS cs.LG
Agnostic Private Density Estimation for GMMs via List Global Stability
McMaster University(麦克马斯特大学);Vector Institute(矢量研究院);Google(谷歌公司)
针对不可知场景下高维高斯混合模型的私有密度估计问题,研究人员引入列表全局稳定性的不可知变体,构建对应学习器,首次证明了该问题的样本复杂度上界。
2024-10-06 cs.CR cs.DS cs.IT
Learning in an Echo Chamber: Online Learning with Replay Adversary
University of Pennsylvania(宾夕法尼亚大学);University of Copenhagen(哥本哈根大学);ETH Zurich(苏黎世联邦理工学院)
本文提出回放设置下的在线学习框架,引入扩展阈值维度ExThD(H)作为学习能力的度量,证明了在对抗环境下学习的界限,并展示了正规学习与非正规学习的分离特性。
2025-09-29 cs.LG stat.ML
Stability of the Decoupled Extended Kalman Filter Learning Algorithm in LSTM-Based Online Learning
研究了基于长短期记忆网络(LSTM)的在线学习框架下解耦扩展卡尔曼滤波器学习算法(DEKF)的收敛性和稳定性。为此,我们将DEKF建模为扰动扩展卡尔曼滤波器,并推导出其在LSTM训练期间稳定的充分条件。我们表明,如果由于解耦引入的扰动保持有界,DEKF学习LSTM参数具有与全局扩展卡尔曼滤波器学习算法相似的收敛性和稳定性。我们用几个数值模拟验证了我们的结果,并将DEKF与其他LSTM训练方法进行了比较。在我们的模拟中,我们还观察到,文献中用于DEKF的著名超参数选择方法满足我们的条件。
2021-05-31 cs.LG eess.SP stat.ML
Online Non-convex Optimization with Long-term Non-convex Constraints
Department of Electrical and Computer Engineering(电气与计算机工程系);Johns Hopkins University(约翰霍普金斯大学);International Business School(国际商务学院);Suzhou Xi’an Jiaotong-Liverpool University(苏州市西安交通大学利物浦大学);Department of Data and Systems Engineering(数据与系统工程系);HKU Musketeers Foundation(HKU Musketeers基金会);Institute of Data Science(数据科学研究所);The University of Hong Kong(香港大学)
针对目标和约束均非凸的在线长期约束优化问题,提出结合拉格朗日重构、原始方向指数随机扰动与对偶方向强凹对数正则化的Follow-the-Perturbed-Leader类算法,首次实现次线性累积悔度,在河流污染源识别任务上性能优于现有方法。
2025-10-01 cs.LG math.OC
Stabilized Sparse Online Learning for Sparse Data
Columbia University(哥伦比亚大学)
随机梯度下降(SGD)通常用于大规模机器学习问题的优化。Langford等人(2009)介绍了一种稀疏在线学习方法,通过截断梯度来诱导稀疏性。然而,对于高维稀疏数据,由于特征稀疏性的异质性,该方法收敛速度慢且方差大。为了缓解这个问题,我们引入了一个稳定的截断随机梯度下降算法。我们采用软阈值方案的权重向量,其中施加的收缩是自适应的每个功能中可用的信息量。所得到的稀疏权重向量的可变性进一步控制的稳定性选择集成的信息截断。为了更好地收敛,我们采用了一种退火策略的截断率,这导致了一个平衡的权衡之间的探索和利用学习稀疏的权重向量。数值实验表明,该算法在预测精度、稀疏性和稳定性方面优于原算法。
2017-05-09 cs.LG stat.ML
Online Learning of Quantum States
UT Austin(得克萨斯大学奥斯汀分校);Princeton University(普林斯顿大学);Google AI Princeton(谷歌人工智能普林斯顿分部);Google AI, New York(谷歌人工智能纽约分部);University of Waterloo(滑铁卢大学)
假设我们有一个未知的$n$ -量子位态$ρ$的许多副本。我们使用已知的双结果测量$E_{1}$测量$ρ$的一些拷贝,然后使用测量$E_{2}$测量其他拷贝,等等。在每个阶段$t$,我们使用先前测量的结果生成关于状态$ρ$的当前假设$σ_{t}$。我们表明,这是可能做到这一点的方式,保证$|\operatorname{Tr}(E_{i} σ_{t}) - \operatorname{Tr}(E_{i}ρ) |$,在我们的预测下一个测量的错误,是至少$\varepsilon$在最多$\operatorname{O}\!\left(n / \varepsilon^2 \right) $倍。即使在“不可实现”的设置-在测量结果中可能存在任意噪声-我们展示了如何输出假设状态,这些假设状态在第一次$T$测量时最多$\operatorname{O}\!\left(\sqrt {Tn}\right) $次明显比最佳可能状态差。这些结果将Aaronson在2007年提出的关于量子态的PAC可学习性的定理推广到在线和遗憾最小化设置。我们给出了三种不同的方法来证明我们的结果-使用凸优化,量子后选择,和顺序脂肪粉碎尺寸-这在参数和可移植性方面有不同的优势。
2019-12-06 cs.LG quant-ph
Enhancing Distributional Stability among Sub-populations
Tsinghua University(清华大学);Huawei Technologies Co Ltd(华为技术有限公司)
针对分布外泛化中严格不变性依赖强假设的局限,提出“分布稳定性”概念及泛化误差界限,并设计了稳定风险最小化(SRM)算法以增强模型对预测机制偏移的稳定性。
2024-02-14 cs.LG
Online Learning via the Differential Privacy Lens
Georgia Institute of Technology(佐治亚理工学院);University of Michigan(密歇根大学);Google Brain(谷歌大脑);Boston University(波士顿大学);Northeastern University(东北大学)
在本文中,我们使用差分隐私作为一个镜头,检查在线学习在完全和部分信息设置。差分隐私框架本质上与隐私无关,而更多地与算法稳定性有关,因此在信息安全为中心的领域之外的领域中找到了应用。在这里,我们开发了一个算法的属性称为一步差分稳定性,便于更精细的遗憾分析在线学习方法。我们发现,从差分隐私文献的工具可以产生遗憾的界限,许多有趣的在线学习问题,包括在线凸优化和在线线性优化。我们的稳定性概念是特别适合于推导一阶遗憾界跟随扰动的领导者算法,这是所有以前的分析一直在努力实现。我们还推广了标准的最大发散,以获得更广泛的类Tsallis最大发散。这些定义了更强的稳定性概念,这在部分信息设置中(如多武装土匪和专家土匪)导出界限时很有用。
2019-10-28 cs.LG
New Insights for the Stability-Plasticity Dilemma in Online Continual Learning
Seoul National University(首尔大学);DeepBrain AI Inc.(深脑人工智能公司);Ewha Womans University(梨花女子大学)
持续学习的目的是不断地学习新的任务(即,可塑性)而不会忘记先前从旧任务中学习的知识(即,稳定性)。在在线持续学习的场景中,其中数据严格地以流的方式来,在线持续学习的可塑性比离线持续学习更脆弱,因为可以从单个数据点获得的训练信号是有限的。为了克服在线持续学习的稳定性和可塑性的困境,我们提出了一个在线持续学习框架命名为多尺度特征自适应网络(MuFAN),利用更丰富的上下文编码提取从不同级别的预训练网络。此外,我们引入了一种新的结构方面的蒸馏损失,并取代常用的批量归一化层与新提出的稳定性塑性归一化模块训练MuFAN,同时保持高的可塑性和稳定性。MuFAN在SVHN、CIFAR 100、miniImageNet和CORe 50数据集上的表现优于其他最先进的持续学习方法。广泛的实验和消融研究验证了每个组件的重要性和可扩展性:1)来自预训练编码器的多尺度特征图,2)结构方面的蒸馏损失,以及3)MuFAN中的稳定性-可塑性归一化模块。代码可在https://github.com/whitesnowdrop/MuFAN上公开获取。
2023-02-17 cs.AI cs.CV cs.LG
NROWAN-DQN: A Stable Noisy Network with Noise Reduction and Online Weight Adjustment for Exploration
Jilin University(吉林大学)
深度强化学习在当今的应用越来越广泛,尤其是在各种复杂的控制任务中。对噪声网络的有效探索是深度强化学习中最重要的问题之一。嘈杂的网络往往会为代理人产生稳定的输出。然而,这种趋势并不总是足以找到一个稳定的政策,代理,这降低了效率和稳定性在学习过程中。本文在NoisyNets的基础上,提出了一种NROWAN-DQN算法,降噪和在线权重调整NoisyNet-DQN。首先,我们为NoisyNet-DQN开发了一种新的降噪方法,使智能体执行稳定的动作。其次,我们设计了一个在线的权重调整策略,以减少噪音,提高了稳定的性能,并为代理获得更高的分数。最后,我们在四个标准域上对该算法进行了评估,并分析了超参数的性质。我们的研究结果表明,NROWAN-DQN优于以前的算法在所有这些领域。此外,NROWAN-DQN还显示出更好的稳定性。NROWAN-DQN分数的方差显著降低,特别是在一些行动敏感的环境中。这意味着在某些需要高稳定性的环境中,NROWAN-DQN将比NoisyNets-DQN更合适。
2020-06-19 cs.AI cs.LG stat.ML