Optimal Algorithms for Stochastic Multi-Level Compositional Optimization
Nanjing University(南京大学);The University of Iowa(爱荷华大学)
本文研究了随机多层组合优化问题,其中目标函数是多个光滑但可能非凸的函数的组合。现有的解决这个问题的方法要么遭受次优的样本复杂性或需要一个巨大的批量大小。为了解决这些限制,我们提出了一种随机多水平方差减少方法(SMVR),它实现了最佳的样本复杂度的$\mathcal{O}\left(1 / ε^{3}\right)$找到一个$ε$ -平稳点的非凸目标。此外,当目标函数满足凸性或Polyak-Projojasiewicz(PL)条件时,我们提出了SMVR的一个阶段式变体,并将样本复杂度提高到对于凸函数的$\mathcal{O}\left(1 / ε^{2}\right)$或对于满足$μ$ -PL条件的非凸函数的$\mathcal{O}\left(1 /\left(με\right)\right)$.后者的结果意味着相同的复杂性$μ$ -强凸函数。为了利用自适应学习率,我们还开发了自适应SMVR,它实现了相同的复杂性,但在实践中收敛得更快。我们所有的复杂度不仅在$ε$方面,而且在$μ$(对于PL或强凸函数)方面都匹配下界,而无需在每次迭代中使用大批量。
2022-10-19 cs.LG math.OC
Stochastic Compositional Gradient Descent under Compositional Constraints
Indian Institute of Technology Kanpur(印度理工学院坎普尔分校);Ecole Polytechnique Federale de Lausanne(洛桑联邦理工学院)
本文研究了约束随机优化问题,其中目标函数和约束函数都是凸的,并表示为随机函数的组合。这个问题出现在公平分类、公平回归和排队系统设计的背景下。特别令人感兴趣的是大规模的设置,其中一个预言机提供了组成函数的随机梯度,目标是用最少数量的调用来解决问题。由于组合形式,由预言机提供的随机梯度不产生目标或约束梯度的无偏估计。相反,我们通过跟踪内部函数的评估来构造近似梯度,从而得到准梯度鞍点算法。我们证明了所提出的算法是保证找到最优的和可行的解决方案几乎肯定。我们进一步建立所提出的算法需要$\mathcal{O}(1/ε^4)$数据样本,以获得一个$ε$近似的最佳点,同时也确保零约束违反。结果匹配的随机成分梯度下降方法的无约束问题的样本复杂性,并提高了最知名的样本复杂性的结果的约束设置。公平分类和公平回归问题的算法的有效性进行了测试。数值结果表明,所提出的算法优于国家的最先进的算法的收敛速度。
2022-09-10 cs.LG
Stability and Generalization of Stochastic Compositional Gradient Descent Algorithms
University at Albany, SUNY(纽约州立大学奥尔巴尼分校);Texas A&M University(德克萨斯农工大学)
本文在统计学习理论框架下,通过引入组合均匀稳定性概念,首次分析了随机组合梯度下降算法(SCGD和SCSC)的稳定性与泛化性,并推导出维度无关的超额风险界。
2023-11-21 cs.LG stat.ML
Multi-block-Single-probe Variance Reduced Estimator for Coupled Compositional Optimization
Nanjing University(南京大学);the University of Iowa(爱荷华大学);Texas A&M University(得克萨斯农工大学)
方差减少技术,如SPIDER/SARAH/STORM已被广泛研究,以提高收敛速度的随机非凸优化,通常保持和更新一个序列的估计一个单一的功能跨越迭代。如果我们需要在迭代中跟踪多个函数映射,但只能在每次迭代中访问$\mathcal{O}(1)$函数映射的随机样本,该怎么办?有一个重要的应用,在解决一个新兴的家庭的耦合组合优化问题的形式$\sum_{i=1}^m f_i(g_i(\mathbf{w}))$,其中$g_i$是通过一个随机预言机访问。关键问题是跟踪和估计跨迭代的$\mathbf g(\mathbf{w})=(g_1(\mathbf{w}), \ldots, g_m(\mathbf{w}))$序列,其中$\mathbf g(\mathbf{w})$具有$m$块,并且仅允许探测$\mathcal{O}(1)$块以获得它们的随机值和雅可比矩阵。为了提高解决这些问题的复杂性,我们提出了一种新的随机方法称为多块单探针方差缩减(MSVR)估计跟踪序列的$\mathbf g(\mathbf{w})$。它受到STORM的启发,但引入了定制的纠错项,以减轻不仅在所选块的随机样本中的噪声,而且在未采样的那些块中的噪声。在MSVR估计器的帮助下,我们开发了几种算法,用于解决上述组合问题,并在非凸/凸/强凸/Polyak-Jasojasiewicz(PL)目标的设置范围内提高了复杂性。我们的结果在几…
2022-12-30 cs.LG math.OC
Compositional Stochastic Average Gradient for Machine Learning and Related Applications
The Pennsylvania State University(宾夕法尼亚州立大学);College of Information Science and Technology(信息科学与技术学院);Department of Computer Science and Engineering(计算机科学与工程系)
许多机器学习、统计推断和投资组合优化问题需要期望价值函数组合(CEVF)的最小化。特别感兴趣的是有限和版本的组合优化问题(FS-CEVF)。组合随机方差约减梯度(C-SVRG)方法结合了随机组合梯度下降(SCGD)和随机方差约减梯度下降(SVRG)方法,是求解FS-CEVF问题的最新方法。本文介绍了合成随机平均梯度下降法(C-SAG),它是随机平均梯度法(SAG)的一种新的扩展,用于最小化有限和函数的合成。与SAG类似,C-SAG通过合并先前梯度信息的记忆来估计梯度。我们提出了C-SAG的理论分析表明,C-SAG,SAG,和C-SVRG,实现了线性收敛速度时,目标函数是强凸的,但C-CAG实现了较低的Oracle查询的复杂度比C-SVRG每次迭代。最后,我们提出的实验结果表明,C-SAG收敛速度大大快于全梯度(FG),以及C-SVRG。
2018-09-07 cs.CC cs.LG stat.ML
Optimal Momentum Methods for Stochastic Multilevel Compositional Optimization
Nanjing University of Science and Technology(南京理工大学);Nanjing University(南京大学);Zhejiang University(浙江大学)
本文提出动量估计器与小批量技术,实现随机多级组合优化的最优样本复杂度,无需强平均光滑假设,并通过实验验证有效性。
2026-10-02 cs.LG math.OC
FedNest: Federated Bilevel, Minimax, and Compositional Optimization
University of Michigan(密歇根大学);University of California, Riverside(加州大学河滨分校);University of British Columbia(不列颠哥伦比亚大学)
标准的联邦优化方法成功地应用于单级结构的随机问题。然而,许多当代机器学习问题-包括对抗鲁棒性,超参数调整和演员-评论家-都属于嵌套双层编程,其中包含极大极小和组合优化。在这项工作中,我们提出了\fedblo:一种用于解决一般嵌套问题的联邦交替随机梯度方法。我们建立了可证明的收敛速度\fedblo在异构数据的存在下,并介绍了双层,极大极小和组合优化的变化。\fedblo引入了多项创新,包括联合超梯度计算和方差减少,以解决内部层次的异构性。我们补充我们的理论与实验超参数\&超表示学习和极大极小优化,证明我们的方法在实践中的好处。代码可在https://github.com/ucr-optml/FedNest上获得。
2022-09-13 cs.LG math.OC
Projection-Free Variance Reduction Methods for Stochastic Constrained Multi-Level Compositional Optimization
Nanjing University(南京大学);Zhejiang University(浙江大学)
本文针对随机约束多层级复合优化提出无投影方差缩减算法,在梯度映射和Frank-Wolfe间隙准则下均达到或匹配最优复杂度,并扩展至凸与强凸情形,实验验证了其有效性。
2024-06-06 cs.LG math.OC
Katyusha Acceleration for Convex Finite-Sum Compositional Optimization
Rensselaer Polytechnic Institute(伦斯勒理工学院)
在许多应用中出现结构化问题。为了解决这些问题,重要的是利用结构信息。本文主要研究具有有限和组合结构的凸问题。随机和问题是一个随机最优化问题的样本平均近似,也出现在机器学习与大量的训练数据。有限和问题的一种常用数值方法是随机梯度法(SGM)。然而,额外的组合结构禁止容易地获得无偏的随机逼近的梯度,所以直接应用SGM有限和组合优化问题(COP)往往是低效的。我们设计了新的算法来解决强凸和凸两级有限和COP。我们的设计结合了卡秋莎加速技术,并采用了小批量抽样从外层和内层有限和。我们首先分析了强凸有限和COP的算法。类似于一些现有的作品,我们得到线性收敛速率的预期目标误差,并从收敛速度的结果,然后,我们建立复杂性的结果,算法产生一个$\varepsilon$ -解决方案。我们的复杂性的结果有相同的依赖于组件功能的数量现有的作品。然而,由于使用喀秋莎加速,我们的结果有更好的依赖于条件数$κ$和改善$κ^{2.5}$从最著名的$κ^3$。最后,我们分析了凸有限和COPs的算法,它使用强凸有限和COPs的算法作为子程序。再次,我们获得了更好的复杂性结果比现有的作品在$\varepsilon$的依赖,改善$\varepsilon^{-2.5}$从最有名的$\varepsilon^{-3}$。
2021-03-24 cs.LG cs.NA math.NA
Nearly Optimal Robust Method for Convex Compositional Problems with Heavy-Tailed Noise
University of Iowa(爱荷华大学)
在本文中,我们提出了鲁棒随机算法求解形式为$f(\E_ξg(\cdot; ξ)) + r(\cdot)$的凸合成问题,通过建立{ \bf sub-Gaussian置信界}在弱假设下的噪声分布,即,{ \bf heavy-tailed noise}具有有界二阶矩。可以通过使用将低概率收敛结果提升为高概率结果的现有提升策略来实现该目标。然而,拼凑现有的解决组合问题的结果有几个缺点:(i)提升技术需要强凸的目标;(ii)它需要一个单独的算法来处理非光滑的$r$ ;(iii)它也遭受了额外的多对数因子的条件数。为了解决这些问题,我们直接开发了一个单次试验随机算法最小化最优强凸组合目标,它有一个接近最优的高概率收敛结果匹配的随机强凸优化的下限的对数因子。据我们所知,这是第一个工作,建立了近最佳的次高斯置信区间的组合问题下重尾假设。
2020-06-17 cs.LG stat.ML
Stochastic Momentum Methods for Non-smooth Non-Convex Finite-Sum Coupled Compositional Optimization
Department of CSE, Texas A&M University(计算机科学与工程系,德克萨斯农工大学);Tippie College of Business, The University of Iowa(泰普斯商学院,爱荷华大学)
针对非凸非光滑有限和耦合组合优化现有方法迭代复杂度高、不适用深度学习的问题,提出带收敛保证的随机动量方法,将迭代复杂度降至$O(1/ε^5)$,还拓展至带不等式约束的非凸优化,实验验证了有效性。
2025-10-29 cs.LG
Decentralized Multi-Level Compositional Optimization Algorithms with Level-Independent Convergence Rate
Temple University(天普大学)
本文研究去中心化随机多层组合优化问题,提出两种新颖的去中心化优化算法,在比现有单机算法更温和的条件下首次实现了与层数无关的非凸收敛速率,并通过大量实验验证了其有效性。
2024-05-31 cs.LG
Solving Finite-sum Coupled Compositional Optimization via Multi-block-Single-probe Estimator
Nanjing University of Science and Technology(南京理工大学);Nanjing University(南京大学)
针对有限和耦合组合优化问题,提出多块单探针方差缩减估计器,在部分块采样下高效追踪多函数,改进非凸等目标的样本复杂度,并在多任务深度AUC最大化中验证优越性。
2026-09-15 cs.LG math.OC
Zeroth-order Stochastic Compositional Algorithms for Risk-Aware Learning
Yale University(耶鲁大学);Princeton University(普林斯顿大学)
我们提出了$\textit{Free-MESSAGE}^{p}$,第一个零阶算法(弱)凸的均值-半指数为基础的风险感知学习,这也是第一个三级零阶组合随机最优化算法。使用非平凡的扩展Nesterov的经典结果高斯平滑,我们开发的$\textit{Free-MESSAGE}^{p}$算法从第一原则,并表明,它基本上解决了一个平滑的替代原来的问题,前者是一个一致逼近,后者,在一个有用的,方便的意义。然后,我们提出了一个完整的分析的$\textit{Free-MESSAGE}^{p}$算法,它建立了收敛在一个用户可调邻域的最优解的凸成本,以及明确的收敛速度凸,弱凸,强凸成本,并在一个统一的方式。顺序,并为固定的问题参数,我们的研究结果表明,没有牺牲收敛速度相比,现有的一阶方法,同时达到一定的平衡之间的条件的问题,它的维数,以及所获得的结果的准确性,自然扩展以前的结果在零阶风险中性学习。
2021-12-13 cs.LG cs.SY eess.SP
Improved Oracle Complexity of Variance Reduced Methods for Nonsmooth Convex Stochastic Composition Optimization
考虑了目标函数为两个有限和函数复合的非光滑凸复合最优化问题,分析了随机复合方差约化梯度(SCVRG)方法. SCVRG及其变体最近因其优于随机成分梯度下降(SCGD)而引起了广泛关注;但理论分析仅假设目标的强凸性,排除了几个重要的例子,如Lasso,逻辑斯谛回归,主成分分析和深度神经网络。相比之下,我们证明了非渐近增量的一阶预言(IFO)复杂性SCVRG或其新的变种非光滑凸组合优化,并表明它们是可证明的速度比SCGD和梯度下降。更具体地说,我们的方法实现了总的IFO复杂度的$O\left((m+n)\log\left(1/ε\right)+1/ε^3\right)$,提高了$O\left(1/ε^{3.5}\right)$和$O\left((m+n)/\sqrtε\right)$分别获得SCGD和加速梯度下降(AGD)。实验结果证实,我们的方法优于几个现有的方法,例如,稀疏均值-方差最优化问题的SCGD和AGD。
2019-07-30 cs.LG math.OC
Tighter Analysis of Alternating Stochastic Gradient Method for Stochastic Nested Problems
Rensselaer Polytechnic Institute(伦斯勒理工学院);University of California, Los Angeles(加州大学洛杉矶分校)
随机嵌套优化,包括随机组合优化、最小最大优化和双层优化,在许多机器学习应用中越来越受欢迎。虽然这三个问题共享的嵌套结构,现有的作品往往把它们分开,从而开发特定问题的算法和分析。在各种令人兴奋的发展中,简单的SGD型更新(可能是多个变量)在解决这类嵌套问题中仍然很普遍,但与非嵌套问题相比,它们的收敛速度较慢。本文将求解随机嵌套问题的几种SGD型修正方法统一为一种SGD方法,我们称之为交替随机梯度法(ALSET)。通过利用隐藏的光滑性问题,本文提出了一个更严格的分析ALSET随机嵌套问题。在新的分析下,要实现嵌套问题的$ε$ -平稳点,需要${\cal O}(ε^{-2})$样本。在一定的正则条件下,将我们的结果应用于随机组合,最小最大和强化学习问题,可以提高或匹配相应情况下最知名的样本复杂度。我们的研究结果解释了为什么简单的SGD型算法在随机嵌套问题中都工作得很好,在实践中,而不需要进一步的修改。
2021-06-25 cs.LG math.OC stat.ML
A Factorial Mixture Prior for Compositional Deep Generative Models
DeepMind(深度思维)
我们假设一个高维的数据,像一个图像,是一组属性的组合表达,与数据和它的属性之间的复杂的非线性关系。本文提出了一种用于捕获潜在属性的阶乘混合先验,从而为深度生成模型添加了结构化组合。先验将潜在向量视为属于子空间的笛卡尔积,每个子空间都用高斯混合模型单独量化。只要存在标记的属性,就可以将某些混合成分设置为将属性表示为观察到的随机变量。通过随机变分推断和梯度下降的组合,学习如何推断离散属性的方法,在无监督或半监督的方式概述和经验评估。
2018-12-18 cs.AI cs.LG stat.ML
Federated Compositional Deep AUC Maximization
Temple University(天普大学);Texas A&M University(德克萨斯农工大学)
针对联邦学习中数据类别高度不平衡导致预测性能差的问题,提出直接优化AUC的联邦组合极小极大优化方法,开发带动量的本地随机组合梯度下降上升算法并给出复杂度界限,大量实验验证了其有效性。
2024-05-31 cs.LG
A Learning Theory in Linear Systems under Compositional Models
Schlumberger(斯伦贝谢)
我们提出了一个学习理论的线性系统运营商的培训有一个输入组成变量,并提出了贝叶斯反演方法推断未知变量从一个嘈杂的线性系统的输出。我们假设我们对算子有部分甚至没有知识,但有输入和输出的训练数据。组成变量满足变量的元素都是非负的并且总和为1的约束。我们量化了训练算子的不确定性,并以显式形式给出了随机组合模型下几种有趣情况下的训练收敛率。训练的线性算子与协方差阵,估计从地面实况输入和噪声输出数据对的训练集,进一步用于评估解决方案的后验不确定性。这种后验不确定性清楚地表明了来自噪声训练数据的不确定性传播,并解决了最终解决方案中真实算子和估计算子之间可能存在的不匹配。
2018-06-29 cs.LG stat.ML
A Compositional Object-Based Approach to Learning Physical Dynamics
MIT(麻省理工学院)
我们提出了神经物理引擎(NPE),这是一个用于学习直观物理模拟器的框架,它可以自然地概括可变的对象数量和不同的场景配置。我们提出了一个可组合的基于对象的表示和一个神经网络架构,其组成结构分解成成对的相互作用的对象动态的一个物理场景的分解。像一个符号物理引擎一样,NPE被赋予了对象及其相互作用的通用概念;实现为神经网络,它可以通过随机梯度下降进行训练,以适应不同世界的特定对象属性和动态。我们评估我们的方法在二维世界中的简单刚体动力学的功效。通过比较结构化程度较低的架构,我们表明,NPE的组成表示的结构在物理相互作用提高了其预测运动的能力,概括在变量对象计数和不同的场景配置,并推断潜在的属性的对象,如质量。
2017-03-04 cs.AI cs.LG
Stochastic Recursive Momentum Method for Non-Convex Compositional Optimization
我们提出了一种新的随机最优化算法,称为STORM-组合优化,最大限度地减少了两个随机函数的期望组合,后者是一个最优化问题,出现在各种重要的机器学习应用。通过在成分梯度更新中引入动量项,STORM-Compositional以指数移动平均的方式操作随机递归方差约减的成分梯度。这导致STORM-组合的$O(\varepsilon^{-3})$复杂度上界,其匹配先前宣布的组合优化算法中的最佳已知复杂度界限。同时,STORM-组合是一个单循环算法,避免了在大批量和小批量之间进行典型的交替调整,以及记录检查点梯度,这些都是方差减少的随机梯度法中持续存在的。这使得相当简单的参数调整在数值实验中,这表明了优于其他随机组合优化算法的STORM组合。
2020-06-07 math.OC
Stochastic Recursive Variance Reduction for Efficient Smooth Non-Convex Compositional Optimization
Peking University(北京大学);University of Rochester(罗切斯特大学);Kwai Inc.(快手公司)
随机组合优化出现在许多重要的机器学习任务中,例如强化学习和投资组合管理中的价值函数评估。目标函数是随机函数的两个期望的组合,并且比普通随机最优化问题更具有挑战性。本文研究了一般光滑非凸环境下的随机合成优化问题。我们采用最近发展起来的\textit{Stochastic Recursive Gradient Descent}的思想设计了一个新的算法SARAH-Compositional,并证明了一个尖锐的增量一阶Oracle(IFO)复杂性上界:$\mathcal{O}((n+m)^{1/2} \varepsilon^{-2})$在有限和情况下和$\mathcal{O}(\varepsilon^{-3})$在线的情况下.这样的复杂性是已知的最好的一个IFO复杂性结果的非凸随机组合优化,并被认为是最优的。我们的实验验证了我们的算法的理论性能。
2020-01-25 cs.LG math.OC stat.ML
Stochastic Compositional Optimization with Compositional Constraints
Department of Industrial Engineering and Decision Analytics, The Hong Kong University of Science and Technology(香港理工大学工业工程与决策分析系);School of Industrial Engineering, Purdue University(普渡大学工业工程学院);Department of Biostatistics and Bioinformatics, Duke University(杜克大学生物统计与生物信息学系)
本文提出一种融合单层期望值与两层组合约束的随机组合优化模型,并设计原始-对偶算法,以$O(1/√N)$速率收敛至最优解,适用于风险规避优化与投资组合选择。
2025-05-25 cs.LG math.OC
A Geometry-Aware Efficient Algorithm for Compositional Entropic Risk Minimization
Texas A\&M University(德克萨斯A&M大学);University of Texas, Austin(德克萨斯大学奥斯汀分校);National Taiwan University(国立台湾大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
针对组合熵风险最小化问题,提出几何感知随机算法SCENT,利用负指数函数诱导的Bregman散度进行随机近端镜像下降,实现凸问题O(1/√T)收敛率,并在极端分类、部分AUC最大化等任务中优于基线。
2026-06-25 cs.LG
Provable Multi-instance Deep AUC Maximization with Stochastic Pooling
University of Iowa(爱荷华大学);Texas A&M University(德克萨斯农工大学);Beijing Institute of Ophthalmology(北京眼科研究所);Beijing Tongren Hospital(北京同仁医院);Capital Medical University(首都医科大学)
针对多示例学习中包过大导致标准池化难以进行 GPU 反向传播的问题,本文提出带随机平滑最大或注意力池化的可证 MIDAM 算法,并验证其收敛性与性能优势。
2023-06-06 cs.AI cs.LG
A Study of Gradient Descent Schemes for General-Sum Stochastic Games
Indian Institute of Science(印度科学学院)
零和随机博弈很容易解决,因为它们可以被转换为简单的马尔可夫决策过程。然而,这不是一般和随机游戏的情况。Filar和Vrieze [2004]给出了一般和随机博弈的一个相当一般的优化问题公式。然而,该优化问题具有非线性目标和非线性约束,具有特殊的结构。由于这个优化问题的目标和约束的梯度都被很好地定义,基于梯度的方案似乎是一个自然的选择。我们讨论了两人随机博弈的梯度调整方案。我们在模拟中表明,该计划确实收敛到一个纳什均衡,一个简单的地形勘探问题建模为一般和随机游戏。然而,事实证明,只有全局最小值的优化问题对应的基本一般和随机博弈的纳什均衡,而梯度计划只能保证收敛到局部最小值。然后,我们提供了重要的必要条件梯度计划收敛到纳什均衡一般和随机游戏。
2015-07-01 cs.GT cs.LG
Distributed Stochastic Compositional Optimization Problems over Directed Networks
研究了有向通信网络上的分布式随机组合最优化问题,其中智能体私有一个随机组合目标函数,并通过协作来最小化所有目标函数之和.本文提出了一种分布式随机组合梯度下降算法,该算法采用梯度跟踪和随机校正技术,以适应网络的有向结构,提高内函数估计的精度。当目标函数光滑时,该方法的收敛速度和样本复杂度分别为$\mathcal{O}\left(k^{-1/2}\right)$和$\mathcal{O}\left(\frac{1}{ε^2}\right)$,并能找到($ε$)-平稳点.当目标函数为强凸时,收敛速度提高到$\mathcal{O}\left(k^{-1}\right)$ .此外,还给出了该方法的Polyak-Ruppert平均迭代的渐近正态性.我们证明了所提出的方法在模型不可知的元学习问题和逻辑斯谛回归问题上的经验性能。
2022-03-21 math.OC
Stochastic Compositional Optimization via Hybrid Momentum Frank--Wolfe
Machine Learning and Optimization Laboratory (MLO)(机器学习与优化实验室)
本文提出混合动量随机Frank-Wolfe算法,无需假设外层函数F的光滑性,结合动量Jacobian追踪器与泰勒修正函数追踪器,实现非凸目标函数的O(K^{-1/4})收敛率。
2026-10-12 cs.LG math.OC
Numerical Methods for Distributed Stochastic Compositional Optimization Problems with Aggregative Structure
研究了网络上的分布式随机组合最优化问题,其中所有智能体的内层函数是每个智能体的私有期望函数之和。针对内层函数的聚集结构,采用混合方差约简方法获取各Agent的私有期望函数信息,并采用动态一致性机制跟踪各Agent的内层函数信息.然后结合标准的分布式随机梯度下降法,提出了一种分布式聚集随机合成梯度下降法。当目标函数光滑时,该方法具有最优的收敛速度$\mathcal{O}\left(K^{-1/2}\right)$ .我们进一步将该方法与通信压缩相结合,提出了通信压缩变量分布聚集随机合成梯度下降法。所提出的方法的压缩变体保持最佳的收敛速度$\mathcal{O}\left(K^{-1/2}\right)$。分散强化学习的仿真实验验证了所提方法的有效性。
2022-11-04 math.OC
Projection-Free Multi-level Algorithms for Stochastic Constrained Compositional Optimization
Nanjing University of Science and Technology(南京理工大学);Nanjing University(南京大学);Zhejiang University(浙江大学)
本文提出针对随机约束多级组合优化的无投影算法,利用线性最小化预言机,涵盖非凸、凸及强凸情形,并给出复杂度保证与实验验证。
2026-09-15 cs.LG math.OC
Nonparametric Compositional Stochastic Optimization for Risk-Sensitive Kernel Learning
在这项工作中,我们解决了最优化问题,其中目标函数是期望值的非线性函数,即,合成随机强凸规划我们考虑的情况下,决策变量不是向量值,而是属于再生核希尔伯特空间(RKHS),由风险意识的配方监督学习和马尔可夫决策过程定义在连续空间。我们开发了第一个内存高效的随机算法,我们称之为组合在线学习与内核(COLK)。COLK,在其核心的两个时间尺度的随机逼近方法,解决了这样的事实,即(i)成分的期望值的问题不能解决经典的随机梯度由于存在的内部期望;和(ii)RKHS诱导的参数化的复杂性,这是成比例的迭代指数,这是减轻通过greenhouse构造的子空间投影。我们建立了COLK的几乎必然收敛与衰减步长,线性收敛的意思是一个恒定的步长的邻域,以及事实上,它的复杂性是在最坏的有限。使用监督学习的鲁棒公式的实验表明,COLK可靠地收敛,在训练运行中获得一致的性能,从而克服了过拟合。
2020-11-26 math.OC
Stochastic Gauss-Newton Algorithms for Nonconvex Compositional Optimization
针对一类非凸随机组合最优化问题,提出了两种新的随机高斯-牛顿算法。我们认为在标准假设下的期望和有限和设置,并使用经典的随机和SARAH估计的逼近函数值和雅可比。在期望的情况下,我们建立了$\mathcal{O}(\varepsilon^{-2})$迭代复杂度,以达到期望中的一个稳定点,并估计了函数值及其雅可比矩阵的随机预言调用的总数,其中$\varepsilon$是期望的精度。在有限和的情况下,我们还估计了$\mathcal{O}(\varepsilon^{-2})$迭代复杂度和总的oracle调用的高概率。据我们所知,这是第一次为随机高斯-牛顿方法建立这样的全局随机预言复杂性。最后,我们通过两个数值例子来说明我们的理论结果在合成和真实的数据集。
2020-07-02 math.OC stat.ML
Multistage Conditional Compositional Optimization
EPFL(瑞士联邦理工学院);Rutgers University(罗格斯大学)
本文提出多阶段条件组合优化(MCCO)新范式,结合多阶段随机规划与条件随机优化,通过减少嵌套期望和非线性成本函数来解决不确定性决策问题,适用于最优停止、线性二次调节器、分布鲁棒上下文老虎机等场景。
2026-04-15 cs.LG math.OC stat.ML
Approximations of Stochastic Hybrid Systems: A Compositional Approach
Technische Universität München(慕尼黑工业大学);ETH Zürich(苏黎世联邦理工学院);ETH Lausanne(洛桑联邦理工学院)
本文提出了一种组合框架,用于构建随机混合系统互联的近似。通过量化近似与原系统间的误差,为控制器设计提供替代方案。
2016-04-24 cs.SY eess.SY math.OC
Learning Unnormalized Statistical Models via Compositional Optimization
Nanjing University(南京大学);University at Buffalo(布法罗大学);Texas A&M University(得克萨斯农工大学)
针对非归一化统计模型配分函数处理难、NCE收敛慢的问题,提出基于组合优化的直接优化方法,通过引入噪声分布将对数配分函数表为组合函数,用随机组合优化算法优化,在收敛性及多个任务上优于NCE。
2023-06-13 cs.LG math.OC
Optimal Design of Queuing Systems via Compositional Stochastic Programming
设计良好的排队系统构成了现代通信、分布式计算和内容交付体系结构的支柱。平衡基础设施成本和用户体验指数的设计需要来自电信业务理论和运营研究的工具。设计这种系统的标准方法涉及制定优化问题,这些优化问题力求在遵守服务质量和其他物理约束的同时最大化相关的效用函数。在许多情况下,制定这样的问题需要对到达和离开过程进行简单的假设,以保持问题的简单性。本文提出了一个随机优化框架,用于设计外生过程可能具有任意和未知分布的排队系统。我们发现,许多这样的排队设计问题一般可以制定为随机优化问题的目标和约束是非线性函数的期望。组成结构避免了使用经典的随机近似方法,其中随机梯度往往需要是无偏的。为此,提出了一种约束随机组合梯度下降算法,该算法利用跟踪步骤的预期价值函数。该算法的非渐近性能的特点是通过其迭代复杂度。数值试验验证了理论结果,并证明了所提出的算法的有效性。
2019-07-20 cs.IT math.IT math.OC
Stochastic Nested Compositional Bi-level Optimization for Robust Feature Learning
University of California, Davis(加州大学戴维斯分校);University of Waterloo(滑铁卢大学)
本文提出一种不依赖矩阵求逆和小批量的随机近似算法,用于求解嵌套组合双层优化问题,可达到约 $\ ilde{O}_T(1/ε^{2})$ 的预言机复杂度,并在协变量偏移下的深度神经网络鲁棒特征学习中验证了其有效性。
2023-07-11 cs.DS cs.LG math.OC
Riemannian Stochastic Gradient Method for Nested Composition Optimization
The Ohio State University(俄亥俄州立大学)
针对黎曼流形上的嵌套组合优化问题,提出黎曼随机组合梯度下降(R-SCGD)方法,解决内层随机近似导致的外层梯度偏差,在两层及多层结构中均达到$O(ε^{-2})$的预言机复杂度,并在强化学习策略评估中验证了其有效性。
2024-03-19 cs.LG math.OC
Non-smooth stochastic gradient descent using smoothing functions
University of Cincinnati(辛辛那提大学);Lehigh University(利哈伊大学)
本文研究非光滑外函数与光滑内函数的组合优化问题,通过平滑函数近似非光滑函数,提出平滑随机梯度方法,证明在强凸、凸和非凸设置下的收敛性,展示在某些问题中该方法具有竞争力。
2026-05-13 math.OC
Non-Smooth Weakly-Convex Finite-sum Coupled Compositional Optimization
Texas A&M University(得克萨斯农工大学);Stanford University(斯坦福大学)
本文研究非光滑弱凸有限和耦合复合优化问题,提出单循环算法并证明其收敛复杂度,扩展至三层嵌套结构,并在深度学习双向部分AUC最大化任务中验证了有效性。
2024-09-24 cs.AI cs.LG math.OC
Finite-sum Composition Optimization via Variance Reduced Gradient Descent
Wang等人最近提出的随机组合优化。[2014]使用组合期望形式最小化目标:$\min_x~(\mathbb{E}_iF_i \circ \mathbb{E}_j G_j)(x).$它总结了机器学习,统计和金融中的许多重要应用。在本文中,我们考虑有限和的情况下组合优化:\[\min_x f (x) := \frac{1}{n} \sum_{i = 1}^n F_i \left(\frac{1}{m} \sum_{j = 1}^m G_j (x) \right). \]我们提出了两个算法来解决这个问题,结合随机组合梯度下降(SCGD)和随机方差降低梯度(SVRG)技术。证明了强凸优化问题的一个常数线性收敛速率,大大改善了已知算法的次线性收敛速度$O(K^{-0.8})$。
2017-05-20 math.OC
Multi-Level Stochastic Gradient Methods for Nested Composition Optimization
随机梯度法可扩展用于解决涉及损失函数的经验期望的大规模最优化问题。现有的结果主要适用于目标为一级或二级期望的最优化问题。本文研究了随机路径上的多层组合优化问题,该问题涉及多层组合函数和嵌套期望的组合,并在风险规避优化和序列规划中得到了应用。本文从多时间尺度随机逼近方法出发,提出了一类多层随机梯度法。首先,我们提出了一个基本的$T$级随机合成梯度算法,建立了它的几乎必然收敛性,并得到了一个$n$迭代误差界$O (n^{-1/2^T})$。然后,我们开发了加速的多层随机梯度法,通过使用外插插值计划,以利用各个分量函数的光滑性。当所有的分量函数是光滑的,我们表明,收敛速度提高到$O(n^{-4/(7+T)})$一般目标和$O (n^{-4/(3+T)})$强凸目标。对于非凸问题,我们也给出了几乎必然收敛和收敛速度的结果。数值实验验证了所提出的方法和理论结果。
2018-01-12 math.OC
Compositional federated learning: Applications in distributionally robust averaging and meta learning
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);University of Pittsburgh(匹兹堡大学)
本文提出ComFedL算法解决组合联邦学习框架,通过将分布鲁棒FL和MAML等极小极大优化问题转化为组合优化问题,并证明其$O(1/\sqrt{T})$的收敛速率。
2023-07-26 cs.DC cs.LG math.OC
Stochastic Optimization of Areas Under Precision-Recall Curves with Provable Convergence
The University of Iowa(爱荷华大学);Texas A&M University(得克萨斯农工大学)
本文针对高度不平衡数据集的AUPRC优化问题,提出基于平均精确率最大化的随机算法SOAP,首次实现AUPRC的可证明收敛优化,并在图像和图数据集上验证了其优越性。
2023-04-12 cs.AI cs.CV cs.LG
Large-scale Stochastic Optimization of NDCG Surrogates for Deep Learning with Provable Convergence
Nanjing University(南京大学);the University of Iowa(爱荷华大学)
NDCG,即归一化贴现累积增益,是信息检索和机器学习中广泛使用的排名度量。然而,仍然缺乏有效的和可证明的随机方法来最大化NDCG,特别是对于深层模型。在本文中,我们提出了一个原则性的方法来优化NDCG和它的顶级$K$变体。首先,我们制定了一个新的组合优化问题优化NDCG代理,和一个新的双层组合优化问题优化顶部的$K$ NDCG代理。然后,我们开发了有效的随机算法与可证明的收敛保证的非凸目标。与现有的NDCG优化方法不同,我们的算法的每次迭代的复杂度与小批量的大小,而不是总项目的数量。为了提高深度学习的有效性,我们进一步提出了使用初始预热和停止梯度算子的实用策略。在多个数据集上的实验结果表明,我们的方法在NDCG方面优于先前的排名方法。据我们所知,这是第一次提出随机算法来优化NDCG与可证明的收敛保证。我们提出的方法在LibAUC库中实现,网址为https://libauc.org/。
2023-02-02 cs.AI cs.IR cs.LG
Compositional Construction of Control Barrier Functions for Interconnected Control Systems
在本文中,我们提供了一个合成框架,用于合成混合控制器的互连离散时间控制系统执行规范表示的共同Buchi自动机。特别是,我们首先分解给定的规范,以更简单的可达性任务的基础上,自动机表示补充原co-Buchi自动机。然后,我们提供了一个系统的方法来解决这些简单的可达性任务,通过计算相应的控制障碍函数。我们表明,这样的控制障碍函数可以构造组合,通过假设一些小增益类型的条件和组成所谓的本地控制障碍函数计算的子系统。我们提供了两个系统的技术来搜索局部控制障碍函数的子系统的基础上的平方和优化程序和反例引导归纳综合方法。最后,我们通过两个大规模的案例研究来说明我们的结果的有效性。
2020-02-01 cs.SY eess.SY math.DS
Accelerating Stochastic Composition Optimization
考虑随机复合最优化问题,其中目标是两个期望值函数的复合。我们提出了一种新的随机一阶方法,即加速随机成分邻近梯度(ASC-PG)方法,它更新的基础上查询的采样预言使用两个不同的时间尺度。ASC-PG是第一个可以处理非光滑正则化惩罚的随机复合问题的近似梯度法。我们表明,ASC-PG具有更快的收敛速度比最知名的算法,它实现了最佳的采样误差复杂性在几个重要的特殊情况下。我们进一步展示了ASC-PG在强化学习中的应用,并进行了数值实验。
2016-07-25 math.OC stat.ML
Non-zero Sum Stochastic Differential Games of Fully Coupled Forward-Backward Stochastic Systems
本文考虑了前向-后向随机系统的开环二人非零和随机微分对策。更精确地说,受控系统由一个由多维布朗运动驱动的完全耦合的非线性多维前向-后向随机微分方程描述。证明了相应的二人非零和随机微分对策存在开环Nash平衡点的一个充分条件(验证定理)和一个必要条件.控制域需要是凸的,并且允许两个参与者的容许控制出现在状态方程的漂移和扩散中。
2010-10-12 math.OC
Existence of Nash Equilibrium Points for Markovian Nonzero-sum Stochastic Differential Games with Unbounded Coefficients
本文在马尔可夫框架下研究了非零和随机微分对策。当漂移不再有界且仅满足线性增长条件时,我们证明了博弈的纳什平衡点的存在性。主要工具是向后随机微分方程的概念,在我们的情况下,是多维的连续系数和随机线性增长。
2014-08-05 math.OC math.PR