Adaptive Stochastic Mirror Descent for Constrained Optimization
镜像下降法是求解非光滑凸优化问题的一种著名方法。本文分析了自适应步长MD的随机变化。它的平均收敛速度比固定步长和最佳的下界。
2017-05-04 math.OC
Randomization and sparsity in huge-scale optimization on the Mirror Descent example
我们研究镜像下降法的不同随机化。我们试图提出这样一个随机化,使我们能够尽可能多地使用稀疏的问题。本文还对带函数约束的凸优化问题给出了随机镜像下降法的一个推广。
2016-12-09 math.OC
Implicit Bias of Gradient Descent on Reparametrized Models: On Equivalence to Mirror Descent
Princeton University(普林斯顿大学);Yale University(耶鲁大学)
作为理解过度参数化模型中梯度下降的隐式偏差的努力的一部分,一些结果表明过度参数化模型上的训练轨迹如何被理解为不同目标上的镜像下降。这里的主要结果是一个表征这种现象下的概念称为交换参数化,其中包括所有以前的结果在这种设置。它表明,梯度流与任何交换参数化是等价的连续镜像下降与相关的勒让德函数。相反,具有任何勒让德函数的连续镜像下降可以被视为具有相关的交换参数化的梯度流。后一个结果依赖于纳什嵌入定理。
2022-07-08 cs.LG math.OC
Unifying mirror descent and dual averaging
我们介绍和分析了一个新的家庭的一阶优化算法的推广和统一的镜像下降和双平均。在这个家庭的框架内,我们定义了新的约束优化算法,结合了镜像下降和双平均的优点。我们的初步模拟研究表明,这些新的算法显着优于现有的方法在某些情况下。
2022-06-10 cs.LG math.OC
Primal-dual mirror descent for the stochastic programming problems with functional constraints
针对带函数约束的凸优化问题,提出了原始-对偶随机镜像下降算法。我们得到的收敛速率的大偏差的概率。
2017-07-30 math.OC
Stable Phase Retrieval with Mirror Descent
Normandie Univ(诺曼底大学);ENSICAEN(卡昂高等师范工程师学院);CNRS(法国国家科学研究中心);GREYC(格雷西研究所);Aix-Marseille Univ(艾克斯-马赛大学);Centrale Marseille(马赛中央理工学院);Institut Fresnel(弗雷内尔研究所)
本文将无噪声镜像下降相位恢复框架拓展至含噪场景,证明了算法对小加性噪声的稳定性及高斯测量下的全局收敛性,结合谱初始化可降低样本复杂度,数值实验验证了其计算与统计效率。
2024-06-20 cs.CV cs.IT math.IT
Analysis Accelerated Mirror Descent via High-resolution ODEs
本文针对低分辨率ODE无法区分不同加速方法的问题,推导加速镜像下降法的高分辨率ODE,并提出通用Lyapunov框架分析其连续与离散收敛速率,证明其能以逆三次速率最小化平方梯度范数。
2023-08-10 math.OC
RLC Circuits based Distributed Mirror Descent Method
本文研究了无向连通图上光滑凸目标函数的分布式优化问题。受镜像下降法和RLC电路的启发,提出了一种新的分布式镜像下降法。与镜像-邻近方法相比,该算法在保持相同的\(\mathcal{O}(1/k)\)迭代复杂度的同时,每次迭代的计算量仅为原来的一半。我们进一步扩展我们的结果的情况下,a)梯度被破坏的随机噪声,和b)目标函数是由光滑和非光滑的条款。我们通过数值实验证明了我们的理论结果。
2020-02-22 math.OC
Provable Phase Retrieval with Mirror Descent
Normandie Univ(诺曼底大学);ENSICAEN(卡昂高等师范学院);CNRS(法国国家科学研究中心);GREYC(格雷西研究所);Aix-Marseille Univ(艾克斯-马赛大学);Centrale Marseille(马赛中央理工学院);Institut Fresnel(弗雷内尔研究所)
本文针对相位恢复问题提出基于特定Bregman散度的镜像下降算法,免去目标梯度全局利普希茨要求,证明高斯测量下高概率恢复且两种随机测量均有维度无关的局部线性收敛率,并通过实验验证。
2023-03-08 cs.CV cs.IT math.IT
A Mirror Descent Perspective of Smoothed Sign Descent
Northwestern University(西北大学)
本文从镜像下降视角研究平滑符号下降在回归问题中的动力学,提出镜像映射建立对偶等价性,并将收敛解刻画为最小化Bregman散度型函数的近似KKT点,揭示了调节稳定性常数可降低KKT误差。
2024-10-18 cs.LG math.OC
One Mirror Descent Algorithm for Convex Constrained Optimization Problems with non-standard growth properties
本文给出了求解函数约束凸极小化问题的一种特殊镜像下降算法。目标函数可能不满足利普希茨条件,但它必须具有利普希茨连续梯度。我们假设,功能约束可以是非光滑的,但满足利普希茨条件。特别是,这样的泛函出现在著名的桁架拓扑设计问题。此外,我们已经应用了技术的重新启动,在上述版本的镜像下降强凸问题。一些估计的收敛速率被认为是镜像下降算法。
2018-04-15 math.OC
Efficient randomized mirror descents in stochastic online convex optimization
本文考虑镜像下降法(对偶平均法)在随机在线凸优化问题中的应用。我们比较了经典的镜像下降(Nemirovski-Yudin,1979)与对偶平均(Nesterov,2005)和Grigoriadis-Khachiyan算法(1995)。Grigoriadis-Khachiyan算法是一种随机镜像下降(对偶平均)算法,它具有(次)梯度到单位单纯形的KL-投影的随机性。我们发现,这种随机化是解决稀疏矩阵对策以及凸优化和专家加权等问题的一种最优方法。
2016-12-09 math.OC
Preconditioned Gradient Descent for Overparameterized Nonconvex Burer--Monteiro Factorization with Global Optimality Certification
Electrical and Computer Engineering University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校电气与计算机工程学院);Industrial and Operations Engineering University of Michigan(密歇根大学工业与运营工程学院)
本文提出一种廉价预条件器,恢复过参数化非凸Burer-Monteiro分解中梯度下降的线性收敛速度,并使其对全局最小化器的病态条件不敏感,同时保持全局最优性认证能力。
2025-04-21 cs.LG math.OC stat.ML
Mirror descent of Hopfield model
Seoul National University(首尔国立大学);Korea Institute for Advanced Study(韩国高等研究院)
本研究提出利用镜像下降初始化神经网络参数,以Hopfield模型为原型,证明该方法训练性能显著优于随机初始化的传统梯度下降,凸显其作为优化增强技术的潜力。
2023-05-09 cs.LG math.OC
Distributed Mirror Descent Algorithm with Bregman Damping for Nonsmooth Constrained Optimization
为了有效地解决分布式优化与各种约束和非光滑函数,我们提出了一个分布式镜像下降算法嵌入Bregman阻尼,作为传统的分布式投影算法的推广。事实上,我们的连续时间算法很好地继承了镜像下降方法的良好性能,可以快速计算具有某些特定约束结构的问题的显式解。此外,我们严格证明了我们的算法的收敛性,以及轨迹的有界性和解决方案的准确性。
2021-08-27 math.OC
Variational Principles for Mirror Descent and Mirror Langevin Dynamics
Columbia University(哥伦比亚大学);University of Illinois(伊利诺伊大学);INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL Research University(巴黎文理研究大学)
镜像下降法是由Nemirovski和Yudin在20世纪70年代提出的一种原始-对偶凸优化方法,它可以通过选择强凸势函数来适应当前最优化问题的几何形状。它在各种应用中作为基本的原语出现,包括大规模优化,机器学习和控制。本文提出了一种变分形式的镜像下降及其随机变量,镜像朗之万动力学。受Brezis和Ekeland关于梯度流的变分原理的经典工作的启发,本文的主要思想是证明镜像下降是作为某个最优控制问题的闭环解出现的,而Bellman值函数是由初始条件和目标函数的全局极小值之间的Bregman发散给出的。
2023-03-16 cs.LG math.OC
Adaptive Mirror Descent for Constrained Optimization
本文研究了带函数约束的非光滑凸优化和强凸优化问题。由于引入了改进的常数,自适应步长的镜像下降(MD)方法比固定步长的MD具有更好的收敛速度。对于某些类型的约束,该方法被证明产生对偶解。对于强凸情形,应用了重新启动技术。
2017-05-04 math.OC
Mirror Descent Algorithms for Minimizing Interacting Free Energy
Stanford University(斯坦福大学)
本文考虑了最小化相互作用自由能的问题。受镜像下降算法的启发,对于给定的相互作用自由能,我们提出了一个下降动力学与一个新的度量,考虑到参考措施和相互作用项。这个度量自然地暗示了概率测度的单调重新参数化。利用显式欧拉法离散重参数化下降动力学,得到了一个新的镜像下降型算法。数值结果表明,所提出的算法的效率。
2020-04-08 cs.LG cs.NA math.NA
Accelerated Mirror Descent Method through Variable and Operator Splitting
University of California, Irvine(加州大学尔湾分校);National Center for Applied Mathematics in Chongqing, Chongqing Normal University(重庆师范大学应用数学重庆中心);Chongqing Research Institute of Big Data, Peking University(北京大学大数据重庆研究院);The Chinese University of Hong Kong(香港中文大学);Hong Kong University of Science and Technology(香港科技大学)
本文提出了一种通过变量和算子分裂实现加速镜像下降法的新方法,建立了在广泛问题类别上的加速线性收敛性,并通过实验验证了其优越性。
2026-01-26 math.OC
Conformal Mirror Descent with Logarithmic Divergences
对数发散是由最优输运和广义凸对偶激发的Bregman发散的推广,并满足许多显著的性质.利用几何诱导的对数发散,我们介绍了一个推广的连续时间镜像下降,我们称之为共形镜像下降。我们在广义镜像映射下导出了它的动力学,并证明了它是一个相应的Hessian梯度流的时变。我们还证明了在连续时间收敛的结果。我们将共形镜像下降应用于广义指数族的在线估计,并通过Dirichlet最优输运问题构造了单位单形上的梯度流族.
2022-09-07 math.OC math.ST stat.TH
A General Convergence Result for Mirror Descent with Armijo Line Search
镜像下降算法的现有收敛保证要求目标函数具有有界梯度或相对于勒让德函数是平滑的。然而,有界梯度和相对光滑条件在重要的应用中可能不成立,例如量子态断层扫描和投资组合选择。在本文中,我们提出了一个局部版本的相对光滑条件作为其现有的整体版本的推广,并证明了在这个局部相对光滑条件下,镜像下降算法与Armijo线搜索总是收敛的.数值结果表明,因此,Armijo线搜索的镜像下降算法是量子态层析成像的最快收敛算法,经验上的真实数据集。
2018-05-30 math.OC
Does Policy Mirror Descent Converge in Policy with Non-Decomposable Mirror Maps? A Counterexample
School of Data Science, Fudan University(复旦大学数据科学学院)
该研究针对策略镜像下降(PMD)的收敛性问题,借助OpenAI的GPT-5.6模型构造反例,证明采用非可分解Legendre镜像映射的PMD不一定在策略中收敛,补充了该领域的理论结论。
2026-10-15 math.OC
Multi-class classification: mirror descent approach
Moscow Institute of Physics and Technology(莫斯科物理技术学院);Institute for Information Transmission Problems(信息传输问题研究所)
本文研究了多类分类问题及其随机优化方法,导出了随机镜像下降算法的风险界,并给出了使该算法在k误差方面有效的集合几何例子。
2016-12-08 cs.LG math.OC stat.ML
Hessian informed mirror descent
受最近论文的启发(L。Ying,用于最小化相互作用自由能的镜像下降算法,科学计算杂志,84(2020),pp. 1-14),我们探讨了镜像下降和变度量法之间的关系。当镜像下降中的度量由凸函数诱导,且其Hessian与目标函数的Hessian接近时,该方法既具有镜像下降的鲁棒性,又具有牛顿型方法的超线性收敛性.当应用于线性约束极小化问题时,我们证明了在连续和离散情况下的全局和局部收敛。作为应用,我们计算了Wasserstein梯度流和具有退化迁移率的Cahn-Hillard方程。当制定这些问题使用一个最小化的运动计划相对于一个可变的度量,我们的镜像下降算法提供了一个快速的收敛速度为下划线的最优化问题,同时保持总质量和解决方案的界限。
2021-06-25 cs.NA math.NA math.OC
Mirror descent for constrained stochastic control problems
University of Edinburgh(爱丁堡大学)
本文提出连续时间镜像下降动力学求解约束随机控制问题,在哈密顿量凸性条件下证明线性或指数收敛,并给出基于模型和无模型的数值算法验证理论结果。
2026-09-09 math.OC
Mirror Descent and the Information Ratio
DeepMind(深度思维)
我们在Russo和Van Roy [2014]中建立了镜像下降的稳定性和信息比之间的联系。我们的分析表明,镜像下降与适当的损失估计和探索性分布享有相同的界限上的对抗性遗憾的贝叶斯遗憾信息导向抽样的界限。一路上,我们开发的理论信息导向的采样,并提供了一个有效的算法对抗土匪的遗憾上界完全匹配的最佳已知的信息理论上界上界。
2020-09-25 cs.LG math.OC stat.ML
Convergence of the Iterates in Mirror Descent Methods
我们考虑有限维希尔伯特空间上的集中式和分布式镜像下降算法,并证明了当步长为平方可和但不可和时,问题变量收敛于一个可能非光滑函数的优化器.以前的文献集中在函数值收敛到其最优值。然而,来自分布式优化和游戏中的学习的应用要求变量收敛到优化器,这通常在不假设目标函数的强凸性的情况下不能保证。我们提供了数值模拟比较熵镜下降和标准的次梯度方法的鲁棒回归问题。
2018-05-03 math.OC
On the relationship between imitative logit dynamics in the population game theory and mirror descent method in the online optimization using the example of the Shortest Path Problem
在本文中,我们描述了如何模仿logit动态(相当流行的人口博弈论)可以解释在镜像下降法(众所周知的凸优化)。我们在最短路问题上证明了这两种动力学之间的联系。
2016-05-01 math.OC
Multistep stochastic mirror descent for risk-averse convex stochastic programs based on extended polyhedral risk measures
我们考虑风险厌恶凸随机规划表示的扩展多面体风险措施。我们推导出可计算的置信区间的最优值,这样的随机规划使用鲁棒随机逼近和随机镜像下降(SMD)算法。当目标函数为一致凸时,我们还提出了一种多步扩展的随机镜像下降算法,并得到了最优值和最优解的置信区间.数值模拟表明,我们的置信区间比以前得到的SMD的置信区间保守性更小,计算速度更快,并且多步随机镜像下降算法比非多步随机镜像下降算法能更快地得到一个好的近似解.当样本量不比问题量大很多时,我们的置信区间也比渐近置信区间更可靠。
2016-09-02 math.OC
Investigating Variance Definitions for Mirror Descent with Relative Smoothness
该研究针对现有随机镜像下降分析需对镜像映射施加强凸性等额外假设才能保证方差有界的问题,提出了限制更弱的新方差定义,在温和假设下即可全局有界,还为随机镜像下降带来强收敛保证,并推导了未知参数高斯分布最大似然估计的收敛性。
2024-04-18 math.OC
Variance Reduction on General Adaptive Stochastic Mirror Descent
Purdue University(普渡大学)
在这项工作中,我们调查的方差减少的想法,通过研究其性质与一般的自适应镜像下降算法在非光滑非凸有限和优化问题。我们提出了一个简单而通用的框架方差减少自适应镜像下降算法命名为SVRAMD,并提供其收敛性分析在非光滑非凸问题和P-L条件问题。我们证明了方差减少降低了自适应镜像下降算法的SFO复杂度,从而加快了收敛速度。特别是,我们的一般理论意味着,方差减少可以应用于使用时变步长的算法和自适应算法,如AdaGrad和RMSProp。此外,SVRAMD的收敛速度恢复现有的最佳速度的非自适应方差减少镜像下降算法没有复杂的算法组件。深度学习的大量实验验证了我们的理论发现。
2021-08-29 cs.AI cs.LG math.OC
Distributed Mirror Descent with Integral Feedback: Asymptotic Convergence Analysis of Continuous-time Dynamics
Texas A&M University(德克萨斯A&M大学)
这项工作解决了分布式优化,其中代理网络希望最小化全局强凸目标函数。全局函数可以写成局部凸函数的和,每个凸函数与一个代理相关联。我们提出了一个连续时间分布式镜像下降算法,使用纯粹的本地信息收敛到全局最优值。与以前的分布式镜像下降的工作不同,我们在更新中加入了积分反馈,使算法在离散化时以恒定的步长收敛。我们建立了渐近收敛的算法使用李雅普诺夫稳定性分析。我们进一步说明了数值实验,验证了采用积分反馈的优点,以提高分布式镜像下降的收敛速度。
2020-09-14 cs.LG math.OC stat.ML
Target Mirror Descent: A Unifying Framework for Solving Monotone Variational Inequalities
University of California, Berkeley(加州大学伯克利分校)
本文提出目标镜像下降框架,通过双变量修正机制稳定单调流,统一了近端点算法、extragradient方法等经典算法,并改进了折扣镜像下降的均衡偏差。
2026-04-20 cs.GT math.OC
Stochastic Mirror Descent: Convergence Analysis and Adaptive Variants via the Mirror Stochastic Polyak Stepsize
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);Johns Hopkins University(约翰斯·霍普金斯大学);ServiceNow Research(ServiceNow研究院)
本文研究随机镜像下降在插值条件下的收敛性,提出自适应步长方案mSPS,在无需梯度有界和方差有界假设下给出收敛保证,并通过实验验证其有效性。
2023-05-24 cs.LG math.OC
Fastest Rates for Stochastic Mirror Descent Methods
相对平滑度-由Birnbaum et al.(2011)引入并由Bauschke et al.(2016)和Lu et al.(2016)重新发现的概念-概括了通常用于梯度类型方法分析的平滑度的标准概念。在这项工作中,我们正在采取的想法,从研究领域的随机凸优化,并使用它们,以获得更快的算法,最小化相对光滑函数。我们提出并分析了两种新算法:相对随机坐标下降(relRCD)和相对随机梯度下降(relSGD),两者都是标准平滑设置中著名算法的推广。我们提出的方法实际上可以看作是随机镜像下降算法的一个特殊实例。其中,relRCD对应于镜像下降算法的第一随机变体,具有线性收敛速率。
2018-03-20 cs.CC cs.NA math.NA
A Note on the Convergence of Mirrored Stein Variational Gradient Descent under $(L_0,L_1)-$Smoothness Condition
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);KAUST(阿卜杜拉国王科技大学)
本文建立了总体极限的MiraminStein变分梯度法~(MSVGD)的一个下降引理。该下降引理不依赖于MSVGD的路径信息,而是依赖于镜像分布$\nablaΨ_{\#}π\propto\exp(-V)$的简单假设。我们的分析表明,MSVGD可以适用于更广泛的一类非光滑$V$的约束抽样问题。我们还调查的复杂性的人口限制MSVGD方面的尺寸$d$。
2022-06-20 cs.LG math.OC math.ST
Adaptive Accelerated Mirror Descent in Primal and Dual Spaces
University of California, Irvine(加州大学尔湾分校)
提出自适应加速镜像下降(AAMD)方法,结合非线性预处理、加速和镜像几何自适应,通过累积Lyapunov扰动预算实现稳定加速,证明了对偶相对光滑/凸性下的加速收敛和凸目标的O(1/k^2)速率。
2026-06-01 math.OC
Establishing Boundary KKT Convergence of Mirror Descent through Reparameterization
School of Industrial Engineering, Purdue University(普渡大学工业工程学院);National University of Singapore(新加坡国立大学)
本文通过度量扁平化重参数化S,证明镜像下降法在非凸问题中可收敛到KKT点,还将该框架应用于Shannon熵等示例,为后续扩展Bregman型方法奠定基础。
2026-08-31 cs.LG math.OC
DeGroot-Friedkin Map in Opinion Dynamics is Mirror Descent
本文通过变分解释将DeGroot-Friedkin映射视为在标准单纯形上的镜像下降,其关联的Bregman散度等于广义Kullback-Leibler散度,即熵的镜像下降,揭示了DeGroot-Friedkin映射在最小化互补意见的熵的同时,使个体的社会影响力接近其社会权力。
2019-02-17 cs.LG cs.SY eess.SY
Mirror Descent and Convex Optimization Problems With Non-Smooth Inequality Constraints
本文研究了具有凸非光滑不等式约束的简单集上的凸函数极小化问题,并描述了在光滑或非光滑目标函数、凸或强凸目标和约束、确定性或随机性信息等不同情况下求解这类问题的一阶方法。我们希望读者可以方便地在一个地方拥有不同设置的所有方法。所描述的方法基于镜像下降算法和切换次梯度方案。我们的重点之一是提出,为列出的不同设置,自适应步长和自适应停止规则的镜像下降。这意味着步长和停止规则都不需要知道目标或约束的Lipschitz常数。我们还构造镜像下降问题的目标函数,这不是Lipschitz连续的,例如,是一个二次函数。除此之外,我们还讨论了对偶问题解的恢复问题。
2018-01-29 math.OC
Robust Data-Driven Accelerated Mirror Descent
针对学习优化中数据驱动镜像下降的收敛与稳定性问题,提出引入动量的加速镜像下降方法,兼顾短时加速收敛与长时稳定,并在去噪和反卷积实验中验证多参数鲁棒性。
2023-06-02 math.OC
Almost Sure Convergence and Non-asymptotic Concentration Bounds for Stochastic Mirror Descent Algorithm
本文针对使用有偏随机次梯度的随机镜像下降算法,在偏差递减条件下证明了迭代点的几乎必然收敛性,并在标准假设及次高斯噪声假设下分别给出了函数值偏差的集中界。
2024-07-08 math.OC
MirrorCBO: A consensus-based optimization method in the spirit of mirror descent
Department of Computing and Mathematical Sciences, Caltech(计算与数学科学系,加州理工学院);Helmholtz Imaging, Deutsches Elektronen-Synchrotron DESY(海德堡成像,德意志电子同步辐射研究中心(DESY))
提出MirrorCBO方法,通过将共识优化与镜像下降结合,实现无导数非凸优化,并推广到约束优化问题,理论证明指数收敛速率,实验展示稀疏诱导和约束优化的竞争力。
2025-07-16 cs.LG math.OC
Lipschitz-Free Mirror Descent Methods for Relatively Strongly Convex Functions with/without Absolute and Relative Inexactness
Innopolis University(伊诺波利斯大学);Moscow Institute of Physics and Technology(莫斯科物理技术学院);V. I. Vernadsky Crimean Federal University(V·I·维尔纳茨基克里米亚联邦大学)
本文提出了一种无需Lipschitz连续性假设的镜像下降方法,用于解决相对强凸函数的非光滑优化问题,并通过实验验证了其有效性。
2026-01-30 math.OC
Mirror Descent Methods for Quasar Convex Optimization Problems With Non-Smooth Inequality Constraints
Innopolis University(因诺波利斯大学)
研究非光滑凸泛函不等式约束下的类星体凸优化问题,提出两组含标准和修改变体的算法,通过切换迭代点运行,为确定性和随机设置开发镜像下降型算法并建立收敛速率。
2026-07-28 math.OC
Stochastic Block Mirror Descent Methods for Nonsmooth and Stochastic Optimization
本文提出了一种新的随机算法,即随机块镜像下降(SBMD)方法,用于求解大规模非光滑和随机最优化问题。该算法的基本思想是将块坐标分解和增量块平均方案结合到经典(随机)镜像下降法中,以显著降低后者的每次迭代代价。我们建立了SBMD方法的收敛速率以及解决一般非光滑和随机最优化问题的相关大偏差结果。我们还介绍了不同的变种,这种方法,并建立他们收敛速率解决强凸,光滑,复合最优化问题,以及某些非凸最优化问题。据我们所知,所有这些发展有关的SBMD方法是新的随机最优化文献。此外,我们的一些结果似乎也是新的块坐标下降法的确定性优化。
2013-09-09 math.OC
Generalized conditional subgradient and generalized mirror descent: duality, convergence, and symmetry
我们为凸最小化问题\[ \min_x \; \{f(Ax) + h(x)\}.\]提供了{ \em广义条件次梯度}算法和{ \em广义镜像下降}算法的新见解。如Bach在[{ \em SIAM J. Optim.}中所示,25(2015),pp. [115- 129],将这两个算法中的任何一个应用于该问题等价于将另一个应用于其Fenchel对偶。我们利用这种对偶关系,开发新的上界和收敛结果之间的差距,这两个算法产生的原始和对偶迭代。我们还提出了一个新的{ \em原始-对偶混合}算法,该算法结合了条件次梯度和镜像下降算法的特点,以对称的方式解决原始和对偶问题。我们的算法和主要结果只依赖于$\partial f$和$\partial h^*$,$A$和$A^*$的可计算的神谕的可用性。
2019-06-03 math.OC
Markov Chain Mirror Descent On Data Federation
Medical Big Data Research Center(医疗大数据研究中心);Chinese PLA General Hospital(中国人民解放军总医院)
针对联邦学习中样本呈马尔可夫依赖的问题,提出 MarchOn 随机镜像下降方法及新分析框架,在凸、强凸和非凸损失下获得最优收敛速率并经实验验证。
2023-09-26 cs.LG math.OC
Meta Mirror Descent: Optimiser Learning for Fast Convergence
University of Edinburgh(爱丁堡大学);KAIST(韩国科学技术院);Samsung AI Research, Cambridge(三星剑桥人工智能研究院)
优化器是训练机器学习模型的重要组成部分,其设计影响学习速度和泛化能力。一些研究试图通过解决一个两级优化问题,其中泛化误差最小化相对于优化参数学习更有效的梯度下降优化。然而,大多数现有的优化学习方法是直观的动机,没有明确的理论支持。我们从镜像下降而不是梯度下降开始采取不同的视角,并元学习相应的Bregman发散。在这种范式下,我们正式提出了一个新的元学习目标,最大限度地减少学习的遗憾。由此产生的框架,称为Meta Mirror Descent(MetaMD),学习加快优化速度。与许多元学习优化器不同,它还支持收敛和泛化保证,并且在不需要验证数据的情况下独特地做到这一点。我们评估我们的框架在各种任务和架构的收敛速度和泛化误差,并表现出强大的性能。
2022-03-05 cs.LG math.OC
Primal-dual Accelerated Mirror-Descent Method for Constrained Bilinear Saddle-Point Problems
本文提出一种时变原始-对偶加速镜像下降算法,用于求解约束双线性鞍点问题,实现$O(1/t^2)$收敛率,并衍生出面向分布式优化和零和博弈的两种加速变体。
2024-10-03 math.OC
Algorithms of Inertial Mirror Descent in Convex Problems of Stochastic Optimization
目标是修改由A.S. Nemirovsky和D.B. 1979年的Yudin。本文以连续时间内的确定性最优化问题为例,说明了一种新的惯性MD方法的思想。特别地,在欧几里德情况下,B.T.波利亚克意识到了。值得注意的是,新方法不使用额外的平均。介绍了惯性MD的一种离散算法。证明了目标函数误差的上界定理。
2017-05-02 math.OC
Some Analogue of Quadratic Interpolation for a Special Class of Non-Smooth Functionals and One Application to Adaptive Mirror Descent for Constrained Optimization Problems
许多著名的梯度型最优化方法的收敛速度的理论估计是基于二次插值,只要满足梯度的利普希茨条件。本文在局部Lipschitz拟凸泛函类中,利用本文所引入的非光滑条件(Lipschitz连续次梯度),得到了构造类似插值的可能性.作为应用,本文给出了自适应镜像下降法求解具有多个凸泛函约束的拟凸局部Lipschitz泛函极小化问题的收敛速率的估计.
2018-12-16 math.OC
Policy Mirror Descent for Regularized Reinforcement Learning: A Generalized Framework with Linear Convergence
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学);University of California, Berkeley(加州大学伯克利分校);University of Pennsylvania(宾夕法尼亚大学)
策略优化是强化学习(RL)的核心,它通过优化技术最大化价值函数来找到所需的策略。除了价值最大化之外,还出现了其他实际考虑,包括需要鼓励探索,以及由于安全、资源和操作限制而确保学习策略的某些结构属性。这些通常可以通过正则化RL来解释,正则化RL使用结构促进正则化器来增强目标价值函数。针对折扣无限时域马尔可夫决策过程,提出了一种求解正则化RL的广义策略镜像下降(GPMD)算法。作为策略镜像下降(arXiv:2102.00135)的推广,我们的算法适应了一般类的凸正则化,并促进了Bregman散度在使用中的正则化的认知。我们证明了我们的算法在整个学习率的范围内线性收敛到全局解,以无量纲的方式,即使正则化缺乏强凸性和光滑性。此外,这种线性收敛特性在面对不精确的策略评估和不完美的策略更新时是稳定的。数值实验证实了GPMD的良好性能。
2023-01-10 cs.IT cs.LG math.IT
Sinkhorn Algorithm as a Special Case of Stochastic Mirror Descent
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
我们提出了一个新的观点,著名的Sinkhorn算法显示,这是一个特殊的情况下,增量/随机镜像下降。为了看到这一点,我们应该简单地在镜像映射和目标函数中插入Kullback-Leibler散度。由于问题具有无界区域,目标函数既不光滑也没有有界梯度。然而,人们仍然可以使用相对光滑的概念来处理这个问题,得到随机目标是1-相对光滑的。发现的等价性使我们能够提出1)新的方法来优化运输,2)Sinkhorn算法的扩展超出两个约束。
2019-09-16 cs.LG math.OC stat.ML