Primal-dual proximal bundle and conditional gradient methods for convex problems
本文提出原始-对偶近端束方法求解凸非光滑复合优化与鞍点问题,建立迭代复杂度,发现与条件梯度的对偶性,并验证其优于次梯度方法。
2025-09-25 math.OC
Proximal bundle methods for hybrid weakly convex composite optimization problems
University of Rochester(罗切斯特大学);Georgia Institute of Technology(佐治亚理工学院)
本文通过统一的近邻束框架研究了混合弱凸复合优化问题的迭代复杂度,提出易于验证的站稳性度量替代传统难以检查的站稳条件。
2026-10-19 math.OC
Complexity of a quadratic penalty accelerated inexact proximal point method for solving linearly constrained nonconvex composite programs
分析了求解线性约束非凸组合规划的二次罚加速不精确邻近点方法的迭代复杂性。更具体地,目标函数具有$f + h$的形式,其中$f$是梯度为Lipschitz连续的可微函数,而$h$是具有有界域的闭凸函数。该方法,基本上,包括应用加速不精确的邻近点法近似求解一系列的二次惩罚的线性约束问题的子问题。近似点法的每个子问题依次近似求解的加速复合梯度(ACG)方法。结果表明,该方案在最多${\cal{O}}(ρ^{-3})$ ACG迭代生成一个$ρ$ -近似稳定点。最后,数值结果表明所提出的方法的有效性。
2019-07-16 math.OC
Proximal bundle algorithms for nonsmooth convex optimization via fast gradient smooth methods
我们提出了新的最小化非光滑凸函数的邻近聚束法。这些算法是从应用Nesterov快速梯度法光滑凸最小化所谓的Moreau-Yosida正则化$F_μ$的$f$ w.r. t。一些$μ>0$。由于$F_μ$的精确值和梯度很难评估,我们使用近似的邻近点,由于捆绑策略,以获得可实现的算法。这些算法之一出现作为一个特殊情况下的惯性近端算法的一个可实现的版本。我们给他们的复杂性估计的原始函数值,并报告一些初步的数值结果。
2020-03-06 math.OC
Boosting Accelerated Proximal Gradient Method with Adaptive Sampling for Stochastic Composite Optimization
本文提出带自适应采样的 adaNAPG 算法以增强随机复合优化中的 NAPG,并证明其达到最优迭代与样本复杂度,且迭代序列满足中心极限定理。
2025-07-24 math.OC
An efficient adaptive accelerated inexact proximal point method for solving linearly constrained nonconvex composite problems
本文提出了一种有效的自适应二次惩罚加速不精确邻近点(QP-AIPP)的方法提出了较早的作者。QP-AIPP方法和它的变体都使用二次惩罚方法来解决线性集约束的非凸复合最优化问题,其中生成的惩罚子问题由底层AIPP方法的变体来解决。该变体,反过来,解决了一个给定的惩罚子问题,产生一系列的近端子问题,然后解决了加速复合梯度算法。AIPP和它的变体之间的主要区别是,在前者的近端子问题总是凸的,而在后者的不一定是凸的,由于事实上,他们的prox参数选择尽可能积极,以提高效率。AIPP变体产生的可能非凸邻近子问题也尝试解决了一种新的自适应加速复合梯度算法的有效性的基础上,一些关键的收敛不等式。其结果是,该变体生成一系列的近端子问题,其中的步长自适应地改变根据从调用到加速复合梯度算法的响应。最后,数值结果证明了所提出的AIPP和QP-AIPP变体的效率。
2019-12-05 math.OC
Fast Accelerated Proximal Gradient Method with New Extrapolation Term for Multiobjective Optimization
本文提出一种带新外推项的加速近端梯度算法用于多目标优化,证明其具有次线性收敛速率,并通过数值实验验证了方法的有效性。
2025-10-16 math.OC
Distributed accelerated proximal conjugate gradient methods for multi-agent constrained optimization problems
针对多智能体约束优化问题,提出两类结合近似、共轭梯度与Halpern方法的惯性加速分布式近似共轭梯度算法,并通过数值实验验证了方法有效性。
2024-06-20 math.OC
Inexact-Proximal Accelerated Gradient Method for Stochastic Nonconvex Constrained Optimization Problems
具有非线性约束的随机非凸最优化问题在智能交通、网络安全和智能电网等领域有着广泛的应用。本文首先提出了一种非精确邻近加速梯度法来求解一类非凸随机复合最优化问题,其中目标函数为光滑函数和非光滑函数之和,约束函数为确定性函数,且每次迭代时非光滑部分的邻近映射的解是不精确计算的.我们证明了一个渐进的次线性收敛速度收敛速率随机设置使用增加的样本大小考虑在邻近的操作员的错误减少在一个适当的速度。然后,我们定制所提出的方法来解决随机非凸最优化问题与非线性约束,并证明了收敛速度保证。数值结果表明了该算法的有效性。
2021-07-07 math.OC
An Accelerated Proximal Coordinate Gradient Method and its Application to Regularized Empirical Risk Minimization
考虑两个凸函数之和的最小化问题:一个是光滑的,由梯度预言机给出,另一个是在坐标块上可分的,在每个块上有一个简单的已知结构.我们发展了一个加速的随机邻近坐标梯度(APCG)方法来最小化这样的凸复合函数。对于强凸函数,我们的方法实现了更快的线性收敛速率比现有的随机邻近坐标梯度法。没有强凸性,我们的方法享有加速的次线性收敛速度。我们展示了如何应用APCG方法来解决正则化经验风险最小化(ERM)问题,并设计有效的实现,避免全维向量运算。对于病态的ERM问题,我们的方法获得了改进的收敛速度比最先进的随机双坐标上升(SDCA)方法。
2014-07-04 math.OC
An accelerated proximal iterative hard thresholding method for $\ell_0$ minimization
本文考虑一类非凸问题,它是盒约束下的$\ell_0$ -范数与凸光滑函数之和。我们提出了一种近似迭代硬阈值型方法,并利用外推步骤来加速算法,证明了它的整体收敛结果。详细地说,所提出的方法产生的序列全局收敛到局部极小的目标函数。最后,我们进行了数值实验,以显示所提出的方法的有效性与其他一些有效的方法进行比较。
2018-01-02 math.OC
An accelerated inexact proximal point method for solving nonconvex-concave min-max problems
本文提出了光滑计划获得近似的无约束或线性约束的复合非凸-凹最小-最大(因此非光滑)问题的稳定点,通过应用著名的算法,以复合光滑近似的原始问题。更具体地说,在不受约束的(resp。约束)的情况下,原问题的近似稳定点,通过应用,其复合光滑近似,加速不精确的邻近点(分别)。二次罚分)的方法在以前的文件中提出的作者。迭代的复杂性界限,这两个平滑计划也成立。最后,数值结果证明了无约束光顺格式的有效性。
2021-06-17 math.OC
Iteration-complexity of an inner accelerated inexact proximal augmented Lagrangian method based on the classical Lagrangian function
建立了求解线性约束光滑非凸复合最优化问题的基于经典增广拉格朗日(AL)函数的内加速非精确近似增广拉格朗日(IAIPAL)方法的迭代复杂性.更具体地说,每个IAIPAL迭代包括不精确地解决一个近端AL子问题的加速复合梯度(ACG)的方法,其次是一个经典的拉格朗日乘子更新。假设复合函数的域是有界的,问题有一个斯莱特点,它表明,IAIPAL产生一个近似的稳态解在${\cal O}(\varepsilon^{-5/2}\log^2 \varepsilon^{-1})$ ACG迭代,其中$\varepsilon>0$是一个公差的平稳性和可行性。此外,在不假设初始点可行的情况下,导出了上述界。最后,数值结果表明,强大的实用性能的IAIPAL。
2022-06-14 math.OC
A Riemannian Accelerated Proximal Gradient Method
针对流形上的非光滑优化问题,提出统一的黎曼加速近端梯度方法,在测地凸和强凸情形下建立加速收敛速率,并引入保护机制保证非凸全局收敛,数值实验验证了理论加速。
2025-09-26 math.OC
A single cut proximal bundle method for stochastic convex composite optimization
本文针对期望函数与闭凸复合函数之和的优化问题,提出了首个能处理连续分布的随机复合近邻束(SCPB)方法,并在参数已知或未知时分别证明其最优复杂度保证,实验表明其显著优于RSA方法。
2023-10-20 math.OC
Iteration-complexity of an inexact proximal accelerated augmented Lagrangian method for solving linearly constrained smooth nonconvex composite optimization problems
提出并建立了求解线性约束光滑非凸复合最优化问题的非精确近似加速增广拉格朗日(IPAAL)方法的迭代复杂度.每个IPAAL迭代包括不精确地解决一个近端增广拉格朗日子问题的加速复合梯度(ACG)方法,然后由一个合适的拉格朗日乘子更新。结果表明,IPAAL生成一个近似的稳态解在最多${\cal O}(\log(1/ρ)/ρ^{3})$ ACG迭代,其中$ρ>0$是给定的公差。它还表明,以前的复杂性界可以锐化为${\cal O}(\log(1/ρ)/ρ^{2.5})$下额外的轻度更强的假设。上述界是在假设初始点既不可行,也不假设目标函数的复合项的域有界的条件下导出的。一些初步的数值结果来说明IPAAL方法的性能。
2020-06-14 math.OC
On the Convergence and Complexity of Proximal Gradient and Accelerated Proximal Gradient Methods under Adaptive Gradient Estimation
本文针对光滑部分难以精确求梯度的复合优化问题,提出基于自适应梯度估计的近端梯度法与加速近端梯度法,并在非凸、凸及强凸情形下证明其同时达到一阶方法的最优迭代复杂度与随机梯度评估复杂度。
2025-07-19 math.OC
Accelerated Proximal Iterative re-Weighted $\ell_1$ Alternating Minimization for Image Deblurring
本文针对非凸非光滑的$\ell_p$ TV图像去模糊问题,提出PIRL1-AM及其加速版本APIRL1-AM算法,有效保留边缘并显著提升收敛速度。
2023-09-11 math.OC
Improved Analysis of Restarted Accelerated Gradient and Augmented Lagrangian Methods via Inexact Proximal Point Frameworks
University of Rochester(罗切斯特大学)
本文提出了一种重启加速复合梯度方法和不精确增广拉格朗日方法,分别在无约束和线性约束问题中达到最优一阶复杂度,通过不精确近似点框架实现统一分析。
2026-02-19 math.OC
Relaxed Weak Accelerated Proximal Gradient Method: a Unified Framework for Nesterov's Accelerations
本文提出松弛弱加速近端梯度法R-WAPG,用远弱于Nesterov规则的序列统一强凸与凸问题的收敛分析,并给出无需参数的Free R-WAPG形式,数值实验验证其优势。
2025-04-09 math.OC
Global Linear Convergence of the Proximal Bundle Method under Unknown Piecewise Smoothness and Quadratic Growth
School of Industrial Engineering, Purdue University(普渡大学工业工程学院)
研究近端束方法在保留足够多切割平面时,能利用目标函数的分段光滑结构,实现全局线性收敛,并给出理论解释。
2026-09-11 math.OC
Universal subgradient and proximal bundle methods for convex and strongly convex hybrid composite optimization
本文提出两种通用方法,用于解决凸和强凸混合复合优化问题,无需参数且无需最优值知识,具有高效的复杂度界。
2025-11-20 math.OC
An Absolute-Error Proximal Bundle Method through the Lens of Frank-Wolf
MIT(麻省理工学院)
研究改进的近端束方法MPB-FA,通过修改严重步测试,基于绝对精度准则且近端参数固定。建立与Frank-Wolf算法联系,扩展线性收敛结果,给出新复杂度分析,改进相关PBM变体的复杂度保证。
2026-07-07 math.OC
On Inexact Accelerated Proximal Gradient Methods with Relative Error Rules
最流行和最重要的一阶迭代之一是“快速迭代收缩/保持算法”(FISTA),它提供了经典的近端梯度法(PGM)的最佳复杂度。本文研究了极小化两个凸函数和的两种不精确形式的FISTA。所提出的计划不精确地解决他们的子问题,使用相对误差标准,而不是外生和减少误差的规则。当近端操作者的评估是困难的,不精确版本的FISTA是必要的,这里提出的相对误差规则可能比以前的误差规则具有一定的优势。两种算法都具有相同的FISTA最优收敛速度。一些数值实验报告,以说明新方法的数值行为。
2020-05-07 math.OC
Convergence Rate Analysis for Monotone Accelerated Proximal Gradient Method
Bernoulli Institute for Mathematics, Computer Science and Artificial Intelligence, University of Groningen(格罗宁根大学伯努利数学、计算机科学与人工智能研究所)
本文分析了单调加速近端梯度法的收敛速率,证明在目标函数光滑部分强凸时可实现线性收敛,且无需强凸参数信息,为该算法提供了最快的收敛速率。
2026-08-19 math.OC
Smoothing Accelerated Proximal Gradient Method with Fast Convergence Rate for Nonsmooth Multi-objective Optimization
本文提出带外推项的平滑加速近端梯度法(SAPGM)求解非光滑多目标优化,通过引入特定外推项将收敛速率提升至 $o(\ln^σk/k)$,并证明迭代序列收敛到Pareto最优解,数值实验验证了方法有效性。
2024-10-18 math.OC
A unified analysis of a class of proximal bundle methods for solving hybrid convex composite optimization problems
提出了一种基于一般束更新方案的求解混合凸复合优化(HCCO)问题的近似束(PB)框架,建立了PB框架中任一变体的迭代复杂度上界,并首次在HCCO背景下统一地给出了基于不同束更新方案的3种PB变体的迭代复杂度上界.虽然PB变体中的两个是通用的(即,它们的实现不需要与HCCO实例相关联的参数),另一个新提出的(据作者所知)不是HCCO实例,但具有生成简单的(即一次切割的)捆绑模型的优点。本文还提出了一个通用的自适应PB变体(这不一定是一个框架的实例)的基础上一切模型,并表明其迭代复杂度是相同的上述两个通用PB变体。
2023-03-27 math.OC
Accelerated Proximal Gradient Method with Backtracking for Multiobjective Optimization
本文针对多目标优化中Lipschitz常数未知问题,提出基于FISTA的回溯策略,允许参数非递增更新,并在温和假设下证明算法达到$O(1/k^2)$收敛速率。
2024-12-30 math.OC
On the Acceleration of Proximal Bundle Methods
本文提出了首个针对光滑目标的近端束方法(PBM)变体,基于加速不精确近近端点方案并引入新颖零步测试与预言机,实现了$O(ε^{-1/2}\log(1/ε))$的加速收敛速率,解决了相关收敛性保证的开放问题。
2025-04-29 math.OC
The convergence rate of the accelerated proximal gradient algorithm for Multiobjective Optimization is faster than $O(1/k^2)$
针对多目标优化,本文改进 Tanabe 等人的加速近似梯度算法,利用新的外推项将收敛速率从 $O(1/k^2)$ 提升至 $o(1/k^2)$,并给出同速率的非精确版本。
2023-12-12 math.OC
Parameter-free proximal bundle methods with adaptive stepsizes for hybrid convex composite optimization problems
针对混合凸复合优化问题,提出一种无参数自适应近端束方法,通过自适应可变近端步长和严重步判定准则减少连续空步与迭代次数,并对初始步长保持稳健。
2024-10-28 math.OC
Optimal Convergence Rates for the Proximal Bundle Method
该研究针对非光滑凸优化问题,分析经典近端束方法的收敛速率,提出非恒定步长方案实现最优速率,还给出无需先验函数参数的可并行近优变体,完善了相关收敛速率研究并提供统一分析框架。
2023-05-01 math.OC
A Near-Optimal Total Complexity for the Inexact Accelerated Proximal Gradient Method via Quadratic Growth
The University of British Columbia(不列颠哥伦比亚大学)
本文研究了优化问题的总复杂度,证明在ω为锥形多面体函数时,双循环结构的不精确加速近端梯度法在函数值ε-最优性上具有O(ln(1/ε)/√ε)的复杂度。
2026-04-06 math.OC
Monotonicity for Multiobjective Accelerated Proximal Gradient Methods
针对多目标FISTA中目标函数值可能上升及不精确子问题导致发散的问题,本文提出一种保证单调性的FISTA变体,证明其具有$O(1/k^2)$的全局收敛速率,并展示数值优势。
2023-06-01 math.OC
Solving the Infinite-horizon Constrained LQR Problem using Accelerated Dual Proximal Methods
本文提出了一种求解无限时间约束线性二次调节问题的算法。我们采用一个流行的近端梯度计划,通常被称为前向向后分裂(FBS)的加速版本,并证明其收敛到我们的无限维设置的最优解。该算法的每次迭代只需要有限的内存,计算成本低,并且不使用终端不变集;因此,该算法可以应用于非常大尺寸的系统。加速带来了最佳的收敛速度O(1/k^2)的函数值和O(1/k)的原始迭代,并提出了一个实用的替代模型预测控制方案的设定点跟踪方法。此外,当真实系统受到干扰或建模误差的情况下,我们提出了一个有效的热启动程序,这显着减少了迭代次数时,该算法被应用于闭环。数值例子证明了这种方法。
2015-01-18 math.OC
An Accelerated Proximal Alternating Direction Method of Multipliers for Optimal Decentralized Control of Uncertain Systems
针对$\boldsymbol{\rm H_2}$保代价最优分散控制的稳定性问题,将其转化为锥规划问题后提出加速近端交替方向乘子法,通过Halpern不动点迭代提升收敛速度,实验表明其性能优于CVXOPT和SCS算法。
2024-02-02 math.OC
Accelerated Bregman Proximal Gradient Methods for Relatively Smooth Convex Optimization
我们考虑两个凸函数之和的最小化问题:一个是可微的,相对于参考凸函数是光滑的,另一个是不可微的,但很容易优化。我们研究了三角形标度属性的Bregman距离产生的参考凸函数和提出加速Bregman邻近梯度(ABPG)方法,达到$O(k^{-γ})$收敛速度,其中$γ\in(0,2]$是三角形标度指数(TSE)的Bregman距离。对于欧氏距离,我们有$γ=2$和恢复Nesterov的加速梯度法的收敛速度。对于非欧几里德Bregman距离,TSE可以小得多(比如说$γ\leq 1$),但我们表明,放松定义的内在TSE总是等于2。我们利用内在的TSE开发自适应ABPG方法,在实践中收敛得更快。虽然理论上的快速收敛速度的保证似乎是遥不可及的一般情况下,我们的方法获得经验$O(k^{-2})$率在几个应用程序的数值实验,并提供后数值证书的速度快。
2021-05-29 math.OC
Accelerated Proximal Gradient Method for Non-Strongly Convex Time-Varying Optimization
The University of Tokyo(东京大学);RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心)
本文针对紧域上的时变复合优化问题,提出一种时变加速近端梯度方法,将基准TV-PG方法的函数值间隙渐近上界从O(δ^(1/2))改进为O(δ^(2/3)),并通过数值实验验证了其跟踪性能。
2026-10-09 math.OC
On the Interplay between Acceleration and Identification for the Proximal Gradient algorithm
在本文中,我们研究了加速和结构识别的邻近梯度算法之间的相互作用。我们报告和分析了几种情况下,这种相互作用对算法的行为(迭代振荡,结构损失等)产生负面影响。我们提出了一种通用的方法,驯服加速度时,结构识别可能处于危险之中,它的好处是从一个收敛速度,在某些条件下的加速近端梯度相匹配。我们的经验表明,所提出的方法是更稳定的子空间识别相比,加速近端梯度法,同时保持类似的功能减少。
2020-08-31 math.OC
An accelerated semi-proximal ADMM with applications to multi-block sparse optimization problems
本文提出一种加速的半近端ADMM(AsPADMM),通过外推和递增惩罚参数实现O(1/K)非遍历收敛,并应用于多块稀疏优化,显著提升收敛速度。
2025-05-27 math.OC
Accelerated Bregman Proximal Gradient Methods from Dual Geometric Perspectives
The University of Tokyo(东京大学);RIKEN(理化学研究所)
提出一族几何加速Bregman近端梯度算法,无需三角形缩放等额外条件,通过局部回溯自适应步长,实现凸目标O(k^-2)、相对强凸线性、非凸O(k^-1)收敛,并在多个数值实验中验证了加速效果。
2026-09-29 math.OC
An Adaptive Symplectic Proximal Point Algorithm: Faster Convergence and Improved Numerical Performance
Yunnan Normal University(云南师范大学);Yunnan Key Laboratory of Modern Analytical Mathematics and Applications(现代分析数学及其应用云南省重点实验室)
本文提出自适应辛近端点算法(ASPPA),证明其平方范数项收敛率达O(1/k^2),强单调情形下具指数收敛率,数值实验验证性能优异。
2026-10-05 math.OC
A Safeguarded Accelerated Proximal ADMM Algorithm for Solving Structured Cardinality Penalized Optimization Problems
School of Mathematics, Harbin Institute of Technology(哈尔滨工业大学数学学院)
本文针对结构化基数惩罚优化问题,提出带保障加速近端ADMM算法,证明其收敛性并建立收敛速率,经信号与图像去噪实验验证了有效性。
2026-10-14 math.OC
A Smoothing Accelerated Proximal Gradient Method with Nonmonotone Backtracking Strategy for Convex Nonsmooth Composite Multiobjective Optimization
针对含两个非光滑项的复合多目标优化问题,提出基于 Lipschitz 估计与平滑因子联动回溯的平滑加速近似梯度算法,证明弱 Pareto 收敛性与收敛速率,实验显示其效率优于次梯度算法。
2026-10-27 math.OC
A note on approximate accelerated forward-backward methods with absolute and relative errors, and possibly strongly convex objectives
在这篇简短的笔记中,我们提供了一个简单版本的加速向前向后方法(a.k.a. Nesterov的加速邻近梯度法)可能依赖于近似邻近算子,并允许利用目标函数的强凸性。该方法支持相对误差和绝对误差,其行为说明了一组标准的数值实验。使用相同的发展,我们进一步提供了Monteiro和Svaiter(2013)的加速近端混合外梯度方法的一个版本,可能利用目标函数的强凸性。
2022-01-21 math.OC
Accelerating preconditioned ADMM via degenerate proximal point mappings
该研究将近邻项为凸二次的pADMM重构为退化PPM,并融合Halpern与快速Krasnosel'skiĭ-Mann迭代进行加速,获得更优非遍历收敛速率和数值表现。
2024-12-07 math.OC
Accelerated forward-backward method with fast convergence rate for nonsmooth convex optimization beyond differentiability
提出了一种快速收敛速度的向前向后加速算法,用于求解闭凸集上可分解非光滑凸函数的极小值,并将其命名为光滑加速邻近梯度(SAPG)算法.该算法结合了平滑方法和外推$\frac{k-1}{k+α-1}$和$α>3$的邻近梯度算法。平滑参数$μ_k$的更新规则是一个聪明的方案,并保证了整体收敛速度的$o(\ln^σk/k)$与$σ\in(\frac{1}{2},1]$的目标函数值。证明了该序列收敛于问题的最优解。此外,我们在SAPG算法中引入了一个误差项,得到了非精确平滑加速邻近梯度算法。在误差可和条件下,我们得到了与SAPG算法相同的收敛结果。最后通过数值实验验证了该算法的有效性。
2021-10-04 math.OC
Inexact Accelerated Proximal Gradient Method Revisit: An Economical Variant via Shadow Points
Singapore University of Technology and Design(新加坡科技设计大学)
本文提出SpinAPG方法,通过引入影点实现不精确APG方法的改进,保留加速收敛特性并减少计算开销。
2026-02-11 math.OC
Symplectic Discretization Approach for Developing New Proximal Point Algorithm
针对现有加速邻近点算法存在振荡、收敛受阻的问题,本文通过辛欧拉方法离散化特定ODE,提出辛邻近点算法,理论上证明其o(1/k²)收敛与弱收敛性,实验验证其可减少振荡、提升收敛速度。
2024-11-04 math.OC
Convergence rates of proximal gradient methods via the convex conjugate
给出了复合凸极小化问题的邻近梯度法和加速邻近梯度法的$O(1/k)$和$O(1/k^2)$收敛速度的新证明。新证明的关键是通过目标函数的凸共轭构造一个上界。
2018-01-09 math.OC
Accelerated Proximal Dogleg Majorization for Sparse Regularized Quadratic Optimization Problem
针对二次函数与非凸非光滑正则项之和的最小化问题,提出带外推的 PDOME 算法,通过外推混合牛顿方向和增强线搜索实现全局收敛与更快速度。
2025-08-30 math.OC
Proximal Gradient Algorithms under Local Lipschitz Gradient Continuity: A Convergence and Robustness Analysis of PANOC
复合优化为各种应用提供了一个强大的建模工具,并且通常通过近端梯度法来数值求解。本文考虑了目标函数的光滑部分仅在局部Lipschitz梯度连续条件下的完全非凸复合问题。我们研究了PANOC类型方法的自适应方案(Stella等人,在IEEE第56届CDC会议论文集,1939- 1944,2017),即只需要简单的近似梯度预言的加速线性搜索算法。虽然包括经典的近端梯度法,我们的理论结果涵盖了更广泛的一类算法,并提供收敛保证加速方法可能不精确计算的近端映射。这些发现也有显着的实际影响,因为它们扩大了现有的范围和性能,并可能在未来,通用优化软件调用PANOC作为内部求解器。
2022-04-18 math.OC
An accelerated proximal bundle method for convex optimization
University of California San Diego(加州大学圣地亚哥分校)
本文提出一种加速近端束方法,实现最优O(1/√ε)迭代复杂度,适用于光滑凸优化问题,方法简洁且保留经典PBM结构特性。
2026-04-26 cs.SY eess.SY math.OC
Accelerated Proximal Gradient Methods in the affine-quadratic case: Strong convergence and limit identification
本文在仿射二次情形下证明APG与PGM从同一点初始化时迭代差弱收敛到零,从而APG弱收敛到初始点在解集中的最佳逼近,并在温和参数假设下进一步得到强收敛性,同时通过二维反例说明该结论不适用于一般情形。
2025-11-09 math.FA math.OC