Convergence Analysis of A Proximal Linearized ADMM Algorithm for Nonconvex Nonsmooth Optimization
本文考虑一种近似线性化交替方向乘子法（PL-ADMM）来求解线性约束非凸和可能的非光滑最优化问题。通过在原始更新中使用变尺度邻近项和在乘子更新中使用超松弛步长，将该算法推广。证明了该方法生成的序列是有界的，其极限点是临界点。在强大的Kurdyka-{Eschojasiewicz}性质下，我们证明了序列具有有限长度从而收敛，并且我们驱动了它的收敛速度。
2021-07-03 math.OC
Nonsmooth Steepest Descent Method by Proximal Subdifferentials in Hilbert Spaces
本文首先研究了定义在希尔伯特空间上的非光滑函数的非光滑最速下降方法，并利用邻近次梯度建立了相应的算法。然后，我们用这个算法来寻找那些满足正则性和利普希茨连续性的函数的驻点。作为一个应用，将所建立的算法用于有限维空间上的下连续凸函数的极小值的搜索。作为对已有的关于二次连续可微凸函数的收敛性结果的推广和改进，文中给出了收敛性定理。
2013-10-10 math.OC
A Smooth Double Proximal Primal-Dual Algorithm for a Class of Distributed Nonsmooth Optimization Problem
本文研究了一类分布式非光滑凸一致最优化问题。成本函数是局部费用函数的和，这些成本函数是凸的但非光滑的。每个局部费用函数由一个二次可微凸函数和两个下半连续凸函数组成。我们称这个问题为单光滑加双非光滑（SSDN）问题。在较弱的条件下，提出了一种分布式双邻近原-对偶优化算法。双邻近算子的设计是为了解决这两个非光滑函数之和的不可逼近性所带来的困难。此外，它还可以保证所提出的算法是局部Lipschitz连续的。在双邻近算子中引入一个辅助变量来估计第二类非光滑函数的次梯度。理论上，我们利用李雅普诺夫稳定性理论进行收敛性分析。结果表明，该算法能使状态在最优点达到一致.最后给出了非平凡的仿真结果，验证了该算法的有效性。
2018-08-16 math.OC
Variable Metric Composite Proximal Alternating Linearized Minimization for Nonconvex Nonsmooth Optimization
本文提出了一个最小化两个块变量的目标函数的近似算法，该目标函数由三项组成：1）光滑函数; 2）非光滑函数，它是一个严格递增的凹可微函数和一个凸非光滑函数的组合; 3）耦合两个块变量的光滑函数。我们提出了一个变尺度复合近似交替线性化极小化（CPALM）来解决这类问题。建立在强大的Kurdyka-Eschojasiewicz属性，我们得到的收敛性分析，并建立由CPALM生成的每个有界序列全局收敛到一个临界点。我们证明了CPALM方法的并行磁共振图像重建问题。数值结果表明了该方法的可行性和有效性。
2022-09-14 math.OC
Inertial Proximal Alternating Linearized Minimization (iPALM) for Nonconvex and Nonsmooth Problems
本文研究了半代数数据的非凸非光滑最优化问题，其中变量向量被分成若干个变量块。该问题由整个变量向量的一个光滑函数和每个块的非光滑函数之和组成。我们分析了惯性版本的近端交替线性化最小化（PALM）算法，并证明其整体收敛的临界点的目标函数在手。我们说明了我们的理论研究结果，提出的数字实验盲图像反卷积，稀疏非负矩阵分解和字典学习，这表明所提出的方法的可行性和有效性。
2017-02-08 math.OC
Continuation Method for Nonsmooth Model Predictive Control Using Proximal Technique
本文提出一种基于非光滑正则化最优控制问题的模型预测控制延拓方法新框架，利用近端算子将一阶最优性包含关系转化为方程组以应用延拓方法，并给出确保适定性的约束规范条件及数值验证。
2025-03-04 math.OC
Linear convergence rate analysis of Proximal-Tracking for nonsmooth distributed optimization
School of Mathematical Sciences, Dalian University of Technology（大连理工大学数学科学学院）
本文针对非光滑分布式优化中的近端跟踪算法，在强凸性和平静性假设下证明了其线性收敛速率，且无需可微性假设，保留了算法优势。
2026-09-24 math.OC
Speeding Up Nonsmooth Bayesian MCMC Sampling via Inexact Proximal Unadjusted Langevin Algorithm
KU Leuven（荷语鲁汶大学）；University of Antwerp（安特卫普大学）
本文研究了从具有非光滑复合势的后验分布中采样的问题，提出了一种不精确的近端无调整 Langevin 算法（iPULA），该算法通过可控的近似替代精确的近端步骤，利用Moreau包络体平滑势，并允许通过不精确的近端计算来近似梯度，从而在非光滑情况下实现非渐近收敛性保证，并在医学图像重建任务中验证了其有效性。
2026-05-17 math.OC
Two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
针对非凸非光滑不可分优化问题，本文结合两步惯性外推与Bregman距离，基于PALM提出新型迭代算法，证明序列收敛性并通过信号恢复等问题验证有效性。
2023-06-13 math.OC
A Globally Convergent Proximal Newton-Type Method in Nonsmooth Convex Optimization
本文提出并证明了一个新的近似牛顿型算法，以解决广泛的一类非光滑复合凸优化问题，没有强凸性假设。基于变分分析的先进概念和技术，我们建立了该算法的整体收敛以及超线性和二次收敛率的局部收敛的可实现结果.对于某些结构化问题，所得到的局部收敛条件不要求相应的Hessian映射的局部Lipschitz连续性，而这是文献中用来保证邻近Newton型的其他算法的超线性收敛的一个重要假设.通过求解$l_1$正则化逻辑斯谛回归模型的数值实验，说明了该算法应用于实际问题的可行性。
2022-02-28 math.OC
Proximal Gradient Descent Ascent Methods for Nonsmooth Nonconvex-Concave Minimax Problems on Riemannian Manifolds
School of Mathematics, Sun Yat-sen University（中山大学数学学院）；School of Computer Science and Engineering, Guangdong Province Key Laboratory of Computational Science, Sun Yat-sen University（中山大学计算机科学与工程学院）
本文提出两种黎曼流形上的近端梯度下降上升算法，解决非光滑非凸-非凹极小极大问题，证明其能在O(ε⁻³)或O(ε⁻⁴)次迭代内找到ε-游戏 stationary 点和优化 stationary 点。
2026-03-21 math.OC
MGProx: A nonsmooth multigrid proximal gradient method with adaptive restriction for strongly convex optimization
针对非光滑强凸优化问题，提出结合多重网格与自适应限制算子的MGProx近端梯度方法，完成理论分析并通过弹性障碍问题验证其收敛速度优于现有方法。
2024-05-10 math.OC
Majorized Semi-proximal Alternating Coordinate Method for Nonsmooth Convex-Concave Minimax Optimization
极小极大最优化问题是现代机器学习和传统研究领域中产生的一类重要的最优化问题。虽然已经有许多数值算法求解光滑凹凸极大极小问题，数值算法非光滑凹凸极大极小问题是非常罕见的。针对一类结构化非光滑凹凸极大极小问题，提出了一种有效的数值算法。提出了一种优化半邻近交替坐标法（mspACM），采用优化二次凸凹函数逼近目标函数的光滑部分，并在每个子问题中加入半邻近项.这种构造使得每次迭代的子问题都是可解的，甚至当巧妙地选择半邻近项时很容易求解。在较弱的假设下证明了算法mspACM的整体收敛性，而不需要强的凸性条件.在解映射的局部度量次正则性下，证明了算法mspACM具有线性收敛速率.初步的数值结果报告，以验证算法mspACM的效率。
2020-12-21 math.OC
Asymptotic Analysis of Gradient Mapping-type Stationarity Measure for the Sum of Nonconvex Nonsmooth Functions and Applications to Proximal Gradient-type Algorithms
Institute of Science Tokyo（东京科学大学）
本文针对非凸非光滑函数和提出梯度映射型平稳性测度并做渐近分析，将其应用于邻近梯度算法，解决了一个开放问题并提出带非单调线搜索的邻近变量平滑算法。
2026-09-09 math.OC
An Adaptive Proximal Point Method for Nonsmooth and Nonconvex Optimization on Hadamard Manifolds
针对完备黎曼流形上的非光滑非凸复合优化问题，提出两种自适应邻近点方法变体（分别利用或无需光滑部分梯度的Lipschitz常数），分析复杂度与收敛性并通过数值实验验证有效性。
2025-11-18 math.OC
A stochastic two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
本文提出STiBPALM算法，结合两步惯性与Bregman近端交替线性化及方差缩减随机梯度，用于求解大规模非凸非光滑优化问题，并证明其收敛性，通过稀疏非负矩阵分解和盲图像去模糊实验验证性能。
2023-07-11 math.OC
An adaptive proximal safeguarded augmented Lagrangian method for nonsmooth DC problems with convex constraints
Institute of Mathematics, University of Würzburg（维尔茨堡大学数学研究所）
本文提出一种自适应近端保护增广拉格朗日方法，用于求解带有凸约束的非光滑DC问题，证明了在修改的Slater约束资格下，原变量和对偶变量收敛到广义KKT点。
2026-03-30 math.OC
Bregman Proximal Gradient Algorithm with Extrapolation for a class of Nonconvex Nonsmooth Minimization Problems
在本文中，我们考虑一个加速方法解决非凸和非光滑极小化问题。我们提出了一个Bregman邻近梯度算法与外推（BPGe）。该算法扩展并加速了Bregman近似梯度算法（BPG），它绕过了近似梯度算法（PG）所需的限制性全局Lipschitz梯度连续性假设。BPGe算法比最近提出的带外推的邻近梯度算法（PGe）具有更高的通用性，并且由于外推步骤的存在，BPGe比BPG算法收敛更快。通过对收敛性的分析，证明了在适当选取参数的情况下，BPGe产生的序列的任何极限点都是问题的平稳点。此外，在Kurdyka-{K}ojasiewicz性质的假设下，证明了BPGe生成的序列整体收敛于一个平稳点.最后，为了说明新方法BPGe的潜力，我们将其应用于两个重要的实际问题，出现在许多基本的应用（不满足全局Lipschitz梯度连续性假设）：泊松线性逆问题和二次逆问题。在测试中，加速的BPGe算法显示出更快的收敛结果，给出了一个有趣的新算法。
2019-04-25 math.OC
Smoothing Proximal Gradient Methods for Nonsmooth Sparsity Constrained Optimization: Optimality Conditions and Global Convergence
针对非光滑稀疏约束优化现有方法的局限，提出两种平滑近似梯度方法变体，证明其最优性与收敛速率理论界达到现有最优水平，且实验中SPGM-BCD性能优于现有IHT类方法。
2023-12-15 math.OC
Proximal Limited-Memory Quasi-Newton Methods for Nonsmooth Nonconvex Optimization
University of Würzburg（维尔茨堡大学）；University of the Bundeswehr Munich（联邦国防军慕尼黑大学）
本文提出一种近端有限记忆拟牛顿方法，用于求解可微函数与非光滑函数之和的最小化问题，通过自适应更新正则化参数实现全局收敛，并在Kurdyka-Lojasiewicz性质下建立序列收敛性。
2026-10-27 math.OC
A Monte Carlo Approach for Nonsmooth Convex Optimization via Proximal Splitting Algorithms
本文扩展了HJ-Prox这一零阶蒙特卡罗近端算子近似方法，证明其可无缝融入近端梯度下降等算子分裂算法中，并在温和条件下保持收敛性，从而扩大了非光滑凸优化方法的适用范围。
2025-09-15 math.OC
Proximal Point Algorithms for Nonsmooth Convex Optimization with Fixed Point Constraints
考虑了定义在实希尔伯特空间上的非扩张映射的不动点集的交集上的非光滑凸目标函数之和的极小化问题，在该不动点集上的投影不能有效地计算.使用邻近点法，使用邻近算子的目标函数和增量优化技术提出了解决问题。重点研究了不动点逼近技术，设计了两种算法来求解该问题。一种是将增量次梯度法与Halpern型不动点迭代算法相结合，增量次梯度法是求解非光滑凸优化问题的一种有效算法。另一种是基于增量次梯度法和Krasnosel'ski \u-Mann不动点算法。证明了Halpern型算法生成的序列的弱序列聚点属于问题的解集，而Krasnosel'ski \u-Mann型算法生成的序列存在一个弱序列聚点也属于问题的解集.数值结果表明，本文提出的两种算法与已有的次梯度法在求解具体的非光滑凸优化问题时具有更快的收敛速度.
2016-02-05 math.OC
Inertial Proximal Block Coordinate Method for a Class of Nonsmooth Sum-of-Ratios Optimization Problems
本文针对一类具有块结构的非光滑和式比率分数优化问题，提出了一种惯性近端块坐标方法，在KL性质下证明了其全局收敛性，并验证了对特定问题具有线性收敛速率。
2023-05-19 math.OC
Extended alternating structure-adapted proximal gradient algorithm for nonconvex nonsmooth problems
针对非凸非光滑优化中多块不可分离耦合结构，提出扩展的交替结构自适应近端算法（eASAP），利用分块受限近端正则性并分析全局收敛与次线性速率，在多模态数据融合中表现优异。
2024-06-25 math.OC
A Smoothing Accelerated Proximal Gradient Method with Nonmonotone Backtracking Strategy for Convex Nonsmooth Composite Multiobjective Optimization
针对含两个非光滑项的复合多目标优化问题，提出基于 Lipschitz 估计与平滑因子联动回溯的平滑加速近似梯度算法，证明弱 Pareto 收敛性与收敛速率，实验显示其效率优于次梯度算法。
2026-10-27 math.OC
A multilevel proximal trust-region method for nonsmooth optimization with applications
本文提出了一种多级近端信任区域方法，用于解决非光滑优化问题，并在偏微分方程约束优化和机器学习中展示了其效率和鲁棒性。
2025-11-29 math.OC
Smoothing Accelerated Proximal Gradient Method with Fast Convergence Rate for Nonsmooth Multi-objective Optimization
本文提出带外推项的平滑加速近端梯度法（SAPGM）求解非光滑多目标优化，通过引入特定外推项将收敛速率提升至 $o(\ln^σk/k)$，并证明迭代序列收敛到Pareto最优解，数值实验验证了方法有效性。
2024-10-18 math.OC
A proximal subgradient algorithm with extrapolation for structured nonconvex nonsmooth problems
本文针对一类结构化非凸非光滑优化问题，提出一种带外推的近端次梯度算法，证明其子序列收敛及在KL性质下的全局收敛性，并通过非凸正则化最小二乘和含分布式能源的最优潮流实验验证了算法性能。
2023-03-19 math.OC
Escaping Saddle Points for Nonsmooth Weakly Convex Functions via Perturbed Proximal Algorithms
Department of Electrical and Computer Engineering, University of California, Davis（加州大学戴维斯分校电气与计算机工程系）；Simon Business School, University of Rochester（罗切斯特大学西蒙商学院）
本文提出扰动近端算法，用于逃离非光滑弱凸函数的严格鞍点，并证明在标准假设下可在O(ε^{-2}log(d)^4)次迭代内找到ε-近似局部最小值。
2025-07-19 cs.LG math.OC
Convergence Analysis of an Inexact Proximal Trust-Region Method
Sandia National Laboratories（桑迪亚国家实验室）；Oregon State University（俄勒冈州立大学）
本文提出并分析了一种非精确近端信赖域算法，用于求解光滑非凸与非光滑凸函数之和的最小化问题，通过允许近端算子非精确评估保证全局收敛，并在PDE约束优化中验证了其有效性。
2026-09-23 math.OC
A Proximal Variable Smoothing for Nonsmooth Minimization Involving Weakly Convex Composite with MIMO Application
针对含弱凸复合函数的非光滑优化问题，提出一种基于Moreau包络的时变前向-后向近端变量平滑算法，提供了平稳点收敛性分析，并应用于MIMO信号检测验证了其有效性。
2025-01-23 math.OC
An implementable proximal-type method for computing critical points to minimization problems with a nonsmooth and nonconvex constraint
本文提出一种可实现的近端型方法，用于求解含非光滑非凸目标及约束的优化问题，通过有限凸模型逐点最小值构建非凸模型，在统一框架下计算满足必要最优性条件的模型临界点。
2024-09-25 math.OC
The Stochastic Multi-Proximal Method for Nonsmooth Optimization
该研究提出一种带方差缩减的随机多邻近方法SMPM，可覆盖多种现有邻近算法特例，推导了不同凸性条件下的收敛结果，且在带压缩通信的分布式优化中性能更优。
2025-05-18 math.OC
Nonsmooth trust-region algorithm with applications to robust stability of uncertain systems
本文提出了一种求解局部Lipschitz函数极小化问题的束置信域算法。我们证明了我们的方法的整体收敛，并通过一个例子表明，经典的收敛性参数的置信域方法的基础上的柯西点失败的非光滑设置。我们的方法进行了实验测试，在自动控制的三个问题。
2015-04-02 math.OC
Proximal Gradient methods with Adaptive Subspace Sampling
机器学习或信号处理中的许多应用涉及非光滑最优化问题。这种非光滑性给最优解带来了低维结构。在本文中，我们提出了一个随机化的近端梯度法利用这种潜在的结构。我们引入两个关键组件：i）随机子空间邻近梯度算法; ii）基于识别的子空间采样。他们的相互作用带来了显着的性能改善典型的学习问题的维度探索。
2020-04-28 math.OC
General Proximal Quasi-Newton Methods based on model functions for nonsmooth nonconvex problems
本文提出一种由连续矩阵生成器更新可变度量、基于局部模型函数和回溯线搜索的通用邻近拟牛顿法，用于非光滑非凸优化，并证明其聚点稳定性及 KL 性质下的全局收敛性。
2025-07-25 math.OC
Two-step inertial Bregman alternating structure-adapted proximal gradient descent algorithm for nonconvex and nonsmooth problems
针对实 Hilbert 空间中拟非扩张算子的多集分裂公共不动点问题，提出结合惯性技术与自适应步长的原始-对偶加速迭代算法，证明弱收敛并通过数值实验验证性能。
2023-06-07 math.OC
Block-coordinate and incremental aggregated proximal gradient methods for nonsmooth nonconvex problems
本文针对非光滑非凸优化问题，基于前向后向包络（FBE）分析块坐标近似梯度方法，在Kurdyka-Łojasiewicz性质下建立全局与线性收敛结果，还推导了Finito/MISO算法在非凸非光滑场景下的新收敛结论。
2019-11-26 math.OC
Newton acceleration on manifolds identified by proximal-gradient methods
已知近似方法用于识别非光滑最优化问题的底层子结构。更重要的是，在许多有趣的情况下，邻近算子的输出与其结构一起出现，而不需要额外的成本，一旦它与极小化器的结构相匹配，收敛性就会得到改善。然而，它是不可能的，在一般情况下，知道当前的结构是否是最终的或没有;这样的高度有价值的信息，必须自适应地利用。要做到这一点，我们把自己的情况下，近端梯度法可以识别流形的可微性的非光滑目标。利用这种流形识别，我们表明，黎曼牛顿类方法可以与近端梯度步骤交织在一起，以大大提高收敛性。证明了算法在求解非退化、非光滑、非凸最优化问题时的超线性收敛性。我们提供了数值例子的最优化问题正则化的$\ell_1$ -范数或跟踪范数。
2022-05-25 math.OC
A min-max reformulation and proximal algorithms for a class of structured nonsmooth fractional optimization problems
本文提出了一种解决结构非光滑分数优化问题的min-max改写与近端算法，通过交替最大化方法实现高效求解，并证明了算法的收敛性与效率。
2025-12-24 math.OC
An Inexact Proximal Framework for Nonsmooth Riemannian Difference-of-Convex Optimization
本文提出不精确黎曼近端DC（iRPDC）框架，用于求解含非光滑DC项的非光滑黎曼优化问题，首次建立与$\ell_0$正则化的等价性，并实现匹配最优的$\mathcal{O}(\epsilon^{-3})$整体复杂度，在稀疏PCA上验证了有效性。
2025-09-10 math.OC
Approaching nonsmooth nonconvex minimization through second order proximal-gradient dynamical systems
研究了一类近似梯度型二阶动力系统在非光滑凸函数和（可能非凸）光滑函数之和最小化时所产生的轨迹的渐近性质.如果目标函数的正则化满足Kurdyka-Schojasiewicz性质，则确保所生成的轨迹收敛到目标的临界点。我们还提供了收敛速度的轨迹制定的Chaojasiewicz指数。
2017-11-16 math.DS math.OC
Primal-dual proximal bundle and conditional gradient methods for convex problems
本文提出原始-对偶近端束方法求解凸非光滑复合优化与鞍点问题，建立迭代复杂度，发现与条件梯度的对偶性，并验证其优于次梯度方法。
2025-09-25 math.OC
A Proximal Quasi-Newton Trust-Region Method for Nonsmooth Regularized Optimization
我们提出了一个置信域方法来最小化光滑项$f$和非光滑项$h$之和，这两个项都可以是非凸的。我们的方法的每一次迭代最小化一个可能的非凸模型的$f + h$的信任区域。该模型与$f + h$在数值和次微分上一致。当$f$满足一个光滑条件，特别是当它具有Lipschitz连续梯度，并且$h$是适当的下半连续时，我们建立了整体收敛到一阶稳定点的条件.要求$h$的模型是适当的、下半连续的和有界的。在这些弱的假设下，我们建立了一个最坏情况下的$O(1/ε^2)$迭代复杂性界匹配的最佳已知的复杂性界的标准置信域光滑优化方法。我们详细介绍了一个特殊的情况下，命名为TR-PG，在其中我们使用有限记忆拟牛顿模型的$f$和计算一个步骤与邻近梯度法，从而产生一个实用的邻近拟牛顿法。我们建立了类似的收敛性和复杂性界的二次正则化变量，命名为R2，并提供了一个解释为近端梯度法与自适应步长的非凸问题。R2也可以用于计算置信域方法内部的步骤，从而产生名为TR-R2的实现。我们描述了我们的Julia实现和报告的数值结果从稀疏优化和信号处理的反问题。TR-PG和TR-R2都表现出良好的性能，并与两种基于凸模型的线性逼近拟牛顿法相比较。
2021-08-03 math.OC
Proximal methods for structured nonsmooth optimization over Riemannian submanifolds
本文针对黎曼子流形上含DC函数和弱凸项的结构化非光滑优化问题，提出流形邻近梯度-次梯度算法MPGSA及其增强版本，证明其收敛性并验证了数值效率。
2025-11-06 math.OC
Almost Sure Convergence of Random Projected Proximal and Subgradient Algorithms for Distributed Nonsmooth Convex Optimization
描述了两种分布式算法，使所有用户连接在一个网络上，以合作解决的问题，最小化的总和，所有用户的目标函数在所有用户的约束集的交集，其中每个用户有自己的私人非光滑凸目标函数和封闭的凸约束集，这是一些简单的，封闭的凸集的交集。一种算法使每个用户能够通过使用其目标函数的邻近算子和从简单的闭凸集中随机选择的一个集合上的度量投影来调整其估计。另一种是分布式随机投影算法，该算法通过使用用户的目标函数的次梯度而不是邻近算子来确定每个用户的估计。对这两种算法收敛性的研究表明，在一定的假设条件下，这两种算法所产生的所有用户的序列几乎必然收敛到同一个解。此外，对两种算法的收敛速度进行了分析，并讨论了使两种算法具有快速收敛性的步长序列的理想选择。具体的非光滑凸优化的数值比较支持了收敛性分析，并证明了两种算法的有效性。
2015-10-24 math.OC
An inertial Tseng's type proximal algorithm for nonsmooth and nonconvex optimization problems
University of Vienna（维也纳大学）
本文研究了在非凸情况下，通过非光滑函数与光滑函数之和的最小化问题，提出了一种具有惯性和记忆效应的前向-后向-前向近似算法，并证明了其收敛性。
2014-06-03 cs.NA math.NA math.OC
Proximal aiming in weak KAM theory with nonsmooth Lagrangian
本文提出一种基于非光滑拉格朗日量的弱KAM理论扩展方法，通过近似瞄准方法构建近优反馈策略，并利用线性规划确定有效霍尔纳函数。
2025-11-28 math.DS math.OC
The Sound of APALM Clapping: Faster Nonsmooth Nonconvex Optimization with Stochastic Asynchronous PALM
本文介绍了随机异步近似交替线性化最小化（SAPALM）方法，它是一种求解非凸、非光滑最优化问题的块坐标随机近似梯度法. SAPALM是第一个异步并行最优化方法，可证明收敛于一大类非凸，非光滑的问题。我们证明，SAPALM匹配最知名的收敛速度-同步或异步方法-在这个问题类。我们提供了上界的工人的数量，我们可以期望看到一个线性加速，这符合已知的最佳界限不太复杂的问题，并表明在实践中SAPALM实现这种线性加速。我们展示了几个矩阵分解问题的最先进的性能。
2016-06-07 math.OC
Nonsmoothness in Machine Learning: specific structure, proximal identification, and applications
非平滑性通常是优化的诅咒;但有时也是一种祝福，特别是对于机器学习中的应用。在本文中，我们提出了机器学习中出现的非光滑最优化问题的具体结构，并说明了如何在实践中利用这种结构，用于压缩，加速或降维。我们特别注意的介绍，使其简洁，易于访问，既有简单的例子和一般的结果。
2020-11-10 eess.SP math.OC stat.ML
Subgame Perfect Methods in Nonsmooth Convex Optimization
Johns Hopkins University（约翰斯·霍普金斯大学）；Purdue University（普渡大学）
本文针对带次梯度或近端算子预言机的非光滑凸优化问题，识别并提出满足子博弈完美性的算法，证明其性能不劣于极小极大最优且常更优。
2026-10-21 math.OC
Harnessing structure in composite nonsmooth minimization
针对非光滑函数与光滑映射的复合极小化问题，提出结合邻近步与序列二次规划步的算法，可局部识别最优光滑子结构并实现二次收敛，在两类问题上验证了性能。
2023-03-20 math.OC
Accelerated forward-backward method with fast convergence rate for nonsmooth convex optimization beyond differentiability
提出了一种快速收敛速度的向前向后加速算法，用于求解闭凸集上可分解非光滑凸函数的极小值，并将其命名为光滑加速邻近梯度（SAPG）算法.该算法结合了平滑方法和外推$\frac{k-1}{k+α-1}$和$α>3$的邻近梯度算法。平滑参数$μ_k$的更新规则是一个聪明的方案，并保证了整体收敛速度的$o(\ln^σk/k)$与$σ\in(\frac{1}{2},1]$的目标函数值。证明了该序列收敛于问题的最优解。此外，我们在SAPG算法中引入了一个误差项，得到了非精确平滑加速邻近梯度算法。在误差可和条件下，我们得到了与SAPG算法相同的收敛结果。最后通过数值实验验证了该算法的有效性。
2021-10-04 math.OC
Proximal gradient-type method with generalized distance and convergence analysis without global descent lemma
The Institute of Statistical Mathematics, Japan（日本统计数学研究所）；Joint Support-Center for Data Science Research, Japan（日本数据科学研究联合支持中心）；Department of Mathematics, College of Science and Technology, Nihon University, Japan（日本大学理工学部数学科）
本文提出了一种无需全局下降引理的近端梯度型方法，用于解决非凸复合优化问题，同时提供了新的锥优化内梯度方法收敛性结果。
2026-04-08 math.OC
