Inertial Proximal Alternating Linearized Minimization (iPALM) for Nonconvex and Nonsmooth Problems
本文研究了半代数数据的非凸非光滑最优化问题，其中变量向量被分成若干个变量块。该问题由整个变量向量的一个光滑函数和每个块的非光滑函数之和组成。我们分析了惯性版本的近端交替线性化最小化（PALM）算法，并证明其整体收敛的临界点的目标函数在手。我们说明了我们的理论研究结果，提出的数字实验盲图像反卷积，稀疏非负矩阵分解和字典学习，这表明所提出的方法的可行性和有效性。
2017-02-08 math.OC
A Bregman inertial forward-reflected-backward method for nonconvex minimization
提出了求解非凸组合问题的Bregman惯性前向反射后向（BiFRB）方法。我们的分析依赖于一种新的方法，对隐式价值函数参数施加一般条件，这产生了一个步长条件，是独立的惯性参数。反过来，马利茨基和塔姆关于FRB是否可以配备Nesterov型加速的问题得到了解决。假设目标函数的二次正则化具有广义凹Kurdyka-Schojasiewicz性质，得到了BiFRB的序列收敛性，以及关于函数值和实际序列的收敛速度.我们还提出了Bregman子问题的公式，不仅补充了BiFRB，而且还补充了Boe-Csetnek-László和Boe-Csetnek的工作。数值模拟进行评估我们提出的算法的性能。
2022-07-04 math.OC
Two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
针对非凸非光滑不可分优化问题，本文结合两步惯性外推与Bregman距离，基于PALM提出新型迭代算法，证明序列收敛性并通过信号恢复等问题验证有效性。
2023-06-13 math.OC
Inertial dynamical systems and accelerated algorithms with implicit Hessian-driven damping for nonconvex optimization
Chongqing Technology and Business University（重庆工商大学）；Sichuan University（四川大学）
本文提出了一种基于隐式Hessian驱动阻尼的惯性动力系统，用于解决强拟凸优化问题，并通过显式时间离散化和扰动项设计，实现了加速算法并验证了其收敛性。
2026-02-26 math.OC
Malitsky-Tam forward-reflected-backward splitting method for nonconvex minimization problems
将求解单调算子包含问题的Malitsky-Tam前向反射后向（FRB）分裂方法推广到非凸极小化问题.通过假设目标函数的二次正则化具有广义凹Kurdyka-Schojasiewicz（KL）性质，证明了FRB方法全局收敛于目标函数的一个稳定点，并具有有限长性质.我们的方法的锋利度是保证凭借与广义凹KL属性相关的确切模量。数值实验表明，FRB是竞争力相比，道格拉斯-Rachford方法和Bosnia-Csetnek惯性Tseng的方法。
2021-11-17 math.OC
An inertial ADMM for a class of nonconvex composite optimization with nonlinear coupling constraints
本文针对一类具有非线性耦合约束的非凸多块优化问题，提出一种结合惯性技术和带松弛参数的非标准乘子更新规则的交替方向乘子法，并证明了算法的子序列收敛性与全局收敛性。
2024-02-21 math.OC
A stochastic two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
本文提出STiBPALM算法，结合两步惯性与Bregman近端交替线性化及方差缩减随机梯度，用于求解大规模非凸非光滑优化问题，并证明其收敛性，通过稀疏非负矩阵分解和盲图像去模糊实验验证性能。
2023-07-11 math.OC
Inertial Stochastic PALM (iSPALM) and Applications in Machine Learning
最小化非光滑和非凸函数的惯性算法作为惯性近似交替线性化最小化算法（iPALM）已经证明了它们在计算时间方面优于它们的非惯性变体。在成像和机器学习的许多问题中，目标函数具有特殊的形式，涉及大量的数据，这鼓励了随机算法的应用。虽然基于随机梯度下降的算法仍然在大多数应用中使用，但最近也提出了用于最小化非光滑和非凸函数的随机算法。在本文中，我们推导出一个惯性变种的随机PALM算法与方差减少梯度估计，称为iSPALM，并证明了线性收敛的算法在一定的假设。我们的惯性方法可以被看作是广泛用于加速和稳定优化算法的动量方法的推广，特别是在机器学习中，非光滑问题。数值实验学习所谓的近端神经网络的权重和Student-t混合模型的参数表明，我们的新算法优于随机PALM和它的确定性同行。
2020-12-21 cs.NA math.NA math.OC
Inertial Proximal Difference-of-Convex Algorithm with Convergent Bregman Plug-and-Play for Nonconvex Imaging
针对现有凸差算法难以处理非凸项、收敛慢的问题，提出带收敛Bregman即插即用的惯性近端凸差算法iBPDCA及其变体，理论保证收敛，在成像任务上性能优于现有最优方法。
2024-09-18 math.OC
On inexact relative-error hybrid proximal extragradient, forward-backward and Tseng's modified forward-backward methods with inertial effects
本文提出并研究了求解单调包含问题的一种惯性欠松弛的相对误差混合邻近超梯度（HPE）方法的渐近收敛性和非渐近整体收敛速度（迭代复杂度）.我们分析了所提出的方法下更灵活的假设比现有的外推和相对误差参数。作为应用，我们提出和/或研究了求解结构单调包含的惯性欠松弛前后向和Tseng的修正前后向方法。
2018-12-05 math.OC
Inertial nonconvex alternating minimizations for the image deblurring
National University of Defense Technology（国防科技大学）；Universidad de Zaragoza（萨拉戈萨大学）
在图像处理中，全变差（TV）正则化模型通常用于恢复模糊图像。求解凸TV问题的最有效和最流行的方法之一是乘子的交替方向法（ADMM）算法，最近使用惯性邻近点方法对其进行了扩展。虽然所有的经典研究都集中在凸形式上，但由于其良好的数值性能和性质，最近的文章越来越关注非凸方法。在本文中，我们提出了一种新的非凸交替方向法的乘子惯性技术（IADMM），以扩展的经典公式。在一定的参数假设下，我们证明了算法的收敛性的帮助下的Kurdyka-Schojasiewicz性质。我们还提出了数值模拟经典的电视图像重建问题，以说明新算法的效率和它的行为相比，以及建立ADMM方法。
2019-07-27 cs.CV cs.MM eess.IV
Two-step inertial Bregman alternating structure-adapted proximal gradient descent algorithm for nonconvex and nonsmooth problems
针对实 Hilbert 空间中拟非扩张算子的多集分裂公共不动点问题，提出结合惯性技术与自适应步长的原始-对偶加速迭代算法，证明弱收敛并通过数值实验验证性能。
2023-06-07 math.OC
A forward-backward dynamical approach to the minimization of the sum of a nonsmooth convex with a smooth nonconvex function
我们从一个前向-后向型隐式动力系统的角度讨论了一个适当的、凸的、下连续的和与一个（可能是非凸的）光滑函数的最小化问题。后者是利用光滑函数的梯度和非光滑函数的近点算子来表示的。由动力系统产生的轨迹被证明渐近收敛到目标的一个临界点，提供了后者的正则化满足Kurdyka-Eschojasiewicz属性。还提供了在正则化目标函数的Chlojasiewicz指数方面的轨迹的收敛速度。
2015-07-06 math.DS math.OC
An inertial forward-backward algorithm for monotone inclusions
TU Braunschweig（布伦瑞克工业大学）；Graz University of Technology（格拉茨工业大学）；AIT Austrian Institute of Technology GmbH（AIT奥地利技术研究所有限公司）
在本文中，我们提出了一个惯性向前向后分裂算法来计算两个单调算子之和的零点，其中两个算子之一是共强制的。该算法的灵感来自Nesterov的加速梯度法，但可以应用于更大的一类问题，包括凹凸鞍点问题和一般单调包含。我们证明了该算法在Hilbert空间设置的收敛性，并表明，最近提出的几个一阶方法可以得到的一般算法的特殊情况。数值结果表明，该算法在保持每次迭代的计算量基本不变的情况下，比现有方法收敛更快。
2014-09-12 cs.CV cs.NA math.NA
Forward-backward envelope for the sum of two nonconvex functions: Further properties and nonmonotone line-search algorithms
我们提出了ZeroFPR，一个非单调线性算法，用于最小化两个非凸函数之和，其中一个是光滑的，另一个可能是非光滑的。ZeroFPR是第一个算法，尽管它适合于完全非凸问题，并且只需要向前向后分裂（FBS）的黑盒预言--即平滑项的梯度和非平滑项的邻近算子的评估--当线性方向满足Dennis-Moré条件时，在极限点的温和假设下实现超线性收敛速率，我们证明了这是拟牛顿方向的情况。我们的方法是基于前向-后向包络（FBE），一个精确的和严格连续的罚函数的原始成本。扩展以前的结果，我们表明，尽管是非光滑的完全非凸问题，FBE仍然享有良好的一阶和二阶属性，这是关键的收敛结果的ZeroFPR。我们的理论结果是支持有前途的数值模拟。在大规模问题上，通过使用有限内存拟牛顿更新计算线方向，我们的算法大大优于FBS及其加速变体（AFBS）。
2017-05-23 math.OC
A Bregman forward-backward linesearch algorithm for nonconvex composite optimization: superlinear convergence to nonisolated local minima
针对两个非凸函数之和的最小化问题，提出基于Bregman前后包络的线搜索算法Bella，可在KL条件下全局收敛到平稳点，且在非孤立极小点处也能实现超线性收敛。
2020-05-01 math.OC
An Inertial Block Majorization Minimization Framework for Nonsmooth Nonconvex Optimization
Huawei Belgium Research Center（华为比利时研究中心）；HCMC University of Education（胡志明市教育大学）；University of Mons（蒙斯大学）
本文介绍了一种新的求解非光滑非凸优化问题的惯性块优化极小框架TITAN。据我们所知，TITAN是块坐标更新方法的第一个框架，它依赖于优化-最小化框架，同时将惯性力嵌入到块更新的每一步。惯性力是通过一个外推算子，其中包括重球和Nesterov型加速度块近端梯度法作为特殊情况。通过选择各种替代函数，如近端，Lipschitz梯度，Bregman，二次和复合替代函数，并通过改变外推算子，TITAN产生了丰富的惯性块坐标更新方法。我们研究了TITAN生成序列的子序列收敛性和整体收敛性。我们说明了TITAN的有效性上两个重要的机器学习问题，即稀疏非负矩阵分解和矩阵完成。
2022-09-20 cs.LG eess.SP math.OC
A stochastic inertial forward-backward splitting algorithm for multivariate monotone inclusions
我们提出了一个惯性向前向后分裂算法来计算两个单调算子之和的零点，允许在算子的计算中存在随机误差。更准确地说，我们建立了几乎必然收敛在实希尔伯特空间的序列的迭代到一个最优解。在此基础上，我们引入了两类新的求解复合单调包含结构方程组的随机惯性原对偶分裂方法，并证明了它们的收敛性。我们的结果推广到随机和惯性环境下的各种类型的结构单调包含问题和相应的算法解决方案。最小化问题的应用进行了讨论。
2015-07-03 math.OC
Relaxed and Inertial Nonlinear Forward-Backward with Momentum
本文研究求解单调包含问题的惯性算法，提出带松弛步骤的惯性NFBM及双惯性版本，推导多种算法的惯性松弛变体并扩展文献结果，通过图像恢复实验验证算法性能并提出重启策略提升收敛性。
2024-12-03 math.OC
Solving a Class of Nonconvex Quadratic Programs by Inertial DC Algorithms
本文针对线性约束下不定二次规划提出两种惯性DC算法，通过限定条件证明迭代序列有界且聚点为KKT点，并改进已有惯性算法定理以处理无界约束集。
2024-04-02 math.OC
Relaxed and inertial nonlinear Forward-Backward algorithm
Universidad de O’Higgins（奥希金斯大学）；Universidad de Chile（智利大学）；Universidad de Concepción（康塞普西翁大学）；Universidad de Tarapacá（塔拉帕卡大学）
本文提出了一种放松和惯性非线性前向-反向算法，研究其收敛性并验证了其在优化和图像恢复中的有效性。
2025-12-01 math.OC
An inertial forward-backward-forward primal-dual splitting algorithm for solving monotone inclusion problems
引入并研究了一个逼近极大单调算子与单值单调Lipschitz算子和的零点集的惯性向前向后向前分裂算法的收敛性质.利用积空间方法，我们将其推广到线性组合与平行和型单调算子的混合包含问题的求解。我们以这种方式获得一个惯性向前向后向前原始对偶分裂算法的主要特点的事实，即在迭代方案中，所有的运营商分别访问通过向前或向后评估。我们也提出了变分的情况下，当一个人有兴趣在解决一个原始-对偶对凸优化问题与复杂的目标函数。
2014-02-21 math.FA math.OC
An Inertial Block Proximal Linearized Method with Adaptive Momentum for Nonconvex and Nonsmooth Optimization
Yunnan Earthquake Administration（云南省地震局）
本文针对多块非凸非光滑优化问题，提出IBPL⁺-TP方法，该方法具三大优势，可保证目标函数单调收敛及序列全局收敛至临界点，在两类带ℓ₀约束的稀疏非负矩阵分解等问题上性能优于现有最先进方法。
2026-08-07 cs.LG math.OC
A hybrid proximal-extragradient algorithm with inertial effects
University of Vienna（维也纳大学）
本文提出一种结合惯性项的混合近端-反梯度算法，研究其在实希尔伯特空间中求解极大单调算子零点的收敛性，结合扩展Fejér单调性技术与Opial引理分析，并展示经典算法可嵌入该框架。
2014-07-01 cs.NA math.FA math.NA
A Multi-step Inertial Forward--Backward Splitting Method for Non-convex Optimization
本文提出了一种多步惯性向前-向后分裂算法，用于极小化两个非必然凸函数之和，其中一个函数是真下半连续的，另一个函数是可微的且梯度为Lipschitz连续的.首先利用Kurdyka-Schojasiewicz性质证明了格式的整体收敛性.然后，当非光滑部分相对于光滑子流形也部分光滑时，我们建立了后者的有限识别，并提供了尖锐的局部线性收敛分析。所提出的方法说明了统计和机器学习所产生的一些问题。
2016-10-27 math.OC
DWIFOB: A Dynamically Weighted Inertial Forward-Backward Algorithm for Monotone Inclusions
提出一种新的求解结构单调包含问题的动态加权惯性前后向算法（DWIFOB）。该方案利用了[26]中的全局收敛的带偏差的向前向后算法作为基础，并将其与Anderson加速中使用的外推技术相结合，以改善局部收敛。我们还提出了一个全球收敛的原始-对偶的DWIFOB变体，并数值比较其性能的原始-对偶方法的Chambolle-Pock和Tikhonov正则化版本的安德森加速应用到同一个问题。在我们所有的数值计算中，DWIFOB的原始-对偶变体优于Chambolle-Pock算法。此外，我们的数值实验表明，我们提出的方法是更强大的正则化安德森加速，它可能无法收敛，算法参数敏感。这些数值实验突出表明，我们的方法表现非常好，同时仍然是强大和可靠的。
2022-02-28 math.OC
A Relaxed Inertial Forward-Backward-Forward Algorithm for Solving Monotone Inclusions with Application to GANs
University of Vienna（维也纳大学）；University of Southampton（南安普顿大学）
介绍了一种松弛的惯性向前向后向前（RIFBF）分裂算法，用于逼近极大单调算子与单值单调Lipschitz连续算子之和的零点集.本工作的目的是通过使用惯性效应以及松弛因子来扩展Tseng的向前-向后-向前方法。首先，我们制定一个二阶动力系统的单调包含问题的解决方案，并提供其轨迹的渐近分析。我们提供了RIFBF，它遵循明确的时间离散，收敛性分析，在一般单调的情况下，以及当应用到解决伪单调变分不等式。我们通过应用于双线性鞍点问题来说明所提出的方法，在此背景下，我们还强调了惯性和松弛因子之间的相互作用，以及生成对抗网络（GANs）的训练。
2020-03-22 cs.LG math.OC
A relaxed-inertial forward-backward-forward algorithm for Stochastic Generalized Nash equilibrium seeking
本文提出了一种新的算子分裂算法，用于求解随机不确定性下的分布式纳什均衡，具有松弛和惯性效应。我们的工作受到最近的确定性算子分裂方法的启发，设计用于解决结构单调包含问题。该算法是从一个向前-向后-向前计划解决结构单调包含问题具有Lipschitz连续和单调的游戏运营商。据我们所知，这是第一个分布式（广义）纳什均衡寻求算法，具有加速技术在随机纳什博弈，而不假设cocoercivity。数值例子说明了惯性和松弛对我们所提出的算法的性能的影响。
2021-03-24 cs.GT math.OC
A forward-reflected-anchored-backward splitting algorithm with double inertial effects for solving non-monotone inclusion problems
本文将带双重惯性效应的前向-反射-锚定-后向分裂算法推广到广义单调的非单调包含问题，证明了序列的强收敛性，并展示了其在约束优化、混合变分不等式和变分不等式中的应用。
2025-03-11 math.OC
Inertial forward-backward algorithm with exterior penalization and Tikhonov regularization
Mannheim University（曼海姆大学）；Rijksuniversiteit Groningen（格罗宁根大学）
本文开发数值分裂技术，提出多尺度惯性前向后向分裂算法，用于解决约束单调包含问题，能处理多种惩罚算子，建立了迭代弱收敛性，在特定条件下证明了向最小范数解的强收敛性。
2026-07-13 math.OC
Local and Global Convergence of an Inertial Version of Forward-Backward Splitting
最优化中一个非常有趣的问题是最小化两个闭的、真的和凸函数的和，其中一个是光滑的，另一个具有计算上廉价的邻近算子。在本文中，我们分析了一个家庭的惯性向前向后分裂（I-FBS）算法来解决这个问题。我们首先应用全局李雅普诺夫分析I-FBS和证明弱收敛到一个极小的迭代在一个真正的希尔伯特空间。然后，我们表明，算法实现局部线性收敛的“稀疏优化”，这是重要的特殊情况下，非光滑项是$\ell_1$ -范数。这个结果在限制强凸或严格互补条件下成立，并且我们不要求目标是严格凸的。对于某些参数的选择，我们确定迭代次数的上界，直到迭代被限制在包含解集的流形上，并且线性收敛成立。稀疏优化的局部线性收敛结果适用于Beck和Teboulle的快速迭代收缩和软收缩保持算法（FISTA），这是I-FBS的特定参数选择。尽管它的最佳的全局目标函数收敛速度，我们表明，FISTA是不是最佳的稀疏优化的局部收敛率。我们确定局部最优的参数选择的I-FBS家庭。最后，我们提出了一种方法，它继承了FISTA优秀的全局速度，但也有优秀的局部速度。
2017-01-23 cs.NA math.NA math.OC
A mirror inertial forward-reflected-backward splitting: Global convergence and linesearch extension beyond convexity and Lipschitz smoothness
针对相对光滑性下的结构化非凸最小化问题，本文提出带对偶空间惯性步、允许负惯性值的Bregman惯性前向-反射-后向分裂算法，通过新乘积空间包络函数结合广义凹KL性质证明全局收敛性与速率，并给出线搜索扩展。
2022-12-03 math.OC
Forward-backward algorithms with different inertial terms for structured non-convex minimization problems
我们研究两个惯性向前向后的算法与最小化的总和的非光滑和可能的非凸和非凸可微函数。该算法是制定在著名的FISTA方法的精神，但设置是非凸的，我们允许不同的惯性项。此外，我们的算法中的惯性参数也可以取负值。我们还治疗的情况下，当非光滑函数是凸的，我们表明，在这种情况下，可以允许一个更好的步长。我们证明了一些抽象的收敛结果，适用于我们的数值方案，使我们能够表明，所产生的序列收敛到一个临界点的目标函数，提供了正则化的目标函数满足Kurdyka-Lojasiewicz属性。此外，我们得到了一个一般的结果，适用于我们的数值方案，确保所产生的序列和目标函数值的正则化的目标函数的KL指数制定的收敛速度。最后，我们将我们的结果应用于图像恢复。
2021-01-19 math.FA math.OC
A Framework of Inertial Alternating Direction Method of Multipliers for Non-Convex Non-Smooth Optimization
Huawei Belgium Research Center（华为比利时研究中心）；Carnegie Mellon University（卡内基梅隆大学）；Université de Mons（蒙斯大学）
本文提出了一种求解一类带线性约束的非凸非光滑多块组合最优化问题的算法框架，称为乘子惯性交替方向法（iADMM）.我们的框架采用了一般的最小化优化（MM）原则更新每个块的变量，以便不仅统一以前的ADMM，在MM步骤中使用特定的代理函数的收敛性分析，但也导致新的高效ADMM计划。据我们所知，在非凸非光滑设置，ADMM结合MM原则来更新每个变量块，以及ADMM结合\emph{inertial terms for the primal variables}还没有在文献中研究。在标准假设下，我们证明了生成的迭代序列的渐近收敛性和整体收敛性。我们说明了iADMM对一类非凸低秩表示问题的有效性。
2022-06-24 cs.LG eess.SP math.OC
The Intrinsic Riemannian Proximal Gradient Method for Nonconvex Optimization
Norwegian University of Science and Technology（挪威科技大学）；RWTH Aachen University（亚琛工业大学）；Universität Potsdam（波茨坦大学）
研究非凸优化问题，提出黎曼流形上近端梯度法的内在变体，该方法基于前向后分裂，使用流形上近端映射，无需嵌入，研究了收敛性质并展示其在非凸或非嵌入问题上的数值性能。
2026-07-16 cs.NA math.DG math.NA
IML FISTA: A Multilevel Framework for Inexact and Inertial Forward-Backward. Application to Image Restoration
本文提出IML FISTA多层框架，利用Moreau包络构建粗层校正，在保持理论收敛保证的同时，显著加速大规模图像复原中前向-后向类算法的收敛。
2024-04-02 math.OC
A Double Inertial Forward-Backward Splitting Algorithm With Applications to Regression and Classification Problems
Department of Mathematics, Faculty of Science, Erzurum Technical University（数学系，科学学院，埃兹朱尔姆技术大学）；Department of Computer Engineering, Naval Academy National Defense University（计算机工程系，海军学院国防大学）
本文提出一种带双惯性参数的前向-后向分裂算法，用于求解 Hilbert 空间中 co-coercive 算子与极大单调算子之和的零点问题，并证明其弱收敛性；在回归与分类任务上的实验表明该算法优于现有方法。
2025-05-01 cs.LG math.OC
A strongly convergent inertial inexact proximal-point algorithm for monotone inclusions with applications to variational inequalities
本文提出一种在更弱惯性参数假设下强收敛的惯性非精确邻近点算法，并给出迭代复杂度分析，将其应用于变分不等式，得到多种经典方法的强收敛惯性变体，数值实验验证了其有效性。
2025-09-23 math.OC
A Tseng type stochastic forward-backward algorithm for monotone inclusions
本文提出了求解实希尔伯特空间中极大单调算子与单值单调算子之和的单调包含的经典Tseng带惯性项的向前向后向前方法的一个随机版本.在一般情形下得到了几乎必然收敛，在强单调情形下得到了期望速度$\mathcal{O}(1/n)$.此外，我们得到了鞍点问题的原始-对偶间隙的$\mathcal{O}(1/n)$速度收敛性。
2022-02-20 cs.NA math.NA math.OC
Stochastic Relaxed Inertial Forward-Backward-Forward splitting for Monotone Inclusions in Hilbert spaces
考虑Hilbert空间上的单调包含，其中算子由极大单调算子$T$和单值单调、Lipschitz连续和期望值算子$V$之和给出.我们从开创性的工作Attouch和Cabot放松惯性方法单调夹杂物的动机，并提出了一个随机扩展的放松惯性向前向后向前（RISFBF）方法。通过一个小批量方法的在线方差减少策略，我们表明，（RISFBF）产生一个序列，弱收敛到解决方案集。此外，还可以估计随机过程的离散速度消失的速率。在强单调性下，我们证明了强收敛性，并给出了详细的评估的迭代和预言复杂性的计划。当以几何（多项式）速率提升小批量时，速率语句可以被增强为线性（合适的多项式）速率，同时计算$ε$ -解的oracle复杂度提高到$O(1/ε)$。重要的是，后一种说法允许可能有偏见的神谕，这是一个关键的理论进步，允许更广泛的适用性。通过定义一个基于Fitzpatrick函数的限制间隙函数，我们证明了平均序列的期望间隙以$O(1/k)$的次线性速率减小，而计算一个适当定义的$ε$ -解的预言复杂度是$O(1/ε^{1+a})$，其中$a>1$ .两阶段游戏和重叠组Lasso问题的数值结果表明，我们的方法相比，随机向前-向后-向前（SFBF）和SA计划的优势。
2021-08-02 math.OC
Partial Envelope for Optimization Problem with Nonconvex Constraints
针对非凸约束优化问题，提出前向-后向半包络方法，消除凸集约束而保留等式约束，证明其光滑性及与原始问题一阶稳定点的一致性，并开发不精确投影梯度法实现全局收敛。
2025-10-25 math.OC
On fundamental properties of high-order forward-backward envelope
University of Antwerp（安特卫普大学）
本文研究非凸复合函数的高阶正则化中HiFBS映射和HiFBE包络的基本性质，包括有界性、连续性、次微分显式形式及可微性条件，为梯度算法奠定基础。
2026-06-24 math.OC
An inexact inertial projective splitting algorithm with strong convergence
针对涉及有限多个极大单调算子之和的复合单调包含问题，提出具有强收敛性的不精确惯性投影分裂算法，通过半空间交集投影确保强收敛，建立迭代复杂度结果，还推导采用前向-后向等步骤的变体。
2025-07-07 math.OC
A preconditioned second-order convex splitting algorithm with extrapolation
School of Mathematics, Renmin University of China（中国人民大学数学学院）
本文提出了一种结合外推方法和预条件二阶凸分裂算法的非凸优化算法，通过隐式-显式方案提高效率，并在多个实验中验证了其高效性和竞争力。
2025-12-18 cs.NA math.NA math.OC
Convergence Rate of Inertial Forward-Backward Algorithms Based on the Local Error Bound Condition
“惯性向前向后算法”（IFB）是求解凸非光滑极小化问题的有力工具，它给出了著名的“快速迭代收缩阈值算法“（FISTA），该算法具有$O\left( {\frac{1}{k^2}} \right)$函数值整体收敛速度，但迭代不收敛;通过一个小的修改，一个加速IFB（FISTA\_CD）将函数值的收敛速度提高到了$o\left( {\frac{1}{k^2}} \right)$，并显示了迭代的弱收敛性。局部误差界条件在分析许多求解最优化问题的迭代方法的收敛速度时是非常有用的，而在实际应用中，大量具有特殊结构的问题往往满足误差界条件。当然，利用局部误差界条件来推导或提高迭代法的收敛速度是一种常用的方法。本文基于局部误差界条件，对IFB中的重要参数$t_k$提出了一个新的假设条件，并在Hilbert空间中建立了6个满足上述假设条件的$t_k$的IFB算法所产生的迭代的改进的函数值收敛速度和强收敛性.值得注意的是，在局部误差有界的条件下，我们证明了FISTA_CD迭代的强收敛性，并证明了FISTA_CD的函数值的收敛速度与参数$a,$的值有关，证明了具有上述$t_k$的IFB算法对任意正整数$p>1$都能达到次线性收敛速度$o\left( {\frac{1}{k^p}} \right)$.最后通过数值实验验证了我们的结论.
2022-02-24 math.OC
Coderivative-Based Newton Methods in Structured Nonconvex and Nonsmooth Optimization
Ho Chi Minh City University of Education（胡志明市教育大学）；Wayne State University（韦恩州立大学）；University of North Dakota（北达科他大学）
本文提出了一种基于编码导数的牛顿方法，用于解决结构非凸和非光滑优化问题，并通过改进的线搜索方法和前向-后向包裹机制实现了快速收敛。
2026-03-01 math.OC
Block-coordinate and incremental aggregated proximal gradient methods for nonsmooth nonconvex problems
本文针对非光滑非凸优化问题，基于前向后向包络（FBE）分析块坐标近似梯度方法，在Kurdyka-Łojasiewicz性质下建立全局与线性收敛结果，还推导了Finito/MISO算法在非凸非光滑场景下的新收敛结论。
2019-11-26 math.OC
Non-geodesically-convex optimization in the Wasserstein space
University of Helsinki（赫尔辛基大学）
针对Wasserstein空间中沿广义测地线具有凸函数差分结构的非凸优化与采样问题，提出半前后向Euler格式并给出多种非凸非光滑情形下的收敛性结论。
2025-01-07 cs.LG math.OC
PANTR: A proximal algorithm with trust-region updates for nonconvex constrained optimization
本文提出PANTR算法，结合前向-后向迭代与信赖域子问题求解非凸约束优化，利用线性牛顿近似和约束结构加速更新，并在非线性模型预测控制中验证了其有效性。
2023-06-29 math.OC
Generalized Geometry Block Proximal Linearized Method for Multiblock Nonconvex and Nonsmooth Optimization
针对多块非凸非光滑优化问题，提出广义几何块近端线性化（GGBPL）方法及其惯性版本，利用任意内积和可容许度量适应问题几何结构，建立了统一收敛框架和迭代复杂度界，并在稀疏非负矩阵分解和CP分解上展现优越性能。
2026-10-06 cs.LG math.OC
Efficient Recovery of Low Rank Tensor via Triple Nonconvex Nonsmooth Rank Minimization
最近提出了一种基于张量核范数（TNN）的方法来解决张量恢复问题，并取得了最先进的性能。然而，它可能无法产生高度准确的解决方案，因为它倾向于平等地对待每个正面切片和每个正面切片的每个秩分量。为了得到高精度的恢复，我们提出了一种通用的、灵活的秩松弛函数--双加权非凸非光滑秩（DWNNR）松弛函数，以有效地解决三阶张量恢复问题.通过将权向量设为某个凹函数的超梯度值，从而自适应地选择权向量，可以从三重非凸非光滑秩（TNR）松弛函数导出DWNNR松弛函数.为了加速该模型，我们发展了一般的惯性平滑近似梯度法。进一步证明了生成子序列的任一极限点都是临界点。结合Kurdyka-Lojasiewicz（KL）性质和一些较温和的假设，我们进一步给出了它的整体收敛保证.在一个实际的张量补全问题上的实验结果表明了该算法的有效性和优越性。
2022-05-12 math.OC
Accelerated projection-based forward-backward splitting algorithms for monotone inclusion problems
本文基于惯性和Tseng的思想，提出了两个求解无穷维希尔伯特空间中单调包含问题的投影算法。在一定条件下得到了强收敛解定理。数值实验表明，本文算法比已有的结果更有效。
2020-05-05 math.FA math.OC
Splitting methods with variable metric for KL functions
研究了希尔伯特空间中满足Kurdyka-Lojasiewicz不等式的下连续非凸函数f的一般抽象下降法的收敛性.我们证明了任何预紧序列收敛到f的临界点，并得到了新的值和迭代的收敛速度。该分析涵盖了具有可变度量和相对误差的前后向方法的交替版本。作为一个例子，详细介绍了Levenberg-Marquardt算法的一个非光滑非凸版本。
2014-07-07 math.OC
Accelerated Convergence of a Second-Order Dynamical System and its Application to Splitting Algorithms for Comonotone Inclusions
School of Mathematics and Statistics, Chongqing Technology and Business University（重庆工商大学数学与统计学院）
本文提出一种新型二阶动力系统，经分析其具有加速收敛性，时间离散化后得到双惯性Halpern前向-后向分裂算法，数值实验验证了该算法在分裂可行性等问题上的有效性。
2026-09-03 math.OC
