Minimization of nonsmooth nonconvex functions using inexact evaluations and its worst-case complexity
针对复合非光滑非凸优化问题，提出了一种基于非精确函数和导数计算的自适应正则化算法。它表明，该算法最多需要$O(|\log(ε)|\,ε^{-2})$评估的问题的功能和他们的衍生物找到一个$ε$ -近似的一阶稳定点。因此，该复杂性界限概括了[Bellavia，Gurioli，Morini和Toint，2018]为光滑非凸问题的不精确方法提供的复杂性界限，并且在具有精确评估的光滑和非光滑非凸最小化已知的最优界限的$|\log(ε)|$因子内。一个实际上更严格的最坏情况下的复杂性$O(|\log(ε)|+ε^{-2})$的算法的变体。
2019-02-27 math.OC
A Nonconvex Nonsmooth Regularization Method for Compressed Sensing and Low-Rank Matrix Completion
本文研究了压缩感知（CS）和低秩矩阵完备（MC）的非凸非光滑模型。将问题转化为一个非凸的正则化最小二乘最优化问题，其中l0范数和秩函数分别用l1范数和核范数代替，并分别增加一个非凸的罚函数.提出了一种交替极小化方案，证明了由交替算法产生的子序列收敛于一个临界点的存在性。对于非凸正则化CS和MC问题，分别分析了NSP、RIP和RIP稳定恢复保证条件。最后，通过实验结果证明了所提出的方法的性能。
2016-05-02 math.OC
A theory on the absence of spurious solutions for nonconvex and nonsmooth optimization
本文提出“全局函数”理论，证明张量分解中一类非凸非光滑目标不存在伪局部最优，为 ℓ1 范数鲁棒非凸优化提供理论保证。
2025-02-14 math.OC
An adaptive exact penalty method for nonsmooth optimal control problems with nonsmooth nonconvex state and control constraints
针对具有非光滑代价泛函、非光滑（但连续）动态、非光滑状态和控制约束的最优控制问题，提出了一类精确惩罚型局部搜索法，其中罚参数和多个线搜索参数在寻优过程中自适应调整.这类方法适用于具有已知DC（Difference-of-凸函数）结构的问题，其核心是基于经典的DCA方法，结合用于更新罚参数的转向精确罚规则和自适应非单调线搜索过程。在所有辅助子问题仅近似求解（即有限精度）的假设下，我们证明了所提出的方法族的正确性，并给出了详细的收敛性分析。几个不同版本的方法的性能示出通过一个数值例子，其中的方法被施加到一个半学术最优控制问题的非光滑非凸状态约束。
2023-02-18 math.OC
A variable smoothing for Nonconvexly constrained nonsmooth optimization with application to sparse spectral clustering
本文提出一种变量平滑算法，通过将非凸约束参数化为欧几里得空间并利用 Moreau 包络平滑非光滑项，求解非凸约束非光滑优化问题，并应用于稀疏谱聚类。
2024-04-03 math.OC
Relax-and-split method for nonsmooth nonconvex problems
我们开发和分析了一个新的“松弛和分裂”（RS）的方法，可分离的非凸非光滑函数与线性映射的组合物。RS使用松弛技术与部分最小化，并带来了经典的技术，包括直接因式分解，矩阵分解，和快速迭代法承担非光滑非凸问题。我们还扩展了修剪非凸复合配方的方法，由此产生的修剪RS（TRS）可以适合模型，同时检测数据中的离群值。然后，我们测试RS和TRS上的各种应用程序：（1）相位检索，（2）随机最短路问题，（3）半监督分类，（4）新的聚类方法。RS/TRS可以应用于功能假设非常弱的模型，易于实现，与现有方法竞争，并使建模公式的新水平得以提出，以应对数学科学中出现的挑战。
2018-09-26 math.OC
Inertial Proximal Alternating Linearized Minimization (iPALM) for Nonconvex and Nonsmooth Problems
本文研究了半代数数据的非凸非光滑最优化问题，其中变量向量被分成若干个变量块。该问题由整个变量向量的一个光滑函数和每个块的非光滑函数之和组成。我们分析了惯性版本的近端交替线性化最小化（PALM）算法，并证明其整体收敛的临界点的目标函数在手。我们说明了我们的理论研究结果，提出的数字实验盲图像反卷积，稀疏非负矩阵分解和字典学习，这表明所提出的方法的可行性和有效性。
2017-02-08 math.OC
Smoothing algorithms for nonsmooth and nonconvex minimization over the stiefel manifold
考虑Stiefel流形上一类非光滑非凸最优化问题，其中目标函数是由一个非凸光滑函数和一个由线性映射构成的非光滑Lipschitz连续凸函数之和.我们提出了三个数值算法来解决这个问题，通过结合平滑方法和一些现有的算法光滑优化Stiefel流形。特别地，我们在光滑化方法中用Moreau包络逼近了上述非光滑凸函数，并证明了Moreau包络具有许多有利的性质。由于这一点和计划更新的平滑参数，我们表明，所提出的算法产生的解决方案序列的任何积累点是一个固定点的原始最优化问题。在构建图傅立叶基上的数值实验证明了所提算法的有效性。
2023-03-25 math.OC
Convergence Analysis of A Proximal Linearized ADMM Algorithm for Nonconvex Nonsmooth Optimization
本文考虑一种近似线性化交替方向乘子法（PL-ADMM）来求解线性约束非凸和可能的非光滑最优化问题。通过在原始更新中使用变尺度邻近项和在乘子更新中使用超松弛步长，将该算法推广。证明了该方法生成的序列是有界的，其极限点是临界点。在强大的Kurdyka-{Eschojasiewicz}性质下，我们证明了序列具有有限长度从而收敛，并且我们驱动了它的收敛速度。
2021-07-03 math.OC
Optimality conditions for nonsmooth nonconvex-nonconcave min-max problems and generative adversarial networks
研究了机器学习和博弈中一类非光滑非凸-非凹极大极小问题。首先给出了全局极大极小点和局部极大极小点存在的充分条件。其次，我们利用方向导数建立了局部极小极大点的一阶和二阶最优性条件。这些条件减少到光滑的最小最大问题与Fr{é}chet导数。我们将我们的理论结果应用于生成对抗网络（GANs），其中两个神经网络在游戏中相互竞争。最后通过实例说明了新理论在GANs训练中的应用。
2022-03-21 math.OC
The cost of nonconvexity in deterministic nonsmooth optimization
我们研究了非凸性对非光滑最优化复杂性的影响，强调了分段线性函数等目标，这些目标可能不是弱凸的。我们专注于维度无关分析，稍微修改了Zhang等人（2020）的黑盒算法，该算法使用$O(ε^{-4})$调用专门的次梯度预言和随机线搜索来近似任何方向可微Lipschitz目标的$ε$ -稳定点。我们简单的黑盒确定性的版本，实现$O(ε^{-5})$的任何差异的凸目标，和$O(ε^{-4})$的弱凸的情况下。我们的复杂性约束取决于一个自然的非凸性模量，相关的，有趣的是，负的一部分，定向二阶导数的目标，理解的分布意义上。
2022-10-07 math.OC
Linear Convergence of Variable Bregman Stochastic Coordinate Descent Method for Nonsmooth Nonconvex Optimization by Level-set Variational Analysis
大规模非凸和非光滑问题在压缩感知、大数据优化和机器学习等领域引起了广泛的关注。探索有效的方法仍然是当今研究的主要挑战。随机坐标下降法已被广泛应用于求解大规模最优化问题。本文证明了变Bregman随机坐标下降法（VBSCD）对一类非光滑非凸最优化问题的收敛性，由VBSCD生成的序列的任何累加几乎肯定是临界点。此外，我们开发了一个新的水平集上的变分方法，旨在对收敛速度分析。如果水平集次微分误差界成立，我们推导出一个线性的收敛速率的期望值的目标函数和期望值的随机变量的VBSCD。
2019-05-27 math.OC
Incremental Quasi-Newton Algorithms for Solving Nonconvex, Nonsmooth, Finite-Sum Optimization Problems
提出并测试了求解非凸、非光滑、有限和最优化问题的算法。特别是，算法提出和测试的上下文中产生的半监督机器学习的最优化问题制定。所有算法的共同特征是它们采用增量拟牛顿（IQN）策略，特别是增量BFGS（IBFGS）策略。一个应用IBFGS策略的问题直接，而其他应用IBFGS策略的差异凸重构，平滑逼近，或（强）凸局部逼近。实验表明，所有IBFGS方法在实践中表现良好，并且都优于最先进的捆绑方法。
2022-07-20 math.OC
A Stochastic Subgradient Method for Nonsmooth Nonconvex Multi-Level Composition Optimization
我们提出了一个单时间尺度的随机次梯度方法的约束优化的组合的几个非光滑和非凸函数。函数被假定为局部Lipschitz和可微的广义意义。仅使用函数的值和广义导数的随机估计。该方法是无参数的。我们证明了收敛的概率1的方法，通过与它的微分包含系统和设计一个不可微的李雅普诺夫函数这个系统。对于具有Lipschitz连续导数的函数的问题，该方法在执行具有恒定步长的$N$迭代之后，找到满足具有$1/\sqrt{N}$阶误差的最优性度量的点。
2020-12-18 math.OC
Smoothing Iterative Consensus-based Optimization Algorithm for Nonsmooth Nonconvex Optimization Problems with Global Optimality
针对无约束非光滑非凸优化的全局极小值求解问题，结合平滑与共识优化方法提出新型SICBO算法，证明其指数收敛性与全局最优性理论保证，且适用于非利普希茨连续情形，数值实验验证了算法有效性。
2025-01-13 math.OC
On the Convergence Rate of Stochastic Mirror Descent for Nonsmooth Nonconvex Optimization
本文研究了非凸优化问题的随机镜像下降（SMD）算法的非渐近平稳收敛性。我们专注于一般类的非凸非光滑随机最优化问题，其中的目标可以分解成一个相对弱的凸函数（可能非Lipschitz）和一个简单的非光滑凸正则化。我们证明了SMD，不使用mini-batch，是保证收敛到一个平稳点的收敛速度的$ \mathcal{O}(1/\sqrt{t}) $。效率估计与现有的随机次梯度方法的结果相匹配，但评估下一个更强的平稳性措施。我们的收敛性分析适用于原来的SMD和它的近端版本，以及确定性的变种，解决相对弱凸问题。
2018-06-12 math.OC
Nonconvex Nonsmooth Multicomposite Optimization and Its Applications to Recurrent Neural Networks
Department of Applied Mathematics, Hong Kong Polytechnic University（香港理工大学应用数学系）；School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）
本文提出了一种非凸非光滑多复合优化方法，用于解决循环神经网络的训练问题。
2026-03-12 math.OC
A proximal subgradient algorithm with extrapolation for structured nonconvex nonsmooth problems
本文针对一类结构化非凸非光滑优化问题，提出一种带外推的近端次梯度算法，证明其子序列收敛及在KL性质下的全局收敛性，并通过非凸正则化最小二乘和含分布式能源的最优潮流实验验证了算法性能。
2023-03-19 math.OC
A Comparison of Nonsmooth, Nonconvex, Constrained Optimization Solvers for the Design of Time-Delay Compensators
我们提出了一套详细的性能比较的两个国家的最先进的求解器的应用设计的时间延迟补偿器，在鲁棒控制领域的一个重要问题。制定这样的鲁棒控制机制约束最优化问题往往涉及到目标和约束函数都是非凸和非光滑的，这两个提出了重大的挑战，许多求解器和他们的最终用户希望得到很好的解决方案，这些问题。在我们特定的工程任务中，优化的主要困难出现在非光滑和非凸稳定性约束，即所谓的整形器的无穷频谱的零点应保持在开放的左半平面。为了进行我们的评估，我们使用$β$相对最小化配置文件，最近推出的可视化工具，特别适合于基准求解器上的非光滑，非凸，约束最优化问题。此外，我们还引入了新的可视化工具，称为全局-局部配置文件，对于给定的问题和固定的计算预算，评估在几个或多个起点上分配预算的权衡，前者每点获得更多的预算，后者更少。
2018-12-30 math.OC
Two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
针对非凸非光滑不可分优化问题，本文结合两步惯性外推与Bregman距离，基于PALM提出新型迭代算法，证明序列收敛性并通过信号恢复等问题验证有效性。
2023-06-13 math.OC
Coderivative-Based Newton Methods in Structured Nonconvex and Nonsmooth Optimization
Ho Chi Minh City University of Education（胡志明市教育大学）；Wayne State University（韦恩州立大学）；University of North Dakota（北达科他大学）
本文提出了一种基于编码导数的牛顿方法，用于解决结构非凸和非光滑优化问题，并通过改进的线搜索方法和前向-后向包裹机制实现了快速收敛。
2026-03-01 math.OC
A feasible second order bundle algorithm for nonsmooth, nonconvex optimization problems with inequality constraints: I. Derivation and convergence
本文将求解非光滑无约束极小化问题的著名的牛顿法的SQP方法推广到非线性约束的情形。该方法不使用罚函数或滤波器或改进函数来处理约束的存在，而是通过求解凸二次约束二次规划来确定搜索方向，以获得好的迭代点。与此过程中出现的问题有关的捆绑过程中，以及在线搜索进行了讨论。在适当的假设下，证明了该方法的整体收敛性.
2015-06-26 math.OC
A four-operator splitting algorithm for nonconvex and nonsmooth optimization
本研究针对目标为两个光滑函数加两个非光滑函数之和的非凸非光滑优化问题，提出扩展Davis-Yin分裂的四算子分裂算法，证明其全局子序列收敛且平稳度量以1/T速率收敛，可支持更大步长，实验验证了其有效性。
2025-03-25 math.OC
Solving Nonsmooth Nonconvex Compound Stochastic Programs with Applications to Risk Measure Minimization
本文研究了一类由非凸非光滑函数耦合的多期望结构复合随机规划问题。本文提出了一个基于连续凸规划的采样算法，并证明了它的逐次收敛性。我们描述了几类复合SP的极限点的平稳性。我们进一步讨论了基于算法可计算误差界的概率停止规则。我们提出了几个风险度量最小化问题，可以制定为这样一个复合随机规划，这些问题包括广义偏差最优化问题的基础上优化的确定性等价和缓冲概率的不确定性（bPOE），分布鲁棒bPOE最优化问题，和多类分类问题采用成本敏感的错误准则与bPOE风险度量。
2021-05-23 math.OC
A Unified Inexact Stochastic ADMM for Composite Nonconvex and Nonsmooth Optimization
提出统一的不精确随机ADMM框架以求解复合非凸非光滑优化，涵盖多种现有算法并设计新的加速混合随机ADMM，证明其次线性与线性收敛，实验验证了有效性。
2024-03-04 math.OC
A feasible second order bundle algorithm for nonsmooth nonconvex optimization problems with inequality constraints: II. Implementation and numerical results
本文给出了求解带有不等式约束的非光滑非凸最优化问题的可行二阶聚束法\cite{HannesPaperB}的具体实现。它通过求解一个凸二次约束二次规划来计算搜索方向。此外，某些版本的搜索方向的问题进行了讨论，这种方法的适用性是合理的数值计算使用不同的求解器的搜索方向。最后，良好的性能的二阶聚束法证明了与其他求解器的测试结果比较的例子的霍克-Schittkowski集合，自定义的例子中出现的情况下，找到排除框的二次约束满足问题，和高维分段二次的例子。
2015-06-26 math.OC
A proximal minimization algorithm for structured nonconvex and nonsmooth problems
我们提出了一个最小化的目标函数由三个summands组成的近似算法：一个非光滑函数的组成与一个线性算子，另一个非光滑函数，每个非光滑的summands取决于一个独立的块变量，和一个光滑函数耦合的两个块变量。该算法是一种完全分裂方法，即非光滑函数通过其邻近算子处理，光滑函数通过梯度步长处理，线性算子通过矩阵乘向量处理。给出了生成序列有界性的充分条件，并证明了生成序列的任一聚点都是极小化问题的KKT点。在Kurdyka-Schojasiewicz性质下，证明了迭代的整体收敛，并得到了迭代的收敛速度.
2020-07-31 math.OC
Learning-rate-free Momentum SGD with Reshuffling Converges in Nonsmooth Nonconvex Optimization
本文提出一个广义框架，用于在最小化不光滑非凸函数时开发无需学习率的动量SGD方法，并基于此提出LFM方法，证明了其全局收敛性，实验表明LFM性能与现有先进方法相当。
2024-06-26 math.OC
On a globally convergent semismooth* Newton method in nonsmooth nonconvex optimization
本文提出 GSSN 方法，结合近端梯度法保证全局收敛，利用 SCD semismooth* Newton 方法在弱假设下实现局部超线性收敛，并通过等式约束二次规划计算 Newton 方向，注重高效数值实现。
2025-01-24 math.OC
Second-order methods for provably escaping strict saddle points in composite nonconvex and nonsmooth optimization
本文提出两种基于前向-后向包络的二阶方法，首次证明无论初始化如何均可逃离复合非凸优化中的非光滑严格鞍点，数值实验验证了其有效性。
2025-06-27 math.OC
Variable Metric Composite Proximal Alternating Linearized Minimization for Nonconvex Nonsmooth Optimization
本文提出了一个最小化两个块变量的目标函数的近似算法，该目标函数由三项组成：1）光滑函数; 2）非光滑函数，它是一个严格递增的凹可微函数和一个凸非光滑函数的组合; 3）耦合两个块变量的光滑函数。我们提出了一个变尺度复合近似交替线性化极小化（CPALM）来解决这类问题。建立在强大的Kurdyka-Eschojasiewicz属性，我们得到的收敛性分析，并建立由CPALM生成的每个有界序列全局收敛到一个临界点。我们证明了CPALM方法的并行磁共振图像重建问题。数值结果表明了该方法的可行性和有效性。
2022-09-14 math.OC
Multiple nonsmooth solutions for nonconvex variational boundary value problems in $\mathbb{R}^n$
本文给出了一个具有双势阱的非凸变分问题的完全解。基于正则对偶理论，将Dirichlet/Neumann或混合边界条件下的非线性微分方程转化为代数方程，并在对偶空间内解析求解。整体和局部极值条件确定的triality理论。在应用部分，给出了$\mathbb{R}^2$中具有特定源和边界条件的典型力学模型。
2016-07-20 math.OC
A Newton-Like Dynamical System for Nonsmooth and Nonconvex Optimization
本文提出一种连续牛顿法的非光滑适配动力系统，利用局部 Lipschitz 映射的图像导数扩展二阶信息，分析解的存在唯一性、轨迹渐近性，并在强度量次正则性与 KL 不等式条件下给出收敛保证和速率。
2024-12-08 math.OC
Nonsmooth nonconvex stochastic heavy ball
本文研究非光滑非凸随机重球法的收敛性，结合半代数假设、非光滑微积分与微分包含，证明随机初始化可避免人为临界点并收敛至 Clarke 临界点。
2024-01-23 math.OC
An implementable proximal-type method for computing critical points to minimization problems with a nonsmooth and nonconvex constraint
本文提出一种可实现的近端型方法，用于求解含非光滑非凸目标及约束的优化问题，通过有限凸模型逐点最小值构建非凸模型，在统一框架下计算满足必要最优性条件的模型临界点。
2024-09-25 math.OC
Convergence Rates for the Alternating Minimization Algorithm in Structured Nonsmooth and Nonconvex Optimization
Federal University of Goiás（戈亚斯联邦大学）；Wayne State University（韦恩州立大学）；Aix Marseille Univ, CNRS, AMSE（艾克斯马赛大学、法国国家科学研究中心、经济与社会研究所）
本文改进了结构非凸优化中交替最小化算法的收敛速率，提出了在低指数PLK条件下实现超线性收敛的方法，并探讨了其在非合作博弈和行为科学中的应用。
2026-01-30 math.OC
NonOpt: Nonconvex, Nonsmooth Optimizer
NonOpt是一个C++软件包，用于最小化非凸非光滑的局部Lipschitz目标函数，实现了梯度采样和近端束两种算法，并采用拟牛顿加速，实验证明其高效可靠。
2025-03-28 math.OC
An Adaptive Proximal Point Method for Nonsmooth and Nonconvex Optimization on Hadamard Manifolds
Federal University of Piauı́（皮奥伊联邦大学）；Universidade Estadual do Sudoeste da Bahia（巴伊亚西南州立大学）
针对完备黎曼流形上的非光滑非凸复合优化问题，提出两种自适应邻近点方法变体（分别利用或无需光滑部分梯度的Lipschitz常数），分析复杂度与收敛性并通过数值实验验证有效性。
2025-11-18 math.OC
Frank-Wolfe with Moreau Envelope Smoothing for Nonsmooth Nonconvex Problems
CentraleSupélec（中央苏佩莱克高等学院）；Università di Genova（热那亚大学）；James Madison University（詹姆斯麦迪逊大学）
提出 FRAMES 算法，通过 Moreau 包络迭代平滑后每步执行一次 Frank-Wolfe 步骤，解决非光滑非凸约束优化问题，证明收敛速率并改进先前分析。
2026-05-30 math.OC
A Smoothing Consensus-Based Optimization Algorithm for Nonsmooth Nonconvex Optimization
针对传统基于共识的优化算法收敛分析受限于光滑目标函数的问题，提出结合平滑方法的新型CBO算法，可求解非凸非光滑非利普希茨连续最小化问题，给出理论分析与误差估计，并通过数值实验验证其性能。
2025-01-12 math.OC
A Trust-Region Method For Nonsmooth Nonconvex Optimization
针对一类非光滑非凸最优化问题，提出了一种置信域方法，其中目标函数是一个（可能非凸的）光滑函数和一个（可能非光滑的）凸函数之和.我们的置信域子问题的模型函数始终是二次的，模型的线性项使用抽象的下降方向生成。因此，置信域子问题可以很容易地构造，以及有效地解决了廉价和标准的方法。当模型函数在子问题解处的精度不够时，我们在步长上增加了一个安全措施以提高精度。针对一类可截断的函数，定义了一个额外的截断步长，并设计了步长修改策略。整个方案的全局收敛，我们建立快速的局部收敛适当的假设下。特别地，利用光滑黎曼置信域方法，证明了部分光滑函数在严格互补条件下的局部平方收敛。报告了一族$\ell_1$ -最优化问题的初步数值结果，并证明了我们方法的效率。
2021-10-23 math.OC
A stochastic two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
本文提出STiBPALM算法，结合两步惯性与Bregman近端交替线性化及方差缩减随机梯度，用于求解大规模非凸非光滑优化问题，并证明其收敛性，通过稀疏非负矩阵分解和盲图像去模糊实验验证性能。
2023-07-11 math.OC
A geometric integration approach to nonsmooth, nonconvex optimisation
不使用梯度的非光滑非凸函数的优化是一个特别具有挑战性的问题，经常遇到，例如在模型参数优化问题中。参数的双层优化是变分正则化问题和监督机器学习等领域的标准设置。我们提出了高效和强大的衍生工具的方法，称为随机伊藤-安倍晋三方法。这些都是概括的伊藤-安倍离散梯度法，一个著名的计划，从几何积分，以前只被认为是在顺利设置。我们证明了该方法及其有利的能量耗散特性是定义在非光滑设置。证明了当目标函数局部Lipschitz连续时，迭代几乎必然收敛于Clarke平稳点的连通集.我们提出了一个实现的方法，并将其应用到各种测试问题。数值结果表明，随机伊藤-安倍晋三的方法是优于国家的最先进的无导数优化方法在解决非光滑问题，同时保持竞争力的效率。
2018-07-19 math.OC
A successive difference-of-convex method for a class of two-stage nonconvex nonsmooth stochastic conic program via SVI
School of Mathematics and Statistics, Beijing Jiaotong University（北京交通大学数学与统计学院）；Beijing Key Laboratory of Biological Big Data and Topological Statistics, Beijing Jiaotong University（北京交通大学生物大数据与拓扑统计北京市重点实验室）
本文提出了一种用于解决两阶段非凸非光滑随机锥程序的连续差分凸方法，通过将问题转化为非单调非光滑两阶段随机变分不等式并利用Moreau包络和渐进对冲方法进行求解，验证了方法的收敛性，并通过均值-方差模型的应用展示了其有效性。
2026-03-04 math.OC
The Complexity of Finding Stationary Points in Nonsmooth Nonconvex Optimization
本文证明非光滑非凸优化中一阶算法寻找 Goldstein 驻点及松弛驻点的紧下界，揭示收敛速率不受梯度随机性影响。
2026-09-17 math.OC
Stochastic ADMM with batch size adaptation for nonconvex nonsmooth optimization
College of Science, National University of Defense Technology（国防科技大学理学院）
本文提出了一种自适应批量大小的SADMM方法，通过动态调整批量大小来解决非凸非光滑优化中的方差降低与计算成本之间的权衡，并验证了其有效性。
2025-09-06 math.OC
Variable Bregman Majorization-Minimization algorithms for nonconvex nonsmooth optimization, with application to Poisson imaging
Université Paris-Saclay, CentraleSupélec, Inria, Centre pour la Vision Numérique（巴黎萨克雷大学、中央苏佩莱克学院、法国国家信息与自动化研究所、数字视觉中心）；Université Paris-Saclay, Laboratoire BioMaps, CEA（巴黎萨克雷大学、BioMaps实验室、法国原子能和替代能源委员会）
本文提出一种基于Bregman的统一最大最小化框架，用于解决非凸非光滑优化问题，通过可变Bregman散度构建替代函数，并在Kurdyka-Lojasiewicz性质下证明收敛性，应用于PET图像重建。
2026-10-06 math.OC
Stochastic Three-Operator Splitting Algorithms for Nonconvex and Nonsmooth Optimization Arising from FLASH Radiotherapy
针对FLASH放射治疗产生的非凸与非光滑优化难题，提出随机三算子分裂（STOS）算法，在非凸框架下证明了多种梯度估计器下的收敛性，并通过患者治疗规划验证了其有效性。
2023-11-24 math.OC
Efficient Recovery of Low Rank Tensor via Triple Nonconvex Nonsmooth Rank Minimization
最近提出了一种基于张量核范数（TNN）的方法来解决张量恢复问题，并取得了最先进的性能。然而，它可能无法产生高度准确的解决方案，因为它倾向于平等地对待每个正面切片和每个正面切片的每个秩分量。为了得到高精度的恢复，我们提出了一种通用的、灵活的秩松弛函数--双加权非凸非光滑秩（DWNNR）松弛函数，以有效地解决三阶张量恢复问题.通过将权向量设为某个凹函数的超梯度值，从而自适应地选择权向量，可以从三重非凸非光滑秩（TNR）松弛函数导出DWNNR松弛函数.为了加速该模型，我们发展了一般的惯性平滑近似梯度法。进一步证明了生成子序列的任一极限点都是临界点。结合Kurdyka-Lojasiewicz（KL）性质和一些较温和的假设，我们进一步给出了它的整体收敛保证.在一个实际的张量补全问题上的实验结果表明了该算法的有效性和优越性。
2022-05-12 math.OC
Stochastic Bregman Subgradient Methods for Nonsmooth Nonconvex Optimization Problems
本文研究目标函数缺乏Clarke正则性时的随机Bregman次梯度方法，通过微分包含建立收敛性，提出非精确求解与动量集成机制，并验证其在训练非光滑神经网络中的有效性。
2025-05-29 math.OC
Block-coordinate and incremental aggregated proximal gradient methods for nonsmooth nonconvex problems
本文针对非光滑非凸优化问题，基于前向后向包络（FBE）分析块坐标近似梯度方法，在Kurdyka-Łojasiewicz性质下建立全局与线性收敛结果，还推导了Finito/MISO算法在非凸非光滑场景下的新收敛结论。
2019-11-26 math.OC
An Efficient ADMM Method for Ratio-Type Nonconvex and Nonsmooth Minimization in Sparse Recovery
Department of Mathematics, Sichuan University（四川大学数学系）
本文针对非凸非光滑的比率型稀疏恢复问题，提出了一种高效的ADMM方法，在理论上证明了收敛性，并通过实验验证了其在稀疏恢复和神经网络稀疏化中的优越性能。
2025-09-26 math.OC
Extended alternating structure-adapted proximal gradient algorithm for nonconvex nonsmooth problems
针对非凸非光滑优化中多块不可分离耦合结构，提出扩展的交替结构自适应近端算法（eASAP），利用分块受限近端正则性并分析全局收敛与次线性速率，在多模态数据融合中表现优异。
2024-06-25 math.OC
Manifold Sampling for Optimizing Nonsmooth Nonconvex Compositions
我们提出了一个流形采样算法最小化的非光滑组合$f= h\circ F$，我们假设$h$是非光滑的，可以便宜地计算在封闭的形式和$F$是光滑的，但它的雅可比矩阵可能不可用。我们还假设组合$h\circ F$定义了连续选择。流形采样算法可以被分类为基于模型的无导数方法，因为$F$的模型与关于$h$的特别采样的信息相结合，以产生在信任区域框架内使用的局部模型。我们证明了簇点的序列的迭代生成的流形采样算法是克拉克平稳的。我们认为，三个特定的子问题所产生的流形采样算法和不精确的解决方案，这些子问题可能会容忍的程度的易处理性。数值结果表明，流形采样作为一种无导数算法是有竞争力的国家的最先进的算法，利用一阶信息的非光滑优化$f$。
2022-01-13 math.OC
