An Incremental Path-Following Splitting Method for Linearly Constrained Nonconvex Nonsmooth Programs
问题2的不动点不是问题1的不动点。很抱歉,我们正在努力修复此错误。
2018-08-04 cs.LG math.OC
Nonsmooth nonconvex stochastic heavy ball
本文研究非光滑非凸随机重球法的收敛性,结合半代数假设、非光滑微积分与微分包含,证明随机初始化可避免人为临界点并收敛至 Clarke 临界点。
2024-01-23 math.OC
Derivative-free methods for mixed-integer nonsmooth constrained optimization
在本文中,我们考虑混合整数非光滑约束最优化问题,其目标/约束函数仅作为黑盒零阶预言机的输出(即,不提供衍生信息的Oracle),并且我们提出了一种新的基于无衍生的线搜索的算法框架来适当地处理这些问题。我们首先描述了一个计划,结合了密集的方向序列(处理的非光滑的目标函数)与原始方向(处理离散变量)的约束问题。然后,我们嵌入一个精确的惩罚方法,该计划适当地管理非线性(可能是非光滑的)约束。我们分析了所提出的算法对稳定点的整体收敛特性,我们报告了一组混合整数测试问题的大量数值经验的结果。
2021-07-01 math.OC
A version of the inexact Levenberg-Marquardt method for constrained nonsmooth equations
本文提出了一种变形的投影不精确Levenberg-Marquardt方法(ILMM)求解约束非光滑方程。由于到可行集的正交投影可能是计算昂贵的,我们提出了一个本地ILMM可行的不精确的投影。利用半光滑性假设和弱于标准满秩假设的误差界条件,我们建立了它的收敛性结果,包括速度的结果。最后给出了一些计算结果,以说明新格式的优点。
2021-05-04 math.OC
Distributed Continuous-Time Algorithm for Constrained Convex Optimizations via Nonsmooth Analysis Approach
本文研究了具有局部约束的非光滑凸费用函数和的分布式最优化问题。首先,我们提出了一种新的分布式连续时间投影算法,其中每个代理知道其本地费用函数和本地约束集,约束最优化问题。然后证明了算法中的所有智能体在寻找最优解时都能找到相同的最优解,同时保持状态有界。利用非光滑李雅普诺夫函数对微分包含的稳定性进行了全收敛分析。最后,我们提供了一个数值例子来说明。
2016-11-28 math.OC
Primal-dual extragradient methods for nonlinear nonsmooth PDE-constrained optimization
本文研究了Chambolle-Pock原始对偶法在求解函数空间间非线性算子的非光滑最优化问题中的推广。在包括相应原-对偶最优性条件的度量规律性在内的技术条件下,证明了局部收敛性。我们还表明收敛Nesterov型加速变量提供的功能的一部分是强凸的。我们证明了加速算法的适用性,$L^1$ -和$L^\infty$ -拟合项以及状态约束最优控制问题的反问题的例子,在引入(任意小,仍然不光滑)Moreau-Yosida正则化后,可以保证收敛。数值算例验证了这一点。
2017-03-15 math.OC
Distributed Mirror Descent Algorithm with Bregman Damping for Nonsmooth Constrained Optimization
为了有效地解决分布式优化与各种约束和非光滑函数,我们提出了一个分布式镜像下降算法嵌入Bregman阻尼,作为传统的分布式投影算法的推广。事实上,我们的连续时间算法很好地继承了镜像下降方法的良好性能,可以快速计算具有某些特定约束结构的问题的显式解。此外,我们严格证明了我们的算法的收敛性,以及轨迹的有界性和解决方案的准确性。
2021-08-27 math.OC
Inexact Newton method with feasible inexact projections for solving constrained smooth and nonsmooth equations
本文提出了一种新的方法,结合不精确牛顿法和一个程序,以获得一个可行的不精确投影求解约束光滑和非光滑方程。在定义方程的函数是光滑或半光滑的假设下,建立了方程的局部收敛定理及其在解处的正则性。特别是,我们表明,由该方法产生的序列收敛到一个解决方案的线性,超线性,或二次率,在适当的条件下。此外,一些数值实验报告,以说明所提出的方法的实际行为。
2019-03-15 math.OC
Smooth Alternating Direction Methods for Nonsmooth Constrained Convex Optimization
提出了两种新的交替方向法来求解“完全”非光滑约束凸问题。在客观残差和可行性差距的温和假设下,我们的算法具有最著名的最坏情况迭代复杂度保证。通过理论分析,我们展示了如何自动更新所有的算法参数,对收敛性能有明显的影响。我们还提供了一个有代表性的数值例子,显示我们的方法的优势,经典的交替方向法使用一个众所周知的可行性问题。
2018-01-15 math.OC stat.ML
A variant of nonsmooth maximum principle for state constrained problems
我们推导出一个变种的非光滑最大值原理的纯状态约束问题。我们的结果的兴趣在于nonsmoothness本身,因为当应用到光滑问题,它与已知的结果相吻合。值得注意的是,在规范形式,我们的结果具有特殊的功能,是一个充分的最优性条件的线性凸问题,一个功能,经典庞特里亚金最大值原理,而非光滑版本没有。这项工作是不同的文献中以前的工作,因为,对于状态约束问题,我们添加了Weierstrass条件伴随包含使用联合次微分的状态和控制。我们的证明使用了[16]中发展的旧技术,同时吸引了[7]中的新结果。
2013-03-16 math.OC
Distributed Nonsmooth Robust Resource Allocation with Cardinality Constrained Uncertainty
研究了具有基数约束不确定性的分布式非光滑鲁棒资源分配问题。全局目标由局部目标组成,局部目标是凸的但非光滑的。每个智能体被约束在其私有凸集中,并且只具有其对应的局部目标的信息。资源分配条件受基数约束的不确定集约束。利用凸优化的对偶理论,给出了鲁棒资源分配问题的对偶问题。针对这一对偶问题,提出了一种分布式原始-对偶投影算法。在理论上,利用微分包含的稳定性理论,进行了收敛性分析。仿真结果表明,该算法能够引导多智能体系统在满足资源分配条件的情况下达到最优解。最后,一个非平凡的仿真结果表明,所提出的算法的有效性。
2019-04-25 math.OC
Nonsmooth Analysis and Optimization
这些研究生课程的课堂讲稿涵盖了广义导数概念,这些概念在推导逆问题、成像和偏微分方程约束优化中不可微优化问题的必要最优性条件和数值算法时非常有用。处理凸函数和次微分,Fenchel对偶,单调算子和预解式,Moreau-Yosida正则化,近点和(一些)一阶分裂方法,Clarke次微分,和半光滑牛顿方法。从功能分析和变分法所需的背景也简要概述。
2022-03-15 math.OC
Optimal Safety for Constrained Differential Inclusions using Nonsmooth Control Barrier Functions
对于广泛的一类非线性系统,我们制定的问题,保证安全与约束下的最优性。具体来说,我们定义了具有状态和输入约束的微分包含的受控安全性。通过使用非光滑分析工具,我们表明,一个连续的最优控制法可以选择从集值约束捕获系统的约束和条件,保证安全使用控制障碍函数。我们的研究结果保证最优性和安全性,通过一个连续的状态反馈法设计使用非光滑控制障碍函数。一个关于避障与目标的例子说明了我们的结果和相关的好处,使用非光滑控制障碍函数。
2022-11-23 cs.SY eess.SY math.OC
Certificates of infeasibility via nonsmooth optimization
约束满足问题求解过程中的一个重要方面是确定排除盒,即不包含可行点的盒。本文提出了一个证明,不可行的寻找这样的盒子解决线性约束非光滑最优化问题。此外,所构造的证书可以用于通过求解非线性约束非光滑最优化问题来扩大排除框。
2015-06-27 math.OC
A Comparison of Nonsmooth, Nonconvex, Constrained Optimization Solvers for the Design of Time-Delay Compensators
我们提出了一套详细的性能比较的两个国家的最先进的求解器的应用设计的时间延迟补偿器,在鲁棒控制领域的一个重要问题。制定这样的鲁棒控制机制约束最优化问题往往涉及到目标和约束函数都是非凸和非光滑的,这两个提出了重大的挑战,许多求解器和他们的最终用户希望得到很好的解决方案,这些问题。在我们特定的工程任务中,优化的主要困难出现在非光滑和非凸稳定性约束,即所谓的整形器的无穷频谱的零点应保持在开放的左半平面。为了进行我们的评估,我们使用$β$相对最小化配置文件,最近推出的可视化工具,特别适合于基准求解器上的非光滑,非凸,约束最优化问题。此外,我们还引入了新的可视化工具,称为全局-局部配置文件,对于给定的问题和固定的计算预算,评估在几个或多个起点上分配预算的权衡,前者每点获得更多的预算,后者更少。
2018-12-30 math.OC
Discrete-time feedback linearization control for nonsmooth constrained optimization
Politecnico di Torino(都灵理工大学)
提出离散时间反馈线性化控制方法,利用近端算子构造动力系统,以拉格朗日乘子为控制输入,引导至稳定平衡,并在强凸和PL条件下分析收敛性,数值实验验证有效性。
2026-09-25 math.OC
Stochastic smoothing accelerated gradient method for general constrained nonsmooth convex composite optimization
Beijing Jiaotong University(北京交通大学)
本文提出了一种随机平滑加速梯度方法,用于解决一般约束非光滑凸复合优化问题,通过可变样本大小实现最优迭代和SFO复杂度。
2026-01-31 math.OC
A variable smoothing for Nonconvexly constrained nonsmooth optimization with application to sparse spectral clustering
本文提出一种变量平滑算法,通过将非凸约束参数化为欧几里得空间并利用 Moreau 包络平滑非光滑项,求解非凸约束非光滑优化问题,并应用于稀疏谱聚类。
2024-04-03 math.OC
A Limited-Memory Quasi-Newton Algorithm for Bound-Constrained Nonsmooth Optimization
我们考虑最小化一个连续函数的问题,该函数可能是非光滑和非凸的,受边界约束。我们提出了一个算法,使用L-BFGS拟牛顿近似的问题的曲率与一个变种的弱沃尔夫线搜索。该方法的关键成分是活动集选择策略,该策略定义了计算搜索方向的子空间。为了克服非光滑函数梯度的固有短视性,我们提出了两种策略。第一个依赖于一个近似的$ε$最小范数次梯度,第二个使用迭代校正循环,增加活动集的基础上产生的搜索方向。我们描述了所提出算法的Python实现,并给出了一组标准测试问题的数值结果,以说明我们方法的有效性。
2016-12-21 math.OC
An online adaptive finite-element method for nonsmooth PDE-constrained optimization
George Mason University(乔治梅森大学);Sandia National Laboratories(桑迪亚国家实验室);South Asian University(南亚大学)
本文提出一种基于信任区域的自适应有限元算法,用于求解包含稀疏正则化和凸约束的非光滑偏微分方程约束优化问题,结合了非光滑问题的鲁棒性和自适应有限元的效率,通过自动细化离散化来平衡计算成本与解的精度。
2026-04-27 math.OC
Smoothing Proximal Gradient Methods for Nonsmooth Sparsity Constrained Optimization: Optimality Conditions and Global Convergence
针对非光滑稀疏约束优化现有方法的局限,提出两种平滑近似梯度方法变体,证明其最优性与收敛速率理论界达到现有最优水平,且实验中SPGM-BCD性能优于现有IHT类方法。
2023-12-15 math.OC
Smoothing SQP methods for solving degenerate nonsmooth constrained optimization problems with applications to bilevel programs
我们考虑退化的非光滑和非凸最优化问题的标准约束规格,如广义Mangasarian Fromovitz约束规格(GMFCQ)可能不成立。利用具有梯度一致性的光滑函数逼近非光滑函数,在精确罚框架下提出了一种光滑序列二次规划(SQP)算法.证明了在乘子序列和精确罚参数序列有界的条件下,由光滑SQP算法生成的迭代序列的一个选定子序列的任何聚点都是Clarke平稳点.此外,我们提出了一个新的条件称为弱广义Mangasarian Fromovitz约束规格(WGMFCQ),是弱于GMFCQ。我们证明了WGMFCQ的扩展版本保证了乘子序列和精确罚参数序列的有界性,从而保证了光滑SQP算法的整体收敛。我们证明了WGMFCQ可以满足GMFCQ从来没有举行的双层计划。初步的数值实验表明,该算法对求解退化非光滑最优化问题(如简单双层规划)是有效的。
2014-06-03 math.OC
An interior-point trust-region method for nonsmooth regularized bound-constrained optimization
针对非光滑正则化界约束优化,提出迭代求解无约束非光滑障碍子问题的内点信赖域方法,证明全局收敛性,并在两组问题上以更少评估取得更优目标值。
2024-02-28 math.OC
Second-Order Strong Optimality and Second-Order Duality for Nonsmooth Constrained Multiobjective Fractional Programming Problems
本文针对实巴拿赫空间中的非光滑多目标分数规划问题,提出了二阶强最优性条件与对偶性结果,通过广义方向导数建立了蕴含强KKT条件的必要性条件及充分性条件。
2024-03-15 math.OC
The ADMM-PINNs Algorithmic Framework for Nonsmooth PDE-Constrained Optimization: A Deep Learning Approach
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学);The University of Hong Kong(香港大学);Nankai University(南开大学)
本文提出结合 ADMM 与 PINNs 的算法框架,通过解耦 PDE 约束与非光滑正则化项,将 PINNs 扩展至非光滑 PDE 约束优化问题,实现无网格高效求解。
2024-07-28 cs.LG math.OC
Shape Derivative for Penalty-Constrained Nonsmooth-Nonconvex Optimization: Cohesive Crack Problem
研究了一类与变分不等式(VI)有关的带罚约束的非光滑非凸优化问题的形状可微性。准脆性断裂的具体问题描述了一个弹性体与巴伦布拉特粘性裂纹下的不等式条件下的非渗透的裂纹面。基于Lagrange方法,利用光滑罚函数和Lavrentiev正则化,导出了形状导数的计算公式。显式公式包含原始状态和伴随状态,并且对于寻找梯度算法的下降方向以从边界测量识别最佳裂纹形状是有用的。破坏性试验的数值例子是在2D。
2022-04-10 math.OC
Single-loop approaches to nonsmooth bilevel optimisation
University of Helsinki(赫尔辛基大学);MODEMAT Research Center in Mathematical Modeling and Optimization(数学建模与优化研究中心)
针对内层问题为集值参数约束的双层优化,提出基于Fréchet和极限余导数的乐观/悲观最优性条件,并设计单循环算法,证明收敛性,在TV正则化逆问题中验证有效性。
2026-06-18 math.OC
Conservative set valued fields, automatic differentiation, stochastic gradient method and deep learning
Toulouse School of Economics(图卢兹经济学院);Université Toulouse 1 Capitole(图卢兹第一大学);IRIT(图卢兹计算机研究所);Université de Toulouse(图卢兹大学);IRT Saint Exupery(圣埃克苏佩里技术研究院)
人工智能或数值分析中的现代问题需要具有灵活微积分的非光滑方法。我们引入广义导数称为保守领域,我们开发了一个演算,并提供代表性的公式。具有保守域的函数称为路径可微:凸、凹、Clarke正则和任何半代数Lipschitz连续函数都是路径可微的。我们的模型使用Whitney分层技术来处理半代数和可定义集,为非光滑自动微分预言机提供变分公式,例如深度学习中著名的反向传播算法。我们的微分模型被应用于建立非光滑随机梯度法的值的收敛性,因为它们在实践中实施。
2020-04-09 cs.AI cs.LG math.OC
Linearly-constrained nonsmooth optimization for training autoencoders
针对一类两层神经网络的自编码器,提出了一种基于$l_1$范数惩罚的正则化极小化模型。我们表明,RP可以作为一个精确的惩罚模型,共享相同的全局极小,局部极小,d(方向)-平稳点与原来的正则化模型在温和的条件下。我们构造了一个有界的盒子区域,其中包含至少一个全局极小的RP,并提出了一个线性约束正则化极小化模型与$l_1$ -范数惩罚(LRP)的训练自动编码器。设计了一种光滑近似梯度算法来求解LRP。证明了算法收敛于RP和LRP的广义d-平稳点。综合数值实验令人信服地说明了所提出的算法的效率以及鲁棒性。
2022-04-21 math.OC
Inner Moreau envelope of nonsmooth conic chance constrained optimization problems
约束条件不确定的最优化问题在许多应用中都存在。特别地,概率函数呈现出处理这种情况的自然形式。然而,在某些情况下,所得到的概率函数是非光滑的。这促使我们提出一个正则化采用的Moreau信封的标量表示的向量不等式。更确切地说,我们考虑一个概率函数,它涵盖了大多数的一般类的概率约束:$$φ(x)=\mathbb{P}(Φ(x,ξ)\in -\mathcal{K}),$$其中$\mathcal{K}$是一个凸锥的Banach空间。圆锥包含$Φ(x,ξ) \in - \mathcal{K}$表示一个抽象的不等式组,而$ξ$是一个随机向量。我们提出了一个正则化的应用莫罗包络的函数$Φ$的标量化。在本文中,我们证明,在温和的假设下,这样的正则化的光滑性,它满足一种类型的变分收敛到原来的概率函数。因此,当考虑一个适当结构的问题,涉及概率约束,我们可以因此导致收敛的最小值的正则化近似问题的最小值的原始问题。最后,我们用例子和应用领域(非光滑)联合,半定和概率机会约束最优化问题说明我们的结果。
2023-01-24 math.OC
A feasible second order bundle algorithm for nonsmooth, nonconvex optimization problems with inequality constraints: I. Derivation and convergence
本文将求解非光滑无约束极小化问题的著名的牛顿法的SQP方法推广到非线性约束的情形。该方法不使用罚函数或滤波器或改进函数来处理约束的存在,而是通过求解凸二次约束二次规划来确定搜索方向,以获得好的迭代点。与此过程中出现的问题有关的捆绑过程中,以及在线搜索进行了讨论。在适当的假设下,证明了该方法的整体收敛性.
2015-06-26 math.OC
Observability as a constraint qualification for a nonsmooth bilevel PDE-constrained problem
University of Graz(格拉茨大学)
受图像重建参数识别实验设计启发,该研究针对下层含稀疏反演的双层PDE约束问题,以可观测性或接触集Lebesgue零性为约束规格推导最优性条件,构造简化梯度法并通过数值实验验证。
2026-10-16 math.OC
A simplified nonsmooth nonconvex bundle method with applications to security-constrained ACOPF problems
受两阶段随机规划问题的启发,提出了一类非光滑非凸问题的优化算法。这些问题的主要挑战包括:(1)问题缺乏流行的下型性质,如许多非光滑非凸优化算法中假设的正则性,(2)目标不能解析表示,(3)函数值和次梯度的计算是昂贵的。为了应对这些挑战,本报告首先研究了许多两阶段问题中存在的性质,特别是上C^2目标。然后,我们证明了二次罚函数法求解安全约束的交流最优潮流(SCACOPF)事故问题可以使事故解的函数大于C^2。在此基础上,提出了一种类似于序列二次规划(SQP)方法的简化束算法。与传统的束方法相比,它在实现和计算上更有效。在新的合理假设下,给出了算法的整体收敛性分析.因此,该算法填补了一些光滑SCACOPF问题的理论收敛性的空白。在我们的治疗约束可能会出现的不一致,通过惩罚算法的收敛性分析也提供了解决。最后,通过数值算例验证了算法的理论能力和数值性能。
2022-03-31 cs.NA math.NA math.OC
Constrained Best Approximation with Nonsmooth Nonconvex Constraints
本文考虑了非光滑非凸约束函数不等式的约束集$K$。我们证明了在Abadie的约束条件下,从凸集$\tK:=C \cap K$到$\R^n$中的任何$x$的最佳逼近的“扰动性质”是由强锥壳交性质表征的(强CHIP)的$C$和$K,$,其中$C$是非$\R^n$的空闭凸子集,并且集合$K$由$K:=\{x\in \R^n : g_j(x) \le 0, \ \forall \ j=1,2,\ldots,m \}$表示,其中$g_j : \R^n \lrar \R$ $(j=1,2, \cdots,m)$是在给定点$\bar x \in K.$通过使用切向次微分的思想和Abadie的约束资格的非光滑版本,我们这样做,首先证明了一个双锥特征的约束集$K.$此外,我们提出了充分条件,其中强CHIP属性保持。特别是,当一组$\tK$是封闭的和凸的,我们表明,拉格朗日乘子的最佳逼近下的非光滑版本的Abadie的约束资格的表征。所得结果推广了约束最佳逼近条件下的许多相应结果。几个例子来澄清的结果。
2019-03-18 math.OC
Nonconvex and Nonsmooth Approaches for Affine Chance-Constrained Stochastic Programs
机会约束规划是一类困难的随机规划,即使是简单的线性随机泛函也可能是不可微和非凸的。现有的求解CCP的方法主要处理概率函数中的凸随机泛函。在本文中,我们考虑两个推广的类机会约束在文献中普遍研究;一个推广涉及的概率析取非凸函数事件和其他推广涉及混合符号仿射组合的概率;一起,我们硬币术语仿射机会约束(ACC)系统这些广义机会约束。我们提出的这种ACC系统的处理涉及几个单独已知的想法的融合:(a)概率的期望公式中的指示函数的参数化上下近似;(b)外部(即,固定的)与内部的(即,顺序)基于采样的期望算子近似;(c)作为可行性松弛的约束惩罚;以及(d)通过替代的非凸性和不可微性的凸化。集成这些技术解决仿射机会约束随机规划(ACC-SP)与不同程度的实用性和计算工作是本文的主要贡献。
2022-03-01 math.OC
Abstract convex approximations of nonsmooth functions
在这篇文章中,我们利用抽象凸性理论,以统一和推广许多不同的概念,从非光滑分析。引入了拓扑向量空间到序完备拓扑向量格的非光滑函数的抽象余可微性、抽象拟可微性和抽象凸(凹)逼近的概念。我们研究了这些概念的基本性质,构造了抽象余微分函数的精细演算,并讨论了抽象余微分的连续性。我们证明了非光滑分析中的许多经典概念,如次可微性和拟可微性,都是抽象余可微性和抽象拟可微性概念的特例。我们还表明,抽象凸和抽象凹逼近是一个非常方便的工具,研究非光滑极值问题。我们使用这些近似,以获得各种必要的最优性条件的非光滑非凸最优化问题的抽象余可微或抽象拟可微目标函数和约束。然后,我们展示了如何这些条件可以转化为更简单,更建设性的条件,在某些特定的情况下。
2018-10-01 math.OC
Parametrization and convergence of a primal-dual block-coordinate approach to linearly-constrained nonsmooth optimization
本文研究了线性约束下非光滑复合凸优化的 Chambolle-Pock 原始-对偶随机块坐标算法,利用矩阵预处理推导出严格次线性收敛速率,并通过服务定价的最优传输实验验证了其鲁棒性。
2024-08-29 cs.DC cs.MA math.OC
A derivative-free approach to mixed integer constrained multiobjective nonsmooth optimization
在这项工作中,我们考虑多目标最优化问题与约束约束的变量和一般的非线性约束,目标和约束函数值只能通过查询一个黑盒。此外,我们考虑的情况下,一个子集的变量只能采取整数值。我们提出了一个新的基于线搜索的解决方案的方法,并表明它收敛到一组固定点的问题。对于连续变量,我们采用了一种估计帕累托前沿最近提出的文献中,并利用密集序列的搜索方向的战略。必须假设离散值的变量的子集处理使用适当修改的原始方向,以考虑到存在一个以上的目标函数。一组测试问题的数值结果与其他解决方法的比较表明,所提出的方法的可行性和效率。
2022-04-14 math.OC
First-Order Methods for Nonsmooth Nonconvex Functional Constrained Optimization with or without Slater Points
本文针对非光滑非凸泛函约束优化问题,提出一种一阶方法,无需紧性与约束规范即可达到O(ε⁻⁴)收敛速率,还给出切换次梯度法的全新非Lipschitz分析。
2025-01-15 math.OC
Discrete Approximations and Optimal Control of Nonsmooth Perturbed Sweeping Processes
本文的主要目的是发展离散逼近方法,得到一类带非光滑扰动的约束扫描过程的必要最优性条件。具有不规则动态和隐式状态约束的不连续微分包含的扫掠过程的最优控制问题是现代控制理论中最有趣和最具挑战性的问题之一,而其局部极小值的必要最优性条件的推导主要基于受控动态扰动的光滑性.为了克服这些困难,我们使用离散逼近的方法,并采用先进的二阶变分分析工具。这种方法使我们能够获得新的必要最优性条件的非光滑和非凸离散时间问题的扫描型。然后,我们利用所获得的条件和强收敛的离散逼近建立新的结果,原来的非光滑扫描控制问题,包括扩展的欧拉-拉格朗日和最大化条件的局部极小。最后,我们提出的应用所获得的结果来解决一个控制移动机器人模型与非光滑的清扫动力学,是一些实际的兴趣。
2020-05-12 math.OC
Nonconvex Nonsmooth Multicomposite Optimization and Its Applications to Recurrent Neural Networks
Department of Applied Mathematics, Hong Kong Polytechnic University(香港理工大学应用数学系);School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
本文提出了一种非凸非光滑多复合优化方法,用于解决循环神经网络的训练问题。
2026-03-12 math.OC
A Nonsmooth Maximum Principle for Optimal Control Problems with State and Mixed Constraints-Convex Case
在这里,我们推导出一个非光滑的最大值原理的最优控制问题的状态和混合约束。对我们的发展至关重要的是对“速度集”的凸性假设。该方法包括应用已知的惩罚技术的状态约束与最近的结果混合约束问题。
2013-03-11 math.OC
On the role of semismoothness in the implicit programming approach to selected nonsmooth optimization problems
Institute of Information Theory and Automation, Czech Academy of Sciences(捷克科学院信息论与自动化研究所);Johann Radon Institute for Computational and Applied Mathematics (RICAM), Austrian Academy of Sciences(奥地利科学院约翰·拉登计算与应用数学研究所);School of Mathematics, University of Birmingham(伯明翰大学数学学院)
本文研究隐式规划方法求解一类具有平衡约束的数学规划(MPEC)和双层规划问题,采用非光滑优化的束方法,利用SCD映射提供易计算的伪次梯度,确保收敛到满足平稳条件的点,并通过三个算例验证方法的有效性。
2026-05-30 math.OC
Nonsmooth Composite Matrix Optimization: Strong Regularity, Constraint Nondegeneracy and Beyond
非光滑复合矩阵最优化问题(CMatOP),特别是矩阵范数最小化问题,是矩阵锥规划问题的推广,在数值线性代数、计算统计和工程中有着广泛的应用.本文通过对非光滑目标函数的广义强二阶充分条件和约束非退化性刻画了CMatOP的强正则性.所得结果补充了已有的关于两次连续可微数据约束最优化问题强正则性的刻画。
2019-08-09 math.OC
Asymptotic stationarity and regularity for nonsmooth optimization problems
本文基于极限变分分析,提出无需额外假设的序列最优性条件,引入AM-正则性确保Mordukhovich-平稳性,并探讨其与其他约束规范的关系及在几何和析取约束优化中的应用。
2020-12-11 math.OC
Optimality conditions for approximate Pareto solutions of a nonsmooth vector optimization problem with an infinite number of constraints
本文利用Clarke次微分给出了一类具有无穷多个约束的非光滑向量最优化问题的近似Pareto解的若干新的最优性充要条件最优性条件.作为结果,我们得到了锥约束凸向量最优化问题和半定向量最优化问题的特殊情况下的最优性条件。并举例说明所得结果。
2019-05-13 math.OC
Convergence analysis of accelerated algorithms via a mixed-order dynamical system for separable nonsmooth convex optimization
Chongqing Key Laboratory of Statistical Intelligent Computing and Monitoring, School of Mathematics and Statistics, Chongqing Technology and Business University(重庆工商大学数学与统计学院,统计智能计算与监测重庆市重点实验室)
本文研究了混合阶动态系统衍生的两种算法,用于解决包含两个非光滑复合结构目标函数的线性等式约束凸优化问题,提出新的双变量算法和分裂算法,并证明其非平稳收敛性及强收敛性。
2026-03-24 math.OC
Mini-batch stochastic Nesterov's smoothing method for constrained convex stochastic composite optimization
考虑一类约束凸随机组合最优化问题,其目标函数由一个可微凸分支和一个非光滑凸分支之和给出.非光滑分量具有显式的max结构,这可能不容易计算其邻近映射。为了解决这些问题,我们提出了一个小批量随机Nesterov平滑(MSNS)方法。建立了该方法的收敛性和最优迭代复杂度。数值结果表明,所提出的MSNS方法的支持向量机(SVM)模型的效率。
2021-09-11 math.OC
Radial Epiderivative Based Line Search Methods in Nonconvex and Nonsmooth Box-Constrained Optimization
本文提出一种基于径向上导数的线搜索方法,用于求解非凸非光滑盒约束优化问题,结合循环坐标和粒子群优化技术生成下降方向,并证明了相关收敛定理,实验表明其能有效生成最优或近优解。
2025-04-07 math.OC
Second-Order Optimality Conditions for Nonsmooth Constrained Optimization with Applications to Bilevel Programming
本文针对目标与约束函数均 Lipschitz 连续且二阶方向可微的非光滑优化问题,提出无凸性假设的无间隙二阶最优性条件,并应用于双层优化,在无需下层乘子唯一性条件下导出最优性条件。
2025-11-04 math.OC
Singularly Perturbed Stochastic Hybrid Systems: Stability and Recurrence via Composite Nonsmooth Foster Functions
本文研究了奇异摄动随机混合系统的稳定性与回归性,通过提出复合非光滑 Lagrange-Foster 和 Lyapunov-Foster 函数,利用系统快慢动力学的简单函数来验证紧集稳定性和开集回归性质。
2023-10-24 math.OC
Differentiating Nonsmooth Solutions to Parametric Monotone Inclusion Problems
Toulouse School of Economics(图卢兹经济学院);University of Toulouse(图卢兹大学);IRIT(图卢兹计算机科学研究所);CNRS(法国国家科学研究中心);Université Toulouse III Paul Sabatier(图卢兹第三大学保罗·萨巴蒂埃大学);Institut Universitaire de France(法兰西大学研究院);CVN(认知与神经计算研究中心);CentraleSupélec(巴黎中央理工-高等电力学院);Université Paris-Saclay(巴黎萨克雷大学)
本文结合路径可微性与非光滑隐式微分理论,建立参数化单调包含问题解的路径可微条件及广义梯度公式,并通过三类复合优化问题验证其适用性。
2022-12-15 cs.LG math.OC
Optimality Conditions and Numerical Algorithms for A Class of Linearly Constrained Minimax Optimization Problems
众所周知,求解非光滑极大极小问题的数值算法已经有很多,但求解具有联合线性约束的非光滑极大极小问题的数值算法还很少见。本文旨在讨论具有联合线性约束的极大极小问题的最优性条件并给出实用的数值算法。首先,我们利用邻近映射和KKT系统的性质建立了最优性条件最优性条件。其次,我们提出了一个求解极大极小问题的交替坐标算法框架,并分析了其收敛性。第三,我们提出了一种近似梯度多步上升下降法(PGmsAD)作为数值算法,并证明该方法可以在${\cal O}(ε^{-2}\logε^{-1})$迭代中找到此类非光滑非凸非凹问题的$ε$ -稳定点。最后,我们将PGmsAD应用于广义绝对值方程、广义线性投影方程和线性回归问题,并报告了PGmsAD在大规模优化问题上的效率。
2022-04-20 math.OC
Subgradient sampling for nonsmooth nonconvex minimization
本文针对非光滑非凸风险最小化问题,提出并分析了一阶次梯度采样(随机次梯度下降)的收敛性,利用保守微积分和ODE方法改进既有结果,并证明在可定义情形下以概率1避免人工临界点,适用于深度学习风险最小化。
2024-07-23 math.OC