A non-smooth trust-region method for locally Lipschitz functions with application to optimization problems constrained by variational inequalities
提出了一种求解局部Lipschitz连续函数最优化问题的非光滑置信域方法,并将其应用于第二类变分不等式约束的优化问题.在对模型函数作适当假设的情况下,证明了一般算法收敛于C-平稳点。对于变分不等式约束问题,我们能够恰当地刻画约化费用函数的Bouligand次微分,并在此基础上,提出了一个满足一般算法收敛性假设的可计算置信域模型.文章最后通过两个不同的数值实例对所提出的方法的主要性能进行了实验研究。
2018-01-16 math.OC
A distributed proximal splitting method with linesearch for locally Lipschitz gradients
针对多智能体凸-凹 min-max 优化,提出带分布式回溯线搜索的原始-对偶邻近梯度一阶算法,无需全局 Lipschitz 常数即可自适应调整步长,并将分析放宽至局部 Lipschitz 梯度。
2025-05-13 math.OC
An efficient descent method for locally Lipschitz multiobjective optimization problems
本文对局部Lipschitz连续多目标最优化问题(MOPs)提出了一种有效的下降法.该方法是通过结合一个理论结果,关于计算的下降方向的非光滑MOPs与一个实用的方法来近似的次微分的目标函数。我们证明了收敛到满足Pareto最优性的一个必要条件的点。使用一组测试问题,我们比较我们的方法的多目标近端束方法由Mäkelä。结果表明,我们的方法是有竞争力的,同时更容易实现。当目标函数评估的数量较大时,次梯度评估的总数较低。最后,我们表明,我们的方法可以结合细分算法来计算整个Pareto集的非光滑MOPs。
2020-04-24 math.OC
Forward-backward algorithm for functions with locally Lipschitz gradient: applications to mean field games
本文推广了前向-后向分裂算法以最小化梯度满足局部 Lipschitz 条件的函数之和,证明了其收敛性及局部强凸下的线性收敛率,并将其应用于逼近局部耦合的变分平均场博弈系统均衡,在计算时间上显著优于基准算法。
2023-06-28 math.OC
A note on a global invertibility of locally lipschitz functions on $R^n$
给出了局部Lipschitz映射可逆的充分条件。我们使用经典的局部可逆性条件与非光滑临界点理论。
2017-04-13 math.CA math.OC
Representations of epi-Lipschitzian sets
Banach空间$E$的闭子集$M$是\ep,即,可以局部表示为Lipschitz函数的上图,当且仅当它是某个局部Lipschitz函数$f: E\to \R$的水平集,其中Clarke广义梯度在$M$的边界上的点处不包含0,即,使得:M=\{x \mid f(x)\leq 0\},0 \not \in \partial f(x){if} x \in \bd M.这扩展了以前已知的有限维的特征,并回答了一个悬而未决的问题
2009-03-04 math.OC
Randomized block proximal method with locally Lipschitz continuous gradient
Universidad de Chile(智利大学);University of Alicante(阿利坎特大学)
本文提出一种具有局部Lipschitz连续梯度的随机块邻近梯度算法,将随机块坐标下降法适用性扩展到更一般问题,结合增强线搜索提升性能,在非负矩阵分解实验中表现具竞争力。
2026-08-12 math.OC
Multivariable Extremum Seeking for Locally Lipschitz Objectives
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
针对多变量非光滑目标的极值寻优问题,通过修改扰动-解调架构,利用一般平均理论推导了其全局稳定性条件,并通过数值示例验证了方法的有效性。
2026-09-07 math.OC
Proximal random reshuffling under local Lipschitz continuity
Columbia University(哥伦比亚大学);The University of Hong Kong(香港大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
该研究提出PRR算法,在不假设强制性或极限点存在的情况下,最小化局部利普希茨/光滑函数与真下半连续凸函数之和,通过新跟踪引理处理无界集值映射,将局部光滑时的收敛速率从近$O(k^{-1/4})$提升至近$o(k^{-1/2})$。
2026-08-13 math.OC
Convergence of the Gradient Sampling Algorithm on Directionally Lipschitz Functions
将梯度采样算法的收敛性理论推广到方向Lipschitz函数。虽然方向性Lipschitz函数不一定是局部Lipschitz函数,但它们几乎处处可微,并且很好地近似于梯度,因此是梯度采样算法应用的自然候选者。这种扩展的主要障碍是潜在的无界性或空的克拉克次微分的兴趣点。我们提出的收敛性分析提供了一种解决这些问题的途径。特别是,我们恢复通常的收敛理论时,功能是局部Lipschitz。此外,如果算法不将临界性的某个度量驱动到零,则迭代必须收敛到一个点,在该点处,克拉克次微分为空,或者最速下降的方向退化,在这个意义上,它确实位于正则次导数的域的内部。
2021-07-10 math.OC
Joint Synthesis of Trajectory and Controlled Invariant Funnel for Discrete-time Systems with Locally Lipschitz Nonlinearities
本文提出一种轨迹与受控不变漏斗联合综合算法,针对局部Lipschitz非线性系统,通过递归交替优化标称轨迹与漏斗,在不放松约束下实现成本最优并保证有界扰动下的不变性,并在机器人应用中验证。
2024-01-13 math.OC
Lipschitz sub-actions for locally maximal hyperbolic sets of a $C^1$ flow
本文针对局部极大双曲流,利用受 Fathi 弱 KAM 理论启发的新工具 Lax-Oleinik 半群,证明了正 Livšic 定理中的上边界可以是 Lipschitz 的,改进了此前仅给出 Hölder 上边界的结果。
2024-06-26 math.DS math.OC
Convergence rate of the (1+1)-evolution strategy on locally strongly convex functions with lipschitz continuous gradient
本文分析 (1+1)-ES 在局部 L-强凸且梯度 U-Lipschitz 连续函数上的线性收敛速率,给出上下界,并证明无需目标函数先验性质。
2025-09-01 cs.NE math.OC
Qualitative Properties of the Minimum Sum-of-Squares Clustering Problem
本文建立了最小平方和聚类问题的一系列基本定性性质。其中,我们阐明了解的存在性,整体解的性质,局部解的特征性质,最优值函数的局部Lipschitz性质,整体解映射的局部上Lipschitz性质,局部解映射的Aubin性质.我们证明了问题总是有一个整体解,在一个温和的条件下,整体解集是有限的,每个整体解的组件可以由一个明确的公式计算。基于一个新引入的非平凡局部解的概念,得到了质心系是非平凡局部解的必要条件。有趣的是,我们能够证明这些必要条件也是充分条件。最后,证明了在原始数据点两两不同的条件下,最优值函数是局部Lipschitz,全局解映射是局部上Lipschitz,局部解映射具有Aubin性质.由于得到的完整的非平凡的局部解的特征,可以更好地理解的性能,不仅是$k$ -均值算法,但也为最小平方和聚类问题的其他解决方案的方法。
2018-10-04 math.OC
All convex bodies are in the subdifferential of some everywhere differentiable locally Lipschitz function
本研究构造了$\u211d^N$上的可微局部Lipschitz函数,其次微分极限集可对应任意凸体,改进后可覆盖所有内部非空紧连通子集,且这类病态函数含无限维向量空间并在局部Lipschitz函数空间中一致稠密。
2024-09-12 math.CA math.FA math.OC
Differential Sensitivity Analysis of Variational Inequalities with Locally Lipschitz Continuous Solution Operators
研究Banach空间中解算子满足广义利普希茨条件的变分不等式的微分灵敏度分析.证明了解映射的方向可微性的一个充分判据,该判据对于希尔伯特空间中的椭圆型变分不等式也是必要的(即使存在非对称双线性型、非线性算子和非凸泛函).与经典结果相反,我们的证明方法不依赖于Attouch定理的特征的Mosco收敛,但完全是小学。此外,我们的技术允许我们也研究这些情况下,变分不等式在手不是唯一可解的,方向可微只能获得w.r.t.基础空间的弱或弱- $\star$拓扑。作为具体的例子,我们考虑了弹塑性中的一个变分不等式,在正则集上的投影,以及一个bang-bang最优控制问题。
2017-11-07 math.FA math.OC
Partial Lipschitz regularity of the minimum time function for sub-Riemannian control systems
在二维或三维的欧几里得空间中,研究满足Hörmander括号生成条件的实解析向量场系统的最小时间问题,其中目标是非空的闭集.我们表明,在2维,最小的时间函数是局部Lipschitz连续的,而在3维,它是Lipschitz连续的一组措施零的补充。特别地,在这两种情况下,最小时间函数是a.e.在目标的互补性上可区分。在3维中,一般来说,没有希望得到与2维中相同的正则性结果。实际上,已知最小时间函数不能局部Lipschitz连续的例子。
2022-09-19 math.AP math.OC
Preconditioned accelerated gradient descent methods for locally Lipschitz smooth objectives with applications to the solution of nonlinear PDEs
我们开发的Nesterov的加速梯度下降法(AGD)的应用程序的广泛的一类偏微分方程(PDE)的近似解的理论基础。这是通过证明存在的不变集和指数收敛速度时,其预处理版本(PAGD)适用于最小化局部Lipschitz光滑,强凸目标泛函。我们引入了一个二阶常微分方程(ODE)与预条件内置,并表明PAGD是一个显式的时间离散化的常微分方程,这需要一个自然的时间步长限制的能量稳定性。在连续时间水平上,我们使用一个简单的能量参数显示指数收敛的常微分方程的解决方案,其稳定状态。在离散层次上,假设上述步长限制,不变集的存在性被证明和匹配的指数收敛速率的PAGD计划推导出通过模仿的能量参数和连续水平上的收敛。应用的PAGD方法的数值偏微分方程的某些非线性椭圆偏微分方程使用准谱方法的空间离散,并进行了几个数值实验。结果证实了全局几何和网格步长独立收敛的PAGD方法,与预条件梯度下降(PGD)方法相比,提高了加速率。
2021-02-01 cs.NA math.NA math.OC
Diametrical Risk Minimization: Theory and Computations
Target Corporation(塔吉特公司);Naval Postgraduate School(海军研究生院)
当损失函数具有较大的Lipschitz模和虚假的尖锐极小值时,经验风险最小化(ERM)的理论和经验性能往往会受到影响。我们提出并分析了一个对应的ERM称为直径风险最小化(DRM),它占最坏情况下的经验风险在参数空间的邻里。DRM具有独立于Lipschitz模的凸和非凸问题的推广界,并且可以使用基于随机梯度下降的实用算法来实现。数值结果表明,DRM的能力,找到高质量的解决方案与低泛化误差尖锐的经验风险景观从基准神经网络分类问题与损坏的标签。
2021-07-07 cs.LG math.OC
Error estimates for tamed Euler and Randomized Euler schemes for SDEs with locally Lipschitz drift with applications to non-logconcave sampling and optimization
Archimedes, Athena Research Center(阿基米德雅典研究中心);National Technical University of Athens(雅典国立技术大学)
针对具有局部Lipschitz超线性增长漂移的随机微分方程,提出KL加速驯服未调整Langevin算法(kTULA)和驯服随机中点方案(tRLMC),基于移位-组合方法建立局部误差框架,得到有限时间非渐近误差估计,并在对数Sobolev不等式下实现近最优迭代复杂度。
2026-05-24 cs.NA math.NA math.OC
Accelerated first-order methods for convex optimization with locally Lipschitz continuous gradient
University of Minnesota(明尼苏达大学)
本文针对具有局部Lipschitz连续梯度的凸优化问题,提出加速近端梯度方法和一阶近端增广拉格朗日方法,给出可验证终止准则及新的运算复杂度保证,并通过数值实验验证其性能。
2023-04-10 cs.LG cs.NA math.NA