A Smoothing Accelerated Proximal Gradient Method with Nonmonotone Backtracking Strategy for Convex Nonsmooth Composite Multiobjective Optimization
针对含两个非光滑项的复合多目标优化问题，提出基于 Lipschitz 估计与平滑因子联动回溯的平滑加速近似梯度算法，证明弱 Pareto 收敛性与收敛速率，实验显示其效率优于次梯度算法。
2026-10-27 math.OC
An effective subgradient algorithm via Mifflin's line search for nonsmooth nonconvex multiobjective optimization
针对无约束非光滑非凸多目标优化问题，提出一种基于Mifflin线搜索新变体的下降次梯度算法，可高效逼近Goldstein次微分、减少次梯度计算，无需调整即可处理非凸性，具备全局收敛性且数值表现良好。
2024-06-21 math.OC
An efficient descent method for locally Lipschitz multiobjective optimization problems
本文对局部Lipschitz连续多目标最优化问题（MOPs）提出了一种有效的下降法.该方法是通过结合一个理论结果，关于计算的下降方向的非光滑MOPs与一个实用的方法来近似的次微分的目标函数。我们证明了收敛到满足Pareto最优性的一个必要条件的点。使用一组测试问题，我们比较我们的方法的多目标近端束方法由Mäkelä。结果表明，我们的方法是有竞争力的，同时更容易实现。当目标函数评估的数量较大时，次梯度评估的总数较低。最后，我们表明，我们的方法可以结合细分算法来计算整个Pareto集的非光滑MOPs。
2020-04-24 math.OC
A dynamic gradient approach to Pareto optimization with nonsmooth convex objective functions
在一般的Hilbert框架下，研究了一类非光滑凸目标函数约束多目标优化问题的连续类梯度动力系统.我们的方法是在以前的工作中，被认为是凸dierentiable目标函数的情况下。通过对系统中的细分算子进行Yosida正则化，得到了强全局轨线的存在性.我们证明了每个目标函数的下降属性，和弱Pareto最小的轨迹收敛。该方法提供了目标函数的动态内生加权。应用合作对策，反问题，和数值多目标优化。
2014-06-06 math.OC
Multiobjective Robust Control with HIFOO 2.0
多目标控制设计一直是一个理论和实践上的难题。我们的方法是寻找局部最优解的非光滑最优化问题，建立多个工厂的最小化目标和约束。我们使用我们的公共领域的Matlab工具箱HIFOO 2.0报告这种方法的成功，比较我们的结果与基准文献。
2009-05-25 math.OC
Smoothing Accelerated Proximal Gradient Method with Fast Convergence Rate for Nonsmooth Multi-objective Optimization
本文提出带外推项的平滑加速近端梯度法（SAPGM）求解非光滑多目标优化，通过引入特定外推项将收敛速率提升至 $o(\ln^σk/k)$，并证明迭代序列收敛到Pareto最优解，数值实验验证了方法有效性。
2024-10-18 math.OC
Approximate solutions in multiobjective interval-valued optimization problems: Existence theorems and optimality conditions
针对基于区间序的多目标区间值优化问题，本文建立近似解的存在性定理，并在非光滑非凸条件下给出KKT及近似KKT最优性条件，且应用于非合作博弈。
2025-02-18 math.OC
Optimality Conditions and Duality for Multiobjective Fractional Bilevel Optimization Problems
本文提出了一种多目标分数双层优化问题的最优性条件与对偶性研究方法，利用非光滑约束资格条件和广义凸性概念，建立了更精细的最优性条件并证明了对偶定理。
2025-11-22 math.OC
Multiobjective fractional variational calculus in terms of a combined Caputo derivative
研究了分数阶Caputo组合导数表示的分数阶变分问题。证明了基本问题、等周问题和Lagrange变分问题的Euler-Lagrange型最优性必要条件最优性条件，以及横截性和充分最优性条件.这使得获得必要的和充分的Pareto最优性条件的多目标分数变分问题。
2011-10-31 math.OC
Using first-order information in Direct Multisearch for multiobjective optimization
导数是单目标优化的重要工具。事实上，人们普遍认为基于导数的方法比无导数的优化方法表现出更好的性能。在这项工作中，我们将表明，这同样不适用于多目标基于导数的优化，当目标是计算一个近似的完整的帕累托前一个给定的问题。直接多重搜索（DMS），一个强大的和有效的无导数优化算法，将说明基于导数的多目标最优化问题的竞争力。然后，我们将评估增加一阶信息的DMS框架的潜在丰富。导数将用于修剪在算法的轮询步骤中考虑的正生成集，突出符合附近可行域的几何形状的上升方向可以具有的作用。DMS的这两种变体显示出对最先进的基于导数的算法的竞争力。此外，对于合理的小预算的功能评估，新的变种不仅是竞争力的衍生为基础的求解器，但也与DMS的原始实现。
2021-02-15 math.OC
Approximate solutions for robust multiobjective optimization programming in Asplund spaces
本文研究了任意Asplund空间中带不确定约束的非光滑/非凸多目标最优化问题。首先给出了近似弱鲁棒有效解的模糊形式的最优性必要条件最优性条件，然后利用Frechet次微分的模糊最优性条件，在极限次微分意义下建立了近似弱鲁棒拟有效解的最优性必要定理.在广义伪凸函数的新概念下，得到了该问题近似（弱）鲁棒拟有效解的充分条件.最后，我们解决了一个近似的Mond-Weir型对偶鲁棒问题的参考问题，并探讨弱，强，逆对偶性质的假设下的伪凸性。
2022-11-14 math.OC
Robust optimality and duality for composite uncertain multiobjective optimization in Asplund spaces with its applications
本文在Asplund空间下研究复合不确定多目标优化问题，通过变分分析技术建立鲁棒有效解的最优性条件，构造Mond-Weir型鲁棒对偶并分析相关性质，最终将结果应用于两类不确定优化问题。
2024-03-09 math.OC
Adaptive generalized conditional gradient method for multiobjective optimization
本研究提出一种适用于有/无约束多目标优化的广义条件梯度法，结合归一化下降方向与线搜索，证明了Pareto最优性收敛性并分析复杂度，数值实验验证了其可行性与竞争力。
2025-03-22 math.OC
An Inexact Restoration Direct Multisearch Filter Approach to Multiobjective Constrained Derivative-free Optimization
本文提出结合非精确可行恢复的过滤方法处理DMS框架中的约束，避免计算惩罚参数，理论分析与数值实验均表明其良好性能。
2024-01-16 math.OC
A nonmonotone proximal quasi-Newton method for multiobjective optimization
针对无约束凸多目标复合优化问题，提出一种非单调邻近拟牛顿法，通过最小化海森近似与非光滑项变化的最大标量化确定搜索方向，结合非单调线搜索，证明其收敛至Pareto最优解且具局部超线性收敛率，实验验证了其可行性与有效性。
2023-10-03 math.OC
On mixed type duality for nondifferentiable multiobjective variational problems
在广义不变凸条件下，构造了一类含高阶导数的不可微变分问题的混合型对偶，并证明了对偶结果。从我们的结果中产生特殊情况。
2010-06-04 math.OC
A Partially Derivative-Free Proximal Method for Composite Multiobjective Optimization in the Hölder Setting
Federal University of Piauí（皮奥伊联邦大学）；Federal Institute of Education, Science and Technology of Goiás（戈亚斯联邦教育科学与技术学院）；Institute of Mathematics, Statistics and Scientific Computing - UNICAMP（坎皮纳斯州立大学数学、统计与科学计算研究所）
本文提出了一种在Hölder设定下求解复合多目标优化问题的半无导数近方法，证明其在特定迭代次数内收敛到弱近似帕累托点，并通过实验验证其有效性。
2026-01-27 math.OC
A proximal subgradient algorithm for constrained multiobjective DC-type optimization
Hanoi Pedagogical University 2（河内第二师范大學）；RMIT University（皇家墨尔本理工大学）
本文提出了一种近端subgradient算法，用于解决受约束的多目标DC型优化问题，通过建立最优性条件并保证序列有界性，实现了对非凸问题的有效求解。
2026-09-04 math.OC
New Characterizations of Nonsmooth Convex Functions via Generalized Derivatives
Department of Mathematics and Statistics, University of North Dakota（北达科他大学数学与统计系）
本文研究非光滑扩展实值弱凸函数的凸性性质，利用广义导数工具建立新的凸性刻画方法，提出必要充分条件。
2026-11-03 math.OC
A Quasi Newton Method for Uncertain Multiobjective Optimization Problems via Robust Optimization Approach
本文提出一种拟牛顿法求解任意有限不确定性集下不确定多目标优化问题的鲁棒对应问题，通过构造子问题确定下降方向，结合Armijo线搜索和修正BFGS公式，证明算法超线性收敛，并用数值实验验证其优于加权和方法。
2023-10-11 math.OC
Second-order optimality conditions for multiobjective optimization problems with constraints
本文引入了开集上Gâteaux可微且Gâteaux导数映射局部Lipschitz的函数的二阶次微分。基于这类二阶次微分的性质和变分分析技巧，我们得到了约束多目标规划问题弱Pareto有效解的二阶必要条件.
2019-09-21 math.OC
Derivative-free methods for mixed-integer nonsmooth constrained optimization
在本文中，我们考虑混合整数非光滑约束最优化问题，其目标/约束函数仅作为黑盒零阶预言机的输出（即，不提供衍生信息的Oracle），并且我们提出了一种新的基于无衍生的线搜索的算法框架来适当地处理这些问题。我们首先描述了一个计划，结合了密集的方向序列（处理的非光滑的目标函数）与原始方向（处理离散变量）的约束问题。然后，我们嵌入一个精确的惩罚方法，该计划适当地管理非线性（可能是非光滑的）约束。我们分析了所提出的算法对稳定点的整体收敛特性，我们报告了一组混合整数测试问题的大量数值经验的结果。
2021-07-01 math.OC
Penalty-Based Smoothing and Accelerated Inertial Dynamics for Convex Supremum Optimization
University of Limoges（利摩日大学）；Universidad de O’Higgins（奥希金斯大学）；Universidad de Chile（智利大学）
本文提出了一种基于惩罚的平滑方法，用于加速非光滑凸函数的优化，并通过惯性动力学实现加速收敛。
2026-10-30 math.OC
A clustering heuristic to improve a derivative-free algorithm for nonsmooth optimization
在本文中，我们提出了一个启发式，以提高性能最近提出的衍生物免费方法的非光滑最优化CS-DFN。启发式是基于聚类类型的技术来计算方向{依赖于估计的克拉克的广义梯度}的目标函数。因此，该方向（如数值实验所示）是目标函数的良好下降方向。我们报告了一些数值结果，并与原来的CS-DFN方法的比较，以显示一组著名的测试问题的实用程序的改进建议。
2023-02-10 math.OC
Set-Valued Return Function and Generalized Solutions for Multiobjective Optimal Control Problems (MOC)
本文考虑多目标最优控制问题，其中目标空间中的偏好关系定义为包含原点的尖凸锥，定义了广义Pareto最优性。对于这个问题，我们引入了集值返回函数V，并利用集值映射的余导数和余导数给出了V的一个唯一刻画，从而推广了两个先前引入的单目标最优控制问题Hamilton-Jacobi方程广义解的概念.
2011-10-06 math.OC
On the role of semismoothness in nonsmooth numerical analysis: Theory
Johann Radon Institute for Computational and Applied Mathematics（约翰·拉德纳计算与应用数学研究所）；Institute of Information Theory and Automation, Czech Academy of Sciences（捷克科学院信息与自动化研究所）
本文研究了非光滑问题中半光滑性的作用，探讨了半光滑导数与多值映射半光滑*性质的相互作用，并通过广义导数形式给出了相关理论结果。
2026-03-11 math.OC
Derivative-Free Multiobjective Trust Region Descent Method Using Radial Basis Function Surrogate Models
针对无约束和凸约束多目标最优化问题，提出了一种灵活的置信域下降算法。它针对的是异构和昂贵的问题，即，至少有一个目标函数在计算上是昂贵的问题。该方法是无导数的，在这个意义上，既不需要导数信息可用于昂贵的目标，也不是梯度近似使用重复的功能评估是在有限差分法的情况下。相反，多目标置信域的方法，其工作原理类似于其众所周知的标量吊坠。利用真实目标函数的评价数据构造局部代理模型来计算可能的下降方向。与现有的多目标置信域算法相比，这些代理不是多项式的，而是精心构造的径向基函数网络。这具有重要的优点，即数据点的数量与参数空间维度成线性比例。局部模型符合完全线性和相应的一般标量框架适用于多目标的问题。收敛到Pareto临界点的证明和数值例子说明我们的发现。
2021-03-01 cs.NA math.NA math.OC
A Cubic Regularization Method for Multiobjective Optimization
本文提出非凸无约束多目标优化的三次正则化方法，通过非单调线搜索联合调节正则化参数与导数近似精度，并给出迭代复杂度、函数求值复杂度及全局与局部收敛结果。
2025-06-09 math.OC
Shape Derivative for Penalty-Constrained Nonsmooth-Nonconvex Optimization: Cohesive Crack Problem
研究了一类与变分不等式（VI）有关的带罚约束的非光滑非凸优化问题的形状可微性。准脆性断裂的具体问题描述了一个弹性体与巴伦布拉特粘性裂纹下的不等式条件下的非渗透的裂纹面。基于Lagrange方法，利用光滑罚函数和Lavrentiev正则化，导出了形状导数的计算公式。显式公式包含原始状态和伴随状态，并且对于寻找梯度算法的下降方向以从边界测量识别最佳裂纹形状是有用的。破坏性试验的数值例子是在2D。
2022-04-10 math.OC
Potentialities of Nonsmooth Optimization
本文证明了对任意非光滑函数都可以得到高阶最优性条件。本文对给定的真扩张实函数引入了一个新的高阶方向导数和高阶Hadamard型次微分。这个导数与经典的高阶Fréchet方向导数是一致的，因为如果最后一个导数存在，则相同阶的两个导数重合。利用这些导数和次微分得到了局部极小值和孤立局部极小值的$n$阶为$n$（$n$为正整数）的充要条件.我们不需要对结果中的函数进行任何限制。定义了一类特殊的函数类$\mathcal F_n$，导出了函数$f\in\mathcal F_n$的$n$阶孤立局部极小值的最优性条件. $n$阶导数不出现在这些特征中。我们证明了必要和充分的标准，使每一个平稳点的顺序$n$是一个整体极小。我们比较我们的结果与以前的一些。
2013-11-11 math.OC
Structure-Aware Methods for Expensive Derivative-Free Nonsmooth Composite Optimization
本文提出了针对界约束非光滑复合最小化问题的结构感知方法，专为计算昂贵函数输出的已知映射设计，包含新型流形采样算法与更复杂子问题方法，并提供了严格收敛分析与开源实现。
2023-03-20 math.OC
Second-order Methods for Multiobjective Composite Optimization: Preconditioning Strategies, Subspace Variants and Inexact Solutions
College of Mathematics, Sichuan University（四川大学数学学院）；National Center for Applied Mathematics in Chongqing, Chongqing Normal University（重庆师范大学应用数学重庆中心）
针对多目标复合优化中光滑分量病态条件导致的收敛慢问题，提出预条件近端Barzilai-Borwein方法，结合目标间Barzilai-Borwein缩放与公共预条件子，并发展子空间变体及不精确版本，在非凸设定下证明全局收敛和线性收敛率。
2026-06-26 math.OC
TRFD: A derivative-free trust-region method based on finite differences for composite nonsmooth optimization
本研究提出基于有限差分的无导数信赖域方法TRFD，用于复合非光滑优化，推导了其求近似驻点的评估次数复杂度界，并通过数值实验验证了其相对现有求解器的效率优势。
2024-10-11 math.OC
Optimality conditions for nonsmooth nonconvex-nonconcave min-max problems and generative adversarial networks
研究了机器学习和博弈中一类非光滑非凸-非凹极大极小问题。首先给出了全局极大极小点和局部极大极小点存在的充分条件。其次，我们利用方向导数建立了局部极小极大点的一阶和二阶最优性条件。这些条件减少到光滑的最小最大问题与Fr{é}chet导数。我们将我们的理论结果应用于生成对抗网络（GANs），其中两个神经网络在游戏中相互竞争。最后通过实例说明了新理论在GANs训练中的应用。
2022-03-21 math.OC
Minimization of nonsmooth nonconvex functions using inexact evaluations and its worst-case complexity
针对复合非光滑非凸优化问题，提出了一种基于非精确函数和导数计算的自适应正则化算法。它表明，该算法最多需要$O(|\log(ε)|\,ε^{-2})$评估的问题的功能和他们的衍生物找到一个$ε$ -近似的一阶稳定点。因此，该复杂性界限概括了[Bellavia，Gurioli，Morini和Toint，2018]为光滑非凸问题的不精确方法提供的复杂性界限，并且在具有精确评估的光滑和非光滑非凸最小化已知的最优界限的$|\log(ε)|$因子内。一个实际上更严格的最坏情况下的复杂性$O(|\log(ε)|+ε^{-2})$的算法的变体。
2019-02-27 math.OC
Generalized Newton's Method based on Graphical Derivatives
本文提出了一种求解非光滑连续函数所描述的非线性方程组的牛顿型数值方法。我们提出并证明了一个新的广义牛顿算法的基础上的图形导数，从来没有被用来推导出一个牛顿型方法求解非光滑方程。基于变分分析和广义微分的先进技术，我们建立了算法的适定性，其局部超线性收敛，其整体收敛的Kantorovich型。我们的收敛性结果保持没有半光滑的假设，这是由例子说明。将本文的算法和主要结果与求解非光滑Lipschitz方程的牛顿法的半光滑和$B$ -可微算法进行了比较。
2010-09-02 math.OC
An Approximate Conjugate Subgradient Algorithm with Matrix Parameter for Derivative-Free Nonsmooth Optimization Problems
Fakultät für Mathematik, Universität Wien（维也纳大学）；Faculty of Engineering, Free University of Bozen–Bolzano（博岑-博尔扎诺自由大学）；Université Catholique de Louvain (UCLouvain)（天主教鲁汶大学）
提出一种无导数矩阵共轭次梯度方法，通过离散梯度采样和最小范数元素计算，结合矩阵记忆校正与线搜索，求解局部Lipschitz函数的无约束非光滑优化问题，数值实验表明算法鲁棒性强。
2026-06-27 math.OC
A Stochastic Subgradient Method for Nonsmooth Nonconvex Multi-Level Composition Optimization
我们提出了一个单时间尺度的随机次梯度方法的约束优化的组合的几个非光滑和非凸函数。函数被假定为局部Lipschitz和可微的广义意义。仅使用函数的值和广义导数的随机估计。该方法是无参数的。我们证明了收敛的概率1的方法，通过与它的微分包含系统和设计一个不可微的李雅普诺夫函数这个系统。对于具有Lipschitz连续导数的函数的问题，该方法在执行具有恒定步长的$N$迭代之后，找到满足具有$1/\sqrt{N}$阶误差的最优性度量的点。
2020-12-18 math.OC
Algorithmic construction of the subdifferential from directional derivatives
函数的次微分是梯度概念对非光滑函数的推广。它经常用于变分分析，特别是在非光滑最优化的上下文中。提出了一种通过计算多个方向导数来重构函数的多面体次微分的算法。我们提供上界所需的方向导数的数量时，空间是$\R^1$和$\R^2$，以及在$\R^n$次微分是已知的拥有最多三个顶点。
2016-09-09 math.OC
Pareto Set Characterization in Constrained Multiobjective Optimization and the COBI Problem Generator *
Inria, CMAP, CNRS, École Polytechnique, Institut Polytechnique de Paris（法国国家信息与自动化研究所，巴黎综合理工学院数学与应用数学中心，法国国家科学研究中心，巴黎综合理工学院，巴黎理工学院）；Jožef Stefan Institute（约瑟夫·斯蒂芬研究所）
本文提出可解析求解的约束多目标优化问题，其帕累托集可形式化刻画，通过多峰构造实现多模态性、病态性和非分离性，并引入COBI生成器用于无导数优化算法的基准测试。
2026-04-10 math.OC
Multiobjective Optimal Control Methods for Fluid Flow Using Reduced Order Modeling
在广泛的应用中，期望相对于并发的、潜在竞争的目标来最优地控制动力系统。这就产生了一个多目标最优控制的问题，而不是计算一个单一的最优解，最优的妥协，所谓的帕累托集，必须近似。当所考虑的问题是由一个偏微分方程（PDE）描述，是流体流动的情况下，计算成本迅速增加，使其直接处理不可行。降阶建模是一种非常流行的方法，以减少计算成本，特别是在多查询上下文中，如不确定性量化，参数估计或优化。在这篇文章中，我们展示了如何结合降阶建模和多目标最优控制技术，以有效地解决多目标最优控制问题的约束偏微分方程。我们考虑一个全球性的，导数自由的最优化方法，以及一个本地的，梯度为基础的方法，最优性系统推导出两种不同的方式。的方法进行比较方面的解决方案的质量，以及计算工作量，并说明了它们使用的例子的二维不可压缩绕流圆柱。
2016-09-15 math.OC
Estimates of First and Second Order Shape Derivatives in Nonsmooth Multidimensional Domains and Applications
在本文中，我们研究的连续性的第一和第二阶形状导数的泛函依赖于二阶椭圆型偏微分方程的非光滑区域，基本上是Lipschitz或凸，或满足一致的外部球条件。我们证明，而尖锐的连续性结果，这些形状的衍生物相对于Sobolev规范的边界轨迹的位移。相对于以前的结果，这种方法是完全不同的，是有效的，在任何维度$N\geq 2$。它是基于在这样的非光滑域的泊松型方程的尖锐的正则性结果。我们还扩大了这些估计适用的泛函和偏微分方程类。应用于凸约束下的形状最优化问题的变域或其补域的定性性质。
2015-05-21 math.AP math.OC
Worst-case Complexity Bounds of Directional Direct-search Methods for Multiobjective Optimization
直接多重搜索是一种成熟的算法，适用于多目标无导数优化。在这项工作中，我们分析了最坏情况下的复杂性，这类方法在其最一般的配方无约束优化。考虑到非凸光滑函数，我们表明，驱动一个给定的临界性措施低于一个特定的积极的阈值，直接多重搜索需要最多的迭代次数成正比的平方的倒数的阈值，提出的目标函数的组件的数量。这个数字也与第一次不成功的迭代和紧接在满足临界条件的迭代之前的迭代之间的链接序列集的大小成比例。然后，我们专注于一个特定的实例直接多重搜索，它认为接受新的非受控点更严格的标准。在这种情况下，我们可以建立一个更好的最坏情况的复杂性界限，简单地与阈值的倒数的平方成比例，用于驱动相同的关键性度量低于所考虑的阈值。
2020-11-03 math.OC
Efficient search strategies for constrained multiobjective blackbox optimization
本文针对无导数的多目标黑盒优化问题，将基于二次代理模型和Nelder-Mead采样的两种启发式搜索策略整合至DMulti-MADS算法中，计算实验证明该策略显著提升了算法性能。
2025-04-03 math.OC
A geometric integration approach to nonsmooth, nonconvex optimisation
不使用梯度的非光滑非凸函数的优化是一个特别具有挑战性的问题，经常遇到，例如在模型参数优化问题中。参数的双层优化是变分正则化问题和监督机器学习等领域的标准设置。我们提出了高效和强大的衍生工具的方法，称为随机伊藤-安倍晋三方法。这些都是概括的伊藤-安倍离散梯度法，一个著名的计划，从几何积分，以前只被认为是在顺利设置。我们证明了该方法及其有利的能量耗散特性是定义在非光滑设置。证明了当目标函数局部Lipschitz连续时，迭代几乎必然收敛于Clarke平稳点的连通集.我们提出了一个实现的方法，并将其应用到各种测试问题。数值结果表明，随机伊藤-安倍晋三的方法是优于国家的最先进的无导数优化方法在解决非光滑问题，同时保持竞争力的效率。
2018-07-19 math.OC
Nonsmooth Analysis and Optimization
这些研究生课程的课堂讲稿涵盖了广义导数概念，这些概念在推导逆问题、成像和偏微分方程约束优化中不可微优化问题的必要最优性条件和数值算法时非常有用。处理凸函数和次微分，Fenchel对偶，单调算子和预解式，Moreau-Yosida正则化，近点和（一些）一阶分裂方法，Clarke次微分，和半光滑牛顿方法。从功能分析和变分法所需的背景也简要概述。
2022-03-15 math.OC
Automatic differentiation of nonsmooth iterative algorithms
Toulouse School of Economics, University of Toulouse Capitole（图卢兹经济学院，图卢兹第一大学）；IRIT, CNRS, Université de Toulouse, ANITI（图卢兹信息学研究所，法国国家科学研究中心，图卢兹大学，图卢兹人工智能与自然智能研究所）
沿算法的微分，即，导数的背负式传播现在常规地用于微分编程中的微分迭代求解器。许多光滑问题的渐近性都很好理解，但不可微的情况下，几乎没有考虑。非光滑背负式自动微分（AD）是否存在限制对象？它是否有任何变化的意义，它能有效地用于机器学习吗？与经典导数有什么联系吗？所有这些问题都是在适当的非膨胀性条件下解决的保守衍生物的框架，这已被证明是有用的理解非光滑AD。对于非光滑piggyback迭代，我们将非光滑piggyback迭代的吸引子集刻画为一个保持在保守框架下的集值不动点。这有各种后果，特别是几乎处处收敛的经典衍生物。我们的结果被证明在参数凸优化问题的向前向后，道格拉斯-Rachford和交替方向的乘子算法以及重球方法。
2022-05-31 cs.LG math.OC
Retraction based Direct Search Methods for Derivative Free Riemannian Optimization
直接搜索法代表了一类用于解决黑盒最优化问题的鲁棒且可靠的算法。在本文中，我们将探讨这些策略的应用黎曼优化，其中最小化是相对于限制躺在流形上的变量进行。更具体地说，我们认为经典的和线搜索外推的直接搜索的变体，并通过使用撤回，我们设计定制的策略，最小化平滑和非平滑的功能。因此，我们分析，第一次在文献中，一类收缩为基础的算法，最小化非光滑目标的黎曼流形没有访问（子）衍生物。随着收敛的保证，我们提供了一套标准的一组问题的数值性能插图。
2022-02-22 math.OC
Optimality conditions in terms of Bouligand generalized differentials for a nonsmooth semilinear elliptic optimal control problem with distributed and boundary control pointwise constraints
针对含分布与边界逐点约束的非光滑半线性椭圆最优控制问题，利用Bouligand广义导数提出新最优性条件，并证明其与强平稳性等价。
2025-01-27 math.OC
A Newton-Like Dynamical System for Nonsmooth and Nonconvex Optimization
本文提出一种连续牛顿法的非光滑适配动力系统，利用局部 Lipschitz 映射的图像导数扩展二阶信息，分析解的存在唯一性、轨迹渐近性，并在强度量次正则性与 KL 不等式条件下给出收敛保证和速率。
2024-12-08 math.OC
A descent algorithm for the optimal control of ReLU neural network informed PDEs based on approximate directional derivatives
提出并分析了一类学习型半线性偏微分方程最优控制问题的数值算法。后者是一类PDE，其成分原则上是未知的，并且由非光滑ReLU神经网络近似。我们首先表明，为了利用经典的数值求解器而直接平滑ReLU网络可能会有某些缺点，即可能会为相应的状态方程引入多个解。这促使我们设计一个数值算法，直接对待非光滑最优控制问题，采用下降算法的启发，无故障的方法。数值算例表明了算法的有效性。
2022-10-14 math.OC
Multiobjective Aerodynamic Design Optimization of the NASA Common Research Model
本文提出了一种基于贝叶斯优化的多目标优化方法，用于改进NASA通用研究模型的气动设计优化。
2025-12-01 math.OC
A derivative-free $\mathcal{VU}$-algorithm for convex finite-max problems
$\mathcal{VU}$ -算法是一种超线性收敛的方法，用于极小化非光滑的凸函数。在每次迭代中，该算法使用特定的$\mathcal{V}$ -空间及其正交的$\U$ -空间，使得目标函数的非光滑性集中在其到$\mathcal{V}$ -空间上的投影上，并且在$\mathcal{U}$ -空间上的投影是光滑的。这种结构允许在函数光滑的牛顿样步骤和用于找到具有有希望的$\mathcal{VU}$ -分解的迭代的邻近点步骤之间交替。我们建立了一个衍生物的自由变种的$\mathcal{VU}$ -算法凸有限极大目标函数。我们展示了整体收敛，并提供了一个概念验证的实现，这表明了该方法的可行性和实用价值的数值结果。我们还进行了一些测试，使用非凸函数和讨论的结果。
2019-03-26 math.OC
The cost of nonconvexity in deterministic nonsmooth optimization
我们研究了非凸性对非光滑最优化复杂性的影响，强调了分段线性函数等目标，这些目标可能不是弱凸的。我们专注于维度无关分析，稍微修改了Zhang等人（2020）的黑盒算法，该算法使用$O(ε^{-4})$调用专门的次梯度预言和随机线搜索来近似任何方向可微Lipschitz目标的$ε$ -稳定点。我们简单的黑盒确定性的版本，实现$O(ε^{-5})$的任何差异的凸目标，和$O(ε^{-4})$的弱凸的情况下。我们的复杂性约束取决于一个自然的非凸性模量，相关的，有趣的是，负的一部分，定向二阶导数的目标，理解的分布意义上。
2022-10-07 math.OC
