Perturbed Proximal Descent to Escape Saddle Points for Non-convex and Non-smooth Objective Functions
研究了非凸非光滑优化问题中的局部极小点问题。在严格鞍点的假设下，一阶方法得到了正结果。我们提出了第一个已知的结果的非光滑的情况下，这需要不同的分析和不同的算法。
2019-01-24 cs.LG math.OC stat.ML
A Perturbed Sums of Squares Theorem for Polynomial Optimization and its Applications
本文研究了紧集上正多项式的一个性质。当应用到一个多项式最优化问题（POP），该属性意味着相应的半定规划（SDP）松弛足够大的放松顺序的最佳值是有界的$(f^\ast - ε)$从下面和从上面由$f^\ast + ε(n+1)$，其中$f^\ast$是最优值的POP。我们提出了新的SDP松弛POP的基础上修改现有的平方和表示定理。我们的SDP弛豫的一个优点是，在许多情况下，他们是相当小的尺寸比那些最初提出的Lasserre。我们提出了一些应用程序和我们的计算实验的结果。
2014-03-04 math.OC
A stochastic perturbed augmented Lagrangian method for smooth convex constrained minimization
本文提出一种随机扰动增广拉格朗日方法SGDPA，用于求解带多个函数约束的光滑凸优化问题，通过线性化和随机坐标上升实现原始-对偶更新，并证明凸与强凸情形下的次线性收敛速率，数值实验验证了其有效性。
2025-03-30 math.OC
A perturbed preconditioned gradient descent method for the unconstrained minimization of composite objectives
Milwaukee School of Engineering（密尔沃基工程学校）；The University of Tennessee, Knoxville（田纳西大学诺克斯维尔分校）
本文提出了一种扰动预条件梯度下降法，用于解决强凸目标函数的无约束最小化问题，并通过数值实验验证了其收敛性及移动性对计算的影响。
2025-12-22 cs.NA math.NA math.OC
Sharp bounds in perturbed smooth optimization
Weierstrass Institute Berlin（柏林魏尔斯特拉斯研究所）；HSE（高等经济学院）；IITP RAS（俄罗斯科学院信息传输问题研究所）
本文研究扰动凸光滑优化问题，刻画目标函数扰动下解与值的变化，并给出带显式误差项的精确展开。
2026-10-09 math.OC math.ST stat.TH
Adaptive Regularization for Nonconvex Optimization Using Inexact Function Values and Randomly Perturbed Derivatives
提出了一种允许导数中存在随机噪声和不精确函数值的正则化算法，用于计算光滑无约束优化问题的任意阶近似局部临界点。对于具有Lipschitz连续$p$阶导数的目标函数，给定任意的最优阶$q \leq p$，证明了该算法在期望范围内，只要$q\in\{1,2\}$，至多在$f$及其导数的$O\left(\left(\min_{j\in\{1,\ldots,q\}}ε_j\right)^{-\frac{p+1}{p-q+1}}\right)$不精确估计中计算出这样一个点，其中$ε_j$是$j$阶精度的容差.如果$q>2$和所有导数是Lipschitz连续的，则该界至多变为$O\left(\left(\min_{j\in\{1,\ldots,q\}}ε_j\right)^{-\frac{q(p+1)}{p}}\right)$不精确求值。此外，这些界限是尖锐的精度公差的顺序。凸约束问题的扩展也概述。
2021-04-06 math.OC
Online Convex Optimization with Perturbed Constraints
本文讨论在线凸优化（OCO）问题的约束有附加扰动，（i）随时间变化，（ii）不知道在作出决定的时候。扰动可能不是i.i.d.生成的，并可用于模拟一个随时间变化的预算或商品的资源分配问题。问题是设计一个策略，获得次线性遗憾，同时确保平均满足的约束。为了解决这个问题，我们提出了一个原始-对偶近端梯度算法，有$O(T^ε\vee T^{1-ε})$遗憾和$O(T^ε)$约束违反，其中$ε\in [0,1)$是一个参数的学习率。我们的研究结果匹配OCO与时变约束时，$ε= 1/2$以前的工作的界限;然而，我们（i）定义的遗憾使用时变的最佳固定决策集;（ii）可以在遗憾和违反约束之间进行平衡;（iii）使用自适应学习率，使我们能够运行算法的任何时间范围。
2019-05-31 math.OC
Complexity of Linearized Perturbed Augmented Lagrangian Methods for Nonsmooth Nonconvex Optimization with Nonlinear Equality Constraints
针对非线性等式约束的非光滑非凸复合优化问题，提出线性化扰动增广拉格朗日方法，在 $\mathcal{O}(ε^{-3})$ 评估内收敛到 $ε$-一阶最优解，并验证了其有效性与改进的局部收敛性。
2025-03-02 math.OC
Accelerating Perturbed Stochastic Iterates in Asynchronous Lock-Free Optimization
The Chinese University of Hong Kong（香港中文大学）
我们表明，随机加速可以在扰动的随机加速框架下实现（Mania等人，2017）在异步无锁优化，这导致有限和目标的最佳增量梯度复杂度。我们证明了我们的新的加速方法需要相同的线性加速条件，现有的非加速方法。我们的核心算法发现是一种新的具有稀疏更新的加速SVRG变体。实证结果验证了我们的理论研究结果。
2021-09-30 cs.LG math.OC stat.ML
On Composite Foster Functions for a Class of Singularly Perturbed Stochastic Hybrid Inclusions
University of California, San Diego（加州大学圣地亚哥分校）
本文提出了一类复合Foster函数用于分析退化扰动随机混合系统的稳定性与复发性质，通过慢子系统和快子系统的相关函数来验证稳定性与复发。
2025-12-28 math.OC
Beyond Convexity: Proximal-Perturbed Lagrangian Methods for Efficient Functional Constrained Optimization
针对非凸函数约束优化问题，提出基于近端扰动增广拉格朗日的原始-对偶算法框架，在温和条件下收敛到稳定点，无需连续调整罚参数，并给出非渐近迭代复杂度及实验验证。
2025-10-28 math.OC
Perturbed Proximal Gradient ADMM for Nonconvex Composite Optimization
PPG-ADMM通过引入扰动机制解决非凸复合优化问题，实现子线性收敛并提供更强的最优性保证。
2026-01-05 math.OC
Optimization of a perturbed sweeping process by constrained discontinuous controls
本文讨论由Moreau的凸多面体控制的清扫过程的受控版本所描述的最优控制问题，其中可测量的控制动作进入附加扰动。这类问题，解决了无界不连续微分包含与内在状态约束，是真正具有挑战性的和欠调查的控制理论，同时是非常重要的各种应用。为了解决这类问题的约束可测控制，我们发展了一种改进的离散逼近方法，建立其适定性和强收敛性。这种方法，结合先进的工具，一阶和二阶变分分析和广义微分，使我们能够获得足够的收集必要的最优性条件的局部极小，首先在离散时间的问题，然后在原来的连续时间控制扫描过程中通过的限制。新的结果包括一个适当的极大条件，并显着扩展了以前的基本上更严格的假设下得到的。我们比较他们与其他版本的最大值原理控制扫描过程中，最近建立了全球极小的问题，通过使用不同的技术与光滑的扫描集。通过几个例子说明了所得到的最优性条件。
2018-08-13 math.OC
A Doubly Stochastically Perturbed Algorithm for Linearly Constrained Bilevel Optimization
针对下层强凸且线性约束的双层优化问题，提出基于隐式梯度与随机扰动平滑技术的双重随机算法，证明了其收敛性并在对抗训练中验证了有效性。
2025-04-06 math.OC
Perturbed Gradient Descent via Convex Quadratic Approximation for Nonconvex Bilevel Optimization
本文提出一种基于凸二次近似的扰动梯度下降方法，用于解决非凸-非凸双层优化问题，在KKT残差平方范数下实现O(1/ε^1.5)迭代复杂度，并通过实验验证其效率与可扩展性。
2025-04-24 math.OC
Perturbed Iterate Analysis for Asynchronous Stochastic Optimization
AMPLab；UC Berkeley（加州大学伯克利分校）
我们介绍并分析了随机最优化方法，其中每个梯度更新的输入被有界噪声扰动。我们表明，这个框架形成了一个统一的方法来分析异步实现的随机最优化algorithm.In这个框架中，异步随机最优化算法可以被认为是一系列的方法在嘈杂的输入。使用我们的扰动框架，我们提供了新的分析Hogwild！算法和异步随机坐标下降，比以前的分析更简单，删除了以前的模型的许多假设，并在某些情况下产生改进的收敛速度上界。我们继续应用我们的框架来开发和分析KroMagnon：一种新颖的，并行的，稀疏的随机方差降低梯度（SVRG）算法。我们在一个16核机器上的实验表明，稀疏和并行版本的SVRG在某些情况下比标准SVRG算法快四个数量级以上。
2016-03-25 cs.DC cs.DS cs.LG
Stochastic Dynamic Barrier Perturbed Gradient Methods for Nonconvex Simple Bilevel Optimization
The University of Arizona（亚利桑那大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
研究随机非凸简单双层优化问题，提出SDBPG方法，通过自适应扰动对偶公式解决对偶乘子无界问题，在特定假设下能高效找到驻点，还开发了改进变体，给出了该问题首个明确的驻点保证。
2026-08-25 math.OC
Quantitative analysis of a singularly perturbed shape optimization problem in a polygon
我们研究了两个带谱代价的形状最优化问题之间的联系。一方面，我们考虑的最优设计问题的生存阈值的人口生活在一个异质的栖息地$Ω$，这个问题出现时，寻找最佳的形状和位置的庇护区，以防止物种灭绝。另一方面，我们处理的频谱下降的问题，其中包括在最小化一个混合Dirichlet-Neumann特征值的框$Ω$。在以前的论文arXiv：1811.01623中，我们证明了后者可以作为前者的奇异扰动，当避难所外的区域越来越敌对。在本文中，我们锐化我们的分析的情况下，$Ω$是一个平面多边形，提供定量估计的最佳水平收敛，以及所涉及的特征值。
2019-02-15 math.AP math.OC
Globalized distributionally robust optimization based on samples
众所周知，扰动数据集是鲁棒优化（RO）建模的关键。分布鲁棒优化（DRO）是一种用于求解具有不确定概率分布的随机参数影响的最优化问题的方法。根据扰动数据的信息，在建立DRO模型时，需要估计合适的概率分布的支撑集。本文提出了两种全局分布鲁棒优化（GDRO）模型，该模型选择一个基于数据的核心集和一个包含核心集的样本空间，以同时平衡鲁棒性和保守性。保守性的程度可以通过随机参数与核心集的期望距离来控制。在一定的假设下，我们进一步将几个GDRO模型重新表示为易于处理的半定规划。此外，数值实验显示GDRO模型的最优目标值与样本空间和核集的大小之间的关系。
2022-05-06 math.OC
Parametric Disjunctive Cuts for Sequences of Mixed Integer Linear Optimization Problems
Lehigh University（利哈伊大学）；University of Florida（佛罗里达大学）
本文提出参数化否定切割用于解决混合整数线性优化问题序列，通过重用最优性证明生成有效切割，提升求解性能。
2025-11-19 math.OC
Optimization of a Perturbed Implicit Sweeping Process by Constrained Discontinuous Controls
San Diego State University（圣地亚哥州立大学）；Wayne State University（韦恩州立大学）
本文针对具有状态和速度依赖约束的隐式扫掠过程最优控制问题，采用离散逼近与变分分析工具推导最优性条件，扩展了扫掠过程最优控制理论。
2026-10-16 math.CA math.OC
Convexity of the images of small balls through perturbed convex multifunctions
本文证明了如下凸性原理：任何闭凸集函数，如果在给定点附近在某种一致意义上度量正则，则即使它被加具有受控Lipschian行为的C^{1，1}光滑映射扰动，它也能携带以该点为中心的小球到凸集上.这个结果对定义在一致凸巴拿赫空间的一个子类上的映射是有效的，可以看作是Polyak凸性原理的集值推广.事实上，后者可以作为前者的一个特殊情况推导出来。这一原则的扩展使人们能够建立大类的非凸多功能保持凸性的小球。一些应用这一现象的集值优化理论的建议和讨论。
2015-04-10 math.OC
A Review on Constraint Handling Techniques for Population-based Algorithms: from single-objective to multi-objective optimization
这项研究提供了一个新的分析学术文献的约束处理技术的单目标和多目标人口为基础的算法，根据最相关的期刊，关键字，作者和文章。本文回顾了多目标群体优化中最先进的约束处理技术的主要思想，然后研究了该领域的文献计量学分析。所提取的论文包括2000年至2020年期间发表的研究文章，评论，书籍/书籍章节和会议论文。结果表明，与单目标优化相比，多目标最优化的约束处理技术受到的关注较少。这种优化最有前途的算法被确定为遗传算法，差分进化算法和粒子群智能。
2022-06-28 math.OC
A bi-objective optimization framework for three-dimensional road alignment design
三维道路线形优化是一个非线性非凸优化问题。由于涉及众多因素和线形几何规范的复杂性，开发完全优化三维道路线形问题的模型具有挑战性。在这项研究中，我们开发了一种新的双目标优化方法来解决三维道路线形问题的水平和垂直路线同时优化。两个相互冲突的成本目标函数，\emph{earthwork}成本和\emph{utility}成本，投在一个双目标最优化问题。我们数值比较几个多目标最优化求解器，并发现它是可能的，以确定在一个合理的时间内的Pareto前沿。
2016-02-03 math.OC
A Data-driven Approach to Risk-aware Robust Design
NASA Langley Research Center（美国国家航空航天局兰利研究中心）
本文提出一种数据驱动的鲁棒设计方法，通过扰动场景和离群点剔除在目标值与鲁棒性之间权衡，并以气动弹性机翼设计验证其有效性。
2025-11-06 math.OC
Small-Disturbance Input-to-State Stability of Perturbed Gradient Flows: Applications to LQR Problem
该研究针对数据驱动优化中梯度估计误差等扰动问题，证明了满足条件的非线性规划扰动梯度流具备小扰动输入-状态稳定性，并验证了标准、自然、牛顿三种梯度流算法在LQR问题策略优化中的鲁棒性。
2024-04-16 cs.SY eess.SY math.OC
Multi-objective Optimization: A Case Study
本文献的目的是通过一个端面铣削加工的案例研究来说明多目标最优化程序的应用。为此，面铣操作被设计为多目标最优化问题，然后使用优化例程求解以获得加工参数-切削速度（Vc）、进给速率（fz）和切削深度（t）的最佳值。面铣操作的公式化问题包括两个相互冲突的目标-最大化材料去除率（MRR）和最小化表面粗糙度（Ra）。在各种多目标最优化方法中，本文采用了五种方法，即全局准则法、字典法、加权和法、迭代约束法和遗传算法。然后比较这些多目标最优化例程的结果以反映它们的相对吸引力。
2023-01-22 math.OC
Multi-objective minmax robust combinatorial optimization with cardinality-constrained uncertainty
在本文中，我们发展了两种方法来寻找具有基数约束的不确定性的多目标组合最优化问题的极小极大鲁棒有效解。首先，我们将Bertsimas和Sim（2003）的单目标优化算法推广到多目标最优化。我们还提出了一个增强，以加速算法，即使是单目标的情况下，我们开发了一个更快的版本，为特殊的多目标实例。其次，我们引入了一个确定性的多目标问题的总和和瓶颈功能，它提供了一个超集的鲁棒有效解。在此基础上，提出了一种求解多目标不确定最短路问题的标号设置算法。我们在源于危险材料运输的多目标不确定最短路问题的实例中比较了这两种方法。
2017-01-23 math.OC
Strong calmness of perturbed KKT system for a class of conic programming with degenerate solutions
研究了一类正则扰动锥规划的KKT解映射的强镇定性，当锥最优化问题解的Lagrange乘子不唯一时，强镇定性对快速收敛起着重要作用.证明了KKT解映射的强镇定等价于扰动KKT系统解的局部误差界，也等价于驻点映射的伪孤立镇定以及乘子集映射在相应参考点的镇定.利用乘子的非临界性建立了驻点映射的伪孤立镇定，利用乘子集的相对内部条件建立了乘子集映射的镇定，从而给出了强镇定的充分条件.这些结果覆盖和推广了\cite{Hager99,Izmailov12}中关于非线性规划和\cite{Cui16,Zhang17}中关于半定规划的已有结果。
2018-02-05 math.OC
Pareto front generation with knee-point based pruning for mixed discrete multi-objective optimization
提出了一种基于无关子问题剪枝的混合离散多目标最优化问题Pareto前沿生成算法。通过引入一个新的修剪决策参考点--拐点，将现有的基于修剪的混合离散双目标问题的方法推广到一般的多目标问题。所提出的程序的有效性证明通过案例研究。
2017-09-27 math.OC
A dynamic gradient approach to Pareto optimization with nonsmooth convex objective functions
在一般的Hilbert框架下，研究了一类非光滑凸目标函数约束多目标优化问题的连续类梯度动力系统.我们的方法是在以前的工作中，被认为是凸dierentiable目标函数的情况下。通过对系统中的细分算子进行Yosida正则化，得到了强全局轨线的存在性.我们证明了每个目标函数的下降属性，和弱Pareto最小的轨迹收敛。该方法提供了目标函数的动态内生加权。应用合作对策，反问题，和数值多目标优化。
2014-06-06 math.OC
Time-Varying Multi-Objective Optimization: Tradeoff Regret Bounds
Czech Technical University in Prague（布拉格捷克理工大学）
本文研究了时间变化多目标优化问题，通过证明权衡遗憾界，提供了一种在动态环境中调整决策变量以适应目标变化的方法。
2025-04-19 math.OC
Interactive Preference Learning of Utility Functions for Multi-Objective Optimization
现实世界的工程系统通常使用多个指标进行比较和对比。对于实际的机器学习系统，性能调整通常比最小化单个预期损失目标更微妙，并且可以更现实地将其作为多目标最优化问题进行讨论。我们提出了一种新的标量值效用函数的生成模型，以捕捉人类的偏好在多目标最优化设置。我们还概述了一个交互式的主动学习系统，依次细化的利益相关者的理想效用函数使用二进制偏好查询的理解。
2016-12-15 math.OC
Perturbed Iterate SGD for Lipschitz Continuous Loss Functions
本文给出了Lipschitz连续损失函数最小化的随机梯度下降法的一个推广。我们的动机是用于非光滑非凸随机最优化问题，这是经常遇到的应用程序，如机器学习。利用Clarke $ε$ -次微分，证明了该方法在期望下非渐近收敛到一个近似稳定点.从这个结果出发，得到了一个高概率非渐近收敛的方法，以及一个几乎必然渐近收敛到Clarke平稳点的方法.我们的结果保持在假设随机损失函数是Carathéodory函数，几乎处处Lipschitz连续的决策变量。据我们所知，这是第一个非渐近收敛分析下，这些最小的假设。
2022-10-04 math.OC
Speed limits in traffic emission models using multi-objective optimization
本文提出以速度限制为可控参数，结合交通排放模型和多目标优化方法，在优化交通流的同时最小化空气污染，实现生态与经济目标之间的最优折中。
2024-06-07 math.OC
A connectedness result for convex polynomial multi-objective optimization without boundedness
Ho Chi Minh City University of Technology（胡志明市理工大学）
本文证明凸多项式多目标优化问题的弱Pareto解集在无有界性和约束规范条件下仍连通，并由此得出凸二次情形解集路径连通，回答了Yen的开放问题。
2026-10-02 math.OC
Distributed Continuous-Time Optimization with Time-Varying Objective Functions and Inequality Constraints
研究了具有时变目标函数和时变非线性不等式约束约束的分布式连续时间最优化问题。与大多数具有时不变目标函数和约束条件的分布式最优化问题不同，本文的最优解是时变的，并形成一条轨迹。为了最小化全局时变目标函数受时变局部约束函数，仅使用局部信息和局部相互作用，我们提出了一种分布式控制算法，由一个滑模部分和基于Hessian的优化部分。在适当的假设条件下，研究了算法对最优解的渐近收敛性。通过仿真实例验证了该方案的有效性。
2020-09-04 math.OC
A consensus-based algorithm for multi-objective optimization and its mean-field description
提出了一种求解多目标最优化问题的多智能体算法，该算法扩展了基于共识的最优化方法，并依赖于一种标量化策略.优化是通过一组相互作用的代理探索搜索空间，并试图同时解决所有标量子问题。我们表明，这些动态所描述的平均场模型，这是合适的算法收敛性的理论分析。数值结果表明了该方法的有效性。
2022-03-30 math.OC
Asymmetric Perturbation in Solving Bilinear Saddle-Point Optimization
CyberAgent；University of Electro-Communications（电气通信大学）
提出非对称扰动方法，仅扰动一个玩家的收益函数，以线性收敛速率求解双线性鞍点优化问题，并提供了无参数变体。
2026-06-04 math.OC
Multi-objective optimization of double curvature arch dams subjected to seismic loading using charged system search
本文提出了一种拱坝优化设计的多目标公式。其目标是同时减少混凝土体积和坝体的应力状态。而不是一个单一的设计，多目标问题提供了一组帕累托解决方案，其中决策者的方法可以选择最佳答案，根据其喜好。为了解决这个新问题，一个多目标充电系统搜索作为一个有效的元启发式也被开发。以一个实际双曲拱坝为算例，对该算法进行了验证。计算结果表明，该方法与现有的拱坝优化算法相比具有很强的竞争力。
2022-07-10 math.OC
Vector Optimization by Two Objective Functions
近年来，向量最优化问题在工程经济问题中得到了广泛的应用。这些问题的决策方法的发展在工程A中执行。梅萨克和其他人。所提供的方法的复杂性在于构建聚合目标函数。本文利用Pareto锥的解析表示，提出了一种求解向量最优化问题的算法。
2007-08-31 math.OC
Wind Turbine Design: Multi-Objective Optimization
在过去的20年里，风力涡轮机已经成熟，不断增长的全球风能市场将允许进一步改进。近几十年来，应用优化技术试图获得最优设计的研究论文数量不断增加。制造商的主要目标是尽量减少风力涡轮机的能源成本，以便与化石燃料竞争。因此，有人认为，将风力涡轮机设计作为由多个目标组成的最优化问题来评估更有启发性。使用多目标最优化算法，设计者能够识别称为帕累托前沿的权衡曲线，该曲线揭示了某些目标的弱点、异常和回报。在本章中，我们介绍了风力涡轮机设计中多目标最优化的基本原理，并使用遗传算法解决了一个经典的多目标风力涡轮机最优化问题。
2016-10-04 math.OC
Representing the Non-dominated Set of Multi-objective Optimization Problems with Polyhedral Ordering Cones
School of Mathematics and Natural Sciences, University of Wuppertal（韦特大学数学与自然科学学院）
本研究针对采用多面序锥的多目标优化问题，考察基于表示关系的表示方法，探究帕累托情形的现有理论与方法能否推广应用于该更一般的优化场景。
2026-10-12 math.OC
A game theoretic perspective on Bayesian multi-objective optimization
本章讨论了如何在计算要求很高的黑盒模拟环境中有效地解决多目标最优化问题的问题。我们将通过机器学习和工程中的应用来激发这个问题，并讨论当目标数量为四个或更多时使用经典帕累托方法的具体严峻挑战。然后，我们回顾结合贝叶斯优化方法的解决方案，例如，高斯过程，以及对策论的概念，如纳什均衡，Kalai-Smorodinsky解决方案和细节扩展，如Nash-Kalai-Smorodinsky解决方案。最后介绍了相应的算法，并给出了一些示例性的结果.
2021-04-29 math.OC
Pruning-Based Pareto Front Generation for Mixed-Discrete Bi-Objective Optimization
提出了一种基于剪枝的混合离散双目标优化问题的Pareto前沿生成方法。混合离散问题被分解成多个连续的子问题，两阶段修剪步骤识别和修剪出非贡献的子问题的帕累托前沿建设。所提出的方法的有效性证明了两个基准的例子。
2013-06-07 math.OC
Existence, Pareto reducibility, and connectedness in multi-objective optimization: Elementary proofs and extension
本文分为两个部分。在第一部分中，我们对多目标最优化中的一些重要结果进行了初步的证明。与现有的证明相比，给出的证明是如此简单和简短。同时，将一个Pareto约简结果从有效性推广到真有效性.第二部分研究了多目标最优化非支配解集的非空性、$R^p_{\geqq}$ -（半）紧性、外部稳定性和连通性之间的关系。此外，它表明，一些重要的结果，有关连通性的假设，是多余的，应该删除。
2018-04-24 math.OC
Perturbed Linear-Quadratic Control Problems and Their Probabilistic Representations
考虑随机线性二次最优化问题的某些非线性扰动，研究其解与相应的马尔可夫倒向随机微分方程之间的关系.利用随机控制、非线性偏微分方程（PDE）和倒向随机微分方程（BSDEs）的方法，我们确定了问题可解的条件，并得到了解的一些正则性性质。
2012-12-30 math.AP math.OC math.PR
Escaping strict saddle points of the Moreau envelope in nonsmooth optimization
Cornell University（康奈尔大学）
最近的工作表明，随机扰动梯度法可以有效地逃避严格的鞍点的光滑函数。我们延长这一机构的工作非光滑最优化，通过分析一个不精确的模拟随机扰动梯度法适用于莫罗信封。主要结论是，各种算法的非光滑最优化可以逃脱严格的鞍点的莫罗包络在一个控制的速度。主要的技术见解是，典型的算法应用到近端子问题产量方向近似的梯度的莫罗信封相对而言。
2021-06-17 cs.LG math.OC stat.ML
SPGD: Steepest Perturbed Gradient Descent Optimization
School of Mechanical, Aerospace, and Manufacturing Engineering University of Connecticut（机械、航空航天与制造工程学院 美国康涅狄格大学）
SPGD通过结合梯度下降与周期性扰动采样，有效克服局部极小值和鞍点等障碍，提升复杂优化问题的求解能力。
2026-01-14 cs.AI cs.CE cs.LG
Online Non-Convex Learning: Following the Perturbed Leader is Optimal
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research, India（微软研究院（印度））
我们研究了非凸损失的在线学习问题，学习者可以访问离线优化预言。我们表明，经典的跟随扰动领导（FTPL）算法实现了最佳的遗憾率$O(T^{-1/2})$在这种情况下。这改善了之前最著名的FTPL的$O(T^{-1/3})$后悔率。我们进一步表明，乐观的FTPL变体实现更好的后悔界限时，学习者遇到的损失序列是“可预测的”。
2019-09-21 cs.LG math.OC stat.ML
Marginal minimization and sup-norm expansions in perturbed optimization
Weierstrass Institute（魏尔斯特拉斯研究所）；HSE University（高等经济大学）；IITP RAS（俄罗斯科学院信息处理问题研究所）
本文研究了在扰动优化中边际解的最小化问题，探讨了插件方法、交替优化和边际优化与sup-范数估计之间的联系，通过BTL模型的数值示例展示了闭式结果。
2026-05-11 math.OC math.ST stat.TH
Bézier Flow: a Surface-wise Gradient Descent Method for Multi-objective Optimization
RIKEN AIP（理化学研究所先进智能项目中心）；Fujitsu Limited（富士通有限公司）；Tokyo Institute of Technology（东京工业大学）；KLab Inc.（KLab株式会社）
本文提出了一种利用Bézier单纯形模型从单目标优化算法构造多目标最优化算法的策略。此外，我们扩展了概率近似正确（PAC）学习意义下的优化算法的稳定性，并定义了PAC稳定性。我们证明了它导致一个上界的推广具有很高的概率。此外，我们表明，多目标最优化算法来自基于梯度下降的单目标优化算法是PAC稳定的。数值实验表明，该方法比现有的多目标最优化算法具有更低的泛化误差。
2022-05-23 cs.LG math.OC
BMOBench: Black-Box Multi-Objective Optimization Benchmarking Platform
本文档简要介绍黑盒多目标最优化基准测试（BMOBench）平台。它介绍了测试问题、评估程序和实验设置。为此，BMOBench的证明，比较最近的多目标求解器从文献中，即SMS-EMOA，DMS和MO-SOO。
2017-07-01 cs.NE math.OC
Ordinal Optimization Through Multi-objective Reformulation
我们用序数分析组合最优化问题，即，非加性的目标函数，将类别（如好、中、差）而不是费用系数分配给可行解的元素。我们回顾了不同的有序最优化问题的最优性概念，并讨论了它们的异同。然后，我们专注于两个流行的最优性概念，被证明是等价的。我们的主要结果是一个双射线性变换，将有序优化问题转换为相关的标准多目标最优化问题与二元费用系数。由于这种转换保留了潜在问题的所有属性，因此特定于问题的解决方法仍然适用。一个突出的例子是动态规划和贝尔曼的最优性原理，可以应用于，例如，顺序最短路径和顺序背包问题。我们将我们的结果推广到结合了序数和实值目标函数的多目标最优化问题。
2022-04-05 math.CO math.OC
