Convergence Analysis of Homotopy-SGD for non-convex optimization
University of Freiburg（弗莱堡大学）；University of North Carolina（北卡罗来纳大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
用于解决大规模非凸优化问题的一阶随机方法广泛用于许多大数据应用中，例如训练深度神经网络以及其他复杂和潜在非凸的机器学习模型。它们的廉价迭代通常伴随着缓慢的全局收敛速度（主要是次线性的），导致在迭代到达极小值的邻域之前必须进行非常多的迭代。在这项工作中，我们提出了一个一阶随机算法的基础上的同伦方法和SGD相结合，称为同伦-随机梯度下降（H-SGD），发现有趣的连接与文献中提出的算法，例如优化高斯连续，扩散训练，软化网络。在对问题结构作了一些温和的假设的情况下，对算法进行了理论分析。我们的分析表明，一个专门设计的同伦参数的计划，H-SGD享有一个全局的线性收敛到一个最小值的邻域的速度，同时保持快速和廉价的迭代。实验结果证实了理论分析的正确性，并表明H-SGD的性能优于标准SGD。
2020-11-20 cs.LG math.OC
A polyhedral homotopy algorithm for computing critical points of polynomial programs
在本文中，我们提出了一种方法，使用拉格朗日乘子和数值代数几何找到所有的临界点，因此全球解决，多项式最优化问题。我们设计了一个多面体同伦算法，明确地构造一个最佳的启动系统，绕过与多面体同伦算法的典型瓶颈。我们的算法的正确性来自于多项式的代数多项式的次数优化程序的交集理论计算，并依赖于显式求解相应拉格朗日系统的热带化。我们目前的实验表明，我们的算法优于传统的同伦连续算法。
2023-02-09 math.AG math.OC
Homotopy Methods for Convex Optimization
本文提出一种基于同伦的凸优化求解方法，通过微分方程逐步变换可行集并跟踪解，证明了其在半定与双曲规划中的有效性，且数值表现优于内点法。
2025-03-27 cs.NA math.AG math.NA
A homotopy training algorithm for fully connected neural networks
本文提出了一种同伦训练算法（HTA）来解决复杂结构的全连接神经网络的最优化问题。HTA通过自适应地增加层和节点，动态地从简化的版本开始构建神经网络到完全连接的网络。因此，相应的最优化问题在开始时很容易求解，并且通过HTA引导的连续路径连接到原始模型，这提供了获得全局极小值的高概率。通过沿连续路径逐渐增加模型的复杂度，HTA得到了原损失函数的较好解。这一点得到了包括CIFAR-10上的VGG模型在内的各种数值结果的证实。以VGG 13模型为例，在批量归一化的情况下，HTA在测试数据集上的差错率比传统方法降低了11.86%。此外，HTA还允许我们通过自适应地构建神经网络来找到全连接神经网络的最佳结构。
2019-08-18 math.OC
A Homotopy Framework for Constrained Multiobjective Optimization
Clarkson University（克拉克森大学）
本文提出一种基于同伦的框架，用于计算多目标优化问题的KKT点，通过连续变形易解系统至KKT条件，保证全局收敛性，并在数值实验中展示出鲁棒性与高效性。
2026-10-16 cs.NA math.NA math.OC
Fast Homotopy for Spacecraft Rendezvous Trajectory Optimization with Discrete Logic
本文提出了一种求解包含离散逻辑约束的非凸最优控制问题的高效优化算法。这些约束的传统求解方法需要二进制变量和混合整数规划，这是非常缓慢和计算昂贵。本文的目标是一个快速的解决方案，是能够实时实施机载航天器。为此，开发了一种新的算法，将序列凸规划和数值延拓融合到一个迭代求解过程中。在算法内部，离散逻辑约束由光滑函数近似，并且同伦参数控制这种近似的精度。当算法收敛时，同伦参数被更新，使得光滑近似执行精确的离散逻辑。这种方法的有效性的数值证明了一个现实的交会方案的启发阿波罗换位和对接机动。在15秒的累积求解时间内，该算法能够可靠地找到困难的燃料最优轨迹，遵守以下离散逻辑约束：推力器最小脉冲位，范围触发的方法锥，和范围触发的羽流冲击。优化后的轨道使用的燃料明显少于NASA报告的设计目标。
2021-07-14 cs.SY eess.SY math.OC
A New Homotopy Proximal Variable-Metric Framework for Composite Convex Minimization
本文提出了两种新的思想，发展了求解一类复合凸优化问题的新的近似变度量法。第一个想法是一个新的参数化的最优性条件，使我们能够开发一类同伦近变度量法。我们表明，在适当的假设，如强凸型和光滑性，或自和谐，我们的新计划可以实现有限的全球迭代复杂性的界限。我们的第二个想法是一个原始-对偶-原始框架的近似牛顿方法，可以导致一些有用的计算功能的一个子类的非光滑复合凸优化问题。从原问题出发，构造了原问题的对偶问题，并利用同伦近似牛顿法求解该对偶问题。与其直接在对偶空间中求解子问题，我们建议将这个子问题对偶化，回到原始空间。由此产生的子问题共享一些相似性，促进了原问题的正则化，并导致一些计算上的优势。作为一个副产品，我们专门提出的算法来解决协方差估计问题。令人惊讶的是，我们的新算法不需要任何矩阵求逆或Cholesky分解，和函数评估，而它的作品在原始空间的稀疏结构，促进了正则化。几个应用的数值例子来说明我们的理论发展，并与国家的艺术比较。
2018-12-13 math.OC
On the polyhedral homotopy method for solving generalized Nash equilibrium problems of polynomials
广义纳什均衡问题（GNEP）是一种寻找一组局中人的策略，使得每个局中人的目标函数最优的博弈。广义纳什均衡（Generalized Nash Equilibria，GNEs）。本文提出了一种基于半定松弛的多面体同伦延拓和矩SOS族的求解多项式GNEP的GNE的数值方法。我们表明，我们的方法可以找到所有的GNEs，如果它们存在，或检测GNEs的不存在，在一些通用的假设。数值实验证明了该方法的有效性。
2023-02-16 math.AG math.OC
A conditional gradient homotopy method with applications to Semidefinite Programming
Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机学研究所）；Zuse Institute Berlin（柏林楚泽研究所）；Faculty of Data and Decision Sciences, Technion - Israel Institute of Technology（以色列理工学院数据与决策科学学院）；Department of Mathematics（数学系）
提出一种基于同伦的双循环条件梯度方法，通过自协和障碍处理锥约束并近似解析中心路径，用于求解组合优化凸松弛衍生的半定规划问题，在保持竞争性迭代复杂度的同时具备低成本免投影优势。
2025-01-30 cs.LG math.OC
Power Homotopy for Zeroth-Order Non-Convex Optimizations
Department of Engineering, Shenzhen MSU-BIT University（工程系，深圳MSU-BIT大学）
研究零阶非凸优化问题，提出GS-PowerHP方法，通过采用$\sigma$递减的幂平滑同伦机制改进探索与细化权衡，理论和实验表明该方法优于固定$\sigma$基线，在不同优化任务中性能稳健。
2026-07-16 cs.LG math.OC
A Review on Constraint Handling Techniques for Population-based Algorithms: from single-objective to multi-objective optimization
这项研究提供了一个新的分析学术文献的约束处理技术的单目标和多目标人口为基础的算法，根据最相关的期刊，关键字，作者和文章。本文回顾了多目标群体优化中最先进的约束处理技术的主要思想，然后研究了该领域的文献计量学分析。所提取的论文包括2000年至2020年期间发表的研究文章，评论，书籍/书籍章节和会议论文。结果表明，与单目标优化相比，多目标最优化的约束处理技术受到的关注较少。这种优化最有前途的算法被确定为遗传算法，差分进化算法和粒子群智能。
2022-06-28 math.OC
Fast Multi-Agent Temporal-Difference Learning via Homotopy Stochastic Primal-Dual Optimization
University of Southern California（南加州大学）；Princeton University（普林斯顿大学）；Northwestern University（西北大学）
我们研究了多智能体强化学习中的策略评估问题，其中一组智能体具有联合观察的状态和私有的本地动作和奖励，通过连接的无向网络上的本地计算和通信来协作学习给定策略的值函数。这个问题出现在各种大规模的多智能体系统，包括电网，智能交通系统，无线传感器网络和多智能体机器人。当状态-动作空间维数较大时，采用线性函数逼近的时间差分学习方法得到了广泛的应用。在本文中，我们开发了一种新的分布式时间差学习算法，并量化其有限时间性能。我们的算法结合了分布式随机原始对偶方法与同伦为基础的方法，以适应性地调整学习率，以尽量减少均方投影贝尔曼误差从一个因果的政策轨迹采取新鲜的在线样本。我们明确地考虑到马尔可夫性质的采样和改善最著名的有限时间误差界从$O(1/\sqrt{T})$到~ $O(1/T)$，其中$T$是迭代的总次数。
2021-11-04 cs.LG cs.MA math.OC
Two-Stage Homotopy Method to Incorporate Discrete Control Variables into AC-OPF
交流最优潮流（AC-OPF）是电网规划和运行中的一个重要最优化问题。传统上，该问题仅使用连续变量来表述。通常，具有离散值设置的控制设备，其为网络提供有价值的灵活性并提高弹性，由于完整性约束的困难而从AC-OPF公式中省略。我们提出了一个两阶段同伦算法来解决离散值控制设置的AC-OPF问题。该方法不依赖于控制设置或其他初始条件的先验知识。第一阶段放宽离散设置连续变量，并解决了使用强大的同伦技术的优化。一旦使用松弛模型获得解，第二同伦问题逐渐将松弛设置转换为它们最近的可行离散值。我们测试了几个大型网络与开关分流器和可调Transformers，并表明它可以优于一个类似的国家的最先进的求解器所提出的算法。
2021-10-14 cs.SY eess.SY math.OC
A bi-objective optimization framework for three-dimensional road alignment design
三维道路线形优化是一个非线性非凸优化问题。由于涉及众多因素和线形几何规范的复杂性，开发完全优化三维道路线形问题的模型具有挑战性。在这项研究中，我们开发了一种新的双目标优化方法来解决三维道路线形问题的水平和垂直路线同时优化。两个相互冲突的成本目标函数，\emph{earthwork}成本和\emph{utility}成本，投在一个双目标最优化问题。我们数值比较几个多目标最优化求解器，并发现它是可能的，以确定在一个合理的时间内的Pareto前沿。
2016-02-03 math.OC
Progressive Power Homotopy for Non-convex Optimization
Department of Engineering, Shenzhen MSU-BIT University（工程系，深圳MSU-BIT大学）
本文提出了一种名为渐进幂同伦的方法，用于解决非凸优化问题，通过逐步增加幂参数和减小平滑尺度，实现高效收敛并展示在相位恢复和欠参数化神经网络训练中的优势。
2026-01-22 cs.AI cs.LG math.OC
Multi-objective Optimization: A Case Study
本文献的目的是通过一个端面铣削加工的案例研究来说明多目标最优化程序的应用。为此，面铣操作被设计为多目标最优化问题，然后使用优化例程求解以获得加工参数-切削速度（Vc）、进给速率（fz）和切削深度（t）的最佳值。面铣操作的公式化问题包括两个相互冲突的目标-最大化材料去除率（MRR）和最小化表面粗糙度（Ra）。在各种多目标最优化方法中，本文采用了五种方法，即全局准则法、字典法、加权和法、迭代约束法和遗传算法。然后比较这些多目标最优化例程的结果以反映它们的相对吸引力。
2023-01-22 math.OC
Multi-objective minmax robust combinatorial optimization with cardinality-constrained uncertainty
在本文中，我们发展了两种方法来寻找具有基数约束的不确定性的多目标组合最优化问题的极小极大鲁棒有效解。首先，我们将Bertsimas和Sim（2003）的单目标优化算法推广到多目标最优化。我们还提出了一个增强，以加速算法，即使是单目标的情况下，我们开发了一个更快的版本，为特殊的多目标实例。其次，我们引入了一个确定性的多目标问题的总和和瓶颈功能，它提供了一个超集的鲁棒有效解。在此基础上，提出了一种求解多目标不确定最短路问题的标号设置算法。我们在源于危险材料运输的多目标不确定最短路问题的实例中比较了这两种方法。
2017-01-23 math.OC
Pareto front generation with knee-point based pruning for mixed discrete multi-objective optimization
提出了一种基于无关子问题剪枝的混合离散多目标最优化问题Pareto前沿生成算法。通过引入一个新的修剪决策参考点--拐点，将现有的基于修剪的混合离散双目标问题的方法推广到一般的多目标问题。所提出的程序的有效性证明通过案例研究。
2017-09-27 math.OC
A dynamic gradient approach to Pareto optimization with nonsmooth convex objective functions
在一般的Hilbert框架下，研究了一类非光滑凸目标函数约束多目标优化问题的连续类梯度动力系统.我们的方法是在以前的工作中，被认为是凸dierentiable目标函数的情况下。通过对系统中的细分算子进行Yosida正则化，得到了强全局轨线的存在性.我们证明了每个目标函数的下降属性，和弱Pareto最小的轨迹收敛。该方法提供了目标函数的动态内生加权。应用合作对策，反问题，和数值多目标优化。
2014-06-06 math.OC
Continuation methods for higher-order topology optimization
本文提出一种结合同伦方法和屏障策略的连续方法，用于解决高阶拓扑优化问题，以克服非凸问题中的收敛难题。
2026-01-07 math.OC
Time-Varying Multi-Objective Optimization: Tradeoff Regret Bounds
Czech Technical University in Prague（布拉格捷克理工大学）
本文研究了时间变化多目标优化问题，通过证明权衡遗憾界，提供了一种在动态环境中调整决策变量以适应目标变化的方法。
2025-04-19 math.OC
Interactive Preference Learning of Utility Functions for Multi-Objective Optimization
现实世界的工程系统通常使用多个指标进行比较和对比。对于实际的机器学习系统，性能调整通常比最小化单个预期损失目标更微妙，并且可以更现实地将其作为多目标最优化问题进行讨论。我们提出了一种新的标量值效用函数的生成模型，以捕捉人类的偏好在多目标最优化设置。我们还概述了一个交互式的主动学习系统，依次细化的利益相关者的理想效用函数使用二进制偏好查询的理解。
2016-12-15 math.OC
Speed limits in traffic emission models using multi-objective optimization
本文提出以速度限制为可控参数，结合交通排放模型和多目标优化方法，在优化交通流的同时最小化空气污染，实现生态与经济目标之间的最优折中。
2024-06-07 math.OC
Lasry-Lions Envelopes and Nonconvex Optimization: A Homotopy Approach
KU Leuven（鲁汶大学）；Kyushu University（九州大学）
本文利用Lasry-Lions双包络兼具光滑性与凸化过渡的特点，提出构建渐进近似子问题的同伦优化方法，并分析复合最小化的收敛性及在信号解码和光谱解混中的优势。
2021-06-22 cs.CV eess.SP math.OC
A connectedness result for convex polynomial multi-objective optimization without boundedness
Ho Chi Minh City University of Technology（胡志明市理工大学）
本文证明凸多项式多目标优化问题的弱Pareto解集在无有界性和约束规范条件下仍连通，并由此得出凸二次情形解集路径连通，回答了Yen的开放问题。
2026-10-02 math.OC
Distributed Continuous-Time Optimization with Time-Varying Objective Functions and Inequality Constraints
研究了具有时变目标函数和时变非线性不等式约束约束的分布式连续时间最优化问题。与大多数具有时不变目标函数和约束条件的分布式最优化问题不同，本文的最优解是时变的，并形成一条轨迹。为了最小化全局时变目标函数受时变局部约束函数，仅使用局部信息和局部相互作用，我们提出了一种分布式控制算法，由一个滑模部分和基于Hessian的优化部分。在适当的假设条件下，研究了算法对最优解的渐近收敛性。通过仿真实例验证了该方案的有效性。
2020-09-04 math.OC
A consensus-based algorithm for multi-objective optimization and its mean-field description
提出了一种求解多目标最优化问题的多智能体算法，该算法扩展了基于共识的最优化方法，并依赖于一种标量化策略.优化是通过一组相互作用的代理探索搜索空间，并试图同时解决所有标量子问题。我们表明，这些动态所描述的平均场模型，这是合适的算法收敛性的理论分析。数值结果表明了该方法的有效性。
2022-03-30 math.OC
Multi-objective optimization of double curvature arch dams subjected to seismic loading using charged system search
本文提出了一种拱坝优化设计的多目标公式。其目标是同时减少混凝土体积和坝体的应力状态。而不是一个单一的设计，多目标问题提供了一组帕累托解决方案，其中决策者的方法可以选择最佳答案，根据其喜好。为了解决这个新问题，一个多目标充电系统搜索作为一个有效的元启发式也被开发。以一个实际双曲拱坝为算例，对该算法进行了验证。计算结果表明，该方法与现有的拱坝优化算法相比具有很强的竞争力。
2022-07-10 math.OC
Vector Optimization by Two Objective Functions
近年来，向量最优化问题在工程经济问题中得到了广泛的应用。这些问题的决策方法的发展在工程A中执行。梅萨克和其他人。所提供的方法的复杂性在于构建聚合目标函数。本文利用Pareto锥的解析表示，提出了一种求解向量最优化问题的算法。
2007-08-31 math.OC
Wind Turbine Design: Multi-Objective Optimization
在过去的20年里，风力涡轮机已经成熟，不断增长的全球风能市场将允许进一步改进。近几十年来，应用优化技术试图获得最优设计的研究论文数量不断增加。制造商的主要目标是尽量减少风力涡轮机的能源成本，以便与化石燃料竞争。因此，有人认为，将风力涡轮机设计作为由多个目标组成的最优化问题来评估更有启发性。使用多目标最优化算法，设计者能够识别称为帕累托前沿的权衡曲线，该曲线揭示了某些目标的弱点、异常和回报。在本章中，我们介绍了风力涡轮机设计中多目标最优化的基本原理，并使用遗传算法解决了一个经典的多目标风力涡轮机最优化问题。
2016-10-04 math.OC
Representing the Non-dominated Set of Multi-objective Optimization Problems with Polyhedral Ordering Cones
School of Mathematics and Natural Sciences, University of Wuppertal（韦特大学数学与自然科学学院）
本研究针对采用多面序锥的多目标优化问题，考察基于表示关系的表示方法，探究帕累托情形的现有理论与方法能否推广应用于该更一般的优化场景。
2026-10-12 math.OC
A game theoretic perspective on Bayesian multi-objective optimization
本章讨论了如何在计算要求很高的黑盒模拟环境中有效地解决多目标最优化问题的问题。我们将通过机器学习和工程中的应用来激发这个问题，并讨论当目标数量为四个或更多时使用经典帕累托方法的具体严峻挑战。然后，我们回顾结合贝叶斯优化方法的解决方案，例如，高斯过程，以及对策论的概念，如纳什均衡，Kalai-Smorodinsky解决方案和细节扩展，如Nash-Kalai-Smorodinsky解决方案。最后介绍了相应的算法，并给出了一些示例性的结果.
2021-04-29 math.OC
Pruning-Based Pareto Front Generation for Mixed-Discrete Bi-Objective Optimization
提出了一种基于剪枝的混合离散双目标优化问题的Pareto前沿生成方法。混合离散问题被分解成多个连续的子问题，两阶段修剪步骤识别和修剪出非贡献的子问题的帕累托前沿建设。所提出的方法的有效性证明了两个基准的例子。
2013-06-07 math.OC
Existence, Pareto reducibility, and connectedness in multi-objective optimization: Elementary proofs and extension
本文分为两个部分。在第一部分中，我们对多目标最优化中的一些重要结果进行了初步的证明。与现有的证明相比，给出的证明是如此简单和简短。同时，将一个Pareto约简结果从有效性推广到真有效性.第二部分研究了多目标最优化非支配解集的非空性、$R^p_{\geqq}$ -（半）紧性、外部稳定性和连通性之间的关系。此外，它表明，一些重要的结果，有关连通性的假设，是多余的，应该删除。
2018-04-24 math.OC
Optimization Problems with Nearly Convex Objective Functions and Nearly Convex Constraint Sets
Institute of Mathematics, Vietnam Academy of Science and Technology（越南科学技术院数学研究所）
本文研究了近凸优化问题，通过关联凸优化问题，推导了最优性条件和拉格朗日乘子规则，并通过实例验证了结果。
2026-02-10 math.OC
Prediction in Online Convex Optimization for Parametrizable Objective Functions
在线最优化问题的许多技术都涉及仅基于当前可用信息做出决策：利用潜在预测的作品较少。本文讨论可参数化目标的在线凸优化问题，即只依赖于参数在给定时刻的值的最优化问题。我们引入了一个新的规律性的基础上的参数的预测值的准确性，动态遗憾，并表明，在温和的假设下，准确的预测可以产生更严格的动态遗憾的界限。受学习如何优化的最新进展的启发，我们还提出了一种新的算法，可以同时预测和优化可参数化的目标，并使用模拟和真实数据研究其性能。
2019-02-01 math.OC
On the convergence properties of a majorized ADMM for linearly constrained convex optimization problems with coupled objective functions
本文研究了目标函数为耦合函数的线性约束凸优化问题的优化交替方向乘子法（ADMM）的收敛性.我们的收敛性分析依赖于广义中值定理，由于耦合目标函数的存在，该定理在正确控制交叉项方面起着重要作用。我们的结果特别表明，直接应用2-块ADMM与一个大的步长的线性约束凸优化问题与二次耦合目标函数是收敛的温和条件。我们还提供了几个迭代算法的复杂性结果。
2015-01-31 math.OC
Objective-Function Free Multi-Objective Optimization: Rate of Convergence and Performance of an Adagrad-like algorithm
Università degli Studi di Firenze（佛罗伦萨大学）；Technische Universität Ilmenau（埃尔福特工业大学）；ISTI–CNR, Italy（意大利国家研究委员会信息系统研究所）
提出一种不依赖目标函数值、仅使用公共下降方向的Adagrad类多目标优化算法，具有自适应步长，收敛速率为O(1/√(k+1))，在无约束多目标问题和多任务学习中验证了有效性。
2026-07-01 math.OC
Incremental Model Building Homotopy Approach for Solving Exact AC-Constrained Optimal Power Flow
针对大规模交流最优潮流（AC-OPF）局部最优解求解难、收敛无保障的问题，提出基于电网物理特性的同伦方法，通过求解序列原-对偶内点问题实现鲁棒局部收敛，在美东互联规模测试网验证了有效性。
2020-11-01 cs.SY eess.SY math.OC
A Sequential Homotopy Method for Mathematical Programming Problems
该研究提出一种求解抽象希尔伯特空间中Guignard约束规范下数学规划问题的序列同伦方法，等价于增广拉格朗日投影梯度/反梯度流的投影向后欧拉步进，可全局化局部收敛优化方法，经带控制约束的椭圆最优控制问题验证有效。
2024-08-14 cs.NA math.NA math.OC
Bézier Flow: a Surface-wise Gradient Descent Method for Multi-objective Optimization
RIKEN AIP（理化学研究所先进智能项目中心）；Fujitsu Limited（富士通有限公司）；Tokyo Institute of Technology（东京工业大学）；KLab Inc.（KLab株式会社）
本文提出了一种利用Bézier单纯形模型从单目标优化算法构造多目标最优化算法的策略。此外，我们扩展了概率近似正确（PAC）学习意义下的优化算法的稳定性，并定义了PAC稳定性。我们证明了它导致一个上界的推广具有很高的概率。此外，我们表明，多目标最优化算法来自基于梯度下降的单目标优化算法是PAC稳定的。数值实验表明，该方法比现有的多目标最优化算法具有更低的泛化误差。
2022-05-23 cs.LG math.OC
A Proximal-Gradient Homotopy Method for the Sparse Least-Squares Problem
我们考虑解决$\ell_1$ -正则化最小二乘（$\ell_1$ -LS）问题的背景下，稀疏恢复，如压缩感知的应用。标准的邻近梯度法，也称为迭代软阈值时，应用于这个问题，具有较低的计算成本，每次迭代，但相当慢的收敛速度。然而，当解是稀疏的时，它常常在最后阶段表现出快速的线性收敛。我们利用局部线性收敛使用同伦连续策略，即，我们针对正则化参数的递减值的序列来求解$\ell_1$ -LS问题，并且在每个阶段结束时使用近似解来热启动下一阶段。虽然类似的策略已经在文献中进行了研究，但还没有从理论上分析它们的全局迭代复杂性。本文表明，在适当的假设稀疏恢复，建议同伦策略，确保所有迭代同伦解决方案的路径是稀疏的。因此，目标函数沿着解路径是有效的强凸的，并且可以建立每个阶段的几何收敛。因此，我们的方法的总迭代复杂度是$O(\log(1/ε))$，用于找到$ε$ -最优解，这可以被解释为全局几何收敛速率。我们还提出了实证结果来支持我们的理论分析。
2012-03-14 cs.IT math.IT math.OC
BMOBench: Black-Box Multi-Objective Optimization Benchmarking Platform
本文档简要介绍黑盒多目标最优化基准测试（BMOBench）平台。它介绍了测试问题、评估程序和实验设置。为此，BMOBench的证明，比较最近的多目标求解器从文献中，即SMS-EMOA，DMS和MO-SOO。
2017-07-01 cs.NE math.OC
Double Saddle-Point Preconditioning for Krylov Methods in the Inexact Sequential Homotopy Method
本文针对序列同伦法中局部半光滑牛顿步产生的双鞍点系统，提出基于双 Schur 补的对称正定预处理器，使非精确 Krylov 求解器可用于病态非线性 PDE 约束最优控制问题，并实现大型三维问题的并行求解。
2023-11-29 cs.NA math.NA math.OC
Ordinal Optimization Through Multi-objective Reformulation
我们用序数分析组合最优化问题，即，非加性的目标函数，将类别（如好、中、差）而不是费用系数分配给可行解的元素。我们回顾了不同的有序最优化问题的最优性概念，并讨论了它们的异同。然后，我们专注于两个流行的最优性概念，被证明是等价的。我们的主要结果是一个双射线性变换，将有序优化问题转换为相关的标准多目标最优化问题与二元费用系数。由于这种转换保留了潜在问题的所有属性，因此特定于问题的解决方法仍然适用。一个突出的例子是动态规划和贝尔曼的最优性原理，可以应用于，例如，顺序最短路径和顺序背包问题。我们将我们的结果推广到结合了序数和实值目标函数的多目标最优化问题。
2022-04-05 math.CO math.OC
Optimization on Pareto sets: On a theory of multi-objective optimization
University of California, San Diego（加州大学圣迭戈分校）
研究Pareto约束优化问题，针对隐式、非凸非光滑的约束集定义最优性与稳定性概念，并提出在目标强凸且Lipschitz光滑时具有O(K^{-1/2})收敛率的算法。
2023-08-04 cs.LG math.OC
Online Stochastic Optimization with Multiple Objectives
Michigan State University（密歇根州立大学）；GE Global Research（通用电气全球研究中心）
在本文中，我们提出了一个通用的框架来描述和解决多目标随机优化问题的许多现实世界的学习应用。我们首先提出了一个基于投影的算法，达到了$O(T^{-1/3})$收敛速度。然后，利用约束优化中的拉格朗日理论，设计了一种新的原始-对偶随机近似算法，该算法在一般Lipschitz连续目标下获得了$O(T^{-1/2})$的最优收敛速度.
2013-07-14 cs.LG math.OC
Risk management in multi-objective portfolio optimization under uncertainty
Fraunhofer Institute for Industrial Mathematics（弗劳恩霍夫工业数学研究所）；University of Kaiserslautern-Landau（凯泽斯劳滕-兰道大学）
本文提出了一种基于鲁棒多目标优化的方法，通过纳入基准比较来提升投资组合在不确定性下的优化效果和适应性。
2024-07-29 math.OC q-fin.PM
Follow the bisector: a simple method for multi-objective optimization
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）；Higher School of Economics（高等经济学院）；Huawei Moscow Research Center（华为莫斯科研究中心）
提出了一种新的求解多目标最优化问题的等角方向法。我们考虑最优化问题，其中多个可微损失必须最小化。该方法在每次迭代中计算下降方向，以保证目标函数的相对减少量相等。该下降方向基于各个损失的归一化梯度。因此，它适合于解决具有多尺度损失的多目标最优化问题。我们测试所提出的方法上的不平衡分类问题和多任务学习问题，其中使用标准数据集。比较了电火花加工与其它方法的优缺点。
2020-07-14 cs.LG math.OC
Recovery-to-Efficiency: A New Robustness Concept for Multi-objective Optimization under Uncertainty
INRIA Lille-Nord Europe（法国里尔-北欧信息与自动化研究所）；Univ. Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）；Université Polytechnique Hauts-de-France（上法兰西理工大学）
针对不确定多目标最优化问题，提出了一种新的鲁棒性概念。更确切地说，在本文中，所谓的恢复到效率的鲁棒性的概念，提出和研究。在多目标最优化的背景下，以及提出了几种方法来产生恢复到效率的鲁棒集。进行了广泛的实验分析，以揭示使用不同的概念，以及推导出一些有趣的意见得到的鲁棒集之间的差异。为了测试的目的，从双目标背包问题的实例被认为是。
2020-11-20 cs.AI math.OC
Some Black-box Reductions for Objective-robust Discrete Optimization Problems Based on their LP-Relaxations
我们考虑鲁棒离散最小化问题的不确定性是由一个凸集的目标。我们展示了如何完整性间隙验证的线性规划松弛的非鲁棒版本的问题，可以用来推导出近似算法的强大版本。
2019-07-15 cs.DS math.OC
A Survey on Multi-Objective based Parameter Optimization for Deep Learning
本文综述了多目标优化策略在深度神经网络参数优化中的有效性，探讨了二者结合在多个应用预测与分析中的价值。
2023-05-17 cs.LG math.OC
A homotopy approach to coherent quantum LQG control synthesis using discounted performance criteria
本文研究了线性二次型高斯（LQG）控制问题，该控制问题是由一个被控对象与一个相干（无测量）控制器的场反馈连接而成。被控对象和控制器都是由线性量子随机微分方程控制的多模开放量子谐振子。控制目标是使闭环系统内部稳定，并最小化无限时域二次成本涉及的植物变量和控制器输出受量子物理可实现性（PR）约束。这个相干量子LQG（CQLQG）控制问题，这一直是积极的研究兴趣超过十年，不承认一个解决方案的形式分离原则和独立的Riccati方程已知的经典对应。我们应用变分技术的一个家庭的折扣CQLQG控制问题的参数化的有效时间范围。这就产生了一个同伦算法，它是初始化的PR（但不一定稳定）控制器，并在一个局部最优的稳定控制器的原始问题的限制。
2020-02-06 cs.SY eess.SY math.OC
Multi-objective beetle antennae search algorithm
在工程优化问题中，通常需要同时优化高度非线性约束下的多个目标和大量变量。寻找非线性多目标优化问题的Pareto前沿需要大量的计算工作。基于群体智能的元启发式算法已成功地应用于多目标优化问题的求解。近年来，提出了一种基于个体智能的甲虫触角搜索算法。该算法被证明是计算效率更高。因此，我们将该算法推广到求解多目标优化问题。提出的多目标甲虫天线搜索算法进行了测试，使用四个精心挑选的基准函数，并与其他多目标优化算法的性能进行了比较。结果表明，提出的多目标甲虫触角搜索算法具有较高的计算效率和令人满意的精度。
2020-08-05 cs.NE math.OC
