Unifying Nesterov's Accelerated Gradient Methods for Convex and Strongly Convex Objective Functions: From Continuous-Time Dynamics to Discrete-Time Algorithms
虽然Nesterov的加速梯度（NAG）方法已经从不同的角度进行了研究，但仍然不清楚为什么最流行的NAG形式必须分别处理凸和强凸目标函数。出于这种不一致性，我们提出了一个NAG方法，统一现有的凸和强凸的情况下。首先，我们设计了一个拉格朗日函数，连续扩展的第一布雷格曼拉格朗日的强凸设置。作为一个特定的情况下，欧拉-拉格朗日方程的拉格朗日量，我们推导出一个常微分方程（ODE）模型，我们称之为统一的NAG ODE，桥梁之间的差距ODE模型NAG凸和强凸目标函数。然后，我们设计了统一的NAG，一种新的动量方法，连续时间限制对应于统一的常微分方程。在强凸性参数$[0, +\infty)$上，统一NAG和统一ODE的系数和收敛速度是连续的。与现有的强凸目标函数的算法和常微分方程不同，对于非强凸目标函数，统一NAG和统一NAG常微分方程总是比已知的算法和常微分方程有更好的收敛性保证.当考虑具有小的$μ$的强凸目标函数时，该性质在实际观点中是有益的。此外，我们扩展我们的统一动力学和算法的高阶设置。最后，我们提出了一种新的极小化强凸目标函数梯度范数的常微分方程模型--统一NAG-G常微分方程。我们的统一拉格朗日框架是至关重要的，在这个过程中构造常微分方程。有趣的是，使用我们的新工具，称为微分核，我们观察到，统一的NAG常微分方程和统一的NAG-G常微分方程有一个反转置关系。
2023-01-09 math.OC
A dynamic gradient approach to Pareto optimization with nonsmooth convex objective functions
在一般的Hilbert框架下，研究了一类非光滑凸目标函数约束多目标优化问题的连续类梯度动力系统.我们的方法是在以前的工作中，被认为是凸dierentiable目标函数的情况下。通过对系统中的细分算子进行Yosida正则化，得到了强全局轨线的存在性.我们证明了每个目标函数的下降属性，和弱Pareto最小的轨迹收敛。该方法提供了目标函数的动态内生加权。应用合作对策，反问题，和数值多目标优化。
2014-06-06 math.OC
Convex Projection and Convex Multi-Objective Optimization
本文考虑一个称为凸投影的问题，即把一个凸集投影到一个子空间上。我们将证明，对于凸投影，可以分配一个特定的多目标凸优化问题，使得该问题的解也解决了凸投影（反之亦然），这类似于arXiv：1507.00228中考虑的多面体凸情况下的结果。然而，在实践中，人们只能计算（有界或自界）凸情况下的近似解，其在给定的误差容限下解决问题。我们将证明，对于近似解，可以证明类似的连接，但需要调整公差水平。也就是说，凸投影的近似解仅以增加的误差来解决多目标问题。类似地，多目标问题的近似解以增加的误差求解凸投影。在这两种情况下，公差都将与乘数成比例增加。这些乘数推导和尖锐。这些结果允许通过计算相应的多目标凸优化问题的近似解来计算凸投影问题的近似解，其中算法存在于有界情况下。为了完整性，我们还将研究以下结果对凸情形的潜在推广。在arXiv：1507.00228中，已经展示了多面体的情况，如何构造与任何给定的向量线性规划相关联的多面体投影以及如何将它们的解联系起来。这又产生了多面体投影、多目标线性规划和向量线性规划之间的等价性。我们将证明这个结果中只有一部分可以推广到凸情形，并讨论其局限性。
2021-10-15 math.OC
A Computational Procedure for solving a Non-Convex Multi-Objective Quadratic Programming under Fuzzy Environment
研究了一类非凸模糊多目标二次规划问题，其中工艺参数和资源参数均为模糊，隶属函数为非线性。一个计算程序，以找到一个模糊有效解这个问题的发展。最后给出了一个数值例子来说明该方法。
2013-08-01 math.OC
Some properties of sets, functions, and multi-objective optimization problems using p-convexity
Instituto de Ciencias Exactas y Naturales, Facultad de Ciencias, Universidad Arturo Prat（阿图罗·普拉特大学理学院精确科学与自然科学研究所）
本文研究了n维欧几里得空间中集合和函数的p-凸性概念，推导了新的代数和拓扑结果，并分析了在p-凸性假设下的多目标优化问题，重点探讨弱有效极小点的性质。
2026-04-10 math.OC
Calculus of convex polyhedra and polyhedral convex functions by utilizing a multiple objective linear programming solver
本文讨论定义在凸多面体或多面体凸函数上的运算。给定两个凸多面体，考虑Minkowski和、交、并的闭凸包等运算。对于一个凸多面体的基本操作是例如极坐标、圆锥壳和仿射变换下的图像。引入了凸多面体的P-表示的概念。它表明，许多多面体演算操作可以明确地表示在P-表示。我们指出，所有相关的计算工作的多面体微积分包括在计算凸多面体的投影。为了计算投影，我们使用最近的结果说，多目标线性规划（MOLP）是等价的多面体投影问题。基于MOLP求解器bensolve，开发了一个适用于Matlab和GNU Octave的多面体微积分工具箱。文中还讨论了一些数值试验。
2018-07-13 math.OC
Primal-Dual Frank-Wolfe for Constrained Stochastic Programs with Convex and Non-convex Objectives
我们研究约束随机规划的决策向量在每个时隙不能自由选择，但绑定到一个潜在的随机状态向量的实现。目标是最小化受线性约束的一般目标函数。这种程序出现的典型场景是在时变信道的网络上的机会调度，其中随机状态向量是观察到的信道状态，并且控制向量是取决于当前信道状态的传输决策。我们考虑一个原始-对偶类型的弗兰克-沃尔夫算法，具有低复杂度的更新，在每个时隙，学习作出有效的决策，而无需先验知识的随机状态向量的概率分布。我们建立了凸和非凸目标函数的情况下的收敛时间保证。我们还强调了该算法的应用，非凸机会调度和分布式非凸随机最优化在连通图。
2018-06-02 math.OC
The natural ordering cone of a polyhedral convex set-valued objective mapping
本文为多面体凸集值映射定义自然序锥，证明其能刻画相应集优化问题的解行为，并说明它是使问题可解的最小序锥。
2024-06-30 math.OC
Global Descent Method for Non-convex Multi-objective Optimization Problems
针对非凸多目标优化问题，提出无需预设标量与目标排序的全局下降法，通过辅助函数迭代寻优以生成全局Pareto前沿，实验验证了其鲁棒性、可扩展性与有效性。
2025-07-30 math.OC
Bounds and convex heuristics for bi-objective optimal experiment design in water networks
传统上，给水管网参数估计的最优试验设计是为了最大化水力模型精度或空间覆盖率。因为优化两个目标的唯一传感器配置可能不存在，所以这些方法不可避免地导致关于目标之一的次优配置。本文提出了一个新的双目标最优化问题制定这些冲突的目标之间的权衡。我们开发了一个凸启发式近似的帕累托前沿，并计算保证边界丢弃部分的标准空间不包含非支配的解决方案。我们的方法依赖于切比雪夫标量化方案和凸优化。我们实施所提出的方法，在英国的一个业务水网络的最优实验设计。对于这种情况下的研究，凸启发式计算接近最优解方案的个别目标最小化问题，和严格的边界上的真正的帕累托前沿的考虑双目标最优化问题。
2023-02-06 math.OC
A connectedness result for convex polynomial multi-objective optimization without boundedness
Ho Chi Minh City University of Technology（胡志明市理工大学）
本文证明凸多项式多目标优化问题的弱Pareto解集在无有界性和约束规范条件下仍连通，并由此得出凸二次情形解集路径连通，回答了Yen的开放问题。
2026-10-02 math.OC
On the convergence properties of a majorized ADMM for linearly constrained convex optimization problems with coupled objective functions
本文研究了目标函数为耦合函数的线性约束凸优化问题的优化交替方向乘子法（ADMM）的收敛性.我们的收敛性分析依赖于广义中值定理，由于耦合目标函数的存在，该定理在正确控制交叉项方面起着重要作用。我们的结果特别表明，直接应用2-块ADMM与一个大的步长的线性约束凸优化问题与二次耦合目标函数是收敛的温和条件。我们还提供了几个迭代算法的复杂性结果。
2015-01-31 math.OC
Complexity iteration analysis for strongly convex multi-objective optimization using a Newton path-following procedure
本文研究了强凸多目标最优化的迭代复杂性。我们讨论了这个问题的确切含义，并指出它是松散的定义，但最自然的概念是找到一组帕累托最优点跨越网格的标量化问题。我们得出，在大多数情况下，执行灵敏度为基础的路径跟踪后，获得一个解决方案是最优策略的迭代复杂度方面的这项任务。
2020-04-06 math.OC
Multi-objective convex polynomial optimization and semidefinite programming relaxations
针对一类具有凸多项式数据的多目标最优化问题，给出了有效解。为此，一个混合方法，它允许我们转换问题（MP）到一个标量凸多项式最优化问题（P $_z$），并不破坏凸性的性质，被认为是。首先，我们在一些温和的假设下证明了问题（MP）的有效解的存在性。然后，对于问题（P $_z$），建立了凸半代数集上凸多项式的两种非负性表示，并在适当的假设下，给出了问题（P $_z$）的Lasserre型半定规划松弛族的两种有限收敛性结果.最后，我们发现，找到有效解的问题（MP）可以成功地实现解决层次的半定规划松弛和检查一个平坦的截断条件。
2020-11-02 math.OC
On Some Adaptive Mirror Descent Algorithms for Convex and Strongly Convex Optimization Problems with Functional Constraints
本文研究了具有多个凸Lipschitz（一般为非光滑）函数约束的凸目标泛函极小化问题的自适应镜像下降算法。结果表明，该方法适用于各种光滑程度的目标泛函：利普希茨条件对目标泛函本身、其梯度或Hessian都成立（并且该泛函可能不满足利普希茨条件）.利用重新开始技术，提出了强凸极小化问题的新方法。所考虑的算法的收敛速度收敛速率的目标函数的平滑程度的依赖。数值实验说明了所提出的方法的优点，一些例子。
2018-12-18 math.OC
Limited Memory Kelley's Method Converges for Composite Convex and Submodular Objectives
原始单纯形法（OSM），经典的凯利的割平面法的一个变种，已被证明收敛到一个复合凸和次模目标的最小值，虽然没有收敛速率为这种方法是已知的。此外，OSM需要在每次迭代中解决子问题，其大小随迭代次数线性增长。我们提出了一个有限的内存版本的凯利的方法（L-KM）和OS OSM，需要有限的内存（最多n + 1个约束的n维问题）独立的迭代。我们证明了收敛的L-KM时的凸部分的目标（g）是强凸的，并显示它线性收敛时，g也是光滑的。我们的分析依赖于最小化的复合目标和最小化的凸函数在相应的子模基多面体之间的对偶。我们引入了一个有限的内存版本，L-FCFW，完全校正Frank-Wolfe（FCFW）方法与近似校正，解决对偶问题。我们表明，L-FCFW和L-KM是对偶算法，产生相同的迭代序列，因此都线性收敛（当g是光滑和强凸），并具有有限的内存。我们建议L-KM，以尽量减少复合凸和submodular的目标，但是，我们的结果L-FCFW一般多面体举行，可能是独立的利益。
2018-12-18 math.OC
A Stochastic Gradient Descent Method for Globally Minimizing Nearly Convex Functions
针对存在多个局部极小值的近凸非凸函数全局优化问题，提出带自适应高斯噪声的随机梯度下降法，证明其线性收敛性质并设计双循环机制，数值实验验证了算法有效性。
2025-08-04 math.OC
Prediction in Online Convex Optimization for Parametrizable Objective Functions
在线最优化问题的许多技术都涉及仅基于当前可用信息做出决策：利用潜在预测的作品较少。本文讨论可参数化目标的在线凸优化问题，即只依赖于参数在给定时刻的值的最优化问题。我们引入了一个新的规律性的基础上的参数的预测值的准确性，动态遗憾，并表明，在温和的假设下，准确的预测可以产生更严格的动态遗憾的界限。受学习如何优化的最新进展的启发，我们还提出了一种新的算法，可以同时预测和优化可参数化的目标，并使用模拟和真实数据研究其性能。
2019-02-01 math.OC
Revisiting Stochastic Gradient Descent for Strongly Convex Objectives: Tight Uniform-in-Time Bounds
本文重新审视强凸目标的随机梯度下降，推导出一致时间紧收敛界，并改进了最后迭代收敛速率。
2026-03-18 math.OC
One dimensional consensus based algorithm for non-convex optimization
我们分析了Pinnau等人提出的基于共识的最优化方法。（2017）在一个维度上。我们严格地提供了一个定量的误差估计之间的共识点和全局极小的一个给定的目标函数。我们的分析涵盖了一般的目标函数，我们不需要任何结构上的假设目标函数。
2021-09-10 math.OC
A note on approximate accelerated forward-backward methods with absolute and relative errors, and possibly strongly convex objectives
在这篇简短的笔记中，我们提供了一个简单版本的加速向前向后方法（a.k.a. Nesterov的加速邻近梯度法）可能依赖于近似邻近算子，并允许利用目标函数的强凸性。该方法支持相对误差和绝对误差，其行为说明了一组标准的数值实验。使用相同的发展，我们进一步提供了Monteiro和Svaiter（2013）的加速近端混合外梯度方法的一个版本，可能利用目标函数的强凸性。
2022-01-21 math.OC
Mirror Descent and Convex Optimization Problems With Non-Smooth Inequality Constraints
本文研究了具有凸非光滑不等式约束的简单集上的凸函数极小化问题，并描述了在光滑或非光滑目标函数、凸或强凸目标和约束、确定性或随机性信息等不同情况下求解这类问题的一阶方法。我们希望读者可以方便地在一个地方拥有不同设置的所有方法。所描述的方法基于镜像下降算法和切换次梯度方案。我们的重点之一是提出，为列出的不同设置，自适应步长和自适应停止规则的镜像下降。这意味着步长和停止规则都不需要知道目标或约束的Lipschitz常数。我们还构造镜像下降问题的目标函数，这不是Lipschitz连续的，例如，是一个二次函数。除此之外，我们还讨论了对偶问题解的恢复问题。
2018-01-29 math.OC
Analogues of Switching Subgradient Schemes for Relatively Lipschitz-Continuous Convex Programming Problems
最近，Yu选择了一些特定类别的非光滑和非Lipschitz凸优化问题。Nesterov与H.~陆我们考虑目标函数和函数约束具有相似光滑条件的凸规划问题。我们引入了一个新的概念，一个不精确的模型，并提出了一些类似的切换次梯度计划的凸规划问题的相对Lipschitz连续的目标函数和功能的限制。研究了一类在线凸优化问题。所提出的方法是最优的最优化问题类相对Lipschitz连续的目标和功能的约束。
2021-05-06 math.OC
One-parameter Filled Function Method for Non-convex Multi-objective Optimization Problems
Indian Institute of Technology Jodhpur（印度焦浦理工学院）
本文提出一种新的单参数填充函数方法，用于非线性多目标优化。该方法避免了标量化权重，不设定目标间的优先级顺序，通过下降法获取局部弱有效解，并通过填充函数进一步改进解，最终逼近全局Pareto前沿。
2026-03-31 math.OC
A Nearly Quadratic Lower Bound for Linear Optimization over Convex Bodies in the Membership Oracle Model
Georgia Tech（佐治亚理工学院）
本文证明隶属预言机模型中凸体线性优化和均匀采样的近二次下界，匹配上界并改进采样下界，且适用于体积估计。
2026-11-02 cs.DS cs.LG math.FA
Trade-off preservation in inverse multi-objective convex optimization
本文提出了一种新的多目标凸优化的逆优化方法，该方法允许输入解可能不是Pareto最优的，并确定一个权向量，该权向量产生一个Pareto最优解，该最优解近似于输入解，并保留了决策者的意图。并展示了它与最小化最优性差距的关系。我们的逆模型保持了传统的逆凸模型的复杂性。我们提出了一个线性近似的模型和一个连续的线性规划算法，权衡保存和计算效率之间的平衡，并表明我们的模型包括许多现有的模型从文献。我们使用前列腺癌放射治疗的临床数据证明了所提出的方法。
2017-06-21 math.OC
Optimizing Representation in Redistricting: Dual Bounds for Partitioning Problems with Non-Convex Objectives
Virginia Tech（弗吉尼亚理工大学）
本文提出了一种基于混合整数线性规划的方法，用于在红区划分问题中优化非凸目标函数，以提高计算效率和精度。
2026-02-24 math.OC
A convex reformulation for speed planning of a vehicle under the travel time and energy consumption objectives
针对预定义路径下兼顾能耗与行驶时间的车辆速度规划非凸问题，证明可行域为格结构，提出边界收紧技术，验证凸松弛的精确性，并基于其最优解性质开发时间复杂度$O(n^2)$的动态规划近似求解方法。
2025-10-28 math.OC
Convex Optimal Uncertainty Quantification
最优不确定性量化（OOQ）是一个框架的数值极端情况下分析的随机系统与潜在的概率分布的不完善的知识。本文给出了OOQ问题转化为有限维凸优化问题的充分条件，并给出了有效的数值解。其充分条件包括目标函数是分段凹的和约束条件是分段凸的。特别是，我们表明，分段凹目标函数可能会出现在应用程序中的目标是由参数化线性规划的最优值。
2015-04-27 math.OC
Projected Stochastic Gradients for Convex Constrained Problems in Hilbert Spaces
在希尔伯特空间中，证明了具有凸约束集的凸目标泛函的投影随机梯度算法的收敛性。在凸的情况下，迭代序列${u_n}$以概率1弱收敛到极小值集中的一个点。在强凸情形下，序列以概率1强收敛到唯一最优解。应用于一类具有凸目标、凸约束和随机椭圆型PDE约束的PDE约束问题。理论结果表明数值。
2019-09-30 math.OC
Multi-cut stochastic approximation methods for solving stochastic convex composite optimization
University of Rochester（罗切斯特大学）；Georgia Institute of Technology（佐治亚理工学院）
本文提出了一种多切随机近似方法，用于高效求解随机凸组合优化问题，实现了近最优收敛速率和优于其他方法的计算性能。
2026-10-27 math.OC
Solving DC programs with a polyhedral component utilizing a multiple objective linear programming solver
研究了一类目标函数为DC的非凸优化问题，其中DC表示为两个凸函数$g$和$h$之差$f=g-h$.特别地，我们处理的特殊情况下，两个凸函数之一的$g$或$h$是多面体。在情况下$g$是多面体，我们表明，DC程序的解决方案可以从一个相关的多面体投影问题的解决方案。在$h$是多面体的情况下，证明了DC规划的解可以通过求解多面体投影问题和多个凸规划得到。由于多面体投影等价于多目标线性规划（MOLP），因此MOLP求解器（在第二种情况下与凸规划求解器一起）可以用于求解具有多面体分量的DC规划的实例。提供了数值例子，其中一个应用程序的位置分析。
2017-03-15 math.OC
Convergence rate analysis of a sequential convex programming method with line search for a class of constrained difference-of-convex optimization problems
本文研究了文献[46]中的单调线搜索序贯凸规划方法（SCP $_{ls}$）求解一类带多个光滑不等式约束的凸差分（DC）最优化问题. SCP $_{ls}$是用于约束最优化问题的移动球近似型算法[6，10，13，54]的代表性变体。我们分析的收敛速度的SCP $_{ls}$在非凸和凸设置施加适当的Kurdyka-Lojasiewicz（KL）的假设所产生的序列。具体地，在非凸设置中，我们假设与目标和约束相关的特殊势函数是KL函数，而在凸设置中，我们直接对扩展目标函数施加KL假设（即，目标和约束集的指示器函数之和）。这两个不同的KL假设之间的关系建立在凸设置下的额外的可微性假设。我们还讨论了如何推导的KL指数的扩展目标函数从其拉格朗日在凸设置，在额外的假设下的约束函数。由于这一结果，一些约束优化模型，如最小化$\ell_1$服从逻辑/泊松损失的扩展目标被发现是KL函数的指数$\frac12$在温和的假设下。为了说明如何应用我们的结果，我们考虑SCP $_{ls}$，以最小化$\ell_{1-2}$ [60]，其残差由$\ell_2$范数/洛伦兹范数[21]测量。我们首先讨论如何在我们的分析所需的各种条件可以被验证，然后进行数值实验来说明SCP $_{ls}$的收敛行为。
2021-05-11 math.OC
Primal-dual subgradient methods for minimizing uniformly convex functions
讨论了强一致凸目标最优化问题的非欧确定性和随机算法。我们提供这些算法的性能和设计方法是自适应的目标的强或均匀凸性的参数的准确性界限：在迭代$N$的总次数是固定的情况下，其准确性一致，最多的对数在$N$因子与最佳算法的准确性。
2014-01-08 math.OC
Distributed Adaptive Gradient Optimization Algorithm
本文研究了单积分器和双积分器多智能体系统中具有一般可微凸目标函数的分布式最优化问题。介绍了两种分布式自适应优化算法，该算法利用相关信息构造交互作用项的增益。基于李雅普诺夫函数、系统解的分析和局部目标函数的凸性进行了分析。结果表明，对于单积分和双积分的多智能体系统，只要凸目标函数的梯度连续，则团队凸目标函数都能随时间的变化而最小化.数值例子显示所得到的理论结果。
2017-03-27 math.OC
Parallel subspace correction methods for semicoercive and nearly semicoercive convex optimization with applications to nonlinear PDEs
Texas State University（德克萨斯州立大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文提出并行子空间校正方法在无约束半 coercive 和近似半 coercive 凸优化问题中的收敛性分析，扩展了线性奇异和近似奇异问题的理论到非线性问题，并展示了其在非线性偏微分方程中的应用。
2025-09-29 cs.NA math.NA math.OC
A Method for Convex Black-Box Integer Global Optimization
研究了整数格的非空有限子集上的凸函数在非整数点上不可求值时的极小化问题。我们提出了一个新的低估，不需要访问（子）梯度的目标，而是使用割线线性函数插值的目标函数在以前评估的点。这些线性映射被证明低估了在域的断开部分的目标。因此，这些条件割的并集提供了目标的非凸低估器。我们提出了一种算法，更新低估和评估的目标函数之间交替。我们证明了该算法收敛到可行集上的目标函数的全局极小值。我们提出了两种方法来表示低估，并比较其计算效率。我们还比较了我们的算法实现与现有的方法最小化的整数格的一个子集上的函数。我们讨论了这个问题类的难度，并提供见解，为什么最优性的计算证明是具有挑战性的，即使是中等规模的问题。
2020-01-07 math.OC
A systematic approach to general higher-order majorization-minimization algorithms for (non)convex optimization
本文提出一般高阶majorization-minimization算法框架，解决(非)凸(非)光滑优化问题，并证明了其从全局次线性到局部超线性的收敛速率及稳定点保证。
2025-03-03 math.OC
Convergence results of a nested decentralized gradient method for non-strongly convex problems
研究了求解分布式最优化问题的NEAR-DGD $^+$（Nested Exact Alternating Recursion Distributed Gradient Descent）方法的收敛性。在局部目标函数的强凸性和梯度的Lipschitz连续性的假设下，证明了\cite{BBKW - Near DGD}算法的线性收敛性.本文研究了非强凸性条件下NEAR-DGD $^+$的收敛性。更准确地说，我们建立了以下两种情况下的收敛性结果：（1）当目标函数只假设凸性。(2)当目标函数表示为强凸函数和亏秩矩阵的复合函数时，它属于凸函数和准强凸函数类。数值结果支持收敛结果。
2022-06-27 math.OC
Optimality conditions in convex multiobjective SIP
本文的目的是刻画具有无穷多个凸目标函数和无穷多个凸约束的向量最优化问题的弱有效解、有效解和孤立有效解。为此，我们引入新的和已知的数据资格（涉及约束和/或目标的条件），以获得用Karusk-Kuhn-Tucker乘数或与给定问题相关的新间隙函数表示的最优性条件。
2016-08-10 math.OC
Minimizing Uniformly Convex Functions by Cubic Regularization of Newton Method
本文研究了求解一致凸复合极小化问题的三次正则化牛顿法的迭代复杂性。我们引入了一定程度的二阶条件数的概念，并证明了线性收敛速率的正则化参数的自适应估计的方法在非退化的情况下。该算法自动实现最佳的可能的全局复杂性界之间的不同问题类的一致凸目标函数与Hölder连续的Hessian的光滑部分的目标。作为我们的发展的副产品，我们证明了一个直观合理的结果，牛顿方法的全局迭代复杂性总是优于梯度法的类强凸函数一致有界的二阶导数。
2021-05-19 math.OC
Stochastic quasi-Newton methods for non-strongly convex problems: convergence and rate analysis
受优化和机器学习应用的启发，我们考虑随机拟牛顿（SQN）方法来解决随机最优化问题。在文献中，这些算法的收敛性分析依赖于目标函数的强凸性。据我们所知，在没有这一假设的情况下，没有对利率报表进行理论分析。出于这个差距，我们允许的目标函数仅仅是凸的，我们开发了一个循环正则化的SQN方法，其中的梯度映射和Hessian逼近矩阵都在每次迭代正则化，并以循环的方式更新。我们证明了，在适当的步长和正则化参数的假设下，目标函数值收敛到最优的目标函数的原始问题在几乎必然和预期的意义。对于每种情况，一类可行的序列，保证收敛。此外，根据目标函数值的收敛速率的推导。通过对一个二元分类问题的实验分析表明，该方法与经典的正则化SQN方法和随机逼近方法相比，具有较好的性能。
2016-03-15 math.OC
Almost Sure Convergence of Random Projected Proximal and Subgradient Algorithms for Distributed Nonsmooth Convex Optimization
描述了两种分布式算法，使所有用户连接在一个网络上，以合作解决的问题，最小化的总和，所有用户的目标函数在所有用户的约束集的交集，其中每个用户有自己的私人非光滑凸目标函数和封闭的凸约束集，这是一些简单的，封闭的凸集的交集。一种算法使每个用户能够通过使用其目标函数的邻近算子和从简单的闭凸集中随机选择的一个集合上的度量投影来调整其估计。另一种是分布式随机投影算法，该算法通过使用用户的目标函数的次梯度而不是邻近算子来确定每个用户的估计。对这两种算法收敛性的研究表明，在一定的假设条件下，这两种算法所产生的所有用户的序列几乎必然收敛到同一个解。此外，对两种算法的收敛速度进行了分析，并讨论了使两种算法具有快速收敛性的步长序列的理想选择。具体的非光滑凸优化的数值比较支持了收敛性分析，并证明了两种算法的有效性。
2015-10-24 math.OC
Fast Primal-Dual Gradient Method for Strongly Convex Minimization Problems with Linear Constraints
本文考虑了一类目标函数为强凸的最优化问题，其可行集由简单凸集与由若干线性等式和不等式约束给出的集的交给出.许多应用中的最优化问题都可以用这种形式表示，例如熵线性规划，岭回归，弹性网，正则化最优输运等。我们将快速梯度法应用于对偶问题，使其成为原始-对偶问题，从而不仅允许解决对偶问题，而且构造原问题的近最优和近可行解。我们还证明了一个定理的收敛速度为所提出的算法的目标函数和线性约束不可行。
2016-05-10 math.OC
Global convergence of the Heavy-ball method for convex optimization
本文建立了求解凸优化问题的Heavy-ball方法的整体收敛性，并给出了收敛速度的全局界。当目标函数具有Lipschitz连续梯度时，我们证明了迭代的Cesaro平均以$O(1/k)$的速度收敛到最优解，其中k是迭代次数.当目标函数也是强凸时，我们证明了Heavy-ball迭代线性收敛于唯一的最优解。
2014-12-23 math.OC
A Method for Quickly Bounding the Optimal Objective Value of an OPF Problem using a Semidefinite Relaxation and a Local Solution
最优潮流是电力系统运行中的一个重要问题。由于最优潮流问题的非凸性，可能存在多个局部最优解。证明获得整体解对于OPF问题的某些应用是重要的。许多全局优化技术计算最优性间隙，该最优性间隙将对应于来自局部解算法的可行点的可实现目标值与来自凸松弛技术的目标值界限进行比较。而不是传统的做法，完全分离的局部解和凸松弛计算，本文提出了一种方法，利用局部解的信息，使用半定规划（SDP）松弛的目标值界的计算速度。计算易处理性的改善伴随着所得客观值界的紧密性降低的权衡。数值实验说明了这种权衡，与所提出的方法是更快，但比SDP松弛和更慢，但更紧比二阶锥规划（SOCP）和二次凸（QC）松弛许多大型测试用例。
2019-06-14 math.OC
On unbounded polyhedral convex set optimization problems
本文研究无界多面体凸集优化，将有限下确界元概念推广到非有界情形，并借助向量线性规划重构给出获取方式，同时讨论完备格解概念及既有算法推广中的问题。
2023-04-24 math.OC
Stochastic halfspace approximation method for convex optimization with nonsmooth functional constraints
针对带非光滑泛函约束的凸优化问题，提出随机半空间近似方法SHAM，通过梯度步与随机约束半空间投影步迭代，并给出凸和强凸情形下的统一收敛速率及数值验证。
2024-12-03 math.OC
A Parameter-Free Zeroth-Order Algorithm for Decentralized Stochastic Convex Optimization
MIRIAI（莫斯科信息检索与分析研究所）；Appied AI Institute（应用人工智能研究所）
本文提出一种去中心化POEM算法，通过双点平滑和自适应半径与步长规则，实现无需先验知识的去中心化随机凸优化。
2026-03-16 math.OC
Parameterized Convex Minorant for Objective Function Approximation in Amortized Optimization
Seoul National University（首尔大学）
提出参数化凸下包络方法，通过凸下包络加非负间隙函数逼近目标函数，实现单次凸优化求全局最小解，并验证于非凸逼近与非线性模型预测控制。
2023-11-10 cs.LG math.OC
Nearly Optimal $L_p$ Risk Minimization
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（佐治亚理工学院 H. 米尔顿·斯图尔特工业与系统工程学）；School of Industrial Engineering, Purdue University（普渡大学工业工程学院）
探讨 \(L_p\) 风险最小化高效算法设计进展，用新颖提升重构处理凹凸组合，新随机逼近方法处理非利普希茨连续性，建立样本复杂度上界并证明其不可改进。
2026-07-09 math.OC
Convergence of iterates and improved rates for accelerated augmented Lagrangian methods for linearly constrained convex optimization
School of Science, Xihua University（西华大学理学院）；Department of Mathematics, Sichuan University（四川大学数学系）；Department of Mathematics, University of Electronic Science and Technology of China（电子科技大学数学系）
针对可微目标函数的线性约束凸优化问题，提出一类带有Nesterov外推参数的加速增广拉格朗日方法，证明原始-对偶序列收敛到解，并给出增广拉格朗日间隙、可行性违反和目标残差的加速估计，在非临界参数下将速率从O(1/k^2)改进到o(1/k^2)。
2026-05-27 math.OC
Projected-Gradient Analysis for Open-Domain Convex Optimization under Boundary Blow-Up:Application to Controllability Scoring
The University of Tokyo（东京大学）
研究紧凸集上开域凸优化问题，采用域感知阿米尔乔投影梯度法，在边界爆破条件下有相关性质保证收敛等，还将此框架用于可控性评分，分析了可行性、唯一性等，通过示例展示了对最优分配的影响。
2026-07-28 math.OC
A Polynomial-Time Inner Approximation Algorithm for Multi-Objective and Parametric Optimization
RPTU Kaiserslautern-Landau（莱茵兰-普法尔茨科技大学凯泽斯劳滕-兰道分校）；Technical University of Munich, Campus Straubing for Biotechnology and Sustainability（慕尼黑工业大学施特劳宾生物技术及可持续发展校区）
本文提出一种高效算法，用于多目标和参数优化问题的凸近似集计算，基于Csirmaz的骨架算法，能以更优性能逼近非支配集。
2026-03-03 math.OC
