Enhancing Quadratic Programming Solvers via Quadratic Nonconvex Reformulation
本文提出二次非凸重构(QNR)框架,通过非常规重构方式显著提升 Gurobi 和 SCIP 求解非凸二次规划问题的效率,并在多个基准及随机实例上使 Gurobi 达到最先进性能。
2025-08-28 math.OC
Accelerated Gradient Methods for Nonconvex Nonlinear and Stochastic Programming
在本文中,我们推广了著名的Nesterov的加速梯度(AG)方法,原来设计的凸光滑优化,解决非凸和可能的随机最优化问题。我们证明,通过适当地指定的步长政策,AG方法表现出最好的已知收敛速率解决一般非凸光滑最优化问题,通过使用一阶信息,类似于梯度下降法。然后,我们考虑一类重要的复合最优化问题,并表明AG方法可以解决他们一致,即,通过使用与凸情形中相同的积极步长策略,即使问题变成非凸的。我们证明了AG方法具有最佳的收敛速率,如果复合问题是凸的,并提高了最好的已知的收敛速率,如果问题是非凸的。在AG方法的基础上,我们还提出了新的非凸随机逼近方法,并证明了它们可以提高非凸随机最优化的一些现有的收敛速度。据我们所知,这是第一次的收敛性的AG方法已建立解决非凸非线性规划在文献中。
2013-10-14 math.OC
Global Solutions of Nonconvex Standard Quadratic Programs via Mixed Integer Linear Programming Reformulations
一个标准的二次规划是一个最优化问题,它包括在单位单纯形上最小化一个(非凸)二次型。我们专注于将一个标准的二次规划转化为一个混合整数线性规划问题。我们提出了两种替代的混合整数线性规划配方。我们的第一个配方是基于铸造一个标准的二次规划作为一个线性规划的互补约束。然后,我们采用二进制变量线性互补约束。对于第二个公式,我们首先推导出一个高估的目标函数的函数,并建立其在任何全球最小的紧密性。然后,我们使用二进制变量线性化高估函数,得到我们的第二个公式。对于这两个配方,我们提出了一组有效的不等式。我们广泛的计算结果表明,所提出的混合整数线性规划的重新制定显着优于其他全球解决方案的方法。在较大的情况下,我们通常会观察到数量级的改善。
2018-10-04 math.OC
Subdifferentials of Nonconvex Integral Functionals in Banach Spaces with Applications to Stochastic Dynamic Programming
本文研究了一般巴拿赫空间上的非凸不可微积分泛函,这些积分泛函可能不是自反的和/或可分的。考虑变分分析中的两个主要次微分,我们得到了关于次微分的Leibniz规则在积分符号下的非光滑形式,其中Lipschitz被积函数生成的次微分集值映射的积分是Gelfand意义下的.除了检查完整的测度空间的整合,也超过了那些与非原子措施,我们特别注意的是提请一个更强的版本的措施nonatomicity,称为饱和度,调用最近的结果的Lyapunov凸性定理类型的Gelfand积分的次微分映射。主要结果应用于无穷水平上离散时间随机动态规划非凸问题最优值函数的次微分研究,并导出了相应的最优性必要条件。
2016-03-25 math.OC
New bounds for nonconvex quadratically constrained quadratic programming
本文研究了非凸二次约束二次规划的一些界。我们提出了两种类型的二次约束二次规划的界,二次和三次界。对于二次边界,我们使用仿射函数作为拉格朗日乘子。我们证明了大多数半定松弛可以作为二次界的对偶得到。此外,我们研究了通过改变基集得到的界。对于三次边界,除了仿射乘子,我们采用二次函数。我们提供了一个建议的立方界和典型的标准二次规划的界限之间的比较。此外,我们报告的比较结果的二次和立方界的一些非凸二次约束二次规划。
2019-06-03 math.OC
Complete solutions to nonconvex fractional programming problems
本文对一类椭圆约束下的非凸优化问题,即极小化二次函数之和及非凸函数与二次函数之比问题,给出了一种正则对偶方法.我们首先放松分数结构引入一个家庭的参数子问题。在一定条件下,我们证明了每个子问题的典型对偶成为一个没有对偶间隙的二维凹最大化问题。由于参数化子问题的最优解的下确界导致原问题的解,然后我们推导出一些最优性条件和存在性条件,找到一个全局极小的原问题。
2012-11-20 math.OC
Second Order Cone Constrained Convex Relaxations for Nonconvex Quadratically Constrained Quadratic Programming
本文对非凸二次约束二次规划(QCQP)问题提出了新的凸松弛解。虽然最近的研究集中在加强凸松弛使用重构线性化技术(RLT),国家的最先进的方法失去了他们的有效性时,处理(多个)非凸二次约束QCQP。在这项研究中,我们分解和放松每个非凸约束两个二阶锥(SOC)约束,然后线性化的SOC约束和线性约束的产品,以构建一些有效的新的有效约束。此外,我们扩展了几乎所有不同类型的约束对(包括有效的不等式线性化的产品的SOC约束,和Hadamard产品或Kronecker产品的两个相应的有效的线性矩阵不等式)的RLT类技术的范围,检查不同的有效不等式之间的优势关系,并探索几乎所有的可能性,从生成有效的约束中获益。特别是,我们成功地证明,应用RLT类似的技术,额外的冗余线性约束可以减少松弛间隙。我们证明了我们的结果与数值实验的效率。
2017-09-16 math.OC
New reformulations for 0-1 quadratic programming problem using quadratic nonconvex reformulation techniques and valid inequalities
North China Electric Power University(华北电力大学);Zhejiang University of Technology(浙江工业大学);University of Chinese Academy of Sciences(中国科学院大学);Beijing Institute of Technology(北京理工大学)
本文提出利用二次非凸改写技术及有效不等式,改进0-1二次规划问题的求解方法,以提高求解效率。
2026-02-22 math.OC
Subdifferentials of Value Functions in Nonconvex Dynamic Programming for Nonstationary Stochastic Processes
本文的主要目的是应用变分分析和广义微分的方法研究巴拿赫空间中不带凸性假设的离散时间无限时域随机动态规划(DP)问题。不同于标准的随机DP平稳马尔可夫过程,我们在这里研究随机DP在$L^p$空间来处理非平稳随机过程,它描述了一个更灵活的学习过程的决策者。我们主要关心的是计算相应的值函数的广义次梯度,并在适当的Lipschitzian假设下推导出随机Euler包含的最优性的必要条件。使用次微分公式的积分泛函$L^p$空间允许我们,特别是,找到可验证的条件,以确保光滑的值函数没有任何凸性和/或凸性假设。
2019-09-01 math.OC
Global Complexity Bound of a Proximal ADMM for Linearly-Constrained Nonseperable Nonconvex Composite Programming
提出并分析了求解线性约束非凸最优化问题的阻尼邻近交替方向法(DP.ADMM),其中目标函数的光滑部分不可分. DP.ADMM的每次迭代包括:(i)部分邻近增广拉格朗日(AL)更新的序列,(ii)欠松弛拉格朗日乘子更新,以及(iii)检查AL函数的罚参数是否应该更新的新测试。在基本Slater条件下,对阻尼因子和欠松弛因子有一定的要求,证明了对于给定的数值公差$\varepsilon>0$,DP.ADMM在${\cal O}(\varepsilon^{-3})$迭代中获得了约束问题的一阶稳定点.本文的主要创新之一是,该方法的收敛性,而不需要任何秩的约束矩阵的假设。
2023-01-03 math.OC
Equilibrium modeling and solution approaches inspired by nonconvex bilevel programming
本文以非凸双层规划全局优化重构广义 Nash 均衡,提出最小非均衡概念及约束生成/割平面求解算法,可在混合整数参与者情形下找到纯 Nash 均衡。
2023-10-02 math.OC
PDNQP: A GPU-based Factorization-free Method for Large-scale Nonconvex Quadratic Programming
Peking University(北京大学);MIT, Sloan School of Management(麻省理工学院斯隆管理学院)
提出无分解一阶求解器PDNQP,结合近端增广拉格朗日与重启加速原始-对偶混合梯度,在GPU上高效求解大规模非凸二次规划,在CUTEst和百万变量合成问题上表现优越。
2026-09-18 math.OC
A deterministic optimization algorithm for nonconvex and combinatorial bi-objective programming
University College London(伦敦大学学院);Imperial College London(帝国理工学院)
本文提出SDNBI算法,通过有效探索非凸Pareto前沿区域并早期识别无解区域,在计算成本和Pareto最优集质量上优于改进NBI和SD算法,适用于非凸和组合双目标优化问题。
2026-09-30 math.OC
A Slightly Lifted Convex Relaxation for Nonconvex Quadratic Programming with Ball Constraints
本文针对多个球约束下的非凸二次规划,提出一种基于将问题提升到 n+1 维的多项式规模半定松弛,避免析取方法,证明其在两个球时精确,并推广到椭球交集情形,实验显示其快速且强于现有松弛。
2023-10-28 math.OC
A Geometrical Analysis of a Class of Nonconvex Conic Programs for Convex Conic Reformulations of Quadratic and Polynomial Optimization Problems
本文对二次最优化问题的完全正规划转化问题进行了几何分析,并将其推广到多项式最优化问题,给出了一类几何定义的非凸锥规划及其凸化.在线性空间$V$中用线性目标函数描述了一类非凸锥规划,约束集用非凸锥$K \subset V$、$K$的凸包的面$J$和非凸锥$K$的支撑超平面的平行移动$L$的交集来表示.我们表明,在适度的假设下,原来的非凸锥规划可以等价地转化为一个凸锥规划,通过替换的交集的$J$和超平面$L$的约束集。应用置换过程导出了二次最优化问题的完全正规划变换式,并将其推广到多项式最优化问题.
2019-01-08 math.OC
Homotopy Continuation Enhanced Branch and Bound Algorithms for Strongly Nonconvex Mixed-Integer Nonlinear Programming Problems
The University of Manchester(曼彻斯特大学)
本文提出两种增强的分支定界算法,利用同伦延续方法高效求解强非凸混合整数非线性规划问题,实验表明其在求解精度和效率上优于现有方法。
2022-01-04 math.OC
A Spatial Branch-and-Cut Method for Nonconvex QCQP with Bounded Complex Variables
针对有界复变数的非凸二次约束二次规划问题,提出了一种空间分支切割算法。在搜索树的每一个节点上增加线性有效不等式,以加强CQCQP的半定规划松弛。这些有效的不等式来自于非凸集的凸包描述的$2 \times 2$半正定埃尔米特矩阵的秩1约束。我们提出了分支规则的基础上的替代排名一约束,允许本地测量的约束违反。封闭形式的约束收紧程序被用来减少域的问题。将该算法应用于求解复变数的交流最优潮流问题和求解实变量的箱约束二次规划问题。
2017-05-25 math.OC
Local convergence of a sequential quadratic programming method for a class of nonsmooth nonconvex objectives
本文针对上C^2非光滑非凸目标设计带精确罚函数和松弛策略的SQP算法,证明其全局收敛性,并利用KL性质分析局部收敛上界,最后在电网优化问题上验证。
2023-10-30 math.OC
A Mixed-Binary Convex Quadratic Reformulation for Box-Constrained Nonconvex Quadratic Integer Program
本文针对箱约束非凸二次整数规划问题,提出了一种混合二元凸二次规划模型,并实现了IBMCPLEX12.6对该模型的求解.计算结果表明,我们的方法明显优于最近的最先进的求解器。
2014-01-23 math.OC
Minimax Theorems for Possibly Nonconvex Functions
该研究针对欧氏空间或无限维Hilbert空间上的可能非凸函数,建立三个保证鞍点存在的极小极大定理,完整解决了一个与连续可微函数相关的公开问题,并通过实例验证了结果。
2025-10-30 math.OC
A one-phase interior point method for nonconvex optimization
Wachter和Biegler的工作表明,为线性规划开发的不可行启动内点方法(IPM)在没有显著修改的情况下不能适用于非线性最优化,即,使用两阶段或惩罚方法。我们提出了一个IPM,通过仔细的初始化和更新的松弛变量,保证找到一个一阶证书的局部不可行性,局部最优性或无界的(移位)可行域。我们提出的算法不同于其他IPM方法的非凸规划,因为我们减少原始可行性在同一速率的障碍参数。这给出了具有更鲁棒收敛特性的算法,并且非常类似于来自线性规划的成功算法。我们实现了该算法,并与IPOPT的CUTEst问题的一个子集。我们的算法需要类似的中位数迭代次数,但只有9%的问题失败,而IPOPT为16%。不可行的变种的CUTEst问题的实验表明检测不可行性的优越性能。我们实现的代码可以在https://github.com/ohinder/OnePhase上找到。
2018-01-11 math.OC
A Novel Approach in Solving Stochastic Generalized Linear Regression via Nonconvex Programming
本文提出一种基于非凸规划、聚类和分位数估计的随机广义线性回归求解方法,在F1、精确率和召回率上比普通逻辑回归提升1至2个百分点。
2024-01-16 math.OC stat.ML
Exact Mixed-integer Convex Programming Formulation for Optimal Water Network Design
本文研究了一类具有非凸潜在损失函数和离散可变费用电阻选择的正则水网络设计问题。传统上,为了解决这个问题的非凸性,放松潜在的损失约束已被应用到产生一个更易处理的混合整数凸规划(MICP)。然而,这些放松的问题的设计解决方案可能是不可行的完全非凸物理。在本文中,它表明,事实上,原来的混合整数非凸规划可以重新制定正是作为一个MICP。从以前用于证明非线性网络设计可行性的凸规划开始,强对偶性被调用来构造一个新的,嵌入所有物理约束的凸原对偶系统。这个凸系统,然后增加,形成一个确切的MICP制定的原始设计问题。使用这种新的MICP作为基础,开发了一种全局优化算法,利用几何学,外部近似,和可行性切割平面不可行的设计。最后,该算法进行了比较,对以前的松弛为基础的最先进的水网络设计的一些标准的基准实例从文献。
2020-10-07 math.OC
Filtering-Linearization: A First-Order Method for Nonconvex Trajectory Optimization with Filter-Based Warm-Starting
提出一种基于filter热启动的非凸轨迹优化一阶方法,通过粒子滤波生成轨迹、层次聚类识别局部最优解,并热启动prox-linear方法,在多智能体避碰问题中显著降低目标函数值。
2024-09-26 math.OC
Stochastic First- and Zeroth-order Methods for Nonconvex Stochastic Programming
针对一类重要的非线性(可能非凸)随机规划(SP)问题,提出了一种新的随机逼近(SA)型算法,即随机化随机梯度(RSG)算法.我们建立了计算一个非线性规划问题的近似稳定点的方法的复杂性。我们还表明,这种方法具有接近最佳的收敛速率,如果问题是凸的。我们讨论了一个变体的算法,其中包括应用后优化阶段,以评估由几个独立运行的RSG方法产生的解决方案的短列表,并表明,这样的修改允许显着提高算法的大偏差属性。这些方法,然后专门解决一类基于模拟的最优化问题,其中只有随机零阶信息。
2013-09-22 cs.CC math.OC stat.ML
A Convexification-based Outer-Approximation Method for Convex and Nonconvex MINLP
针对凸与非凸MINLP问题,提出集成凸化与领域缩减技术的改进外逼近及分支定界方法,并集成至Pyomo-MindtPy,基准测试验证了其有效性与性能提升。
2024-07-30 math.OC
An Optimization Framework with Flexible Inexact Inner Iterations for Nonconvex and Nonsmooth Programming
Dalian University of Technology(大连理工大学)
近年来,许多视觉和学习任务已经(重新)制定为非凸和非光滑规划(NNPs)。虽然已经提出了一些算法,为特定的问题,设计快速和灵活的优化方案的理论保证是一个具有挑战性的任务一般NNPs。非精确内迭代算法的收敛性问题还不清楚,但它在某些特殊情况下是有用的。基于这些实践经验,本文设计了一种新的算法框架,命名为不精确邻近交替方向法(iPad)求解一般NNPs。我们证明,任何数值算法可以被纳入iPad解决子问题和由此产生的混合计划的收敛性可以始终保证由一系列简单的错误条件。除了理论上的保证之外,对合成数据和真实数据的数值实验进一步证明了我们的iPad框架在实际应用中的优越性和灵活性。
2017-06-30 cs.CV math.OC
A Nonlinear Bregman Primal-Dual Framework for Optimizing Nonconvex Infimal Convolutions
本文研究非凸、非光滑复合最优化问题的优化问题,其目标是一个非线性映射和一个非光滑非凸函数的复合,可以写成一个下卷积(inf-conv)。为了解决这个问题类,我们建议重新制定的问题,利用其inf-conv结构,并推导出一个块坐标下降方案的Bregman增广拉格朗日,可以异步实施。我们证明了我们的计划收敛到固定点的原始模型的特定选择的罚参数。我们的框架包括各种现有的算法作为特殊情况下,如DC-规划,$k$ -均值聚类和ADMM与非线性算子,当一个特定的目标函数和下卷积分解(下反卷积)被选中。在说明性的实验中,我们提供的证据,我们的算法表现良好的低目标值和鲁棒性对初始化,相比DC编程或$k$ -手段算法。
2018-03-27 math.OC
A proximal splitting algorithm for generalized DC programming with applications in signal recovery
本文针对一类广义差凸规划提出了一种近端分裂算法,利用近端求值和Douglas--Rachford分裂处理目标函数的不同部分,并在Kurdyka--Łojasiewicz性质下证明了全局收敛性及收敛速率,在信号恢复问题上表现出竞争力。
2025-05-28 math.OC
On the Practical Implementation of a Sequential Quadratic Programming Algorithm for Nonconvex Sum-of-squares Problems
Institute for Flight Mechanics and Controls, University of Stuttgart(斯图加特大学飞行力学与控制研究所)
本文提出一种滤波线搜索算法,通过求解一系列二次子问题,有效减少非凸求和平方问题的迭代次数,提升计算效率。
2026-04-13 cs.SY eess.SY math.OC
Finding global solutions for a class of possibly nonconvex QCQP problems through the S-lemma
本文给出了一类新的可能非凸二次约束二次规划(QCQP)问题(记作S-QCQP)的全局最优性的充分必要条件.该类由QCQP问题组成,其中二次分量的矩阵由标量乘以单位矩阵形成。我们的结果依赖于一个广义版本的S-引理,在一般的QCQP问题的上下文中。此外,我们证明了S-QCQP的SDP和SOCP松弛的正确性。
2022-06-01 math.OC
An Optimization algorithm for nonsmooth nonconvex problems with upper-C^2 objective
提出并分析了一种求解非光滑非凸约束最优化问题的上C2目标函数优化算法。上C2是存在于凸(DC)函数的差中的弱凹性质,并且在许多应用中自然出现,特别是参数最优化问题的某些类别的解[34,4],例如,随机规划的追索[36]和投影到闭集[34]。该算法可以看作是一个专门用于上C2问题的束方法,是全局收敛的有界算法参数。与传统的束方法相比,所提出的方法是简单和计算效率更高。该算法处理一般光滑的约束类似于顺序二次规划(SQP)的方法,并使用线搜索,以确保进展。潜在的不一致的线性化的约束,通过惩罚的方法来解决。该算法的能力证明了解决简单的上C2问题和现实世界中的最优潮流问题在当前电网行业的做法。
2022-04-20 math.OC
Online Stochastic DCA with applications to Principal Component Analysis
随机算法以其在大数据时代的表现而闻名。在凸优化中,随机算法得到了广泛和深入的研究。然而,目前对非光滑、非凸优化问题的随机算法的研究相对有限。本文提出了基于DC(凸函数差)规划和DCA(DC算法)的新随机算法--非凸、非光滑最优化的支柱。由于大多数现实世界中的非凸规划属于DC规划的框架,我们提出的方法可以在各种情况下,在这些情况下,他们同时面临随机性和非凸性。利用现代凸分析和鞅理论对算法的收敛性进行了深入研究。最后,我们研究了机器学习中的一个重要问题:主成分分析中的期望值问题的算法的几个方面。
2021-08-04 math.OC
A Sequential Convex Programming Approach to Solving Quadratic Programs and Optimal Control Problems with Linear Complementarity Constraints
具有互补约束的数学规划由于其非凸性和在每个可行点缺乏约束规格而难以求解。本文主要研究线性互补约束下的二次规划问题。利用序列凸规划和罚参数上的同伦,提出了一种求解罚函数重构的新方法。线性化必然非凸的罚函数产生凸二次子问题,其在所有迭代中具有恒定的黑塞矩阵。这允许使用单个KKT矩阵分解进行解计算。此外,全球化计划中引入的潜在的价值函数被最小化解析,并保证下降提供在每个节点。数值实验表明,该算法的特点和可能的计算加速。
2021-05-31 math.OC
How to Convexify the Intersection of a Second Order Cone and a Nonconvex Quadratic
最近的一系列论文研究了将析取编程技术扩展到混合整数二阶锥规划。例如,几位作者使用不同的技术证明了椭圆$E$和分裂析取$(l - x_j)(x_j - u) \le 0$与$l < u$的交集的凸包等于$E$与一个附加的二阶锥可表示(SOCr)集的交集。本文研究了$K \cap Q$与$K \cap Q \cap H$的更一般的交,其中$K$是SOCr锥,$Q$是由一个齐次二次曲面定义的非凸锥,$H$是仿射超平面.在几个易于验证的条件下,我们推导出简单的,可计算的凸松弛$K \cap S$和$K \cap S \cap H$,其中$S$是一个SOCr锥。在进一步的条件下,我们证明了这两个集捕获精确对应的圆锥/凸包。我们的方法统一和扩展了以前的结果,我们用许多例子说明它的适用性和普遍性。
2016-05-24 math.OC
Generalized Uniformly Optimal Methods for Nonlinear Programming
在本文中,我们提出了一个通用的框架来扩展现有的一致最优凸规划算法,以解决更一般的非线性,可能非凸,最优化问题。其基本思想是在这些一致最优凸规划方法中加入一个局部搜索步骤(梯度下降或拟牛顿迭代),然后使计算的函数值沿轨迹单调递减.这些类型的算法将实现最佳已知的复杂性为非凸问题,和凸的最佳复杂性,而不需要任何问题参数。这样,对于一般的非线性规划问题,无论其凸性和光滑性如何,我们都可以得到统一的处理。特别是,我们表明,加速梯度和水平的方法,原来只为解决凸优化问题,可以用来解决凸和非凸问题的一致。在类似的静脉,我们表明,一些良好的研究技术非线性规划,例如,拟牛顿迭代可以嵌入到最优凸优化算法中,以进一步提高其数值性能。我们的理论和算法的发展得到了补充,一些有前途的数值结果解决了一些重要的非凸和非线性数据分析问题的文献。
2015-09-12 math.OC stat.ML
A Tensor Analogy of Yuan's Theorem of the Alternative and Polynomial Optimization with Sign structure
袁择一定理是最优化理论中的一个重要理论工具,它为包含两个齐次二次函数的严格不等式组的不可行性提供了可检验的证明。本文给出了袁氏关于对称张量设置的择一性定理的一个推广。作为应用,我们证明了一类具有适当符号结构(或更明确地说,具有本质非正系数)的非凸多项式最优化问题的最优值可以由一个相关的凸锥规划问题计算,并且这些非凸多项式最优化问题的最优解可以由凸锥规划问题的相应解恢复.此外,我们得到了这类非凸多项式最优化问题具有精确的平方和松弛,因此,可以通过一个半定规划问题来解决。
2014-09-01 math.OC
Comment on "Approximation algorithms for quadratic programming"
由于Fu等人(J.Comb.Optim.,2,29-50,1998)从$m$校正为$\sqrt{m^2+m}$。相应地修正了一般凸二次约束非凸二次规划的逼近界。
2021-10-20 math.OC
A difference of convex functions approach for sparse pde optimal control problems with nonconvex costs
我们提出了一个局部正则化的椭圆最优控制问题,其中涉及非凸$L^q$分数惩罚的费用函数。建议的\emph{Huber type}正则化允许我们制定的PDE约束优化制定为DC规划问题(凸函数的差异),这是有用的,以获得必要的最优性条件,并通过应用在非凸最优化问题中使用的众所周知的DC算法来解决其数值解。通过这个过程,我们近似的参数化问题,有有效的数值方法可用的一致的家庭的原始问题。最后,我们提出了数值实验来说明我们的理论与不同的配置相关联的参数的问题。
2019-04-20 math.OC
Absolute value linear programming
本文研究含绝对值的线性规划,分析其解集拓扑几何性质、凸性连通性等条件,证明可行集为非凸多面体且可刻画任意非凸多面体,并给出二次规划重构的KKT点求解原问题的充要条件。
2023-07-07 cs.NA math.NA math.OC
A Steepest Gradient Method with Nonmonotone Adaptive Step-sizes for the Nonconvex Minimax and Multi-Objective Optimization Problems
本文提出一种采用非单调自适应步长的新的最速梯度下降法,用于求解非凸极小极大问题,并将其扩展到多目标优化,证明了在拟凸和伪凸条件下的收敛性,数值实验验证了理论结果。
2025-02-04 math.OC
Branch-and-Bound Performance Estimation Programming: A Unified Methodology for Constructing Optimal Optimization Methods
提出 BnB-PEP 统一框架,将最优一阶方法设计转化为可全局求解的非凸 QCQP,并以定制分支定界显著加速,获得更优方法界限与解析收敛证明。
2023-06-08 math.OC
Extended Triangle Inequalities for Nonconvex Box-Constrained Quadratic Programming
针对非凸盒约束二次规划对应的$\rm{QPB}_n$凸包刻画难题,本文基于$\rm{QPB}_3$的析取刻画提出新的有效线性不等式及二阶锥强化形式,实验证明其可求解部分原有约束无法精确求解的非凸算例。
2025-01-15 math.OC
Coderivative-Based Semi-Newton Method in Nonsmooth Difference Programming
研究了一类新的非光滑最优化问题,其中目标函数表示为两个一般非凸函数之差。我们提出并发展了一种新的牛顿型算法来解决这类问题,它是基于二阶次微分(广义Hessian)的协导数生成,并采用先进的变分分析工具。所提出的算法的适定性性质推导出相当一般的要求下,而建设性的收敛速度,建立通过使用额外的假设,包括Kurdyka--Kazojasiewicz条件。我们提供的应用程序的主要算法来解决一般类的非光滑非凸问题的结构优化,特别是包括,最优化问题与明确的约束。最后给出了该方法在生化模型、约束二次规划等实际问题中的应用和数值实验。与一些已知的技术和结果相比,我们的算法的优点被证明。
2023-01-09 math.OC
A version of bundle method with linear programming
束方法已经被广泛研究用于求解凸和非凸最优化问题。在迄今为止开发的大多数束方法中,在每次迭代中至少需要求解一个二次规划(QP)子问题。在本文中,我们利用的可行性,开发一个聚束法,只解决线性子问题。我们从最小化的凸函数,并表明,序列的主要迭代收敛到一个极小。对于非凸函数,我们考虑在有界水平集上局部Lipschitz连续且正则的函数,并在具有无穷范数的置信域上极小化割平面模型。这些函数的仿凸性允许我们使用局部凸化模型及其凸性性质。在一定的条件和假设下,我们通过邻近映射的外连续性研究了算法的收敛性。令人鼓舞的初步数值实验的标准测试集的结果。
2015-07-07 math.OC
Monotone Splitting SQP Algorithms for Two-block Nonconvex Optimization Problems with General Linear Constraints and Applications
基于交替方向法法(ADMM)和序列二次规划(SQP)的思想,利用Armijo线搜索技术,讨论了带线性等式、不等式和框约束的两块非凸最优化问题的单调分裂SQP算法.首先,通过引入松弛变量,将所讨论的问题转化为一个只有线性等式和箱形约束的最优化问题。其次,利用ADMM的思想对二次规划(QP)子问题进行分解。特别地,引入松弛变量所对应的QP子问题简单,且在不增加计算量的情况下具有显式的最优解。第三,由子问题的最优解产生搜索方向,并利用增广拉格朗日函数进行Armijo线搜索,产生新的迭代点。并在较弱的假设条件下分析了算法的整体收敛性。此外,将盒约束推广到一般的非空闭凸集,并证明了相应算法的整体收敛性。最后给出了该算法在中大规模电力系统经济调度问题中的初步数值实验和应用结果,表明该算法具有良好的应用前景。
2023-01-30 math.OC
Two-step inertial Bregman proximal alternating linearized minimization algorithm for nonconvex and nonsmooth problems
针对非凸非光滑不可分优化问题,本文结合两步惯性外推与Bregman距离,基于PALM提出新型迭代算法,证明序列收敛性并通过信号恢复等问题验证有效性。
2023-06-13 math.OC
Acceleration and global convergence of a first-order primal--dual method for nonconvex problems
原始-对偶混合梯度法(PDHGM,也称为Chambolle-Pock方法)已被证明对于涉及图像处理和逆问题中出现的线性算子的凸优化问题非常成功。在本文中,我们分析了扩展到非凸问题,如果运营商是非线性的。基于检验的思想,我们在无限维希尔伯特空间中得到了新的步长参数收敛条件,并给出了适当(局部和/或部分)单调问题的加速规则.重要的是,我们证明了线性收敛速率以及在某些情况下的整体收敛。我们证明了这些步长规则的有效性PDE约束的最优化问题。
2018-08-08 math.OC
Compact Disjunctive Approximations to Nonconvex Quadratically Constrained Programs
混合整数线性规划(MILP)和混合整数二阶锥规划(MISOCP)几十年来的发展已经非常温和地转化为全局求解非凸混合整数二次约束规划(MIQCP)的进展。在本文中,我们提出了一种新的方法,即紧凑析取近似(CDA),近似非凸MIQCP到任意精度的\textit{convex} MIQCP,它可以解决的MISOCP求解器。对于非凸MIQCP与$n$变量和$m$一般二次约束,我们的方法产生松弛与最多$O(n\log(1/\varepsilon))$数量的连续/二进制变量和线性约束,连同$m$ \textit{convex}二次约束,其中$\varepsilon$是近似精度。我们的方法的主要新颖之处在于一个非常紧凑的解除混合整数制定近似(标量)平方函数。这是通过首先将平方函数嵌入到三维二阶锥的边界中,然后以与Bental-Nemirovski近似的构造类似的方式利用旋转对称性而导出的。我们进一步表明,这解除制定的特点工会有限数量的简单凸集,自然放松的平方函数在一个分段的方式与适当放置的结。我们实现(与JuMP)一个简单的自适应细化算法。在文献中使用的合成实例的数值实验表明,我们的原型实现(数百行Julia代码)已经可以关闭各种国家的最先进的全局求解器在更困难的情况下留下的差距的显着部分,表明我们提出的方法的强大的承诺。
2018-11-20 math.OC
An Iterative Method for Nonconvex Quadratically Constrained Quadratic Programs
研究了非凸二次约束二次规划(QCQP)问题的迭代法.现有的求解非凸QCQP问题的方法之一是将对未知矩阵的秩1约束松弛为半定约束,从而得到最优值的上界,但没有找到精确解。通过重新考虑秩一矩阵,提出了一种逐步逼近秩一约束的迭代秩最小化方法。每一次迭代都被表示为一个带半定约束的凸问题。为了提高算法的可扩展性和计算效率,提出了一种增广拉格朗日方法--扩展Uzawa算法。仿真实例使用所提出的方法和比较结果从其他方法提供和讨论。
2016-09-08 math.OC
Polyhedral Properties of RLT Relaxations of Nonconvex Quadratic Programs and Their Implications on Exact Relaxations
我们研究由重构线性化技术(RLT)给出的非凸二次规划的线性规划松弛,简称为RLT松弛。研究了二次规划可行域的多面体性质与RLT松弛之间的关系。我们建立了两个可行域的后退方向、有界性和顶点之间的各种联系。利用这些性质,我们给出了RLT弛豫的充分必要的精确性条件。然后,我们给出了一个彻底的讨论,我们的结果可以转换成简单的算法程序,以构建实例的二次规划与精确的,不精确的,或无界的RLT松弛。
2023-03-27 math.OC
Learning to Select Between LP and SDP Relaxations for Nonconvex Quadratically Constrained Quadratic Programs
Sabancı University(萨巴奇大学);University of Edinburgh(爱丁堡大学)
本文提出一种基于机器学习的放松选择方法,根据实例结构自动决定使用线性规划还是半定规划更有效,通过谱特性与稀疏模式特征进行预测。
2026-11-03 math.OC
Solving Nonsmooth Nonconvex Compound Stochastic Programs with Applications to Risk Measure Minimization
本文研究了一类由非凸非光滑函数耦合的多期望结构复合随机规划问题。本文提出了一个基于连续凸规划的采样算法,并证明了它的逐次收敛性。我们描述了几类复合SP的极限点的平稳性。我们进一步讨论了基于算法可计算误差界的概率停止规则。我们提出了几个风险度量最小化问题,可以制定为这样一个复合随机规划,这些问题包括广义偏差最优化问题的基础上优化的确定性等价和缓冲概率的不确定性(bPOE),分布鲁棒bPOE最优化问题,和多类分类问题采用成本敏感的错误准则与bPOE风险度量。
2021-05-23 math.OC
A Unified Bregman Alternating Minimization Algorithm for Generalized DC Programming with Application to Imaging Data
针对广义DC规划的非凸与不可分性,提出统一Bregman交替最小化算法(UBAMA),通过交替更新块变量、Fenchel-Young不等式近似和Bregman近端正则化简化子问题,并证明了其全局收敛性与局部收敛速率。
2023-08-04 math.OC