An ${\cal O}(nL)$ Infeasible-Interior-Point Algorithm for Linear Programming
本文提出了一种弧搜索不可行内点算法。我们证明了该算法是多项式的,多项式界是${\cal O}(nL)$,它至少与线性规划的不可行内点算法的最佳界一样好。
2015-06-29 math.OC
Nonlinear Programming Solvers for Unconstrained and Constrained Optimization Problems: a Benchmark Analysis
本文提出选择非线性规划求解器的指南,比较23种算法在60个基准问题上的收敛性能,并探讨调整内部设置对速度和准确性的提升。
2022-04-11 math.OC
Constraint Programming to Discover One-Flip Local Optima of Quadratic Unconstrained Binary Optimization Problems
Missouri Western State University(密苏里西部州立大学)
二次无约束二进制优化(QUBO)的广泛适用性构成了组合优化问题的通用建模框架,并且是门阵列和量子退火计算机所需的格式。QUBO退火机以及其他解决方案方法受益于从具有局部最优性的一组不同的解决方案开始的额外好处。本文提出了一种利用约束规划生成一组单翻转局部最优解的新方法。此外,如实验测试中所示,对解集的分析允许生成软约束以帮助指导优化过程。
2021-04-04 cs.AI cs.DM math.OC
Stable interior-point method for convex quadratic programming with strict error bounds
提出了求解一类二次目标函数为非线性规划问题的一种短步长内点法。凸二次规划问题可以转化为这类问题。该方法具有弱多项式时间复杂度。给出了该方法数值稳定性的完整证明。没有要求的可行性,行秩的约束雅可比矩阵,严格互补性,或条件的问题。不可行的问题被解决到一个最优的内部最小二乘解。
2018-05-10 math.OC
A Faster Interior Point Method for Semidefinite Programming
半定规划(SDP)是一类基本的优化问题,最近在近似算法、量子复杂性、鲁棒学习、算法舍入和对抗性深度学习中有重要应用。本文提出了一种快速的内点算法来求解具有可变长度$n \times n$和$m$约束的时间上为\begin{align*} \widetilde{O}(\sqrt{n}( mn^2 + m^ω+ n^ω) \log(1 / ε) ), \end{align*}的一般SDPs,其中$ω$是矩阵乘法的指数,$ε$是相对精度.在$m \geq n$的主要情况下,我们的运行时间优于之前最快的SDP求解器,后者基于Jiang、Lee、Song和Wong的切割平面方法[JLSW 20]。我们的算法的运行时间可以自然地解释如下:$\widetilde{O}(\sqrt{n} \log (1/ε))$是我们的内点方法所需的迭代次数,$mn^2$是输入大小,$m^ω+ n^ω$是每次迭代中反转Hessian和松弛矩阵的时间。这些构成了进一步提高内点方法求解通用SDP的运行时间的天然障碍。
2020-09-21 cs.DS math.OC
A Vectorized Positive Semidefinite Penalty Method for Unconstrained Binary Quadratic Programming
Nankai University(南开大学)
针对无约束二元二次规划问题,本文提出向量化正半定惩罚方法,通过向量化矩阵变量、改进惩罚更新与初始化、结合邻近点算法与投影交替BB法求解子问题,经实验验证其在解质量和求解时间上均优于半定松弛等已有方法。
2024-08-09 math.OC
On Linear Programming for Constrained and Unconstrained Average-Cost Markov Decision Processes with Countable Action Spaces and Strictly Unbounded Costs
University of Alberta(阿尔伯塔大学)
针对具有Borel状态空间和可数行动空间的平均成本MDP,在严格无界成本条件和新的随机核优控条件下,研究无限维线性规划,证明无对偶间隙等最优性结果。
2021-04-18 math.OC
The bipartite unconstrained 0-1 quadratic programming problem: polynomially solvable cases
本文研究了二部无约束0-1二次规划问题(BQP 01),它是已有研究的无约束0-1二次规划问题(QP 01)的推广. BQP 01有许多应用,并且已知问题是MAX SNP困难的。我们表明,如果一个相关的$m\times n$成本矩阵$Q=(q_{ij})$的秩是固定的,那么BQP 01可以在多项式时间内解决。当$Q$为秩1时,我们提供了一个$O(n\log n)$算法,并且在附加假设的情况下,该算法的复杂度降低到$O(n)$。此外,如果对于某些$a_i$和$b_j$的$q_{ij}=a_i+b_j$,则BQP 01被证明在$O(mn\log n)$时间内可解。通过限制$m=O(\log n),$,我们获得了BQP 01的另一个多项式可解的情况,但是如果对于固定的$k$,$m=O(\sqrt[k]{n})$,则问题仍然是MAX SNP困难的。最后,如果从$Q$中删除的最小行数和列数是$O(\log n)$,那么我们证明了BQP 01多项式可解,但如果对于任何固定的$k$,这个数是$O(\sqrt[k]{n})$,则它是NP难的。关键词:二次规划,0-1变量,多项式算法,复杂性,伪布尔规划。
2014-04-28 cs.DM math.CO math.OC
Log-domain interior-point methods for convex quadratic programming
将内点方法应用于中心路径条件是求解二次规划的一种广泛使用的方法。在对数域中重新制定这些条件是这种方法的自然变化,据我们所知,以前没有研究过。本文分析了对数域内点方法,证明了它们的多项式时间收敛性。我们还证明了它们是近似的经典障碍方法在一个精确的意义上,并提供简单的计算实验说明其优越的性能。
2022-12-05 math.OC
On the numerical solution of Lasserre relaxations of unconstrained binary quadratic optimization problem
本文针对无约束二元二次优化问题的高阶 Lasserre 松弛,提出利用低秩结构的预条件共轭梯度内点法及 ℓ1 惩罚处理等式约束,并通过数值实验验证其效率,还提出混合 ADMM-内点方法并发现二阶松弛常足以获得全局最优解。
2024-12-27 math.OC
Primal-dual interior-point Methods for Semidefinite Programming from an algebraic point of view, or: Using Noncommutativity for Optimization
三十多年来,内点方法被证明对优化非常有用,从半定线性规划到圆锥规划(部分超越非凸);尽管事实上已经在半定情况下(即使强对偶成立)“困难”问题是已知的。我们阴影的光在非交换世界(半定规划),即“交换”路径,而令人惊讶的限制,并提出了一个新的家庭的求解器,能够使用充分丰富的“非交换”搜索方向:(原始)可行的内点方法。除了详细的基本讨论,我们说明了一些变种的“非交换”路径,并提供了一个简单的实现进一步(具体问题)的调查。
2020-02-24 math.OC
Distributed Interior-point Method for Loosely Coupled Problems
本文提出了求解松耦合无约束和约束最优化问题的分布式算法。这些问题通常使用基于分解和一阶方法的组合的算法来解决。这些算法通常非常慢,需要多次迭代才能收敛。为了缓解这个问题,我们提出了算法,结合牛顿和内点的方法与邻近分裂方法来解决这些问题。特别地,用于求解无约束松耦合问题的算法基于牛顿法并且利用邻近分裂来分配用于在每次迭代中计算牛顿步长的计算。将该算法与内点法相结合,提出了求解约束松耦合问题的分布式算法。我们还提供了如何有效地实现所提出的方法的指导方针,并简要讨论了所得到的解决方案的属性。
2013-12-19 math.OC
Convergence Analysis of an Inexact Feasible Interior Point Method for Convex Quadratic Programming
本文讨论凸二次规划的不精确可行内点算法的两种变型。我们将考虑两个不同的邻域:一个(小)诱导使用欧几里德范数产生一个短的步骤算法和一个对称的诱导使用无穷范数产生一个(实用)长的步骤算法。这两种算法都允许不精确地求解牛顿方程组。对于这两种算法,我们将提供牛顿方程中可接受的误差水平的条件,并建立最坏情况下的复杂性结果。
2012-08-29 math.OC
Unconstrained inverse quadratic programming problem
Saint Petersburg State University(圣彼得堡国立大学)
本文研究了在无约束优化框架下,通过近似最优解和目标函数值的邻域对来求解未知参数的逆二次规划问题,采用最小二乘法推导出线性方程组,并展示了其在神经计算和二次曲面拟合中的应用潜力。
2017-01-04 cs.NA math.NA math.OC
Constrained LQR Design Using Interior-Point Arc-Search Method for Convex Quadratic Programming with Box Constraints
虽然经典的LQR设计方法在实际工程设计中取得了很大的成功,但在某些情况下,由于执行器的饱和,经典的设计方法需要修改。这个修改后的问题有时被称为约束LQR设计。对于离散系统,约束LQR设计问题等价于带框约束的凸二次规划问题。我们将表明,邻点法是非常有效的,因为这个问题的初始内点是可用的,一个条件是不成立的一般凸二次规划问题。我们将设计一个有效的和高效的算法约束LQR设计问题使用的特殊结构的盒子约束和最近推出的弧搜索技术的内点算法。我们将证明该算法是多项式的,并具有凸二次规划的最佳已知的复杂性界。该算法在MATLAB中实现。最后给出了约束LQR设计的算例,验证了该方法的有效性。该算法可以很容易地用于模型预测控制。
2013-04-17 math.OC
Convergence analysis of a regularized inexact interior-point method for linear programming problems
线性规划问题的内点法需要反复求解线性系方程。求解这些线性系是不平凡的,由于严重病态的矩阵收敛。这个问题可以通过在线性规划问题中引入适当的正则化项来缓解。正则化还允许我们有效地处理秩亏约束矩阵。我们给出了一个正则化不精确内点方法的收敛性分析。术语“不精确”指的是这样一个事实,即我们不需要计算线性系方程组的真解,只需要计算其近似值。该算法的制定是足够的一般性,使专门的线性代数例程在其他工作中开发的不精确内点方法也可以纳入我们的正则化框架。在这项工作中,我们利用的不精确性,使用混合精度求解器的线性系方程。更具体地说,我们在IEEE单精度进行Cholesky分解,并将其用作共轭梯度法的预条件。数值实验表明,这种方法的好处适用于线性规划问题的密集约束矩阵。
2021-05-04 math.OC
An Interior Point-Proximal Method of Multipliers for Positive Semi-Definite Programming
本文将[An内点-Proximal Method of Multipliers for Convex二次规划,Computational Optimization and Applications,78,307- 351(2021)]中提出的乘子内点-Proximal Method of Multipliers(IP-PMM)推广到求解线性正半定规划(SDP)问题,允许相关牛顿系统的解不精确。特别是,我们结合了不可行的内点方法(IPM)与乘法器的近似方法(PMM)和解释的算法(IP-PMM)作为一个原始-对偶正则IPM,适用于解决SDP问题。我们对PMM的每个子问题进行迭代,直到找到满意的解,然后更新PMM参数,形成一个新的IPM邻域,重复这个过程。在这个框架下,我们证明了多项式复杂性的算法,在温和的假设下,而不需要精确的计算牛顿方向。此外,我们提供了一个必要条件缺乏强的二元性,这可以作为一个基础,构建检测机制,识别病理情况下,在IP-PMM。
2021-09-08 math.OC
A Polyhedral Study for the Cubic Formulation of the Unconstrained Traveling Tournament Problem
研究了无约束旅行锦标赛问题,一个最小化团队旅行的运动竞赛问题。自20年前引入以来,大多数研究都致力于建模和重构方法。在本文中,我们进行了多面体的研究,三次整数规划制定建立的整数壳的尺寸,以及由模型不等式引起的面。此外,我们引入了一类新的不等式,并证明了它们是刻面定义的。最后,我们评估了这些不等式对线性规划界的影响。
2022-09-07 cs.DM math.OC
A matrix-free interior point continuous trajectory for linearly constrained convex programming
针对线性约束凸规划中内点法变量投影矩阵易病态的问题,本文提出无矩阵的内点增广拉格朗日连续轨迹及相应ODE系统,证明其收敛到原问题最优解,并给出离散算法搜索方向。
2024-12-28 math.OC
Optimization Workshop Notes for Mathematical Programming with Equilibrium Constraints Algorithms: Penalty Interior-Point, Implicit-Programming, and Piecewise SQP
College of Engineering, Boston University(波士顿大学工程学院)
本文探讨了处理带均衡约束的数学规划问题(MPECs)的几种算法,包括罚内点法、单调线性互补问题变体、隐式编程下降法和分段SQP方法,分析了其模型、搜索方向子问题、全局化机制及收敛性。
2026-04-17 math.OC
Active-set prediction in quadratic programming using interior point methods and controlled perturbations
在本文中,我们扩展的思想,使用控制扰动,以提高活动集预测的能力的内点方法的凸二次规划(QP)问题。也就是说,我们考虑扰动的不等式约束(少量),以扩大可行集。我们证明了,如果扰动是明智的选择,那么存在一个原始对偶点对,这是接近的最优解的扰动问题和相应的活动和非活动集在这一点上是相同的最佳活动和非活动集在一个最优解的原始QP问题。此外,我们还证明了原问题的最优三分割也可以通过求解扰动问题来预测。此外,令人鼓舞的初步数值经验也为QP的情况。
2014-09-20 math.OC
An interior point sequential quadratic programming-type method for log-determinant semi-infinite programs
本文研究了一类非线性半无限规划问题,它在正定矩阵约束和无穷多个凸不等式约束下极小化一个包含对数行列式(logdet)函数的函数,简称SIPLOG.本文的主要目的是开发一种算法计算的Karush-Kuhn-Tucker(KKT)点的SIPLOG有效。更具体地说,我们提出了一个内点序列二次规划型方法,不精确地解决了一系列的半无限二次规划近似的SIPLOG。此外,为了在与半定约束相关联的对偶矩阵空间中生成搜索方向,我们求解缩放牛顿方程{其产生} Monteiro-Zhang方向族。我们证明了所提出的方法弱 * 收敛到KKT点在一些温和的假设。最后,我们进行了一些数值实验,以证明所提出的方法的有效性。
2018-09-24 math.OC
Efficient Interior-Point Methods for Hyperbolic Programming via Straight-Line Programs
Illinois State University(伊利诺伊州立大学);University of Waterloo(滑铁卢大学)
本文提出DDS 3.0,通过新的直线条程序方法提升超几何规划的求解效率,显著优于现有算法。
2026-02-26 math.OC
Polynomial worst-case iteration complexity of quasi-Newton primal-dual interior point algorithms for linear programming
拟牛顿法是用于大规模数值优化的公知技术。他们在最优化问题中使用Hessian近似,在非线性方程组中使用Jacobian近似。在内点上下文中,拟牛顿算法计算与牛顿系统相关联的矩阵的低秩更新,而不是在每次迭代时从头开始计算。本文证明了线性规划的简化拟牛顿原对偶内点算法具有多项式最坏情况迭代复杂度。考虑了算法的可行和不可行情况,分析了中心路径的最常见邻域。据我们所知,这是第一次尝试为这些方法提供多项式最坏情况下的迭代复杂度界限。不出所料,当使用拟牛顿方向时获得的最坏情况的复杂度结果比采用牛顿方向时的结果更差。然而,拟牛顿更新是非常有吸引力的大规模最优化问题,其中分解矩阵的成本是远远高于解决线性系的成本。
2022-09-09 math.OC
An Efficient Polynomial Interior-Point Algorithm for Linear Programming
对于线性规划的内点算法,中心参数的选取对于多项式的理论证明和实际应用效率都是至关重要的。然而,定心参数的选择通常是通过几何学并且与线搜索步长的选择分开。在开发实际有效的算法(如MPC)和理论有效的算法(如短步长路径跟踪算法)时,算法是完全不同的。这引入了一个困境,即一些最知名的多项式界的算法在实践中效率最低,而一些最有效的算法可能不是多项式。在本文中,我们提出了一个系统的方法来最佳地选择中心参数和线搜索步长在同一时间,我们表明,基于这种策略的算法具有最佳的多项式界,并可能是非常有效的计算实际问题。
2013-05-10 math.OC
ArcLP: A Matlab implementation of an $\mathcal{O}(\sqrt{n}L)$ arc-search infeasible interior-point algorithm for linear programming
本文实现了具有最优O(√n L)多项式界的线性规划弧搜索不可行内点算法,经Netlib基准测试,其计算性能与Mehrotra预测-校正算法相当,且能求解大规模问题。
2026-08-03 math.OC
Two computationally efficient polynomial-iteration infeasible interior-point algorithms for linear programming
自内点方法发展之初,理论结果与数值经验观测之间就存在着令人困惑的差距,即:具有好的多项式界限的算法在计算上不是有效的,并且在计算中证明有效的算法不具有好的或任何多项式界限。Todd在2002年提出了一个问题:“我们能找到一种理论上和实际上都有效的方法来重新优化吗?“这份文件是缩小差距的一项努力。提出了两种弧搜索不可行内点算法,其不可行中心路径邻域比现有的不可行内点算法都要宽,并证明了算法的收敛性。我们表明,第一个算法是多项式和它的简化版本,如果它终止于有限的迭代,有一个复杂性界等于最好的已知的复杂性界的所有(可行或不可行)的内点算法。我们证明了所提出的算法的计算效率,通过测试所有Netlib线性规划问题的标准式和比较的数值结果所获得的Mehrotra的预测校正算法和最近开发的更有效的弧搜索算法(这两种算法的收敛性是未知的)。我们的结论是,新提出的算法不仅是多项式,而且计算上的竞争力相比Mehrotra的预测校正算法和高效的弧搜索算法。
2018-03-01 math.OC
Iteration Complexity of an Infeasible Interior Point Methods for Seconder-order Cone Programming and its Warmstarting
研究了二阶锥规划(SOCP)的一种不可行内点方法(IPM)的最坏情况迭代复杂性,与可行IPM相比,该方法更便于热启动.该方法基于齐次自对偶模型和Monteiro-Zhang搜索方向族。它的最坏情况迭代复杂度是$O\left(k^{1/2}\log\left(ε^{-1}\right)\right)$,以将原始残差、对偶残差和互补缺口减少$ε$的因子,其中$k$是锥约束的数量。该结果与可行IPM的最佳已知结果相同。研究了热启动提高复杂度界的条件。
2023-01-24 cs.CC math.OC
An unconstrained-like control-based dynamic method for optimization problems with simple bounds
具有简单界的最优化问题是一类重要的优化问题。为了便于计算这样的问题,一个无约束的动态方法,激励的李雅普诺夫控制原理,提出。该方法首先采用抗饱和有限积分器求解无约束问题动力学参数的界,然后采用成熟的常微分方程积分方法求解变换初值问题。证明了当增益矩阵为对角阵时,其结果等价于包含中间二次规划(QP)子问题的一般动力学方法的结果。这样,在不需要严格互补条件的情况下,保证了算法的整体收敛到最优解。由于避免了右积极约束的估计,且计算过程中不涉及规划子问题,因此通过数值算例表明,该方法比一般动力学方法和其他常用的迭代法具有更高的效率。特别是,实现简单,所提出的方法是易于使用的。
2021-10-18 math.OC
Convergence of Successive Linear Programming Algorithms for Noisy Functions
基于约束的方法已经非常成功地解决了各种无约束和有约束的非线性最优化问题。然而,在诸如最优控制或机器学习的实际应用中,必要的函数和导数信息可能被噪声破坏。Sun和Nocedal最近提出了一种通过稳定计算迭代的接受准则来解决光滑无约束问题的方法,这导致了信赖域方法的迭代收敛到临界区域,Sun和Nocedal(2022)。我们将他们的分析扩展到Byrd等人(2023 a,2023 b)的连续线性规划算法,用于无约束最优化问题,其目标可以描述为多面体函数与光滑函数的组合,其中后者及其梯度可能会被噪声破坏。这提供了覆盖例如图像重建或约束优化算法产生的(子)问题的灵活性。我们提供的计算实例,说明的结果和点的稳定参数,平衡的临界区域的大小与放宽的接受标准(或下降属性)的算法的实际确定的可能的策略。
2023-02-14 math.OC
A relaxed interior point method for low-rank semidefinite programming problems with applications to matrix completion
本文提出了求解低秩半定规划问题的一种新的松弛型内点方法。该方法是通常的内点框架之外的一个步骤。为了使原迭代收敛于低秩原解,对原迭代赋予了一种特殊的近似低秩形式。为了适应这样的(限制性)结构,一阶最优性条件必须放松,因此近似通过求解辅助最小二乘问题。放松的内点框架打开了许多可能性如何原始和对偶近似牛顿方向可以计算。特别是,它承认在这方面的应用程序的第一和第二阶的方法。证明了该方法的收敛性。一个原型的实施进行了讨论,并报告了令人鼓舞的初步计算结果,为解决的SDP-重新制定的矩阵完成问题。
2021-03-25 cs.NA math.NA math.OC
A semidefinite programming approach for solving Multiobjective Linear Programming
在文献中有几种算法可用于在多目标线性规划(MOLP)中找到帕累托最优解的整个集合。然而,到目前为止,还没有提出一个内点算法,找到所有的Pareto-最优解的MOLP。我们提出了一个明确的建设,任何MOLP到一个有限序列的半定程序(SDP),其中的解决方案给出了整个帕累托最优的极值点解决方案的MOLP的转换的基础上。这些SDP问题的解决内点方法,因此我们的方法提供了一个伪多项式内点方法来找到一组Pareto-最优解的MOLP。
2011-12-28 math.AC math.OC
Iterative Reweighted Minimization Methods for $l_p$ Regularized Unconstrained Nonlinear Programming
Simon Fraser University(西蒙弗雷泽大学)
本文研究一般的$l_p$正则化无约束极小化问题。特别是,我们推导出一阶和二阶不动点的非零项的下界,因此也是局部极小的$l_p$最小化问题。我们扩展了一些现有的迭代加权$l_1$(IRL 1)和$l_2$(IRL 2)最小化方法来解决这些问题,并提出了新的变种,其中每个子问题有一个封闭的形式的解决方案。此外,我们提供了一个统一的收敛性分析,这些方法。此外,我们提出了一种新的Lipschitz连续$ε$ -逼近$\|x\|^p_p$ .利用这一结果,我们开发了新的IRL 1方法的$l_p$最小化问题,并表明,由这些方法产生的序列的任何积累点是一阶稳定点,提供的近似参数$ε$是低于一个可计算的门限值。这是一个显著的结果,因为所有现有的迭代重加权最小化方法都需要动态更新$ε$并使其接近零。我们的计算结果表明,在目标函数值和CPU时间方面,新的IRL 1方法通常比现有的IRL 1方法[21,18]更稳定。
2012-09-29 cs.LG math.OC stat.CO
Effects of Finite-Precision Arithmetic on Interior-Point Methods for Nonlinear Programming
本文证明在满足中心性和可行性条件下,有限精度算术对非线性规划原-对偶内点法影响良性,并利用较弱约束规格及关键步长结果,将超线性收敛推广至非凸情形。
2001-03-15 cs.NA math.NA math.OC
Dynamic Non-Diagonal Regularization in Interior Point Methods for Linear and Convex Quadratic Programming
本文提出了一种动态非对角正则化的内点方法。该正则化的非对角方面是隐式的,因为正则化矩阵的所有非对角元素被牛顿系统中存在的那些元素抵消,这些元素在牛顿方向的计算中不贡献重要信息。这样的正则化有多个目标。最明显的一个是改善内点法每次迭代求解的牛顿系统的谱性质。另一方面,正则化矩阵向上述线性系引入稀疏性,从而允许更有效的因子分解。我们还提出了一个规则调整的正则化动态的基础上的问题的属性,使足够大的特征值的非正则化系统的扰动不显着。这说明需要通过实验来找到特定的正则化值,这是文献中最常见的方法。给出了非正则化系统矩阵特征值的扰动界,并讨论了正则化矩阵的谱性质。最后,我们证明了该方法适用于解决标准的中小型线性和凸二次规划测试问题的效率。
2019-02-13 math.OC
PIQP: A Proximal Interior-Point Quadratic Programming Solver
本文提出PIQP,一种结合不可行内点法与乘子近端法的高性能稀疏QP求解器,无需约束线性独立性即可处理病态凸QP问题,适用于嵌入式应用,在多项基准测试中性能优于现有商业与开源求解器。
2023-09-15 math.OC
An infeasible interior-point arc-search method with Nesterov's restarting strategy for linear programming problems
本文针对线性规划问题提出两种结合Nesterov重启策略的弧搜索内点法,其中第二种融合Mehrotra型思想,在数值实验中显著减少了迭代次数与计算时间。
2023-09-28 cs.NA math.NA math.OC
A New Preconditioning Approach for an Interior Point-Proximal Method of Multipliers for Linear and Convex Quadratic Programming
在本文中,我们解决的线性和二次规划问题,往往是大规模的有效数值解。为此,我们设计了一个不可行的内点方法,融合了邻近方法的乘数,这反过来又导致原始-对偶正则化内点方法。这种方法的应用会导致一系列越来越病态的线性系,由于内存和CPU时间的限制,这些线性系并不总是能用因式分解法求解。我们提出了一种新的预处理策略,它是基于一个适当的稀疏化的正规方程矩阵的线性情况下,也构成了一个块对角预处理器的基础,以加速MINRES的线性系所产生的一般二次规划问题的解决方案。一系列测试问题的数值结果表明,所提出的预处理策略的鲁棒性,连同它的能力,以解决非常大的尺寸线性系。
2020-12-11 cs.NA math.NA math.OC
On the asymptotic behavior of a higher-order extrapolation primal-dual interior-point method for nonlinear programming
本文研究非线性规划原始-对偶内点法中利用高阶导数信息进行轨迹外推的渐近收敛行为,证明足够高阶时仅靠外推即可达到障碍参数减小速率,并给出二次规划数值验证。
2025-07-02 math.OC
Interior-point algorithms for convex optimization based on primal-dual metrics
本文提出并分析了锥型凸优化问题的原-对偶内点算法。我们分析的算法的家庭是所谓的短步长算法,他们匹配当前最好的迭代复杂度界的原始对偶对称内点算法的Nesterov和托德,对称锥规划问题与给定的自缩放障碍。我们的结果适用于任何凸锥的自协调势垒。我们还证明了我们的算法的某些专业双曲锥规划问题(严格之间的对称锥规划和一般的凸优化问题的一般性)可以利用双曲障碍的有利的特殊结构。我们作出新的连接黎曼几何,积分算子空间,高斯求积,并加强我们的算法的连接,拟牛顿更新,因此一般的一阶方法。
2014-11-08 math.OC
Differential dynamic programming with stagewise equality and inequality constraints using interior point method
本研究针对最优控制问题中的DDP方法,采用内点法引入任意阶段等式与不等式的状态、控制约束,推导变量显式更新公式,并在多个示例系统中验证了算法适用性。
2024-09-18 cs.SY eess.SY math.OC
Interior Point Differential Dynamic Programming
本文提出了一种新的微分动态规划(DDP)算法,用于求解带不等式约束的离散时间有限时间最优控制问题。使用原对偶内点方法开发了两种变体,即可行IPDDP算法和不可行IPDDP算法,并表征了它们的局部二次收敛性。我们证明了算法的稳定点是扰动的KKT点,因此可以任意移动到局部最优解附近。由于没有活动集方法的负担,它可以处理非线性状态和输入不等式约束,而不会明显增加其计算复杂性相对于无约束的情况下。所提出的算法的性能进行了证明,使用三个不同的问题的数值实验:控制限制倒立摆,停车场,和unicipalent运动控制和避障。
2020-10-20 cs.SY eess.SY math.OC
An Experimental Comparison of SONC and SOS Certificates for Unconstrained Optimization
求多元实多项式的最小值是一个有着广泛应用的著名难题。我们提出了一个多项式时间算法,通过非负电路多项式(SONC)的总和来近似这样的下界。作为一个主要的结果,我们进行了第一次大规模的比较SONC,使用该算法和不同的几何规划(GP)求解器,与经典的平方和(SOS)的方法,使用几个最常见的半定规划(SDP)求解器。SONC在几种情况下产生与SOS竞争的边界,但使用的时间和内存明显更少。特别是,SONC/GP可以处理比SOS/SDP大得多的问题实例。
2018-08-25 cs.MS math.AG math.OC
An inexact potential reduction method for linear programming
分析了一类利用非精确方向的内点方法。对求解线性规划的内点法中的线性系组进行了重新表述,使其解对右端的扰动不太敏感。对于新的系统,制定了一个实施条件,控制解决方案中的相对误差。基于这个条件,描述了一种可行和一种不可行的势约简方法,这些方法保留了精确方向已知的收敛性和复杂性界限。
2016-07-29 math.OC
Low-Thrust Trajectory Optimization with Quantum Computing and Sequential Convex Programming
Politecnico di Milano(米兰理工大学)
本文提出基于量子计算的序列凸规划框架quSCP,在地球-火星低推力转移任务中验证其性能,显示量子与混合量子-经典优化可为轨道设计提供有竞争力的方案。
2026-09-02 math.OC
Practical Integer-to-Binary Mapping for Quantum Annealers
量子退火硬件的最新进展和这一领域的大量研究表明,量子退火器有可能有效地解决无约束二进制二次规划问题。自然,人们可能希望将这些机器的应用领域扩展到一般离散变量的问题。在本文中,我们探讨了利用量子退火器来解决有界整数域上的无约束二次规划问题的可能性。我们提出了一种方法将整数变量编码成二进制变量,从而将无约束整数二次规划问题表示为无约束二进制二次规划问题。为了尊重目前开发的量子退火器的一些限制,我们提出了一种整数编码,命名为有界系数编码,其中我们限制了编码中出现的系数的大小。此外,我们提出了一种算法,用于找到上界的系数的编码使用的机器和原始整数问题的系数的精度。最后,我们的实验表明,这种方法是更有弹性的量子退火机的噪声相比,传统的方法编码的整数在基地2。
2017-06-06 cs.ET math.OC quant-ph
An Interior Point-Proximal Method of Multipliers for Convex Quadratic Programming
本文将不可行内点法(IPM)与邻近乘子法(PMM)相结合。所得到的算法(IP-PMM)被解释为一个原始-对偶正则IPM,适用于求解线性约束凸二次规划问题。我们将内点方法的几次迭代应用于邻近乘子方法的每个子问题。一旦找到PMM子问题的满意解,我们更新PMM参数,形成新的IPM邻域并重复此过程。在这个框架下,我们证明了多项式复杂性的算法,在标准的假设。据我们所知,这是原始-对偶正则化IPM的第一个多项式复杂度结果。该算法是指导使用一个单一的罚参数,即对数障碍。换句话说,我们表明,IP-PMM继承IPMs的多项式复杂性,以及严格的凸性的PMM子问题。罚参数的更新由IPM控制,因此是良好调整的,并且不依赖于所解决的问题。此外,我们研究的行为时,它被应用到一个不可行的问题,并确定了一个必要条件不可行的方法。后者用于构建不可行性检测机制。随后,我们提供了一个强大的实现所提出的算法,并测试了一组小到大规模的线性和凸二次规划问题。数值结果表明,在IPM中使用正则化的好处,以及该方法的可靠性。
2020-03-05 math.OC
A Note on Cores and Quasi Relative Interiors in Partially Finite Convex Programming
最小化受线性约束的熵泛函问题是部分有限凸规划的一个有用的例子。在20世纪90年代,Borwein和Lewis提供了广泛且易于验证的条件,保证了此类问题的强对偶性。他们的方法是在相关的无限维集合的拟相对内部构造一个函数,这确保了相关的有限维集合的核心中存在一个点。我们重新审视这个问题,并提供了一个替代的证明,直接呼吁的核心的定义,而不是依靠任何性质的准相对内部。我们的方法承认一个轻微的放松的线性独立性的要求,在Borwein和Lewis的框架,这使我们能够与某些分段定义的时刻功能排除他们的条件。我们提供了这样一个计算的例子,说明了如何松弛可以用来驯服观察到的吉布斯现象时,基础数据是不连续的。这种放松说明了我们可以从有限维和无限维两个方面处理部分有限问题所获得的理解。这两种方法的比较是有益的,因为这两种证明都是建设性的。
2020-05-07 math.FA math.OC
Value-at-Risk constrained portfolios in incomplete markets: a dynamic programming approach to Heston's model
本文针对随机波动率下的不完全市场,用动态规划方法求解带VaR约束的期望效用最大化投资组合问题,建立了约束与无约束问题最优解的关联,并通过数值研究验证了参数影响及20%的配置差异。
2024-07-29 math.OC q-fin.PM
A Faster Interior-Point Method for Sum-of-Squares Optimization
我们提出了一个更快的内点法优化平方和(SOS)多项式,这是一个中心工具,多项式优化和捕获凸规划的拉萨尔层次。令$p = \sum_i q^2_i$是次数为$2d$的$n$变量SOS多项式。用$L := \binom{n+d}{d}$和$U := \binom{n+2d}{2d}$分别表示$q_i$和$p$所处的向量空间的维数,我们的算法在时间上运行$\tilde{O}(LU^{1.87})$。这是多项式比最先进的SOS和半定编程求解器,实现运行时$\tilde{O}(L^{0.5}\min\{U^{2.37}, L^{4.24}\})$。我们的算法的核心是一个动态的数据结构,用于维护多项式插值基础下的SOS障碍函数的Hessian的逆,这有效地扩展到多变量SOS优化,并需要保持谱近似的低秩扰动的elementwise(Hadamard)产品。这是主要的挑战和背离最近IPM突破使用逆维护,其中低秩更新松弛矩阵容易意味着相同的海森矩阵。
2022-02-17 cs.DS math.OC
Quadratic unconstrained binary optimization and constraint programming approaches for lattice-based cyclic peptide docking
本研究针对肽-蛋白对接问题,提出资源高效的QUBO编码方案与约束规划基准方法,经PDB实例测试发现QUBO可处理小规模问题但扩展性受限,约束规划方法性能更优。
2024-12-13 math.OC physics.chem-ph q-bio.BM
Proximal stabilized Interior Point Methods for quadratic programming and low-frequency-updates preconditioning techniques
在这项工作中,在线性和二次规划的背景下,我们解释原始对偶正则化内点方法(PDR-IPMs)的框架内的邻近点方法。由此产生的近端稳定IPM(PS-IPM)的强有力的支持有关的收敛性和收敛速率的理论结果,并可以处理退化问题。此外,在这项工作的第二部分中,我们分析了正则化参数和用于求解牛顿线性系的线性代数例程的计算足迹之间的相互作用。特别是,当这些系统使用迭代Krylov方法求解时,我们提出了通用的预条件,利用正则化和新的重排的舒尔补,仍然有吸引力的一系列后续IPM迭代。因此,它们只需要在总IPM迭代的一小部分中重新计算。由此产生的正则化的二阶方法,其中低频更新的预处理器是允许的,铺平了道路的替代第三种方式之间的第一和第二阶方法。
2022-05-03 cs.NA math.NA math.OC
Condensed Interior-Point Methods for Scalable Nonlinear Programming on GPUs
研究为GPU设计的HyKKT和LiftedKKT两种压缩内点法,通过误差分析其数值特性,经实验评估性能。新策略转化KKT系统,虽有精度损失但能平衡。通过与库对比,评估含MadNLP等的软件栈,发现GPU框架在解决大规模非线性规划上有潜力但存在不足。
2026-07-23 math.OC
Implicit Primal-Dual Interior-Point Methods for Quadratic Programming
Department of Aeronautics and Astronautics, Massachusetts Institute of Technology(麻省理工学院航空航天系)
本文提出了一种隐式对偶内点法求解二次规划的新方法,通过引入辅助变量和重构映射,使互补性条件隐式满足,从而解决内点法中因ill-conditioning导致的精度问题。
2026-04-01 cs.RO math.OC