An Infeasible Interior-point Arc-search Algorithm for Nonlinear Constrained Optimization
本文提出了一种求解非线性规划问题的不可行弧搜索内点算法。大多数基于内点法的算法都被归类为线搜索，本文提出了一种弧搜索内点算法，该算法采用圆弧作为近似路径，讨论了该算法的收敛性，并对CUTEst基准问题进行了数值实验，比较了该算法的性能。搜索算法与线搜索算法的区别。数值结果表明，所提出的弧搜索算法达到最优解，使用更少的迭代，但比线搜索算法更长的时间。一个修改，导致一个更快的弧搜索算法进行了讨论。
2020-10-28 math.OC
Stable interior-point method for convex quadratic programming with strict error bounds
提出了求解一类二次目标函数为非线性规划问题的一种短步长内点法。凸二次规划问题可以转化为这类问题。该方法具有弱多项式时间复杂度。给出了该方法数值稳定性的完整证明。没有要求的可行性，行秩的约束雅可比矩阵，严格互补性，或条件的问题。不可行的问题被解决到一个最优的内部最小二乘解。
2018-05-10 math.OC
$\mathcal{N}$IPM-HLSP: An Efficient Interior-Point Method for Hierarchical Least-Squares Programs
Nanyang Technological University（南洋理工大学）；Inria（法国国家信息与自动化研究所）；Grenoble Alpes University（格勒诺布尔阿尔卑斯大学）；New York University（纽约大学）
针对带线性约束的分层最小二乘规划（HLSP），提出一种基于nullspace method的高效原始-对偶内点法，每次迭代仅需一次矩阵分解，能可靠求解病态机器人控制问题且计算时间稳定。
2023-08-04 cs.CC cs.NA cs.PF
Faster Energy Maximization for Faster Maximum Flow
本文给出了一个算法，该算法在给定任意$m$ -边$n$ -顶点有向图且容量至多为整数的情况下，以高概率计算任意顶点$s$和$t$在$m^{11/8+o(1)}U^{1/4}$时间内的最大$s$-$t$流.当图形不是太密集或容量较大时，该运行时间比$\tilde{O}(m^{10/7} U^{1/7})$（Mackdry 2016）、$\tilde{O}(m \sqrt{n} \log U)$（Lee Sidford 2014）和$O(mn)$（Orlin 2013）之前的最佳运行时间有所改善。我们实现这一结果，利用最近的进展，解决无向流问题的图。我们表明，在最大流框架中（Mingdry 2016），优化最大化能量所需的中心路径扰动量，从而减少拥塞的问题可以有效地简化为平滑的$\ell_2$ - $\ell_p$流优化问题，该问题可以通过最近的工作近似解决（Kyng，Peng，Sachdeva，Wang 2019）。利用这个新的原语，我们提供了一个新的长步长内点方法，用于最大流，具有更快的收敛速度和更简单的分析，不再需要像以前的方法那样涉及能量的全局势函数（Mingdry 2013，Mingdry 2016）。
2019-10-31 cs.DS math.OC
Condensed interior-point methods: porting reduced-space approaches on GPU hardware
内点法已成为求解非线性规划的重要方法。IPM的性能是直接相关的线性求解器，用于分解的Karush-库恩-塔克（KKT）系统在算法的每次迭代。在解决大规模非线性问题时，最先进的IPM求解器依赖于高效的稀疏线性求解器来求解KKT系统。相反，我们提出了一种新的缩减空间IPM算法，该算法将KKT系统压缩成一个稠密矩阵，其大小与问题中的自由度数量成正比。根据减少发生的地方，我们推导出减少空间方法的两个变体：线性化然后减少和减少然后线性化。我们调整了他们的工作流程，使绝大多数计算在GPU上加速。我们提供了广泛的最优潮流问题的数值结果，比较我们的GPU加速减少空间IPM与Knitro和混合全空间IPM算法。通过在GPU上计算导数并在CPU上求解KKT系统，混合解决方案已经比仅CPU解决方案快得多。这两个缩减空间算法更进一步，完全在GPU上求解KKT系统。正如预期的那样，这两种简化算法的性能本质上取决于可用自由度的数量：当问题具有许多自由度时，它们的性能很差，但是一旦自由度的相对数量变小，这两种算法就比Knitro快3倍。
2022-03-22 math.OC
Revisiting Tardos's Framework for Linear Programming: Faster Exact Solutions using Approximate Solvers
在突破性的工作，塔尔多斯（歌剧。Res. '86）给出了一种基于邻近度的框架，用于仅依赖于位复杂度模型中的约束矩阵来求解时间上的线性规划（LP）。在Tardos的框架中，将求解LP $\min \langle c,{x}\rangle$、$Ax=b$、$x \geq 0$、$A \in \mathbb{Z}^{m \times n}$简化为使用任何精确LP算法求解具有小整数系数目标和右侧的$A$中的$O(nm)$ LP。这就产生了一个LP算法的时间聚$(n,m\logΔ_A)$，其中$Δ_A$是最大的子行列式的$A$。Vavasis和Ye（Math. Prog. '96），给出了一个专门的内点方法，该方法在时间上运行$(n,m,\log\barχ_A)$，取决于Stewart的$\barχ_A$，一个研究得很好的条件数。在这项工作中，我们扩展了Tardos的原始框架，以获得这样的运行时间依赖。特别是，我们取代了精确的LP解决近似的，使我们能够直接利用最近的巨大的算法进步近似线性规划。更确切地说，我们表明，需要准确地解决任何LP在$A$的基本“精度”是逆多项式在$n$和$\log\barχ_A$。插入van den Brand（SODA '20）的最新算法，我们的方法使用${O}(m n^{ω+1} \log (n)\log(\barχ_A+n))$算术运算计算最优原始和对偶解，优于…
2020-09-10 cs.DS math.OC
A preconditioned inexact infeasible quantum interior point method for linear optimization
本文提出一种基于最优划分估计的预条件非精确不可行量子内点法，将线性系统条件数从对偶间隙倒数的二次依赖降为线性，并在精度和维度上优于其他同类方法。
2024-12-15 math.OC
Solving SDP Faster: A Robust IPM Framework and Efficient Implementation
提出了一种新的半定规划鲁棒内点分析方法.这种新的稳健分析可以与对数屏障或混合屏障相结合。在这个新的框架下，我们可以提高半定规划（SDP）的运行时间与可变大小的$n \times n$和$m$约束$ε$的精度。我们表明，对于$m = Ω(n^2)$的情况下，我们可以解决SDPs在$m^ω$的时间。这表明求解SDP几乎与求解具有相同数量的变量和约束的线性系一样快。这是第一个可以在接近最佳运行时间内求解高密度SDP的结果，并且它还改进了最先进的SDP求解器[Jiang，Kathuria，Lee，Padmanabhan和Song，FOCS 2020]。除了我们新的IPM分析，我们还提出了一些技术，可能是进一步的兴趣，如，维护逆的克罗内克产品使用懒惰更新，一般摊销计划正半定矩阵。
2021-11-18 cs.DS math.OC
Clarabel: An interior-point solver for conic programs with quadratic objectives
本研究提出开源内点求解器Clarabel，基于特化的齐次嵌入方法求解带二次目标的锥规划，支持多种锥与半定锥弦分解，在基准测试中性能优于现有求解器，已集成至CVXPY套件。
2024-05-21 math.OC
Efficient Use of Quantum Linear System Algorithms in Interior Point Methods for Linear Optimization
量子计算在优化领域引起了极大的兴趣，因为它可能比传统的超级计算机更快地解决各类优化问题。一些研究者提出了量子计算方法，特别是量子内点方法（QIPMs），用于求解凸优化问题，例如线性优化、半定优化和二阶锥优化问题。他们中的大多数人在每次迭代中应用量子线性系统算法来计算牛顿步长。然而，在QIPM中使用量子线性求解器带来了许多挑战，例如具有病态系统和量子求解器的相当大的误差。本文研究了如何有效地使用量子线性求解器在QIPM。在此基础上，提出了求解线性优化问题的不精确不可行量子内点方法。我们还讨论了如何在不增加量子求解器时间的情况下，通过迭代精化得到精确解。最后，我们的QIPM使用量子模拟器的QISKIT实现的计算结果进行了分析。
2023-02-10 math.OC quant-ph
Faster Divergence Maximization for Faster Maximum Flow
本文给出了一个算法，该算法给出了任意$m$ -边$n$ -顶点有向图，其容量至多为整数$U$，计算任意顶点$s$和$t$在$m^{4/3+o(1)}U^{1/3}$时间内的最大$s$-$t$流.当图不是太密集或具有大容量时，这改进了$m^{11/8+o(1)}U^{1/4}$（Liu Sidford 2019）、$\tilde{O}(m \sqrt{n} \log U)$（Lee Sidford 2014）和$O(mn)$（Orlin 2013）之前的最佳运行时间。为了实现本文的结果，我们建立在以前的算法方法，最大流内点法（IPM）的基础上。特别是，我们克服了先前在最大流IPM中取得的进展的关键瓶颈（Mackdry 2013，Mackdry 2016，Liu Sidford 2019），通过最大化局部$\ell_2$范数的能量最小化电流来取得进展。我们推广这种方法，而不是最大限度地减少布雷格曼发散距离加权对数障碍的流量的发散。这使得我们的算法可以避免依赖于其他IPM框架中出现的$\ell_4$规范（例如Cohen Mendry Sankowski Vladu 2017，Axiotis Mendry Vladu 2020）。此外，我们还证明了平滑的$\ell_2$ - $\ell_p$流（Kyng，Peng，Sachdeva，Wang 2019），我们以前用来有效地最大化能量（Liu…
2020-04-14 cs.DS math.OC
Geometric Median in Nearly Linear Time
在本文中，我们提供了更快的算法来解决几何中值问题：给定$n$点在$\mathbb{R}^{d}$计算一个点，最大限度地减少欧几里德距离的总和点。这是一个最古老的非平凡的问题，在计算几何，但尽管大量的研究，以前最快的算法计算的$(1+ε)$ -近似几何中位数是$O(d\cdot n^{4/3}ε^{-8/3})$由Chin等。等人，Badoiu等人的$\tilde{O}(d\exp{ε^{-4}\logε^{-1}})$。等人，Feldman和Langberg的$O(nd+\mathrm{poly}(d,ε^{-1})$，以及Parrilo和Sturmfels以及Xue和Ye的$O((nd)^{O(1)}\log\frac{1}ε)$。在本文中，我们将展示如何计算一个$(1+ε)$ -近似几何中位数在时间$O(nd\log^{3}\frac{1}ε)$和$O(dε^{-2})$。虽然我们的$O(dε^{-2})$是一个相当简单的应用程序的随机次梯度下降，我们的$O(nd\log^{3}\frac{1}ε)$时间算法是一种新的长步长内点方法。为了实现这个运行时间，我们从一个简单的$O((nd)^{O(1)}\log\frac{1}ε)$时间内点方法开始，并展示了如何改进它，最终建立一个算法，这是相当非标准的角度内点文献。我们的结果是非常少的情况下，我们知道优于传统的内点理论，只有我们知…
2016-06-16 cs.DS math.OC
Prediction-Correction Interior-Point Method for Time-Varying Convex Optimization
本文提出了一种求解一类目标函数和约束函数均为时变的凸优化问题的内点法。利用对数障碍罚函数，我们提出了一个连续时间动力系统跟踪（时变）最优解的渐近消失的误差。该动力系统由两个项组成：（i）由牛顿法的连续时间版本组成的校正项，以及（ii）能够通过考虑目标和约束函数的时变性质来跟踪最优解的漂移的预测项。使用适当选择的时变松弛和障碍参数，我们确保这个动力系统的解决方案全局渐近收敛到最优解的指数速度。我们说明了所提出的方法在两个实际应用中的适用性：稀疏促进最小二乘问题和无碰撞机器人导航问题。
2016-08-26 math.OC
A relaxed interior point method for low-rank semidefinite programming problems with applications to matrix completion
本文提出了求解低秩半定规划问题的一种新的松弛型内点方法。该方法是通常的内点框架之外的一个步骤。为了使原迭代收敛于低秩原解，对原迭代赋予了一种特殊的近似低秩形式。为了适应这样的（限制性）结构，一阶最优性条件必须放松，因此近似通过求解辅助最小二乘问题。放松的内点框架打开了许多可能性如何原始和对偶近似牛顿方向可以计算。特别是，它承认在这方面的应用程序的第一和第二阶的方法。证明了该方法的收敛性。一个原型的实施进行了讨论，并报告了令人鼓舞的初步计算结果，为解决的SDP-重新制定的矩阵完成问题。
2021-03-25 cs.NA math.NA math.OC
Interior-proximal primal-dual methods
研究了一类鞍点问题的预条件逼近点方法，其中预条件子将整体逼近点方法转化为原始-对偶交替逼近点方法。这类似于Chambolle-Pock方法或ADMM。在我们的工作中，我们用对称锥上的障碍函数代替对偶步骤中的平方距离，同时使用标准（欧几里德）邻近步骤作为原始变量。我们证明了在非退化和简单的线性约束下，这种混合原始对偶法可以实现线性收敛原来的强凸问题，涉及二阶锥在其鞍点形式。在一般的对称锥上，我们只能给出一个$O(1/N)$速率。这些结果是基于估计的障碍函数的强凸性，延长与惩罚的对称锥的边界。
2018-08-22 math.OC
Controllability of the heat equation with an inverse-square potential localized on the boundary
本文研究了具有奇异位势的热传导方程的控制性质，其中奇异位势$-μ/|x|^2$产生于光滑区域$Ω\subset \rr^N$的边界，即$N\geq 1$ .这个问题首先由Vancostenoble和Zuazua [20]研究，然后由Ervedoza [10]在内部奇异性的背景下推广。粗略地说，这些结果表明，对于任何值的参数$μ\leq μ(N):=(N-2)^2/4$，相应的抛物系统可以控制到零，控制分布在任何开子集的区域。临界值$μ(N)$表示具有内部奇异性的Hardy不等式的最佳常数。当考虑边界奇异性时，得到了一个较好的临界Hardy常数，即$μ_{N}:=N^2/4$ .本文将文[18]、[8]中的结果推广到边界奇异的情形。更准确地说，我们表明，对于任何$μ\leq μ_N$，我们可以导致系统的零状态使用分布式控制在任何开放的子集。我们强调，我们的结果不能直接从以前的工作[20]，[10]。
2013-11-16 math.OC
A geodesic interior-point method for linear optimization over symmetric cones
我们发展了一种新的内点方法（IPM）的锥优化，一个共同的推广线性，二阶锥，半定规划。与传统的IPM相比，我们用圆锥的测地线而不是线性约束的核来更新迭代。这种方法产生了一个原始-对偶对称，尺度不变，线搜索免费算法，只使用一半的标准原始-对偶IPM的变量。与初等参数，我们建立多项式时间收敛匹配的标准平方根n界。最后，我们证明了一个长步长变量的整体收敛，并提供了一个实现，支持所有对称锥。对于线性规划，我们的算法减少到中心路径跟踪的日志域。
2023-01-15 math.OC
Harder, Better, Faster, Stronger Convergence Rates for Least-Squares Regression
INRIA（法国国家信息与自动化研究所）；Département d’Informatique de l’Ecole Normale Supérieure（巴黎高等师范学院计算机系）
我们考虑优化的二次目标函数的梯度只能通过随机预言机，返回梯度在任何给定的点加上零均值有限方差随机误差。我们提出的第一个算法，实现联合最小二乘回归的最佳预测差错率，无论是在遗忘的初始条件在O（1/n 2），并在依赖于噪声和尺寸d的问题，O（d/n）。我们的新算法基于平均加速正则化梯度下降，并且还可以通过对初始条件和黑塞矩阵的更精细假设来分析，从而导致无量纲量可能仍然很小，而“最优“项很大。为了表征这些新的界限的紧密性，我们考虑应用到非参数回归和使用已知的下界的统计性能（没有计算限制），这恰好匹配我们的边界从一个单一的数据通过，从而显示我们的算法在各种各样的特定的权衡偏差和方差的最优性。
2016-02-24 cs.LG math.OC stat.ML
An Efficient IPM Implementation for A Class of Nonsymmetric Cones
本文提出一种针对广义幂锥等非对称锥的高效内点法实现，通过利用Hessian矩阵的低秩稀疏性实现稀疏LDL分解，在稀疏和大规模问题上显著优于现有求解器。
2023-05-20 math.OC
Gaussian Cooling and Dikin Walks: The Interior-Point Method for Logconcave Sampling
Georgia Tech（佐治亚理工学院）
本文将凸优化中的内点法（IPM）机制与Dikin游走相结合，提出了一种通用的对数凹采样框架，支持热启动并超越均匀分布与线性约束，在截断PSD锥等场景下实现了最快采样算法。
2024-03-21 cs.DS cs.LG math.OC
Recovering sparse DFT from missing signals via interior point method on GPU
本文提出一种基于GPU加速内点法和定制预条件子的无矩阵方法，用于从含噪且缺失的信号中恢复稀疏DFT，并在数亿变量规模问题上验证了可扩展性。
2025-02-06 math.OC
Sum-of-squares optimization without semidefinite programming
将非对称锥优化技术与多项式插值相结合，提出了一种求解平方和最优化问题的齐次原始-对偶邻点法。该方法直接优化的平方和锥和它的对偶，绕过半定规划（SDP）的重新制定，需要大量的辅助变量。因此，它具有比传统的基于SDP的方法低得多的理论时间和空间复杂度。虽然我们的方法避免了半定规划的重新制定，一个最优解的半定规划可以恢复很少的额外努力。计算结果表明，对于涉及高次多项式的问题，所提出的方法比半定规划快几个数量级。
2018-12-20 math.OC
Interior-point methods on manifolds: theory and applications
该研究将自协调障碍函数推广到黎曼流形，证明其保留欧氏空间下的收敛性与复杂度保证，给出通用障碍构造，并提出多类流形优化问题的先进算法。
2023-04-11 cs.DS math.DG math.OC
Energy Management in Plug-in Hybrid Electric Vehicles: Convex Optimization Algorithms for Model Predictive Control
本文详细研究了用于求解具有非线性损失的混合动力电动汽车能量管理模型预测控制的最优化问题的凸公式的算法的计算性能。提出了一种投影内点法，通过将不等式约束作为投影应用于控制输入，减小了牛顿步矩阵求逆的规模和复杂度，并通过与乘子交替方向法（ADMM）算法和通用凸优化软件CVX的仿真比较，验证了投影内点法的性能.据发现，ADMM算法具有良好的性能时，需要一个解决方案，具有适度的精度，而投影内点方法是有利的，当需要高精度，并且都是显着快于CVX。
2019-09-01 math.OC
A Revised Mehrotra Predictor-Corrector algorithm for Model Predictive Control
输入受限模型预测控制（MPC）包含一个最优化问题，在每个时刻都需要迭代求解。模型预测控制的众所周知的缺点是最优化问题的计算成本。这导致MPC应用于具有慢动态的系统的限制，例如，过程控制系统和小规模问题。因此，实现快速数值优化算法一直是人们关注的焦点。从计算成本的角度来看，内点法被证明是求解输入受限MPC的合适算法。本文首先将Mehrotra预估-校正算法（一种著名的临界点算法）的一种改进形式推广到求解二次规划问题，然后将其应用于有约束的模型预测控制问题。实验结果表明，与Matlab求解器算法相比，新算法具有更快的求解速度。
2019-04-16 math.OC
Faster Least Squares Optimization
本文研究了带随机预条件子的超定最小二乘问题的迭代法，其中预条件子是基于数据矩阵的随机嵌入。我们考虑两种不同的方法：草图计算一次（固定预条件），或者随机投影在每次迭代时刷新，即，独立于前一个采样（变化的预处理器）。虽然固定的草图为基础的预处理器在最近的文献中得到了相当大的关注，很少有人知道刷新草图的性能。对于固定的草图，我们刻画了最优迭代法，即预条件共轭梯度法，以及它的收敛速率的子空间嵌入性质的随机嵌入。对于刷新的草图，我们提供了迭代Hessian草图（IHS）的预期误差的封闭式公式，即。预处理的最速下降。与基于子空间嵌入性质的固定预条件子的保证和分析相反，我们的公式是精确的，并且它涉及随机投影的期望逆矩。我们的主要技术贡献是表明，这种收敛速度，令人惊讶的是，无法改进与重球动量。此外，我们构造了局部最优的一阶方法，其收敛速度是有界的IHS。基于这些理论和数值研究，我们没有观察到刷新草图的额外随机性比固定的预条件子提供了明显的优势。因此，我们规定PCG作为选择方法，并根据我们的分析优化草图尺寸。我们规定的草图大小产生最先进的计算复杂性，解决高度超定线性系。最后，我们说明了我们的算法的数值效益。
2021-04-13 cs.CC cs.NA math.NA
Exploiting Sparsity in the Coefficient Matching Conditions in Sum-of-Squares Programming using ADMM
本文提出了一种基于乘子交替方向法的一阶算法来求解由平方和规划引起的半定规划问题。我们利用的稀疏性的\emph{coefficient matching conditions} SOS程序时，制定在通常的单项基础，以减少计算成本的ADMM算法。我们的算法的每一次迭代需要一个投影到半正定锥和多个二次规划的封闭形式的解决方案的任何矩阵求逆的解决方案。我们的技术在开源MATLAB求解器SOSADMM中实现。SOS问题所产生的无约束多项式最小化和多项式系统的李雅普诺夫稳定性分析的数值实验显示速度相比，边界点求解器SeDuMi，和一阶求解器CDCS。
2017-05-18 math.OC
Convergence rates for sums-of-squares hierarchies with correlative sparsity
本文导出了紧致基本半代数集上多项式全局极小化的相关稀疏矩平方和族的收敛速度的上界。主要结论是，这两个稀疏层次的基础上的Schmüdgen和Putinar Positivstellensätze享受多项式的收敛速率，取决于最大的集团在稀疏图的大小，但不是在周围的尺寸。有趣的是，当最大团的大小是足够小的环境尺寸和性能是衡量的运行时间所需的内点方法，以获得一个给定精度的全局极小值上的边界时，稀疏边界优于目前可用的最佳边界的密集层次结构。
2023-03-26 cs.NA math.NA math.OC
Modified Interior-Point Method for Large-and-Sparse Low-Rank Semidefinite Programs
University of California, Berkeley（加州大学伯克利分校）
本文提出改进的内点法高效求解大规模稀疏低秩半定规划问题，通过预处理消除低秩扰动，提升求解效率，应用于图论、逼近理论等领域。
2017-09-05 cs.NA math.NA math.OC
Lifting-Free Quadratic Sum-Of-Squares Programming
University of Sheffield（谢菲尔德大学）
针对QSOS优化问题中传统方法的计算瓶颈，提出无提升正则化方法，通过添加范数惩罚保留原始圆锥结构，有闭式原始更新和无约束凹对偶，加速一阶方法可最大化对偶，数值实验显示该方法比现有求解器更快且能处理更大问题。
2026-07-16 cs.SY eess.SY math.OC
Sequential Hierarchical Least-Squares Programming for Prioritized Non-Linear Optimal Control
Nanyang Technological University（南洋理工大学）；University of Montpellier（蒙彼利埃大学）；CNRS（法国国家科学研究中心）
该研究提出结合信赖域与分层步长滤波器的序列分层最小二乘规划求解器，通过内点法和零空间信赖域自适应等技术实现全局收敛，在多类测试问题中验证了计算效率，可应用于带优先级的离散非线性最优控制。
2024-02-01 cs.NA cs.RO math.NA
