Parallel Interior-Point Solver for Block-Structured Nonlinear Programs on SIMD/GPU Architectures
我们研究如何将标准的内点方法移植到新的exascale结构中,用于求解具有状态方程的块结构非线性规划。在计算上,我们将内点算法分解为两个连续的操作:导数的评估和相关的Karush-Kuhn-Tucker(KKT)线性系的解决方案。我们的方法使用两个级别的并行加速这两个操作。首先,我们使用粗并行将计算分布在多个进程上。其次,每个进程都在本地使用SIMD/GPU加速器,以使用细粒度并行来加速操作。通过消除相应方程中的不等式和状态变量,将KKT系统简化为对问题自由度的灵敏度进行编码的稠密矩阵,从而大大减少了内存交换。我们证明了该方法的能力,超级计算机北极星,未来的exascale极光系统的测试平台。每个节点都配备了四个GPU,这是一种适合我们两级方法的设置。随机最优潮流问题的实验表明,该方法可以实现50倍的速度相比,国家的最先进的方法。
2023-01-12 math.OC
A structured modified Newton approach for solving systems of nonlinear equations arising in interior-point methods for quadratic programming
针对二次规划内点法中障碍子问题的非线性方程组,提出保留 Jacobian 非零结构的低秩修正牛顿法,并通过理论结果、数值实验及两种启发式策略验证其性能。
2023-05-03 math.OC
A multi-objective perspective on block-structured integer programs with one soft coupling constraint
Aarhus University(奥胡斯大学);University of Wuppertal(伍珀塔尔大学)
将软耦合约束视为第二目标,将单目标问题转化为可加分离的双目标优化,通过二分搜索定位感兴趣区域,提出算法提供单目标最优的可证界,并利用λ查找机制加速,从区域中间向外搜索非支配解,大幅减少整数规划调用。
2026-06-24 math.OC
A full splitting algorithm for structured difference-of-convex programs
本文针对结构化凸差规划提出一种自适应双近端全分裂算法,通过解耦线性算子与非光滑分量,在KL性质下证明全局收敛,并结合非单调线搜索提升实际收敛性能。
2025-05-05 math.OC
Sequential Convex Programming Methods for A Class of Structured Nonlinear Programming
University of Minnesota(明尼苏达大学)
本文研究一类结构化非线性规划问题,提出序列凸规划方法,并证明生成序列的聚点为KKT点。
2022-06-17 cs.NA math.NA math.OC
Mixed-Integer Reaggregated Hull Reformulation of Special Structured Generalized Linear Disjunctive Programs
Davidson School of Chemical Engineering, Purdue University(普渡大学戴维森化学工程学院)
本文提出了一种基于时间槽再聚合的混合整数重构方法,用于解决特殊结构的通用线性不等式程序问题,实现了紧凑且高效的混合整数规划模型。
2026-01-16 math.OC
Enforcing Convergence in Sensitivity-based Distributed Programming via Transformed Primal-Dual Updates
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学)
本文提出SBDP+方法,通过结构化的对偶运算设计,解决传统SBDP在子系统耦合强度和结构下收敛性不足的问题,证明了非凸问题在标准正则条件下局部线性收敛,并通过数值实验验证了其在统计学习中的有效性。
2026-05-19 math.OC
Separation-free exponential fitting with structured noise, with applications to inverse problems in parabolic PDEs
Tel Aviv University(特拉维夫大学);Basis Research Institute(Basis研究所);University of Trento(特伦托大学)
本文提出了一种在结构噪声下无分离指数拟合方法,证明了Prony方法在无分离情况下仍能保持最优误差衰减,并应用于抛物型PDE逆问题。
2025-12-16 cs.NA math.NA math.OC
Optimization over Structured Subsets of Positive Semidefinite Matrices via Column Generation
IBM Research(IBM 研究部)
本文提出通过线性规划和二次锥规划近似正定矩阵锥的方法,利用列生成思想改进初始近似,并应用于非凸多项式优化和离散优化问题。
2016-03-11 cs.DM cs.SY eess.SY
Design of First-Order Optimization Algorithms via Sum-of-Squares Programming
在本文中,我们提出了一个框架的基础上平方和规划设计迭代一阶优化算法的光滑和强凸问题。我们的出发点是建立一个多项式矩阵不等式作为算法指数收敛的充分条件。该矩阵的元素是未知参数(指数衰减率、步长、动量系数等)的多项式函数。然后,我们制定一个多项式优化,其目标是优化指数衰减率的算法的参数。最后,我们使用平方和规划作为一个易于处理的放松建议的多项式最优化问题。我们通过设计一个一阶算法来说明所提出的框架的实用性,该算法与Nesterov的加速梯度法具有相同的结构。
2018-09-23 math.AG math.OC
Exponential Decay in the Sensitivity Analysis of Nonlinear Dynamic Programming
本文研究了具有非线性动态和目标的离散时间动态规划对初始条件和参考参数摄动的敏感性。在一致可控性和有界性的假设下,我们证明了最优状态和控制在时间$k$,$\boldsymbol{x}^*_{k}$和$\boldsymbol{u}^*_{k}$的方向导数,相对于参考信号在时间$i$,$\boldsymbol{d}_{i}$,将有指数衰减的$|k-i|$与衰减率$ρ$的时域长度无关。关键的技术步骤是证明Verschueren等人提出的凸化方法的一个版本可以应用于KKT条件并导致具有一致有界数据的凸二次规划。反过来,Riccati技术可以进一步用于获得灵敏度的结果,从观察到的方向导数是二次规划的解决方案,结构类似于KKT条件本身。我们验证了我们的研究结果与一个小的非线性,非凸,动态程序的数值实验。
2019-12-13 cs.NA cs.SY eess.SY
On the Sample Size of Random Convex Programs with Structured Dependence on the Uncertainty (Extended Version)
ETH Zurich(苏黎世联邦理工学院);UC Berkeley(加州大学伯克利分校);Oxford University(牛津大学)
本文改进了Helly维度的上界,适用于具有特定结构的随机凸程序,从而减少所需场景数量,提升目标值并降低计算复杂度。
2015-08-04 cs.SY eess.SY math.OC
Parameterized algorithms for block-structured integer programs with large entries
本文针对两阶段随机规划和均匀n-fold整数规划,证明即使全局部分矩阵允许任意大条目值,其可行性与线性优化问题仍保持固定参数可解,并给出弱多项式时间算法。
2025-07-17 cs.DS math.OC
RA-DCA: A Randomized Active-Set DCA for Directional Stationarity in Max-Structured DC Programs
Beijing Institute of Mathematical Sciences and Applications(北京数学科学研究院)
针对减去项为光滑凸函数有限最大值的非光滑DC规划,提出随机活动集DCA(RA-DCA),通过投影活动梯度到采样方向并检查采样顶点残差,以概率1保证聚点的方向稳定性。
2026-05-22 cs.AI cs.NA math.NA
A Parameterized Strongly Polynomial Algorithm for Block Structured Integer Programs
$n$ -倍整数规划理论是近年来研究参数化复杂性问题的一个重要工具。$n$倍整数规划(IP)的输入由参数$A$、维数$n$和二进制编码长度$L$的数值数据组成。一段时间以来,已知可以使用$O(n^{g(A)}L)$算术运算在多项式时间内求解这样的程序,其中$g$是参数的指数函数。在2013年,它被证明可以在固定参数易处理(FPT)时间内使用$O(f(A)n^3L)$算术运算来求解单指数函数$f$。这一点,以及一个更快的算法组合$n$折叠IP的特殊情况下,导致了最近的几个突破,在参数化的复杂性调度,stringology,和计算的社会选择。在2015年,它被证明可以使用$O(n^{g(A)})$算术运算在强多项式时间内求解。在这里,我们建立了一个结果,其中包括所有三个上述结果表明,$n$倍IP可以解决强多项式FPT时间使用$O(f(A)n^3)$算术运算。事实上,我们的结果更一般,简要概述如下。- 有一个强多项式算法ILP每当一个所谓的格雷弗最好的预言是可实现的。-格雷弗最好的预言的大类的多阶段随机和树折叠ILP可以实现FPT时间。与之前的预言算法一起,这新显示了两个大类的ILP是强多项式的;相比之下,只有少数几类的ILP是强多项式的。- 我们发现,ILP是FPT参数化的最大系数$\|A\|_\infty$和原始或双重树深度的$A$,这种参数化不能放松,标志着在理解ILP的参数化的复…
2018-02-16 cs.CC cs.DM cs.DS