General Heuristics for Nonconvex Quadratically Constrained Quadratic Programming
我们介绍了一般非凸二次约束二次规划(QCQP)的建议和改进框架。使用这个框架,我们推广了一些已知的方法,并提供了算法来获得近似解QCQP没有专门的方法。我们还介绍了一个开源的Python包QCQP,它实现了本文中讨论的算法。
2017-05-16 math.OC
Large Scale Constrained Linear Regression Revisited: Faster Algorithms via Preconditioning
Department of Computer Science and Engineering(计算机科学与工程系);State University of New York at Buffalo(纽约州立大学布法罗分校)
在本文中,我们重新审视了大规模约束线性回归问题,并根据草图和优化方面的一些最新发展提出了更快的方法。我们的算法结合(加速)小批量SGD与一种新的方法,称为两步预处理,以实现一个近似的解决方案,时间复杂度低于国家的最先进的技术,为低精度的情况下。我们的想法也可以扩展到高精度的情况下,这给出了一个替代的实现迭代Hessian草图(IHS)方法显着改善时间复杂度。在基准数据集和合成数据集上的实验表明,我们的方法在低精度和高精度的情况下确实优于现有的方法。
2018-02-09 cs.LG math.OC stat.ML
Accelerating Stochastic Sequential Quadratic Programming for Equality Constrained Optimization using Predictive Variance Reduction
在本文中,我们提出了一个随机方法来解决等式约束最优化问题,利用预测方差减少。具体来说,我们开发了一种方法的基础上的顺序二次规划范例,采用方差减少梯度近似。在合理的假设下,我们证明了一阶平稳性评估的措施,我们所提出的算法产生的迭代收敛到零的期望从任意的起点,恒定和自适应步长的战略。最后,我们证明了我们提出的算法在机器学习中出现的约束二进制分类问题的实际性能。
2023-03-25 math.OC
Constrained LQR Design Using Interior-Point Arc-Search Method for Convex Quadratic Programming with Box Constraints
虽然经典的LQR设计方法在实际工程设计中取得了很大的成功,但在某些情况下,由于执行器的饱和,经典的设计方法需要修改。这个修改后的问题有时被称为约束LQR设计。对于离散系统,约束LQR设计问题等价于带框约束的凸二次规划问题。我们将表明,邻点法是非常有效的,因为这个问题的初始内点是可用的,一个条件是不成立的一般凸二次规划问题。我们将设计一个有效的和高效的算法约束LQR设计问题使用的特殊结构的盒子约束和最近推出的弧搜索技术的内点算法。我们将证明该算法是多项式的,并具有凸二次规划的最佳已知的复杂性界。该算法在MATLAB中实现。最后给出了约束LQR设计的算例,验证了该方法的有效性。该算法可以很容易地用于模型预测控制。
2013-04-17 math.OC
Set-based state estimation for discrete-time constrained nonlinear systems: an approach based on constrained zonotopes and DC programming
针对具有未知但有界不确定性和状态线性不等式及非线性等式约束的离散非线性动力系统,提出了一种新的状态估计器。我们的算法是基于约束zonotopes(CZ)和DC规划方法(DC代表的凸函数的差异)。最近,均值扩张和一阶Taylor扩张已被应用于非线性映射上的区域扩张。虽然所得到的算法(称为CZMV和CZFO)达到更好的精度比原来的zonotopic版本,他们携带的包装和依赖性的影响,从区间运算继承的敏感性。这些区间问题可以用DC编程来缓解,因为近似误差界是通过求解最优化问题来获得的。这种技术的一个直接好处是消除了依赖效应。我们的集合成员过滤器(称为CZDC)提供了CZMV和CZFO的替代解决方案。为了证明所提出的方法的有效性,CZDC实验上的两个数值例子。
2022-11-10 math.OC
0/1 Constrained Optimization Solving Sample Average Approximation for Chance Constrained Programming
Beijing Jiaotong University(北京交通大学);Shandong University of Technology(山东理工大学);Imperial College London(伦敦帝国学院)
本文提出一种新的方法直接解决机会约束规划的样本平均近似问题,通过建立Bouligand切线和Fréchet正法锥,推导出最优性条件,并设计出具有局部超线性或二次收敛性的半光滑牛顿算法。
2026-04-16 math.OC
Linear Convergence of Randomized Primal-Dual Coordinate Method for Large-scale Linear Constrained Convex Programming
线性约束凸规划有许多实际应用,包括支持向量机和机器学习投资组合问题。我们提出了随机原对偶坐标(RPDC)方法,这是Cohen和Zhu,1984和Zhao和Zhu,2019的一阶原对偶方法的随机坐标扩展,用于求解线性约束凸规划。我们随机选择一个基于均匀分布的变量块,线性化,并将Bregman样函数(核心函数)应用于所选块,以获得简单的并行原始-对偶分解。在强度量次正则条件下,证明了算法的几乎处处收敛性和期望O(1/t)收敛速度,以及期望线性收敛.最后,我们讨论了随机原始-对偶坐标方法的实现细节,并对支持向量机和机器学习组合问题进行了数值实验,以验证其线性收敛。
2020-08-29 math.OC
A Conic Integer Programming Approach to Constrained Assortment Optimization under the Mixed Multinomial Logit Model
本文研究了混合多项logit模型下的约束搭配最优化问题。即使是中等规模的情况下,这个问题是具有挑战性的直接解决使用标准的混合整数线性最优化配方。这促使最近的研究探索定制的优化策略和近似技术。相比之下,我们开发了一种新的圆锥二次混合整数制定。这种新的配方,再加上麦考密克不等式利用容量限制,使大型实例的解决方案,使用商业优化软件。
2017-08-12 math.OC
New bounds for nonconvex quadratically constrained quadratic programming
本文研究了非凸二次约束二次规划的一些界。我们提出了两种类型的二次约束二次规划的界,二次和三次界。对于二次边界,我们使用仿射函数作为拉格朗日乘子。我们证明了大多数半定松弛可以作为二次界的对偶得到。此外,我们研究了通过改变基集得到的界。对于三次边界,除了仿射乘子,我们采用二次函数。我们提供了一个建议的立方界和典型的标准二次规划的界限之间的比较。此外,我们报告的比较结果的二次和立方界的一些非凸二次约束二次规划。
2019-06-03 math.OC
Simultaneous Diagonalization of Matrices and its Applications in Quadratically Constrained Quadratic Programming
二次约束二次规划(QCQP)中同时对角化(SD)的可达性与隐凸性之间的等价性促使我们研究SD的充要条件,这是Hiriart-Urruty(SIAM Rev.,49(2007),pp. 255-273)九年前。本文给出了任意两个实对称矩阵的SD的一个充要条件,并在半定矩阵束存在的假设下,给出了任意有限实对称矩阵集合的SD的一个充要条件。此外,我们应用我们的SD条件QCQP,特别是与一个或两个二次约束,以验证其二阶锥规划松弛的正确性,并促进QCQP的解决过程。
2016-03-02 math.OC
Aggregated occupation measures and linear programming approach to constrained impulse control problems
针对抽象动力系统的约束最优脉冲控制问题,引入了占用测度和聚集占用测度,并给出了两个相关的线性规划.我们证明了在适当的条件下,这两个线性规划是等价的,并且每个线性规划在原脉冲控制问题中产生一个最优策略。
2020-10-24 math.OC
Alternating Direction Method of Multipliers for Truss Topology Optimization with Limited Number of Nodes: A Cardinality-Constrained Second-Order Cone Programming Approach
本文讨论了柔度最小化桁架,其中可用节点的数量是有限的。结果表明,这个最优化问题可以转化为一个具有基数约束的二阶锥规划问题。我们提出了一个简单的启发式的基础上交替方向的乘数方法。所提出的方法的效率进行了比较与基于混合整数二阶锥规划的全局优化方法。数值实验表明,该方法往往找到一个解决方案,具有良好的目标值与小的计算成本。
2017-12-09 math.OC
Quadratic Programming Over Ellipsoids (with Applications to Constrained Linear Regression and Tensor Decomposition)
提出了一种求解椭球上二次规划问题的新算法。这是通过分裂成两个优化子问题,二次规划在一个领域和正交投影的问题。接下来,一个增广拉格朗日算法开发了这个多约束优化。利用球面上的QP可以通过解一个长期方程得到一个封闭的形式,我们得到了长期方程极小值的一个更严格的界。我们也建议从二次约束的矩阵中产生一个新的具有低条件数的PSD矩阵。这种修正方法提高了所提出的增广拉格朗日算法的收敛性。最后,给出了二次约束QP在有界线性回归和张量分解中的应用。
2017-11-13 math.OC
Tight Bound for Sum of Heterogeneous Random Variables: Application to Chance Constrained Programming
研究了一类非齐次变量与自变量之和的紧Bennett型集中不等式,定义为一维极小化。我们表明,这种改进,它优于标准的已知界限,仍然计算上易于处理:我们开发了一个多项式时间算法计算置信区间,证明终止与ε-解决方案。从所提出的不等式,我们推导出严格的分布鲁棒界的机会约束规划问题。为了说明我们的方法的效率,我们考虑两个用例。首先,我们研究了机会约束二元背包问题,并通过获得比经典不等式(例如Chebyshev-Cantelli或Hoeffding)更强的解来强调我们的切割平面方法的效率。其次,我们处理的支持向量机问题,我们得到的凸保守近似提高了分离超平面的鲁棒性,同时保持计算易处理。
2022-11-22 math.OC
Penalized Semidefinite Programming for Quadratically-Constrained Quadratic Optimization
本文对非凸二次约束二次规划给出了一种新的惩罚半定规划方法。我们将惩罚条款的凸松弛的目标,以检索可行的和近最优解的非凸QCQP。引入广义线性无关约束规格(GLICQ)准则,证明了任意充分接近可行集的GLICQ正则点都可以用来构造适当的惩罚项,从而得到可行解.受这些结果的启发,我们开发了一个启发式的顺序程序,保留可行性,旨在提高在每次迭代的目标值。对大规模系统辨识问题以及二次规划(QPLIB)库中的基准实例进行的数值实验表明,所提出的惩罚半定规划能够找到非凸QCQP的近最优解.
2020-04-29 math.OC
A dual-primal balanced augmented Lagrangian method for linearly constrained convex programming
最近,He和Yuan [arXiv:2108.08554,2021]针对具有线性约束的典型凸规划问题提出了一种平衡增广拉格朗日方法(ALM),通过平衡其子问题和改进其实现来改进原始ALM。在这个简短的说明中,我们提出了一个双原始版本的平衡ALM,它通过一个相反的双原始迭代顺序形式上更新了新的递归。该方法继承了原型平衡ALM的所有优点,并且可以在变分不等式的背景下进行收敛性分析。此外,它的数值效率是由基追踪问题证明。
2021-12-28 math.OC
Second Order Cone Constrained Convex Relaxations for Nonconvex Quadratically Constrained Quadratic Programming
本文对非凸二次约束二次规划(QCQP)问题提出了新的凸松弛解。虽然最近的研究集中在加强凸松弛使用重构线性化技术(RLT),国家的最先进的方法失去了他们的有效性时,处理(多个)非凸二次约束QCQP。在这项研究中,我们分解和放松每个非凸约束两个二阶锥(SOC)约束,然后线性化的SOC约束和线性约束的产品,以构建一些有效的新的有效约束。此外,我们扩展了几乎所有不同类型的约束对(包括有效的不等式线性化的产品的SOC约束,和Hadamard产品或Kronecker产品的两个相应的有效的线性矩阵不等式)的RLT类技术的范围,检查不同的有效不等式之间的优势关系,并探索几乎所有的可能性,从生成有效的约束中获益。特别是,我们成功地证明,应用RLT类似的技术,额外的冗余线性约束可以减少松弛间隙。我们证明了我们的结果与数值实验的效率。
2017-09-16 math.OC
An Adaptive Sampling Sequential Quadratic Programming Method for Equality Constrained Stochastic Optimization
本文提出了一种在序列二次规划(SQP)方法中使用变样本量求解等式约束随机最优化问题的方法。本文的第一部分涉及的微妙问题的动态样本选择的梯度结合不精确的解决方案的SQP子问题的评价。在合理假设的质量梯度近似和SQP子问题的解决方案的准确性,我们建立了整体收敛结果所提出的方法。基于这些结果,本文的第二部分描述了一个实用的自适应不精确随机序列二次规划(PAIS-SQP)方法。我们提出的标准控制的样本量和精度的SQP子问题的解决方案的基础上获得的随机梯度近似的方差估计的优化进展。最后,我们展示了一个子集的CUTE问题和约束分类任务的实际方法的性能。
2023-03-21 math.OC
Exploiting Aggregate Sparsity in Second Order Cone Relaxations for Quadratic Constrained Quadratic Programming Problems
在众多提高二次约束二次规划(QCQP)半定规划(SDP)松弛算法计算效率的方法中,Fukuda等人(2001)利用SDP中数据矩阵的聚集稀疏性和二阶锥规划(SOCP)松弛算法是比较流行的方法。在本文中,我们利用聚集稀疏的SOCP松弛的QCQP。具体来说,我们证明了利用聚合稀疏性减少了SOCP松弛中二阶锥的数量,并且我们可以简化Fukuda等人的矩阵完成过程。在SOCP松弛问题的原始和对偶中,而不会失去最大行列式性质。对于数值实验,QCQP从格子图和池化问题进行了测试,因为它们的SOCP松弛提供了相同的最优值的SDP松弛。我们表明,利用聚合稀疏性提高了计算效率的SOCP松弛的SDP松弛相同的目标值,因此更大的问题可以处理建议的SOCP松弛比SDP松弛。
2019-11-06 math.OC
T-semidefinite programming relaxation with third-order tensors for constrained polynomial optimization
针对带多项式不等式约束的多项式优化问题,提出基于三阶张量的T-半定规划松弛方法,证明其可转化为块对角标准半定规划松弛,在适度假设下收敛于最优值,且数值效率更优。
2024-05-14 math.OC
A Sequential Quadratic Programming Method for Constrained Multi-objective Optimization Problems
针对不等式约束的多目标最优化问题,提出了一种全局收敛的序列二次规划方法。通过对所有目标函数和约束函数进行线性逼近,得到了一个可行的下降方向。子问题在序列的每一次迭代中都有可行解。一个不可微的罚函数被用来处理约束违反。在Mangasarian-Fromovitz约束规格和其他一些温和的假设下,生成收敛到临界点的下降序列。该方法与现有的方法选择一组合适的测试问题进行比较。
2020-04-30 math.OC
Distributionally Robust Joint Chance-Constrained Programming with Wasserstein Metric
在本文中,我们开发了一个精确的重新制定和一个确定性近似的分布鲁棒联合机会约束规划(DRCCP)与一般类的凸不确定性约束下的数据驱动Wasserstein模糊集。已知鲁棒机会约束可以保守地近似为最坏情况条件风险价值(CVaR)约束。结果表明,所提出的最坏情况CVaR近似模型可以转化为一个联合DRCCP的双凸约束最优化问题.然后,我们推导出一个凸松弛的近似模型,通过构造新的决策变量,使我们能够消除双凸项。具体地说,当约束函数是仿射的决策变量和不确定性,然后得到的近似模型是相当于一个易于处理的混合整数凸联合二进制DRCCP重新制定。数值结果表明了所提出的公式的计算有效性和优越性。
2022-09-05 math.OC
Nonlinear Programming Solvers for Unconstrained and Constrained Optimization Problems: a Benchmark Analysis
本文提出选择非线性规划求解器的指南,比较23种算法在60个基准问题上的收敛性能,并探讨调整内部设置对速度和准确性的提升。
2022-04-11 math.OC
Stochastic Knapsack Problem Revisited: Switch-Over Policies and Dynamic Pricing
从动态资源分配到电信中的接纳控制,随机背包模型已经被广泛应用。近年来,该模型的变化已成为研究收入管理和动态/灵活定价中出现的问题的基本工具;正是在这种情况下,我们的研究进行。基于动态规划公式和相关属性的价值函数,我们在本文中研究一类控制,我们称之为切换策略-开始只接受最高价格的订单,并切换到包括较低的价格随着时间的推移,切换时间最佳决定通过凸规划。我们建立了切换策略的渐近最优性,并基于此策略开发了定价模型,以优化决策范围内的价格降低。
2007-08-08 math.OC math.PR q-fin.PR
Consensus-ADMM for General Quadratically Constrained Quadratic Programming
非凸二次约束二次规划(QCQP)问题在信号处理、机器学习和无线通信中有着广泛的应用,尽管一般的QCQP是NP难的,并且一些有趣的特殊情况也是NP难的。本文提出了一种新的通用QCQP算法。该问题首先被重新表述为共识优化形式,其中的交替方向法的乘法器(ADMM)可以应用。重新制定是这样一种方式,每个子问题是一个QCQP只有一个约束(QCQP-1),这是有效地解决(非)凸性无关。核心组件经过精心设计,使整个算法更具可扩展性,包括求解QCQP-1的有效方法,内存高效实现,并行/分布式实现和智能初始化。该算法,然后在两个应用程序中进行测试:多播波束形成和相位检索。结果表明优于现有技术的方法的性能。
2016-07-07 math.OC
Distributed Recursion Revisited
本文提出了一种仅含流量变量的池化问题新NLP公式,揭示了DR算法与SLP算法的关系,并据此开发了惩罚DR(PDR)算法,通过在目标函数中惩罚约束违反来提升求解质量,数值实验证明其比经典SLP和DR算法更有效。
2024-11-14 math.OC
Tight semidefinite programming relaxations for sparse box-constrained quadratic programs
Lehigh University(利哈伊大学)
本文提出了一种基于重构线性化技术的紧半正定规划松弛方法,用于解决稀疏盒约束二次规划问题,并给出了多项式规模的可构造性证明。
2026-10-14 math.OC
Asymptotic regularity for Lipschitzian nonlinear optimization problems with applications to complementarity-constrained and bilevel programming
渐近平稳性和正则性条件对于研究标准非线性和互补约束规划的数值解方法的定性性质是非常有用的。在本文中,我们首先将这些概念扩展到非光滑但Lipschitz数据函数的非线性最优化问题,以便在Clarke和Mordukhovich的次微分构造方面找到渐近平稳性和正则性的合理概念。特别是,我们比较相关的新的渐近约束规格与现有的。本文的第二部分介绍了所获得的理论的两个应用。一方面,我们指定我们的互补约束最优化问题的研究结果,并恢复最近的结果,从文献中展示的权力的方法。此外,我们暗示潜在的扩展或消失约束优化。另一方面,我们证明了有用的渐近正则性的上下文中的双层优化。更准确地说,我们证明了一个著名的平稳系统的亲和力约束的双层最优化问题在一个新的方式。之后,我们提出了一种解决这类双层最优化问题的算法,它结合了惩罚方法和DC-规划的思想。经过一个简短的收敛性分析,我们提出了一些数值实验的结果。
2021-09-01 math.OC
Global Complexity Bound of a Proximal ADMM for Linearly-Constrained Nonseperable Nonconvex Composite Programming
提出并分析了求解线性约束非凸最优化问题的阻尼邻近交替方向法(DP.ADMM),其中目标函数的光滑部分不可分. DP.ADMM的每次迭代包括:(i)部分邻近增广拉格朗日(AL)更新的序列,(ii)欠松弛拉格朗日乘子更新,以及(iii)检查AL函数的罚参数是否应该更新的新测试。在基本Slater条件下,对阻尼因子和欠松弛因子有一定的要求,证明了对于给定的数值公差$\varepsilon>0$,DP.ADMM在${\cal O}(\varepsilon^{-3})$迭代中获得了约束问题的一阶稳定点.本文的主要创新之一是,该方法的收敛性,而不需要任何秩的约束矩阵的假设。
2023-01-03 math.OC
A matrix-free interior point continuous trajectory for linearly constrained convex programming
针对线性约束凸规划中内点法变量投影矩阵易病态的问题,本文提出无矩阵的内点增广拉格朗日连续轨迹及相应ODE系统,证明其收敛到原问题最优解,并给出离散算法搜索方向。
2024-12-28 math.OC
Tight SDP relaxations for cardinality-constrained problems
本文用半定规划松弛基数约束投资组合问题,实验证明该松弛产生紧下界且常达最优,凸显半定规划对混合整数二次问题的建模能力。
2024-02-07 math.OC
A penalization approach to linear programming duality with application to capacity constrained transport
本文提出了一种新的求解线性规划对偶问题的方法,它依赖于二次惩罚,使得被惩罚的原问题和对偶问题的解之间的关系成为仿射的。这产生了一个新的证明莱文的对偶定理容量约束最优输运作为一个无限维的应用。
2013-09-12 math.AP math.OC
Sparsity Constrained Minimization via Mathematical Programming with Equilibrium Constraints
稀疏约束最小化在机器学习和信号处理中具有广泛的应用。这类问题是很难解决的,因为它是NP-难的,现有的解决方案主要是基于迭代硬约束保持(IHT)。在本文中,我们考虑了一类连续优化技术的基础上的数学规划与平衡约束(MPEC)解决一般稀疏约束问题。具体来说,我们重新制定的问题作为一个等价的双凸MPEC,我们可以解决使用精确的惩罚方法或交替方向法。我们详细说明了这两种方法的优点,并分析了它们的收敛性。最后,我们证明了我们的方法的有效性和通用性的几个重要问题,包括特征选择,分段回归,MRF优化,趋势滤波和脉冲噪声去除。大量实验表明,我们基于MFEC的方法优于最先进的技术,尤其是基于IHT的技术。
2018-12-28 math.OC
Second-Order Strong Optimality and Second-Order Duality for Nonsmooth Constrained Multiobjective Fractional Programming Problems
本文针对实巴拿赫空间中的非光滑多目标分数规划问题,提出了二阶强最优性条件与对偶性结果,通过广义方向导数建立了蕴含强KKT条件的必要性条件及充分性条件。
2024-03-15 math.OC
Solving Mission-Wide Chance-Constrained Optimal Control Using Dynamic Programming
提出了一种求解任务范围机会约束最优控制问题的动态规划方法。任务范围的机会约束保证整个状态轨迹位于约束/安全区域内的概率高于规定水平,并且不同于在各个时间步长处施加的逐阶段机会约束。控制的目标是找到一个最优的策略序列,实现(i)满足任务范围的机会约束,和(ii)最小化的费用函数。通过拉格朗日方法将逐阶段机会约束问题转化为无约束问题,然后可以部署标准DP。然而,对于MWCC-OCP,这种方法不适用,因为任务范围的机会约束不能很容易地使用逐阶段的机会约束,由于后者之间的时间相关性(单个状态通过系统动态耦合)制定。为了填补这一空白,首先,我们详细说明了一个经典的DP解决方案存在这种类型的问题所需的条件;其次,我们提出了一个DP解决方案的MWCC-OCP通过状态增强通过引入一个额外的功能状态变量。
2022-09-13 math.OC
An inexact proximal DC algorithm with sieving strategy for rank constrained least squares semidefinite programming
本文考虑了用于数据降维(DR)的有监督距离保持投影(SDPP)的最优化问题,该问题等价于秩约束最小二乘半定规划(RCLSSDP)。为了克服秩约束带来的困难,采用凸差分正则化策略,将RCLSSDP转化为一系列带DC正则化的最小二乘半定规划(DCLSSDP).提出了一种带筛选策略的非精确邻近DC算法(s-iPDCA)求解DCLSSDP,其子问题采用加速块坐标下降法(ABCD)求解.收敛性分析表明,生成的s-iPDCA序列全局收敛于相应DC问题的平稳点.通过对COIL-20数据库的DR实验,将s-iPDCA算法与经典的邻近DC算法(PDCA)和PDCA外推算法(PDCAe)进行了比较,结果表明,s-iPDCA算法在求解效率上优于PDCA和PDCAe算法.在ORL数据库和YaleB数据库上进行的DR人脸识别实验表明,秩约束核SDPP(RCKSDPP)与核半定SDPP(KSSDPP)和核主成分分析(KPCA)的识别率相比,具有较好的识别效果。
2021-05-26 math.OC
A dynamic programming approach to solving constrained linear-quadratic optimal control problems
约束线性二次型调节器问题的解由其最优有效集的集合决定。我们提出了一个算法,构造这一组的活动集为所需的地平线N从地平线N-1。虽然如何将时域N-1的最优反馈律本身扩展到时域N并不明显,但存在两个连续时域长度的最优活动集之间的简单关系。具体地,如果约束是逐阶段排序的,则水平N的每个最优活动集是水平N-1的最优活动集的超集。的stagewise处理结果在一个有利的计算工作。此外,如果存在有限时域,该算法很容易检测出当前时域的解等于无限时域的解。
2019-10-24 math.OC
Random-Subspace Sequential Quadratic Programming for Constrained Zeroth-Order Optimization
Massachusetts Institute of Technology(麻省理工学院)
本文提出了一种结合两点方向估计与低维SQP更新的零阶随机子空间序列二次规划方法,用于解决仅能获取目标函数和约束函数评估的非线性约束优化问题,通过降低维度提升计算效率与约束满足精度。
2026-04-02 math.OC
A Primal-Dual Partial Inverse Splitting for Constrained Monotone Inclusions: Applications to stochastic Programming and Mean Field Games
在这项工作中,我们研究了约束单调包含涉及法锥到一个封闭的向量子空间和先验信息的原始解决方案。我们模型的解决方案属于不动点集的平均非扩张映射的信息。我们使用一个辅助包含,涉及部分逆算子的解决方案的特点。然后,我们提出了原始-对偶部分逆分裂,并证明了其弱收敛到包含解,推广了文献中的几种方法。两个约束条件具有向量子空间结构的非光滑凸优化问题的算例表明了该方法的有效性。最后,将该算法应用于求解运输网络中的随机弧容量扩展问题。
2021-10-29 math.OC
Constrained Discrete Black-Box Optimization using Mixed-Integer Programming
离散黑箱最优化问题对于基于模型的优化(MBO)算法(例如贝叶斯优化)来说是具有挑战性的,这是由于搜索空间的大小和需要满足组合约束。特别地,这些方法需要在内部循环中重复地求解复杂的离散全局最优化问题,其中流行的启发式内部循环求解器引入近似并且难以适应组合约束。作为回应,我们提出了NN+MILP,一个通用的离散MBO框架,使用分段线性神经网络作为代理模型和混合整数线性规划(MILP)优化采集功能。MILP为特定领域的约束提供了最优性保证和通用的声明语言。我们测试我们的方法在一系列无约束和约束的问题,包括DNA结合,约束二进制二次问题的MINLPLib基准,和NAS-Bench-101神经架构搜索基准。NN+MILP超越或匹配黑盒算法的性能,针对手头的约束条件定制,仅使用标准软件包和硬件即可在几分钟内运行全局优化的采集问题。
2022-06-14 math.OC
Approximate Constrained Discounted Dynamic Programming with Uniform Feasibility and Optimality
本文针对带一致可行性约束的无限时域折扣CMDP,提出一种动态规划方程,证明由其构造的策略在所有状态上达到最优值,并基于策略迭代思想设计了具有局部收敛性的离线和在线算法。
2023-08-07 math.OC
Optimistic Noise-Aware Sequential Quadratic Programming for Equality Constrained Optimization with Rank-Deficient Jacobians
本文提出一种乐观噪声感知序列二次规划算法,通过步长分解策略处理秩亏Jacobian等式约束下的含噪优化问题,并证明其收敛到稳定点邻域。
2025-03-09 math.OC
A Scalable Frank-Wolfe based Augmented Lagrangian Method for Linearly Constrained Composite Convex Programming
本文研究了大规模线性约束复合凸优化问题,其目标函数为一个光滑函数和一个可能非光滑函数之和。我们提出了一个可扩展的\textbf{F}秩- \textbf{W} olfe基于\textbf{A}的增广\textbf{L}拉格朗日(FW-AL)方法来解决这个问题。在每一次迭代中,所提出的FW-AL方法采用FW方法(或其变体)在预先选定的公差内近似求解AL子问题{(具有固定的拉格朗日乘子)},然后更新拉格朗日乘子。所提出的FW-AL方法非常适合于解决大规模问题,因为其每步的计算成本(基本上)与输入的大小呈线性关系。我们分析了所提出的FW-AL方法的非遍历收敛速度。
2015-10-12 math.OC
A Dynamic Programming Principle for Distribution-Constrained Optimal Stopping
我们考虑一个最优停止问题,其中一个约束被放置在分布上的停时。将问题转化为测度值鞅,将边际约束转化为初始条件,将问题视为随机控制问题,建立了相应的动态规划原理.
2017-03-24 math.OC q-fin.MF
Analysis of Sequential Quadratic Programming through the Lens of Riemannian Optimization
证明了求解等式约束优化问题的“一阶”序列二次规划(SQP)算法具有以速度$κ_R$局部线性收敛性和以速度$k^{-1/4}$整体收敛性.我们的分析建立在黎曼优化的基础上-我们表明SQP和黎曼梯度法在约束流形附近具有几乎相同的行为,这对于理解约束优化可能具有更广泛的意义。
2019-01-31 math.OC
Semidefinite Programming For Chance Constrained Optimization Over Semialgebraic Sets
在本文中,“机会优化”的问题,其中一个目的是最大化的概率由多项式不等式定义的集合。这些问题,在一般情况下,非凸和计算困难。与发展系统的数值程序来解决这些问题的目的,凸松弛序列的措施和矩的理论的基础上,其序列的最优值收敛到原问题的最优值。事实上,我们提供了一个序列的半定方案的增加的维度,可以任意近似的解决方案的原始问题。为了能够有效地解决由此产生的大规模半定松弛,一阶增广拉格朗日算法实现。数值例子来说明所提出的方法的计算性能。
2015-05-09 math.OC
On Linear Programming for Constrained and Unconstrained Average-Cost Markov Decision Processes with Countable Action Spaces and Strictly Unbounded Costs
University of Alberta(阿尔伯塔大学)
针对具有Borel状态空间和可数行动空间的平均成本MDP,在严格无界成本条件和新的随机核优控条件下,研究无限维线性规划,证明无对偶间隙等最优性结果。
2021-04-18 math.OC
A Linear Programming Formulation for Constrained Discounted Continuous Control for Piecewise Deterministic Markov Processes
本文研究了一般Borel空间中分段确定马尔可夫过程(PDMP)的约束折扣控制问题。控制变量作用于跳变率和转移测度,目标是最小化由正运行成本和边界成本组成的总期望贴现成本,同时满足这种形式的一些约束。其基本思想是,通过使用PDMP的特殊功能,重写的问题,通过一个嵌入的离散时间马尔可夫链相关联的的PADMP和重新制定的问题作为一个无限维线性规划(LP)的问题,通过占用措施相关联的离散时间过程。重要的是要强调,然而,我们的新的离散时间问题是不是在一个一般的约束离散时间马尔可夫决策过程的相同的框架,由于这一点,需要一些条件来获得连续时间问题和LP公式之间的等价性。在[8]中定理4.1的推广的基础上,我们在下一章中给出了相关线性规划问题可解的充分条件。在附录中,我们提出了这个推广的证明,我们相信,它本身是有趣的。最后,通过一些例子说明了所得结果。
2014-02-25 math.OC
An Approach to Constrained Polynomial Optimization via Nonnegative Circuit Polynomials and Geometric Programming
在这篇文章中,我们结合了多项式优化的两个发展。一方面,我们考虑基于非负回路多项式之和的非负性证书,这是第二和第三作者最近提出的。另一方面,我们研究了约束多项式最优化问题的几何规划方法,这是最近由Ghasemi和Marshall发展起来的。我们表明,这两个结果的组合产生一个新的方法来解决某些类的约束多项式最优化问题。我们测试的新方法实验和比较它的半定规划在各种例子。
2018-06-05 math.AG math.OC
Sparse Quadratically Constrained Quadratic Programming via Semismooth Newton Method
本文提出一种基于P-稳定性和半光滑牛顿法的直接求解稀疏二次约束二次规划问题的高效算法,具有低计算复杂度和局部二次收敛性,数值实验验证了其准确性与效率。
2025-10-08 math.OC
A Sequential Cubic Programming Method with Second-Order Complexity Guarantees for Equality Constrained Optimization
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出一种基于序列三次规划框架的新方法,通过将约束雅可比分解为法向和切向分量,结合三次正则化子问题求解,实现全局收敛到二次 stationary 点和局部二次收敛,取得梯度、二次 stationary 和约束违反的最优复杂性界。
2026-04-03 math.OC
Linear Programming Relaxations of Quadratically Constrained Quadratic Programs
我们研究了使用线性规划工具来解决二次约束二次问题的半定规划松弛。给出了一类有效的线性不等式,包括稀疏PSD割和主子式PSD割.基于文献中的实例计算结果。
2012-06-07 cs.DM math.CO math.OC
Extending Exact Convex Relaxations of Quadratically Constrained Quadratic Programs
本文针对凸松弛精确的二次约束二次规划,在不相交二次约束条件下加入额外约束,统一扩展了三类精确凸松弛方法,并通过示例验证了结果的适用性。
2025-10-22 math.OC
APP-Hom Method for Box Constrained Quadratic Programming
基于求解箱约束二次规划(BQP)问题的邻近点(PP)算法的$Q$ -线性收敛性分析和线性收敛因子估计,提出了求解BQP问题的加速邻近点(APP)算法.针对APP算法中每步求解的严格凸BQP问题,给出了一种跟踪参数二次规划解路径的同伦方法。以APP算法为外迭代,同伦方法为内迭代的算法称为APP-Hom。内部同伦方法是有效的,通过实施,一个热启动技术的基础上的加速近端梯度(APG)的方法,一个$\varepsilon$ -松弛技术检查素数和对偶的可行性和确定/校正的活动集。对随机生成的稠密和稀疏BQP、图像去模糊产生的BQP、SVM中的BQP以及离散化障碍问题、弹塑性扭转问题和滑动轴承问题的数值试验表明,APP算法比PP算法所需的步骤少得多,同伦方法对严格凸BQP非常有效,因此,APP-Hom对非凸BQP非常有效。
2020-01-14 math.OC