Sequential Convex Programming for Optimal Line of Sight Steering in Agile Missions
机载自主和航天器最小化的趋势,通过最佳利用有限的扭矩资源,在有效的视线管理的进步提出了显着的潜力。在SENER Aeroespacial,我们正在实施AOCS算法,能够在不同的观察场景中提供敏捷性,在这些场景中,资源的利用是任务成功的基础。在这方面的贡献,我们提出了一个内部的优化工具箱,板载指导,SENER优化工具箱,我们建议使用在线姿态指导的敏捷航天器使用控制力矩陀螺仪。我们提出了不同的优化方案的基础上顺序凸规划,旨在减少实时实现的计算负担。结果突出了使用嵌入式最优控制进行快速回转机动时性能改善的潜力:与建议的计划,我们找到的解决方案,隐式管理奇点,比经典的砰砰机动快12.2%,同时增加轨迹的平滑度,以尽量减少灵活模式的激励。
2022-06-13 cs.SY eess.SY math.OC
Optimal Science-time Reorientation Policy for the Comet Interceptor Flyby via Sequential Convex Programming
European Space Agency, ESTEC(欧洲航天局,欧洲空间研究与技术中心);Vitrociset Belgium S.R.L.(比利时维特罗塞特有限责任公司)
本文提出一种基于序列凸优化的方法,用于在高速飞越任务中优化航天器的再定向策略,以最大化科学仪器的观测时间,同时考虑非线性动力学、太阳遮挡约束和反应轮的扭矩与动量限制。
2021-05-19 cs.SY eess.SY math.OC
Risk-Sensitive Model Predictive Control for Interaction-Aware Planning -- A Sequential Convexification Algorithm
本文针对人机交互场景中具有决策依赖分布的随机系统,提出一种风险敏感模型预测控制的序列凸化算法,通过推导目标函数与碰撞避免惩罚项的凸上界,将非凸最优控制问题转化为一系列凸问题高效求解,并在机器人导航仿真中验证了其有效性与计算优势。
2025-05-30 cs.SY eess.SY math.OC
Sequential Piecewise Linear Programming for Convergent Optimization of Non-Convex Problems
提出了一种顺序分段线性规划方法,其中在算法的每次迭代中,非凸函数的有界域关于分段线性规划的解连续收缩。虽然可行性和最优性不能保证,我们表明,该方法是能够获得收敛和最优解的一些非线性规划(NLP)和混合非线性非线性规划(MINLP)问题,只使用少量的断点和整数变量。
2020-04-20 math.OC
Deterministic Multistage Constellation Reconfiguration Using Integer Programming and Sequential Decision-Making Methods
本文针对多阶段星座重构问题提出整数线性规划公式以获取最优解,并设计基于短视策略和滚动时域的序贯决策方法以提升大规模实例的计算效率,通过飓风哈维案例验证了多阶段重构的优越性。
2024-09-04 cs.SY eess.SY math.OC
Superlinear and quadratic convergence of a stabilized sequential quadratic semidefinite programming method for nonlinear semidefinite programming problems
本文提出一种稳定化SQSDP方法求解非线性半定规划,在严格Robinson约束规范和二阶充分条件下证明了其超线性与二次局部收敛性。
2024-03-18 math.OC
Sequential Henig proper optimality conditions for multiobjective fractional programming problems via sequential proper subdifferential calculus
本文在没有任何约束规格的情况下,利用函数的$ε$ -次微分和次微分,给出了约束多目标分式规划问题存在Henig正常有效解的序列最优性充要条件.这是通过采用序列Henig次微分规则的总和$m \ (m\geq 2)$正常的凸向量值映射与两个凸向量值映射的组合。为了举例说明本文的主要结果,我们在Moreau-Rockafellar条件下建立了经典的最优性条件。我们的主要结果是在自反巴拿赫空间中给出的,避免了网的使用。
2023-02-20 math.OC
Analysis of Sequential Quadratic Programming through the Lens of Riemannian Optimization
证明了求解等式约束优化问题的“一阶”序列二次规划(SQP)算法具有以速度$κ_R$局部线性收敛性和以速度$k^{-1/4}$整体收敛性.我们的分析建立在黎曼优化的基础上-我们表明SQP和黎曼梯度法在约束流形附近具有几乎相同的行为,这对于理解约束优化可能具有更广泛的意义。
2019-01-31 math.OC
Analysis of Theoretical and Numerical Properties of Sequential Convex Programming for Continuous-Time Optimal Control
Université Paris-Saclay(巴黎萨克雷大学);Centre National de la Recherche Scientifique (CNRS)(法国国家科学研究中心);CentraleSupélec(巴黎中央理工-高等电力学院);Stanford University(斯坦福大学)
序列凸规划(SCP)作为求解最优控制问题的一种有效方法,近年来得到了广泛的应用。然而,SCP的理论分析得到了相对有限的关注,它往往是局限于离散时间配方。在本文中,我们提出了一个统一的理论分析一类相当普遍的SCP程序的连续时间最优控制问题。除了在连续时间设置的收敛保证的推导,我们的分析揭示了两个新的数值和实际的见解。首先,我们展示了如何可以更容易地占流形型约束,这是一个定义功能的机械系统的最优控制。其次,我们展示了如何利用我们的理论分析,以加速SCP为基础的最优控制方法注入技术间接最优控制。
2022-09-03 cs.RO cs.SY eess.SY
Sequential constant rank constraint qualifications for nonlinear semidefinite programming with applications
对非线性半定规划提出了新的约束规格条件,推广了非线性规划中的常秩型条件。作为这些条件的应用,我们在不假设Lagrange乘子唯一性和Lagrange乘子集有界的情况下,给出了一类算法到平稳点的整体收敛的统一证明.这类算法包括,例如,一般形式的增广拉格朗日,序列二次规划,和内点方法。我们还比较了这些新的条件与一些现有的,包括非退化条件,罗宾逊的约束规格,和度量次正则性约束规格。
2021-06-07 math.OC
Adaptive Mirror Descent Methods for Convex Programming Problems with delta-subgradients
本文提出了求解具有增量次梯度的凸规划问题的自适应镜像下降方法,并证明了一些理论结果。
2020-12-23 math.OC
Solving Underdetermined Boundary Value Problems By Sequential Quadratic Programming
对技术系统建模的常微分方程通常包含被认为对系统是危险的状态。达到这种状态的轨迹通常表明设计中存在缺陷。在本文中,我们提出并研究了一种算法,找到这样的轨迹的属性。也就是说,对于给定的常微分方程,该算法找到起源于一组状态并到达另一组状态的轨迹。该算法是基于序列二次规划适用于正则化最优化问题得到的多次射击。
2016-10-04 math.OC
A sequential linear programming (SLP) approach for uncertainty analysis-based data-driven computational mechanics
提出了一种基于不确定性分析的数据驱动计算力学(UA-DDCM)的序列线性规划算法(SLP)。通过假设嵌入在指定数据集后面的不确定性本构关系可以通过局部数据点的凸组合来表征,可以通过非常有效地求解一系列线性规划问题来找到与给定数据集相关的结构响应的上界和下界,这对于工程设计中的决策更有价值。数值算例表明了该方法在稀疏数据集上的有效性,以及对数据集中噪声和离群点的鲁棒性。
2022-11-08 math.OC
A Method to Guarantee Local Convergence for Sequential Quadratic Programming with Poor Hessian Approximation
序列二次规划(SQP)是求解非线性最优化问题的一类强有力的算法。当用于每个二次规划子问题的Hessian逼近接近于真Hessian时,SQP算法的局部收敛性得到保证。然而,一个好的海森近似计算起来可能很昂贵。低代价Hessian近似在某些假设下只能保证局部收敛,而实际情况并不总是满足这些假设。为了解决这个问题,本文提出了一种简单的方法来保证局部收敛的SQP与不良的Hessian逼近。数值算例表明了该算法的有效性。
2017-04-10 math.OC
Adjoint-based predictor-corrector sequential convex programming for parametric nonlinear optimization
本文提出了一种求解参数最优化问题的算法框架,我们称之为基于伴随的预测-校正序列凸规划。在给出算法的基础上,我们证明了一个收缩估计,保证了算法的跟踪性能。该算法的两个变种进行了研究。第一种方法可用于解决非线性规划问题,而第二种方法则用于在线处理参数非线性规划问题。证明了这些变式的局部收敛性。一个大规模的基准问题,源于水电站的非线性模型预测控制的应用程序来检查算法的性能。
2011-09-13 math.OC
A Sequential Quadratic Programming Method for Optimization with Stochastic Objective Functions, Deterministic Inequality Constraints and Robust Subproblems
本文将鲁棒序列二次规划方法推广到随机目标函数与确定性约束问题,结合随机线搜索全局化步长,并证明算法几乎必然收敛到KKT点。
2024-10-04 math.OC
Robust Truss Topology Optimization via Semidefinite Programming with Complementarity Constraints: A Difference-of-Convex Programming Approach
针对不确定静态外载荷的桁架结构鲁棒拓扑优化问题可以用混合整数半定规划来描述。虽然用分支定界法可以求出全局最优解,但它非常耗时。本文提出了一种替代提法,半定规划互补约束,并提出了一个有效的启发式。所提出的方法是基于DC(凸差分)规划的凹凸过程。结果表明,该方法往往能在求解几十个凸优化子问题的计算量内找到一个实际合理的桁架设计。
2017-12-09 math.OC
Disciplined Convex-Concave Programming
本文将约束凸规划(DCP)和凸-凹规划(CCP)的思想结合起来,提出了约束凸-凹规划(DCCP).凸-凹规划是一种有组织的启发式算法,用于解决涉及凸项和凹项之和的目标和约束函数的非凸问题。DCP是定义凸优化问题的一种结构化方法,基于一族基本凸和凹函数以及一些组合它们的规则。使用DCP表示的问题可以自动转换为标准式并由通用求解器求解;广泛使用的实现包括YALMIP、CVX、CVXPY和Convex. jl。在本文中,我们提出了一个框架,结合了这两个想法,并包括两个改进以前发表的工作凸-凹规划,特别是处理域的功能,和不可微的边界上的域的问题。我们描述了一个名为DCCP的Python实现,它扩展了CVXPY,并给出了示例。
2016-04-10 math.OC
Sequential Convex Programming for Collaboration of Connected and Automated Vehicles
本文研究了多个连接和自动驾驶车辆(CAV)在不同场景下的协作。在一般情况下,CAV的合作可以制定为一个非线性和非凸模型预测控制(MPC)的问题。大多数现有的方法可用于解决这样的最优化问题的缺点是相当大的计算负担,这阻碍了实际的实时实现。本文提出了使用顺序凸规划(SCP),这是一个强大的方法来解决非线性和非凸MPC问题的实时。为了适当地部署的方法,作为第一阶段,SCP需要线性化和离散化时,充分解决系统模型的非线性动态。通过线性化和离散化,将原MPC问题转化为二次约束二次规划(QCQP)问题。此外,SCP还涉及凸化处理相关的非凸约束。因此,非凸QCQP可以减少到一个二次规划(QP)的问题,可以解决得相当快。因此,尽管存在非线性和非凸特性,但计算效率得到适当提高,从而实时实现该实现。最后,在三种不同的自动驾驶场景下进行了仿真实验,验证了所提方法的有效性。
2022-07-25 cs.MA cs.SY eess.SY
Towards safe and tractable Gaussian process-based MPC: Efficient sampling within a sequential quadratic programming framework
ETH Zürich(苏黎世联邦理工学院);ETH AI center(苏黎世联邦理工学院人工智能中心)
针对现有GP-MPC方法可达集近似过于保守或削弱安全保证的问题,提出鲁棒GP-MPC公式及序列二次规划框架内的采样方法,实现高概率约束满足与实时可行计算。
2024-09-13 cs.LG cs.SY eess.SY
On Low-Rank Convex-Convex Quadratic Fractional Programming
提出了一种求解目标函数为低秩二次型与正定二次型之比的凸约束分式规划问题的有效算法。所提出的算法,这些凸-凸问题的基础上,申-余二次变换,发现凹凸比和问题的稳定点。我们进一步使用[arXiv:1802.10192]中提出的算法元素和经典的Dinkelbach方法来确保收敛。我们表明,我们的算法比以前的低秩问题的算法性能更好。
2023-01-26 math.OC
Variance Reduction for Sequential Sampling in Stochastic Programming
本文研究了用于随机规划序贯抽样的方差缩减技术--对立变量(AV)和拉丁超立方抽样(LHS),并给出了计算比较。给出了具有AV和LHS的序贯抽样满足有限停止保证和渐近有效的条件,并详细讨论了LHS。它计算比较它们的使用顺序和非顺序设置通过一组两阶段的随机线性规划具有不同的特点。数值结果表明,虽然AV和LHS可以优选随机抽样在任何一种设置,LHS通常占主导地位的非顺序设置,同时执行良好的顺序和AV获得一些优势,在顺序设置。这些结果意味着,鉴于这些方差减少技术的实施容易,配备了相同的理论属性和改进的经验性能相对于随机抽样,AV和LHS顺序程序在实践中提出了有吸引力的替代品一类随机程序。
2020-10-16 math.OC stat.ME
Logspace Sequential Quadratic Programming for Design Optimization
通过改进经典的序列二次规划(SQP)算法,提出了一种利用对数凸结构的新方法。改进后的对数空间序列二次规划算法(Logspace Sequential Quadratic Programming,LSQP)继承了对数凸规划方法(如几何规划和符号规划)的计算效率,但保留了SQP黑盒分析方法的自然集成。其结果是,实现了显着的计算节省,而不需要侵入性地修改现有的黑盒分析方法在实际设计问题中普遍存在。在这里考虑的情况下,与SQP相比,LSQP算法的迭代次数减少了40-70%。
2021-12-21 cs.CE math.OC
An Improved Sequential Quadratic Programming Algorithm for Solving General Nonlinear Programming Problems
本文讨论了一类带有不等式和等式约束的一般非线性规划问题。首先,将原问题转化为一个仅含不等式约束的简单等价问题。然后,受序列二次规划(SQP)方法和线性方程组(SLE)方法思想的启发,提出了一种求解原问题的新型SQP算法。在每次迭代中,搜索方向由两个方向的组合产生,这两个方向分别通过求解总是可行的二次规划(QP)子问题和SLE获得。为了克服Maratos效应,通过求解另一个系统方程组得到高阶修正方向。这两个SLE具有相同的系数矩阵,并且我们只需要在有限次迭代之后求解其中一个。通过一种新的线搜索技术,在适当的假设条件下,该算法具有全局收敛性和超线性收敛性。最后,一些比较数值结果表明,该算法是有效的和有前途的。
2012-12-18 math.OC
Sequential Convex Programming Methods for A Class of Structured Nonlinear Programming
University of Minnesota(明尼苏达大学)
本文研究一类结构化非线性规划问题,提出序列凸规划方法,并证明生成序列的聚点为KKT点。
2022-06-17 cs.NA math.NA math.OC
A strong second-order sequential optimality condition for nonlinear programming problems
针对非线性规划中约束规范不满足时现有二阶序列最优性条件仍具限制性的问题,提出无需约束规范的新强二阶序列最优性条件,并证明惩罚型与增广拉格朗日方法可生成满足该条件的点。
2025-03-03 math.OC
Accelerating Stochastic Sequential Quadratic Programming for Equality Constrained Optimization using Predictive Variance Reduction
在本文中,我们提出了一个随机方法来解决等式约束最优化问题,利用预测方差减少。具体来说,我们开发了一种方法的基础上的顺序二次规划范例,采用方差减少梯度近似。在合理的假设下,我们证明了一阶平稳性评估的措施,我们所提出的算法产生的迭代收敛到零的期望从任意的起点,恒定和自适应步长的战略。最后,我们证明了我们提出的算法在机器学习中出现的约束二进制分类问题的实际性能。
2023-03-25 math.OC
Stochastic Dynamic Linear Programming: A Sequential Sampling Algorithm for Multistage Stochastic Linear Programming
多阶段随机规划处理的经营和规划问题,涉及一系列的决策随着时间的推移,同时响应实现是不确定的。多阶段随机线性规划(MSLP)问题的算法通常依赖于场景树来表示底层的随机过程。当这一过程表现出阶段独立性,抽样为基础的技术,特别是随机对偶动态规划(SDDP)算法,已得到广泛接受。然而,这些基于采样的方法仍然使用所谓的样本平均近似的问题的确定性表示。在这项工作中,我们提出了一个序贯抽样的方法,允许决策过程吸收新的采样数据递归MSLP问题。我们把这种方法称为随机动态线性规划(SDLP)算法。由于我们使用序贯抽样,该算法不需要先验表示的不确定性,无论是通过一个场景树或样本平均近似,这两个都需要知识/估计的基础分布。在这方面,SDLP是解决MSLP问题的序贯抽样方法。该方法构成了两阶段SLP模型的随机分解(SD)的推广。我们采用二次正则化的最优化问题的非终端阶段。此外,我们引入了基本可行的政策,提供了一个分段仿射的解决方案发现计划,这是嵌入在优化算法,以确定用于正则化现任解决方案的概念。最后,我们证明了SDLP算法提供了一个序列的决定和相应的价值函数估计沿一系列的状态轨迹,渐近收敛到他们的最佳对手,概率为1。
2020-10-23 math.OC
GuSTO: Guaranteed Sequential Trajectory Optimization via Sequential Convex Programming
Stanford University(斯坦福大学)
序列凸规划(SCP)作为一种轨迹优化的工具,最近引起了人们极大的兴趣.然而,大多数可用的方法缺乏严格的性能保证,并且它们通常针对特定的最优控制设置。本文提出了GuSTO(Guaranteed Sequential Trajectory Optimization)算法框架,用于求解具有漂移的仿射控制系统的轨迹最优化问题。GuSTO概括了早期基于SCP的轨迹优化方法(通过解决目标集约束和具有固定或自由最终时间的问题),并在收敛到至少一个稳定点方面享有理论收敛保证。进一步利用理论分析,设计一个加速实施的GuSTO,它最初注入的想法,从间接最优控制到SCP的上下文中。在各种轨迹优化设置上的数值实验表明,GuSTO在成功率、解决方案质量和计算时间方面通常优于当前最先进的方法。
2019-03-01 cs.RO math.OC
A second-order sequential optimality condition for nonlinear second-order cone programming problems
本文为非线性二阶锥规划问题显式定义了AKKT2和CAKKT2二阶序列最优性条件,证明其在无约束规范下于局部最优点成立,并给出两种全局收敛算法。
2025-01-24 math.OC
A recursively feasible and convergent Sequential Convex Programming procedure to solve non-convex problems with linear equality constraints
提出了一种求解线性等式约束非凸规划问题的计算有效方法。该方法是基于一个递归可行的和下降的顺序凸规划过程证明收敛到一个局部最优解。假设序列中的第一个凸问题是可行的,这些性质是通过凸化的非凸成本和不等式约束与内凸近似。此外,一个计算效率高的方法来获得基于泰勒级数展开的内凸近似。这些基于泰勒的内凸近似提供了具有二次收敛速率的整体算法。所提出的方法是能够解决的实际感兴趣的实时问题。这是说明了一个数值模拟的飞行器轨迹最优化问题上的商用的货架嵌入式计算机。
2018-10-24 math.OC
A Method of Sequential Log-Convex Programming for Engineering Design
针对工程设计问题中存在的对数凸结构,提出了一种序列对数凸规划(SLCP)方法。将几何规划(GP)的数学结构与序列二次规划(SQP)的能力相结合,以适应广泛的目标和约束函数,从而产生一种实用的算法,该算法可以在很少或不修改现有设计实践的情况下被采用。通过三个算例验证了SLCP算法的有效性,并与SQP算法和改进的对数空间序列二次规划(LSQP)算法进行了比较。在这些情况下,与SQP相比,SLCP的迭代次数减少了77%,与LSQP相比减少了11%。翼型分析代码XFOIL被集成到一个案例研究中,以显示如何SLCP可以被用来发展的保真度的设计问题,最初被建模为GP兼容。最后,简要讨论了基于GP和SLCP的设计方法。
2022-01-20 cs.CE math.OC
A Sequential Quadratic Programming Method for Constrained Multi-objective Optimization Problems
针对不等式约束的多目标最优化问题,提出了一种全局收敛的序列二次规划方法。通过对所有目标函数和约束函数进行线性逼近,得到了一个可行的下降方向。子问题在序列的每一次迭代中都有可行解。一个不可微的罚函数被用来处理约束违反。在Mangasarian-Fromovitz约束规格和其他一些温和的假设下,生成收敛到临界点的下降序列。该方法与现有的方法选择一组合适的测试问题进行比较。
2020-04-30 math.OC
A convex programming approach to solve posynomial systems
我们展示了一类经典的或热带的正项方程组,可以通过减少线性或凸规划问题来解决。这依赖于一个关于牛顿多面体集合的彩色向量的概念。这扩展了单局随机对策的凸规划方法。
2020-05-14 math.CO math.OC
A Quadratically Convergent Sequential Programming Method for Second-Order Cone Programs Capable of Warm Starts
针对线性二阶锥规划,提出基于序列二次规划框架的新方法,利用多面体外逼近克服不可微性,支持热启动并实现局部二次收敛,精度优于内点法。
2023-07-28 math.OC
Convex programming with fast proximal and linear operators
我们提出了Epperly,一般凸规划使用快速线性和邻近算子的系统。与现有的凸规划框架一样,用户使用数学表达式的自然语法来指定凸优化问题,以通过有纪律的凸规划规则保证凸性的方式组合函数。给定这样的输入,Epperly编译器将最优化问题转换为数学上等价的形式,仅由具有有效近似运算符的函数组成-我们将这种中间表示称为仿射形式。通过将问题简化为这种形式,Epperly可以使用快速近似和线性算子的大型库来解决一般凸问题;统计和机器学习中许多流行问题的数值示例表明,与基于圆锥解算器的现有方法相比,这通常会将运行时间提高数量级或更多。
2015-11-16 math.OC
Analogues of Switching Subgradient Schemes for Relatively Lipschitz-Continuous Convex Programming Problems
最近,Yu选择了一些特定类别的非光滑和非Lipschitz凸优化问题。Nesterov与H.~陆我们考虑目标函数和函数约束具有相似光滑条件的凸规划问题。我们引入了一个新的概念,一个不精确的模型,并提出了一些类似的切换次梯度计划的凸规划问题的相对Lipschitz连续的目标函数和功能的限制。研究了一类在线凸优化问题。所提出的方法是最优的最优化问题类相对Lipschitz连续的目标和功能的约束。
2021-05-06 math.OC
An Adaptive Sampling Sequential Quadratic Programming Method for Equality Constrained Stochastic Optimization
本文提出了一种在序列二次规划(SQP)方法中使用变样本量求解等式约束随机最优化问题的方法。本文的第一部分涉及的微妙问题的动态样本选择的梯度结合不精确的解决方案的SQP子问题的评价。在合理假设的质量梯度近似和SQP子问题的解决方案的准确性,我们建立了整体收敛结果所提出的方法。基于这些结果,本文的第二部分描述了一个实用的自适应不精确随机序列二次规划(PAIS-SQP)方法。我们提出的标准控制的样本量和精度的SQP子问题的解决方案的基础上获得的随机梯度近似的方差估计的优化进展。最后,我们展示了一个子集的CUTE问题和约束分类任务的实际方法的性能。
2023-03-21 math.OC
An Almost Feasible Sequential Linear Programming Algorithm
本文提出一种两阶段几乎可行序列线性规划算法afSLP,通过容差管方法改进FSLP的局限性,并在SCARA机器人优化问题上验证其优于FSLP和IPOPT。
2024-01-24 math.OC
Dynamic programming in convex stochastic optimization
本文研究了Rockafellar和Wets在[30]中提出的一般凸随机最优化问题的动态规划原理。我们通过放松紧性和有界性假设扩展了理论的适用性。在金融数学的背景下,放松的假设满足著名的无套利条件和合理的渐近弹性条件的效用函数。除金融数学外,我们还在线性和非线性随机规划以及随机最优控制方面得到了一些新的结果。
2022-03-31 math.OC
Kuhn-Tucker conditions for a convex programming problem in Banach spaces partially ordered by cone with empty interior
在强一致性条件下,得到了内部为空锥的半序巴拿赫空间中数学规划问题的Kuhn-Tucker条件.当偏序锥有内点时,证明了Slater条件与强序锥条件是等价的.
2011-02-12 math.OC
Locally Feasibly Projected Sequential Quadratic Programming for Nonlinear Programming on Arbitrary Smooth Constraint Manifolds
受非线性约束约束的高维非线性最优化问题可以出现在包括约束物理和动力系统、统计估计和其他数值模型在内的多种环境中。如果目标函数仅在可行集上定义,或者如果在使用不可行优化例程期间出现与价值函数或不可行终止相关的数值困难,则可行优化例程有时可能是有价值的。借鉴黎曼优化和序列二次规划的文献,构造了一个实用的算法进行可行优化的任意隐式定义的约束流形。具体地,利用$n$(潜在有界约束)变量和$m < n$非线性约束,每个外部优化循环迭代涉及单个$O(nm^2)$触发器因式分解,并且构造涉及$O(nm)$触发器内部循环迭代的计算上有效的撤回。使用Julia语言创建了一个软件包LFPSQP.jl,该软件包利用了自动微分和投影共轭梯度法,用于不精确/截断牛顿步骤。
2021-11-05 cs.MS math.OC
A Sequential Quadratic Programming Method with High Probability Complexity Bounds for Nonlinear Equality Constrained Stochastic Optimization
本文提出一种步长搜索序列二次规划方法,在仅能获得目标函数随机近似的条件下求解非线性等式约束随机优化问题,并推导了迭代复杂度的高概率界。
2024-10-06 math.OC stat.ML
A Computational Procedure for solving a Non-Convex Multi-Objective Quadratic Programming under Fuzzy Environment
研究了一类非凸模糊多目标二次规划问题,其中工艺参数和资源参数均为模糊,隶属函数为非线性。一个计算程序,以找到一个模糊有效解这个问题的发展。最后给出了一个数值例子来说明该方法。
2013-08-01 math.OC
A simplicial decomposition framework for large scale convex quadratic programming
本文深入分析了求解大规模凸二次规划的一个类单纯形分解算法框架。特别是,我们首先提出了两个量身定制的策略来处理主问题。然后,我们描述了一些技术,以加快解决定价问题。我们报告了大量的数值实验,真正的投资组合优化和一般的二次规划问题,显示的效率和鲁棒性的方法相比,Cplex。
2017-05-25 math.OC
Disciplined Multi-Convex Programming
多凸优化问题是指当其他变量固定时,变量可以划分为若干个集合,在这些集合上问题是凸的。多凸问题通常使用交替或循环最小化的变化近似地解决。多凸问题出现在许多应用中,例如非负矩阵分解、广义低秩模型和结构控制综合等。在大多数应用中,迄今为止的多凸性是简单的手工验证。本文利用规则凸规划的思想研究了多凸性的自动检测与验证。我们描述了我们所提出的方法,检测和验证多凸性的实现,然后调用一般的解决方案的方法之一。
2016-10-08 math.OC
Intersection Cuts for Nonlinear Integer Programming: Convexification Techniques for Structured Sets
本文研究了从混合线性规划到混合非线性规划的分裂、k-分支分裂和交割的推广。构造这种割需要计算具有简单几何结构的凸集与开集之间的差的凸包。我们介绍了两种技术,给出精确的刻画,这样的凸包,并使用它们来构建分裂,k-分支分裂,并为几个类的非多面体集的相交切割。特别是,我们给出了简单的公式,基本上所有的凸集的分裂切割所描述的一个单一的二次不等式。我们也给出了简单的公式,k-分支分裂切割和一些一般的相交切割的各种凸二次集。
2014-06-11 math.OC
A stabilized sequential quadratic semidefinite programming method for degenerate nonlinear semidefinite programs
本文提出了一种求解退化非线性半定规划的序列二次半定规划(SQSDP)方法,该方法通过求解一系列稳定的二次半定规划(QSDP)子问题来产生迭代点,这些子问题是由与NSDP相关的极大极小问题衍生而来的.与现有的SQSDP方法不同,该方法允许我们不精确地求解这些QSDP子问题,并且每个QSDP都是可行的。该方法的另一个显著特点是在整体收敛分析中不需要约束规格或Lagrange乘子序列的有界性。具体地说,没有假设这样的条件下,我们证明了整体收敛到一个点满足以下任何一个:稳定条件的可行性问题,近似Karush-Kuhn-Tucker(AKKT)条件,和跟踪AKKT条件。最后,我们进行了一些数值实验来检验所提出的方法的效率。
2021-04-22 math.OC
Alternating direction method of multipliers for convex programming: a lift-and-permute scheme
针对线性约束凸规划,提出了一种交替方向法的提升置换算法。它不仅包含了新发展的平衡增广拉格朗日方法及其对偶原变分,而且还包含了近似ADMM和Douglas-Rachford分裂算法。它有助于提出加速算法的最坏情况下的$O(1/k^2)$收敛速度的情况下,要最小化的目标函数是强凸的。
2022-03-30 math.OC
A revised sequential quadratic semidefinite programming method for nonlinear semidefinite optimization
2020年,Yamakawa和Okuno提出了一种稳定的序列二次半定规划(SQSDP)方法,用于解决退化非线性半定最优化问题。该算法被证明是全局收敛的,没有约束规格,它有一些很好的性质,包括可行的子问题,和他们可能的不精确计算。特别地,证明了非线性圆锥曲线的近似Karush KuhnTucker(AKKT)条件和迹AKKT条件的收敛性,这两个条件是连续的最优性条件.然而,最近,互补AKKT(CAKKT)条件也被考虑,作为上述条件的替代,这是更实用的。由于很少有方法收敛到CAKKT点,至少在锥优化中,并完成与SQSDP相关的研究,在这里,我们提出了一个修改后的版本的方法,保持良好的性能。我们对已有的算法进行了改进,证明了算法在CAKKT意义下的整体收敛,并给出了初步的数值实验。
2022-04-01 math.OC
A Sequential Convex Programming Approach to Solving Quadratic Programs and Optimal Control Problems with Linear Complementarity Constraints
具有互补约束的数学规划由于其非凸性和在每个可行点缺乏约束规格而难以求解。本文主要研究线性互补约束下的二次规划问题。利用序列凸规划和罚参数上的同伦,提出了一种求解罚函数重构的新方法。线性化必然非凸的罚函数产生凸二次子问题,其在所有迭代中具有恒定的黑塞矩阵。这允许使用单个KKT矩阵分解进行解计算。此外,全球化计划中引入的潜在的价值函数被最小化解析,并保证下降提供在每个节点。数值实验表明,该算法的特点和可能的计算加速。
2021-05-31 math.OC
On Convex Programming Relaxations for the Permanent
近年来,已经提出了几个凸规划松弛来估计非负矩阵的永久式,特别是在Gurvits和Samorodnitsky的作品中。然而,这些放松的起源和它们之间的关系仍然有些神秘。我们提出了一个概念框架,隐含在信念传播文学,系统地达到这些凸规划松弛估计永久-作为近似的指数大小的最大熵凸计划计算永久。此外,使用标准的凸规划技术,如对偶,我们建立这些上述松弛的Gurvits和Anari等人研究的能力,如数量的基础上的等价。
2017-01-05 cs.DM cs.DS math.OC
Inexact cuts for Deterministic and Stochastic Dual Dynamic Programming applied to convex nonlinear optimization problems
本文将对偶动态规划(DDP)推广到求解凸非线性动态规划方程。我们称之为不精确的DDP(IDDP)这种扩展适用于一些或所有的原始和对偶子问题,以解决沿迭代的方法解决有界误差的情况。我们证明了决策序列的任何聚点都是动态规划方程的近似解。当这些错误趋于零的迭代次数趋于无穷大,我们表明,IDDP解决了动态规划方程。我们扩展的分析随机凸非线性动态规划方程,引入不精确随机对偶动态规划(ISDDP),SDDP的不精确的变种对应的情况下,一些或所有的问题要解决的前向和向后传递的SDDP近似解决。我们还证明了ISDDP在误差消失时的几乎必然收敛。
2017-11-22 math.OC
IPBoost -- Non-Convex Boosting via Integer Programming
TU Darmstadt(达姆施塔特工业大学);TU Berlin(柏林工业大学);Zuse Institute Berlin(柏林祖斯研究所)
近年来,求解机器学习问题的非凸优化方法得到了广泛的关注。在本文中,我们探讨了非凸提升分类的整数规划的手段,并证明了现实世界的实用性的方法,同时规避凸提升方法的缺点。我们报告的结果是可比或优于目前的最先进的。
2020-02-11 cs.LG math.OC stat.ML