Parametric Nonconvex Optimization via Convex Surrogates
KU Leuven(鲁汶大学)
本文提出一种基于学习的方法,通过构造近似问题来解决参数非凸优化问题,利用凸和单调项的组合构建替代函数,通过并行凸优化直接求解,实验验证了方法的有效性。
2026-04-07 cs.LG cs.SY eess.SY
On the acceleration of the double smoothing technique for unconstrained convex optimization problems
在这篇文章中,我们探讨了加速双光滑技术解决无约束不可微凸优化问题的可能性。这种方法依赖于在两个步骤中的Fenchel对偶问题的正则化,所述Fenchel对偶问题与要被解决成具有可微强凸目标函数和Lipschitz连续梯度的最优化问题的问题相关联。然后通过快速梯度法求解双重正则化对偶问题。本文的目的是显示如何做的功能,在目标的原始问题的影响双重平滑方法的实施和它的收敛速率。利用不同的正则化泛函,将理论结果应用于线性反问题。
2012-05-03 math.OC
Novel Approach Towards Global Optimality of Optimal Power Flow Using Quadratic Convex Optimization
R&D Division, RTE (French TSO)(法国电网运营公司(RTE)研发部);CEDRIC, CNAM(法国国立高等机械与航空技术学校(CNAM)计算与能源发展中心(CEDRIC));UMA, ENSTA(法国国立高等工程技术学校(ENSTA)应用数学实验室(UMA))
最优潮流(OPF)问题可以用非凸二次约束二次规划(QCQP)来描述。我们的目的是解决OPF的全局最优性。为此,我们将混合二次凸重构方法(MIQCR)专门化为(OPF)。这是一个分两步的方法。首先,求解(OPF)的半定规划(SDP)松弛。然后利用松弛的最优对偶变量将最优潮流转化为一个等价的二次规划,其中所有的非凸性被转移到一个附加约束上。在第二步中,这个重新制定的分支定界算法内解决,其中在每个节点的二次和凸松弛的重新制定的问题,通过放松非凸的附加约束,得到解决。我们的方法的关键点是在分枝定界树的根节点处的下界等于SDP松弛值。我们测试这种方法的几个OPF的情况下,从两个总线网络超过一千总线网络的MAT-POWER存储库。我们的初步结果非常令人鼓舞。
2019-03-13 cs.CE cs.RO math.OC
Output-Feedback Control of Nonlinear Systems using Control Contraction Metrics and Convex Optimization
University of Sydney(悉尼大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出利用控制收缩度度量和凸优化解决非线性系统输出反馈控制问题,通过双观测器和控制器问题的解法,证明分离原理成立,以摩尔-格雷泽喷气发动机压缩机模型为例进行验证。
2014-06-05 cs.SY eess.SY math.OC
Error bounds, PL condition, and quadratic growth for weakly convex functions, and linear convergences of proximal point methods
University of California San Diego(加州大学圣地亚哥分校)
本文研究了弱凸函数中误差界、PL条件和二次增长等正则条件之间的关系,并证明了近点法在凸和弱凸优化问题中的线性收敛性。
2026-02-03 cs.SY eess.SY math.OC
A Conceptual Conjugate Epi-Projection Algorithm of Convex Optimization: Superlinear, Quadratic and Finite Convergence
本文考虑了一个概念性的凸优化算法,它的基础是用近似次微分映射的求根问题代替凸优化问题,而近似次微分映射是通过在共轭函数的上图上的重复投影来求解的。虽然投影问题在有限时空中不是精确可解的,但它可以通过简单的迭代法近似求解到任意精度,该方法使用epigraph的线性支撑函数。因此,它似乎是有用的研究计算特性的理想化版本的算法时,投影上的epigraph精确计算,以估计这种发展的潜在利益。研究的主要结果是:在一般凸情形下,概念算法具有超线性的收敛速率;当目标函数构成强凸函数的超集时,概念算法的收敛速率为二次收敛;当目标函数具有尖锐的极小值时,概念算法的收敛是有限的.在所有情况下,收敛是全局的,不需要目标的可微性。保留字:凸优化,共轭函数,近似次微分,超线性收敛,平方收敛,有限收敛,投影,上图
2018-01-24 math.OC
On the Exactness of an Energy-efficient Train Control model based on Convex Optimization
对基于凸优化的节能训练控制模型进行了正确性证明。精确性证明表明,该凸优化模型与进行凸松弛的初始模型具有相同的优化结果。我们首先展示了如何松弛的初始非凸模型进行,并提供分析,以表明松弛是凸约束,因此放松的模型是凸模型。随后,我们证明了松弛凸模型在初始等式约束下总是能得到最优解,并且通过凸优化得到的最优解与通过初始非凸模型得到的最优解相同,并且所采用的松弛是精确的。以一个典型的大坡度城市轨道交通系统为例进行了数值验证。本文的研究结果揭示了凸优化在节能训练控制和低碳交通系统运行控制相关领域的进一步应用。
2022-02-13 cs.SY eess.SY math.OC
A Modelling Framework for Energy-Management and Eco-Driving Problems using Convex Relaxations
本文提出一种基于凸松弛的统一建模框架,将生态驾驶与车辆能量管理问题转化为可高效求解且保证全局最优的凸优化问题,并通过数值示例验证其有效性。
2024-05-01 cs.SY eess.SY math.OC
Mathematical Modeling for Holistic Convex Optimization of Hybrid Trains
我们研究建模燃料电池混合动力列车的目的,优化其操作使用凸优化。模型和必要的约束条件,形成一个物理上可行的凸问题进行审查。由于广泛考虑了训练速度、能量管理系统和电池热量,因此将这项工作描述为整体性的。最小化的目标是给定目标行程时间的氢燃料消耗。提出了一种新的电池热模型,以帮助电池的热管理,从而保持电池的寿命。所有模型都是在空间域中导出的,沿着约束松弛保证了凸优化问题。第一原理知识和真实世界的数据证明了所提出的模型适用于预期的最优化问题。
2021-10-24 cs.SY eess.SY math.OC
Data-Driven Optimal Control via Linear Transfer Operators: A Convex Approach
本文研究非线性系统的数据驱动最优控制。提出了一种带折扣费用函数的最优控制问题的凸形式。我们考虑了正贴现因子和负贴现因子下的最优现金流量。凸的方法依赖于提升非线性系统动力学的密度空间中使用线性Perron-Frobenius(P-F)算子。这种提升导致一个无限维的凸优化制定的最优控制问题。最优化问题的数据驱动近似依赖于使用多项式基函数的Koopman算子的近似。我们将近似的有限维最优化问题写成多项式优化,然后使用基于平方和的优化框架有效地解决。仿真结果证明了数据驱动的最优控制框架的有效性。
2022-02-03 cs.SY eess.SY math.FA
Portfolio Construction with Gaussian Mixture Returns and Exponential Utility via Convex Optimization
考虑了以期望指数效用最大化为目标,假设资产收益服从高斯混合分布的最优投资组合问题。在本文中,我们表明,这个问题是凸的,并很容易解决的凸优化使用特定领域的语言,而不需要采样或方案。然后,我们展示了如何密切相关的问题,最小化风险熵值也可以制定为一个凸优化问题。
2022-08-10 math.OC q-fin.PM
Fast Convex Relaxations using Graph Discretizations
University of Siegen(锡根大学);Westfälische Wilhelms-Universität Münster(明斯特大学)
匹配和分割问题是计算机视觉应用的基础,在多标记分割、立体估计和光流计算中具有示例。这些任务可以被视为非凸能量最小化问题,并通过最近的凸提升方法获得近全局最优解。然而,应用这些技术伴随着大量的计算工作,降低了它们在实际应用中的可行性。我们讨论空间离散化连续分区问题到一个图形结构,广义离散到笛卡尔网格。这种设置使我们能够忠实地在SLIC或Cut-Pursuit构建的超像素图上工作,与笛卡尔网格相比,大大减少了提升分区问题的计算工作量,而最佳能量值保持相似:全局匹配仍然接近全局最优。我们详细讨论了这种方法,并显示在多标签分割的最小分区和立体声估计的例子,在那里我们证明,建议的图形离散化可以减少运行时间以及内存消耗的凸松弛匹配问题的一个因素的10。
2020-09-11 cs.CV math.OC
Single Loop Gaussian Homotopy Method for Non-convex Optimization
高斯同伦(GH)方法是一种通过逐渐减小参数值$t$,将待解问题从几乎凸问题转化为原目标问题,从而寻找非凸优化问题较好稳定点的方法。现有的基于GH的方法在每次更新$t$时重复调用迭代优化求解器来寻找稳定点,这导致了高的计算成本。我们提出了一种新的单循环框架GH方法(SLGH),更新参数$t$和优化决策变量在同一时间。计算复杂性分析进行SLGH算法在各种情况下:无论是梯度或梯度自由预言的GH函数可以获得确定性和随机设置。即使由于$t$而使待解决的问题逐渐改变,具有调谐超参数的SLGH的收敛速度也变得与梯度下降的收敛速度一致。在数值实验中,我们的SLGH算法表现出更快的收敛速度比现有的双环GH方法,同时优于基于梯度下降的方法,在寻找一个更好的解决方案。
2022-11-16 math.OC
Optimal Routing for Constant Function Market Makers
我们考虑在多个常数函数做市商(CFNTR)的网络上最优执行涉及多个加密资产(有时称为代币)的订单的问题。当我们忽略与在CFMM上执行订单相关联的固定成本时,该最优路由问题可以被转换为凸优化问题,这在计算上是易于处理的。当我们包含固定成本时,最优路由问题是一个混合整数凸问题,可以使用(有时很慢)全局最优化方法来求解,或者使用基于凸优化的各种算法来近似求解。最优路由问题包括作为特殊情况的问题,识别存在于网络中的套利的CFR4,或证明不存在。
2022-04-11 math.OC q-fin.TR
Convex optimization of bioprocesses
我们优化的一般模型的生物过程,这是非凸的,由于微生物生长的生化反应器。我们制定了一个凸松弛,并给出条件,保证其精确的瞬态和稳态的情况下。当生长动力学模型的Monod函数下恒定的生物量或Contois函数,松弛是一个二阶锥规划,可以有效地解决在大规模。我们实现了一个基于污水处理系统的数值例子模型。
2021-07-05 math.OC
A double smoothing technique for solving unconstrained nondifferentiable convex optimization problems
本文的目的是在有限维空间中提出一种求解一类无约束不可微凸优化问题的有效算法。为此,我们制定第一Fenchel对偶问题和正规化它在两个步骤成为一个可微的强凸Lipschitz连续梯度。然后通过快速梯度法求解双重正则化对偶问题,目的是加速所得的收敛方案。最后将理论结果应用于图像处理中的l1正则化问题。
2012-03-09 math.OC
Convexification of Queueing Formulas by Mixed-Integer Second-Order Cone Programming: An Application to a Discrete Location Problem with Congestion
混合凸二阶锥规划(MISOCPs)是一类很好的混合凸规划,由于优化求解器的最新进展,它可以非常有效地求解。我们的论文弥补了建模一类最优化问题和使用MISOCP求解器之间的差距。它示出了各种性能指标的M/G/1队列可以由不同的MISOCP塑造。为了激励我们的方法实际上,它首先被应用到一个具有挑战性的随机定位问题的拥塞,这是广泛用于设计社会最优服务网络。四个不同的MISOCP的开发和比较的基准测试问题。新公式有效地解决了大规模的测试问题,这不能解决现有的最佳方法。然后,我们的方法的一般适用性,类似的最优化问题,使用成本理论的性能指标,以解决客户满意度和服务质量。
2017-10-16 cs.DM math.OC math.PR
Inducing Multi-Convexity in Path Constrained Trajectory Optimization for Mobile Manipulators
University of Tartu(塔尔图大学);Tampere University(坦佩雷大学);Johannes Kepler University(约翰内斯·开普勒大学)
本文提出了一种新的基于末端路径、碰撞避免和各种运动学约束的移动机械手轨迹优化算法。我们的主要贡献在于展示了这个高度非线性和非凸的问题可以作为一个序列的凸无约束二次规划(QP)来解决。这是通过重新制定的非线性约束所产生的机械手运动学和它的耦合与移动基地的多仿射形式。然后,我们使用交替方向乘法(ADMM)的技术制定和解决的轨迹优化问题。建议的ADMM有两个类似的非凸步骤。重要的是,可以为它们中的每一个导出凸代理。我们展示了我们的优化的大部分可以并行解决,提供了利用多核CPU/GPU的可能性。我们验证我们的轨迹优化在不同的基准示例。具体来说,我们强调它是如何解决的周期性瓶颈,并提供了一个整体的方法,可以通过权衡不同方面的机械手和移动基础运动的轨迹集。
2019-04-22 cs.RO math.OC
Hitting and Covering Affine Families of Convex Polyhedra, with Applications to Robust Optimization
本文提出凸多面体连续族的几何打击集新变体,证明其刻画鲁棒优化中两级有限适应性问题的决策版本,并在常数维度下给出强多项式及强二次时间算法,首次处理非线性底层问题的左侧不确定性。
2025-04-23 cs.CG math.OC
A Convex Formulation of the Soft-Capture Problem
Carnegie Mellon University(卡内基梅隆大学)
本文提出一种基于凸松弛和序贯凸规划的快速轨迹优化算法,用于六自由度服务航天器对非合作翻滚目标实现安全、燃料最优的软捕获,并通过最高10°/s翻滚速率仿真验证其性能。
2024-05-01 cs.RO cs.SY eess.SY
Disciplined Multi-Convex Programming
多凸优化问题是指当其他变量固定时,变量可以划分为若干个集合,在这些集合上问题是凸的。多凸问题通常使用交替或循环最小化的变化近似地解决。多凸问题出现在许多应用中,例如非负矩阵分解、广义低秩模型和结构控制综合等。在大多数应用中,迄今为止的多凸性是简单的手工验证。本文利用规则凸规划的思想研究了多凸性的自动检测与验证。我们描述了我们所提出的方法,检测和验证多凸性的实现,然后调用一般的解决方案的方法之一。
2016-10-08 math.OC
Convex Relaxation for Optimal Fixture Layout Design
本文提出了一个通用的夹具布局设计框架,直接集成的系统方程与凸松弛法。注意到夹具优化设计问题是一个大规模的组合最优化问题,我们放松它的凸半定规划(SDP)问题,采用稀疏学习和SDP松弛技术。它可以有效地解决现有的凸优化算法,从而产生一个接近最优的夹具布局。半到半机身装配过程中的一个真实的案例研究表明,我们提出的算法相比,目前的行业实践和国家的最先进的方法的优越性。
2022-06-06 math.OC
A convex variational principle for the necessary conditions of classical optimal control
本文提出生成凸变分原理族的方案,其欧拉-拉格朗日方程对应ODE系统最优控制必要条件,应用于二次-二次调节器问题得显式泛函并证极小值存在,可无需非线性求解含时变强迫的线性二次调节器问题,为凸优化解非线性控制提供路径。
2025-06-11 cs.SY eess.SY math.DS
Implicit differentiation for fast hyperparameter selection in non-smooth convex learning
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会);Université de Bourgogne(勃艮第大学);Institut Mathématique de Bourgogne(勃艮第数学研究所);Università degli Studi di Genova(热那亚大学);Google Research(谷歌研究院);CNRS(法国国家科学研究中心);Université de Montpellier(蒙彼利埃大学)
寻找模型的最优超参数可以被视为一个双层优化问题,通常使用零阶技术来解决。在这项工作中,我们研究的一阶方法时,内部优化问题是凸的,但不光滑。我们表明,前向模式分化的近端梯度下降和近端坐标下降产生序列的雅可比收敛到确切的雅可比。使用隐式微分,我们证明了利用内部问题的非光滑性来加速计算是可能的。最后,我们提供了一个边界上的误差时,内部优化问题近似解决的超梯度。回归和分类问题的结果揭示了超参数优化的计算优势,特别是当需要多个超参数时。
2022-08-08 cs.LG math.OC stat.ML
Sequential Convex Restriction and its Applications in Robust Optimization
本文给出了参数变化下非线性方程组解的一个凸充分条件,并提出了一种求解非线性等式约束鲁棒最优化问题的序贯凸优化方法。通过将非线性项与凹包络线相结合,利用Brouwer不动点定理,将充分条件表示为封闭形式的凸不等式约束。我们推广了这个结果,在有界不确定性下,为可行性提供了一个凸的充分条件。使用这些条件,非凸优化问题可以作为一系列凸最优化问题来求解,具有可行性和鲁棒性保证。我们提出了一个详细的分析所提出的条件的性能和复杂性。最后给出了多项式优化和非线性网络的算例。
2019-09-04 math.OC
A Unifying Complexity Certification Framework for Active-Set Methods for Convex Quadratic Programming
在模型预测控制(MPC)中,必须在每个时间步处求解优化问题,这在实时应用中使得有效地求解这些最优化问题并且具有良好的最坏情况解时间的上界变得重要。通常对于线性MPC问题,所讨论的最优化问题是取决于诸如系统状态和参考信号的参数的二次规划(QP)。求解此类QP的一种流行的方法是有效集方法,其中求解一系列线性系方程。我们提出了一个算法,用于计算有效集算法将解决的子问题的序列,对于每个感兴趣的参数。通过知道这些序列,可以确定活动集算法需要收敛的最坏情况下的迭代次数以及最终的最大时间。所提出的方法的有用性示出了一组QP,源自MPC问题,通过计算原始和对偶有效集算法需要达到最优的确切的最坏情况下的迭代次数。
2020-04-10 math.OC
Matrix-Free Convex Optimization Modeling
我们引入了一个凸优化建模框架,将一个凸优化问题以一种自然和方便的形式表示成一个等价的锥程序,在原问题中保持快速线性变换。通过在变换过程中不将线性函数表示为矩阵,而是表示为对线性算子的合成进行编码的图,我们得到无矩阵锥程序,即,其数据矩阵由线性算子及其伴随算子表示的一种算子。这个圆锥体程序可以通过无矩阵圆锥体求解器来求解。通过结合无矩阵建模框架和锥求解器,我们得到了一个通用的方法,有效地解决凸优化问题,涉及快速线性变换。
2015-11-04 math.OC
Local Optimality Conditions for a Class of Hidden Convex Optimization
隐凸优化是一类非凸最优化问题,通过等价的凸规划变换,可以在多项式时间内得到全局解。本文主要研究隐凸优化的局部最优性检验问题。将经典的非凸信赖域子问题(TRS)与凸优化(CO)结合起来,引入了一类隐凸最优化问题,并对局部最优性条件进行了全面的研究.为了保证局部最优性的充要条件的存在,我们需要更严格的假设。令人惊讶的是,虽然(TRS)最多有一个局部非全局极小点,(CO)没有局部非全局极小点,但它们的联合问题可能有多个局部非全局极小点。
2021-09-07 math.OC
Recent Theoretical Advances in Non-Convex Optimization
Institute of Control Sciences RAS(俄罗斯科学院控制科学研究所);Moscow Institute of Physics and Technology(莫斯科物理技术学院);Weierstrass Institute for Applied Analysis and Stochastics(魏尔斯特拉斯应用分析与随机研究所);HSE University(高等经济学院);Institute for Information Transmission Problems RAS(俄罗斯科学院信息传输问题研究所);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
由于最近对非凸优化的优化算法在训练深度神经网络和数据分析中的其他最优化问题中的应用越来越感兴趣,我们概述了非凸优化优化算法的全局性能保证的最新理论结果。我们从经典的论点表明,一般的非凸问题不能有效地解决在合理的时间。然后,我们给出了一个列表的问题,可以有效地解决,找到全球最小的利用尽可能多的问题的结构。处理非凸性的另一种方法是将目标从寻找全局极小值放宽到寻找一个稳定点或局部极小值。对于这种设置,我们首先提出了已知的结果确定性的一阶方法的收敛速度,然后由一般的理论分析的最佳随机和随机梯度计划,随机一阶方法的概述。然后,我们讨论了相当一般的一类非凸问题,如$α$ -弱拟凸函数的极小化问题和满足Polyak-Lojasiewicz条件的函数的极小化问题,这些问题仍然允许获得一阶方法的理论收敛保证。然后,我们考虑高阶和零阶/无导数方法及其收敛速度的非凸优化问题。
2021-11-26 cs.LG math.OC
Lossless convexification of non-convex optimal control problems with disjoint semi-continuous inputs
本文提出了一种基于凸优化的方法来求解一类混合整数非凸最优控制问题的全局最优解。我们考虑的问题是非凸的输入范数,这是一个半连续的变量,可以是零或下限和上限。利用无损凸化,非凸问题放松到一个凸问题,其最优解被证明是最优的几乎处处为原问题。松弛的问题可以使用二阶锥规划来解决,二阶锥规划是凸优化的子类,存在具有收敛保证和多项式时间复杂度的数值可靠的求解器。这是混合整数最优化问题的第一个无损凸化结果。航天器与旋转空间站对接的一个例子证实了该方法的有效性,其计算时间比混合整数规划公式短近三个数量级。
2019-11-19 math.OC
Primal and Dual Approximation Algorithms for Convex Vector Optimization Problems
给出了求解凸向量最优化问题的两种近似算法。这两种算法同时解决CVOP及其几何对偶问题。第一种算法是Benson外近似算法的扩展,第二种算法是Benson外近似算法的对偶变体,这两种算法都提供了(上、下)图像的内、外近似。在每次迭代中只需求解一个标量凸规划。我们允许目标函数和约束函数不一定是可微的,允许实心尖多面体序锥,并将近似与适当的ε-解概念联系起来。提供了数值例子。
2014-01-06 math.OC
Collision Avoidance Maneuver Optimization with a Multiple-Impulse Convex Formulation
提出了一种计算短期相遇最优避碰机动的方法。机动被建模为多脉冲处理脉冲的情况下,并近似有限燃烧弧与短的警报时间或使用低推力推进。机动设计被表述为一系列凸优化问题,通过最先进的原始-对偶邻域点算法在多项式时间内求解。所提出的方法计算最优解没有假设的推力弧结构和推力方向。对于具有数百个变量和约束的最优化问题,执行时间仅为几分之一秒,因此适合于自主计算。
2021-06-09 math.OC
An Inexact Frank-Wolfe Algorithm for Composite Convex Optimization Involving a Self-Concordant Function
本文提出一种带不精确预言机的Frank-Wolfe算法变体,用于求解涉及对数齐次自协和函数的复合凸优化问题,在放宽子问题精确求解假设的同时保持相似收敛保证,并应用于大规模半定规划。
2023-10-23 math.OC
An optimal subgradient algorithm for large-scale convex optimization in simple domains
本文证明了在\cite{NeuO}中提出的最优次梯度法(OSGA)可用于求解结构化大规模凸约束最优化问题。只需要一阶信息,光滑和非光滑问题的最佳复杂性界。更具体地说,我们考虑两类问题:(i)一个凸目标与一个简单的闭凸区域,在这个可行域上的正交投影是有效的;(ii)一个凸目标与一个简单的凸泛函约束。如果我们给OSGA配上一个合适的函数,OSGA子问题就可以用一个封闭的形式或一个简单的迭代格式来求解,这对于大规模问题尤为重要。我们报告的一些应用程序的数值结果显示所提出的计划的效率。一个软件包实现上述领域的OSGA是可用的。
2015-01-07 math.OC
Multi-Period Liability Clearing via Convex Optimal Control
我们考虑的问题,确定一组实体之间的支付顺序,清除(如果可能的话)他们之间的负债。我们将其表述为最优控制问题,当目标函数为时,该问题是凸的,因此很容易解决。对于这个最优控制问题,我们给出了一些有用的和有趣的凸成本和约束,可以以任何方式结合起来,用于不同的应用。我们描述了一些扩展,例如,处理现金和负债的未知变化,允许救助,找到最短的时间来清除负债,或最小化未清除的负债数量,当完全清除负债是不可能的。
2020-05-18 math.OC q-fin.CP
On the approximation error for approximating convex bodies using multiobjective optimization
本文研究通过求解相关多目标凸规划获得凸体多面体逼近的误差,依据原始与对偶 Benson 型算法的停止准则建立 Hausdorff 距离误差界。
2021-07-06 math.OC
Improved Time of Arrival measurement model for non-convex optimization
由到达时间技术提供的二次系统可以解析地或通过优化算法来求解。在实践中,这两种方法被结合使用。二次优化中的一个重要问题是可能收敛到局部极小值,而不是全局极小值。本文提出了一种方法,如何可以显着降低这种风险。我们的方法的主要思想是通过增加维数,将局部极小值转化为一个鞍点。与类似的方法,如维数提升,我们的问题仍然是非凸的。
2018-01-10 eess.SP math.OC
On Degree Sequence Optimization
我们考虑的问题,找到一个子图的一个给定的图,最大化一个给定的功能评估在其度序列。虽然这个问题已经是棘手的凸函数,我们表明,它可以在多项式时间内解决凸多准则目标。接下来我们考虑目标可分离的问题,当所有顶点函数都是正方形时,这个问题已经是NP难的了。我们认为可分离的问题,其中包括臭名昭著的精确匹配问题的特殊情况下,着色扩展,并表明它可以在多项式时间内解决有界树深度的任何顶点函数的图。我们提到了许多尚未解决的问题中的一些。
2020-03-20 cs.DM cs.DS math.CO
A successive convexification approach for robust receding horizon control
提出一种基于连续凸化和凸函数差表示的鲁棒非线性模型预测控制策略,通过构造管域处理扰动与近似误差,保证约束满足、递归可行性与闭环稳定性。
2025-01-27 math.OC
A Convex-Geometric Approach to Ensemble Control Analysis and Design in a Hilbert Space
在本文中,我们解决了长期存在的挑战,合奏控制分析和设计使用凸几何方法在希尔伯特空间设置。具体来说,我们制定的控制线性系综系统作为一个凸可行性问题在希尔伯特空间,可以解决迭代加权投影。这样一个非平凡的几何解释,不仅使一个系统的设计原则,用于构建可行的,最佳的,和约束的合奏控制信号,但也使得它有可能为合奏的可达性和可控性的数值检验。此外,我们将这种几何方法纳入一个迭代框架,并说明其能力,以获得可行的控制转向双线性系综系统。我们进行各种数值实验的控制线性和双线性合奏,以验证理论的发展,并证明所提出的凸几何方法的适用性。
2020-03-22 math.OC
A Unified Scheme to Accelerate Adaptive Cubic Regularization and Gradient Methods for Convex Optimization
在本文中,我们提出了一个统一的两阶段计划的凸优化加速:(1)自适应三次正则化方法与精确/不精确黑塞矩阵,(2)自适应梯度方法,没有任何知识的Lipschitz常数的梯度或海塞矩阵。这是通过在其进展过程中调整算法$\textit{adaptively}$中使用的参数来实现的,这可以被视为对文献中现有算法的放松。在子问题可近似求解的假设下,我们建立了三个新算法的总体迭代复杂度界,以获得$ε$ -近似解.具体来说,我们证明了具有精确/不精确Hessian矩阵的自适应三次正则化方法都实现了$O\left( 1 / ε^{1/3} \right)$量级的迭代复杂度,这与[Nesterov-2008-Accelerating]中提出的原始加速三次正则化方法的迭代复杂度相匹配,假设精确Hessian信息和Lipschitz常数的可用性,并且子问题被求解为最优。在相同的两阶段自适应加速框架下,梯度方法实现了$O\left( 1 / ε^{1/2} \right)$量级的迭代复杂度,这是已知的最佳可能的(参见图1)。Nesterov-2013-Introductory)。我们的数值实验结果表明,在一组正则化的逻辑斯谛回归的情况下,三次正则化的自适应牛顿方法显示出明显的加速效果。
2017-12-27 math.OC
Automating the formulation and resolution of convex variational problems: applications from image processing to computational mechanics
凸变分问题出现在从图像处理到流体和固体力学的许多领域中。有趣的应用通常涉及非光滑项,这需要精心设计的优化算法来解决。本手稿介绍了Python包称为fenics_optim建立在FeNiCS有限元软件之上,使自动化的制定和解决各种凸变分问题。制定这样的问题依赖于FEniCS领域特定的语言和表示的凸函数,特别是非光滑的,在圆锥规划框架。相应的最优化问题的离散公式取决于FEniCS提供的有限元离散化能力,而它们的数值解由边界点求解器Mosek执行。通过各种说明性的例子,我们表明,凸优化问题可以制定使用只有几行代码,离散化在一个非常简单的方式,并非常有效地解决。
2019-11-29 math.OC
Lossless Convexification of Optimal Control Problems with Semi-continuous Inputs
针对一类混合整数非凸最优控制问题,提出了一种新的基于凸优化的全局最优解求解方法。我们考虑非凸约束的问题,限制输入规范为零或下限和上限。将非凸问题转化为凸问题,并证明其最优解在原问题的几乎处处都是最优的,这一过程称为无耗凸化。本文是第一个允许个人输入集重叠,并有不同的范数界,积分输入和状态成本,凸状态约束,可以在离散时间实例激活。该解决方案依赖于二阶锥规划,并证明了一类有意义的最优控制问题的二进制变量可以可靠地解决,在多项式时间。一个推力-框架耦合约束的火箭着陆算例验证了该方法的有效性。
2019-11-19 math.OC
Quadratically Regularized Subgradient Methods for Weakly Convex Optimization with Weakly Convex Constraints
具有非凸约束的最优化模型出现在机器学习中的许多任务中,例如,具有公平性约束的学习或具有非凸损失的Neyman-Pearson分类。虽然许多有效的方法已经开发了理论上的收敛保证非凸无约束问题,它仍然是一个挑战,设计可证明有效的算法,非凸泛函约束问题。本文提出了一类求解约束优化问题的次梯度法,其中目标函数和约束函数都是弱凸非光滑的。我们的方法解决了一系列的强凸子问题,其中一个二次正则化项被添加到目标函数和每个约束函数。每个子问题可以用各种强凸优化算法求解。在一致的斯莱特条件下,我们建立了我们的方法的计算复杂性,寻找一个几乎稳定点。
2023-03-23 math.OC
Time-Average Stochastic Optimization with Non-convex Decision Set and its Convergence
本文考虑时间平均随机最优化,其中时间平均决策向量,在每一个时间步从一个时变(可能非凸)集选择的决策向量的平均值,最小化凸目标函数,并满足凸约束。这个公式在网络和运筹学中有应用。通常,时间平均随机最优化可以通过李雅普诺夫优化技术来求解。本文表明,该技术具有瞬态阶段和稳态阶段。当问题具有唯一的拉格朗日乘子向量时,收敛时间可以得到改善。通过在稳定状态下开始时间平均,收敛时间在局部多面体假设下变为$O(1/ε)$,在局部非多面体假设下变为$O(1/ε^{1.5})$,其中$ε$表示最优目标成本的接近度。模拟表明,结果可能会举行更普遍的唯一拉格朗日乘子假设。
2015-01-28 math.OC
Boundary Control for Stability and Invariance of Traffic Flow Dynamics: A Convex Optimization Approach
针对交通流动力学控制需求,提出基于边界控制障碍泛函的凸优化边界控制器,可同时实现稳定性与不变性,推导了最优控制器存在的充分条件。
2025-06-18 math.AP math.DS math.OC
Mirror-Descent Methods in Mixed-Integer Convex Optimization
本文讨论了在凸集上极小化凸函数f的问题,并附加了一些变量必须是整数的约束。即使f是分段线性函数,这个问题也是NP难的。我们研究了这个问题的算法方法,推迟其硬度实现的预言。如果这个预言可以在多项式时间内实现,那么这个问题也可以在多项式时间内解决。对于两个整数变量的优化问题,我们证明了该算法的有效性,即在O(ln(B))的连续变量上f的近似最小化中,其中B是整数变量绝对值的已知界,我们的算法可用于寻找二维纯整数凸优化问题的次最佳点,更一般地,可用于寻找其第k个最佳点.这一观察使我们能够制定一个有限时间算法的混合整数凸优化。
2012-09-04 math.OC
Extended reverse-convex programming: an approximate enumeration approach to global optimization
本文提出了一种新的求解一类可分解非线性规划(NLP)问题全局最优解的方法。与传统的分支定分支定界法中采用的划分决策变量空间的策略不同,该方法将NLP问题近似为一个逆凸规划(RCP)问题,并通过枚举搜索来求解。为了建立该方法的理论保证,引入了“RCP正则性”的概念,并证明了当RCP问题是正则的时,枚举保证产生全局最优值。一个扩展的RCP算法框架,然后提出了一个小的测试问题,其性能进行了检查。
2015-04-25 math.OC
Successive Convexification of Non-Convex Optimal Control Problems with State Constraints
本文提出了一种求解一类具有特定状态约束的非凸最优控制问题的逐次凸化($ \texttt{SCvx} $)算法。非凸性的来源可以包括非线性动力学和非凸状态/控制约束。为了解决非凸性带来的挑战,我们首先利用精确罚函数来处理非线性动力学。然后,所提出的算法通过$ \textit{project-and-linearize} $过程连续地将问题转化。因此,有限维凸规划子问题的解决,在每一个连续的,这可以有效地完成快速内点方法(IPM)求解器。证明了整体收敛到局部最优值的某些凸性假设,这是满足广泛的最优控制问题。该算法特别适用于求解带避碰约束的轨迹规划问题。通过数值模拟,我们证明了该算法收敛可靠后,只有几个连续。因此,与强大的IPM为基础的自定义求解器,该算法可以实现板载实时自主控制应用。
2017-10-20 math.OC
Majorized Semi-proximal Alternating Coordinate Method for Nonsmooth Convex-Concave Minimax Optimization
极小极大最优化问题是现代机器学习和传统研究领域中产生的一类重要的最优化问题。虽然已经有许多数值算法求解光滑凹凸极大极小问题,数值算法非光滑凹凸极大极小问题是非常罕见的。针对一类结构化非光滑凹凸极大极小问题,提出了一种有效的数值算法。提出了一种优化半邻近交替坐标法(mspACM),采用优化二次凸凹函数逼近目标函数的光滑部分,并在每个子问题中加入半邻近项.这种构造使得每次迭代的子问题都是可解的,甚至当巧妙地选择半邻近项时很容易求解。在较弱的假设下证明了算法mspACM的整体收敛性,而不需要强的凸性条件.在解映射的局部度量次正则性下,证明了算法mspACM具有线性收敛速率.初步的数值结果报告,以验证算法mspACM的效率。
2020-12-21 math.OC
Gradient-Free Federated Learning Methods with $l_1$ and $l_2$-Randomization for Non-Smooth Convex Stochastic Optimization Problems
本文研究凸随机优化的非光滑问题,通过 $l_1$ 或 $l_2$-范数球内平均函数值平滑技术将其转化为光滑问题,并仅基于原始函数实现计算无偏梯度估计,最终在分布式联邦学习架构中构建无梯度求解方法。
2023-05-21 math.OC
A Block-Alternating Iterative Approach for a Class of Non-Convex Optimization Problems
本文提出了一种块交替迭代方法,用于解决非凸优化问题,通过分解问题并迭代求解子问题,提高求解效率和稳定性。
2026-01-23 math.OC
Meta-learning based Alternating Minimization Algorithm for Non-convex Optimization
National University of Defense Technology(国防科技大学);Beihang University(北京航空航天大学);Imperial College London(帝国理工学院);University of Modena and Reggio Emilia (UNIMORE)(摩德纳-雷焦艾米利亚大学(UNIMORE))
在本文中,我们提出了一种新的解决方案的非凸问题的多个变量,特别是那些通常解决的交替最小化(AM)策略,分裂成一组对应于每个变量的子问题,然后迭代优化每个子问题使用固定的更新规则。然而,由于原始优化问题的内在非凸性,即使每个子问题可以在每次迭代中得到最优解,优化通常也会陷入伪局部极小值。与此同时,基于学习的方法,如深度展开算法,受到缺乏标记数据和有限的可解释性的高度限制。为了解决这些问题,我们提出了一种基于元学习的交替最小化(MLAM)方法,其目的是最小化迭代过程中的部分全局损失,而不是对每个子问题进行最小化,并且它倾向于学习一种自适应策略来取代手工制作的对应物,从而提前获得更好的性能。同时,所提出的MLAM仍然保持了原来的算法原理,这有助于更好的可解释性。我们评估所提出的方法上的两个代表性的问题,即,双线性逆问题:矩阵完成,和非线性问题:高斯混合模型。实验结果验证了我们提出的方法在标准设置中优于基于AM的方法,并且能够在具有挑战性的情况下实现有效的优化,而其他比较方法通常会失败。
2022-06-26 cs.LG math.OC stat.ML
A Fast Convergent Algorithm for Solving Non-convex Partially-Decoupled Generalized Nash Equilibrium Problems
Smead Aerospace Engineering Sciences Department(斯米德航空航天科学与工程系)
提出FALCON算法,利用序列凸规划将非凸微分博弈转化为凸子博弈,并证明其在温和假设下全局收敛到开环纳什均衡。
2026-06-26 cs.MA math.OC