Bounds for the Tracking Error and Dynamic Regret of Inexact Online Optimization Methods: A General Analysis via Sequential Semidefinite Programs
在本文中,我们开发了一个统一的框架,分析跟踪误差和动态遗憾的不精确在线最优化方法在各种设置。具体来说,我们利用二次约束方法从控制理论制定顺序半定规划(SDP)的可行点自然对应于跟踪误差界的各种不精确的在线最优化方法,包括不精确的在线梯度下降(OGD)方法,在线梯度下降上升法,在线随机梯度法,和不精确的近端在线梯度法。我们提供了精确的解析解,我们建议的顺序SDPs,并获得细粒度的跟踪误差界的在线算法在本文中研究。我们还提供了一个简单的例程来转换所获得的跟踪误差界到动态遗憾界。我们的分析的主要新颖之处是,我们得到了精确的分析解决方案,我们提出的顺序SDPs在各种不精确的预言假设下,以统一的方式。
2023-03-02 math.OC
Learning-Augmented Algorithms for Online Linear and Semidefinite Programming
Purdue University(普渡大学);University of Melbourne(墨尔本大学);Massachusetts Institute of Technology(麻省理工学院);UC Berkeley(加州大学伯克利分校);Rice University(莱斯大学);Carnegie Mellon University(卡内基梅隆大学)
半定规划(SDP)是一个统一的框架,它概括了线性规划和二次约束二次规划,同时在理论和实践中也产生了有效的求解器。然而,当覆盖SDP的约束以在线方式到达时,存在用于近似最优解的已知不可能结果。在本文中,我们研究了在线覆盖的线性和半定的计划,其中的算法是增加了一个可能错误的预测咨询。我们表明,如果预测是准确的,我们可以有效地绕过这些不可能的结果,并实现一个常数因子近似的最优解,即,一致性另一方面,如果预测器是不准确的,在某些技术条件下,我们实现了与经典最优上界和紧下界都匹配到常数因子的结果,即,鲁棒性更广泛地说,我们引入了一个框架,扩展了(1)由Bamas,Maggiori和Svensson研究的机器学习预测器增强的在线集合覆盖问题(NeurIPS 2020),以及(2)由Elad,Kale和Naor发起的在线覆盖SDP问题(ICALP 2016)。具体来说,我们得到了一般的在线学习增强算法覆盖线性规划与分数的建议和约束,并开始学习增强算法覆盖SDP问题的研究。我们的技术基于Buchbinder和Naor的原始-对偶框架(Mathematics of Operations Research,34,2009),并且可以进一步调整以处理变量位于有界区域中的约束,即,框约束。
2022-10-21 cs.DS cs.LG math.OC
Asynchronous Algorithms for Solving Linear Programs
在本文中,我们设计和分析算法异步求解线性规划使用非线性信号处理结构。特别是,我们讨论了一个一般的程序,用于生成这些结构,使结构的不动点是在一个变化的基础上的最小化相关联的线性规划。我们讨论的方法组织成分布式实现的计算,并提供了一个治疗的收敛。所提出的算法伴随着切比雪夫中心和基追踪问题的数值模拟。
2015-03-02 math.OC
An Improved Sequential Quadratic Programming Algorithm for Solving General Nonlinear Programming Problems
本文讨论了一类带有不等式和等式约束的一般非线性规划问题。首先,将原问题转化为一个仅含不等式约束的简单等价问题。然后,受序列二次规划(SQP)方法和线性方程组(SLE)方法思想的启发,提出了一种求解原问题的新型SQP算法。在每次迭代中,搜索方向由两个方向的组合产生,这两个方向分别通过求解总是可行的二次规划(QP)子问题和SLE获得。为了克服Maratos效应,通过求解另一个系统方程组得到高阶修正方向。这两个SLE具有相同的系数矩阵,并且我们只需要在有限次迭代之后求解其中一个。通过一种新的线搜索技术,在适当的假设条件下,该算法具有全局收敛性和超线性收敛性。最后,一些比较数值结果表明,该算法是有效的和有前途的。
2012-12-18 math.OC
A parameter-free approach for solving SOS-convex semi-algebraic fractional programs
针对带SOS-凸半代数函数的非光滑分式规划问题,提出无参数求解方法,证明其与SDP松弛的强对偶性,仅需求解单个SDP即可得到原问题最优解,还给出了数值算例。
2024-01-30 math.OC
A Sequential Convex Programming Approach to Solving Quadratic Programs and Optimal Control Problems with Linear Complementarity Constraints
具有互补约束的数学规划由于其非凸性和在每个可行点缺乏约束规格而难以求解。本文主要研究线性互补约束下的二次规划问题。利用序列凸规划和罚参数上的同伦,提出了一种求解罚函数重构的新方法。线性化必然非凸的罚函数产生凸二次子问题,其在所有迭代中具有恒定的黑塞矩阵。这允许使用单个KKT矩阵分解进行解计算。此外,全球化计划中引入的潜在的价值函数被最小化解析,并保证下降提供在每个节点。数值实验表明,该算法的特点和可能的计算加速。
2021-05-31 math.OC
Gradient descent procedure for solving linear programming relaxations of combinatorial optimization problems in parallel mode on extra large scale
线性规划(LP)松弛是求解组合优化(CO)难题的标准技术。在这里,我们提出了一个梯度下降算法,利用一些LP松弛CO问题引起的特殊结构。该算法可以并行运行,并以CUDA C/C++程序的形式在GPU上实现。通过求解一个分数2-匹配问题,验证了算法的有效性.我们的结果表明,分数2匹配问题与100,000节点的解决我们的算法在现代GPU上的规模为一秒,而单纯形方法解决问题将需要一个多小时。该算法可以修改,以解决更复杂的LP松弛来自CO问题。
2020-11-16 math.OC
Solving DC programs with a polyhedral component utilizing a multiple objective linear programming solver
研究了一类目标函数为DC的非凸优化问题,其中DC表示为两个凸函数$g$和$h$之差$f=g-h$.特别地,我们处理的特殊情况下,两个凸函数之一的$g$或$h$是多面体。在情况下$g$是多面体,我们表明,DC程序的解决方案可以从一个相关的多面体投影问题的解决方案。在$h$是多面体的情况下,证明了DC规划的解可以通过求解多面体投影问题和多个凸规划得到。由于多面体投影等价于多目标线性规划(MOLP),因此MOLP求解器(在第二种情况下与凸规划求解器一起)可以用于求解具有多面体分量的DC规划的实例。提供了数值例子,其中一个应用程序的位置分析。
2017-03-15 math.OC
A Decomposition Based Approach for Solving a General Bilevel Linear Programming
双层优化在决策过程中有着广泛的应用。然而,仍然缺乏一个有效的算法来确定一个双层最优化问题的最优解,特别是对于一个大规模的问题。针对这一问题,提出了一种求解一般双层线性规划(GBLP)的分解算法。在大型测试系统上的仿真结果验证了该方法的正确性和有效性。
2016-05-17 math.OC
An Online Algorithm for Solving Feedback Optimal Control Problems with Partial Observations
针对部分观测下的反馈最优控制问题,提出融合核学习倒向SDE滤波与随机最大值原理逐样本优化的在线算法,并通过数值实验验证其准确高效。
2024-03-22 math.OC
An Augmented Lagrangian Coordination-Decomposition Algorithm for Solving Distributed Non-Convex Programs
提出了一种新的增广拉格朗日方法,用于求解分布式框架下具有非线性费用和约束耦合的非凸规划问题。提出的分解算法由两层组成:外层是一个标准的乘子方法,对非线性等式约束进行惩罚,而内层由块坐标下降(BCD)方案组成。基于乘子方法的标准结果和最近的结果在近端正则化BCD技术,它被证明是收敛到一个KKT点的非凸非线性规划下的半代数性假设。数值算例验证了算法的有效性。
2014-07-21 math.OC
Approximate Methods for Solving Chance Constrained Linear Programs in Probability Measure Space
本文首次提出求解概率测度空间中机会约束线性规划的数值方法,通过两个可解近似问题并证明其一致收敛性,数值实验验证了方法的有效性。
2023-11-19 math.OC
Semi-definite programs for online control of nonlinear systems with stability guarantees
Tsinghua University(清华大学)
本文提出基于半定规划的在线反馈控制方法,通过状态依赖表示解决非线性系统控制问题,结合Lyapunov证书保证稳定性并满足二次性能规范。
2026-04-18 cs.SY eess.SY math.OC
A Novel Method of Solving Linear Programs with an Analog Circuit
我们提出了一个模拟电路的设计,解决了线性规划(LP)问题。特别地,稳态电路电压是LP最优解的分量。本文展示了如何构造电路,并提供了一个电路和LP问题之间的等价性证明。所提出的方法是用来实现一个基于LP的模型预测控制器,通过使用一个模拟电路。仿真和实验结果表明了该方法的有效性。
2013-05-03 math.OC
Decomposition algorithms for globally solving mathematical programs with affine equilibrium constraints
带有仿射平衡约束的数学规划问题(AMPEC)是一个双层规划问题,其中下层是一个参数仿射变分不等式。我们制定了一些类的双层规划的形式MPEC。然后,我们使用正则化技术来制定所产生的问题作为一个数学规划与两个凸函数(DC函数)的差异定义的附加约束。这种DC分解的一个主要特征是第二个分量仅取决于下层问题中的参数。这个属性使我们能够开发分支定界算法,用于全局求解AMPEC,其中自适应矩形平分只发生在参数的空间中。作为一个例子,我们使用所提出的算法来解决一个双层纳什古诺均衡市场模型。计算结果表明了该算法的有效性。
2011-05-17 math.OC
A Monotonic Optimization Approach for Solving Strictly Quasiconvex Multiobjective Programming Problems
在这篇文章中,我们使用单调优化方法提出了一个结果空间外逼近共聚块解决严格拟凸多目标规划问题,特别是在情况下,目标函数是非线性分式。算法终止后,在任意给定的容差下,我们得到了问题的弱有效解集的一个近似,它包含了问题的整个弱有效解集。该算法被证明是收敛的,它是适合于使用标准的凸规划工具并行实现。一些计算实验表明,该算法的准确性和效率。
2020-03-24 math.OC
Solving Underdetermined Boundary Value Problems By Sequential Quadratic Programming
对技术系统建模的常微分方程通常包含被认为对系统是危险的状态。达到这种状态的轨迹通常表明设计中存在缺陷。在本文中,我们提出并研究了一种算法,找到这样的轨迹的属性。也就是说,对于给定的常微分方程,该算法找到起源于一组状态并到达另一组状态的轨迹。该算法是基于序列二次规划适用于正则化最优化问题得到的多次射击。
2016-10-04 math.OC
Solving a multilevel linear programming problems through a new constructive approach
本文提出了一种求解多层单目标线性规划问题(ML(MO)LPP)的算法,其中嵌套了线性规划的构造性自适应算法。本程序是SB. Sinha和S. Sinha的线性规划方法。首先,我们建立一个地图,减少范围的决策变量是超过控制前一级的决策者,根据所选择的方法,称为范围减少地图。然后,我们用它来定义一个新的次优估计的自适应方法的问题正在考虑中。所有的建设阶段进行了仔细检查,并说明了一个数值例子。
2022-10-25 math.OC
A preconditioner for solving linear programming problems with dense columns
针对含稠密列的线性规划问题求解中线性系统求解的难点,提出一种预条件子,理论证明其收敛时线性系统一致有界,实验验证其在运行时间、迭代次数上具鲁棒性与竞争力。
2024-04-16 math.OC
Mixed Integer Linear Programming and Constraint Programming Models for the Online Printing Shop Scheduling Problem
在这项工作中,在线印刷车间调度问题。这一挑战性的现实问题,出现在当今的印刷业,可以被看作是一个灵活的作业车间调度问题的顺序灵活性,其中的作业之间的优先约束是由一个任意有向无圈图。此外,几个复杂的特殊性,如不可用的机器,可拆卸的操作,顺序相关的设置时间,部分重叠的操作之间的优先约束,释放时间,和固定的操作也存在于所解决的问题。在目前的工作中,混合整数线性规划和约束规划模型的最小化的最大完工时间。对问题进行建模是双重的。一方面,问题被精确地定义。另一方面,商业软件求解模型的能力和局限性进行了分析。广泛的数值实验与小型,中型和大型的实例。数值实验表明,当考虑混合整数线性规划模型时,该商业求解器仅能最优求解一小部分小型实例;而当考虑约束规划问题时,该商业求解器能最优求解所有小型实例和一小部分中型实例.此外,商业求解器能够提供可行解的大规模的实例的大小,出现在实践中。
2022-02-20 math.OC
Solving Mathematical Programs with Equilibrium Constraints as Nonlinear Programming: A New Framework
提出了一种求解带平衡约束数学规划的新框架。在这个算法框架中,一个MPECs被看作是一个无约束优化,最小化互补措施和非线性规划一般约束的浓度。在计算步长时采用了推广Byrd Omojokun的置信域方法思想的策略。通过将切向约束惩罚到目标函数中,我们规避了不满足MFCQ的问题。一个类似信任漏斗的策略被用来平衡可行性和最优性的改进。我们证明了,在MPEC-MFCQ下,如果算法不终止于有限步,则迭代序列的至少一个聚点是S-平稳点。
2023-01-16 math.OC
Solving Two-Stage Stochastic Programs with Endogenous Uncertainty via Random Variable Transformation
本文提出基于随机变量变换的通用方法,将具有内生不确定性的两阶段随机规划转化为决策无关不确定性的等价规划,并在网络设计与设施防护问题中验证其可得到混合整数线性规划且性能优于直接求解原始规划。
2025-07-05 math.OC
Solving multi-resource allocation and location problems in disaster management through linear programming
针对灾害管理中的多资源分配和定位问题,提出了一种基于线性规划的有效方法。这样的问题需要整数解,因此,在大多数情况下,计算依赖于整数和混合整数线性规划求解器。一般来说,这些求解器不能处理大规模的问题。在本文中,我们证明了存在一个大类的灾害管理问题,其精确解可以通过应用单纯形法(线性规划)。给出了数值试验结果。本文的另一个重要贡献与一般的聚类分析和分配有关。也就是说,我们证明了经典的$k$ -medoid聚类方法可以使用线性规划技术(单纯形法)来实现,而不依赖于整数求解器。
2018-12-04 math.OC
Improved DC Programming Approaches for Solving the Quadratic Eigenvalue Complementarity Problem
本文讨论了用凸差分(DC)规划方法求解二次特征值互补性问题(QEiCP)。我们首先表明,QEiCP可以表示为直流规划问题。然后,我们研究不同的直流规划公式QEiCP和讨论他们的直流算法的基础上一个著名的方法- DCA。提出了一种新的局部dc分解算法,其目的是在迭代过程的某些邻域内,针对目标问题的具体特征,构造一个更好的dc分解。这种新的程序产生更快的收敛速度和更好的精度计算的解决方案。数值结果表明,新的直流算法在实践中的效率。
2019-02-13 math.OC
Solving Nonsmooth Nonconvex Compound Stochastic Programs with Applications to Risk Measure Minimization
本文研究了一类由非凸非光滑函数耦合的多期望结构复合随机规划问题。本文提出了一个基于连续凸规划的采样算法,并证明了它的逐次收敛性。我们描述了几类复合SP的极限点的平稳性。我们进一步讨论了基于算法可计算误差界的概率停止规则。我们提出了几个风险度量最小化问题,可以制定为这样一个复合随机规划,这些问题包括广义偏差最优化问题的基础上优化的确定性等价和缓冲概率的不确定性(bPOE),分布鲁棒bPOE最优化问题,和多类分类问题采用成本敏感的错误准则与bPOE风险度量。
2021-05-23 math.OC
Error analysis of approximation algorithm for standard bi-quadratic programming
考虑了NP-困难的标准双二次规划(StBQP)的近似求解问题。在将原问题转化为等价的共正张量规划后,我们展示了如何通过一系列的多面体锥来近似共正张量的锥来近似最优解。所建立的逼近质量表明,存在求解StBQP的多项式时间逼近方案(PTAS),并可推广到求解标准的多重二次规划.一些数值例子来说明我们的方法。
2015-01-13 math.OC
Benders Cut Classification via Support Vector Machines for Solving Two-stage Stochastic Programs
本文考虑了不确定参数的有限样本下具有完全补偿的两阶段随机规划的Benders分解。我们定义的折弯机削减绑定在最终的最优解或显着改善边界的迭代作为有价值的削减。我们提出了一种学习增强的Benders分解(LearnBD)算法,该算法在每次迭代中增加了一个切割分类步骤,以选择性地生成更有可能是有价值的切割。LearnBD算法包括两个阶段:(i)采样切割并从训练问题中收集信息,以及(ii)使用支持向量机(SVM)切割分类器解决测试问题。我们运行的LearnBD算法的能力限制的设施位置和多商品网络设计的不确定需求的情况下。我们的研究结果表明,SVM切割分类器有效地识别有价值的削减,和LearnBD算法减少了总的解决时间的所有实例的不同大小和复杂性的问题。
2020-10-15 math.OC
A semidefinite programming approach for solving Multiobjective Linear Programming
在文献中有几种算法可用于在多目标线性规划(MOLP)中找到帕累托最优解的整个集合。然而,到目前为止,还没有提出一个内点算法,找到所有的Pareto-最优解的MOLP。我们提出了一个明确的建设,任何MOLP到一个有限序列的半定程序(SDP),其中的解决方案给出了整个帕累托最优的极值点解决方案的MOLP的转换的基础上。这些SDP问题的解决内点方法,因此我们的方法提供了一个伪多项式内点方法来找到一组Pareto-最优解的MOLP。
2011-12-28 math.AC math.OC
Solving Indefinite Quadratic Programs by Dynamical Systems: Preliminary Investigations
本文用动力系统求解不定二次规划,证明了全局解存在唯一性,分析了强伪单调性,并建立了轨迹收敛到KKT点的结果。
2025-03-30 math.OC
Time-Varying Feedback Optimization for Quadratic Programs with Heterogeneous Gradient Step Sizes
本文综述在线反馈优化进展,针对二次规划提出异构步长原始-对偶算法的收敛性分析,并应用于现代电力系统最优控制。
2023-09-05 math.OC
A coordinate ascent method for solving semidefinite relaxations of non-convex quadratic integer programs
针对一类非凸二次整数优化中的半定规划问题,提出了一种坐标上升法。这些半定规划的特点是积极约束和低秩约束矩阵的总数少。我们利用这种特殊的结构,通过解决对偶问题,使用障碍的方法结合坐标明智的精确线搜索。我们的算法的主要成分是计算成本低的更新在每次迭代和一个简单的计算的确切步长。与内点方法相比,该方法在获得强对偶界方面要快得多。此外,即使原始约束的集合很大,也不需要显式分离和重新优化,因为在我们的对偶方法中,在选择下一个坐标时,隐式地考虑所有原始约束。
2016-03-08 math.OC
Fix and Bound: An efficient approach for solving large-scale quadratic programming problems with box constraints
本文提出一种结合半定规划界与最优性线性割的分支定界算法,通过变量固定缩减规模,高效求解大规模盒约束非凸二次规划,实验表明其达到最先进水平。
2024-10-02 math.OC
Complexity of a quadratic penalty accelerated inexact proximal point method for solving linearly constrained nonconvex composite programs
分析了求解线性约束非凸组合规划的二次罚加速不精确邻近点方法的迭代复杂性。更具体地,目标函数具有$f + h$的形式,其中$f$是梯度为Lipschitz连续的可微函数,而$h$是具有有界域的闭凸函数。该方法,基本上,包括应用加速不精确的邻近点法近似求解一系列的二次惩罚的线性约束问题的子问题。近似点法的每个子问题依次近似求解的加速复合梯度(ACG)方法。结果表明,该方案在最多${\cal{O}}(ρ^{-3})$ ACG迭代生成一个$ρ$ -近似稳定点。最后,数值结果表明所提出的方法的有效性。
2019-07-16 math.OC
Solving Heated Oil Pipeline Problems Via Mixed Integer Nonlinear Programming Approach
如何加热原油,节约原油输送的运行费用,是原油输送中的一个关键问题。本文将热油管道问题严格地表述为一个混合整数非线性规划模型。提出了模型的非凸和凸连续松弛,并在适当的条件下证明了它们的等价性。同时,我们提供了一个预处理过程,以保证这些条件。因此,我们可以设计一个分支定界算法来求解混合整数非线性规划模型的全局最优解。为了提高分枝定界算法的效率,提出了一种外逼近方法,并采用了热启动技术。对一个实际热油管道问题的数值实验表明,该算法获得了较好的方案,与实际方案相比,可以节省6.83%的运行费用。
2019-07-25 math.OC
Solving the Dual Problems of Dynamic Programs via Regression
近年来,人们对动态规划中的信息松弛和对偶问题进行了广泛的研究,由此产生的原-对偶方法通过给出动态规划的最优值函数的上界而成为求解动态规划的一种强有力的方法。理论上,通过基于值的最优对偶惩罚,可以通过强对偶性精确地恢复最优值函数。然而,在实践中,获得严格的对偶边界通常需要良好的近似的最佳对偶惩罚,这可能是耗时的,由于条件期望,需要通过嵌套模拟估计。在本文中,我们将开发一个框架的回归方法来近似最佳的对偶惩罚在非嵌套的方式,通过探索的结构的函数空间组成的所有可行的对偶惩罚。得到的近似保持可行的对偶惩罚,从而产生有效的最优值函数的对偶界。我们表明,所提出的框架是计算效率高,由此产生的双重处罚导致数值上易于处理的双重问题。最后,我们将该框架应用于一个高维动态交易问题,以证明其在解决复杂动态规划对偶问题方面的有效性。
2016-10-25 math.OC
Adversaries in Online Learning Revisited: with applications in Robust Optimization and Adversarial training
Zuse Institute Berlin(柏林祖斯研究所);Technische Universität Berlin(柏林工业大学);Alibaba Inc(阿里巴巴公司)
我们重新审视了在线学习中的“对手”概念,其动机是使用在线学习方法解决鲁棒优化和对抗训练。虽然在线学习中的一个经典设置涉及“对抗”设置,但似乎这个概念的使用不太严格,导致应用在线学习的结果和见解时出现混乱。具体来说,有两种根本不同类型的对手,这取决于“对手”是否能够预测在线学习算法的外生随机性。这与鲁棒优化和对抗训练特别相关,因为对抗序列通常是预期的,并且许多在线学习算法在这种情况下无法实现减少遗憾。然后,我们将其应用于通过在线学习解决鲁棒优化问题或(等效地)对抗性训练问题,并使用假想游戏为各种各样的问题类建立一种通用方法。在这种情况下,两个参与人相互博弈,原始参与人参与决策,双重参与人参与不确定数据的实现。当博弈结束时,原始参与者已经获得了一个近似鲁棒的解。这个元游戏允许解决各种鲁棒优化和多目标优化问题,并推广了arXiv:1402.6361的方法。
2021-01-27 cs.LG math.OC
Online Linear Programming for Multi-Objective Routing in LLM Serving
School of Mathematical Sciences, Peking University(北京大学数学科学学院)
研究大语言模型服务在线路由问题,引入多目标优化框架将路由设为在线线性规划,应用高效出价控制策略,开发热启动投影一阶更新,集成路由器到模拟器,结果表明基于科学方法优于启发式方法。
2026-07-07 cs.AI cs.LG math.OC
Optimal Regularized Online Allocation by Adaptive Re-Solving
HKUST(香港科技大学)
针对非凹奖励、硬约束和不可分离正则化的在线资源分配问题,提出自适应更新约束的对偶重求解框架,以近似解获得最优对数遗憾并消除 log-log 因子。
2023-07-16 cs.IT cs.LG math.IT
A Gröbner bases methodology for solving multiobjective polynomial integer programs
多目标离散规划是一类著名的最优化问题,有着广泛的应用。线性的情况下,已处理了许多作者在过去几年中。然而,多项式的情况下,没有深入研究,由于其理论和计算上的困难。本文提出了一种代数方法来解决这些问题。我们提出了一种方法的基础上转换的多项式最优化问题的问题,解决一个或多个系统的多项式方程,我们使用某些Gröbner基地来解决这些系统。不同的变换给出了不同的方法,从理论的角度和一些计算实验,通过他们诱导的算法进行分析和比较。
2011-01-21 math.AC math.OC
New Methods for Solving Large Scale Linear Programming Problems in the Windows and Linux computer operating systems
在这项研究中,计算所需的解决大规模线性规划问题在两个操作系统,Linux和Windows 7(Win),使用两种不同的方法进行了比较。第一种方法以边界点法为基础,使用线性规划内点求解器(LIPSOL)软件,第二种方法以增广拉格朗日法为基础,使用广义导数。对各种问题执行的计算显示了在Linux操作系统(OS)中产生的随机数,Win OS表示在Linux OS中执行的计算在精度和使用最佳存储器方面的效率。
2012-09-19 math.OC
Resource-Adaptive Stochastic Gradient Descent for Online Linear Programming without Re-solving
Fudan University(复旦大学)
针对大规模在线线性规划,提出资源自适应随机梯度下降算法,以O(m)复杂度实现无需重新求解的库存定价,达到O(log T)遗憾,兼顾效率与分配质量。
2026-09-24 cs.LG math.OC
Solving Linear Programs with Complementarity Constraints using Branch-and-Cut
带线性互补约束的线性规划(LPCC)要求在一组线性约束和附加的线性互补约束下最小化线性目标。这个类已经成为一个广泛的问题,包括双层规划,Stackelberg游戏,逆二次规划,以及涉及平衡约束的问题的建模范式。互补约束的存在导致非凸最优化问题。我们开发了一个分支和切割算法,找到这类最优化问题的全局最优值,我们直接在互补分支。我们开发的分支规则和可行性恢复程序,并证明其计算效率与CPLEX的比较。该实现通过使用回调例程构建在CPLEX上。计算结果表明,我们的方法是一个强有力的替代构造一个整数规划制定使用大$M$条款来表示变量的界限,与测试进行一般LPCC以及凸二次低级别问题的双层程序生成的实例。
2018-02-08 math.OC
IPM-LSTM: A Learning-Based Interior Point Method for Solving Nonlinear Programs
本文提出 IPM-LSTM 方法,利用 LSTM 神经网络近似内点法中的线性方程组求解并用于热启动,在多种非线性规划上相比默认求解器最多减少 60% 迭代次数和 70% 求解时间。
2024-10-21 math.OC
SACOBRA with Online Whitening for Solving Optimization Problems with High Conditioning
Leiden University(莱顿大学)
现实世界的优化问题往往有昂贵的目标函数的成本和时间。希望找到具有非常少的函数评估的接近最优的解决方案。代理辅助优化器倾向于通过用建立在少数评估点上的有效数学模型替换实函数来减少所需的函数评估数量。高条件数的问题对于包括SACOBRA在内的许多代理辅助优化器来说是一个挑战。为了解决这些问题,我们提出了一个新的在线白化操作的黑箱优化范例。我们展示了一组高条件函数,在线白化解决了SACOBRA的早期停滞问题,并将优化误差降低了10到1 e12之间的因子,尽管它施加了许多额外的函数评估。协方差阵自适应进化策略(CMA-ES)具有非常高数量的功能评估,甚至更低的错误,而SACOBRA在昂贵的设置(小于1 e03功能评估)表现更好。如果我们将所有可并行化的函数评估(CMA-ES中的群体评估,我们的方法中的在线白化)作为一次迭代,那么即使从长远来看,这两种算法也具有相当的强度。这适用于维数D <= 20的问题。
2019-04-17 cs.LG math.OC stat.ML
An ADMM algorithm for solving a proximal bound-constrained quadratic program
University of California, Merced(加州大学默塞德分校)
考虑了一个由二次函数给出的近似算子,并给出了一个利用乘子交替方向法(ADMM)的优化算法。该算法是特别有效的,以解决一个集合的邻近运营商共享相同的二次型,或者如果二次规划是一个二进制二次问题的松弛。
2014-12-29 cs.LG math.OC stat.ML
Sequential Convex Programming Methods for Solving Nonlinear Optimization Problems with DC constraints
Department of Electrical Engineering (ESAT-SCD) and Optimization in Engineering Center (OPTEC), K.U. Leuven(鲁汶大学电气工程系(ESAT-SCD)与工程优化中心(OPTEC))
本文研究序列凸规划(SCP)与DC规划之间的关系,提出一种求解DC约束非线性优化问题的SCP算法并证明其收敛性,结合松弛技术处理不一致线性化,并通过数值测试验证算法性能。
2011-07-28 cs.SY eess.SY math.OC
Scalability Evaluation of NSLP Algorithm for Solving Non-Stationary Linear Programming Problems on Cluster Computing Systems
研究了求解非平稳高维线性规划问题的NSLP算法在集群计算系统上的可扩展性。分析是基于并行计算的BSF模型。BSF模型是在BSP和SPMD模型的基础上设计的一种新的并行计算模型。对NSLP算法和BSF模型进行了简要的描述。被认为是在一个BSF程序的形式NSLP算法的实现。在BSF代价度量的基础上,推导了NSLP算法可扩展性的上界,并对其并行效率进行了估计。描述了基于BSF骨架的NSLP算法实现。分析和实验获得的可扩展性估计的比较。
2017-09-14 cs.DC math.OC
Algorithms for Highly Symmetric Linear and Integer Programs
本文讨论利用对称性求解线性和整数规划问题。有限群的线性表示的基本性质可用于将对称线性规划简化为求解低维线性规划。结合这种方法与知识的几何可行的整数解决方案产生的算法,用于解决高度对称的整数线性规划,只需要时间,这是线性的限制和二次的尺寸。
2011-01-13 math.MG math.OC
Solving reward-collecting problems with UAVs: a comparison of online optimization and Q-learning
Naval Postgraduate School(海军研究生院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
无人驾驶飞行器(UAV)在过去的美国军事行动中为侦察和监视任务做出了重大贡献。随着无人机的普及,反无人机技术也得到了改进,这使得他们很难在感兴趣的区域内成功获得有价值的情报。因此,现代无人机在完成任务的同时最大限度地提高生存机会变得非常重要。在这项工作中,我们专门研究了从指定的起点到目标的最短路径,同时收集所有奖励并避免在网格上随机移动的对手。我们还提供了一个可能的应用框架在军事环境中,即自主伤员后送。我们提出了解决这个问题的三种方法的比较:即我们实现了深度Q学习模型,$\varepsilon$贪婪表格Q学习模型和在线优化框架。我们的计算实验,设计使用简单的网格世界环境与随机对手展示了这些方法的工作原理,并比较它们的性能,准确性和计算时间。
2021-11-30 cs.LG math.OC
Solving Bang-Bang Problems Using The Immersed Interface Method and Integer Programming
本文研究了具有砰砰控制函数的最优控制问题的数值解法。我们提出了一个正式的拉格朗日方法来解决最优控制问题,并解决遇到的困难时,数值求解的状态方程和伴随方程使用浸入界面法。我们注意到,我们的数值方法并没有近似的不连续的控制函数与光滑函数,而是我们解决真正的bang-bang最优控制问题。我们解决最优控制问题的方法使用了一个基于伴随的梯度。我们在一阶信赖域方法中使用梯度来生成局部最小化控制。我们提出了详细的数值结果来证明我们的方法的有效性。
2021-04-17 cs.NA math.DS math.NA
Fast Non-Parametric Learning to Accelerate Mixed-Integer Programming for Online Hybrid Model Predictive Control
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
当今快速的线性代数和数值优化工具已经将模型预测控制(MPC)的前沿推向了高度非线性和混合系统的有效控制。混合MPC领域已经证明可以计算精确的最优控制规律,例如,在分段仿射(PWA)系统模型下,采用混合整数规划(MIP)方法求解。尽管有优雅的理论,在线求解混合MPC仍然是遥不可及的许多应用。我们的目标是通过结合混合MPC(一种简单而有效的学习算法)的几何见解和MIP热启动技术来加速MIP。在近似显式MPC的工作线之后,所提出的学习控制算法LNMS以很小的成本获得了MIP的计算优势,并且对于从业者来说是直接实现的。
2020-05-07 cs.LG cs.SY eess.SY
Efficient Projection-Free Online Methods with Stochastic Recursive Gradient
Zhejiang University(浙江大学);University of Pennsylvania(宾夕法尼亚大学);Tencent AI Lab(腾讯人工智能实验室);University of Western Ontario(西安大略大学)
本文主要研究求解光滑在线凸优化(OCO)问题的无投影方法。现有的无投影方法要么达到次优的遗憾界限,或有很高的每次迭代的计算成本。为了填补这一空白,两个有效的投影免费在线方法被称为ORGFW和MORGFW提出解决随机和对抗OCO问题,分别。通过采用递归梯度估计,我们的方法实现了最佳的遗憾界(对数因子),同时具有较低的每次迭代的计算成本。实验结果表明,所提出的方法相比,国家的最先进的效率。
2019-10-24 cs.LG math.OC stat.ML
A version of the simplex method for solving linear systems of inequalities and linear programming problems
本研究提出一种求解线性不等式组与线性规划的单纯形法变体,通过构造带单位基的对偶问题、将目标函数转化为约束并引入额外约束加速首阶段计算,还以Klee-Minty超立方体问题为例做了详细求解演示。
2023-04-24 cs.NA math.NA math.OC
Online Modeling and Sequential Convex Programming for Lunar Landing Trajectory Optimization
The University of Tennessee(田纳西大学)
研究月球动力下降和着陆的制导框架,结合序列凸规划与实时在线模型识别。将非凸能量最优着陆问题转化为凸二阶锥规划序列,用在线识别层估计扰动并注入修正项,开发算法并探索理论基础,数值模拟验证算法效果。
2026-07-07 cs.SY eess.SY math.OC