Bidirectional SDDP with dimension-free complexity for solving strongly convex stochastic dynamic programming equations
School of Applied Mathematics, FGV(应用数学学院,FGV)
针对强凸多阶段随机优化问题,提出双向随机对偶动态规划算法,其迭代复杂度与状态空间维度无关,且随强凸性增强而降低。
2026-06-23 math.OC
The Value Iteration Algorithm is Not Strongly Polynomial for Discounted Dynamic Programming
Stony Brook University(石溪大学)
本说明提供了一个简单的例子,证明如果允许精确计算,则值迭代算法为贴现动态规划问题找到最优策略所需的迭代次数可以随问题的大小任意快速地增长。特别地,迭代的数量可以是动作数量的指数。因此,与策略迭代不同,值迭代算法对于折扣动态规划不是强多项式。
2013-12-19 cs.AI math.OC
Step size adaptation in first-order method for stochastic strongly convex programming
提出了一种求解随机强凸优化问题的一阶方法,该方法具有$O(1/n)$收敛速率,分析表明,该方法简单,易于实现,在最坏情况下,渐近收敛速度是同类方法的4倍.我们从几个直观的观察,从现有的一阶最优化方法推广得到这种方法。
2011-10-13 cs.LG math.OC
Development of Linear Battery Model for Path Planning with Mixed Integer Linear Programming: Simulated and Experimental Validation
混合线性规划(MILP)常用于地面和飞行器的路径规划。这种路径规划问题的公式化需要线性目标函数和约束,限制了车辆状态跟踪的保真度。一个这样的参数是用于为车辆供电的电池的充电状态。精确的电池状态估计需要求解非线性微分方程。这种状态估计在路径规划中是重要的,以确保可飞行的路径,然而,当使用MILP来制定路径规划问题时,这些非线性方程不能实现。在路径规划期间电池估计的差的准确性运行的风险是,规划的路径通过估计模型是可行的,但实际上将耗尽电池到临界水平。为了在MILP中实现更高精度的电池估计,我们在这里提出了一个简单的线性电池模型,该模型预测给定功率消耗和持续时间的电池的荷电状态(SOC)的变化。该模型占电池电压的变化,由于施加的电力负载和电池SOC的变化。电池模型,然后测试对备用电池模型的数值和实验测试。此外,所提出的线性模型的效果比一个更简单的SOC估计的时间来解决资源受限的最短路问题也进行了评估,实现在两个不同的算法。可以看出,线性模型在电池状态估计中表现良好,同时保持在线性规划或MILP中可实现,对求解时间的影响很小。
2022-11-17 math.OC
A strongly polynomial-time algorithm for the general linear programming problem
FAMU-FSU College of Engineering(FAMU-FSU 工程学院)
本文提出了一种强多项式时间算法,通过隐含的约简过程解决一般线性规划问题,利用互补关系和非负变量构建线性方程组,每迭代步应用互补的高斯-约旦 pivoting 操作,最多需 2(k+n) 次迭代。
2026-07-04 math.OC
Stochastic Quadratic Dynamic Programming
School of Applied Mathematics, FGV(FGV应用数学学院)
本文提出了一种名为SQDP的算法,用于求解具有强凸回溯函数的多阶段随机优化问题,通过将仿射切线替换为二次切线扩展了经典SDDP方法,并证明了算法的收敛性。
2026-09-09 math.OC
Homotopy Continuation Enhanced Branch and Bound Algorithms for Strongly Nonconvex Mixed-Integer Nonlinear Programming Problems
The University of Manchester(曼彻斯特大学)
本文提出两种增强的分支定界算法,利用同伦延续方法高效求解强非凸混合整数非线性规划问题,实验表明其在求解精度和效率上优于现有方法。
2022-01-04 math.OC
Block-Structured Integer and Linear Programming in Strongly Polynomial and Near Linear Time
我们考虑整数和线性规划问题的线性约束表现出(递归)块结构:问题分解成独立的和有效地可解的子问题,如果少量的约束被删除。一个突出的例子是$n$倍整数规划问题及其推广,在最近的文献中得到了相当大的关注。这些问题的先前已知的算法是基于增强框架,一个定制的整数规划的本地搜索的变体。在本文中,我们提出了一种不同的方法。我们的算法依赖于参数搜索和一个新的接近界限。我们表明,块结构的线性规划可以有效地解决通过适应的参数搜索框架诺顿,Plotkin和Tardos结合Megiddo的多维搜索技术。这也形成了我们的算法的一个子程序的整数规划的情况下,通过解决它的一个强relaxations.Then我们表明,对于任何给定的最佳顶点的解决方案,这种松弛,有一个最佳的整数解内$\ell_1$距离无关的维数的问题。这反过来又使我们能够有效地找到最佳整数解。我们将我们的技术应用于具有$n$折叠结构或有界对偶树深度的整数和线性规划,这是该领域的两个基准问题。我们得到的第一个算法,这些情况下,都是近线性的问题和强多项式的尺寸。此外,与增强算法不同,我们的方法是高度并行化的。
2020-08-03 cs.CC math.OC
Alternating direction method of multipliers for convex programming: a lift-and-permute scheme
针对线性约束凸规划,提出了一种交替方向法的提升置换算法。它不仅包含了新发展的平衡增广拉格朗日方法及其对偶原变分,而且还包含了近似ADMM和Douglas-Rachford分裂算法。它有助于提出加速算法的最坏情况下的$O(1/k^2)$收敛速度的情况下,要最小化的目标函数是强凸的。
2022-03-30 math.OC
Optimization of a domestic microgrid equipped with solar panel and battery: Model Predictive Control and Stochastic Dual Dynamic Programming approaches
在这项研究中,微电网与存储(电池,热水箱)和太阳能电池板被认为是。我们基准测试两种算法,MPC和SDDP,产生在线政策来管理微电网,并将它们与基于规则的政策进行比较。模型预测控制(MPC)是一种众所周知的算法,它用确定性预测来模拟未来的不确定性。相比之下,随机对偶动态规划(SDDP)将未来的不确定性建模为具有已知概率分布的逐阶段独立随机变量。我们提出了一个计划,基于样本验证,公平地比较MPC和SDDP产生的两个在线政策。我们的数值研究表明,MPC和SDDP实现了显着的收益相比,基于规则的政策,SDDP优于MPC不仅平均,但在大多数的样本外评估方案。
2022-05-16 math.OC
An exact duality theory for semidefinite programming based on sums of squares
Farkas引理是线性规划的一个基本结果,为线性不等式系统的不可行性提供了线性证明。在半定规划中,这种线性证明只存在于强不可行的线性矩阵不等式中。我们提供了非线性代数证明所有不可行的线性矩阵不等式的精神,真正的代数几何:一个线性矩阵不等式是不可行的,当且仅当-1在于与它相关联的二次模。我们还提出了一个新的精确对偶理论的半定规划,激发实根和平方和证书从真正的代数几何。
2012-11-11 math.OC
Linear Programming Representations and Strongly Polynomial Algorithms for Robust Markov Decision Processes
Shanghai Jiao Tong University(上海交通大学);SIMIS(上海数学与交叉学科研究院);Stanford University(斯坦福大学)
本文提出鲁棒马尔可夫决策过程的线性规划表示,通过编码鲁棒策略迭代步骤构造单一LP,并给出强多项式算法及改进的复杂度界。
2026-10-02 cs.DS cs.LG math.OC
On Augmentation Algorithms for Linear and Integer-Linear Programming: From Edmonds-Karp to Bland and Beyond
激励布兰德的线性规划推广著名的Edmonds-Karp有效细化的福特-富克尔森最大流算法,我们讨论了三个密切相关的自然增强规则的线性和整数线性最优化。在几个很好的情况下,我们表明,多项式许多扩增步骤足以达到最佳。特别地,当使用“离散最陡下降增强”(即,方向的最佳比率的成本改善每单位1-范数长度),我们表明,增加步骤的数量是有界的问题矩阵的Graver基中的元素的数量,给出了有史以来第一个强多项式时间算法的$N$倍整数线性最优化。我们的结果还改进了在线性最优化的上下文中对此类算法所知的内容(例如,推广了Kitahara和Mizuno关于单纯形法中步骤数的界限),并且与多面体直径的研究和对强多项式时间单纯形或增强算法的搜索密切相关。
2015-01-15 math.OC
On Optimality Conditions for Mathematical Programming Problems Based on Strong Subdifferentials
Instituto de Alta Investigación (IA), Universidad de Tarapacá(塔拉帕卡大学高等研究所);Facultad de Ciencias, Universidad de Tarapacá(塔拉帕卡大学理学院)
本文基于强次微分研究非光滑非凸数学规划问题的优化条件,重点分析强拟凸函数的约束,并通过示例验证结果。
2026-04-14 math.OC
Approximation Methods for Bilevel Programming
研究了一类内目标函数为强凸的双层规划问题。在内外目标函数的偏导数都满足一定的mile假设条件下,给出了求解这类问题的一个近似算法,并在不同的外目标函数凸性假设条件下给出了算法的有限时间收敛性分析.我们还提出了一个加速变形的这种方法,提高了收敛速率下凸性假设。此外,我们推广了我们的结果在随机设置下,只有噪音信息的两个目标函数。据我们所知,这是第一次,这样的(随机)近似算法建立迭代复杂性(样本复杂性)提供了双层规划。
2018-02-06 math.OC
Corporative Stochastic Approximation with Random Constraint Sampling for Semi-Infinite Programming
提出了求解半无限规划(SIP)问题的合作随机逼近(CSA)型算法,其中割生成问题是不精确求解的。首先,我们提供一般的误差界不精确CSA。然后,我们提出了两个具体的随机约束抽样方案,近似解决切割生成问题。当目标和约束函数一般是凸的,我们表明,我们的随机CSA算法实现了$\mathcal{O}(1/\sqrt{N})$收敛速率的预期(在最优性差距以及SIP约束违反)。当目标函数和约束函数都是强凸函数时,该速率可以改进为$\mathcal{O}(1/N)$。
2018-12-21 math.OC
Strong Polynomiality of the Value Iteration Algorithm for Computing Nearly Optimal Policies for Discounted Dynamic Programming
本文给出了有限状态数和动作数的无限时域贴现马尔可夫决策过程的近似最优策略的数值迭代计算所需操作数的上界。对于一个给定的折扣因子,报酬函数的大小,并期望接近最优,这些上界是强多项式的状态-动作对的数量,和提供的上界之一具有的属性,它是一个非减函数的折扣因子的值。
2020-01-28 math.OC
Duality Gap in Interval Linear Programming
本文讨论了用实封闭的区间表示不精确数据的线性规划问题。区间数据的最优化问题在实际计算中经常出现,四十多年来一直是理论界关注的问题。本文将对偶间隙(DG)的概念推广到区间线性规划中。我们考虑两种情况:首先,DG是零的区间参数的每个实现(所谓的强零DG),第二,DG是零的区间参数的至少一个实现(所谓的弱零DG)。我们刻画了强零DG和弱零DG及其系数系数矩阵为实数的特殊情形。本文讨论了用实系数矩阵检验常用类型的区间线性规划及其变型的弱零DG和强零DG的计算复杂性。我们区分NP难的情况下,是有效的判决的情况下。基于DG条件,我们推广了Rohn给出的关于最优值集的界的结果.我们提供了等价的声明的界限
2018-02-15 cs.CC math.OC
On the linear independence constraint qualification in disjunctive programming
具有析取约束的数学规划(简称MPDC)涵盖了非线性最优化中的几类不同的问题,包括互补约束、消失约束、基数约束和切换约束的最优化问题。在本文中,我们介绍了一个抽象的,但合理的版本突出的线性独立约束规格,适用于MPDCs。之后,我们推导出一阶和二阶最优性条件下的有效性,这种约束规格的基础上,所谓的强平稳点的MPDCs。最后,我们将我们的研究结果应用到一些流行的类的析取程序,并将所得结果与文献中的结果进行比较。特别是,新的二阶最优性条件的切换约束的数学规划的产品,我们的方法。
2019-06-28 math.OC
An LP-based, Strongly-Polynomial 2-Approximation Algorithm for Sparse Wasserstein Barycenters
离散Wasserstein重心对应于运输问题在有限支持下的一组概率测度的最优解。离散重心是具有有限支集的测度,并且表现出两个有利的性质:总是存在一个具有可证明稀疏支集的测度,并且输入测度的任何最优输运都是非质量分裂的。离散重心是否能在多项式时间内计算是一个未知数。通过线性规划可以找到一个精确的重心,但是这些程序可能会以指数方式扩展。本文证明了基于线性规划的强多项式2-逼近算法。首先,我们证明了一个精确的计算的联盟的支持的输入措施给出了一个紧2-近似。这个计算可以通过线性规划来完成,在强多项式时间内设置和求解。所得到的测量是稀疏的,但是最优输运可以分裂质量。然后,我们设计了第二个,强多项式算法,以改善这一措施,一个非质量分裂运输成本较低。关键步骤是更新可能的支撑集以解决质量分裂。最后,我们设计了一个迭代方案,这两个算法之间交替。该算法终止与2-近似,具有稀疏支持和相关的非质量分裂最优输运。我们的结论与一些样本计算和分析我们的算法的缩放,表现出巨大的改进,在运行时间精确的LP为基础的计算和低实际错误。
2020-04-22 math.OC
Sufficient optimality conditions in bilevel programming
本文讨论了含光滑函数的乐观双层最优化问题的一阶和二阶充分最优性条件的推导。通过估计两层规划可行集的切锥,得到了一阶充分最优性条件。这是通过利用几个不同的重新制定的分层模型作为一个单级的问题。为了获得二阶充分最优性条件,我们利用了所谓的价值函数重新制定的双层最优化问题,然后解决的援助,二阶方向导数。由此产生的条件可以说在初始问题的数据在几个有趣的情况下,包括设置较低的水平是线性的或具有强稳定的解决方案。
2019-11-05 math.OC
Set intersection problems: Supporting hyperplanes and quadratic programming
我们研究了如何由投影过程产生的支撑超平面可以补充交替投影方法及其变种的凸集相交问题。对于求闭凸集交的最近点问题,我们提出了一个类似Dykstra算法的算法,该算法在希尔伯特空间中强收敛.当闭凸集是满足对齐条件的$\mathbb{R}^{n}$中的锥时,该算法在多次迭代中收敛。其次,我们提出了交替投影算法的修改,并证明其收敛性。在一定条件下,该算法在$\mathbb{R}^{n}$中具有超线性收敛性.在锥条件下,收敛性可以是有限的。最后,我们讨论了集合的交为空的情况。
2012-12-31 math.OC
On Chubanov's method for Linear Programming
本文讨论了S. Chubanov的线性可行性问题。我们提出了新的,简洁的证明和解释他的一些结果。然后,我们展示了我们的证明可以用来找到强多项式时间算法的特殊类的线性可行性问题。在一定条件下,这些结果为Tardos,Vavasis和Ye的经典结果提供了新的证明.
2012-04-10 cs.DS math.OC
Dimension-Free Complexity Guarantees for Dual Dynamic Programming
School of Applied Mathematics FGV/EMAp(应用数学学院 FGV/EMAp);Goergen Institute for Data Science and Artificial Intelligence and Department of Computer Science, University of Rochester(罗切斯特大学戈根数据科学与人工智能研究所及计算机系);School of Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院工业与系统工程学)
针对线性耦合约束的凸优化问题,提出一种维度无关复杂度的对偶动态规划方法,通过平滑和惩罚转化为无约束强凸问题,并设计灵活框架FDDP,包含多割和两割变体,后者内存效率更高。
2026-06-11 math.OC
Linear Programming Problem Solved By a Special Substitution Method
IMT Atlantque(IMT大西洋学院)
本文提出了一种特殊替换方法用于求解一般线性规划问题,该方法通过设定变量替换的标准来实现,证明了其具有强多项式性。
2026-09-01 math.OC
Strongly-polynomial time and validation analysis of policy gradient methods
H. Milton Stewart School of Industrial & Systems Engineering(赫尔曼·米勒工业与系统工程学院)
本文提出优势间隙函数作为终止准则,证明策略梯度方法能在强多项式时间内解决MDP,并提供验证方法。
2026-03-21 cs.AI cs.DS cs.LG
Mixed Integer Linear Programming for Feature Selection in Support Vector Machine
Université Libre de Bruxelles(布鲁塞尔自由大学);INRIA Lille Nord-Europe(法国里尔-北欧国家信息与自动化研究所);Universidad de Cádiz(加的斯大学)
本文主要研究支持向量机(SVM)的特征选择问题。一个MILP制定提出的问题。在该公式中,通过包括预算约束来对构造分离超平面的合适特征的选择进行建模,该预算约束预先设置了分类过程中要使用的特征数量的限制。我们提出了一个精确的和启发式的程序来解决这个配方在一个有效的方式。最后,通过与一些已知数据集进行检查并与经典分类方法进行比较来验证该模型。
2018-08-07 cs.LG math.OC stat.ML
A Two-Stage Stochastic Programming Model for Car-Sharing Problem using Kernel Density Estimation
Concordia University(康考迪亚大学);Shenyang Aerospace University(沈阳航空航天大学)
汽车共享问题是共享经济中的一个热门研究领域。本文研究了不确定需求下的汽车共享再平衡问题。提出了一种非参数核密度估计(KDE)和两阶段随机规划(SP)模型相结合的创新框架。具体而言,概率分布来自纽约出租车出行数据集KDE,这是用来作为输入的不确定性参数SP。此外,汽车共享问题被制定为一个两阶段SP模型,其目标是最大化的整体利润。同时,引入样本平均近似(SAA)和Benders分解算法的蒙特卡罗方法求解大规模最优化模型。最后,实验验证表明,所提出的框架优于现有的工作的结果。
2019-09-20 cs.LG math.OC stat.AP
Lower Bounds for Polynomials with Simplex Newton Polytopes Based on Geometric Programming
本文提出了一种计算实多项式下界的几何规划方法。本文给出了多项式为非负多项式且具有二项平方和表示的新的充分条件。这些标准依赖于系数和多项式的支持,并将Lasserre,Ghasemi,Marshall,Fidalgo和Kovacec以前的所有标准推广到具有任意单纯形牛顿多面体的多项式。这种推广产生了一个几何规划的方法来计算下界的多项式,显着扩展了几何规划方法提出的Ghasemi和马歇尔。此外,它表明,几何规划是强相关的非负证明的基础上的非负回路多项式,这是最近推出的作者。
2016-02-25 math.AG math.OC
An Approximation Algorithm for Indefinite Mixed Integer Quadratic Programming
本文给出了求解混合整数二次规划(MIQP)问题的一个近似解的算法。如果二次函数的秩和整数变量的数目是固定的,则该算法在多项式时间内运行。除非P=NP,否则算法的运行时间是预期的。为了设计这个算法,我们引入了新的概念,球形MIQP和对齐的向量,我们提供了一些独立的利益的结果。特别地,我们给出了求矩阵对称分解的一个强多项式算法,并给出了矩阵同时对角化的一个相关结果。
2022-11-29 cs.DM math.OC
Design of First-Order Optimization Algorithms via Sum-of-Squares Programming
在本文中,我们提出了一个框架的基础上平方和规划设计迭代一阶优化算法的光滑和强凸问题。我们的出发点是建立一个多项式矩阵不等式作为算法指数收敛的充分条件。该矩阵的元素是未知参数(指数衰减率、步长、动量系数等)的多项式函数。然后,我们制定一个多项式优化,其目标是优化指数衰减率的算法的参数。最后,我们使用平方和规划作为一个易于处理的放松建议的多项式最优化问题。我们通过设计一个一阶算法来说明所提出的框架的实用性,该算法与Nesterov的加速梯度法具有相同的结构。
2018-09-23 math.AG math.OC
$Δ$-MILP: Deep Space Network Scheduling via Mixed-Integer Linear Programming
本文介绍了$Δ$ -MILP,一个强大的变种的混合整数线性规划(MILP)优化框架,以解决美国宇航局的深空网络(DSN)调度问题。这项工作是我们原来的MILP框架(DOI:10.1109/ACCESS.2021.3064928)的扩展,并继承了它的许多结构和优势,包括DSN调度的基本MILP公式。为了提供关于DSN要求的更可行的调度,$Δ$ -MILP结合了新的约束集合,包括1)将较大的轨道分割成较短的段,以及2)防止不同天线上的轨道之间的重叠。此外,$Δ$ -MILP利用启发式来平衡任务满意度,并允许在包括紧急情况和着陆在内的特殊情况下优先考虑某些任务。数值验证表明,$Δ$ -MILP现在满足100%的要求的限制,并提供公平的时间表之间的任务,相对于国家的最先进的几个星期的2016年和2018年超额认购。
2022-02-14 cs.SY eess.SY math.OC
A Scaled Gradient Modified Non-monotone Line Search Method for Constrained Optimization Problems
Center for General Education, China Medical University(中国医学院校通识教育中心);Department of Applied Mathematics, National Sun Yat-sen University(国立中山大学应用数学系)
本文提出一种缩放梯度修改非单调线搜索方法,用于求解约束最小化问题,并探讨其收敛性,针对强拟凸目标函数证明线性收敛性,通过大规模分数规划和二次规划数值实验验证方法性能。
2026-04-30 math.FA math.OC
DDKSP: A Data-Driven Stochastic Programming Framework for Car-Sharing Relocation Problem
Concordia University(康考迪亚大学);Shenyang Aerospace University(沈阳航空航天大学);Ericsson INC.(爱立信公司)
汽车共享问题是共享经济中的一个热门研究领域。本文研究了需求不确定条件下的汽车共享搬迁问题。通常情况下,真实的客户需求遵循复杂的概率分布,无法用参数方法描述。为了克服这个问题,一个创新的框架,称为数据驱动的核随机规划(DDKSP),集成了非参数的方法-核密度估计(KDE)和两阶段的随机规划(SP)模型提出。具体地说,概率分布是从历史数据的KDE,这是用来作为输入的不确定性参数SP。此外,CSRP制定为一个两阶段SP模型。同时,采用样本平均近似(SAA)的蒙特卡罗方法和Benders分解算法对大规模最优化模型进行求解。最后,基于纽约出租车出行数据集的数值实验验证表明,所提出的框架优于纯参数方法,包括高斯,拉普拉斯和泊松分布的3.72%,4.58%和11%的总利润。
2020-01-20 cs.LG eess.SP math.OC
A GRU-based Mixture Density Network for Data-Driven Dynamic Stochastic Programming
Concordia University(康考迪亚大学);Shenyang Aerospace University(沈阳航空航天大学);Ericsson INC.(爱立信公司)
解决时间序列问题的传统深度学习方法,如长短期记忆(LSTM)和门控递归单元(GRU),都将时间序列数据序列作为输入,单个单元作为输出(预测的时间序列结果)。这些深度学习方法在许多与时间序列相关的问题中取得了巨大的成功,然而,这不能应用于数据驱动的随机规划问题,因为LSTM或GRU的输出是标量而不是随机规划模型所需的概率分布。为了填补这一空白,在这项工作中,我们提出了一个创新的数据驱动的动态随机规划(DD-DSP)框架的时间序列决策问题,其中包括三个组成部分:GRU、高斯混合模型(GMM)和SP。具体来说,我们设计了集成GRU和GMM的深度神经网络,称为基于GRU的混合密度网络(MDN),其中GRU用于基于最近的历史数据预测时间序列结果,GMM用于提取预测结果的相应概率分布,然后将结果作为SP的参数输入。为了验证我们的方法,我们将该框架应用于汽车共享搬迁问题。实验验证表明,我们的框架优于基于LSTM的数据驱动优化,车辆平均移动低于LSTM。
2020-06-26 cs.LG eess.SP math.OC
ICNN-enhanced 2SP: Leveraging input convex neural networks for solving two-stage stochastic programming
Department of Mathematics and Systems Analysis, School of Science, Aalto University(数学与系统分析系,艾尔沃大学);DTU Management, Technical University of Denmark(丹麦技术大学管理学院);Department of Mathematics, KTH Royal Institute of Technology(数学系,皇家理工学院)
本文提出ICNN增强的2SP方法,利用输入凸神经网络在凸两阶段随机规划中实现线性规划表示,避免传统混合整数规划的整数变量需求,提高计算效率并保持解质量。
2026-09-30 cs.LG math.OC