Asymptotic Properties of Optimal Trajectories in Dynamic Programming
我们证明了在一个动态规划的框架,一致收敛性的有限水平值意味着渐近的平均累积收益是恒定的最佳轨迹。我们分析和讨论了两人对策的几种可能的扩展。
2010-12-23 math.OC
Uniform Quadratic Optimization and Extensions
一致二次优化问题(UQ)是一个具有相同黑塞矩阵的非凸二次约束二次规划(QCQP)问题。基于二阶锥规划(SOCP)的松弛方法,建立了(UQ)强对偶的一个新的充分条件,并将其推广到(QCQP).该结果不仅覆盖了文献中的几个著名结果,而且部分地回答了一些公开问题.对于凸约束非凸问题,提出了一种基于(SOCP)的改进近似算法。我们的近似界是维数无关的。作为应用,我们建立了求多个球相交的切比雪夫中心问题的第一近似界。
2015-08-05 math.OC
New $ε$-constraint methods for multi-objective integer linear programming: a Pareto front representation approach
使用生成方法处理多目标问题具有一些有趣的优点,因为它为决策者提供了关于非支配点集(帕累托前沿)的完整信息和对问题的清晰概述。然而,为决策者提供许多解决方案也可能是压倒性的。作为替代方法,呈现帕累托前沿的一组代表性解可能是有利的。选择这样的代表集本身也是一个多目标问题,必须考虑要呈现的解的数量、一致性和/或代表的覆盖范围,以保证其质量。本文提出了三个算法的表示问题的多目标整数线性规划问题的两个或两个以上的目标函数,他们中的每一个处理的每一个维度的问题(基数,覆盖,和一致性)。这些算法都是基于$ε$约束的方法。此外,本文还提出了克服帕累托前界估计不佳的策略。该算法进行了测试的能力,有效地产生整个帕累托前或其表示。均匀性和基数算法被证明是非常有效的二进制和整数问题,在文献中是最好的。覆盖率和均匀性算法都能在其目标对象上提供良好的质量表示,而基数算法似乎是最灵活的,对于基数较低的表示和基数较高的覆盖率来说,它能保持均匀性。
2021-09-03 math.OC
Bundle-Level Type Methods Uniformly Optimal for Smooth and Nonsmooth Convex Optimization
本文的主要目的是发展凸规划(CP)的一致最优一阶方法。一致最优性是指一阶方法本身不需要输入任何问题参数,但仍然可以达到最佳的迭代复杂度。通过将一个多步加速方案引入到著名的迭代水平方法中,我们发展了一个加速的迭代水平(ABL)方法,并证明了它可以在不需要输入任何光滑性信息(如问题是光滑的、非光滑的还是弱光滑的)的情况下,获得求解一般黑盒CP问题的最优复杂度,以及Lipschitz常数和平滑度的具体值。然后,我们开发了一个更实用的,有限的内存版本,这种方法,即加速的并行级(APL)的方法。我们研究了APL方法的推广,用于求解某些复合CP问题和Nesterov [数学规划,103(2005),pp 127-152]最近研究的一类重要的鞍点问题.我们提出了有前途的数值结果,这些新的算法适用于解决某些类的半定规划(SDP)和随机规划(SP)的问题。
2013-09-22 math.OC
A Uniform-grid Discretization Algorithm for Stochastic Control with Risk Constraints
本文给出了[Chow_Pavone_13]中有限时间风险约束动态规划算法的离散化算法。虽然在理论上,贝尔曼的递归提供了一个系统的方法来找到最优值函数,并产生最佳的历史依赖的政策,有一个严重的计算问题。即使该约束随机最优控制问题的状态空间和动作空间都是有限的,风险阈值空间和可行风险更新空间也是实数的闭有界子集。这禁止了[Bertsekas_05]中发现的动态规划中无约束有限状态迭代法的任何直接应用。为了逼近文献[Chow_Pavone_13]中的Bellman算子,我们将连续作用空间离散化,并给出了精确动态规划算法的有限空间逼近.我们还将证明最优值函数的逼近误差界是由离散化的步长线性约束的。最后,详细的实施和可能的修改进行了讨论。
2015-01-09 math.OC
A Satisfaction Degree of Optimal Value for Grey Linear Programming
本文研究了灰色线性规划,对灰色问题的定位线性规划引入了一种新的最优值满意度。λ-满意度似乎反映了所定位的最优值的真正含义。根据决策者对满意度的态度来选择λ,可以得到灰色线性规划问题的一个合适的最优解。最后通过实例说明了新的满意度的含义。
2012-07-17 math.OC
General limit value in Dynamic Programming
考虑了一个具有任意状态空间和有界报酬的动态规划问题。是否有可能以一种独特的方式定义一个极限值的问题,其中的“耐心”的决策者往往是无限的?我们认为,对于每个评估$θ$(概率分布在正整数)的值函数$v_θ$的问题,其中的任何阶段$t$的权重是由$θ_t$,我们调查的一致收敛序列$(v_{θ^k})_k$时的“不耐烦”的评价消失,在这个意义上,$\sum_{t} |θ^k_{t}-θ^k_{t+1}| \rightarrow_{k \to \infty} 0$。我们证明了这种一致收敛的发生当且仅当度量空间${v_{θ^k}, k\geq 1}$是完全有界的。此外,存在一个特定的函数$v^*$,它与特定的选择序列$({θ^k})_k$无关,使得这种值函数序列的任何极限点都精确地是$v^*$。因此,当谈到一致收敛的价值函数,$v^*$可以被认为是唯一的可能的限制时,耐心的决策者趋于无穷大。结果特别适用于贴现因子为零时的贴现收益,以及阶段数趋于无穷大时的平均收益,也适用于具有随机转移的模型。我们提出易于处理的推论,我们讨论反例和猜想。
2013-01-03 math.OC
Tropical Dynamic Programming for Lipschitz Multistage Stochastic Programming
本文提出了一种称为热带动态规划(TDP)的算法,它建立了风险中性多阶段随机规划(MSP)中Bellman值函数的上下近似,具有有限支撑的独立噪声。为了解决维数灾难,近似动态规划的流行参数变体将贝尔曼值函数近似为基函数的线性组合。在这里,热带动态规划建立了上层(分别为。较低的)近似的给定值函数作为最小加线性(分别)。最大加线性)组合。在每次迭代中,TDP都会根据Baucke,Downward和Zackeri在2018年为随机对偶动态规划的变体引入的确定性标准向当前组合添加一个新的基本函数。我们证明了,对于每一个Lipschitz MSP,生成的逼近函数的TDP的Bellman值函数的兴趣集上的渐近收敛。我们用线性动力学和多面体代价在MSP上说明了这个结果。
2020-10-20 math.OC
A Concave Value Function Extension for the Dynamic Programming Approach to Revenue Management in Attended Home Delivery
我们研究的近似动态规划方法的收入管理的背景下,参加了家庭交付。我们利用动态规划理论的马尔可夫判定问题,凸优化和离散凸分析的结果表明,基本的动态规划运营商有一个独特的不动点。此外,我们还表明,在一定的假设下,所有的时间步骤中的动态程序,价值函数承认一个连续的扩展,这是一个有限值,凹函数的状态变量。这一结果开辟了道路,为实现可扩展的实现所提出的配方,因为它允许在近似动态规划上下文中的基函数作出明智的选择。我们用一个简单的数值例子来说明我们的研究结果,并得出结论,建议如何利用我们的结果在未来的工作中,以获得更接近的值函数。
2019-03-15 math.OC
Gradient-Bounded Dynamic Programming with Submodular and Concave Extensible Value Functions
我们认为动态规划问题,有限的,离散的时间范围和过高的维数,离散的状态空间直接计算的值函数从贝尔曼方程。针对动态规划的值函数在状态空间中是凹可扩的和次模的情况,提出了一种类似于对偶动态规划的计算值函数的确定性上界和随机下界的新算法.然后,我们表明,该算法终止后,有限数量的迭代。最后,我们证明了我们的方法的有效性,从交付插槽定价在参加送货上门的高维数值例子。
2020-05-22 math.OC
Leader-Based Optimal Coordination Control for the Consensus Problem of Multiagent Differential Games via Fuzzy Adaptive Dynamic Programming
针对多智能体微分对策的一致性问题,提出了一种基于模糊自适应动态规划(FADP)的在线最优协调控制设计方法,该方法将对策论、广义模糊双曲模型(GFHM)和自适应动态规划相结合.一般来说,多智能体微分对策的最优协调控制是耦合的Hamilton Jacobi(HJ)方程的解。在这里,第一次,GFHM被用来近似的解决方案(价值函数)的耦合HJ方程,基于策略迭代(PI)算法。也就是说,对于每个代理,GFHM被用来捕获本地共识误差和本地值函数之间的映射。由于我们的方案使用单网络架构的每个代理(这消除了行动网络模型相比,双网架构),它是一个更合理的多Agent系统的架构。进而利用近似解得到最优协调控制。最后,我们给出了该方案的稳定性分析,并证明了权估计误差和局部一致误差是一致最终有界的。此外,控制节点的轨迹被证明是合作一致最终有界的。
2017-11-30 math.OC
Range of optimal values in absolute value linear programming with interval data
针对带区间数据的绝对值线性规划,研究输入系数区间不确定下的最优值范围,推导最好情形最优值的显式公式,提出最坏情形值的上下界估计方法,并探讨基稳定性下的计算特性与未解决的复杂度问题。
2025-10-06 math.OC
A Gilmore-Gomory-Type Construction of Integer Programming Value Functions
本文分析了在整数规划中依次引入决策变量对值函数及其水平集的影响。我们使用Gilmore-Gomory的方法来找到参数化的IP值函数在一组有限的变量。我们引入了水平集的最大连通子集的概念-卷中,约束右侧的变化对值函数没有影响-并将这些结构与IP值函数和最优解相关。
2021-02-02 math.OC
On the lower semicontinuity and subdifferentiability of the value function for conic linear programming problems
引理1来自论文[N.E. Gretsky,J.M.奥斯特鲁瓦Zame,Subdividability and the duality gap,Positivity 6:261- 274,2002]断言,标准式的无限维线性规划问题的值函数$v$是下连续的,只要$v$是适当的,并且所涉及的空间是赋范向量空间.本文证明了这种说法在有限维空间中也是错误的,并给出了希尔伯特空间中(真)值函数不是下连续的线性规划问题的一个例子(因此它不是次可微的)在其域中的任何点,其中一个表明,在Kretschmer间隙例子中,值函数对其定义域的限制在该定义域的任何点的任何邻域上都没有界。域,并讨论在同一篇论文中完成的其他断言。
2022-05-19 math.OC
Solving Underdetermined Boundary Value Problems By Sequential Quadratic Programming
对技术系统建模的常微分方程通常包含被认为对系统是危险的状态。达到这种状态的轨迹通常表明设计中存在缺陷。在本文中,我们提出并研究了一种算法,找到这样的轨迹的属性。也就是说,对于给定的常微分方程,该算法找到起源于一组状态并到达另一组状态的轨迹。该算法是基于序列二次规划适用于正则化最优化问题得到的多次射击。
2016-10-04 math.OC
Linearly Convergent First-Order Algorithms for Semi-definite Programming
本文考虑了Slater型约束规格假设下线性矩阵不等式的两种形式,即SDP光滑和非光滑形式.我们还提出了两个一阶线性收敛算法求解这些配方。此外,我们还引入了一个双水平方法,该方法对光滑和非光滑问题都线性一致收敛,并且不需要任何光滑信息。并讨论了这些算法的收敛性。最后,我们考虑了线性矩阵不等式的一种特殊情况,即线性系不等式,并证明了在较弱的假设下可以得到线性收敛的算法。
2013-09-09 math.OC
A Mathematical Programming approach to Overlapping community detection by cluster's Shapley value
提出了一种新的基于合作对策和数学规划的重叠社区检测模型。更具体地说,社区被定义为一个加权图社区游戏的稳定联盟,他们被揭示为一个混合整数线性规划问题的最优解。精确的最优解获得的小型和中型的情况下,它表明,它们提供了有用的信息的网络结构,改善以前的贡献。接下来,开发了一种启发式算法来求解最大的实例,并用于比较目标函数的两种变化。
2023-01-25 math.OC
A preconditioner for solving linear programming problems with dense columns
针对含稠密列的线性规划问题求解中线性系统求解的难点,提出一种预条件子,理论证明其收敛时线性系统一致有界,实验验证其在运行时间、迭代次数上具鲁棒性与竞争力。
2024-04-16 math.OC
Gradient-Bounded Dynamic Programming for Submodular and Concave Extensible Value Functions with Probabilistic Performance Guarantees
我们考虑随机动态规划问题的高维,离散的状态空间和有限的,离散的时间范围,禁止直接计算的值函数从一个给定的贝尔曼方程的所有状态和时间步长,由于“灾难的维数”。针对动态规划的值函数在状态空间中是凹可扩的和次模的情况,在对偶动态规划领域中,提出了一种计算值函数的确定性上界和随机下界的新算法.我们表明,该算法终止后,有限数量的迭代。此外,我们得出概率保证下积累的价值相关联的政策为一个单一的实现的动态程序,并期望这个值。最后,我们证明了我们的方法的有效性,从交付插槽定价在参加送货上门的高维数值例子。
2020-06-03 math.OC
Value Function Gradient Learning for Large-Scale Multistage Stochastic Programming Problems
针对大规模多阶段随机凸规划问题,提出了一种称为值函数梯度学习(VFGL)的分阶段分解算法。VFGL在给定的参数族中找到与值函数的梯度最佳拟合的参数值。多阶段随机规划的分解算法,如随机对偶动态规划(SDDP),通过在每次迭代中添加线性次梯度割来近似值函数。虽然这种方法已经成功的线性问题,非线性问题可能会受到每个子问题的规模不断增加的迭代进行。另一方面,VFGL具有固定数量的参数;因此,子问题的大小在整个迭代过程中保持不变。此外,VFGL可以通过随机梯度下降来学习参数,这意味着它可以很容易地并行化,并且不需要对潜在的不确定性进行情景树近似。VFGL进行了比较,确定性等价制定的多阶段随机规划问题和SDDP方法的三个说明性的例子:生产规划,热液发电,和生命周期的财务规划问题。数值例子表明,VFGL可以生成高质量的解,并且计算效率很高。
2022-10-05 math.OC
Value iteration for approximate dynamic programming under convexity
本文研究了无限水平收缩马氏决策过程在凸性假设下的值迭代问题,当状态空间不可数时。用一种更易处理的形式代替原值迭代,并证明了修正Bellman算子的不动点在紧集上一致收敛于原算子.对于随机干扰,这在各种采样方法下都成立。此外,本文将提出的条件,在这些不动点形成单调序列的下界或上界函数的原始不动点。这种方法,然后证明了数字上的永久性的可转换认沽期权。
2018-02-20 math.OC
Linear Programming Estimates for Cesaro and Abel Limits of Optimal Values in Optimal Control Problems
考虑了具有时间平均和时间折扣准则的无限时域最优控制问题,并在它们依赖于初始条件的情况下,给出了它们的最优值的Cesaro和Abel极限的估计.我们建立了这些限制是有界的,从上到下由一定的无限维(ID)线性规划(LP)问题的最优值,他们是有界的相应的对偶问题的最优值。(这些估计意味着,特别是,Cesaro和阿贝尔极限存在,并且彼此相等,如果没有对偶间隙)。此外,我们得到了基于IDLP的长期平均最优控制问题的最优性条件,并通过一个例子说明了这些条件。
2020-12-02 math.OC
Strong Polynomiality of the Value Iteration Algorithm for Computing Nearly Optimal Policies for Discounted Dynamic Programming
本文给出了有限状态数和动作数的无限时域贴现马尔可夫决策过程的近似最优策略的数值迭代计算所需操作数的上界。对于一个给定的折扣因子,报酬函数的大小,并期望接近最优,这些上界是强多项式的状态-动作对的数量,和提供的上界之一具有的属性,它是一个非减函数的折扣因子的值。
2020-01-28 math.OC
Interval Linear Programming under Transformations: Optimal Solutions and Optimal Value Range
本文研究区间线性规划在常见变换(如非负性约束和方程拆分)下最优解集、最优值及最优值范围的变化,并针对仅目标函数和右端向量含不确定性的特殊类获得更强结果。
2018-02-27 math.OC
Two Optimal Value Functions in Parametric Conic Linear Programming
考虑欧几里得空间中由闭凸锥和矩阵构成的锥线性规划,其中约束系统右侧的向量和定义目标函数的向量都是可变的.利用严格可行性条件,证明了该问题的局部Lipschitz连续性,并得到了该问题的最优值函数在右端扰动下的一些可微性质.对于目标函数线性扰动下的最优值函数,在原问题和对偶问题都严格可行的假设下,得到了类似的可微性.
2020-12-17 math.OC
Subdifferentials of Value Functions in Nonconvex Dynamic Programming for Nonstationary Stochastic Processes
本文的主要目的是应用变分分析和广义微分的方法研究巴拿赫空间中不带凸性假设的离散时间无限时域随机动态规划(DP)问题。不同于标准的随机DP平稳马尔可夫过程,我们在这里研究随机DP在$L^p$空间来处理非平稳随机过程,它描述了一个更灵活的学习过程的决策者。我们主要关心的是计算相应的值函数的广义次梯度,并在适当的Lipschitzian假设下推导出随机Euler包含的最优性的必要条件。使用次微分公式的积分泛函$L^p$空间允许我们,特别是,找到可验证的条件,以确保光滑的值函数没有任何凸性和/或凸性假设。
2019-09-01 math.OC
Solving exact and noisy rank-one tensor completion with semidefinite programming
Georgia Institute of Technology(佐治亚理工学院)
本文利用半定规划研究秩一张量补全,基于观测掩码的组合结构给出精确与含噪恢复的确定性条件,并证明其所需观测数显著少于已有方法。
2025-11-08 math.OC
A Data-Driven Distributionally Robust Bound on the Expected Optimal Value of Uncertain Mixed 0-1 Linear Programming
研究了目标系数服从联合分布的不确定混合0-1规划问题的期望最优值。我们假设真实的分布并不确切,但可以观察到一组独立的样本。使用Wasserstein度量,我们构建了一个模糊集集中在经验分布从观察到的样本,并包含具有高统计保证的真实分布。感兴趣的问题是调查的Wasserstein模糊集上的期望最优值的界限。在标准的假设下,我们重新制定的问题成一个共同的计划,这自然会导致一个听话的半定近似。我们比较我们的方法与基于矩的方法从文献上的三个应用程序。数值结果说明了我们的方法的有效性。
2017-08-25 math.OC
Continuity in Parametric Linear Programming
该研究汇集参数线性规划可行对应与解对应的半连续性结果,证明全参数可变下最优值函数的连续性,还分析了系数矩阵固定时最优值函数的灵敏度特性。
2024-12-09 math.OC
Dynamic programming principle for stochastic optimal control problem under degenerate G-expectation
本文研究了退化G-期望下的随机最优控制问题。利用隐分划方法,证明了对于容许控制的近似结果仍然成立。在此基础上,证明了价值函数是确定性的,并得到了动态规划原理。进一步证明了在退化情形下,该值函数是相应的HJB方程的唯一黏性解。
2022-10-18 math.OC
An Approximate Dynamic Programming Algorithm for Monotone Value Functions
许多序贯判定问题可以用马尔可夫决策过程(Markov Decision Process,MDP)来表示,其中的最优值函数(或剩余成本函数)在某些或全部维度上满足单调结构。当状态空间变大时,传统技术,例如后向动态规划算法(即,反向归纳法或值迭代法)可能不再有效地在合理的时间范围内找到解决方案,因此我们被迫考虑其他方法,例如近似动态规划(ADP)。我们提出了一个可证明收敛的ADP算法称为单调ADP,利用单调性的值函数,以提高收敛速率。在本文中,我们描述了一个一般的有限时域问题设置的最优值函数是单调的,提出了一个收敛性证明单调ADP在各种技术假设下,并显示三个应用领域的数值结果:最佳停止,能量存储/分配,糖尿病患者的血糖控制。实证结果表明,通过利用单调性,我们可以在相对较少的迭代次数内获得高质量的解决方案,使用高达两个数量级的计算比所需的精确计算最优解。
2015-09-01 math.OC
Explicit criterion of uniform LP duality for linear problems of copositive optimization
一致LP对偶是锥矩阵系统的一个有用性质。一个相容的线性锥最优化问题产生一致的LP对偶,如果对于任何线性费用函数,其原始问题具有有限的最优值,相应的Lagrange对偶问题是可达到的,并且对偶间隙为零。本文建立了线性余正规划一致LP对偶的新的充要条件,并给出了这些条件的不同等价形式。使用的方法,在以前的论文中的作者和不动指数的概念,允许替代表示的一组可行解的基础上得到的主要结果。
2023-02-18 math.OC
Relationship between maximum principle and dynamic programming principle for recursive optimal control problem of stochastic evolution equations
School of Mathematical Sciences, Nankai University(南开大学数学科学学院);School of Mathematical Sciences, Fudan University(复旦大学数学科学学院)
本文研究了随机发展方程递归最优控制问题中最大原理与动态规划原理的关系,证明了价值函数的正则性并探讨了其应用。
2025-12-18 math.OC
Relationship between Maximum Principle and Dynamic Programming Principle for Risk-Sensitive Stochastic Optimal Control Problems with Applications
本文揭示风险敏感随机最优控制中最大值原理与动态规划原理在值函数光滑条件下的内在联系,并应用于金融市场的线性二次投资组合优化。
2025-07-09 math.OC
State-Dependent Uncertainty Modeling in Robust Optimal Control Problems through Generalized Semi-Infinite Programming
本文提出将广义半无限规划重构为存在性约束 SIP,并用有限场景局部归约求解状态依赖不确定性下的非线性鲁棒最优控制问题,在平面四旋翼仿真中优于统一不确定性界方法。
2025-03-13 math.OC
Dynamic programming principle and Hamilton-Jacobi-Bellman equation under nonlinear expectation
本文研究了一类随机递归最优控制问题,其中值泛函由$\tilde{G}$ -期望下的倒向随机微分方程(Besides)的解定义。在标准假设下,建立了这类问题的比较定理,并给出了一种新的、简单的方法来获得动态规划原理。最后证明了该值函数是一类完全非线性HJB方程的唯一黏性解。
2021-06-05 math.OC
Inner approximating the completely positive cone via the cone of scaled diagonally dominant matrices
由于完全正规划在编码困难最优化问题方面的表现力,许多完全正锥的近似方案被提出并成功应用。大多数方案都是基于外部近似,只有内部近似是基于线性规划的方法,由Bundfuss和Dür以及Yıldırım提出,以及Lasserre提出的基于半定规划的方法。在本文中,我们提出了使用的锥的非负规模对角占优矩阵作为一个自然的内部逼近的完全正锥。利用这个锥的投影,我们得到新的基于图的二阶锥逼近计划完全正规划,导致统一和问题相关的层次结构。这提供了半定规划的表达能力和基于线性规划的方法的速度之间的折衷。随机问题,标准二次规划和独立集问题的数值结果表明,我们的方法的有效性。
2019-10-04 math.OC
Developing solution algorithm for LR-type fully interval-valued intuitionistic fuzzy linear programming problems using lexicographic-ranking method
本文引入了LR型区间直觉模糊数的概念。通过展示LR型IVIFNs的图形表示和建立这些模糊数之间的算术运算,也丰富了该理论。字典序准则的全序性质已被用于LR型IVIFNs的排序。此外,一个线性规划问题,具有等式以及不等式型约束的LR型IVIFNs和无限制的决策变量的所有参数已制定。一个算法来找到一个唯一的最优解的问题,使用字典排序方法已经开发出来。该方法将给定的线性规划问题转化为等价的混合0 - 1字典式非线性规划问题。各种定理已被证明,以显示所提出的问题和它的不同结构的等价性。模型的建立、算法和讨论结果不仅开拓了一种新的思路,而且推广了已有的各种著名的相关工作。一个数值问题也被举例说明,以显示在该方法中所涉及的步骤。最后,以一个生产计划的实际应用为例,进行了框架设计、求解和分析,以确定本研究的适用性。
2023-01-18 math.OC
Dynamic programming using radial basis functions
提出了一种基于径向基函数和Shepard移动最小二乘逼近方法的动态规划最优性原理的离散化方法。我们证明了近似最优值函数收敛于真值函数,并给出了几个数值实验。
2014-05-15 math.OC
Ergodic Approach to Robust Optimization and Infinite Programming Problems
在这项工作中,我们展示了一种方法的一致性,用于解决强大的最优化问题,使用遍历保测变换产生的子问题序列。本文的主要结果是子问题的极小值和最优值在某种意义下分别收敛于原问题的极小值和最优值。我们的结果特别暗示了情景方法对于非凸最优化问题的一致性。最后,我们表明,我们的方法也可以用来解决无限规划问题。
2020-09-10 math.OC
Relationship between stochastic maximum principle and dynamic programming principle under convex expectation
本文研究G-期望支配的一致凸期望下正倒向控制系统的最大值原理与动态规划原理的关系,推导了值函数光滑时二者在参考概率下的关联,以及非光滑时任意时刻t的值函数一阶次/超喷射,指出该情形比t=0时更难处理。
2024-09-17 math.OC
Uncertain random geometric programming problems
School of Basic Sciences, Indian Institute of Technology Bhubaneswar(印度理工学院布巴内斯瓦尔基础科学学院)
本文提出确定性方法解决不确定随机几何规划问题,通过线性-正态不确定随机变量转换为随机变量,提升优化过程的清晰度和实用性。
2023-10-03 math.OC
The Value Iteration Algorithm is Not Strongly Polynomial for Discounted Dynamic Programming
Stony Brook University(石溪大学)
本说明提供了一个简单的例子,证明如果允许精确计算,则值迭代算法为贴现动态规划问题找到最优策略所需的迭代次数可以随问题的大小任意快速地增长。特别地,迭代的数量可以是动作数量的指数。因此,与策略迭代不同,值迭代算法对于折扣动态规划不是强多项式。
2013-12-19 cs.AI math.OC
Linear programming sensitivity measured by the optimal value worst-case analysis
本文提出线性规划最优值函数的最坏情形导数,作为数据扰动下的灵敏度度量与条件数,并给出非退化情形计算方法、退化情形上界及 Netlib 实验验证。
2023-07-13 math.OC
Dynamic Programming for Optimal Delivery Time Slot Pricing
我们研究的动态规划的方法来收入管理的背景下,参加了家庭交付。我们利用马尔可夫判定问题的动态规划理论的结果表明,底层的Bellman算子有一个唯一的不动点。然后,我们提供了一个封闭形式的表达式所产生的不动点,并表明,它承认一个自然的解释。此外,我们还表明,-在某些技术假设下-值函数,它有一个离散域和一个连续的codomain,承认一个连续的扩展,这是一个有限值,凹函数的状态变量,在每个时间步。这一结果开辟了道路,为实现可扩展的实施所提出的制定在未来的工作中,因为它允许作出明智的选择,在近似动态规划的背景下的基函数。我们说明了我们的研究结果上一个简单的数值例子,并提供建议,我们的结果可以被利用,以获得更接近的精确值函数。
2019-10-25 math.OC
Analyzing changes in optimal variables in linear programming with uncertain parameters
University of Liège(列日大学)
研究线性规划中参数不确定性对最优变量值的影响,提出三种线性修改类型并建立连续性、局部凸性和凹性定理。
2026-06-18 math.OC
Dynamic Programming Principle for Stochastic Control Problems on Riemannian Manifolds
本文在无边界紧黎曼流形上建立随机最优控制问题的动态规划原理,推导HJB方程并证明粘性解的存在唯一性与连续依赖性,进而在正则性条件下给出刻画最优控制的验证定理。
2025-07-02 math.OC
Generalized Dual Dynamic Programming for Infinite Horizon Problems in Continuous State and Action Spaces
我们描述了一个非线性推广的对偶动态规划理论和它的应用价值函数估计确定性控制问题的连续状态和动作空间,在一个离散时间无限的地平线设置。我们证明,利用贝尔曼算子的单调性,一个阶段的政策评估的结果,可以用来产生非线性下界的最优值函数,是有效的整个状态空间的本德类型的参数。这些界限包含反映系统成本、动态和约束的函数形式的项。我们提供了一个迭代算法,产生连续更好的近似的最优值函数,并证明在一定的假设下,它实现了任意低的期望贝尔曼最优性公差在预先选定的点在状态空间,在有限数量的迭代。我们还描述了证明所生成的值函数的质量的方法。我们证明了系统的尺寸太大,传统的动态规划方法是实用的方法的有效性。
2018-10-04 math.OC
Regular Policies in Abstract Dynamic Programming
我们考虑具有挑战性的动态规划模型,其中相关的贝尔曼方程,价值和政策迭代算法通常表现出复杂的,甚至病态的行为。我们的分析是基于定期保单的新概念。这些策略在价值和策略迭代方面表现良好,并且在适当的策略之后进行模式化,这是随机最短路问题理论的核心。我们表明,最佳费用函数定期政策可能有良好的价值和政策的迭代性质,最佳费用函数在所有的政策不需要。因此,我们开发了一个统一的方法来解决长期存在的分析和算法问题,在广泛的类未贴现模型,包括随机和极大极小最短路问题,以及正成本,负成本,风险敏感,和乘法成本问题。
2016-09-11 math.OC
Pathwise uniform value in gambling houses and Partially Observable Markov Decision Processes
在几个标准的动态规划模型(赌场,MDPs,POMDPs),我们证明了存在一个非常强大的概念的价值无限重复的问题,即路径一致的价值。这解决了两个开放的问题。首先,这表明,对于任何n>0,决策者有一个纯策略sigma,它在任何n阶段博弈中都是ε-最优的,前提是n足够大(这个结果只适用于行为策略,即使用随机化的策略)。第二,可以选择策略sigma,使得在长期平均收益标准(平均收益的limif的期望)下,决策者具有大于lim v(n)-n的收益。
2015-09-08 math.OC
Dynamic Programming Principles for Optimal Stopping with Expectation Constraint
我们分析了一个具有期望费用约束的最优停止问题。当报酬函数和费用函数在状态变量上是Lipschitz连续的时,我们证明了这样一个最优停止问题的值在当前状态和预算水平上都是一个连续函数.然后,我们推导出一个动态规划原则(DPP)的价值函数,其中的条件期望成本作为一个额外的状态过程。由于具有期望约束的最优停止问题可以转化为具有上鞅控制的随机最优化问题,我们研究了价值函数的第二个DPP,从而解决了[S. Ankirchner,M. Klein和T.张文,等,一个求解具有期望约束的最优停止问题的验证定理,应用数学与优化,2017,pp. 1-33]。基于这两个DPP,我们将值函数刻画为相关的完全非线性抛物型Hamilton-Jacobi-Bellman方程的黏性解。
2017-08-07 math.OC
A simple planning problem for COVID-19 lockdown: a dynamic programming approach
最近的大量研究考虑了一个房室SIR模型来研究最优控制政策,旨在遏制COVID-19的扩散,同时最大限度地减少预防措施的经济成本。这样的问题是非凸的,标准的结果不需要保持。我们使用动态规划的方法,并证明了相关的最优化问题的值函数的一些连续性。我们研究了相应的Hamilton-Jacobi-Bellman方程,并证明了该值函数在粘性意义下解该方程。最后讨论了一些最优性条件。我们的论文代表了在动态规划方法中对非凸动态最优化问题进行完整分析的第一个贡献。
2022-12-20 math.OC
Approximate Dynamic Programming with Probabilistic Temporal Logic Constraints
在本文中,我们发展近似动态规划方法的随机系统建模为马尔可夫决策过程,给定软性能标准和硬约束的一类概率时态逻辑称为概率计算树逻辑(PCTL)。我们的方法包括两个步骤:首先,我们展示了如何将一类PCTL公式转换为机会约束,可以在随机系统规划过程中执行。其次,通过整合随机优化和熵调节动态规划,我们设计了一种新的轨迹采样的近似值迭代法迭代求解的上界的价值函数,同时确保PCTL规格满足的约束。特别地,我们证明了通过对轨迹的策略采样,可以实现近似和真值函数给出的上界之间的紧界。机器人运动规划实例验证了该方法的正确性和有效性。
2018-10-05 math.OC
Intermediate integer programming representations using value disjunctions
我们介绍了一种通用的技术来创建一个扩展的配方的混合整数规划。我们将整数变量分成块,每个块生成一个有限集的向量值。通过为每个生成的值创建一个新的二进制变量来构造扩展公式。初步实验表明,扩展的配方可以有一个更紧凑的完整的描述比原来的配方。我们证明,使用这种重构技术,刻面描述分解成一个“连接多面体”每块和“聚合多面体”。每个多面体都可以单独分析。对于块中系数相同的情况,我们给出了连接多面体的完整描述和多项式时间分离算法。应用于具有固定数目的不同系数的背包,该定理在具有多项式数目的变量的扩展空间中提供了完整的描述。
2006-03-13 math.OC