Regular Policies in Abstract Dynamic Programming
我们考虑具有挑战性的动态规划模型,其中相关的贝尔曼方程,价值和政策迭代算法通常表现出复杂的,甚至病态的行为。我们的分析是基于定期保单的新概念。这些策略在价值和策略迭代方面表现良好,并且在适当的策略之后进行模式化,这是随机最短路问题理论的核心。我们表明,最佳费用函数定期政策可能有良好的价值和政策的迭代性质,最佳费用函数在所有的政策不需要。因此,我们开发了一个统一的方法来解决长期存在的分析和算法问题,在广泛的类未贴现模型,包括随机和极大极小最短路问题,以及正成本,负成本,风险敏感,和乘法成本问题。
2016-09-11 math.OC
Dynamic Non-Diagonal Regularization in Interior Point Methods for Linear and Convex Quadratic Programming
本文提出了一种动态非对角正则化的内点方法。该正则化的非对角方面是隐式的,因为正则化矩阵的所有非对角元素被牛顿系统中存在的那些元素抵消,这些元素在牛顿方向的计算中不贡献重要信息。这样的正则化有多个目标。最明显的一个是改善内点法每次迭代求解的牛顿系统的谱性质。另一方面,正则化矩阵向上述线性系引入稀疏性,从而允许更有效的因子分解。我们还提出了一个规则调整的正则化动态的基础上的问题的属性,使足够大的特征值的非正则化系统的扰动不显着。这说明需要通过实验来找到特定的正则化值,这是文献中最常见的方法。给出了非正则化系统矩阵特征值的扰动界,并讨论了正则化矩阵的谱性质。最后,我们证明了该方法适用于解决标准的中小型线性和凸二次规划测试问题的效率。
2019-02-13 math.OC
Regular Subgradients of Marginal Functions with Applications to Calculus and Bilevel Programming
本文研究了变分分析和参数优化中本质非光滑的最优值(边际)函数,通过给定数据精确计算其正则/Fréchet次梯度及奇异对应物,并据此建立了新的次梯度微积分法则和双层规划的必要最优性条件。
2025-02-04 math.OC
Regularization by dynamic programming
研究了静态和动态线性反问题的连续正则化方法。这些方法是基于线性二次型最优控制问题的动态规划方法。我们证明了正则化的性质,也得到了我们的方法的收敛速度。一个关于动态电阻抗层析成像(EIT)问题的数值例子被用来说明理论结果。
2021-01-22 cs.NA math.NA math.OC
Sequential Linear Integer Programming for Integer Optimal Control with Total Variation Regularization
我们提出了一个信赖域方法,解决了一系列的线性整数规划,以解决整数最优控制问题正则化的全变差罚款。全变差罚函数使我们能够证明整数最优控制问题的极小值的存在性。我们引入了一个局部最优性的概念的问题,这是从无限维的角度来看。在控制函数的一维域的情况下,我们证明了我们的算法所产生的迭代收敛到满足局部最优的一阶平稳性条件的点。我们证明了一个计算实例的理论研究结果。
2022-05-06 math.OC
Fast randomized entropically regularized semidefinite programming
我们开发了一个实用的方法,半定规划(SDP),包括冯诺依曼熵,或适当的变体,作为一个正规化项。特别是,我们解决了对偶的正则化程序,演示了如何精心选择的随机跟踪估计可以用来有效地估计对偶梯度。我们还介绍了专门的优化方法,常见的SDP,特别是SDP与对角约束和确定的极端特征向量的跨度上的光谱投影仪的问题。我们验证了我们的方法在这些问题上的应用组合优化和谱嵌入。
2023-03-21 cs.NA math.NA math.OC
Computing sandpile configurations using integer linear programming
众所周知,反复出现的沙堆构形可以表征为某些最优化问题的最优解。在这篇文章中,我们提出了两个新的整数线性规划模型,一个计算递归配置和其他计算的顺序的配置。最后,利用线性规划的对偶性,计算了正则图的锥的恒等构型。
2020-08-31 math.CO math.OC
Metric Regularity of Quasidifferentiable Mappings and Optimality Conditions for Nonsmooth Mathematical Programming Problems
本文利用Demyanov-Rubinov-Polyakova拟微分分析了度量正则性的充要和充分条件.利用距离函数的拟微分得到了一个局部度量正则性的新的充要条件。我们还提出了一个新的MFCQ型约束规格的拟可微等式和不等式约束的参数系统,并证明了它确保了与此系统相关联的多功能的度量正则性。作为应用,我们利用我们的约束规格,以加强现有的最优性条件拟可微规划问题的等式和不等式约束。我们还证明了拟微分的选择的最优性条件的独立性,并提出了一个简单的例子,其中的最优性条件的拟微分检测的非最优性的一个给定的点,而最优性条件的各种次微分未能取消这一点作为非最优。
2020-11-17 math.OC
Totally Asynchronous Large-Scale Quadratic Programming: Regularization, Convergence Rates, and Parameter Selection
二次规划出现在机器人、通信、智能电网和许多其他应用中。随着这些问题的规模不断扩大,寻找解决方案的计算要求越来越高,需要新的算法来大规模有效地解决这些问题。针对大规模的问题,我们开发了一个多智能体二次规划框架中,每个代理更新只有一小部分的总决策变量的问题。智能体相互传递更新后的值,尽管我们对它们这样做的时间没有任何限制,也没有限制这些传输的延迟。此外,我们允许代理之间的弱参数耦合,在这个意义上说,他们可以自由地独立选择自己的步长,受到温和的限制。我们进一步提供了代理独立正则化他们解决的问题的方法,从而提高收敛性能,同时保持代理在选择参数方面的独立性,并确保满足正则化误差的全局范围。更大的正则化加速收敛,但增加了获得的解决方案中的错误,我们量化的收敛速度和解决方案的质量之间的权衡。仿真结果来说明这些发展。
2020-06-15 math.OC
Asymptotic behavior of Integer Programming and the stability of the Castelnuovo-Mumford regularity
本文将交换代数与整数规划联系起来,分为两部分。第一部分研究具有固定费用线性泛函的整数规划的渐近性态,约束集由整数系数线性依赖于$n$的有限线性方程组或不等式组组成.确定整数$N_*$,使得这些整数规划的最优解对于所有$n\ge N_*$都是$n$的准线性函数。利用第一部分的结果,在第二部分中,我们得到了单项式理想的幂的整闭包的Castelnuovo-Mumford稳定性指数和无平方单项式理想的符号幂的稳定性指数的界.
2020-11-02 math.AC math.OC
A generalised log-determinant regularizer for online semi-definite programming and its applications
Kyushu University(九州大学);RIKEN AIP(理化学研究所AIP);SMN Corporation(SMN公司)
我们考虑在线半定规划问题(OSDP)的一个变体:决策空间由具有有界$Γ$ -迹范数的半定矩阵组成,这是由正定矩阵$Γ.$定义的迹范数的推广。为了解决这个问题,我们利用具有$Γ$依赖对数行列式正则化子的跟随正则化领导算法。然后,我们将我们的广义设置和我们提出的算法在线矩阵完成(OMC)和在线相似性预测与边信息。特别是,我们减少了在线矩阵完成问题的广义OSDP问题,和边信息表示为$Γ$矩阵。因此,由于我们的遗憾界的广义OSDP,我们得到了最佳的错误界的OMC通过删除对数因子。
2020-12-11 cs.LG math.OC
Asymptotic regularity for Lipschitzian nonlinear optimization problems with applications to complementarity-constrained and bilevel programming
渐近平稳性和正则性条件对于研究标准非线性和互补约束规划的数值解方法的定性性质是非常有用的。在本文中,我们首先将这些概念扩展到非光滑但Lipschitz数据函数的非线性最优化问题,以便在Clarke和Mordukhovich的次微分构造方面找到渐近平稳性和正则性的合理概念。特别是,我们比较相关的新的渐近约束规格与现有的。本文的第二部分介绍了所获得的理论的两个应用。一方面,我们指定我们的互补约束最优化问题的研究结果,并恢复最近的结果,从文献中展示的权力的方法。此外,我们暗示潜在的扩展或消失约束优化。另一方面,我们证明了有用的渐近正则性的上下文中的双层优化。更准确地说,我们证明了一个著名的平稳系统的亲和力约束的双层最优化问题在一个新的方式。之后,我们提出了一种解决这类双层最优化问题的算法,它结合了惩罚方法和DC-规划的思想。经过一个简短的收敛性分析,我们提出了一些数值实验的结果。
2021-09-01 math.OC
Totally Asynchronous Distributed Quadratic Programming with Independent Stepsizes and Regularizations
二次规划出现在机器人、通信、智能电网和许多其他应用中。随着这些问题规模的增长,寻找解决方案变得更加需要计算,需要新的算法来有效地解决它们。针对大规模的问题,我们开发了一个多智能体二次规划框架中,每个代理更新只有一小部分的总决策变量的问题。智能体相互传递更新后的值,尽管我们对它们这样做的时间没有任何限制,也没有限制这些传输的延迟。此外,我们允许代理之间的弱参数耦合,在这个意义上,他们可以自由地独立选择自己的步长,受到温和的限制。我们表明,这些步长的限制取决于一个问题的条件数。我们还提供了代理独立正则化他们解决的问题,从而提高条件数,我们将展示,收敛性能,同时保持代理在选择参数的独立性的手段。仿真结果证明了该框架在一个实际的二次规划上的成功。
2019-03-20 math.OC
Iterative Hard Thresholding Methods for $l_0$ Regularized Convex Cone Programming
Simon Fraser University(西蒙弗雷泽大学);Texas A&M University(得克萨斯农工大学)
提出迭代硬阈值方法及其变体求解 $l_0$ 正则化凸锥规划,证明收敛到局部极小点并建立迭代复杂度。
2012-11-02 cs.LG cs.NA math.NA
Aubin Property and Strong Regularity Are Equivalent for Nonlinear Second-Order Cone Programming
本文通过基于 Mordukhovich 判据的约简方法和锥上替代选择引理,证明非线性 SOCP 局部最优解处 Aubin 性质与强正则性等价,并为传统非线性规划的经典等价结果提供新途径。
2025-01-07 math.OC
Entropy linear programming
提出了一种基于快速梯度法的ELP对偶算法。基本思想-正确地解决正则化的对偶问题。
2016-02-04 math.OC
Convergence of a Scholtes-type Regularization Method for Cardinality-Constrained Optimization Problems with an Application in Sparse Robust Portfolio Optimization
本文研究了具有基数约束的一般非线性规划问题。通过放松自然混合整数规划公式中的二元变量,我们得到了一个几乎等价的非线性规划问题,因此仍然难以解决。因此,我们应用Scholtes型正则化方法来获得一系列更容易解决的问题,并研究所获得的KKT点的收敛性。我们表明,这样的序列收敛到一个S-平稳点,这对应于一个局部极小的原问题的假设下凸。此外,我们考虑投资组合的最优化问题,我们最小化的基数约束下的投资组合的风险度量。考虑了各种风险度量,特别是收益率正态分布下的风险价值和条件风险价值,以及矩条件下的稳健度量。对于这些被表述为具有基数约束的非线性规划问题的投资问题,我们对取自文献的大量模拟实例进行了数值研究,并与其他考虑的解决方案方法相比,阐明了Scholtes型正则化方法的计算性能:一个混合整数求解器,一个直接的连续重构求解器和Kanzow-Schwartz正则化方法,这已经被应用到Markowitz投资组合问题。
2017-03-30 math.OC
Extended reverse-convex programming: an approximate enumeration approach to global optimization
本文提出了一种新的求解一类可分解非线性规划(NLP)问题全局最优解的方法。与传统的分支定分支定界法中采用的划分决策变量空间的策略不同,该方法将NLP问题近似为一个逆凸规划(RCP)问题,并通过枚举搜索来求解。为了建立该方法的理论保证,引入了“RCP正则性”的概念,并证明了当RCP问题是正则的时,枚举保证产生全局最优值。一个扩展的RCP算法框架,然后提出了一个小的测试问题,其性能进行了检查。
2015-04-25 math.OC
Linear programming using diagonal linear networks
该研究探索过参数化对角线性网络结合梯度下降的隐式偏置求解线性规划,提出首个相关综合框架,证明离散与连续动力学均线性收敛,可应用于基追踪、最优输运等问题。
2023-10-04 math.OC
Technical Report: Distributed Asynchronous Large-Scale Mixed-Integer Linear Programming via Saddle Point Computation
我们通过分布式异步鞍点计算求解大规模混合整数线性规划。这是由于MILP能够在多代理自治中建模问题,例如,多机器人系统中具有避碰约束的任务分配和轨迹规划问题。为了解决MILP,我们放松它与非线性程序近似,其精度收紧代理的数量增加相对于耦合约束的数量。接下来,我们形成一个等价的拉格朗日鞍点问题,然后在原始空间和对偶空间中正则化拉格朗日,以创建一个正则化的拉格朗日是强凸-强凹的。然后,我们开发了一个并行算法来计算正则化拉格朗日的鞍点。该算法将问题划分为原始或对偶决策变量的标量或子向量块,并且在原始和对偶变量的计算和通信中显示出容忍冗余。给出了收敛到鞍点的次优界和收敛速度。次优性界包括(i)正则化拉格朗日量引起的正则化误差和(ii)原始MILP和其松弛形式的解之间的次优性间隙。仿真结果说明了这些理论在实践中的发展,并表明松弛和正则化一起得到的解决方案的质量只有轻微的影响。
2022-11-21 math.OC
Quantum thermodynamics and semidefinite programming: regularization and algorithms
University of Warwick(华威大学);Instituto de Matemática Pura e Aplicada(巴西数学纯应用研究所);Department of Mathematics and Statistics, University of Ottawa(渥太华大学数学与统计系);Università statale di Milano(米兰大学)
本文提出了一种通用框架,用于解决量子热力学中的正则化问题,并探讨了其在量子态重构和最优运输中的应用,同时分析了算法收敛性。
2026-03-06 math-ph math.MP math.OC
Proximal stabilized Interior Point Methods for quadratic programming and low-frequency-updates preconditioning techniques
在这项工作中,在线性和二次规划的背景下,我们解释原始对偶正则化内点方法(PDR-IPMs)的框架内的邻近点方法。由此产生的近端稳定IPM(PS-IPM)的强有力的支持有关的收敛性和收敛速率的理论结果,并可以处理退化问题。此外,在这项工作的第二部分中,我们分析了正则化参数和用于求解牛顿线性系的线性代数例程的计算足迹之间的相互作用。特别是,当这些系统使用迭代Krylov方法求解时,我们提出了通用的预条件,利用正则化和新的重排的舒尔补,仍然有吸引力的一系列后续IPM迭代。因此,它们只需要在总IPM迭代的一小部分中重新计算。由此产生的正则化的二阶方法,其中低频更新的预处理器是允许的,铺平了道路的替代第三种方式之间的第一和第二阶方法。
2022-05-03 cs.NA math.NA math.OC
Non-Euclidean dual gradient ascent for entropically regularized linear and semidefinite programming
提出一种基于 von Neumann 熵正则化与对偶梯度上升的优化框架,在半定规划与线性规划中实现了维度无关的收敛速率与计算缩放。
2025-07-01 cs.NA math.NA math.OC
A Decomposition Augmented Lagrangian Method for Low-rank Semidefinite Programming
我们开发了一种基于增广拉格朗日框架的分解方法来解决广泛的半定规划问题,可能与非线性目标函数,非光滑正则化,一般线性等式/不等式约束。特别地,半正定变量和一组线性约束可以通过矩阵分解转化为光滑流形上的变量。非光滑正则化和其他一般的线性约束由增广拉格朗日方法处理。因此,每个子问题都可以用流形上的半光滑牛顿法求解。理论上,我们证明了在一定条件下,分解子问题的一阶和二阶最优性必要条件最优性条件对于原子问题也是充分的。对黎曼子问题和增广拉格朗日方法进行了收敛性分析。大规模半定规划问题,如最大割,最近的相关估计,聚类和稀疏主成分分析广泛的数值实验表明,我们提出的方法相比,其他国家的最先进的方法的强度。
2023-03-07 math.OC
Stochastic Dynamic Linear Programming: A Sequential Sampling Algorithm for Multistage Stochastic Linear Programming
多阶段随机规划处理的经营和规划问题,涉及一系列的决策随着时间的推移,同时响应实现是不确定的。多阶段随机线性规划(MSLP)问题的算法通常依赖于场景树来表示底层的随机过程。当这一过程表现出阶段独立性,抽样为基础的技术,特别是随机对偶动态规划(SDDP)算法,已得到广泛接受。然而,这些基于采样的方法仍然使用所谓的样本平均近似的问题的确定性表示。在这项工作中,我们提出了一个序贯抽样的方法,允许决策过程吸收新的采样数据递归MSLP问题。我们把这种方法称为随机动态线性规划(SDLP)算法。由于我们使用序贯抽样,该算法不需要先验表示的不确定性,无论是通过一个场景树或样本平均近似,这两个都需要知识/估计的基础分布。在这方面,SDLP是解决MSLP问题的序贯抽样方法。该方法构成了两阶段SLP模型的随机分解(SD)的推广。我们采用二次正则化的最优化问题的非终端阶段。此外,我们引入了基本可行的政策,提供了一个分段仿射的解决方案发现计划,这是嵌入在优化算法,以确定用于正则化现任解决方案的概念。最后,我们证明了SDLP算法提供了一个序列的决定和相应的价值函数估计沿一系列的状态轨迹,渐近收敛到他们的最佳对手,概率为1。
2020-10-23 math.OC
Regularized MIP Model for Integrating Energy Storage Systems and its Application for Solving a Trilevel Interdiction Problem
针对储能 OPF 中二元变量松弛导致同时充放电等问题,提出正则化 MIP 模型,证明其零整数间隙并为原问题提供紧上界,进而求解三层网络应急问题。
2025-01-09 math.OC
Distributionally Robust Regularization of Sparse Integer Programming Trained Learning Models
IBM Research(IBM研究院)
针对规则集稀疏性与预测精度的权衡,本文提出基于分布鲁棒优化和列生成的稀疏规则集合集成学习方法,并通过理论与实验证明其在泛化、计算成本和可解释性上的优势。
2026-10-16 cs.AI cs.LG math.OC
Optimal bounds for numerical approximations of finite horizon problems based on dynamic programming approach
Universidad de Valladolid(瓦拉多利德大学);Universidad Autónoma de Madrid(马德里自治大学)
本文基于动态规划方法,为有限时间 horizon 问题的数值近似提供了最优界,并在标准正则性假设下实现了时间和空间的一阶收敛性。
2026-02-18 math.OC
Solving Underdetermined Boundary Value Problems By Sequential Quadratic Programming
对技术系统建模的常微分方程通常包含被认为对系统是危险的状态。达到这种状态的轨迹通常表明设计中存在缺陷。在本文中,我们提出并研究了一种算法,找到这样的轨迹的属性。也就是说,对于给定的常微分方程,该算法找到起源于一组状态并到达另一组状态的轨迹。该算法是基于序列二次规划适用于正则化最优化问题得到的多次射击。
2016-10-04 math.OC
An Interior Point-Proximal Method of Multipliers for Convex Quadratic Programming
本文将不可行内点法(IPM)与邻近乘子法(PMM)相结合。所得到的算法(IP-PMM)被解释为一个原始-对偶正则IPM,适用于求解线性约束凸二次规划问题。我们将内点方法的几次迭代应用于邻近乘子方法的每个子问题。一旦找到PMM子问题的满意解,我们更新PMM参数,形成新的IPM邻域并重复此过程。在这个框架下,我们证明了多项式复杂性的算法,在标准的假设。据我们所知,这是原始-对偶正则化IPM的第一个多项式复杂度结果。该算法是指导使用一个单一的罚参数,即对数障碍。换句话说,我们表明,IP-PMM继承IPMs的多项式复杂性,以及严格的凸性的PMM子问题。罚参数的更新由IPM控制,因此是良好调整的,并且不依赖于所解决的问题。此外,我们研究的行为时,它被应用到一个不可行的问题,并确定了一个必要条件不可行的方法。后者用于构建不可行性检测机制。随后,我们提供了一个强大的实现所提出的算法,并测试了一组小到大规模的线性和凸二次规划问题。数值结果表明,在IPM中使用正则化的好处,以及该方法的可靠性。
2020-03-05 math.OC
A stochastic programming approach for dynamic allocation of bed capacity and assignment of patients to collaborating hospitals during pandemic outbreaks
针对大流行期间医疗容量低效问题,提出基于样本平均近似的随机前瞻规划方法,用于区域医院床位动态分配与患者分配,仿真表明其优于确定性方法及启发式规则,有效维持常规护理。
2024-10-16 math.OC
Smooth Bilevel Programming for Sparse Regularization
University of Bath(巴斯大学);CNRS(法国国家科学研究中心);Ecole Normale Supérieure, PSL University(巴黎文理研究大学高等师范学院)
迭代加权最小二乘(IRLS)是解决机器学习中稀疏回归问题的一种常用方法。现有技术的方法更有效,但通常依赖于特定的坐标修剪方案。在这项工作中,我们展示了如何一个令人惊讶的简单的重新参数化的IRLS,再加上一个双层分辨率(而不是一个交替的计划)是能够实现广泛的稀疏性(如拉索,组拉索和跟踪规范正则化),正则化强度(包括硬约束),和设计矩阵(从相关设计微分算子)的最佳性能。类似于IRLS,我们的方法只涉及线性系统的分辨率,但在鲜明的对比,对应于一个光滑函数的最小化。尽管是非凸的,我们表明,没有虚假的最小值,鞍点是“ridable”,所以总是存在一个下降方向。因此,我们提倡使用BFGS拟牛顿求解器,这使得我们的方法简单,强大和高效。我们执行数值基准的收敛速度,我们的算法对国家的最先进的解决方案的套索,组套索,跟踪规范和线性约束问题。这些结果突出了我们方法的多功能性,消除了根据所研究的ML问题的特殊性使用不同求解器的需要。
2022-09-30 cs.LG math.OC stat.ML
Optimality Conditions for Nonlinear Semidefinite Programming via Squared Slack Variables
在这项工作中,我们得到了二阶最优性条件的非线性半定规划(NSDP)问题,通过将其转化为一个普通的非线性规划问题,使用平方松弛变量。我们首先考虑Karush-Kuhn-Tucker点与一般NSDP及其通过松弛变量重构的正则性条件之间的对应关系。然后,我们得到了一对“无间隙”的二阶最优性条件,它们与文献中已经考虑过的条件是等价的。最后,我们分析了NSDP平方松弛变量方法的一些计算前景。
2015-12-17 math.OC
Iterative Reweighted Minimization Methods for $l_p$ Regularized Unconstrained Nonlinear Programming
Simon Fraser University(西蒙弗雷泽大学)
本文研究一般的$l_p$正则化无约束极小化问题。特别是,我们推导出一阶和二阶不动点的非零项的下界,因此也是局部极小的$l_p$最小化问题。我们扩展了一些现有的迭代加权$l_1$(IRL 1)和$l_2$(IRL 2)最小化方法来解决这些问题,并提出了新的变种,其中每个子问题有一个封闭的形式的解决方案。此外,我们提供了一个统一的收敛性分析,这些方法。此外,我们提出了一种新的Lipschitz连续$ε$ -逼近$\|x\|^p_p$ .利用这一结果,我们开发了新的IRL 1方法的$l_p$最小化问题,并表明,由这些方法产生的序列的任何积累点是一阶稳定点,提供的近似参数$ε$是低于一个可计算的门限值。这是一个显著的结果,因为所有现有的迭代重加权最小化方法都需要动态更新$ε$并使其接近零。我们的计算结果表明,在目标函数值和CPU时间方面,新的IRL 1方法通常比现有的IRL 1方法[21,18]更稳定。
2012-09-29 cs.LG math.OC stat.CO
Dynamic Programming Principle for Stochastic Control Problems on Riemannian Manifolds
本文在无边界紧黎曼流形上建立随机最优控制问题的动态规划原理,推导HJB方程并证明粘性解的存在唯一性与连续依赖性,进而在正则性条件下给出刻画最优控制的验证定理。
2025-07-02 math.OC
Local Linear Convergence of the Primal-Dual Hybrid Gradient Method for Semidefinite Programming
University of Houston(休斯顿大学)
研究半定规划中原始对偶混合梯度法的局部收敛性,证明满足特定条件时该方法最终线性收敛,通过特定方法结合不等式及误差界证明,给出反例说明不满足条件时次线性收敛,实验支持理论并找出困难实例。
2026-07-10 math.OC
Approximation Analysis of the Entropic Penalty in Quadratic Programming
本文针对二次规划中的熵惩罚正则化,证明凹情形下逼近间隙指数衰减,不定或凸情形下至多线性衰减,并据此设计算法及应用于离散Gromov-Wasserstein问题,给出首个指数级逼近界。
2025-09-24 math.OC
Logarithmic Quasi-distance Proximal Point Scalarization Method for Multi-Objective Programming
最近,Gregório和Oliveira开发了一种用于抽象严格标量表示的近点标量化方法(应用于多目标最优化问题),其中Auslender等人的对数二次函数的变体作为正则化。在这项研究中,这种方法的一个变化,提出了使用正则化与对数和准距离,这需要失去重要的属性,如凸性和可微性。但从不同的角度出发,证明了由该方法生成的序列\{(x^k,z^k)\} \includ R^n \times R^{m}_{++}满足:\{z^k\}收敛,\{x^k\}有界,其聚点是无约束多目标最优化问题的弱Pareto解
2013-05-07 math.OC
Optimization Workshop Notes for Mathematical Programming with Equilibrium Constraints (MPECs): Second-Order Optimality Conditions
College of Engineering, Boston University(波士顿大学工程学院)
本文介绍MPECs的二阶最优条件,分析传统非线性规划在均衡约束下的失效原因,并探讨三种主要方法:乘数条件、隐式编程条件和分段编程条件,强调关键锥、强正则性和曲率项的作用。
2026-04-22 math.OC
Learning Semidefinite Regularizers
正则化技术在数据分析和科学计算中被广泛应用于求解不适定反问题的优化方法中。这些方法基于用罚函数来增强目标,该惩罚函数基于先前的特定领域的专业知识来指定,以在解决方案中诱导期望的结构。我们考虑的问题,学习合适的正则化函数的数据设置中,精确的领域知识是不能直接使用。以前在“字典学习”或“稀疏编码”的标题下的工作可以被视为学习可以通过线性规划计算的正则化函数。我们描述了这些方法的推广,以学习正则化,可以通过半定规划计算和优化。我们的框架学习这样的半定正则化是基于获得结构化的数据矩阵的因子分解,我们的算法方法计算这些因子分解结合了最近的技术秩最小化问题,随着运营商模拟Sinkhorn缩放。在输入数据的适当条件下,我们的算法提供了一个局部线性收敛的方法来识别正确的正则化,促进包含在数据中的结构类型。我们的分析是基于运营商Sinkhorn标度的稳定性及其关系的几何方面的行列式品种(特别是切空间相对于这些品种)。使用我们的框架得到的正则化可以有效地用于半定规划松弛求解反问题。
2021-06-05 cs.IT math.IT math.OC
Distributed Asynchronous Mixed-Integer Linear Programming with Feasibility Guarantees
本文提出一种分布式异步鞍点计算方法求解混合整数线性规划,通过线性规划松弛、正则化Lagrangian及并行算法,保证解的可行性且对异步通信具有容忍度。
2024-09-27 math.OC
Characterizations of the Aubin Property of the Solution Mapping for Nonlinear Semidefinite Programming
本文基于Mordukhovich准则证明强二阶充分条件是非线性半定规划KKT解映射具有Aubin性质的必要条件,并建立包括强正则性在内的等价刻画。
2025-01-07 math.OC
Linear Programming Fictitious Play algorithm for Mean Field Games with optimal stopping and absorption
我们开发的虚拟播放算法的上下文中的线性规划方法的平均场游戏的最佳停止和平均场游戏的定期控制和吸收。该算法允许近似的平均场游戏人口动态,而无需计算值函数,通过解决线性规划问题的分布仍然在游戏中的球员和他们的停时/控制。我们使用的拓扑结构的依测度收敛的措施,这是需要处理缺乏连续性的措施流的次概率措施的空间中的算法的收敛性。数值例子说明了算法的收敛性。
2023-01-23 math.OC
Stability of KKT systems and superlinear convergence of the SQP method under parabolic regularity
本文件追求一个双重目标。首先,我们针对一类由抛物正则集生成的约束最优化问题,给出了扰动Karush-Kuhn-Tucker系统重要鲁棒稳定性的新的二阶刻画.其次,所得到的特征被用来建立适定性和超线性收敛的基本序列二次规划方法来解决抛物正则约束最优化问题。
2020-04-14 math.OC
The Relationship between Maximum Principle and Dynamic Programming Principle for Stochastic Recursive Control Problem with Random Coefficients
本文旨在探讨具有随机系数的随机递归控制问题的最大值原理与动态规划原理之间的关系。在系数正则的条件下,得到了随机系数Hamilton系统与随机Hamilton-Jacobi-Bellman方程之间的关系。随机Hamilton-Jacobi-Bellman方程是一个倒向随机偏微分方程,其解是一对随机场而不是确定性函数,这与确定性系数的情形有很大的不同。基于这种关系,给出了一个线性二次递归效用最优化问题的例子。
2020-12-09 math.OC
Dynamic Programming of Stochastic Burgers Equation Driven by Levy Noise
本文研究了受高斯型和Levy型噪声干扰的随机Burgers方程的最优控制问题,其中分布控制过程作用于状态方程.本文用动态规划方法求解二阶Hamilton-Jacobi- Bellman(HJB)方程,该方程由带Levy测度的积分-微分算子组成,并与随机控制问题相联系.利用随机Burgers方程对应的转移半群的正则化性质和紧性论证,我们求解了HJB方程及其反馈控制问题.
2022-04-15 math.AP math.OC
Solving Multistage Stochastic Linear Programming via Regularized Linear Decision Rules: An Application to Hydrothermal Dispatch Planning
Pontifical Catholic University of Rio de Janeiro(里约热内卢天主教大学)
多阶段随机线性问题的求解在许多应用领域都是一个挑战。长期水热调度规划(LHDP)将这一挑战具体化为影响全球电力市场、经济和自然资源的现实问题。没有封闭形式的解决方案可用于MSLP和非预期的政策与高质量的样本外的性能的定义是至关重要的。线性决策规则(LDR)提供了一个有趣的基于模拟的框架,通过两阶段随机模型为MSLP找到高质量的政策。然而,在实际应用中,当使用LDR时要估计的参数的数量可能接近或高于样本平均近似问题的场景的数量,从而在样本外模拟中产生样本内过拟合和差的性能。在本文中,我们提出了一种新的正则化LDR解决MSLP的基础上AdaLASSO(自适应最小绝对收缩和选择算子)。我们的目标是使用简约原则,主要是在高维线性回归模型的研究,以获得更好的样本外性能的LDR应用于MSLP。计算实验表明,过拟合的威胁是不可忽略的,当使用经典的非正则LDR解决LHDP,研究最多的MSLP与相关应用之一。我们的分析强调了与非正则化基准相比,所提出的框架的以下好处:1)非零系数(模型简约性)的数量显着减少,2)样本外评估的成本大幅降低,3)改善现货价格曲线。
2023-01-05 cs.LG cs.SY econ.EM
Sequential sum-of-squares programming for analysis of nonlinear systems
针对非线性系统分析中的非凸平方和多项式优化问题,提出局部线性化序贯凸化方法,证明强正则性下的局部收敛性,并成功用于多项式飞机模型的吸引域估计。
2022-10-05 cs.SY eess.SY math.OC