Distributionally Robust Chance-Constrained Approximate AC-OPF with Wasserstein Metric
机会约束最优潮流(OPF)已被公认为是一个有前途的框架,以管理风险的可变可再生能源(VRE)。在VRE不确定性存在的情况下,本文讨论了一种分布鲁棒机会约束近似AC-OPF。所提出的最优潮流公式中采用的潮流模型结合了名义运行点的精确交流潮流模型和近似线性潮流模型,以反映系统在不确定性下的响应。分布鲁棒公式中采用的模糊集是以经验分布为中心的Wasserstein球。所提出的最优潮流模型使二次费用函数的期望最小化。最坏情况的概率分布,并保证满足模糊度集中的任何分布的机会约束。整个方法是数据驱动的,模糊度集是由历史数据构造的,不需要对概率分布的类型做任何假设,数据越多,模糊度集越小,策略越不保守。此外,特殊的问题结构,建议的问题制定开发一个有效的和可扩展的解决方案的方法。IEEE 14和118节点系统的案例研究进行了近似AC模型的准确性和必要性和有吸引力的功能相比,其他方法来处理不确定性的分布鲁棒优化方法。
2018-04-28 math.OC
Distributed Approximate Newton Algorithms and Weight Design for Constrained Optimization
针对经济调度和线性约束资源分配问题,提出了一类新的近似牛顿最优化方法的分布式近似牛顿算法。我们首先开发的概念,代理实现二阶算法的通信图的最佳边缘加权,并提出了一个凸近似的非凸权重设计问题。接下来,我们建立在最优权重设计开发一个离散的分布式近似牛顿算法,该算法线性收敛到最优解的经济调度问题的未知费用函数和放松的局部框约束。对于满箱约束问题,我们开发了一个连续的分布式近似牛顿算法,该算法受到一阶鞍点方法的启发,并严格证明了其收敛到原始和对偶优化器。这些分布式算法的一个主要特性是,它们只需要代理交换恒定大小的通信消息,这有助于可扩展的实现。仿真结果表明,与一阶鞍点法和梯度下降法的加权策略相比,采用我们的加权设计的分布式近似牛顿算法具有更好的收敛性能.
2019-11-19 math.OC
Approximate Constrained Discounted Dynamic Programming with Uniform Feasibility and Optimality
本文针对带一致可行性约束的无限时域折扣CMDP,提出一种动态规划方程,证明由其构造的策略在所有状态上达到最优值,并基于策略迭代思想设计了具有局部收敛性的离线和在线算法。
2023-08-07 math.OC
Complexity of a quadratic penalty accelerated inexact proximal point method for solving linearly constrained nonconvex composite programs
分析了求解线性约束非凸组合规划的二次罚加速不精确邻近点方法的迭代复杂性。更具体地,目标函数具有$f + h$的形式,其中$f$是梯度为Lipschitz连续的可微函数,而$h$是具有有界域的闭凸函数。该方法,基本上,包括应用加速不精确的邻近点法近似求解一系列的二次惩罚的线性约束问题的子问题。近似点法的每个子问题依次近似求解的加速复合梯度(ACG)方法。结果表明,该方案在最多${\cal{O}}(ρ^{-3})$ ACG迭代生成一个$ρ$ -近似稳定点。最后,数值结果表明所提出的方法的有效性。
2019-07-16 math.OC
Computing Euclidean distance and maximum likelihood retraction maps for constrained optimization
黎曼优化使用局部方法来解决约束集是光滑流形的最优化问题。沿着某个下降方向的线性步长通常会离开约束,因此收缩映射被用来近似指数映射并返回到流形。对于许多常见的矩阵流形,收缩映射是可用的,或多或少的显式公式。对于隐式定义的流形,合适的收缩映射很难计算。因此,我们开发了一个算法,使用同伦连续计算欧氏距离收缩的任何隐式定义的子流形R^n,并证明收敛结果。我们还考虑统计模型作为概率单形的黎曼子流形与Fisher度量。用最大似然法代替欧氏距离,得到一个我们证明是收缩的映射。事实上,我们证明了收缩是二阶的;与列维-奇维塔连接与费舍尔度量,它近似测地线的二阶精度。
2023-01-18 math.OC math.ST stat.TH
A derivative-free regularization algorithm for equality constrained nonlinear least squares problems
针对目标函数和约束雅可比矩阵不可用或计算昂贵的等式约束非线性最小二乘问题,提出基于正交球面平滑近似雅可比矩阵的无导数正则化算法,证明其能以任意高概率找到近似KKT点或几乎必然收敛到约束违反平稳点。
2025-07-08 math.OC
Approximate Solutions To Constrained Risk-Sensitive Markov Decision Processes
本文研究了有限状态作用、无限时域、约束风险敏感马尔可夫决策过程(CRSMDP)的近优马尔可夫随机(MR)策略问题。约束的形式是标准的预期贴现费用函数,以及预期的风险敏感的贴现费用函数在有限和无限的地平线。的主要贡献是,该问题拥有一个解决方案,如果它是可行的,并提供两种方法找到一个近似解的形式,最终固定(美国)MR政策。后者是通过两个近似的有限时域CRSMDP,这是从原来的CRSMDP构造的时间截断的原始目标和约束费用函数,并适当扰动的约束上界。第一个近似给出了一个美国的政策,这是$ε$ -最优的和可行的原始问题,而第二个近似给出了一个接近最优的美国的政策,其违反了原始的约束是有界以上指定的$ε$。证明中的一个关键步骤是适当地选择一个度量,使得无限时域MR策略集和三个CRSMDP的可行域紧凑,并且目标和约束函数连续。一个线性规划为基础的制定解决近似有限时域CRSMDP。
2022-09-29 math.OC
On the computation of lambda-contractive sets for linear constrained systems
本文给出了具有状态和输入约束的线性系的压缩集计算的两个理论结果。首先,我们表明,它是可能的先验计算的迭代次数是足够的近似最大的压缩集与一个给定的精度使用1步集。其次,基于前一个结果,我们提供了一个程序来选择λ,使相关的最大λ-压缩集是保证近似的最大控制不变集具有给定的精度。
2016-06-09 math.OC
Constrained Policy Optimization for Stochastic Optimal Control under Nonstationary Uncertainties
Argonne National Laboratory(阿贡国家实验室);University of Chicago(芝加哥大学)
本文提出了一种在非平稳不确定性下最优控制的约束策略优化方法,通过马尔可夫嵌入性假设将随机最优控制问题转化为扩展状态空间中的策略优化问题,并利用函数近似、确定性采样和时间截断将无限维问题近似为有限维非线性规划问题。
2022-09-26 math.OC
Regularity Properties of Constrained Set-Valued Mappings
在这些笔记中,我们提出了一个一般性的结果,关于Lipschitz正则性的一种类型的集值映射经常发现在约束优化和控制问题。本文研究的集值函数类通过定义在某些Lipschitz流形上的一组Lipschitz连续约束函数来刻画。证明这类多元函数的正则性结果是基于Lipschitzian映射的隐函数定理的定量版本,该定理提供了可以定义隐函数映射的邻域的估计。
2002-09-09 math.CA math.OC
A Modification Piecewise Convexification Method for Box-Constrained Non-Convex Optimization Programs
本文提出了一种分段凸化方法来逼近框约束非凸优化问题的整个近似最优解集。在盒子划分的过程中,我们首先对子盒子进行分类,在后续的划分中只继续划分部分子盒子。同时,应用基于$α$的分支定界({ \rm $α$ BB})方法,构造了一系列分段凸松弛子问题,统称为原问题的分段凸化问题.然后,我们定义的(近似)解集的分段凸化问题的基础上的分类结果的子盒。随后,我们推导出这些集合可以用来近似全局解集与预定义的质量。最后,提出了一种分段凸化算法,该算法采用了一种新的划分子盒选择规则和两种新的终止性检验。几个实例验证了这些技术有利于提高算法的性能。
2022-06-29 math.OC
Constructive approximate transport maps with normalizing flows
本文通过构造分段常数控制来近似求解连续方程的可控性问题,利用归一化流将基密度传输到目标密度,并基于相对尾部衰减假设给出切换次数上界及可达空间刻画。
2025-08-16 math.OC stat.ML
Approximate explicit model predictive control via piecewise nonlinear system identification
本文提出了一种识别方法来捕捉一般的关系,应用于分段非线性逼近的模型预测控制的约束(非)线性系。在每次迭代中,数学公式采用数学上可行且数值上易于处理的约束线性(或二次)最优化问题的形式。所设计的方法的效率通过两个工业应用程序证明。结果表明,实现高近似精度与有限数量的区域的可能性,导致显着减少计算时间相比,最先进的隐式模型预测控制求解器。
2017-01-05 math.OC
Finite-State Approximations to Discounted and Average Cost Constrained Markov Decision Processes
本文研究了离散时间约束马尔可夫决策过程在折扣和平均费用准则下的有限状态逼近问题。利用带约束的折扣费用问题的线性规划公式,证明了有限状态模型的最优值到原模型的最优值的渐近收敛。通过进一步的转移概率的连续性条件,我们还建立了一种计算近似最优策略的方法。对于平均成本,而不是使用有限状态线性规划近似方法,我们使用原来的问题定义,建立有限状态渐近近似的约束问题,并计算近似最优的政策。根据Lipschitz型正则性条件下的组件的MDP,我们还获得了明确的收敛速率界量化的近似如何提高作为大小的近似有限状态空间的增加。
2018-07-09 math.OC
Residual growth control for general maps and an approximate inverse function result
本文针对数学中非线性函数残差控制的需求,通过证明满足特定方向导数表示条件的控制曲线的存在性,小幅扩展了Neuberger的现有结果,涵盖连续牛顿法相关结论并推导出一个近似逆函数结果。
2024-12-04 math.OC
Knothe-Rosenblatt maps via soft-constrained optimal transport
University of Toronto(多伦多大学);Vector Institute University of Toronto(多伦多大学向量研究所);California Institute of Technology(加州理工学院);Brown University(布朗大学)
本文提出通过带软约束的加权代价最优传输松弛问题的极限来构造 Knothe-Rosenblatt 映射,并将其推广到动态最优传输中的三角速度场构造,为 KR 映射的静态与动态变分估计方法提供了理论依据。
2025-11-06 math.OC math.PR stat.ME
Interpretable Neural Networks with Frank-Wolfe: Sparse Relevance Maps and Relevance Orderings
Institut für Mathematik, Technische Universität Berlin(柏林工业大学数学研究所);Department for AI in Society, Science, and Technology, Zuse Institute Berlin(柏林楚泽研究所社会、科学与技术人工智能系)
我们研究了约束优化公式和Frank-Wolfe算法对获得可解释的神经网络预测的影响。将相关性归因的率失真校正(RDE)方法重新表述为约束优化问题,提供了对相关性图稀疏性的精确控制。这使得一种新的多速率以及RDE的相关排序变体在经验上优于标准RDE和其他基线方法,在一个完善的比较测试。我们展示了几个确定性和随机变量的弗兰克-沃尔夫算法和它们的有效性RDE。
2022-01-31 cs.LG math.OC
Cooperative Multi-Agent Constrained POMDPs: Strong Duality and Primal-Dual Reinforcement Learning with Approximate Information States
本文研究非对称信息下去中心化约束POMDP问题,建立无限时域期望总折扣成本的强对偶性,并开发基于CTDE和三时间尺度随机逼近的原始-对偶MARL框架,利用近似信息状态和神经网络函数逼近器解决多智能体约束优化学习。
2023-07-31 cs.SY eess.SY math.OC
Weight Design of Distributed Approximate Newton Algorithms for Constrained Optimization
University of California, San Diego(加州大学圣迭戈分校)
本文提出一种分布式近似牛顿算法,用于解决约束优化问题,通过优化通信拓扑和权重提升收敛性能。
2017-03-22 cs.MA cs.NA math.NA
Scalable First-Order Interior Point Trust Region Algorithms for Linearly Constrained Optimization
Peking University(北京大学);Stanford University(斯坦福大学);Shanghai Institute for Mathematics and Interdisciplinary Sciences(上海数学与交叉学科研究院)
本文提出一种近似第一次顺序内部点信任区域框架,通过低秩更新维护近似投影来解决信任区域子问题计算瓶颈,提高大规模优化问题的计算效率。
2026-04-27 cs.DS math.OC
Self-supervised Equality Embedded Deep Lagrange Dual for Approximate Constrained Optimization
本文提出无标签框架DeepLDE,通过将等式约束嵌入神经网络并用原始-对偶方法施加不等式约束,实现快速且确保可行性的近似约束优化,计算速度比传统求解器快5至250倍。
2024-09-23 cs.LG math.OC
Approximate solution of stochastic infinite horizon optimal control problems for constrained linear uncertain systems
针对约束线性不确定系统的无限时域最优控制问题,提出一种单步预测时域的MPC方法,通过采样估计期望成本和数据驱动近似值函数,实现近乎最优解并保证可行性与收敛性。
2025-04-23 cs.SY eess.SY math.OC
The computation of approximate feedback Stackelberg equilibria in multi-player nonlinear constrained dynamic games
本文提出一种高效方法,通过将反馈Stackelberg动态博弈重构为嵌套优化问题并使用牛顿式原始-对偶内点法,计算多人非线性约束动态博弈中的近似局部均衡,并证明了算法的指数收敛性。
2025-04-02 cs.SY eess.SY math.OC
NISQ-compatible approximate quantum algorithm for unconstrained and constrained discrete optimization
提出一种基于梯度的NISQ兼容近似量子算法,通过振幅编码与硬件高效电路解决离散优化问题,支持直接纳入线性约束,并在超1000节点的MaxCut问题上验证了与CPLEX混合的方法优于纯经典求解。
2023-11-15 math.OC quant-ph
SNAP: Finding Approximate Second-Order Stationary Solutions Efficiently for Non-convex Linearly Constrained Problems
针对具有光滑非凸目标和线性约束的问题,提出了一种低复杂度的求解近似二阶稳定点的算法。虽然找到(近似)SOSP是计算上棘手的,我们首先表明,通用的问题的实例可以有效地解决。更具体地说,对于一般问题实例,某些严格互补(SC)条件对所有Karush-Kuhn-Tucker(KKT)解(概率为1)成立。SC条件,然后用于建立两个不同的概念之间的等价关系的SOSP,其中之一是计算上容易验证。基于SOSP的这一特殊概念,我们设计了一种算法,称为连续负曲率梯度投影(SNAP),它连续执行传统的梯度投影或一些基于负曲率的投影步骤来寻找SOSP。SNAP及其一阶扩展SNAP $^+$需要$\mathcal{O}(1/ε^{2.5})$迭代来计算一个$(ε, \sqrtε)$ -SOSP,并且它们的每次迭代计算复杂性在约束数目和问题维数上是多项式的.据我们所知,这是第一次,一阶算法的多项式迭代复杂性和全球次线性率已被设计,以寻找SOSP的重要类的非凸问题的线性约束。
2019-07-09 cs.CC math.OC stat.ML
Approximate constrained stochastic optimal control via parameterized input inference
Mechanical and Aerospace Engineering, Oklahoma State University(机械与航空航天工程,俄克拉荷马州立大学)
本研究提出基于期望最大化的参数化输入推断方法,采用障碍函数处理多类约束,通过独轮车避障等三类任务验证了算法有效性,并分析了障碍函数参数与平滑算法对性能的影响。
2025-09-03 cs.MA cs.RO cs.SY
Bayesian Joint Chance Constrained Optimization: Approximations and Statistical Consistency
Texas A& M University(得克萨斯农工大学);Purdue University(普渡大学)
本文研究贝叶斯框架下机会约束随机优化问题,证明使用近似后验分布所得最优值具有频率学派统计一致性并给出概率收敛速率,同时证明问题的凸可行性,并在M/M/c排队模型上验证了方法有效性。
2022-10-01 cs.LG math.OC math.ST
The Complexity of Constrained Min-Max Optimization
MIT(麻省理工学院);SUTD(新加坡科技设计大学)
尽管它在机器学习中有重要的应用,但非凸-非凹目标的最小-最大优化仍然是难以捉摸的。不仅没有已知的一阶方法收敛甚至近似局部极小极大点,但识别它们的计算复杂性也知之甚少。在本文中,我们提供了一个表征的问题的计算复杂性,以及一阶方法的限制,在约束最小最大优化问题的非凸非凹目标和线性约束。作为热身,我们表明,即使当目标是Lipschitz和光滑可微函数,决定是否存在一个最小极大点,事实上,甚至决定是否存在一个近似的最小极大点,是NP-困难的。更重要的是,我们表明,一个近似的局部极大极小点足够大的近似是保证存在的,但找到这样一个点是PPAD完全的。计算梯度下降/上升的近似固定点也是如此。我们证明的一个重要副产品是建立Nemirovsky-Yudin模型中的无条件硬度结果。我们表明,给定Oracle访问某些函数$f : P \to [-1, 1]$及其梯度$\nabla f$,其中$P \subseteq [0, 1]^d$是已知的凸多面体,找到$\varepsilon$近似局部最小-最大点的每个算法需要在$1/\varepsilon$,$L$,$G$或$d$中的至少一个中进行指数查询,其中,$L$和$G$分别是$f$的平滑度和Lipschitz度,$d$是维数。这与最小化问题形成鲜明对比,在最小化问题中,可以使用投影梯度下降使用$O(L/\varepsilon)$许多查询来找到相同设置中的近…
2020-09-21 cs.CC cs.LG math.OC
Optimality of orders one to three and beyond: characterization and evaluation complexity in constrained nonconvex optimization
Mathematical Institute, Oxford University(牛津大学数学研究所);Numerical Analysis Group, Rutherford Appleton Laboratory(鲁瑟福阿普尔顿实验室数值分析组);Namur Center for Complex Systems (naXys) and Department of Mathematics, University of Namur(纳穆尔大学复杂系统中心(naXys)与数学系)
本文研究了光滑非线性约束优化中高阶最优性的必要条件,并探讨了其内在复杂性,提出了一种两阶段最小化算法,能够实现近似一、二、三阶临界点,并分析了其评估复杂性,还讨论了高阶临界点与惩罚技术的关系,指出标准算法方法在寻求近似约束高阶临界点时会失败。
2018-01-07 cs.CC cs.NA math.NA