Generalized Dual Decomposition
Industrial & Operations Engineering, University of Michigan(工业与操作工程,密歇根大学)
本文提出广义对偶分解方法,通过非线性正则化器实现强对偶性和并行计算,解决两阶段随机优化问题,并在数值实验中验证其有效性。
2026-05-14 math.OC
A Parametric Non-Convex Decomposition Algorithm for Real-Time and Distributed NMPC
针对非线性模型预测控制(NMPC)中的参数非凸规划问题,提出了一种新的分解方法。它由固定数量的交替近端梯度步长和每个时间步长的双重更新组成。因此,所提出的方法是有吸引力的,在一个实时的分布式上下文中。假设非线性规划是半代数的,且其临界点是强正则的,在较弱的假设下,证明了原对偶迭代序列的压缩性,并证明了次优误差的稳定性.此外,它示出的最优跟踪方案的性能可以通过连续技术提高。所提出的分解方法的有效性证明了通过解决一个集中的NMPC问题,以控制直流电机和分布式NMPC程序的协作跟踪独轮车,无论是在一个实时的框架。此外,作为采样周期的函数的次优性误差的分析提出了一个固定的计算能力。
2014-12-24 math.OC
Distributed Design for Decentralized Control using Chordal Decomposition and ADMM
我们提出了一种分布式设计方法,分散控制利用底层稀疏性的问题。该方法基于稀疏分块矩阵的弦分解和乘子的交替方向法。我们首先应用一个经典的参数化技术限制到一个凸问题,继承了原来的问题的稀疏模式的最优分散控制。参数化依赖于强分散稳定的概念,并讨论了充分条件,以保证这一概念。然后,弦分解允许我们将凸约束分解为具有部分耦合约束的问题,并且ADMM的框架使我们能够以分布式方式解决分解的问题。因此,子系统只需要与它们的直接邻居共享它们的模型数据,而不需要中央计算。数值实验证明了该方法的有效性。
2019-08-03 math.OC
Logic-based Benders Decomposition and Binary Decision Diagram Based Approaches for Stochastic Distributed Operating Room Scheduling
分布式手术室(OR)调度问题的目的是找到一个手术分配到手术室之间的合作医院,共享他们的等候名单和OR。我们提出了一个随机扩展这个问题的手术时间被认为是不确定的。为了获得具有挑战性的随机模型的解决方案,我们使用样本平均近似,并开发了两个增强的分解框架,使用基于逻辑的Benders(LBBD)最优切割和基于二元决策图的Benders切割。具体而言,据我们所知,推导LBBD最优切割在随机规划的情况下是新的文献。我们在医院数据集上的计算实验表明,随机制定产生强大的时间表,我们的算法提高了计算效率。
2020-10-02 math.OC
Improving Fast Dual Ascent for MPC - Part I: The Distributed Case
在对偶分解中,具有特定结构的最优化问题的对偶使用(子)梯度和最近的快速梯度法以分布式方式求解。传统的对偶分解存在两个主要的缺点。第一个是收敛通常很慢,尽管快速梯度法已经显著地改善了这种情况。第二个问题是最优步长的计算需要集中计算,这阻碍了算法的完全分布式实现。在本文中,第一个问题是通过提供一个更严格的双重功能比以前在文献中报道的特征。然后提出了一种分布式并行算法,在该算法中,所提供的对偶函数近似在每一步中被最小化。由于该近似比标准和快速对偶分解中使用的近似更精确,因此收敛性得到改善。对于第二个问题,我们扩展了最近的结果,允许一个完全分布的参数选择的算法。此外,我们展示了如何将所提出的算法的分布式模型预测控制(DMPC)中出现的最优化问题,并表明,所提出的分布式算法享有分布式重新配置,即插即用,在DMPC的上下文中。
2014-04-04 math.OC
Distributed optimization decomposition for joint economic dispatch and frequency regulation
经济调度和频率调节通常被视为电力系统中根本不同的问题,因此通常被单独研究。在本文中,我们框架和研究的联合问题,共同优化慢时间尺度的经济调度资源和快时间尺度的频率调节资源。我们展示了如何将联合问题分解为慢和快的时间尺度子问题,而不损失最优性,这些子问题分别具有吸引人的解释,如经济调度和频率调节问题。我们使用分布式频率控制算法来解决快速时标子问题,该算法在瞬态过程中保持网络的稳定性。我们解决了慢时间尺度子问题,使用一个有效的市场机制,协调与快时间尺度子问题。我们研究的IEEE 24节点可靠性测试系统的分解的性能。
2016-05-25 math.OC
A dual ascent algorithm for asynchronous distributed optimization with unreliable directed communications
我们证明了Bof-Carli-Schenato在不可靠通信的有向图上的平均一致性算法具有双重优化解释,该解释可以推广到分布式优化的情况.我们报告我们的数值模拟的分布式优化算法的光滑和非光滑的功能。
2019-02-21 math.OC
A geometrically converging dual method for distributed optimization over time-varying graphs
本文考虑时变无向网络上的分布式凸优化问题。我们提出了一种对偶方法,主要是平均网络对偶上升(PANDA),这是证明收敛R-线性最优点的代理目标函数是强凸的,并有Lipschitz连续梯度。像对偶分解,PANDA需要一半的量的变量交换每单位的方法的基础上DIGing,并可以提供实际的改进性能的经验证明。
2018-10-12 math.OC
Distributed dual gradient methods and error bound conditions
本文提出了线性约束可分凸问题的分布式对偶梯度算法,并在不同的假设条件下分析了它们的收敛速率。在原目标函数的强凸性假设下,我们提出了两种分布式对偶快速梯度格式,证明了其对偶次优性的次线性收敛速率,以及原次优性和平均原序列或最后生成的原序列的可行性破坏。在原目标函数梯度Lipshitz连续的附加假设下,我们证明了该对偶问题的全局误差界类型性质,然后分析了一个对偶梯度方案,并推导出了该方案的全局线性收敛速率。对于对偶和原次优性以及原可行性违反。我们还提供了最优潮流问题的数值模拟。
2014-02-03 math.OC
Linear convergence of a dual optimization formulation for distributed optimization on directed graphs with unreliable communications
这项工作的基础上,我们最近的工作与定向不可靠的通信图的分布式优化算法。当我们取每个函数的最接近点或当函数光滑时取仿射次量时,我们证明了它的线性收敛。
2018-11-28 math.OC
Fenchel Dual Gradient Methods for Distributed Convex Optimization over Time-varying Networks
在现有的大量凸多智能体优化分布式算法中,只有少数算法能保证智能体网络在时变拓扑下的收敛速度,而这又限制了问题的无约束性.出于这一动机,我们开发了一个家庭的分布式Fenchel双梯度法解决约束,强凸,但不一定光滑的多智能体最优化问题随时间变化的无向网络。所提出的算法构造的基础上应用加权梯度法的Fenchel对偶的多智能体最优化问题,并可以实现在一个完全分散的方式。我们表明,所提出的算法驱动所有的代理原始和对偶最优渐近下的最小连通性条件和次线性速率下的标准连通性条件。最后,通过仿真验证了分布式Fenchel对偶梯度法的良好收敛性能.
2018-04-05 math.OC
Accelerated Primal-Dual Mirror Dynamics for Centrailized and Distributed Constrained Convex Optimization Problems
本文研究了两种原-对偶镜像动力学加速算法,分别用于求解具有仿射约束和闭凸集约束的光滑和非光滑凸优化问题。在光滑情形下,提出了一种基于加速镜下降和原-对偶框架的加速原-对偶镜动力学方法(APDMD),并利用李雅普诺夫分析方法推导了原-对偶间隙、可行性测度和目标函数值随APDMD轨迹的加速收敛性质.然后,我们将APDMD扩展为两种分布式动力学方法,分别处理两类分布式光滑最优化问题,即,分布式约束一致性问题(DCCP)和分布式扩展单调优化(DEMO)与加速收敛保证。此外,在非光滑情形下,我们提出了一种光滑加速原对偶镜像动力学方法(SAPDMD),该方法利用光滑近似技术和上述APDMD。通过选取适当的光滑逼近参数,证明了SAPDMD的原-对偶间隙、目标函数值和可行性测度具有与APDMD相同的加速收敛性质.之后,我们提出了两个平滑加速分布式动力学方法来处理非光滑DEMO和DCCP,以获得加速和有效解。最后,数值实验证明了所提出的加速镜动力学方法的有效性。
2022-09-14 math.OC
Lagrangian dual with zero duality gap that admits decomposition
本文针对具有块结构和耦合约束的混合整数规划,通过添加冗余约束提出两种重构方法,使拉格朗日对偶在保持可分解性的同时实现零对偶间隙,并给出装箱与覆盖问题的乘法界及稀疏情形的树分解适用性,实验表明其对偶界优于经典拉格朗日对偶和Gurobi。
2024-11-18 math.OC
Optimal Distributed Energy Resource Coordination: A Decomposition Method Based on Distribution Locational Marginal Costs
在本文中,我们考虑了一个径向配电网络托管分布式能源(DER),包括屋顶太阳能和存储类负载,如电动汽车的前一天的运营规划问题。我们提出了一种新的分解方法,是基于一个集中式的交流最优潮流(AC OPF)的问题相互作用迭代自调度DER问题,以适应实际和无功配电网的边际成本。我们说明了所提出的方法在实际配电馈线的适用性和易处理性,同时建模时空DER能力和偏好的全部复杂性,并考虑到非精确AC OPF凸松弛的实例。我们表明,所提出的方法实现了最佳的网格DER协调,通过连续改进可行的AC OPF解决方案,并发现时空变化的边际成本在配电网中,是通过建模损失,载流量和电压拥塞,最重要的是,动态资产退化的优化DER调度的关键。
2021-10-24 math.OC
Primal-Dual Algorithm for Distributed Reinforcement Learning: Distributed GTD
本文的目标是研究一个分布式版本的梯度时间差(GTD)学习算法的多智能体马尔可夫决策过程(MDP)。时间差分(TD)学习是一种强化学习(RL)算法,其在没有模型知识的情况下针对给定的固定策略学习无限时域折扣费用函数(或值函数)。在分布式RL的情况下,每个代理都通过本地处理接收本地奖励。稀疏通信网络上的信息交换允许代理学习与全局奖励相对应的全局值函数,该全局奖励是局部奖励的总和。本文将该问题转化为一个带有一致约束的约束凸优化问题。然后,我们提出了一个原始-对偶分布式GTD算法,并证明了它几乎必然收敛于最优化问题的一个稳定点集。
2018-08-22 math.OC
Primal-Dual Gradient Flow Algorithm for Distributed Support Vector Machines
提出了一种求解分布式支持向量机(DSVM)问题的原始-对偶梯度流算法。一个网络的计算节点,每个携带一个子集的水平分区的大型数据集被认为是。节点被表示为动力系统与箭头Hurwicz-Uzawa梯度流动力学,来自拉格朗日函数的DSVM问题。首先证明了节点是无源动力系统。然后,利用Krasovskii型候选李雅普诺夫函数,证明了计算节点渐近收敛于最优原对偶解.
2018-09-10 math.OC
Accelerated Primal-Dual Algorithm for Distributed Non-convex Optimization
本文研究了非凸问题分布式优化算法的加速收敛问题。我们提出了一个分布式的原始-对偶随机梯度下降~(SGD)配备了“强力球”方法来加速。我们表明,该算法实现了一般光滑(可能非凸)费用函数的线性加速收敛速度$\mathcal{O}(1/\sqrt{nT})$。我们通过在MNIST数据集上训练两层全连接神经网络和卷积神经网络,与最先进的分布式SGD算法和集中式SGD算法进行比较,通过数值实验证明了该算法的效率。
2021-10-13 math.OC
PANDA: A Dual Linearly Converging Method for Distributed Optimization over Time-Varying Undirected Graphs
本文考虑时变网络上的分布式凸优化问题。我们提出了一个对偶方法,R-线性收敛到最优点的代理的目标函数是强凸的,并有Lipschitz连续梯度。所提出的方法需要一半的量的可变交换比基于DIGing的方法,并产生改进的实际性能的经验证明。
2018-04-20 math.OC
Rate analysis of dual averaging for nonconvex distributed optimization
本文研究了随机通信网络上的非凸分布约束优化问题。我们重新分布式双平均算法,这是已知的凸问题收敛。我们从集中的情况下,其中两个连续的更新的变化被视为次优措施。我们验证使用这样的措施,表明它是密切相关的平稳性。这为我们研究非凸优化问题中对偶平均的收敛性提供了一个工具。我们证明了这种次优性测度的平方范数以速率$\mathcal{O}(1/t)$收敛。然后,对于分布式设置,我们证明收敛到稳定点的速度$\mathcal{O}(1/t)$。最后,通过一个数值例子来说明我们的理论结果.
2022-11-13 math.OC
Towards an $O(\frac{1}{t})$ convergence rate for distributed dual averaging
近年来,分布式对偶平均由于其在处理多智能体优化中的约束和动态网络方面的优势而受到越来越多的关注。然而,所有分布式的双重平均方法,到目前为止,考虑非光滑的问题,并有一个$O(\frac{1}{\sqrt{t}})$的收敛速度。为了实现更好的收敛保证光滑的问题,这项工作提出了一个二阶共识计划,协助每个代理本地跟踪全球对偶变量更准确。这种新的方案与平滑的目标相结合,确保了不完整的全局信息引起的共识误差随着时间的推移的积累是有界的。然后,进行了严格的研究,双平均与不精确的梯度预言,以补偿共识误差,并实现$O(\frac{1}{t})$收敛速度。所提出的方法在一个大规模的LASSO问题。
2020-03-19 math.OC
Linear Convergence of Primal-Dual Gradient Methods and their Performance in Distributed Optimization
在这项工作中,我们重新审视了经典的原始下降双上升梯度法用于解决等式约束最优化问题的增量实现。我们提供了一个简短的证明,建立了光滑强凸费用函数的算法的线性(指数)收敛性,并研究其关系到非增量实现。我们还研究了增广拉格朗日惩罚项对多智能体网络上聚合费用函数最小化分布式优化算法性能的影响。
2020-01-16 math.OC
A Chebyshev-Accelerated Primal-Dual Method for Distributed Optimization
我们考虑一个分布式最优化问题在网络的代理,旨在最小化一个全球目标函数,这是当地的凸和复合费用函数的总和。为此,我们提出了一个分布式Chebyshev加速原始对偶法,以实现更快的遍历收敛速度。在标准分布式原始对偶法中,向全局最优值(即,相应拉格朗日函数中的鞍点)直接受到表示通信图的拉普拉斯矩阵的特征值的影响。在本文中,我们使用Chebyshev矩阵多项式来生成八卦矩阵,其频谱特性导致更快的收敛速度,同时允许完全分布式的实现。因此,所提出的算法需要更少的梯度更新的成本代理之间的额外的几轮通信。我们说明了所提出的算法在分布式信号恢复问题的性能。我们的模拟表明,如何使用Chebyshev矩阵多项式可以用来提高收敛速度的原始对偶法在通信网络,特别是在网络的频谱特性差,通过贸易的本地计算的通信轮。
2018-10-15 math.OC
On Primal-Dual Approach for Distributed Stochastic Convex Optimization over Networks
针对网络上的分布式凸优化问题,提出了一种原始-对偶随机梯度预言算法。我们表明,所提出的方法是最佳的通信步骤。此外,我们提出了一种新的分析方法的收敛速率的对偶差距和大偏差的概率。这种分析是基于一种新的技术,允许约束迭代序列和最佳点之间的距离。通过正确选择批量大小,我们可以保证这个距离等于(直到一个常数)起点和解决方案之间的距离。
2019-11-26 math.OC
Primal-Dual Algorithm for Distributed Constrained Optimization
本文研究了一个分布式约束最优化问题,在网络中连接的多个代理共同最小化受一个全局约束的各个目标函数的总和是分配给代理的局部约束集的交集。基于增广拉格朗日方法,提出了一种包含投影操作的分布式原始对偶法。结果表明,适当地选择恒定的步长,在所有代理的局部估计渐近达成共识的最优解。此外,在时间平均估计的费用函数的值以速率$O(\frac{1}{k})$收敛到无约束问题的最优值。通过这些性质,本文提出的原始对偶法区别于现有的分布式约束优化算法。通过数值模拟验证了理论分析的正确性。
2016-03-06 math.OC
Distributed Model Predictive Control Under Inexact Primal-Dual Gradient Optimization Based on Contraction Analysis
针对一类具有全局耦合约束的离散线性系,提出了一种分布式模型预测控制(DMPC)策略。所研究的DMPC是基于对偶问题的所有子系统,这是解决的原始-对偶梯度优化的分布式方式使用拉普拉斯共识。为了减少计算负担,约束收紧方法被用来提供过早终止的能力,保证DMPC优化的收敛性。首先利用收缩理论分析了离散时间更新动态下的原始-对偶梯度优化算法对非线性目标函数的收敛性。在合理的假设下,可以在不精确解下建立闭环系统的递归可行性和稳定性。通过数值模拟验证了该策略的有效性。
2019-07-23 math.OC
Improved Dual Decomposition Based Optimization for DSL Dynamic Spectrum Management
动态频谱管理(DSM)已被公认为是显著提高数字用户线(DSL)宽带接入网性能的关键技术。DSM的基本概念是协调多条DSL线路上的传输,以减轻它们之间串扰干扰的影响。针对DSM中的非凸最优化问题,已经提出了许多算法,几乎所有算法都依赖于标准的基于次梯度的对偶分解方法。然而,在实践中,这种方法经常被发现导致极其缓慢的收敛或甚至根本不收敛,原因之一是步长参数的非常困难的调整。在本文中,我们提出了一种新的改进的对偶分解方法的启发,在数学规划的最新进展。它使用了一个平滑技术的拉格朗日结合最佳梯度为基础的计划更新拉格朗日乘子。此外,最佳地选择步长参数,从而消除了对调谐策略的需要。通过这种方法,我们展示了如何收敛的当前国家的最先进的DSM算法的基础上迭代凸逼近(SCALE,CA-DSB)可以提高一个数量级。此外,我们将改进的对偶分解方法应用于其他DSM算法(OSB,ISB,ASB,(MS)-DSB,MIW),并提出进一步的改进,以获得快速和鲁棒的DSM算法。最后,我们证明了一些现实的多用户DSL场景的改进的对偶分解方法的有效性。
2013-02-13 math.OC
Distributed Optimization with Coupling Constraints Based on Dual Proximal Gradient Method in Multi-Agent Networks
在本文中,我们的目标是解决一个分布式最优化问题与仿射耦合约束的多智能体网络,其中的费用函数的代理是由光滑和可能的非光滑部分。为了解决这个问题,我们诉诸对偶问题,通过推导Fenchel共轭,从而在基于共识的约束最优化问题。然后,我们提出了一个分布式的双邻近梯度算法,其中的代理作出决定的直接邻居的信息的基础上。只要原始费用函数中的非光滑部分具有简单的结构,只需通过简单的操作更新对偶变量,就可以降低整体的计算复杂性。通过求解电力市场中的社会福利最优化问题,证明了算法的遍历收敛速度和可行性。
2022-05-28 math.OC
A Class of Randomized Primal-Dual Algorithms for Distributed Optimization
基于[Combettes,Pesquet,2014]中最近提出的随机块坐标向前-向后算法的预处理版本,设计了块坐标原始对偶法的几个变体,以解决各种单调包含问题。这些方法依赖于扫描块的变量,这些变量在每次迭代时根据随机规则被激活,并且它们允许在所涉及的操作符的评估中出现随机误差。然后,利用该框架推导出求解复合凸变分问题的块坐标原-对偶近似算法。所得到的算法实现可以用于降低计算复杂性和存储器需求。此外,我们表明,所提出的方法可用于开发新的异步分布式原始对偶法在多代理的上下文中。
2014-10-25 math.OC
On linear convergence of a distributed dual gradient algorithm for linearly constrained separable convex problems
本文提出了求解线性约束可分凸问题的一个分布式对偶梯度算法,并分析了它的收敛速率。特别地,我们证明了在原目标函数的梯度具有强凸性和Lipshitz连续性的假设下,对偶问题具有全局误差界型性质.利用这一误差界的性质,我们设计了一个完全分布式的对偶梯度计划,即梯度计划的基础上加权步长,我们推导出全局线性收敛速率的双重和原始次优和原始可行违反。许多实际应用,如分布式模型预测控制,网络效用最大化或最优潮流,可以被视为线性约束可分离凸问题,文献中的对偶梯度型方法具有次线性收敛速度。在本文中,我们证明了第一次,事实上,我们可以实现线性收敛速率,这样的算法时,他们被用来解决这些应用。数值模拟也证实了我们的理论。
2014-09-30 math.OC
Distributed Primal-dual Interior-point Methods for Solving Loosely Coupled Problems Using Message Passing
在本文中,我们提出了一个分布式算法求解弦稀疏的松耦合问题,它依赖于原始-对偶内点方法。我们通过使用消息传递在每次迭代中分配计算来实现这一点。与现有的分布式算法相比,该算法需要更少的迭代次数来收敛到具有高精度的解。此外,它是可能的,以计算所需的迭代次数的上限,不像现有的方法,只取决于耦合结构的问题。我们使用一组数值例子来说明我们提出的方法的性能。
2015-06-29 math.OC
Enforcing Convergence in Sensitivity-based Distributed Programming via Transformed Primal-Dual Updates
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希·亚历山大大学)
本文提出SBDP+方法,通过结构化的对偶运算设计,解决传统SBDP在子系统耦合强度和结构下收敛性不足的问题,证明了非凸问题在标准正则条件下局部线性收敛,并通过数值实验验证了其在统计学习中的有效性。
2026-05-19 math.OC
Distributed solution methods for MPC based energy management method of interconnected microgrids: Dual ascent vs ADMM
本文研究互联微电网的最优能源管理问题,采用MPC应对约束与不确定性,并基于对偶上升法和ADMM设计两种分布式方法,使智能体仅凭局部信息即可做出最优决策,数值仿真验证了其有效性。
2024-01-05 math.OC
On proximal augmented Lagrangian based decomposition methods for dual block-angular convex composite programming problems
对于具有对偶块角结构的凸复合规划问题,我们设计了基于非精确近似增广拉格朗日分解方法。我们的方法特别适合于凸二次规划问题所产生的随机规划模型。算法框架是基于在[Chen,Sun,Toh,Math. Prog. 161:237--270]的目标问题的对偶,以及最近开发的对称高斯-赛德尔分解定理的应用解决一个邻近的多块凸复合二次规划问题。算法设计中的关键问题首先是设计合适的近似项来分解目标问题的对偶变量块的计算,使每次迭代中的子问题更容易求解,其次是开发新的数值格式来有效地求解分解的子问题。我们的不精确增广拉格朗日分解方法有保证的收敛性。我们提出了一个应用所提出的算法的双重非负松弛的无容量限制的设施定位问题,以及两阶段的随机最优化问题。我们进行了大量的数值实验,以评估我们的方法对国家的最先进的求解器,如Guidelines和MOSEK的性能。此外,我们提出的算法也毫不逊色于著名的渐进式对冲算法的Rockafellar和Wets。
2023-03-13 math.OC
Asynchronous Block-Iterative Primal-Dual Decomposition Methods for Monotone Inclusions
提出了求解线性组合极大单调算子和的包含组的原-对偶分解算法。这些算法的主要创新之处在于,它们是块迭代的,在这个意义上,在每次迭代中,只有一个子集的单调算子需要处理,而不是在建立的方法中的所有算子。确定性策略用于选择在每次迭代时激活的操作符块。此外,我们允许操作员处理“滞后”,允许异步实现。我们的方法的每次迭代的分解阶段是在所选择的单调算子的图中生成点,以构造包含与系统相关联的Kuhn-Tucker集的半空间。每次迭代的协调阶段都涉及到这个半空间上的投影。我们提出了两个相关的方法:第一种方法提供弱收敛的原始和对偶序列在一般条件下,而第二种是一个变种,其中强收敛性是保证没有额外的假设。这两种算法都不需要有关线性算子的边界或线性算子的反演的先验知识。我们的算法框架统一和显着扩展的方法,在早期的工作原始对偶投影分裂方法。
2015-11-27 math.OC
On the Primal Feasibility in Dual Decomposition Methods Under Additive and Bounded Errors
随着信号处理和机器学习应用领域的前所未有的增长,人们对分布式最优化方法来解决潜在的大规模问题的兴趣得到了极大的扩展。然而,不可避免的系统特定的挑战,如有限的计算能力,有限的通信,延迟要求,测量误差,和无线信道中的噪声强加限制的精确性的基础算法。这种限制引起了对算法在不精确条件下收敛行为的研究。尽管在该领域进行了广泛的研究,它似乎是关于原始最优性违反对偶分解方法的收敛性分析,连同对偶最优性违反较少调查。在这里,我们提供了一个系统的阐述的可行点在不精确设置下的对偶分解方法的收敛性,一类重要的全球共识最优化问题。收敛和收敛的算法的收敛速率的数学证实,不仅从双域的观点,而且从主域的观点。分析结果表明,该算法收敛到一个最优邻域,其大小取决于潜在的失真水平。进一步阐述了一个广义的问题制定还提供,连同底层算法的收敛性能。最后,通过数值实验验证了理论推导的正确性.
2022-10-22 math.OC
Column Partition based Distributed Algorithms for Coupled Convex Sparse Optimization: Dual and Exact Regularization Approaches
针对一类大规模凸稀疏最优化问题,提出了基于列划分的分布式算法,基追踪(BP)、LASSO、基追踪去噪(BPDN)及其扩展,例如,融合了LASSO。我们特别感兴趣的情况下,(标量)决策变量的数量远远大于(标量)测量的数量,每个代理有有限的内存或计算能力,使它只知道一个测量矩阵的列数很少。所考虑的这些问题是紧密耦合的,并且不能使用列划分将其公式化为可分离的凸规划。为了克服这一困难,我们考虑他们的对偶问题是可分离的或局部耦合。一旦得到一个对偶解,在适当的正则化条件下,可以从相应的正则化BP类问题的对偶中找到原解。广泛的现有的分布式计划可以用来解决所获得的双重问题。这产生两个阶段的列分区为基础的分布式计划LASSO和BPDN的问题,这些计划的整体收敛性建立使用灵敏度分析技术。数值结果表明了所提出格式的有效性。
2020-03-17 math.OC
Joint Planning of PEV Fast-Charging Network and Distributed PV Generation Using the Accelerated Generalized Benders Decomposition
将插电式电动汽车(PEV)与分布式可再生能源相结合,将减少PEV从井到车轮的温室气体排放,促进可再生能源的采用,并推迟电力系统投资。本文提出了一种多学科的方法来联合规划PEV快速充电站和分布式光伏(PV)发电厂耦合的交通和电力网络。首先,我们建立了以下模型:1)PEV快速充电站; 2)PEV行驶里程限制下的公路交通网络; 3)具有无功功率控制的光伏电站。然后,我们制定了一个两阶段的随机混合整数二阶锥规划(MISOCP),以确定1)PEV快速充电站的网站和规模; 2)光伏电站。为了解决未来情景的不确定性,采用了大量的未来典型负荷、交通流量和光伏发电曲线。这使得问题规模很大。我们设计了一个广义Benders分解算法来有效地解决这个问题。据作者所知,这项工作是第一个联合规划PEV快速充电站和光伏电站考虑PEV驱动范围限制和无功光伏功率控制。通过数值实验验证了所提方法的有效性,并验证了联合规划和采用先进的光伏无功控制的好处。
2017-03-15 math.OC
Constraint-coupled Optimization with Unknown Costs: A Distributed Primal Decomposition Approach
在本文中,我们提出了一个分布式算法求解凸,约束耦合,最优化问题在对等网络。我们考虑一个网络的处理器,其目的是合作最小化本地费用函数的总和,受到个人的约束和全球耦合约束。这项工作的主要假设是,费用函数是未知的,必须在线学习。我们提出了一个完全分布式的算法,基于原始分解方法,使用迭代细化的数据驱动的估计的费用函数的迭代。该算法具有可扩展性,并维护了代理的私有信息。我们证明,渐近地,分布式算法提供了最优解的问题,即使真正的费用函数从来没有在算法中使用。分析需要深入探索的原始分解方法,并表明,分布式算法可以被认为是一个ε-次梯度法适用于一个合适的重新制定的原始问题。最后,通过数值计算验证了理论分析结果,表明了该方法的有效性.
2021-04-13 cs.SY eess.SY math.OC
Randomized dual proximal gradient for large-scale distributed optimization
在本文中,我们考虑分布式最优化问题,其中费用函数是可分离的(即,所有共享公共变量的可能非光滑函数的和),并且可以被分成强凸项和凸项。第二项通常用于编码约束或正则化解。我们提出了一个异步的,分布式优化算法在无向拓扑结构,基于最近的梯度更新的对偶问题。我们表明,通过适当的原始变量的选择,对偶问题是可分离的和对偶变量可以堆叠成单独的块。这使我们能够表明,一个分布式的八卦更新,可以通过一个随机块坐标的对偶函数的近端梯度。
2016-09-19 cs.DC math.OC
Convergence Analysis of Dual Decomposition Algorithm in Distributed Optimization: Asynchrony and Inexactness
对偶分解广泛应用于多智能体系统的分布式优化中。在实际应用中,由于通信的不完善,如时延和丢包等,对偶分解算法需要允许异步实现。此外,计算误差也存在时,个别代理解决自己的子问题。本文分析了分布式优化中对偶分解算法在通信不精确和子问题求解不精确同时存在的情况下的收敛性。我们发现,不精确性和不精确性之间的相互作用减慢了从$\mathcal{O} ( 1 / k )$到$\mathcal{O} ( 1 / \sqrt{k} )$的收敛速度。具体地说,当步长为常数时,目标函数的值收敛到最优值的邻域,而解收敛到精确最优解的邻域。此外,在$\mathcal{O} ( 1 / \sqrt{k} )$中约束的违反减少。我们的结果推广和统一了现有的只考虑模糊性或不精确性的结果。最后通过数值模拟验证了理论分析的正确性。
2021-03-04 cs.SY eess.SY math.OC
Distributed Primal Decomposition for Large-Scale MILPs
本文讨论了一种分布式混合线性规划(MILP)的建立,它出现在几种控制应用中。网络中的智能体的目标是最小化局部线性费用函数之和,该成本函数既受个体约束又受涉及所有决策变量的线性耦合约束。所考虑的设置的一个关键的、具有挑战性的特征是,决策变量的某些分量必须假定整数值。所处理的MILP是NP难的,非凸的和大规模的。此外,由于耦合约束,分布式框架中出现了一些额外的挑战,因此具有保证次优性边界的可行解是令人感兴趣的。我们提出了一个完全分布式算法的基础上的原始分解方法和适当收紧的耦合约束。该算法保证在有限时间内提供可行解。此外,渐近和有限时间次优界的计算解决方案。蒙特卡洛模拟突出了算法实现的极低的次优性界限。
2021-02-11 cs.SY eess.SY math.OC
A Decomposition Method for Solving Sensitivity-Based Distributed Optimal Power Flow
National Renewable Energy Laboratory(美国国家可再生能源实验室);Georgia Institute of Technology(佐治亚理工学院)
本文提出了一种基于灵敏度的分布式OPF求解方法,利用ADMM算法提高计算效率,相比传统方法快14倍。
2025-12-27 cs.SY eess.SY math.OC
A Faithful Distributed Implementation of Dual Decomposition and Average Consensus Algorithms
我们考虑大规模的成本分配问题和多个代理商的共识寻求问题,其中代理商建议在分布式算法中进行合作以找到解决方案。如果代理人的策略是尽量减少自己的个人成本,而不是全球社会成本,他们被赋予了一个激励,不遵循预期的算法,除非税收/补贴机制是精心设计的。受经典的Vickrey-Clarke-Groves机制和最近的算法机制设计理论的启发,我们提出了一种税收机制,激励代理忠实地实现预期的算法。特别是,一个新的概念,渐近激励相容性的特点,这类机制的一个理想的属性。所提出的一类税收机制提供了一系列机制,使代理人偏离建议的算法的激励减少。
2013-04-10 cs.GT math.OC
An SDP dual relaxation for the Robust Shortest Path Problem with ellipsoidal uncertainty: Pierra's decomposition method and a new primal Frank-Wolfe-type heuristics for duality gap evaluation
这项工作解决了鲁棒对应的最短路问题(RSPP)与相关的不确定性集。由于这个问题是困难的,启发式方法,基于Frank-Wolfe的算法命名为离散Frank-Wolf(DFW),最近被提出。本文的目的是提出一个半定规划松弛的RSPP,提供了一个下界,以验证方法,如DFW算法。放松的问题的结果,从一个二元化,这是{通过}一个重新制定的RSPP到一个二次问题。然后松弛的问题是解决使用稀疏版本的Pierra的分解在积空间的方法。这种验证方法适用于大规模的问题。数值实验表明,放松和启发式方法得到的解决方案之间的差距是相对较小的。
2021-10-29 math.OC stat.AP
On the Convergence Analysis of Asynchronous Distributed Quadratic Programming via Dual Decomposition
Department of Aerospace Engineering, Texas A&M University(德克萨斯农工大学航空航天工程系)
本文通过切换系统框架分析异步分布式二次规划的收敛性与收敛速率,提出异步更新对偶变量以减少同步延迟,探讨速度与精度的权衡。
2015-06-19 cs.SY eess.SY math.OC
The distributed dual ascent algorithm is robust to asynchrony
分布式对偶上升算法是求解具有可分离费用函数的强凸多智能体最优化问题的一种成熟算法。在本文中,我们研究它的异步对应。具体来说,我们假设每个代理只依赖于从一些邻居收到的过时的信息。从现有的随机和双块坐标计划,我们表现出收敛下异构延迟,通信和更新频率。因此,我们的异步双上升算法可以实现,而不需要任何代理之间的协调。
2021-05-04 cs.DC cs.MA math.OC
A primal-dual perspective for distributed TD-learning
AAAI Press(AAAI出版社)
针对网络化多智能体MDP,提出基于零空间约束原始-对偶ODE动力学的分布式TD学习算法,支持多种步长与观测模型,且无需双随机矩阵网络假设。
2025-05-13 cs.LG math.OC
A duality-based approach for distributed min-max optimization
在本文中,我们考虑一个分布式优化方案中,一组处理器的目的是合作解决一类最小最大最优化问题。这种设置的动机是在智能电网的峰值需求最小化问题。这里,目标是在有限范围内最小化峰值,其中:(i)每个时刻的需求是来自不同设备的贡献的总和,以及(ii)不同时刻的设备状态通过局部约束(例如,的动态)。最小-最大结构和双重耦合(通过设备和在时间范围上)使得该问题在分布式设置中具有挑战性(例如,不能应用现有的分布式对偶分解方法)。我们提出了一个分布式算法的基础上结合对偶方法和性质从最小最大优化。具体来说,我们反复应用对偶理论,并适当地引入特设松弛变量,以获得一系列等价的问题。在由此产生的问题,我们采用对偶次梯度法,这原来是一个分布式算法,包括一个最小化的原始变量和一个合适的双更新。我们证明了所提出的算法在目标值上的收敛性。证明了原始序列的每一个极限点都是最优(可行)解。最后,我们提供了数值计算的峰值需求的最优化问题在网络的恒温控制负载。
2016-11-28 cs.DC math.OC
Distributed Optimization Using the Primal-Dual Method of Multipliers
在本文中,我们提出了原始-对偶乘数法(PDMM)的分布优化图。特别是,我们优化的凸函数定义在一个图,其中图中的每一个边缘进行线性等式约束的总和。在设计新算法时,构造了一个增广的原始-对偶拉格朗日函数,它可以平滑地捕捉图的拓扑结构。结果表明,鞍点的构造函数提供了原问题的最优解。在同步更新和异步更新两种情况下,PDMM对一般闭函数、真函数和凸函数都具有O(1/K)的收敛速度(K表示迭代次数).通过分布平均实验,研究了PDMM的其他性能,如不同参数设置下的收敛速度和对传输失败的恢复能力。
2017-02-02 cs.DC math.OC
Optimal Distributed Voltage Control via Primal Dual Gradient Dynamics
基于逆变器的资源向电力传输网络的快速增加的渗透需要考虑其固有的输出可变性的更复杂的电压控制策略。此外,故障和负载变化影响电力网络上的电压分布。本文提出了一种基于原始对偶梯度动态的最优分布式电压控制方法,该方法优化了分布式无功电源的输出,以保持可接受的电压分布,同时保持操作限制。IEEE测试系统的实例研究验证了该方法的有效性。
2023-02-15 cs.SY eess.SY math.OC
Distributed MPC Via Dual Decomposition and Alternating Direction Method of Multipliers
KTH Royal Institute of Technology(皇家理工学院)
针对分布式模型预测控制中算法提前终止的问题,研究了对偶分解梯度上升法和交替方向乘子法下终止解与最优解的距离及终止条件。
2014-05-05 cs.SY eess.SY math.OC
Distributed Constraint-Coupled Optimization via Primal Decomposition over Random Time-Varying Graphs
本文解决了大规模的,凸优化问题,需要解决一个分布式的方式,根据一个随机时变图的代理通信。具体来说,网络的目标是最小化本地成本的总和,同时满足本地和耦合约束。代理根据时变模型进行通信,其中底层连通图的边在每次迭代时以一定的非均匀概率活跃。通过依赖于一个原始的分解方案应用到一个等价的问题重新制定,我们提出了一种新的分布式算法,其中代理商谈判的本地分配的总资源只有邻居与积极的通信链路。该算法被研究为一个次梯度方法与块式更新,其中块对应于在每次迭代中活跃的图边缘。由于这种分析方法,我们表明几乎必然收敛的最佳成本的原始问题和几乎必然渐近原始恢复,而不诉诸平均机制通常采用对偶分解方案。显式的次线性收敛速度的假设下,提供了减少和恒定的步长。最后,一个广泛的数值研究插入式电动汽车充电问题证实了理论结果。
2020-10-27 cs.SY eess.SY math.OC
Federated K-Means Clustering via Dual Decomposition-based Distributed Optimization
Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau(莱茵兰-普法尔茨凯泽斯劳滕-兰道工业大学);German Research Center for Artificial Intelligence(德国人工智能研究中心)
本文针对数据隐私与带宽限制下的分布式聚类需求,提出基于对偶分解的联邦$K$-means聚类方法,评估了三类对偶算法在基准问题上的性能,为后续高效求解提供了思路。
2023-07-25 cs.LG math.OC
A Differential Private Method for Distributed Optimization in Directed Networks via State Decomposition
在本文中,我们研究了基于共识的分布式优化问题的代理网络,抽象为一个有向图,旨在最大限度地减少所有代理的代价函数的总和合作。在已有的有向图的分布式优化方法(Push-Pull/AB)中,所有的智能体都要与邻居交换状态,以获得具有恒定步长的最优解,这可能会导致敏感和隐私信息的泄露。对于隐私保护,我们提出了一种新的基于状态分解的梯度跟踪方法(SD-Push-Pull),用于在有向网络上进行分布式优化,该方法保留了差分隐私,这是一个强有力的概念,可以保护代理的隐私免受具有任意辅助信息的对手的攻击。该方法的主要思想是将每个智能体的梯度状态分解为两个子状态。随着时间的推移,只有一个子状态由代理与其邻居交换,另一个子状态保持私有。也就是说,只有一个子状态是可见的对手,保护隐私被泄露。证明了在一定的分解原则下,该算法的次优性有界,同时实现了差分隐私。此外,差分隐私和优化精度之间的权衡也被表征。最后,数值仿真验证了该方法的有效性。
2022-08-29 cs.SY eess.SY math.OC