Distributed Nonsmooth Robust Resource Allocation with Cardinality Constrained Uncertainty
研究了具有基数约束不确定性的分布式非光滑鲁棒资源分配问题。全局目标由局部目标组成,局部目标是凸的但非光滑的。每个智能体被约束在其私有凸集中,并且只具有其对应的局部目标的信息。资源分配条件受基数约束的不确定集约束。利用凸优化的对偶理论,给出了鲁棒资源分配问题的对偶问题。针对这一对偶问题,提出了一种分布式原始-对偶投影算法。在理论上,利用微分包含的稳定性理论,进行了收敛性分析。仿真结果表明,该算法能够引导多智能体系统在满足资源分配条件的情况下达到最优解。最后,一个非平凡的仿真结果表明,所提出的算法的有效性。
2019-04-25 math.OC
Novel Distributed Algorithms Design for Nonsmooth Resource Allocation on Weight-Balanced Digraphs
研究了强连通有向图上的分布式资源分配问题,其中每个Agent的决策被限制为满足耦合网络资源约束和异构一般凸集.此外,局部费用函数可以是非平滑的。为了求解非光滑资源分配问题的精确最优解,提出了一种基于梯度下降法和微分投影算子的连续时间分布式算法.借助集值LaSalle不变原理和非光滑分析,证明了算法渐近收敛于全局最优分配.此外,对于不涉及局部约束和费用函数可由Lipschitz梯度微分的情形,算法收敛到精确最优解的速度是指数级的.最后通过仿真实例验证了所提算法的有效性。
2022-03-09 math.OC
Resilient Distributed Optimization Algorithms for Resource Allocation
分布式算法为资源分配问题提供了优于集中式算法的灵活性,例如,网络物理系统然而,这些算法的分布式性质往往使系统容易受到中间人攻击,特别是当消息之间的价格采取代理和中央协调员传输。在原对偶分布式优化框架下,提出了一种分布式算法的弹性策略。我们制定了一个强大的最优化模型,占拜占庭攻击代理和协调员之间的通信渠道。我们提出了一个弹性的原始对偶法使用国家的最先进的强大的统计方法。该算法收敛到鲁棒最优化模型的一个邻域,该邻域的半径与受攻击信道的比例成正比。
2019-09-10 math.OC
Fair and Distributed Dynamic Optimal Transport for Resource Allocation over Networks
最优输运是一个框架,它有助于最有效地分配有限数量的资源。然而,最有效的分配方案不一定保持最公平。在本文中,我们建立了一个框架,显式地考虑在网络上的异构参与者的动态资源分配的公平性。由于以集中方式计算运输策略需要大量的计算资源,因此必须开发可应用于大规模问题的计算轻算法。为此,我们开发了一个完全分布式算法的公平和动态的最优输运证明收敛使用交替方法的乘数。在所设计的算法中,每对相应的资源供应商和接收者计算自己的解决方案,并通过协商迭代更新的运输方案,不需要一个中央规划器。分布式算法可以在网络上产生公平和有效的资源分配机制。我们通过案例研究证实了所获得的结果。
2021-03-30 math.OC
A Distributed Continuous-time Modified Newton-Raphson Algorithm
提出了一个求解具有有界Hessian的无约束凸优化问题的连续时间二阶优化算法。我们表明,这种替代算法具有可比的收敛速度的连续时间的牛顿-拉夫逊方法,但在结构上,它是服从一个更有效的分布式实现。我们提出了一个分布式实现我们提出的优化算法,并通过李雅普诺夫分析证明其收敛性。一个数值例子证明了我们的结果。
2021-05-20 math.OC
Distributed Resource Allocation on Dynamic Networks in Quadratic Time
考虑了网络中每个节点所承受的代价是分配给它的资源量的凸函数时,在节点之间分配固定数量的资源的问题,提出了一种新的确定性分布式协议.我们的主要结果是,相关的收敛时间为全球目标规模的二次在任何序列的随时间变化的无向图满足长期连通性条件的节点数。
2016-06-12 math.OC
Distributed Resource Allocation Over Random Networks Based on Stochastic Approximation
提出了一种基于随机逼近(SA)的分布式算法来解决不确定性资源分配问题。在该问题中,一组智能体协作优化一个具有线性网络资源约束和分配可行性约束的可分离最优化问题,全局目标函数是智能体局部目标函数之和。每个智能体只能获得其局部函数梯度和局部资源的噪声观测,这些观测不能被其他智能体共享或传输到中心。此外,还有通信的不确定性,如随时间变化的拓扑结构(由随机图描述)和加性信道噪声。为了解决该问题,提出了一种基于SA的分布式算法,并利用SA的常微分方程(ODE)方法证明了多个Agent可以协作实现概率为1的最优分配.最后,电力系统需求响应管理相关的仿真验证了该算法的有效性。
2016-10-31 math.OC
Distributed Approximate Newton Algorithms and Weight Design for Constrained Optimization
针对经济调度和线性约束资源分配问题,提出了一类新的近似牛顿最优化方法的分布式近似牛顿算法。我们首先开发的概念,代理实现二阶算法的通信图的最佳边缘加权,并提出了一个凸近似的非凸权重设计问题。接下来,我们建立在最优权重设计开发一个离散的分布式近似牛顿算法,该算法线性收敛到最优解的经济调度问题的未知费用函数和放松的局部框约束。对于满箱约束问题,我们开发了一个连续的分布式近似牛顿算法,该算法受到一阶鞍点方法的启发,并严格证明了其收敛到原始和对偶优化器。这些分布式算法的一个主要特性是,它们只需要代理交换恒定大小的通信消息,这有助于可扩展的实现。仿真结果表明,与一阶鞍点法和梯度下降法的加权策略相比,采用我们的加权设计的分布式近似牛顿算法具有更好的收敛性能.
2019-11-19 math.OC
Initialization-free Distributed Algorithms for Optimal Resource Allocation with Feasibility Constraints and its Application to Economic Dispatch of Power Systems
研究了分布式资源分配最优化问题。在满足全局网络资源约束和局部分配可行性约束的前提下,使所有代理的局部目标函数之和最小化。在这种可分离的最优化问题中,每个Agent所对应的数据,如网络资源、局部分配可行性约束、局部目标函数等,只能由单个Agent访问,不能与其他Agent共享,这给分布式最优化问题提出了新的挑战。基于投影和微分投影,提出了两类连续时间算法,以免初始化和可扩展的方式求解该分布式最优化问题.因此,即使操作环境或网络配置改变,也不需要重新初始化,使得可以实现联网的异构代理的“即插即用”最佳操作。对于严格凸的目标函数,算法是收敛的;对于无局部约束的强凸函数,算法是指数收敛的。然后将该算法应用于电网分布式经济调度问题,以证明即使发电成本、系统负荷或网络配置发生变化,该算法也能以可扩展的方式实现全局最优值。
2017-04-09 math.OC
Distributed sub-optimal resource allocation via a projected form of singular perturbation
研究了资源分配问题的分布式优化问题,提出了一种次优连续时间算法。我们的算法具有较低的阶动态比别人,以减少计算和通信的负担,并适用于重量平衡图。与现有的次优算法相比,该算法能够同时处理局部集合约束和耦合的不等式约束,并且消除了对费用函数二次可微的要求.然而,该算法是不容易分析,因为它涉及奇异扰动型动力学投影不可微的右手边。我们克服了遇到的困难,并获得的结果,包括存在的平衡,次优,算法的收敛性。
2020-02-12 math.OC
Disturbance-resilient Distributed Resource Allocation over Stochastic Networks using Uncoordinated Stepsizes
研究了多智能体系统中的分布式资源分配问题,其中所有智能体在随机通信网络上合作最小化它们的费用函数之和.这个问题出现在许多实际领域,如智能电网中的经济调度,任务分配,机器人控制中的功率分配。现有的大多数工作不能收敛到最优解,如果状态偏离可行域,由于环境噪声,误操作,恶意攻击等造成的干扰,为了解决这个问题,我们提出了一种分布式偏差跟踪资源分配算法,并证明了它线性收敛到最优解与常数步长。我们进一步探讨了所提出的算法的弹性特性。最重要的是,在干扰注入和随机通信故障的情况下,算法仍然收敛到最优解。为了提高算法的收敛速度,建立了最快收敛速度的最优步长。我们还证明了该算法的线性收敛到最优解的均方,即使与不协调的步长,即,允许代理采用不同的步长。仿真结果验证了理论分析的正确性。
2021-04-25 math.OC
Solving A Class of Nonsmooth Resource Allocation Problems with Directed Graphs though Distributed Smooth Multi-Proximal Algorithms
针对一类分布式非光滑资源分配问题,提出了两种分布式多邻近原始对偶法。在这些问题中,全局费用函数是局部凸函数和非光滑费用函数之和,每个代价函数由一个二次可微函数和多个非光滑函数组成。底层多智能体系统的通信图是有向和强连接的,但不一定是加权平衡的。多邻近分裂的设计是为了解决这些非光滑函数求和的不可逼近性所带来的困难。此外,它还可以保证所提出的算法的光滑性。在多邻近分裂中引入辅助变量,估计非光滑函数的次梯度。在理论上,利用李雅普诺夫稳定性理论和积分输入状态稳定性(iISS)理论进行了收敛性分析。结果表明,所提算法能使状态收敛到满足资源分配条件的最优点。
2020-03-16 math.OC
On the Convergence of a Noisy Gradient Method for Non-convex Distributed Resource Allocation: Saddle Point Escape
University of Melbourne(墨尔本大学)
针对非凸分布式资源分配问题,本文在拉普拉斯加权梯度下降基础上加入随机扰动以实现鞍点逃逸,证明了二阶收敛性,实验显示其性能优于标准加权梯度下降。
2026-08-26 math.OC
An Exact Distributed Newton Method for Reinforcement Learning
本文提出了一种分布式二阶强化学习方法.我们的方法是文献中最快的,因为它优于最先进的方法,包括ADMM,由显着的利润率。我们实现这一点,利用稀疏模式的对偶海森和转换的问题,计算牛顿方向的一个解决一系列对称对角占优的方程组。我们从理论和经验两方面验证了上述主张。在理论上,我们证明了类似于精确牛顿,我们的算法表现出超线性收敛的最优解的邻域内。从经验上讲,我们证明了这种新方法在一组基准强化学习任务上的优越性。
2016-08-04 math.OC
Solving Nonsmooth Resource Allocation Problems with Feasibility Constraints through Novel Distributed Algorithms
研究了多智能体网络上的分布式非光滑资源分配问题,其中每个智能体都受到全局耦合的网络资源约束和用一般凸集描述的局部可行性约束.针对这一问题,提出了两类基于微分包含和投影算子的分布式连续时间算法。利用李雅普诺夫泛函理论和非光滑分析对算法的收敛性进行了分析。我们证明了当交互有向图是权平衡的且局部费用函数是强凸的时,第一种算法可以全局收敛到问题的精确最优解。此外,该算法的完全分布式实现研究了连通无向图与严格凸局部费用函数。此外,针对第一种算法需要初始化的缺点,我们设计了第二种算法,该算法无需初始化就能实现对具有强凸费用函数的连通无向图的最优解的整体收敛。最后,通过几个数值模拟对结果进行了验证。
2022-03-10 math.OC
Distributed Task Allocation for Self-Interested Agents with Partially Unknown Rewards
本文研究奖励部分未知的自利智能体分布式任务分配问题,通过组合划分博弈与权重博弈刻画最优分配,并提出有限时间收敛的PBRAG动力学及在线分布式算法。
2023-11-01 math.OC
Distributed Lagrangian Methods for Network Resource Allocation
出于控制工程和信息科学中的各种应用,我们研究网络资源分配问题,其目标是在节点网络上优化分配固定数量的资源。在这些问题中,由于网络规模大,节点之间的互连复杂,任何解决方案都必须并行实现,并只基于本地数据,从而需要分布式算法。在本文中,我们提出了一种新的分布式拉格朗日方法,它只需要本地计算和通信。我们的重点是了解该算法的性能的底层网络拓扑结构。具体来说,我们得到的上界的收敛速率的算法的大小和底层网络的拓扑结构的函数。所提出的方法的有效性和适用性证明其用于解决电力系统中的重要经济调度问题,特别是在基准IEEE-14和IEEE-118总线系统。
2017-08-24 math.OC
Distributed Inexact Newton Method with Adaptive Step Sizes
本文提出带自适应步长的分布式非精确牛顿法DINAS,可求解两类分布式优化问题,具备收敛速率优势且减少全局参数需求,实验表现优于现有方法,还首次给出相关非精确牛顿法的收敛性分析。
2025-01-14 math.OC
Distributed Resource Allocation Over Dynamic Networks with Uncertainty
在工程的各个领域的广泛应用的动机,我们研究了网络资源分配问题,其目标是最佳地分配一个固定数量的资源在网络节点。我们认为大规模的网络具有复杂的互连结构,因此任何解决方案都必须并行实施,并只基于本地数据,从而需要分布式算法。在本文中,我们研究了分布式拉格朗日方法对这样的问题。通过利用所谓的分布式次梯度方法来解决对偶问题,我们的方法消除了在更新对偶变量,这往往是在经典的拉格朗日方法所需要的中央协调。我们的重点是了解这种分布式算法的性能时,资源的数量是未知的,可能是随时间变化的。特别是,我们得到了一个上界的收敛速度的算法的最优值,在预期中,作为一个函数的大小和底层网络的拓扑结构。通过对IEEE-14和IEEE-118节点测试系统的仿真,验证了该方法在电力系统经济调度中的有效性。
2018-08-03 math.OC
Superlinearly Convergent Asynchronous Distributed Network Newton Method
网络系统上局部凸目标函数之和最小化问题在分布式优化领域有着重要的应用和研究价值。大部分现有的工作集中在一个中央时钟的存在下,快速分布式算法的发展。唯一已知的算法收敛保证这个问题在异步设置下可以实现完全异步设置下的次线性速率或部分异步设置下的线性速率(有界延迟)。在这项工作中,我们建立在现有的文献开发和分析的异步牛顿为基础的方法来解决惩罚版本的问题。我们证明了该算法在期望的全局线性速度和局部超线性速度下几乎必然收敛。数值研究证实了优于其他现有的异步方法的性能。
2019-01-08 math.OC
Distributed Edge Computing Task Allocation with Network Effects
Northwestern University(西北大学);Argonne National Laboratory(阿贡国家实验室)
本文提出了一种基于双下降法的分布式边缘计算任务分配方法,通过优化QoS在动态变化的网络环境中实现任务分配的高效调度。
2026-02-13 math.OC
Input-Output Performance of Linear-Quadratic Saddle-Point Algorithms with Application to Distributed Resource Allocation Problems
鞍点或原始-对偶方法作为一种系统化的设计分布式算法来解决凸优化问题的技术,最近吸引了新的兴趣。当在线实现流数据或作为动态反馈控制器时,这些算法会受到干扰和噪声的影响;收敛速度提供不完整的性能信息,量化输入输出性能变得更加重要。我们分析了应用于线性约束二次规划的连续时间鞍点方法的输入输出性能,在相关的输入输出配置下提供了鞍点H2范数的显式表达式。然后,我们继续得到类似的结果,正则化和增广版本的鞍点算法。我们观察到一些相当特殊的效果-适度的正则化显着提高了瞬态性能,而增强并不一定提供改进。然后,我们提出了一个分布式的双重版本的算法,克服了一些增强所施加的性能限制。最后,我们将我们的研究结果应用到资源分配问题,比较各种集中式和分布式鞍点实现的输入输出性能,并表明分布式算法可能会执行以及他们的集中式同行。
2018-11-07 math.OC
Communication efficient quasi-Newton distributed optimization based on the Douglas-Rachford envelope
针对客户端–服务器分布式优化,本文利用 Douglas–Rachford 分裂构造免线搜索的 BFGS 方法,以每轮每客户端仅收发一个向量实现最少通信和超线性收敛,并通过实验验证其降本优势。
2024-10-29 math.OC
DAve-QN: A Distributed Averaged Quasi-Newton Method with Local Superlinear Convergence Rate
在本文中,我们考虑分布式算法解决的经验风险最小化问题下的主/工人通信模型。我们开发了一个分布式异步拟牛顿算法,可以实现超线性收敛。据我们所知,这是第一个分布式异步算法的超线性收敛保证。我们的算法是通信效率的意义上说,在每一次迭代的主节点和工人沟通矢量的大小$O(p)$,其中$p$是决策变量的尺寸。所提出的方法是基于一个分布式异步平均方案的决策向量和梯度的方式,以有效地捕捉局部Hessian信息的目标函数。我们的收敛理论支持异步计算受到有界延迟和无界延迟有界的时间平均。与大多数异步优化文献不同,当延迟很大时,我们不需要选择较小的步长。我们提供的数值实验,我们的理论结果相匹配,并展示了显着的改进相比,最先进的分布式算法。
2019-06-10 math.OC
DN-ADMM: Distributed Newton ADMM for Multi-agent Optimization
在多智能体网络中,我们考虑最小化一个目标函数的问题,该目标函数表示为私有凸函数和光滑函数的和,以及一个(可能)不可微的凸正则化。基于乘子的交替方向法(ADMM)框架,通过对可微部分的原始更新调用近似牛顿迭代,提出了一种新的分布式二阶方法.为了实现分布式实现,总的黑塞矩阵被分成对角分量(本地可计算)和非对角分量(需要相邻代理之间的通信)。随后,Hessian逆近似的截断泰勒展开$K$条款:这相当于完全分布式更新需要$K$分布式通信轮。在强凸函数和Lipschitz连续梯度的假设下,我们证明了问题的原始-对偶最优解的全局线性收敛.数值实验表明,该方法的优点与国家的最先进的方法相比。
2021-09-29 math.OC
DINO: Distributed Newton-Type Optimization Method
我们提出了一种新的通信高效的牛顿型算法在分布式计算环境中的有限和优化。我们的方法,命名为DINO,克服了现有的类似方法的理论和实践的缺点。在最小假设条件下,对于一般非凸函数和网络上任意数据分布,我们保证了DINO的全局次线性收敛到一阶稳定点.对于满足Polyak-Lojasiewicz(PL)不等式的函数,证明了DINO具有线性收敛速率.我们提出的算法实际上是无参数的,因为它将收敛,而不管所选择的超参数,这是很容易调整。此外,它的子问题是简单的线性最小二乘,其中存在有效的求解器。数值模拟表明DINO的效率与类似的替代品相比。
2020-06-05 math.OC
Reciprocity of Algorithms Solving Distributed Consensus-Based Optimization and Distributed Resource Allocation
本文的目的是提出一个程序来获得分布式算法的分布式共识为基础的优化,通过使用分布式算法的网络资源分配,反之亦然交换网络/无同步协议。结果表明,一阶梯度分布式基于共识的优化算法可以用来找到一个最优解的分布式资源分配与同步协议下较弱的假设下,在文献中给出的非切换(静态)网络。结果表明,一阶梯度分布式资源分配算法可以用来找到一个最优解的分布式共识为基础的优化。本文的结果可应用于时变随机有向网络,无论有无同步协议,其初始化都是任意的。因此,现在可以使用几种算法来推导基于共识的优化和资源分配的分布式算法,这可以克服现有结果的局限性。虽然本文的重点是一阶梯度算法,但应注意的是,结果也适用于二阶梯度算法。
2022-08-02 cs.SY eess.SY math.OC
Distributed Multi-resource Allocation with Little Communication Overhead
我们提出了一个分布式算法来解决一个特殊的分布式多资源分配问题,没有直接的智能体通信。我们这样做是通过扩展最近推出的加法增加乘法减少(AIMD)算法,它只使用很少的系统和代理之间的通信。也就是说,每当所分配的资源之一超过容量时,控制单元就向代理广播一比特信号。然后,代理以概率的方式对该信号做出响应。在该算法中,每个代理不知道其他代理的资源分配。我们还提出了一个版本的AIMD算法的多个二进制资源(例如,停车位)。二进制资源是不可分割的单位需求资源,每个代理要么分配一个单位的资源,要么不分配。在实证结果中,我们观察到,在这两种情况下,平均分配随着时间的推移收敛到最优分配。
2017-11-06 cs.DC math.OC
Distributed Inexact Damped Newton Method: Data Partitioning and Load-Balancing
Lehigh University(里海大学)
本文研究了在分布式环境下实现的不精确转储牛顿法。我们从原始的DiSCO算法开始[Communication-Efficient Distributed Optimization of Self-Concordant Empirical Loss,Yushan Zhang and Lin Xiao,2015]。我们将证明这种算法可能无法很好地扩展,并提出一种算法修改,这将导致更少的通信,更好负载均衡和更有效的计算。我们进行了数值实验,正则化的经验损失最小化的情况下描述的273 GB的数据集。
2016-03-16 cs.LG math.OC
Detection and Mitigation of Corrupted Information in Distributed Model Predictive Control Based on Resource Allocation
在分布式预测控制结构中,智能体之间的通信需要达成共识,并接近最优的全局行为。这种谈判机制对这些交易所受到的攻击很敏感。本文提出了一种监测方案,检测和减轻这些攻击的影响,在一个资源分配框架。所提出的方法的性能示出通过模拟的多个房间的温度控制下的电力短缺。
2022-07-21 cs.SY eess.SY math.OC
L-DQN: An Asynchronous Limited-Memory Distributed Quasi-Newton Method
本文提出了一种在主/工通信模型下求解经验风险最小化问题的分布式算法L-DQN。L-DQN是一种支持工作节点间异步计算的分布式有限内存拟牛顿法。我们的方法在存储和通信成本方面都是有效的,即,在每次迭代中,主节点和工作节点传送大小为$O(d)$的向量,其中$d$是决策变量的维数,并且每个节点上所需的存储器量是$O(md)$,其中$m$是可调参数。据我们所知,这是第一个分布式拟牛顿法与可证明的全球线性收敛保证在异步设置节点之间的延迟。数值实验验证了该方法的理论和实际性能。
2021-09-04 cs.DC math.OC
A Distributed Newton Method for Large Scale Consensus Optimization
在本文中,我们提出了一个分布式牛顿算法的共识优化。我们的方法优于最先进的方法,包括ADMM。其核心思想是利用对偶Hessian的稀疏性,将牛顿步的计算转化为求解对称对角占优线性方程组的有效计算。我们验证我们的算法在理论上和经验。在理论方面,我们证明了我们的算法在最优邻域内具有超线性收敛性。经验上,我们展示了这种新方法在各种机器学习问题上的优越性。所提出的方法是可扩展的非常大的问题,并具有较低的通信开销。
2016-06-21 cs.DC math.OC
Utility Design for Distributed Resource Allocation -- Part II: Applications to Submodular, Covering, and Supermodular Problems
分布式控制的博弈论方法的一个基本组成部分是局部效用函数的设计。相对于在资源上可加性的资源分配问题,第一部分展示了如何设计局部效用,以便最大化相关的性能保证[Paccagnan等人,TAC 2019],我们用无政府状态的无政府代价来衡量。本手稿的目的是专门这些结果的情况下,submodular,覆盖和supermodular问题。在所有这些情况下,我们得到严格的表达式的无政府代价,往往匹配或改善相关的保证国家的最先进的近似算法。两个应用程序和相应的数值:车辆目标分配问题和无线数据缓存中出现的覆盖问题。
2021-01-12 cs.GT math.OC
Energy Efficient Distributed Worst Case Robust Power Allocation in Massive MIMO
本文提出了一种大规模多输入多输出(MIMO)系统中能量有效的分布式最坏情况鲁棒功率分配算法。我们假设一个有界的信道状态信息(CSI)错误和所有的信道位于一些有界的不确定性区域。该问题被表述为具有无穷约束的最大-最小问题。首先利用三角形和Cauchy-Schwarz不等式求解内问题,然后利用分式规划和逐次凸逼近(SCA)技术将问题转化为凸优化问题。最后通过分配的方法得到发射功率的封闭形式。仿真结果证明了算法的收敛性和鲁棒性。此外,在仿真结果中示出了具有最大能量效率的发射天线的适当数量。
2019-01-02 cs.IT eess.SP math.IT
Distributed Gauss-Newton Method for State Estimation Using Belief Propagation
针对非线性状态估计(SE)模型,提出了一种基于置信传播(BP)的分布式高斯-牛顿方法。我们工作的主要新颖性来自于将BP顺序应用于SE模型的一系列线性近似,类似于高斯-牛顿方法所做的。由此产生的迭代高斯-牛顿置信传播(GN-BP)算法可以被解释为分布式高斯-牛顿方法,具有与集中式SE相同的精度,但是,引入了BP框架的许多优点。本文提供了广泛的GN-BP算法的数值研究,提供了其收敛行为的细节,并给出了一些有用的见解,其实施。
2018-08-26 cs.IT math.IT math.OC
Distributed Optimal Allocation with Quantized Communication and Privacy-Preserving Guarantees
在本文中,我们分析了在分布式和隐私保护的方式最优分配资源的问题。我们提出了一种新的分布式最优资源分配算法与隐私保护的保证,它运行在一个有向通信网络。我们的算法在有限时间内收敛,并允许每个节点处理和传输量化的消息。我们的算法采用分布式量化平均共识策略结合隐私保护机制。我们表明,该算法收敛于有限时间,我们证明,在特定条件下的网络拓扑,节点能够保持其初始状态的隐私。最后,为了说明结果,我们考虑一个例子,其中测试试剂盒需要按比例分配到一个地区的感染数量。结果表明,所提出的隐私保护的资源分配算法表现良好,在隐私保证适当的收敛速度。
2022-07-17 cs.SY eess.SY math.OC
Distributed Resource Allocation over Time-varying Balanced Digraphs with Discrete-time Communication
本文研究了在连续时间环境下的分布式资源分配问题,同时考虑了在无限连通平衡有向图上的离散时间通信。我们提供了一个被动为基础的连续时间算法的角度来看,间歇性的通信计划的基础上开发。特别地,通过分析每个节点处的分布式动态的输出采样的无源性退化,首先导出周期性通信方案。在此基础上,进一步提出了一种异步分布式事件触发机制。基于采样的事件触发通信方案不受Zeno行为的影响,因为最小事件间时间是采样周期的下界。该算法中的参数仅依赖于每个节点的局部信息,可以以真正的分布式方式进行设计
2021-01-15 cs.MA cs.SY eess.SY
Communication Efficient Distributed Optimization using an Approximate Newton-type Method
Toyota Technological Institute(丰田工业大学);Technion(以色列理工学院);Rutgers University(罗格斯大学);Baidu(百度)
我们提出了一种新的牛顿型方法的分布式优化,这是特别适合于随机优化和学习问题。对于二次型目标,该方法具有线性收敛速度,可证明\emph{improves}与数据大小,在合理的假设下,需要一个基本上恒定的迭代次数。我们提供了理论和经验证据的优势,我们的方法相比,其他方法,如单次参数平均和ADMM。
2014-05-13 cs.LG math.OC stat.ML
Resilient Primal-Dual Optimization Algorithms for Distributed Resource Allocation
在许多网络物理系统中,分布式多代理资源分配算法可以提供集中式算法的隐私性和可扩展性。然而,这些算法的分布式性质可能使这些系统容易受到中间人攻击,这可能导致资源分配方案的不收敛和不可行性。在本文中,我们提出了攻击弹性分布式算法的基础上原始对偶优化拜占庭攻击者存在于系统中。特别是,我们设计了攻击弹性的原始对偶法的静态和动态模拟攻击的鲁棒统计。对于静态模仿攻击,我们制定了一个鲁棒的最优化模型,并表明我们的算法保证收敛到鲁棒问题的最优解的邻域。另一方面,一个强大的最优化模型是不需要的动态模拟攻击的情况下,我们能够设计一个算法,收敛到一个接近最优解的原始问题。我们分析了我们的算法的性能,通过理论和计算研究。
2020-09-15 cs.SY eess.SY math.OC
Distributed Optimal Resource Allocation Search: A Dynamic Event-Triggered Algorithm
Harbin Institute of Technology(哈尔滨工业大学)
针对等式耦合的分布式资源分配问题,提出一种基于动态事件触发机制的离散时间算法,在一般凸目标函数下实现收敛,并通过数值实验验证了通信效率。
2026-06-02 math.DS math.OC
Distributed Resource Allocation for Epidemic control
University of Pennsylvania(宾夕法尼亚大学)
本文提出基于D-ADMM算法的分布式资源分配策略,用于控制网络中流行病爆发。通过线性化SIS模型,考虑节点在感染存在下分配疫苗和治疗药物,并将流行病控制条件转化为涉及Perron-Frobenius特征值的谱约束,以几何规划形式解决资源分配问题。
2015-01-08 cs.SY eess.SY math.OC
Communication-efficient Distributed Multi-resource Allocation
Concordia University(康考迪亚大学);University College Dublin(都柏林大学学院);University of Passau(帕绍大学)
本文提出了一种无需直接通信的分布式多资源分配算法,通过扩展一种新的加性增加乘性减少(AIMD)算法,实现高效的资源分配,实验结果表明平均分配逐渐收敛到最优解。
2018-07-28 cs.SY eess.SY math.OC
Distributed Mechanism Design for Multicast Transmission
在标准的机制设计框架(Hurwicz-Reiter)中,有一个中央权威机构收集代理人的消息,并随后确定每个代理人的分配和税收。我们考虑的情况下,由于通信开销和其他限制,这样的广播消息的中央机构不能发生。相反,代理之间只允许本地消息交换。因此,每个代理应该能够根据本地邻域中的消息来确定自己的分配和税收,如由描述通信约束的给定消息图所定义的。这种情况引起了一个新的研究方向,我们称之为"分布式机制设计"。在本文中,我们提出了这样一个分布式机制的问题,在组播传输网络的速率分配。该机制完全实现了纳什均衡的最优分配,其消息空间维数与网络中的代理数量呈线性关系。
2019-01-08 cs.GT math.OC
A distributed semismooth Newton based augmented Lagrangian method for distributed optimization
School of Mathematics, Southwest Jiaotong University(西南交通大学数学学院);School of Computer and Computing Science, Hangzhou City University(杭州城市大学计算机与计算科学学院);Institute of Mathematics, Zhejiang Wanli University(浙江万里大学数学学院)
本文提出了一种分布式半光滑牛顿基于增广拉格朗日方法,用于高效解决网络上的优化问题,通过分布式加速近端梯度方法提升计算效率。
2026-02-27 cs.LG cs.NA math.NA
Centralized and Distributed Newton Methods for Network Optimization and Extensions
M.I.T.(麻省理工学院)
本文研究集中与分布式牛顿方法在单商品和多商品网络流问题中的应用,比较了传统方法与最新提案,并探讨了分布式计算系统中的实现及扩展问题。
2015-07-02 cs.NA math.NA math.OC
Network-GIANT: Fully distributed Newton-type optimization via harmonic Hessian consensus
University of Padova(帕多瓦大学);Maynooth University(梅努斯大学);Uppsala University(乌普萨拉大学)
针对分布式多智能体学习的全局损失最小化问题,提出结合梯度跟踪、牛顿迭代与共识平均的完全分布式牛顿型算法Network-GIANT,理论上证明其强凸光滑损失下半全局指数收敛,实验显示性能优于现有先进算法。
2023-07-19 cs.LG cs.MA math.OC
Weight Design of Distributed Approximate Newton Algorithms for Constrained Optimization
University of California, San Diego(加州大学圣迭戈分校)
本文提出一种分布式近似牛顿算法,用于解决约束优化问题,通过优化通信拓扑和权重提升收敛性能。
2017-03-22 cs.MA cs.NA math.NA
The Convergence of Finite-Averaging of AIMD for Distributed Heterogeneous Resource Allocations
本文针对分布式异构资源分配问题,分析了基于随机化AIMD算法、仅需与中央智能体少量通信的分布式方案,通过有限窗口时间平均和位置依赖概率马尔可夫链建模,证明了时间平均分配向量收敛到唯一不变测度且具有遍历性。
2020-01-24 cs.SY eess.SY math.OC
Distributed Constraint-coupled Resource Allocation: Anytime Feasibility and Violation Robustness
本文针对带耦合约束的实时分布式资源分配问题,结合原始-对偶方法与控制障碍函数设计DanyRA算法,保障全时刻约束可行,引入虚拟队列提升干扰下的违规鲁棒性,还扩展至等式约束场景并证明线性收敛性。
2025-08-04 cs.SY eess.SY math.OC
GIANT: Globally Improved Approximate Newton Method for Distributed Optimization
University of California at Berkeley(加州大学伯克利分校);University of Queensland(昆士兰大学);Stanford University(斯坦福大学)
针对分布式计算环境,考虑经验风险最小化问题,提出了一种分布式通信高效的牛顿型优化方法。在每一次迭代中,每个worker都在本地找到一个近似牛顿(ANT)方向,并将其发送给主驱动程序。然后,主驱动程序对从工作程序接收到的所有ANT方向进行平均,以形成{ \it全局改进的ANT}(GIANT)方向。GIANT是高度通信效率的,并且自然地利用了本地计算和全局通信之间的权衡,因为更多的本地计算导致更少的总通信轮次。理论上,我们表明,GIANT享有一个改进的收敛速度相比,一阶方法和现有的分布式牛顿型方法。此外,与许多现有的分布式牛顿型方法以及流行的一阶方法形成鲜明对比,GIANT的一个非常有利的实用功能是它只涉及一个调谐参数。我们进行大规模的计算机集群上的实验,并根据经验,证明了卓越的性能的巨人。
2018-09-11 cs.DC cs.LG math.OC
DTAC-ADMM: Delay-Tolerant Augmented Consensus ADMM-based Algorithm for Distributed Resource Allocation
延迟是几乎所有现实世界的网络应用程序所固有的。在本文中,我们提出了一个分布式分配策略的多智能体网络与延迟通信。每个代理(或节点)的状态表示其在固定数量(等于总需求)中分配的资源份额。即使当网络上的数据交换在不同链路上不均匀地延迟时,每个节点也通过其相邻节点的接收信息局部地更新其状态以优化全局分配代价函数。更新是基于交替方向的乘子法(ADMM)制定的总和保持耦合约束和本地箱约束。该解决方案是无导数的,适用于一般(不一定是可微的)凸成本模型。我们使用无向网络上的增强共识的概念来模拟延迟的信息交换和收敛性分析。我们模拟我们的\textit{delay-tolerant}算法,
2022-08-30 cs.SY eess.SP eess.SY
Improved Convergence Rates for Distributed Resource Allocation
在本文中,我们开发了一类分散的算法来解决一个凸的资源分配问题的$n$代理网络中,代理的目标是解耦的,而资源约束是耦合的。代理通过连接的无向图进行通信,它们希望协作确定整个网络问题的解决方案,而每个代理只与其邻居通信。我们首先研究了分散资源分配问题和分散共识最优化问题之间的联系。然后,使用一类算法解决共识最优化问题,我们提出了一类新的分散计划解决资源分配问题的分布式方式。具体来说,我们首先提出了一个算法,用于解决资源分配问题时,$o(1/k)$收敛速度保证代理的目标函数一般凸(可能是不可微的)和每个代理的局部凸约束是允许的;然后我们提出一个梯度-的算法来解决每个代理的局部约束缺失时的资源分配问题,并表明这种方案可以实现几何速率时,目标函数是强凸的,并且具有Lipschitz连续梯度。我们还提供了可扩展性/网络依赖性分析。在这两种算法的基础上,我们进一步提出了一种基于梯度投影的算法,该算法能够更有效地处理光滑目标和简单约束。数值实验证明了所提出的算法的可行性和性能。
2018-12-16 cs.DC cs.MA math.OC
Accelerated Distributed Allocation
针对分布式分配场景需求,本文提出一种基于符号函数、收敛速率可调的快速收敛优化算法,证明其在均匀连接多智能体网络及间歇性断网下的收敛性,且具备始终可行性,优于ADMM等需渐近满足约束的对偶方法。
2024-01-28 cs.MA cs.SY eess.SP
Survey of Distributed Algorithms for Resource Allocation over Multi-Agent Systems
该综述聚焦多智能体系统分布式资源分配问题,梳理其数学表述、多领域应用、各类现有分布式算法方案及算法核心特性,为理解该交叉领域的挑战与解法提供全面参考。
2024-01-28 cs.DC cs.SY eess.SP