On Linear Convergence of Distributed Stochastic Bilevel Optimization over Undirected Networks via Gradient Aggregation
Georgia Institute of Technology(佐治亚理工学院);Indian Institute of Technology, Bombay(印度孟买理工学院)
本文提出了一种分布式随机梯度聚合方案,证明在全局强凸性假设下实现线性收敛,扩展了双层优化的理论保证,并通过实验验证了其有效性。
2025-11-23 cs.SY eess.SY math.OC
Asynchronous Policy Gradient Aggregation for Efficient Distributed Reinforcement Learning
Applied AI Institute(应用人工智能研究所)
本文提出Rennala NIGT和Malenia NIGT算法,通过异步策略梯度聚合在异步并行计算中提升分布式强化学习效率,理论和实验均优于现有方法。
2026-03-28 cs.DC cs.LG math.OC
State Aggregation for Distributed Value Iteration in Dynamic Programming
针对多智能体仅掌握部分动态规划信息的问题,提出带状态聚合的分布式值迭代算法,证明一致性并推导误差界,在交通路径规划中实现低通信开销的完全分布式求解。
2023-06-15 cs.SY eess.SY math.OC
On Risk Evaluation and Control of Distributed Multi-Agent Systems
本文提出一种新的系统性风险度量框架,通过公理化和对偶表示实现分布式多智能体系统的风险规避决策,并验证其比个体风险聚合更优。
2023-11-17 math.OC
Distributed Newton-Type Methods with Communication Compression and Bernoulli Aggregation
Institut Polytechnique de Paris(巴黎理工学院);JD Explore Academy(京东探索研究院);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
尽管牛顿型方法的计算和通信成本很高,但由于其对病态凸问题的鲁棒性,牛顿型方法仍然是分布式训练的一个有吸引力的选择。在这项工作中,我们研究了曲率信息的压缩和聚合机制,以减少这些成本,同时保持理论上优越的局部收敛保证。我们证明了Richtarik等人[2022]最近开发的用于梯度通信的三点压缩器(3 PC)类也可以推广到Hessian通信。这个结果开启了各种各样的通信策略,例如压缩压缩和惰性聚合,可用于我们的处理以压缩代价高昂的曲率信息。此外,我们发现了几个新的3 PC机制,如自适应阈值和伯努利聚合,这需要减少通信和偶尔的海森计算。此外,我们扩展和分析我们的双向通信压缩和部分设备参与设置的方法,以满足在联邦学习的应用程序的实际考虑。对于我们所有的方法,我们得到快速的条件数独立的局部线性和/或超线性收敛速度。最后,通过对凸优化问题的大量数值评估,我们说明了我们设计的方案与使用二阶信息的几个关键基线相比,实现了最先进的通信复杂性。
2022-06-07 cs.LG math.OC
A New Family of Feasible Methods for Distributed Resource Allocation
分布式资源分配是智能电网、供水管网和城市交通系统等网络系统的中心任务。当在实践中解决这类问题时,迭代的非渐近可行性保证通常是很重要的,因为过度分配资源容易导致系统崩溃。在本文中,我们开发了一个分布式资源重新分配算法,每一次迭代产生一个可行的分配。该算法是完全分布式的,在这个意义上,节点只与邻居在一个给定的通信网络。我们证明了在温和的条件下,该算法收敛到一个点任意接近最优资源分配。数值实验表明,该算法具有较好的实用性能.
2021-03-28 math.OC
On a Potential Game-theoretic Approach to Event-triggered Distributed Resource Allocation
本文提出了一种潜在的博弈论方法来解决多智能体系统中的事件触发的分布式资源分配。提出了种群的适应度动态,并将其作为一种线性变参数动态来实现事件触发的分布式资源分配。首先,它是动态类似于共识协议,是等效的复制动态。此外,还推导出了确保采样间隔的最小时间界限以避免Zeno行为的条件。一个经济调度问题来说明理论结果。
2018-07-23 math.OC
Distributed Resource Allocation on Dynamic Networks in Quadratic Time
考虑了网络中每个节点所承受的代价是分配给它的资源量的凸函数时,在节点之间分配固定数量的资源的问题,提出了一种新的确定性分布式协议.我们的主要结果是,相关的收敛时间为全球目标规模的二次在任何序列的随时间变化的无向图满足长期连通性条件的节点数。
2016-06-12 math.OC
Model Predictive Control for Joint Ramping and Regulation-Type Service from Distributed Energy Resource Aggregations
本文提出基于模型预测控制的滚动优化方法,解决分布式能源资源聚合体在爬坡与调节服务中的最优分配问题,以减少对大规模发电爬坡的需求并缓解电网扰动。
2024-05-05 cs.SY eess.SY math.OC
A Fast Distributed Algorithm for Large-Scale Demand Response Aggregation
实施住宅需求响应的一个主要挑战是,调整许多家庭的目标,每个家庭的目标是尽量减少其支付和最大限度地提高其舒适度,同时平衡这与聚合器的目标,旨在尽量减少在集中批发市场购买电力的成本。本文提出了一种快速的分布式算法聚合大量的家庭与离散和连续的能量水平的混合。本文中的方法的一个显着特点是,非凸DR问题被分解的家庭,而不是设备,这允许将更复杂的耦合之间的能量存储设备,电器和分布式能源。该方法是一种快速分布式算法,适用于所采用的DR模型的双平滑对偶函数。该方法在多达2560个家庭的系统上进行了测试,每个家庭平均拥有10台设备。该算法的目的是终止在60次迭代,无论系统的大小,这可以是理想的在线版本的这个问题。此外,数值结果表明,与最小的参数调整,该算法表现出非常相似的收敛行为,在整个研究的系统,并收敛到近最优解,这证实了其可扩展性。
2016-03-01 cs.DC math.OC
3PC: Three Point Compressors for Communication-Efficient Distributed Training and a Better Theory for Lazy Aggregation
KAUST(阿卜杜拉国王科技大学);ETH AI Center(苏黎世联邦理工学院人工智能中心);ETH Zurich(苏黎世联邦理工学院);MIPT(莫斯科物理技术学院)
我们提出并研究了一类新的梯度通信机制的通信效率的培训-三点压缩机(3 PC)-以及有效的分布式非凸优化算法,可以利用它们。与依赖于静态压缩机选择(例如,Top- $K$),我们的类允许压缩器在整个训练过程中{ \em进化},目的是提高底层方法的理论通信复杂性和实际效率。我们表明,我们的一般方法可以恢复最近提出的最先进的错误反馈机制EF 21(Richtárik等人,2021)及其作为特例的理论性质,同时也引出了许多新的高效方法。值得注意的是,我们的方法允许我们改进{ \em惰性聚合}文献(Chen等人,2018年)。作为一个副产品,可能是独立的利益,我们提供了一个新的和根本的懒惰的聚合和错误反馈文献之间的联系。我们工作的一个特点是我们不要求压缩机是无偏的。
2022-02-02 cs.DC cs.DS cs.LG
A Web Aggregation Approach for Distributed Randomized PageRank Algorithms
Tokyo Institute of Technology(东京工业大学);CNR-IEIIT, Politecnico di Torino(都灵理工大学意大利国家研究委员会信息与通信工程研究所);Department of Electrical and Computer Engineering, The University of Iowa(爱荷华大学电气与计算机工程系);Queen’s University(女王大学)
针对分布式随机PageRank算法,提出一种利用网页稀疏性进行系统聚合的方法,通过计算聚合PageRank值并分配至组成员,降低计算与通信负载,并分析了收敛性。
2012-03-29 cs.SY eess.SY math.OC
$Γ$-convergence of discrete energies modeling self-aggregation of stochastic particles
本文通过$Γ$-收敛证明,由独立同分布随机变量驱动的离散能量在适当缩放条件下,其极限泛函含Wasserstein型惩罚的界面项,用于建模脂质分子自聚集。
2023-05-09 math.OC math.PR
RSA: Byzantine-Robust Stochastic Aggregation Methods for Distributed Learning from Heterogeneous Datasets
University of Science and Technology of China(中国科学技术大学);University of Minnesota, Twin Cities(明尼苏达大学双城分校);Sun Yat-Sen University(中山大学)
在本文中,我们提出了一类强大的随机次梯度方法的分布式学习异构数据集在存在未知数量的拜占庭工人。在学习过程中,由于数据损坏、通信故障或恶意攻击,拜占庭工作者可能会向主节点发送任意不正确的消息,从而使学习的模型产生偏差。所提出的方法的关键是与目标函数相结合的正则化项,以增强学习任务的鲁棒性并减轻拜占庭攻击的负面影响。由此产生的子梯度为基础的算法被称为拜占庭鲁棒随机聚合方法,证明我们的缩写RSA使用。与大多数现有算法相比,RSA不依赖于数据独立同分布(i.i.d.)的假设。因此,它适用于更广泛的应用。理论上,我们证明:i)RSA收敛到一个近似最优解,学习误差依赖于Byzantine工人的数量; ii)RSA在Byzantine攻击下的收敛速度与随机梯度下降方法相同,不受Byzantine攻击。在数值上,真实数据集上的实验证实了RSA的竞争性能和复杂性降低相比,国家的最先进的替代品。
2019-11-11 cs.CR cs.LG cs.MA
Impact of different time series aggregation methods on optimal energy system design
由于供应和需求时间序列的高度波动,对可再生能源系统进行建模是一项计算要求很高的任务。为了缩小这些数据的规模,本文探讨了将它们汇总成典型时段的不同方法。每种聚合方法都适用于不同类型的能源系统模型,使得这些方法相当不可比。为了克服这一点,不同的聚合方法,首先扩展,使它们可以应用到所有类型的多维时间序列,然后通过将它们应用到不同的能源系统配置和分析其对成本最优设计的影响进行比较。已发现,不管方法如何,时间序列聚合允许显著减少的计算资源。然而,与使用原始时间序列的代表性周期相比,平均值导致低估了实际系统成本。聚合方法本身,例如k均值聚类,起着次要的作用。更重要的是系统考虑:能源系统利用集中的资源,需要更少的典型周期的一个可行的系统设计相比,系统具有更高的可再生能源馈入的份额。此外,对于基于季节性存储的能量系统,现有的典型时段的模型集成是不合适的。
2017-08-01 cs.CE math.OC
Distributed Multi-resource Allocation with Little Communication Overhead
我们提出了一个分布式算法来解决一个特殊的分布式多资源分配问题,没有直接的智能体通信。我们这样做是通过扩展最近推出的加法增加乘法减少(AIMD)算法,它只使用很少的系统和代理之间的通信。也就是说,每当所分配的资源之一超过容量时,控制单元就向代理广播一比特信号。然后,代理以概率的方式对该信号做出响应。在该算法中,每个代理不知道其他代理的资源分配。我们还提出了一个版本的AIMD算法的多个二进制资源(例如,停车位)。二进制资源是不可分割的单位需求资源,每个代理要么分配一个单位的资源,要么不分配。在实证结果中,我们观察到,在这两种情况下,平均分配随着时间的推移收敛到最优分配。
2017-11-06 cs.DC math.OC
Reciprocity of Algorithms Solving Distributed Consensus-Based Optimization and Distributed Resource Allocation
本文的目的是提出一个程序来获得分布式算法的分布式共识为基础的优化,通过使用分布式算法的网络资源分配,反之亦然交换网络/无同步协议。结果表明,一阶梯度分布式基于共识的优化算法可以用来找到一个最优解的分布式资源分配与同步协议下较弱的假设下,在文献中给出的非切换(静态)网络。结果表明,一阶梯度分布式资源分配算法可以用来找到一个最优解的分布式共识为基础的优化。本文的结果可应用于时变随机有向网络,无论有无同步协议,其初始化都是任意的。因此,现在可以使用几种算法来推导基于共识的优化和资源分配的分布式算法,这可以克服现有结果的局限性。虽然本文的重点是一阶梯度算法,但应注意的是,结果也适用于二阶梯度算法。
2022-08-02 cs.SY eess.SY math.OC
Communication-Efficient Distributed SVD via Local Power Iterations
Peking University(北京大学);Stevens Institute of Technology(史蒂文斯理工学院)
研究截断奇异值分解问题的分布式计算。我们开发了一个算法,我们称之为\texttt{LocalPower},以提高通信效率。具体来说,我们均匀地划分数据集之间的$m$节点和交替多个(精确地说,$p$)本地电源迭代和一个全球性的聚合。在聚合中,我们建议加权每个局部特征向量矩阵的正交Procrustes变换(OPT)。作为一种实用的OPT替代算法,符号固定算法使用一个以$\pm 1$元素为权值的对角矩阵,在实验中具有较好的计算复杂度和稳定性。我们从理论上证明,在某些假设下,\texttt{LocalPower}将所需的通信次数降低了$p$的一个因子,以达到恒定的准确度。我们还表明,定期衰减的$p$的战略有助于获得高精度的解决方案。我们进行实验,以证明\texttt{LocalPower}的有效性。
2021-06-04 cs.LG math.OC stat.ML