Distributed Interval Optimization with Stochastic Zeroth-order Oracle
本文研究了一个分布式区间最优化问题，该问题是由一组凸区间值目标函数在全局凸约束下的最优化问题构成的，对应于时变网络上的智能体.首先通过标量化将分布区间最优化问题转化为分布约束最优化问题。然后，设计了一个随机零阶算法来求解重构后的分布问题，并证明了其最优解也是分布区间最优化问题的Pareto最优解.此外，我们构造了算法的显式收敛性和期望下的收敛速度。最后通过数值算例说明了该算法的有效性。
2019-04-30 math.OC
Achieving Social Optimum in Non-convex Cooperative Aggregative Games: A Distributed Stochastic Annealing Approach
本文设计了一种求解非凸合作聚集对策的分布式随机退火算法，该算法的费用函数不仅依赖于Agent自身的决策变量，而且依赖于Agent决策变量之和。为了寻求合作聚集博弈的社会最优解，提出了一种分布式随机退火算法，其中局部费用函数是非凸的，Agent之间的通信拓扑是时变的。进一步分析了该算法对社会最优解的弱收敛性。 算例验证了算法的有效性.
2022-04-02 math.OC
A stochastic MPC scheme for distributed systems with multiplicative uncertainty
本文提出了一种分布式随机模型预测控制算法，用于状态和控制输入具有局部机会约束的具有乘性不确定性的线性系网络。通过Cantelli不等式，利用期望值和协方差来逼近机会约束.该算法基于乘法器的分布式交替方向法，使得控制器完全分布式可实现，递归可行，并保证状态的逐点收敛。通过适当选择的分布不变集和分布终端的平均值和协方差的约束，保证上述属性。本文结束了一个例子，突出的机会约束满意度，数值特性和可扩展性，我们的方法。
2022-02-11 math.OC
Numerical Methods for Distributed Stochastic Compositional Optimization Problems with Aggregative Structure
研究了网络上的分布式随机组合最优化问题，其中所有智能体的内层函数是每个智能体的私有期望函数之和。针对内层函数的聚集结构，采用混合方差约简方法获取各Agent的私有期望函数信息，并采用动态一致性机制跟踪各Agent的内层函数信息.然后结合标准的分布式随机梯度下降法，提出了一种分布式聚集随机合成梯度下降法。当目标函数光滑时，该方法具有最优的收敛速度$\mathcal{O}\left(K^{-1/2}\right)$ .我们进一步将该方法与通信压缩相结合，提出了通信压缩变量分布聚集随机合成梯度下降法。所提出的方法的压缩变体保持最佳的收敛速度$\mathcal{O}\left(K^{-1/2}\right)$。分散强化学习的仿真实验验证了所提方法的有效性。
2022-11-04 math.OC
Stochastic Bregman Parallel Direction Method of Multipliers for Distributed Optimization
Bregman并行方向乘数法（BPDMM）有效地解决了网络上的分布式优化问题，这在广泛的协作多智能体学习应用中出现。在本文中，我们推广BPDMM随机BPDMM，每次迭代只解决局部最优化的一个随机选择的节点的子集，而不是在网络中的所有节点。这样的推广减少了对计算资源的需求，并允许应用到更大规模的网络。我们建立了随机BPDMM的整体收敛和\(O(1/T)\)迭代复杂性。我们证明我们的结果通过数值例子。
2019-03-02 math.OC
Optimal Distributed Stochastic Mirror Descent for Strongly Convex Optimization
本文研究时变多智能体网络上带约束集的非欧意义下随机强凸优化的收敛速度问题。我们提出了两个有效的非欧随机次梯度下降算法的基础上的Bregman分歧作为距离测量功能，而不是由标准的分布式随机投影次梯度法采用的欧几里德距离。对于非光滑和强凸函数的分布式优化，其唯一的随机次梯度是可用的，第一个算法恢复的最好的以前已知的速度为O（ln（T）/T）（其中T是总的迭代次数）。第二个算法是第一个算法的一个历元变体，它达到O（1/T）的最佳收敛速度，与先前已知的最佳集中式随机次梯度法相匹配。最后，我们报告一些模拟结果来说明所提出的算法。
2018-08-22 math.OC
Distributed Variable Sample-size Stochastic Optimization with Fixed Step-sizes
本文研究了随机切换网络上的分布式随机最优化问题，在该问题中，多个智能体协作地最小化所有智能体的局部期望值凸费用函数的平均值.由于梯度观测的随机性、局部函数的分布性和通信拓扑的随机性，在固定步长下具有收敛保证的分布式算法尚未实现。这项工作将方差减少计划到分布式随机梯度跟踪算法，其中局部梯度估计通过在可变数量的采样梯度的平均。具有同分布和独立分布（i.i.d.）随机网络中，我们证明了在固定步长下，所有代理的迭代几乎必然收敛到相同的最优解。当全局费用函数是强凸的且样本量以几何速率增加时，我们证明了迭代几何收敛于唯一的最优解，并建立了迭代、预言和通信复杂度.算法的性能，包括速率和复杂度分析，进一步研究了恒定的步长和多项式增加的样本量。最后，通过数值例子说明了经验算法的性能。
2022-04-06 math.OC
Distributed Momentum-based Frank-Wolfe Algorithm for Stochastic Optimization
本文考虑了分布式随机最优化问题，在该问题中，多个智能体通过局部计算和与网络上的邻居进行信息交换来协作优化全局目标函数。随机最优化问题通常是通过投影随机梯度下降的变体来解决的。然而，将一个点投影到一个可行集上通常是昂贵的。Frank-Wolfe（FW）方法在处理凸约束方面具有良好的优点，但现有的随机FW算法基本上是针对集中设置开发的。在这种情况下，目前的工作提出了一个分布式随机Frank-Wolfe求解器，明智地结合Nesterov的动量和梯度跟踪技术的随机凸和非凸优化网络。结果表明，该算法对凸优化问题的收敛速度为$\mathcal{O}(k^{-\frac{1}{2}})$，对非凸优化问题的收敛速度为$\mathcal{O}(1/\mathrm{log}_2(k))$.该算法的有效性证明了数值模拟对一些竞争的替代品。
2022-08-08 math.OC
Online Stochastic Optimization of Networked Distributed Energy Resources
本文研究了分布式控制和激励机制，以协调分布式能源（DER）与连续和离散决策变量以及设备动态在配电网。我们建立了一个多期社会福利最大化问题，并基于其凸松弛提出了一个分布式随机对偶梯度算法管理DER。我们进一步扩展到一个在线实时设置与时变的操作条件，异步更新的设备，并利用反馈来考虑非线性功率流，以及减少通信开销。由此产生的算法提供了一个通用的在线随机最优化算法，用于协调网络DER与离散功率设定值和动态，以满足操作和经济的目标和约束。我们的收敛性的算法解析和评估其性能数值。
2019-06-14 math.OC
Distributed Stochastic Optimization for Non-Smooth and Weakly Convex Problems under Heavy-Tailed Noise
针对重尾噪声下方差无界且现有分布式算法多限于凸光滑问题的不足，提出一种基于裁剪、适用于非光滑弱凸问题的分布式随机优化算法，并证明收敛性、给出参数条件，实验验证其有效性。
2025-05-14 math.OC
Distributed Coupled Multi-Agent Stochastic Optimization
本文提出了一种有效的分布式策略，用于求解具有耦合参数的约束多智能体随机最优化问题。在这个公式中，每个代理只受全局参数向量或模型的条目的子集的影响，并且受到仅局部已知的凸约束。这种类型的问题出现在几个应用中，最明显的是在疾病传播模型，最小费用流问题，分布式控制公式，分布式电力系统监控。这项工作的重点是随机设置，其中一个随机风险函数与每个代理和目标是寻求最小的总和的所有风险受到一组约束。代理不知道数据的统计分布，因此，只能依靠随机逼近在他们的学习策略。我们得到一个有效的分布式学习策略，能够跟踪漂移的基础参数模型。进行了详细的性能和稳定性分析表明，所得到的耦合扩散策略以线性速度收敛到真正的惩罚优化的$O(μ)-$邻域。
2019-03-13 math.OC
An Enhanced Gradient-Tracking Bound for Distributed Online Stochastic Convex Optimization
在求解分布式在线随机最优化问题时，基于梯度跟踪（GT）的分散方法已成为分散（随机）梯度下降（DSGD）的一种有效可行的替代方法。对GT方法的初步研究表明，GT方法比DSGD方法具有更差的网络依赖率，这与实验结果相矛盾。这一难题最近得到了解决，GT方法的更严格的费率已经建立，这改进了DSGD。在这项工作中，我们建立了更多的增强率的GT方法在线随机凸设置。我们提出了另一种方法来分析GT方法的凸问题和静态图。与以前的分析相比，这种方法使我们能够建立增强的网络依赖率。
2023-01-07 math.OC
On the Distributed Optimization over Directed Networks
在本文中，我们提出了一个分布式算法，称为定向分布式梯度下降（D-DGD），解决多智能体最优化问题在有向图。现有的算法大多在无向网络的假设下处理类似的问题，即，要求权重矩阵是双随机的。权重矩阵的行随机性保证所有代理达成共识，而列随机性确保每个代理的局部梯度对全局目标的贡献相等。然而，在有向图中，可能不可能以分布式方式构造双随机权重矩阵。我们克服了这个困难，增加了一个额外的变量为每个代理记录的状态演变的变化。该算法在每次迭代中同时构造一个行随机阵和一个列随机阵，而不是仅构造一个双随机阵。新的权重矩阵的收敛性依赖于行随机矩阵和列随机阵，保证了智能体达到共识和最优。分析表明，该算法以$O(\frac{\ln k}{\sqrt{k}})$的速度收敛，其中$k$是迭代次数。
2016-02-01 math.OC
High Probability Convergence of Distributed Clipped Stochastic Gradient Descent with Heavy-tailed Noise
本文针对重尾噪声下的分布式优化问题，提出分布式裁剪随机梯度下降算法，并在图连通性温和假设下证明其高概率收敛，仿真验证了理论结果。
2025-06-18 math.OC
Convergence Analysis of the Last Iterate in Distributed Stochastic Gradient Descent with Momentum
本文研究分布式 mSGD 在非凸设置下的最后一次迭代收敛问题，证明其在 Robbins-Monro 步长下的几乎必然与 $L_2$ 收敛及速率，并说明动量可加速早期收敛。
2025-05-16 math.OC
Distributed Stochastic Compositional Optimization Problems over Directed Networks
研究了有向通信网络上的分布式随机组合最优化问题，其中智能体私有一个随机组合目标函数，并通过协作来最小化所有目标函数之和.本文提出了一种分布式随机组合梯度下降算法，该算法采用梯度跟踪和随机校正技术，以适应网络的有向结构，提高内函数估计的精度。当目标函数光滑时，该方法的收敛速度和样本复杂度分别为$\mathcal{O}\left(k^{-1/2}\right)$和$\mathcal{O}\left(\frac{1}{ε^2}\right)$，并能找到（$ε$）-平稳点.当目标函数为强凸时，收敛速度提高到$\mathcal{O}\left(k^{-1}\right)$ .此外，还给出了该方法的Polyak-Ruppert平均迭代的渐近正态性.我们证明了所提出的方法在模型不可知的元学习问题和逻辑斯谛回归问题上的经验性能。
2022-03-21 math.OC
Accelerated Zeroth-order Algorithm for Stochastic Distributed Nonconvex Optimization
本文研究了在只有零阶信息的非凸问题上如何加速分布式优化算法的收敛。我们提出了一个零阶（ZO）分布式原始-对偶随机坐标算法配备了“强力球”方法来加速。我们证明了所提出的算法具有$\mathcal{O}(\sqrt{p}/\sqrt{nT})$的收敛速度一般非凸费用函数。我们考虑从黑盒DNN问题中解决对抗性示例的生成，以与现有的最先进的集中式和分布式ZO算法进行比较。数值结果表明，该算法具有更快的收敛速度，与理论分析相吻合。
2021-10-13 math.OC
Local Differential Privacy via Dynamic Quantization in Distributed Online Stochastic Optimization
Nanjing University of Science and Technology（南京理工大学）；Huazhong University of Science and Technology（华中科技大学）
提出一种使用动态随机量化器实现本地差分隐私的分布式在线随机优化算法，在几乎必然收敛到最优解的同时为每个智能体提供(0,δ^i)-本地差分隐私，并适用于有向图网络。
2026-05-28 math.OC
Logic-based Benders Decomposition and Binary Decision Diagram Based Approaches for Stochastic Distributed Operating Room Scheduling
分布式手术室（OR）调度问题的目的是找到一个手术分配到手术室之间的合作医院，共享他们的等候名单和OR。我们提出了一个随机扩展这个问题的手术时间被认为是不确定的。为了获得具有挑战性的随机模型的解决方案，我们使用样本平均近似，并开发了两个增强的分解框架，使用基于逻辑的Benders（LBBD）最优切割和基于二元决策图的Benders切割。具体而言，据我们所知，推导LBBD最优切割在随机规划的情况下是新的文献。我们在医院数据集上的计算实验表明，随机制定产生强大的时间表，我们的算法提高了计算效率。
2020-10-02 math.OC
Convergence rates for distributed stochastic optimization over random networks
我们建立了O（$\frac{1}{k}$）收敛速度的分布式随机梯度法，强凸成本和随机网络。所考虑的类的方法是标准的每个节点执行其自己的加权平均值和它的邻居的解决方案估计（共识），并采取一个负步骤相对于其本地函数梯度（创新）的噪声版本。底层通信网络通过时间独立同分布（i.i.d.）平均连接的拉普拉斯矩阵，而局部梯度噪声也是独立同分布的。在时间上，具有有限二阶矩，且可能具有无界支承。我们表明，经过仔细设置的共识和创新潜力（权重），分布式随机梯度法实现了（订单最优）O（$\frac{1}{k}$）收敛速度的均方距离的解决方案。当网络是随机的和/或梯度噪声具有无界支撑时，这是分布强凸随机最优化的一阶最优收敛速度结果.仿真例子证实了理论研究结果。
2018-03-21 math.OC
Time-Varying Distributed Optimization for A Class of Stochastic Multi-Agent Systems
本文首次研究一类随机多智能体系统的时变分布式优化，提出固定时间全局变量估计器与分布式协议，证明跟踪误差均方指数最终有界，并通过仿真验证。
2025-03-17 math.OC
An Accelerated Second-Order Method for Distributed Stochastic Optimization
我们考虑分布式随机最优化问题，解决了主/工人计算架构。统计参数允许利用统计相似性和近似这个问题的有限和问题，为此，我们提出了一个不精确的加速的正则化牛顿法，实现了较低的通信复杂度的限制，这种设置，并改善现有的上界。我们进一步利用这个算法，以获得收敛速度界为原来的随机最优化问题，并比较我们的界限与现有的界限在几个政权时，目标是最大限度地减少通信轮数和增加的并行化，通过增加工人的数量。
2021-03-26 math.OC
An Accelerated Method For Decentralized Distributed Stochastic Optimization Over Time-Varying Graphs
我们考虑一个分布式的随机最优化问题，解决了一个分散的网络的代理与相邻的代理之间只有本地通信。整个系统的目标是最小化一个全局目标函数，该函数是由每个代理持有的局部目标之和。每个局部目标被定义为一个凸光滑随机函数的期望值，并允许代理对该函数的随机梯度进行采样。对于这种设置，我们提出了第一个加速（在Nesterov的加速意义上）的方法，同时达到最佳的对数因子通信和Oracle的复杂性边界光滑强凸分布随机最优化。我们还考虑的情况下，当通信图被允许随时间变化，并获得我们的算法的复杂性界限，这是第一个上复杂性界限，在文献中的设置。
2022-11-09 math.OC
On Data Dependence in Distributed Stochastic Optimization
我们研究了一个分布式的共识为基础的随机梯度下降（SGD）算法，并表明，收敛速率涉及两个矩阵的频谱特性：标准的频谱间隙的权重矩阵从网络拓扑结构和一个新的长期依赖于频谱范数的样本协方差阵的数据。这种依赖于数据的收敛速度表明，分布式SGD算法在具有小谱范数的数据集上表现得更好。我们的分析方法还允许我们找到数据依赖的收敛速度，因为我们限制了通信量。将固定量的数据分布在更多节点上会减慢收敛速度;对于渐进增长的数据集，我们表明添加更多机器可以帮助最大限度地减少二次可微损失。
2016-09-01 math.OC
S-NEAR-DGD: A Flexible Distributed Stochastic Gradient Method for Inexact Communication
我们提出并分析了一种随机分布式方法（S-NEAR-DGD），它可以容忍不精确的计算和不准确的信息交换，以减轻大规模系统中昂贵的梯度评估和带宽有限的通信问题。我们的方法是基于一类灵活的，分布式的一阶算法，允许计算和通信的权衡，以最好地适应应用程序的设置。我们假设节点之间的所有信息交换都受到随机失真的影响，并且只有真实梯度的随机逼近可用。我们的理论结果证明了所提出的算法在期望线性收敛到最优解的一个邻域的强凸目标函数与Lipschitz梯度。我们的特征依赖于算法和网络参数，通信信道的质量和所使用的随机梯度近似的精度，这附近。最后，我们提供了数值结果来评估我们的方法的经验性能。
2021-01-30 math.OC
Compressed Momentum-based Single-Point Zeroth-Order Algorithm for Stochastic Distributed Nonconvex Optimization
Shanghai University（上海大学）；Tongji University（同济大学）
本文提出一种压缩动量单点零阶算法，旨在降低通信开销并解决显式梯度信息不可用问题，通过局部随机更新和压缩交换实现非凸优化。
2026-05-10 math.OC
Stochastic Sensor Scheduling via Distributed Convex Optimization
在本文中，我们提出了一个随机调度策略，估计N离散时间线性时不变（DTLTI）动态系统的状态，其中只有一个系统可以观察到的传感器在每个时刻，由于实际的资源限制。我们的随机策略的想法是，一个系统是随机选择的观察在每个时刻根据预先分配的概率分布。我们的目标是找到最佳的预分配的概率，以最小化动态系统之间的最大估计误差协方差。我们首先表明，在温和的条件下，随机调度问题给出了一个上界的最佳传感器选择问题的性能，出了名的难以解决。接下来，我们放松随机调度问题到一个听话的次优准凸形式。然后，我们表明，新的问题可以分解成耦合的小凸优化问题，它可以在一个分布式的方式解决。最后，对于调度的实现，我们提出了基于最优随机解的集中式和分布式确定性调度策略，并提供了仿真例子。
2015-06-22 math.OC
Distributed Adaptive Gradient Algorithm with Gradient Tracking for Stochastic Non-Convex Optimization
本文针对分布式随机非凸优化问题，提出一种结合梯度跟踪的自适应步长算法，并给出最优性间隙上界，证明其可达到一阶平稳解。
2024-03-29 math.OC
Distributed Seeking for Fixed Points of Biased Stochastic Operators: A Communication-Efficient Approach
Northeastern University（东北大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；Tongji University（同济大学）；Southeast University（东南大学）；University of Victoria（维多利亚大学）
本文研究了多智能体网络上可和性随机算子的分布式固定点寻找问题，提出了一种在放松增长偏置和方差条件下基于近似Krasnosel'ski\uı--Mann迭代的通信高效分布式算法，通过整合通信压缩和动态周期跳过技术，建立了分布式固定点迭代的收敛性保证，实现了与分布式非凸优化算法的理论统一。
2026-05-21 math.OC
On Primal-Dual Approach for Distributed Stochastic Convex Optimization over Networks
针对网络上的分布式凸优化问题，提出了一种原始-对偶随机梯度预言算法。我们表明，所提出的方法是最佳的通信步骤。此外，我们提出了一种新的分析方法的收敛速率的对偶差距和大偏差的概率。这种分析是基于一种新的技术，允许约束迭代序列和最佳点之间的距离。通过正确选择批量大小，我们可以保证这个距离等于（直到一个常数）起点和解决方案之间的距离。
2019-11-26 math.OC
Compressed Zeroth-Order Algorithm for Stochastic Distributed Nonconvex Optimization
针对带宽受限且无显式梯度的随机分布式非凸优化，提出CZSD算法，利用压缩通信与两点零阶预言机实现线性加速及低通信、低采样复杂度。
2025-08-29 math.OC
Distributed Stochastic Approximation: Weak Convergence and Network Design
研究了通信网络中基于广播流言的分布式随机逼近算法。证明了这些算法的弱收敛性，并将收敛点与局部目标函数和网络性质联系起来，建立了相应的常微分方程（ODE）。利用这些结果，提出了一种方法，网络设计，旨在实现所需的渐近行为的共识。同时分析了算法的收敛速度，并利用附加的随机微分方程进一步改进了算法。仿真结果验证了理论概念。
2016-09-02 math.OC stat.AP
The Min-Max Complexity of Distributed Stochastic Convex Optimization with Intermittent Communication
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；Weizmann Institute of Science（魏茨曼科学研究所）
我们解决了分布式随机凸优化的最小-最大复杂性（最多为对数因子）在间歇性通信设置，其中$M$机器并行工作的过程中的$R$轮的通信，以优化目标，并在每一轮的通信，每台机器可以顺序计算$K$随机梯度估计。我们提出了一个新的下限与匹配的上限，建立一个最佳的算法。
2021-08-05 cs.LG math.OC
Distributed stochastic projection-free solver for constrained optimization
针对大规模约束有限和优化问题，提出了一种分布式随机无投影算法。全局费用函数被分配给多个代理，每个代理计算其局部随机梯度并与其邻居通信以解决全局问题。随机梯度法计算量小，但由于随机采样引起的方差较大，收敛速度慢。为了构造一个收敛的分布式随机无投影算法，本文在Frank-Wolfe更新中引入了方差缩减技术和梯度跟踪技术。我们开发了一个抽样规则的方差减少技术，以减少随机梯度引入的方差。完整和严格的证明表明，所提出的分布式无投影算法收敛于次线性收敛速度，并享有优越的复杂性保证凸和非凸目标函数。通过比较仿真，我们证明了所提出的算法的收敛性和计算效率。
2022-04-22 cs.MA math.OC
Optimal Complexity in Byzantine-Robust Distributed Stochastic Optimization with Data Heterogeneity
Pengcheng Laboratory（鹏城实验室）
该研究针对数据异构的拜占庭鲁棒分布式随机优化问题，推导了强凸与非凸场景下的紧下界，结合Nesterov加速与方差缩减技术提出匹配下界的新方法，验证了下界的紧致性。
2025-03-20 cs.LG math.OC
Distributed and Stochastic Optimization Methods with Gradient Compression and Local Steps
Moscow Institute of Physics and Technology（莫斯科物理技术学院）
在这篇论文中，我们提出了新的理论框架，用于分析具有误差补偿和局部更新的随机和分布式方法。使用这些框架，我们开发了20多个新的最优化方法，包括第一个线性收敛的误差补偿SGD和第一个线性收敛的局部SGD任意异构的局部函数。此外，本文还提出了几种新的求解分布式非凸优化问题的无偏压缩分布式算法。这些方法的复杂性结果优于以前最知名的结果所考虑的问题。最后，我们提出了一种新的可扩展的分散容错分布式方法，并在合理的假设下，我们推导出该方法的迭代复杂度界相匹配的集中式Local-SGD。
2021-12-20 cs.LG math.OC
Distributed Stochastic Zeroth-Order Optimization with Compressed Communication
针对分布式系统中通信开销大和梯度计算不可行的挑战，提出仅需两次函数评估且集成压缩算子的随机分布式零阶算法Com-DSZO及其方差缩减变体，并证明其次线性收敛速率与压缩-收敛权衡。
2025-09-18 cs.MA math.OC
Approximately optimal distributed stochastic controls beyond the mean field setting
我们研究高维随机最优控制问题，其中许多代理合作，以最小化凸成本功能。我们认为，全信息问题，其中每个代理观察所有其他代理的状态，和分布式问题，其中每个代理只观察自己的状态。我们的主要结果是尖锐的非渐近界之间的差距，这两个问题，衡量他们的价值函数和最佳状态。一路上，我们开发的分布式最优随机控制理论与经典的设置并行，通过表征优化相关的随机最大值原理和Hamilton-Jacobi型方程。通过专业化这些结果的设置平均场控制，其中成本是（对称）的经验分布的状态的函数，我们推导出的位移凸制度的收敛问题的最佳速率。
2023-01-07 math.OC math.PR
Distributed strategies for generating weight-balanced and doubly stochastic digraphs
University of California San Diego（加州大学圣地亚哥分校）
研究权重平衡和双随机有向图的特征，并提出分布式算法来计算相应的权重集。
2011-10-17 cs.SY eess.SY math.OC
Numerics for Stochastic Distributed Parameter Control Systems: a Finite Transposition Method
在本章中，我们介绍了随机分布参数控制系统的数值计算的一些最新进展，在我们以前的工作中介绍的\emph{finite transposition method}。我们首先解释如何减少在这方面的一些随机控制问题的数值向后随机发展方程的数值。然后，我们提出了一种方法来找到有限的换位解决方案，这样的方程。最后给出了一个具有启发性的例子。
2021-04-07 cs.NA math.NA math.OC
Distributed stochastic gradient tracking algorithm with variance reduction for non-convex optimization
针对一般光滑非凸有限和优化问题，提出了一种方差缩减的分布式随机算法，该算法在信号处理和机器学习领域有着广泛的应用.在分布式环境中，大量的样本个数被分配给网络中的多个代理。每个智能体计算局部随机梯度，并与其邻居进行通信，以寻求全局最优值。在本文中，我们开发了一种改进的方差缩减技术来处理随机梯度引入的方差。结合梯度跟踪和方差缩减技术，提出了一种求解多智能体网络上大规模非凸有限和优化问题的分布式随机算法GT-VR。证明了GT-VR算法以$O(\frac{1}{k})$收敛速度收敛到一阶稳定点。此外，我们提供了所提出的算法的复杂性分析。与现有的一些一阶方法相比，该算法在一定的条件下具有较低的$\mathcal{O}(PMε^{-1})$梯度复杂度。通过仿真实验比较了现有算法和GT-VR算法，验证了该算法的有效性。
2021-07-22 cs.DC math.OC
Linearly Convergent Algorithm with Variance Reduction for Distributed Stochastic Optimization
本文考虑了一个分布式随机强凸优化问题，其中连接在一个网络上的多个智能体的目标是合作地最小化所有智能体的局部费用函数的平均值。由于梯度估计的随机性和局部目标的分布性，目前还没有快速线性收敛的分布式算法。本文提出了一种新的分布式随机梯度跟踪算法，该算法通过增加采样梯度的批量大小来估计局部梯度。与一个无向连接的通信图和一个几何增加的批量大小，迭代收敛的平均几何速度（实现线性收敛）的最优解。建立了获得$ε$ -最优解的迭代、通信和预言复杂性。特别地，通信复杂度是$\mathcal{O}(\ln (1/ε))$，而预言复杂度（采样梯度的数量）是$\mathcal{O}(1/ε^2)$，其与集中式方法的数量级相同。因此，所提出的方案是通信高效的，而不需要额外的采样梯度。通过数值模拟验证了理论结果。
2020-02-14 cs.MA math.OC
Distributed Delayed Stochastic Optimization
我们分析了基于梯度的优化算法的收敛性，其更新基于延迟的随机梯度信息。我们的研究结果的主要应用是基于梯度的分布式优化算法的开发，其中主节点执行参数更新，而工作节点计算随机梯度的基础上，在并行的本地信息，这可能会引起延迟，由于dummy。我们从统计问题中获得动力，其中数据的大小如此之大，以至于无法在一台计算机上容纳;随着生物学，天文学和互联网中巨大数据集的出现，这样的问题现在很常见。我们的主要贡献是证明了对于光滑随机问题，时滞是渐近可忽略的，并且我们可以获得阶最优收敛结果。在分布式优化应用中，我们开发了克服通信瓶颈和同步要求的程序。我们展示了$n$ -节点架构，其在随机问题中的优化误差-尽管异步延迟-在$T$迭代后作为$\order(1 / \sqrt{nT})$渐近缩放。已知该速率对于具有$n$节点的分布式系统是最优的，即使在没有延迟的情况下也是如此。我们还补充了我们的理论结果与统计机器学习任务的数值实验。
2011-04-28 math.OC stat.ML
An acceleration of decentralized SGD under general assumptions with low stochastic noise
分布式最优化方法是优化界研究的热点。由于在分布式机器学习中的应用，现代研究方向包括随机目标，降低通信频率和时变通信网络拓扑。最近，Koloskova et al.（2020）开发了一种分析，将几种集中式和分散式方法统一到随机分布式优化中。在这项工作中，我们采用了催化剂框架，并在低随机噪声的情况下加速了Koloskova et al.（2020）的速率。
2021-06-14 cs.CC math.OC
Distributed Forward-Backward algorithms for stochastic generalized Nash equilibrium seeking
考虑了具有期望值费用函数的随机广义纳什均衡问题。受Yi和Pavel（Automatica，2019）的启发，我们提出了一种基于SGNEP的预处理前后向算子分裂的分布式GNE搜索算法，其中，在每次迭代中，伪梯度的期望值通过许多随机样本来近似。作为主要贡献，我们证明了当伪梯度映射是约束（单调）余强制的时，我们的算法是几乎必然收敛的。对于非广义SNEP，当伪梯度映射严格单调时，我们也证明了其几乎必然收敛。数值模拟表明，提出的前向-后向算法似乎比其他可用的算法更快。
2020-02-21 cs.GT math.OC
Optimal distributed control of a stochastic Cahn-Hilliard equation
研究了一类具有经典双势阱和Wiener乘性噪声的随机Cahn-Hilliard方程的最优分布式控制问题，其中控制由化学势定义中的源项表示.利用概率紧性和解析紧性的方法证明了最优控制的存在性。然后通过单调性和紧性分析线性化系统和相应的后向伴随系统，证明了最优性的一阶必要条件。
2019-07-05 math.AP math.OC
Difference Between Cyclic and Distributed Approach in Stochastic Optimization for Multi-agent System
本文针对多智能体系统中的可分解随机优化问题，综述并比较循环与分布式两类策略下的四种现有方法，重点分析其适用框架与更新规则。
2024-09-08 cs.SY eess.SY math.OC
A Stochastic Newton Algorithm for Distributed Convex Optimization
Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；Weizmann Institute of Science（魏茨曼科学研究所）
我们提出并分析了均匀分布的随机凸优化的随机牛顿算法，其中每台机器可以计算相同的人口目标的随机梯度，以及随机Hessian向量乘积（人口目标的Hessian的独立无偏估计与任意向量的乘积），许多这样的随机计算在两轮通信之间进行。我们表明，与现有方法相比，我们的方法可以减少所需通信轮的数量和频率，而不会损害性能，通过证明准自协调目标的收敛保证（例如，逻辑斯谛回归），以及经验证据。
2021-10-07 cs.LG math.OC stat.ML
Distributed Q-Learning for Stochastic LQ Control with Unknown Uncertainty
本文研究了无限时域上具有线性二次型准则的离散时间随机控制问题。研究一类控制系统，其系统矩阵与随机参数有关，且随机参数具有未知的统计特性。特别是，我们设计了一个分布式的Q学习算法来解决Riccati方程，并推导出稳定系统的最优控制器。其关键技术是将求解Riccati方程的问题转化为求解矩阵方程的零点问题，并设计了一种计算零点估计的分布式随机逼近方法。收敛性分析证明了分布式Q学习算法最终收敛到正确值。数值算例表明，分布式Q学习算法是渐近收敛的。
2022-01-14 cs.SY eess.SY math.OC
Discretization of a distributed optimal control problem with a stochastic parabolic equation driven by multiplicative noise
研究了乘性噪声驱动的随机抛物型方程最优控制问题的离散化问题。状态方程在空间上采用连续分段线性元法离散，在时间上采用向后欧拉格式离散。严格推导了收敛速度$ O(τ^{1/2} + h^2) $。
2021-02-20 cs.NA math.NA math.OC
Analysis of a discretization of a distributed control problem with a stochastic evolution equation
本文分析了一类随机抛物型最优控制问题的离散化，其中扩散项包含控制变量。对于粗糙数据，证明了离散化的收敛性。此外，还提出了一种蒙特卡罗方法。
2022-08-30 cs.NA math.NA math.OC
Distributed Consensus of Stochastic Multi-agent Systems with Prescribed Performance Constraints
本文主要研究多智能体系统的分布式一致性控制问题，同时考虑两个主要的实际问题：（i）智能体动力学中的随机噪声和（ii）多智能体系统演化过程中的预定义性能约束。特别是，我们认为每个代理是由一个随机微分方程与状态相关的噪声，这使得所考虑的问题更具挑战性相比，非随机代理。工作提供了充分的条件下，所提出的时变分布式控制法律确保一致的期望和几乎肯定的共识的随机多智能体系统，同时满足规定的性能约束的意义上的q时刻的系统的演变。最后，我们通过一个数值例子证明了所提出的结果的有效性。
2022-03-07 cs.SY eess.SY math.OC
AdaDelay: Delay Adaptive Distributed Stochastic Convex Optimization
Massachusetts Institute of Technology（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）
研究了延迟梯度模型下的分布式随机凸优化问题，其中服务节点执行参数更新，而工作节点计算随机梯度。我们讨论、分析和实验一个由真实世界的分布式计算网络的行为激励的设置，其中机器在不同的时间有不同的速度。因此，我们允许参数更新对所经历的实际延迟敏感，而不是对最大延迟的最坏情况界限敏感。这种敏感性导致更大的步长，这可以帮助获得快速的初始收敛，而不必等待太长时间的较慢的机器，同时保持相同的渐近复杂度。我们在具有多达数十亿个示例和特征的真实数据集上进行分布式实验，在总体收敛性方面取得了令人鼓舞的改进。
2015-08-20 cs.LG math.OC stat.ML
Communication-Censored Distributed Stochastic Gradient Descent
University of Science and Technology of China（中国科学技术大学）；Rensselaer Polytechnic Institute（伦斯勒理工学院）；Sun Yat-Sen University（中山大学）
针对分布式机器学习等应用中通信量大的问题，提出了一种通信效率高的分布式随机最优化算法。与现有的基于量化和稀疏化的算法不同，本文引入了一种通信删失技术来减少变量的传输，这导致了我们的通信删失分布式随机梯度下降（CSGD）算法。具体来说，在CSGD中，当且仅当它是足够信息时，在工作者处的最新小批量随机梯度将被传输到服务器。当最新的渐变不可用时，旧的渐变将在服务器上重用。为了实现这种通信审查策略，批量大小增加，以减轻随机梯度噪声的影响。从理论上讲，CSGD具有与SGD相同的收敛速度，但有效地减少了通信量。数值实验表明，CSGD的通信节省相当大的。
2020-01-03 cs.LG math.OC stat.ML
