On the Influence of Graph Density on Randomized Gossiping
信息分发是并行和分布式计算中的一个基本问题。在其最简单的变体中,即广播问题,消息必须在图的所有节点之间传播。针对该问题的突出通信协议基于随机电话呼叫模型(Karp等人,FOCS 2000)。在每个步骤中,每个节点打开一个通信信道到一个随机选择的邻居进行双向通信。受复制数据库和对等网络的启发,Berenbrink等人,ICALP 2010,考虑了随机电话模型中的闲聊问题。在那里,每个节点都从自己的消息开始,所有消息都必须传播到网络中的所有节点。他们表明,完全图中的任何$O(\log n)$ -时间算法都需要每个节点的$Ω(\log n)$消息传输来完成八卦,w.h.p,而对于广播,每个节点的平均传输次数为$O(\log\log n)$。众所周知,$O(n\log\log n)$约束的随机广播在完全图中所需的传输数量不能实现稀疏图,即使他们有最好的扩展和连接属性。在本文中,我们分析是否有类似的影响,图密度也持有w.r.t.说闲话的表现。我们研究分析和经验的随机图中的随机八卦所产生的通信开销,并考虑在这些图中的随机电话呼叫模型的简单修改。我们的研究结果表明,不像在广播中,有没有完全图和稀疏随机图的随机八卦的性能之间的显着差异。此外,我们的模拟表明,通过调整我们的算法的参数,我们可以显着减少通信开销相比,传统的推挽式的方法,我们考虑的图。
2014-12-09 cs.DC cs.DS
Randomized Distributed Function Computation (RDFC): Ultra-Efficient Semantic Communication Applications to Privacy
Technische Universität Dortmund(多特蒙德工业大学);Linköping University(林雪平大学)
RDFC通过随机化方法实现隐私保护的高效语义通信,其在无共享随机性时仍优于无损传输,且在有限块长下隐私性能显著提升。
2026-03-10 cs.CR cs.DC cs.IT
Randomized Composable Coresets for Matching and Vertex Cover
为大规模数据集设计可扩展算法的一种常见方法是将计算分布在机器(比如说$k$)上,并使用它们之间的有限通信来处理数据。这里一个特别有吸引力的框架是同时通信模型,其中每台机器都构建其自身数据的小型代表性摘要,然后从代表性摘要的联合中获得近似/精确的解决方案。如果一个问题所需的代表性摘要很小,那么这将导致一个通信高效和轮最优的协议。虽然许多基本的图形问题承认有效的解决方案,在这个模型中,两个突出的问题是显着缺席的成功列表,即最大匹配问题和最小顶点覆盖问题。事实上,最近的研究表明,对于这两个问题,即使实现polylog $(n)$近似,也需要从每台机器发送整个输入图。我们工作的主要见解是,在同时通信模型中匹配和顶点覆盖的棘手性本质上与跨机器的底层图的对抗性分区有关。我们表明,当底层图形随机划分的机器,这两个问题承认随机组合coresets的大小$\widetilde{O}(n)$,产生一个$\widetilde{O}(1)$近似的解决方案。这导致在$\widetilde{O}(1)$ -近似的同时协议,这些问题与$\widetilde{O}(nk)$总通信时,输入是随机划分在$k$机器。我们进一步证明了我们的结果的最优性。最后,通过一个标准的可组合核心集的应用,我们的结果也意味着MapReduce算法在一轮或两轮通信中具有相同的近似保证
2017-05-23 cs.DC cs.DS
Leveraging Structural Knowledge for Solving Election in Anonymous Networks with Shared Randomness
CNRS & Université Aix-Marseille(法国国家科学研究中心与艾克斯-马赛大学)
本文研究了在匿名网络中利用共享随机性解决选举问题,通过分析不同结构知识条件下的算法存在性,揭示了知识对选举问题可计算性的影响。
2026-03-05 cs.DC
FedDR -- Randomized Douglas-Rachford Splitting Algorithms for Nonconvex Federated Composite Optimization
The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);IBM Research(IBM研究院)
我们开发了两个新的算法,称为FedDR和FedcFedDR,解决联邦学习中的一个基本的非凸复合优化问题。我们的算法依赖于一个新的组合之间的非凸道格拉斯-Rachford分裂方法,随机块坐标策略,和异步实现。它们也可以处理凸正则化器。与文献中最近的方法不同,例如,FedSplit和FedPD,我们的算法在每个通信回合只更新一部分用户,并且可能以异步方式更新,使它们更实用。这些新算法可以处理统计和系统异构性,这是联邦学习中的两个主要挑战,同时实现最佳的通信复杂性。事实上,我们的新算法匹配的通信复杂度下限到一个常数因子下的标准假设。我们的数值实验说明了我们的方法比现有的算法在合成和真实数据集的优势。
2021-10-28 cs.DC cs.LG stat.ML
BSP Sorting: An experimental Study
批量同步并行计算模型已被用于架构无关的设计和分析的并行算法,其性能表示不仅在问题的大小n,但也在并行机的性能。在本文中,确定性和随机BSP排序算法的实现的性能进行了检查。确定性算法使用确定性规则过采样和并行样本排序,并增强以最佳渐近效率透明地处理重复密钥。随机算法是基于样本排序的,并使用过采样和确定性算法引入的思想。由此产生的随机化设计,然而,不同于传统的基于并行样本排序的算法,也增加了透明地处理重复的密钥与最佳的渐近效率,从而消除了需要标记所有输入密钥和加倍的通信/计算时间。这两种算法被证明是平衡的工作负载之间的处理器和使用和精确调整过采样的BSP分析允许结合透明的重复键处理,确保定期和平衡的通信。
2014-08-28 cs.DC
Randomized Constraints Consensus for Distributed Robust Mixed-Integer Programming
在本文中,我们考虑一个网络的处理器,旨在合作解决混合整数凸规划的不确定性。每个节点只知道一个共同的费用函数和它的局部不确定约束集。我们提出了一个随机的,分布式算法工作在异步,不可靠和定向通信。该算法是基于本地计算和通信范式。在每个通信回合,节点执行两个更新:(i)验证,其中它们以随机方式检查候选最佳点的鲁棒可行性,以及(ii)优化步骤,其中它们与邻居交换其候选基础(定义解的最小约束集)并本地解决最优化问题。作为主要的结果,我们表明,处理器可以停止算法后,有限数量的通信轮(无论是因为验证已成功的足够数量的轮或因为一个给定的阈值已达到),使候选人最优解是一致的。共同的解决方案被证明是-具有高置信度-可行的,因此,除了具有任意小的概率测度的子集的不确定性的整个集合的最佳。我们使用两个例子:一个随机的,不确定的混合整数线性规划和无线传感器网络中的分布式定位所提出的分布式算法的有效性。分布式算法在多核平台上实现,其中节点异步通信。
2019-07-09 cs.DC cs.SY eess.SY
Randomized Load-balanced Routing for Fat-tree Networks
胖树网络已被广泛采用的高性能计算(HPC)集群和数据中心网络(DCN)。这些并行系统通常具有大量的服务器和主机,这会产生大量的高波动性流量。因此,分布式负载平衡路由设计成为实现高带宽利用率和低延迟数据包传输的关键。现有的分布式设计依赖于远程拥塞反馈来解决拥塞,这增加了收集和响应网络范围的拥塞信息的开销。相比之下,我们提出了一个简单而有效的负载平衡方案,称为动态随机负载平衡(DRB),通过本地链路调整,这是免费的交换机之间的通信和合作,以实现网络范围内的低水平的路径冲突。首先,我们使用D-mod-k路径选择方案为胖树网络中的所有源-目的地(S-D)对分配默认路径,保证任何一组活动S-D对的下行链路上的低水平路径冲突。然后,我们提出了基于双选择(TTC)的随机化技术,通过在每个交换机本地上行链路调整来平衡上行链路流量。我们从理论上表明,建议TTC的胖树网络中的上行链路负载均衡有一个类似的性能作为两个选择技术在该地区的随机负载均衡。仿真结果表明,在胖树网络中,采用TTC技术的DRB比许多随机路由方案都有明显的改善。
2017-08-30 cs.DC
Energy Efficient Randomized Communication in Unknown AdHoc Networks
本文研究了随机和一般AdHoc网络中的广播和闲聊算法。我们的目标不仅是最小化广播和闲聊时间,而且还最小化能量消耗,这是根据发送的消息(或传输)的总数来衡量的。我们假设网络的节点不知道网络,并且它们只能以固定的功率发送,这意味着它们不能调整其消息覆盖的区域大小。我们认为,在这种情况下,传输次数是衡量整体能耗的一个非常好的指标。对于随机网络,我们提出了一个广播算法,每个节点发送最多一次。我们表明,我们的算法广播在$O(\log n)$步骤,w.h.p,其中$n$是节点的数量。然后,我们提出了一个$O(d \log n)$($d$是预期的程度)八卦算法使用每个节点的$O(\log n)$消息。对于一般的网络与已知的直径$D$,我们提出了一个随机广播算法与最佳的广播时间$O(D \log (n/D) + \log^2 n)$,使用预期数量的$O(\log^2 n / \log (n/D))$传输每个节点。我们还展示了广播时间和传输次数之间的折衷结果:我们构建了一个网络,使得任何使用时不变分布的不经意算法都需要每个节点的$Ω(\log^2 n / \log (n/D))$消息,以便在最佳时间完成广播。这证明了我们的上界的紧性。我们还表明,没有不经意的算法可以完成广播w.h.p.使用$o(\log n)$消息每个节点。
2006-12-15 cs.DC cs.DS
Time Complexity of Broadcast and Consensus for Randomized Oblivious Message Adversaries
本文提出随机化无感知消息敌手模型,研究随机动态网络下的广播与共识问题,证明二者可在O(k+log n)轮内高概率完成,突破了确定性模型的线性时间下界。
2024-08-20 cs.DC cs.NI cs.SI
Randomized Rumor Spreading in Ad Hoc Networks with Buffers
随机谣言传播问题由于其简单性、鲁棒性和广泛的应用而成为分布式算法领域的研究热点。用于传播谣言的两种最流行的通信范例是Push和Pull算法。前一种协议允许节点在每一步将谣言发送给随机选择的邻居,而后者基于发送请求并从随机选择的邻居下载谣言,前提是邻居拥有谣言。以前对这些协议的分析假设每个节点都可以在单步的内处理所有这样的推/拉操作,这在实际情况下可能是不现实的。因此,我们提出了一个新的框架来分析谣言传播容纳缓冲区,其中一个节点只能处理一个推/拉消息或推请求的时间。在新框架下,我们给出了随机谣言传播时间的上界和下界,并与无缓冲区的旧框架下的结果进行了比较。
2018-12-31 cs.DC cs.SI
Deterministic coloring algorithms in the LOCAL model
研究了在非均匀分布计算模型下超图的双色染色问题。这个问题可以很容易地解决一个随机的本地算法,没有通信。然而,它是不知道如何解决它的确定性只有一个多对数通信轮数。在本文中,我们确实设计了这样一个确定性的算法,解决了这个问题的多对数通信轮数。这是一个几乎指数级的改进,以前已知的确定性本地算法为这个问题。由于超图的双色着色问题在所有局部可检验图问题中是完全的,因此我们的结果意味着对于所有这样的问题,都存在一个有效的随机算法,并且具有多对数通信轮数的确定性局部算法.这解决了局部分布式图算法领域中的一个基本开放问题。由于Ghaffari,Kuhn和Maus [STOC 2017]的减少,这意味着许多图问题的这种多学科有效的确定性局部算法。
2019-07-31 cs.DC cs.DS
Local Fast Rerouting with Low Congestion: A Randomized Approach
本文针对高连通网络中多链路故障场景,提出三种带可证明保证的随机化局部快速重路由算法,在保持高弹性的同时实现低拥塞,并以高概率显著优于确定性算法。
2022-05-05 cs.DC cs.NI
Deterministic and Randomized Diffusion based Iterative Generalized Hard Thresholding (DiFIGHT) for Distributed Sparse Signal Recovery
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
本文提出了一种基于扩散机制的分布式迭代硬阈值算法DiFIGHT,并提出了一种复杂度较低的修改算法MoDiFIGHT。通过四种不同的策略随机选择节点以减少通信次数,同时提供了理论估计和算法分析,证明了其在稀疏信号恢复中的优越性能。
2020-08-14 cs.DC cs.IT cs.NA
Randomized Distributed Configuration Management of Wireless Networks: Multi-layer Markov Random Fields and Near-Optimality
Georgia Institute of Technology(佐治亚理工学院);Microsoft(微软)
分布式配置管理对于无线无基础设施网络是必要的,在无线无基础设施网络中,每个节点通过与邻居的信息交换来本地调整其物理和逻辑配置。两个问题仍然悬而未决。第一个是最优性。第二是复杂性。我们通过建模、分析和随机分布式算法研究这些问题。建模定义了最优性。我们首先推导出一个全球概率模型的网络配置,其特征在于联合的物理和逻辑配置的统计空间依赖性。然后,我们证明了一个局部模型,近似的全球模型是一个两层马尔可夫随机场或随机债券模型。局部模型的复杂性在于节点间的通信范围。当全局模型的近似误差在给定的误差范围内时,局部模型是近最优的。我们分析了近似误差和复杂性之间的权衡,并推导出局部模型近似最优的充分条件。我们也通过仿真验证了模型、分析和随机分布算法。
2008-09-11 cs.AI cs.DC
A Rudimentary Model for Low-Latency Anonymous Communication Systems
在本文中,我们提出了一个低延迟匿名通信系统的基本模型。具体来说,我们研究分布式或算法作为一个抽象的系统。基于我们的模型,我们给出了几个令人满意的下界的匿名泄漏的确定性或算法。其中一些揭示了匿名性和通信复杂性之间的权衡。对于随机OR算法,我们只给出了一个相对平凡的,但可能紧的下界时,省略了通信复杂性。在考虑通信复杂性的情况下,我们发现了该模型与秘密共享方案研究中的一些公开情况之间的关系。
2017-11-03 cs.CR cs.DC cs.IT
Efficient cache oblivious algorithms for randomized divide-and-conquer on the multicore model
在本文中,我们提出了随机算法的排序和凸包,实现最佳性能(加速和缓存未命中)的多核模型与私有缓存模型。我们的算法是高速缓存不经意和概括的随机划分和征服的策略,由Reischuk和Reif和Sen。虽然这种方法产生了最佳的速度在PRAM模型,我们需要额外的技术来优化高速缓存未命中在一个不经意的设置。在对输入和处理器数量的温和假设下,我们的算法将具有最佳的时间和高速缓存未命中的高概率。虽然类似的结果已经得到最近排序,我们觉得我们的方法是简单和一般的,我们应用它来获得一个最佳的并行算法的三维凸包具有类似的界限。我们还提出了一个简单的随机处理器分配技术,没有明确的知识的处理器的数量,很可能会发现额外的应用程序在资源遗忘的环境。
2012-05-27 cs.CG cs.DC cs.DS
Variance Analysis of Randomized Consensus in Switching Directed Networks
本文研究了切换有向随机网络上分布式共识算法的渐近性质。更具体地说,我们专注于共识算法在独立和同分布,有向Erdos-Renyi随机图,每个代理可以与任何其他代理与一些外部指定的概率$p$。虽然它是众所周知的,共识算法在Erdos-Renyi随机网络的结果在网络上的渐近协议,渐近共识值的分布的分析表征仍然是一个悬而未决的问题。在本文中,我们提供的渐近随机共识值的均值和方差的封闭形式的表达式,在网络的大小和通信的概率$p$。我们还提供了数值模拟来说明我们的结果。
2009-10-20 cs.DC cs.MA cs.NI
Storage, Communication, and Load Balancing Trade-off in Distributed Cache Networks
我们考虑负载均衡在网络的缓存服务器提供内容的最终用户。经由所谓的二次幂选择的随机化负载均衡是并行和分布式系统中的公知方法。在这个框架中,我们调查之间的紧张局势的存储资源,通信成本,和负载均衡性能。为此,我们提出了一个随机的负载均衡计划,同时考虑缓存大小的限制和接近服务器重定向过程中。与经典的两个选择的力量设置相反,由于内存限制和邻近约束导致服务器选择过程中的相关性,我们可能不会受益于两个选择的力量。然而,我们证明,在某些制度的问题参数,我们的计划的结果在最大负载的顺序$Θ(\log\log n)$(这里$n$是网络的大小)。与将每个请求分配给最近的可用副本的方案相比,这是指数级的改进。有趣的是,我们提出的方案所产生的额外的通信成本相比,最近的副本策略,是小的。此外,我们广泛的模拟表明,权衡的趋势并不依赖于网络拓扑结构和图书馆流行概况的细节。
2017-06-30 cs.DC cs.DS cs.IT