Distributed Weighted Matching via Randomized Composable Coresets
最大权匹配问题是组合优化中最基本的问题之一,在数据采掘和生物信息学中有着广泛的应用。开发分布式加权匹配算法是具有挑战性的,因为这个问题的有效算法的顺序性。在本文中,我们开发了一个简单的分布式算法的问题,一般图的近似保证$2+\varepsilon$,(几乎)匹配的顺序贪心算法。该算法的一个关键优点是,它可以很容易地实现在现代并行计算框架,如MapReduce的只有两轮计算。我们还证明了我们的算法在实践中的效率在各种图形(一些有半万亿边)实现的目标值总是接近什么是可实现的集中设置。
2019-06-05 cs.DC cs.DS
Distributed algorithms for covering, packing and maximum weighted matching
本文给出了具有次模代价和单调覆盖约束的复盖问题的多对数轮分布D-近似算法。近似比D是任何约束中的最大变量数。特殊情况包括覆盖混合线性规划(CMIP)和加权顶点覆盖(D=2)。通过对偶性,本文还给出了分数包装线性规划(其中D是变量出现的最大约束数)和超图中的最大加权c-匹配(其中D是任意超边的最大尺寸,对于图D=2)的多对数轮分布D-近似算法。本文还给出了每个约束两个变量和加权顶点覆盖的CMIP的并行(RNC)2-近似算法。算法是随机的。所有的近似比完全匹配可比的集中式算法。
2020-05-27 cs.DC cs.DS
A Distributed-Memory Algorithm for Computing a Heavy-Weight Perfect Matching on Bipartite Graphs
我们设计并实现了一个有效的并行算法,在加权二分图中找到一个完美的匹配,这样的匹配的边缘上的权重是大的。该问题不同于最大权重匹配问题,对于最大权重匹配问题,已知可缩放的近似算法。它的主要动机是在因式分解之前在可扩展的稀疏直接求解器中找到好的枢轴。由于缺乏可扩展的替代方案,分布式求解器使用最大权重完美匹配算法的顺序实现,例如MC64中可用的那些。为了克服这一限制,我们提出了一个完全并行的分布式内存算法,首先生成一个完美的匹配,然后迭代地提高完美匹配的权重,通过搜索长度为4的权重增加循环并行。对于大多数实际问题,我们的算法产生的完美匹配的权重非常接近最优。该算法的有效实现在Cray XC 40超级计算机上扩展到256个节点(17,408个核心),并且可以使用顺序算法解决单个节点无法处理的过大实例。
2020-09-04 cs.DC
A Subquadratic-Time Distributed Algorithm for Exact Maximum Matching
对于图G=(V,E),寻找一组不相交且不共享任何顶点的边称为匹配问题,而寻找最大匹配是分布式图算法理论中的一个基本问题。虽然近似最大匹配问题的局部算法已经得到了广泛的研究,但精确算法的研究并不多。实际上,对于一般情况,没有比O(n^2)轮的平凡上限更快的精确最大匹配算法。本文在CONGEST模型下提出了一个O(s_{max} ^{3/2}+log n)轮的随机算法,其中s_{\max}是最大匹配的大小.这是第一个精确的最大匹配算法在o(n^2)轮一般情况下在CONGEST模型。我们的结果的关键技术成分是一个分布式算法,寻找一个增广路径在O(s_{\max})轮,它是基于一种新的技术,构造一个稀疏证书的增广路径,这是一个子图的输入图保持至少一个增广路径.为了建立一个高度并行的构造稀疏证书,我们还提出了一个新的特征稀疏证书,这也可能是独立的利益。
2021-04-25 cs.DC
Distributed Maximum Matching Verification in CONGEST
我们研究的最大基数匹配问题在一个标准的分布式设置,其中的节点$V$的一个给定的$n$节点网络图$G=(V,E)$通信的边缘$E$在同步轮。更具体地说,我们考虑分布式CONGEST模型,在每一轮中,$G$的每个节点可以发送一个$O(\log n)$位消息到它的每个邻居。我们证明了对于每个图$G$和$G$的匹配$M$,存在一个随机CONGEST算法来验证$M$在时间$O(|M|)$上是$G$的最大匹配,并在时间$O(D + \ell)$上证明它是错误的,其中$D$是$G$的直径,$\ell$是最短增广路径的长度。我们希望我们的算法构成了发展CONGEST算法的重要一步,时间上的最大匹配$\tilde{O}(s^*)$,其中$s^*$是最大匹配的大小。
2020-02-18 cs.DC cs.DS
Distributed Maximal Matching: Greedy is Optimal
我们研究分布式算法,找到一个最大的匹配在一个匿名的,边缘着色图。如果边缘用$k$颜色适当着色,则存在在$k-1$同步通信轮中找到最大匹配的平凡贪心算法。目前的工作表明,贪心算法在一般情况下是最佳的:任何算法,找到一个最大的匹配匿名,$k$ -边着色图需要$k-1$轮。如果我们专注于最大程度$Δ$的图,它是已知的,最大匹配可以在$O(Δ+ \log^* k)$轮,和以前的工作意味着一个下界的$Ω(\polylog(Δ) + \log^* k)$轮。我们的工作缩小了上界和下界之间的差距:复杂性是$Θ(Δ+ \log^* k)$轮。据我们所知,这是第一个线性的$Δ$下限的分布式复杂性的经典图的问题。
2011-10-03 cs.CC cs.DC
A Simple $(1-ε)$-Approximation Semi-Streaming Algorithm for Maximum (Weighted) Matching
提出一种简单的半流算法,通过乘法权重更新和原始-对偶分析,在 $O(\log(n)/ε)$ 轮内实现二分及一般图加权匹配的 $(1-ε)$ 近似。
2025-07-31 cs.DC cs.DS
Optimal Distributed Weighted Set Cover Approximation
提出了一个时间最优的确定性分布式算法,用于逼近秩为$f$的超图的最小权顶点覆盖。该问题等价于最小权集覆盖问题,其中每个元素的频率由$f$限定。我们的算法的近似因子是$(f+ε)$。令$Δ$表示超图中的最大度。我们的算法在CONGEST模型中运行,需要$O(\logΔ / \log \log Δ)$轮,用于常数$ε\in (0,1]$和$f\in\mathbb N^+$。这是该问题的第一个分布式算法,其运行时间不依赖于顶点权重或顶点数。从而为\emph{provably optimal}分布式算法的专有家族增加了另一个成员。对于$f$和$ε$的常数值,我们的算法改进了\cite{KuhnMW06}的$(f+ε)$ -近似算法,其运行时间为$O(\log Δ+ \log W)$,其中$W$是图中最大和最小顶点权重之间的比率。
2018-08-17 cs.DC
Consensus-based Distributed Discrete Optimal Transport for Decentralized Resource Matching
最优输运已被广泛用于资源匹配中,以通过将源匹配到目标来提高资源使用的效率。然而,对于大规模问题,它需要大量的计算和存储空间。在本文中,我们采取了基于共识的方法分散离散最优输运问题,并开发了完全分布式算法与乘子的交替方向法。我们表明,我们的算法保证一定程度的效率和隐私,除了分布式的性质。通过研究线性效用函数下离散最优输运的原问题和对偶问题,我们进一步导出了原算法和对偶算法,并证明了它们之间的等价性。通过数值实验,验证了原算法和对偶算法的收敛性、在线适应性和等价性。我们的算法反映了源和目标之间的讨价还价的数量和价格的转移资源,并揭示了一个平均原则,可用于调节资源市场,提高资源效率。
2019-04-08 cs.DC math.OC
Distributed Half-Integral Matching and Beyond
本文研究分布式极大分数匹配中分数值粒度的下界,证明最大度 $Δ=2d$ 时任何独立于 $n$ 的算法都需分母至少 $2^d$,并给出达到该界的新算法。
2023-07-16 cs.DC cs.DS
A Deterministic Distributed $2$-Approximation for Weighted Vertex Cover in $O(\log n\logΔ/ \log^2\logΔ)$ Rounds
针对CONGEST模型中的最小权顶点覆盖问题,提出了一种确定性的分布式$2$ -近似算法,其轮复杂度为$O(\log n \log Δ/ \log^2 \log Δ)$ .这比[KVY 94]所暗示的当前最知名的确定性2-近似有所改进。我们的解决方案推广了[BCS 17]的$(2+ε)$近似算法,将对$ε^{-1}$的依赖性从线性提高到对数。此外,对于每个$ε=(\log Δ)^{-c}$,其中$c\geq 1$是一个常数,我们的算法计算一个$(2+ε)$ -近似$O(\log Δ/ \log \log Δ)$ ~轮(这是渐近最优的)。
2018-05-23 cs.DC cs.DS
Optimizing the Optimal Weighted Average: Efficient Distributed Sparse Classification
Booz Allen Hamilton(博思艾伦汉密尔顿公司);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校);Laboratory for Physical Sciences(物理科学实验室)
针对分布式线性模型通信成本高且单轮通信近似随机器增多而退化的问题,本文提出新技术ACOWA,通过增加一轮通信在略微增加运行时间下显著提升近似质量,在稀疏分布式逻辑回归中实现了更高准确率。
2024-06-03 cs.DC cs.LG stat.ML
Distributed Ride-Matching for Shared Ridehailing Service with Intelligent City Infrastructure
高计算时间是集中式动态共享乘车服务中最重要的运营问题之一。为了解决这个问题,我们提出了一个分布式的乘车匹配系统,是基于车辆到基础设施(V2I)和基础设施到基础设施(I2I)的通信。在多伦多市中心道路网络上的应用表明,该分布式系统的计算速度提高了125倍,并显示出良好的可扩展性。此外,与集中式系统相比,拟议系统的服务率提高了7%。然而,集中式系统在等待时间和绕行时间方面分别改善了29%和17%。
2022-08-24 cs.DC math.OC
Distributed CONGEST Approximation of Weighted Vertex Covers and Matchings
本文在CONGEST模型中为加权顶点覆盖和最大加权匹配问题设计了多对数时间的确定性近似算法,并给出了LOCAL模型下的下界,推广了多个已有无权情形结果。
2021-11-20 cs.DC cs.DS
Learning to Accelerate Heuristic Searching for Large-Scale Maximum Weighted b-Matching Problems in Online Advertising
Tianjin University(天津大学);Noah’s Ark Lab, Huawei(华为诺亚方舟实验室);Alibaba Group(阿里巴巴集团);Shanghai Jiao Tong University(上海交通大学)
二部b匹配是算法设计的基础,在经济市场、劳动力市场等领域有着广泛的应用。这些实际问题通常具有两个显著的特点:大规模和动态性,这就要求匹配算法定期重复执行。然而,现有的精确和近似算法通常失败,在这样的设置,由于需要无法忍受的运行时间或太多的计算资源。为了解决这个问题,我们提出了\texttt{NeuSearcher},它利用从以前的实例中学到的知识来解决新的问题实例。具体地说,我们设计了一个多通道图神经网络来预测匹配边权值的阈值,通过该方法可以显著减少搜索区域。我们进一步提出了一个并行的启发式搜索算法,迭代地提高解决方案的质量,直到收敛。在开放数据集和工业数据集上的实验表明,与现有的近似方法相比,\texttt{NeuSearcher}在获得完全相同的匹配结果的同时,速度可以提高2 ~ 3倍。
2020-05-12 cs.DC cs.LG
A Deterministic Distributed Algorithm for Weighted All Pairs Shortest Paths Through Pipelining
本文提出了一种新的流水线方法来计算分布式环境下CONGEST模型中具有非负整数边权值(包括零权值)的有向图中的所有对最短路径(APSP)。我们的确定性分布式算法计算最多$2 n \sqrtΔ + 2n$轮中所有顶点对的最多$Δ$距离的最短路径,更一般地,它计算$2\sqrt{nkh} + n + k$轮中k个源的h跳最短路径。该算法简单,具有一些新颖的特性和非平凡的分析,只利用图中的有向边进行通信。该算法可以作为一个基础内的渐近更快的算法,匹配或改善当前的最佳确定性界的$\tilde{O}(n^{3/2})$轮为这个问题时,边的权重是$O(n)$或最短路径距离是$\tilde{O}(n^{3/2})$。
2018-10-22 cs.DC cs.DS
Loss- and Reward-Weighting for Efficient Distributed Reinforcement Learning
Centre for Artificial Intelligence Research(人工智能研究中心);University of Agder(阿格德尔大学);Top Research Centre Mechatronics(顶级机电一体化研究中心)
针对分布式强化学习多智能体梯度合并的标准方法效率问题,提出基于奖励/损失相对高低缩放各智能体梯度的加权合并方案,实验验证奖励加权方法在多类RL环境中性能优于现有最优水平。
2024-08-18 cs.AI cs.DC cs.LG
Gradient Energy Matching for Distributed Asynchronous Gradient Descent
University of Liège(列日大学)
分布式异步SGD已被广泛用于大型系统中的深度学习,但在增加工人数量时仍然因其不稳定而臭名昭着。在这项工作中,我们研究了拉格朗日力学的镜头下的分布式异步SGD的动力学。使用这种描述,我们引入能量的概念来描述优化过程,并推导出一个充分条件,确保其稳定性,只要集体引起的积极的工人的能量仍然低于目标同步过程的能量。利用这一标准,我们得到一个稳定的分布式异步优化程序,GEM,估计和保持的异步系统的能量低于或等于能量的顺序SGD与动量。实验结果突出的稳定性和加速的GEM相比,现有的计划,即使扩展到100个异步工人。结果还表明,更好的推广相比,有针对性的SGD动量。
2018-05-22 cs.DC cs.LG stat.ML
WONDER: Weighted one-shot distributed ridge regression in high dimensions
University of Pennsylvania(宾夕法尼亚大学)
在许多领域,从业者需要分析大型数据集,这对传统的单机计算提出了挑战。为了扩展数据分析,越来越需要分布式和并行计算方法。在这里,我们研究一个基本的和非常重要的问题,在这方面:如何做岭回归在分布式计算环境?岭回归是一种非常流行的有监督学习方法,它具有多个最优性性质,因此研究岭回归具有重要意义。我们研究一次法,构建加权组合的岭回归估计计算在每台机器上。通过分析高维随机效应模型中每个预测因子都有小影响的均方误差,我们发现了几个新的现象。1.无限工作者限制:分布式估计器适用于非常大量的机器,我们称之为“无限工作者限制”。2.最优权重:由于岭的向下偏差,组合局部估计量的最优权重之和大于1。因此,所有的平均方法都是次优的。我们还提出了一种新的加权ONe-shot DistributEd岭回归算法(WONDER)。我们在模拟研究中测试WONDER,并以百万歌曲数据集为例。在那里,它可以节省至少100倍的计算时间,同时几乎保持测试精度。
2020-02-19 cs.DC cs.LG math.ST
GRAWA: Gradient-based Weighted Averaging for Distributed Training of Deep Learning Models
New York University(纽约大学)
针对时间受限的深度学习分布式训练场景,提出基于梯度加权平均的GRAWA算法及两种异步变体,理论上证明凸与非凸场景下的收敛性,实验验证其在收敛速度、解质量等方面优于现有基线。
2024-03-07 cs.DC cs.LG math.OC
Weighted Sampled Split Learning (WSSL): Balancing Privacy, Robustness, and Fairness in Distributed Learning Environments
Saginaw Valley State University(萨吉诺谷州立大学);University of Nebraska at Kearney(内布拉斯加大学科尔尼分校)
本文提出加权采样分割学习(WSSL)框架,通过按客户端贡献进行加权采样,在分布式学习中兼顾隐私、鲁棒性与公平性,并在两个数据集上取得优于集中式方法的准确率。
2023-10-27 cs.AI cs.DC cs.LG