Application Distribution Model In Volunteer Computing Environment Using Peer-to-Peer Torrent Like Approach
志愿者计算被认为是解决复杂问题的替代解决方案。它因其简单性和在多个操作系统上工作的能力而得到认可。尽管如此,设置用于志愿者计算的服务器可能是耗时的,并且实现起来相对复杂。本文提出了一个模型,通过使代理以两种方式工作,如播种者和leecher,可以减轻建立服务器的努力,就像P2P洪流一样。该模型由管理分布式应用程序的度量单元、系统层次结构以及服务器和代理的基本过程组成。该模型已在四种情况下使用2,000,000至3,000,000整数数据,采用多达六个节点进行了测试。测试证明了在三个场景中的加速。
2015-08-20 cs.DC
Pando: Personal Volunteer Computing in Browsers
个人电子设备的大量渗透和所有权的持续增长代表了计算能力的免费可用和基本上未开发的来源。为了利用这些,我们提出了Pando,一个新的志愿者计算工具,基于声明式并发编程模型,并使用JavaScript,WebRTC和WebSockets实现。该工具使志愿者贡献的易于发生故障的个人设备的数量能够动态变化,以通过使用设备的浏览器来并行化值流上的函数的应用。我们表明,Pando可以提供吞吐量的改善相比,一个单一的个人设备,在各种计算绑定的应用程序,包括动画渲染和图像处理。我们还显示了我们的方法的灵活性,通过部署Pando连接在本地网络上的个人设备,Grid5000,一个法国范围内的计算网格在一个虚拟专用网络,和7个PlanetLab节点分布在欧洲的广域网。
2019-09-06 cs.DC
Synergy of Volunteer Measurements and Volunteer Computing for Effective Data Collecting, Processing, Simulating and Analyzing on a Worldwide Scale
本文关注“公民科学”的炒作理念及其范式转变:从被动的“志愿者计算”到科学家指导下的“志愿者测量”等志愿者行动。它们可以由普通人使用标准计算设备(智能手机、平板电脑等)进行。以及各种标准传感器。这里特别注意研究宇宙射线引起的空气簇射的志愿科学测量系统。该技术的实施是基于数据的整合有关注册夜间闪光(通过辐射测量软件)在屏蔽相机芯片,同步时间和GPS数据在普通的小工具:以确定夜间“空气阵雨”的基本粒子;分析频率和地图的分布“空气阵雨”在人口稠密的城市。该项目目前包括乌克兰国家技术大学的学生“KPI”,这是competsible位于基辅市,并贡献他们的志愿者测量.该技术对于其他应用也将非常有效,特别是如果它将是自动化的(例如,基于用于分布式计算的XtremWeb或/和BOINC技术),并在一些有许多志愿者的小区域中使用,例如在当地社区中(企业/社区人群计算)。
2015-04-03 cs.CY cs.DC physics.ins-det
Joint QoS-aware and Cost-efficient Task Scheduling for Fog-Cloud Resources in a Volunteer Computing System
志愿者计算是一种基于Internet的分布式计算系统,志愿者共享他们额外的可用资源来管理大规模任务。然而,志愿者计算系统(Volunteer Computing System,简称UMTS)中的计算设备在其处理能力、货币成本和数据传输延迟方面是高度动态和异构的。为了保证不同请求的高服务质量(QoS)和低成本,必须有效地利用所有可用的计算资源。任务调度是一个NP难问题,被认为是异构并行计算中的主要挑战之一。基于此,本文设计了两种面向虚拟控制系统的任务调度算法Min-CCV和Min-V。算法的主要目标是联合最小化物联网(IoT)请求的计算、通信和延迟违规成本。我们广泛的模拟结果表明,所提出的算法能够更有效地分配任务到志愿者雾/云资源比国家的最先进的。具体来说,我们的算法提高了约99.5%的最后期限满意度的任务率,并降低了15至53%之间的总成本相比,基于遗传算法。
2021-04-28 cs.DC math.OC
High-Performance Physics Simulations Using Multi-Core CPUs and GPGPUs in a Volunteer Computing Context
本文提出了两个概念上简单的方法并行化的并行回火蒙特卡罗模拟在分布式志愿者计算的情况下,计算机属于公众使用。第一种方法使用传统的多线程。第二种方法使用CUDA,一种图形卡计算系统。并行回火,如并行随机数生成和映射的蒙特卡洛链到不同的线程的挑战进行了说明。虽然CPU上的常规多线程已得到很好的建立,但GPGPU编程技术和工艺仍在开发中,并存在若干挑战,例如有效使用相对大量的线程。在并行回火中有多个链允许以类似于串行算法的方式进行并行化。志愿者计算引入了重要的限制,高性能计算,我们表明,这两个版本的应用程序都能够适应志愿者的计算机的变化和不可预测的计算资源,同时离开机器响应足够使用。我们目前的实验表明,这两种方法的可扩展性能,并表明该方法的效率随着问题的大小而增加。
2010-03-31 cs.DC cs.PF physics.comp-ph
The Distributed Computing Model Based on The Capabilities of The Internet
论文从理论和实践两个方面介绍了所提出的利用分布式计算进行全球网络互联网通信的模型。分布式计算被广泛应用于现代解决方案中,如研究,其中要求非常高的处理能力,这不能放在一个集中的点。提出的解决方案是基于开放的技术和计算机来执行主要由互联网用户谁是志愿者提供的计算。
2012-10-04 cs.DC cs.NI
Armada: A Robust Latency-Sensitive Edge Cloud in Heterogeneous Edge-Dense Environments
边缘计算通过利用数据邻近性并将延迟敏感和计算密集型工作负载卸载到附近的边缘服务器来实现大量新兴边缘应用程序。然而,由于有限的接入点边缘站点和受限的弹性,在广域环境中大规模支持边缘应用用户带来了挑战。在本文中,我们介绍了Armada:一个密集分布的边缘云基础设施,它探索了在异构环境中使用专用和志愿者资源为地理分布的用户提供服务。我们描述了轻量级的Armada架构和优化技术,包括性能感知的边缘选择,边缘上的自动扩展和负载均衡,容错和原位数据访问。我们在真实世界的志愿者环境和模拟平台上评估了Armada,以展示常见的边缘应用程序,即实时目标检测和人脸识别,可以轻松地部署在Armada上,以低延迟的方式为分布式用户提供大规模服务。
2021-11-23 cs.DC
Distributed Deep Learning in Open Collaborations
Yandex;Hugging Face;HSE University(高等经济学院);Moscow Institute of Physics and Technology(莫斯科物理技术学院);University of Toronto(多伦多大学);Vector Institute
现代深度学习应用需要越来越多的计算来训练最先进的模型。为了满足这一需求,大型企业和机构使用专用的高性能计算集群,其构建和维护既环保又超出了大多数组织的预算。因此,一些研究方向成为少数大型工业和更少的学术行为者的专属领域。为了缓解这种差异,较小的小组可以集中他们的计算资源,并运行有利于所有参与者的协作实验。这种被称为网格或志愿者计算的范例已经在许多科学领域得到了成功的应用。然而,使用这种方法进行机器学习是困难的,由于高延迟,不对称的带宽,以及一些独特的志愿者计算的挑战。在这项工作中,我们仔细分析了这些限制,并提出了一种新的算法框架,专门为协作训练。我们证明了我们的方法在现实条件下的SwAV和ALBERT预训练的有效性,并以一小部分成本实现了与传统设置相当的性能。最后,我们提供了一个详细的报告,成功的协作语言模型预训练与40名参与者。
2021-11-08 cs.DC cs.LG
New Lower Bounds for van der Waerden Numbers Using Distributed Computing
本文利用Rabung方法给出了vanderWaerden数的新的下界,该方法基于模某个素数的离散对数着色.通过一个分布式计算项目,500名志愿者在一年多的时间里,我们检查了多达9.5亿个素数,而之前的工作是2700万个。我们指出,$r$颜色和级数长度$k$的范德瓦尔登数大约是$r^k$的证据。
2022-11-20 cs.DC math.CO
A Robust Asynchronous Newton Method for Massive Scale Computing Systems
志愿者计算网格以相对较低的服务器运行成本提供超级计算级别的计算能力。在以前的工作中,作者已经表明,它是可以采取传统的迭代进化算法,并执行他们的志愿者计算网格异步执行。异步实现极大地提高了可伸缩性,并减少了收敛到解决方案所需的时间。迭代和异步优化算法实现集群和超级计算机上使用MPI,和BOINC志愿者计算网格已打包在一起的通用分布式优化(FGDO)的框架。本文提出了一种新的扩展FGDO的异步牛顿法(ANM)的局部优化。ANM对异构、故障和不可靠的计算节点具有弹性,并且具有极高的可扩展性。初步结果表明,它可以收敛到局部最优显着快于共轭梯度下降。
2016-12-30 cs.DC
V-BOINC: The Virtualization of BOINC
Berkeley Open Infrastructure for Network Computing(BOINC)是一个开源的客户端-服务器中间件系统,允许具有大型计算需求的项目(通常设置在科学领域)利用分布在大物理距离上的技术上无限数量的志愿者机器。然而,使用BOINC在这些异构机器上部署应用程序存在各种问题:应用程序必须被移植到每个机器架构类型,项目服务器必须被信任以提供真实的应用程序,不定期检查点的应用程序可能会在志愿者机器终止时丢失执行进度,并且具有依赖关系的应用程序可能会发现难以在BOINC下运行。为了解决这些问题,我们引入了虚拟BOINC,或V-BOINC,其中虚拟机用于在志愿机器上运行计算。然后,应用程序开发人员可以在单个架构上编译他们的应用程序,通过虚拟化API解决检查点问题,并通过虚拟机的沙箱环境解决许多安全问题。在本文中,我们重点概述了一种独特的方法,如何虚拟化可以引入BOINC,并证明V-BOINC提供可接受的计算性能相比,定期BOINC。最后,我们表明具有依赖关系的应用程序可以在V-BOINC下轻松运行,从而增加了志愿者计算为公众和项目开发人员提供的计算潜力。
2013-06-04 cs.DC cs.OS
Communication Optimization for Distributed Training: Architecture, Advances, and Opportunities
Tsinghua University(清华大学)
本文介绍了分布式深度神经网络训练的一般架构,从并行化策略、集合通信库和网络三层范式回顾了通信优化研究进展,并提倡垂直与水平等跨层协同设计以进一步优化异构资源潜力。
2024-08-29 cs.DC cs.LG
On estimating total time to solve SAT in distributed computing environments: Application to the SAT@home project
Institute for System Dynamics and Control Theory SB RAS(俄罗斯科学院西伯利亚分院系统动力学与控制理论研究所)
本文提出了一种方法来估计所需的时间来解决SAT在分布式环境中通过分区的方法。它是基于这样的观察,对于一些简单形式的问题划分,可以使用蒙特卡罗方法来估计解决原始问题所需的时间。所提出的方法是基于一种算法,用于搜索分区的最佳求解时间估计。我们应用这种方法来估计所需的时间进行逻辑密码分析的广泛已知的流密码A5/1和Bivium。本文还介绍了一个志愿者计算项目SAT@home旨在解决困难的组合问题减少到SAT。在这个项目中,在几个月的时间里,解决了10个A5/1密码的逻辑密码分析问题,这些问题无法使用已知的彩虹表来解决。
2013-08-04 cs.AI cs.CR cs.DC
Brief Announcement: Generative Markov Model for Distributed Computing Systems
Department of Computer and Systems Sciences, Stockholm University, Sweden(斯德哥尔摩大学计算机与系统科学系)
针对分布式计算系统的异构性和复杂性,提出一种基于结构化状态分解的生成马尔可夫模型,实现可处理的模拟、推理和策略学习,并通过协作AI推理案例验证其有效性。
2026-06-02 cs.AI cs.DC cs.LG
Modeling browser-based distributed evolutionary computation systems
从大科学时代,我们又回到了“自己动手”的时代,你没有钱购买集群或订阅网格,但仍然有算法渴望许多计算节点,并需要它们来衡量可扩展性。幸运的是,这与大数据、云计算和包括JavaScript虚拟机的浏览器的时代相吻合。这就是为什么本文将重点放在志愿者或自由乘车计算的两个不同方面的原因:首先,实用性:在哪里找到这些资源,哪些资源可以使用,你必须给他们什么样的支持;然后,理论:进化算法如何适应节点来来去去的环境,具有不同的计算能力,并在彼此完全独立的情况下运行。我们将研究使用JavaScript创建一个非常简单的分布式进化算法所需的设置,然后通过从几个具有不同经典基准函数的实验中收集数据来找到用户如何对其做出反应的模型。
2015-03-22 cs.DC cs.NE cs.NI
ABC: Aggregation before Communication, a Communication Reduction Framework for Distributed Graph Neural Network Training and Effective Partition
图神经网络(GNN)是为图结构数据定制的神经模型家族,并且在学习图结构数据的表示方面表现出优异的性能。然而,在大型图上训练GNN仍然具有挑战性,一个有前途的方向是分布式GNN训练,即划分输入图并将工作负载分布在多台机器上。现有分布式GNN训练框架的关键瓶颈是GNN对图数据和聚合算子的依赖性导致的跨机器通信。在本文中,我们研究了分布式GNNs训练过程中的通信复杂性,并提出了一种简单的无损通信减少方法,称为通信前聚合(ABC)方法。ABC方法利用GNNs层的置换不变属性,并导致一种范式,其中顶点切割被证明比当前流行的范式(边缘切割)具有更好的通信性能。此外,我们表明,新的分区范例是特别理想的情况下,动态图,它是不可行的,以控制边缘的位置,由于未知的随机图形变化过程。
2022-12-11 cs.DC cs.LG
The Distributed Computing Paradigms: P2P, Grid, Cluster, Cloud, and Jungle
分布式计算是在多个系统上进行的,以解决大规模问题。发达国家和发展中国家高速宽带网络的发展、计算能力的不断提高以及互联网的迅速发展改变了这种方式。在信息技术中,社会管理信息和信息服务。从历史上看,计算的状态经历了一系列的平台和环境变化。分布式计算是有效利用计算机系统的重要保证。因此,超级计算机站点和数据中心已经从提供高性能浮点计算能力转变为同时服务来自数十亿用户的大量请求。分布式计算系统使用多台计算机通过互联网解决大规模问题。它变得数据密集型和以网络为中心。分布式计算的应用越来越广泛。在分布式计算中,大规模的资源共享是计算的重点,其目标总是追求最佳性能。在本文中,我们回顾了在分布式计算范例领域所做的工作。主要的重点是云计算的发展领域。
2013-11-13 cs.DC
Minor Sparsifiers and the Distributed Laplacian Paradigm
我们研究了基于minor的顶点稀疏器的分布式算法,并给出了在CONGEST模型中求解图拉普拉斯矩阵中的线性系统的高精度算法。我们的Laplacian求解器的轮复杂度为$O(n^{o(1)}(\sqrt{n}+D))$,因此几乎与$\widetildeΩ(\sqrt{n}+D)$的下界匹配,其中$n$是网络中的节点数,$D$是其直径。我们表明,我们的分布式求解器产生新的次线性轮算法的几个基石问题,组合优化。这是通过在分布式图算法的背景下利用内点方法(IPM)和拉普拉斯范式的强大算法框架来实现的,这需要通过一系列拉普拉斯系统数值求解图上的优化问题。受益于我们的分布式算法范式的问题,包括精确的最小成本流,负权重最短路径,最大流,和稀疏有向图的二分匹配。对于最大流问题,这是第一个适用于有向图的精确分布式算法,而以前的工作[Ghaffari et al. SICOMP'18]考虑了近似设置,仅适用于无向图。对于最小费用流和负权最短路径问题,我们的结果构成了第一个精确的分布式算法运行在一个次线性轮数。考虑到IPM和拉普拉斯范式之间的混合已被证明是有用的,在集中式设置中处理众多的优化问题,我们相信,我们的分布式求解器将找到未来的应用。
2022-02-05 cs.DC cs.DS
SocialCloud: Using Social Networks for Building Distributed Computing Services
在本文中,我们研究了一种新的计算模式,称为SocialCloud,其中计算节点由社会关系驱动,从一个自举的信任拥有社会图。我们调查如何这种范式不同于现有的计算范式,如网格计算和传统的云计算范式。我们表明,采用这种模式的动机是直观和自然的,它提供的安全和信任保证是坚实的。我们提出了衡量这种计算模式的效用和优势的指标,并使用现实世界的社会图和结构的社会痕迹,我们调查这种模式对普通用户的潜力。我们研究了几个设计选项和权衡,如调度算法,集中化,和落伍者处理,并展示了它们如何影响效用的范例。有趣的是,我们的结论是,虽然在文献中已知的高信任属性的图形不服务于分布式可信计算算法,如Sybil防御-他们的弱算法属性,这样的图形是很好的候选人,我们的范例,他们的自我负载平衡功能。
2011-12-10 cs.DC cs.SI
Federated Attention: A Distributed Paradigm for Collaborative LLM Inference over Edge Networks
Pillar of Information Systems Technology and Design, Singapore University of Technology and Design(信息系统技术与设计学院,新加坡南洋理工大学);School of Electronics, Electrical Engineering and Computer Science, Queen’s University Belfast(电子、电气与计算机科学学院,女王大学贝尔法斯特分校);Department of Electrical and Computer Engineering, Sungkyunkwan University(电气与计算机工程系,成均馆大学);KU 6G Research Center, Department of Computer and Information Engineering, Khalifa University(6G研究中心,计算机与信息工程系,哈利法大学);CentraleSupelec, University of Paris-Saclay(中央超导研究所,巴黎萨克雷大学);Department of Electrical and Computer Engineering, Princeton University(电气与计算机工程系,普林斯顿大学)
针对边缘网络中LLM协作推理面临的隐私、通信和计算瓶颈,提出Federated Attention框架,通过周期性跨Transformer块聚合KV矩阵实现隐私保护与高效推理,并从理论和实验验证了其优化潜力。
2025-11-04 cs.AI cs.DC cs.LG
Osmotic Learning: A Self-Supervised Paradigm for Decentralized Contextual Data Representation
MIFT Department, University of Messina, Italy(梅萨纳大学MIFT系);Institute of Information Technology, University of Klagenfurt, Austria(克莱根堡大学信息技术研究所);Department of Computer Science, University of Innsbruck, Austria(因斯布鲁克大学计算机科学系)
OSM-L是一种自监督的分布式学习方法,通过渗透机制在无需原始数据交换的情况下,从分布式数据中提取上下文信息并实现高精度的局部信息对齐。
2025-12-28 cs.DC cs.LG
Distributed Ledger Technology: Blockchain Compared to Directed Acyclic Graph
如今,区块链正在成为分布式账本技术的代名词。然而,区块链只是该领域的专业化之一,目前在现有文献中已有很好的介绍,但主要是从加密的角度来看。除了区块链技术,一种新的范式正在获得动力:有向无环图。本文提出的贡献是双重的。首先,本文分析了分布式账本技术,重点分析了分布式系统的相关特征。其次,本文分析了有向无环图范式在分布式账本背景下的使用,并将其与基于区块链的解决方案进行了比较。这两种范式使用代表性的实现进行比较:比特币,以太坊和纳米。我们从维护分类账的应用数据结构、共识机制、交易确认信心、分类账规模和可扩展性等方面研究了代表性解决方案。
2018-04-26 cs.DC
A Critical Note on Social Cloud
社交云的概念已经成为社交网络环境中的资源共享范例。毫无疑问,最先进的社交云系统展示了社交云作为其他计算模式(如云、网格、点对点和志愿者计算)的补充的潜力。然而,在本文中,我们对社交云文献进行了批判性调查,并得出结论,这些初步的努力未能提供社交云的一般框架,也未能显示社交云的独特性。这份简短的说明揭示了社交云的概念,资源定义,资源共享和分配机制,以及其应用和利益相关者的显着差异。这项研究是一种尝试,以表达需要一个通用的框架的社会云,它可以结合各种意见和资源共享设置中讨论的文献。
2021-01-29 cs.DC cs.SI
A Stochastic Game Framework for Analyzing Computational Investment Strategies in Distributed Computing
本文研究了一个动态局中人集合的随机博弈框架,用于建模和分析分布式计算中局中人的计算投资策略。玩家通过解决问题或提供计算资源获得一定的奖励,同时根据投入的时间和计算能力产生一定的成本。我们首先研究了一个场景,其中为解决问题提供奖励,例如在区块链采矿中。我们发现,在马尔可夫完美均衡,玩家的成本参数超过一定的阈值,不投资,而那些成本参数小于这个阈值,投资最大的权力。在这里,玩家不需要知道系统状态。然后,我们考虑的情况下,奖励是提供一个共同的中央实体,如在志愿者计算的计算能力作出贡献。在这里,在马尔可夫完美均衡中,只有在给定状态下成本参数处于相对较低范围内的参与者才会投资。对于同质玩家的情况,他们的投资比例与“回报与成本”之比成正比。对于这两种情况下,我们研究了球员的到达率和离开率对他们的效用使用模拟的影响,并提供额外的见解。
2019-11-16 cs.DC cs.GT cs.MA
Go With The Flow: Churn-Tolerant Decentralized Training of Large Language Models
Worker Thread;Université de Neuchâtel(Neuchâtel大学);Delft University of Technology(代尔夫特理工大学)
GWTF是首个容崩溃的去中心化训练框架,通过新颖流算法优化路由,在异构客户端和高节点流失场景下将LLM训练时间减少高达45%。
2025-09-25 cs.DC cs.LG
Distributed Private Data Analysis: On Simultaneously Solving How and What
我们研究了隐私领域中两个方向的组合,涉及分布式私有输入的计算-安全函数评估(SFE)和差分隐私。虽然两者的目标都是私下评估个人输入的某些功能,但隐私要求却截然不同。SFE的一般可行性结果提出了一个自然的范例,用于分布式地实现差异私有分析:首先选择要计算的内容,即,差异私有分析;然后决定如何计算它,即,构建用于此分析的SFE协议。我们开始检查是否有一个范例的优势,这两个决定是同时作出的。特别是,我们调查的准确性要求下,它是有益的,以适应这种模式计算的功能,包括二进制和,差距阈值,近似中位数查询的集合。我们的结果意味着,当计算$n$分布输入的二进制和时,则:* 当我们要求误差为$o(\sqrt{n})$且轮数为常数时,在新的范例中没有好处。* 当我们允许$O(\sqrt{n})$的错误时,当我们考虑计算对称函数的协议时,新的范例产生更有效的协议。我们的研究结果还产生了新的分离的本地和全球模型的计算私人数据分析。
2011-03-14 cs.CR cs.DC
Consensus learning: A novel decentralised ensemble learning paradigm
Flare Research(弗拉雷研究所)
本文提出共识学习范式,将经典集成方法与点对点共识协议结合,在保护数据隐私和抵御拜占庭攻击的同时实现去中心化分布式学习,并通过理论分析和数值模拟验证其鲁棒性。
2024-02-25 cs.DC cs.LG
Fully Distributed Online Training of Graph Neural Networks in Networked Systems
Rice University(莱斯大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室)
针对网络系统中GNN集中训练范式的局限,提出通信高效的全分布式在线训练方法,仅少量增加消息传递轮次与消息大小,在多类任务及三种学习范式下均验证有效。
2024-12-08 cs.DC cs.LG
Distributed Computing in a Pandemic: A Review of Technologies Available for Tackling COVID-19
目前由SARS-CoV-2 β冠状病毒引起的COVID-19全球大流行已导致超过100万人死亡,并产生严重的社会经济影响,因此迫切需要找到解决关键研究挑战的方法。COVID-19的大部分研究都依赖于分布式计算。在本文中,我将回顾分布式架构--各种类型的集群、网格和云--这些架构可用于大规模、高吞吐量、高度并行地执行这些任务,也可用于协作工作。高性能计算(HPC)集群将用于执行大部分工作。用于减少SARS-CoV-2传播的几个大数据处理任务需要高吞吐量方法和Hadoop和Spark提供的各种工具,甚至使用商品硬件。大规模的COVID-19研究还利用了一些世界上最快的超级计算机,例如IBM的SUMMIT -用于针对SARS-CoV-2靶标的集成对接高通量筛选,用于药物再利用和高通量基因分析-以及Sentinel,这是一种基于XPE-Cray的系统,用于探索天然产物。网格计算促进了世界上第一台Exascale网格计算机的形成。这加速了COVID-19研究,通过并行计算对SARS-CoV-2刺突蛋白相互作用进行分子动力学模拟,并使用Folding@home平台使用超过100万台志愿者计算设备进行。网格和云也可以用于国际合作,通过访问重要的数据集和提供服务,使研究人员能够专注于研究,而不是耗时的数据管理任务。
2021-05-18 cs.DC
On Observability and Monitoring of Distributed Systems: An Industry Interview Study
公司的业务成功在很大程度上取决于其客户端应用程序的可用性和性能。由于DevOps和微服务架构风格等现代开发范式,应用程序被解耦为具有复杂交互和依赖关系的服务。虽然这些范例能够缩短交付时间,实现单独的开发周期,但它们对管理分布式系统中的服务带来了一些挑战。一个主要的挑战是观察和监控这样的分布式系统。本文提供了一个定性的研究,了解分布式系统的可观测性和监测领域的挑战和良好的做法。在对软件专业人士的28次半结构化采访中,我们发现该领域的复杂性和动态性不断增加。特别是可观测性成为确保稳定服务和客户端应用程序进一步开发的必要前提。然而,与会者提到,无论是从管理层还是从开发人员的角度来看,对这一主题的重要性的认识都存在差异。除了技术挑战,我们还确定了对包括战略、角色和责任在内的组织概念的强烈需求。我们的研究结果支持从业人员在开发和实施系统的可观测性和分布式系统的监测。
2019-07-29 cs.DC
On Distributed Runtime Verification by Aggregate Computing
可验证性是一种计算分析范式,基于通过从正式规范生成的监视器在运行时观察系统(以检查其预期行为)。分布式运行时验证是与分布式系统相关的运行时验证:它包括对分布式系统的监视和使用分布式系统进行监视。聚合计算是一种基于参考计算机器的编程范式,参考计算机器是协同执行计算过程的设备的集合:设备的行为,位置和数量的细节在很大程度上被抽象出来,被空间填充的计算环境所取代。在这份立场文件中,我们认为,通过简单的例子,聚合计算是特别适合实现分布式监视器。我们的目标是促进进一步研究如何从合适的正式规范生成聚合计算监视器。
2019-08-27 cs.DC cs.MA cs.PL
A Uniqueness Theorem for Distributed Computation under Physical Constraint
School of Telecommunication Engineering, Xidian University(西安电子科技大学通信工程学院)
本文提出分布式计算在物理约束下的唯一性定理,证明在允许idempotent合并操作符的计算类别中,存在唯一的最优范式SDPF,该范式是收敛、图灵完备且最小的。
2026-02-25 cs.DC cs.NI
Will LLMs Scaling Hit the Wall? Breaking Barriers via Distributed Resources on Massive Edge Devices
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);School of Public Affairs, Zhejiang University(浙江大学公共管理学院)
本文探讨通过大规模边缘设备的分布式资源突破大语言模型扩展的瓶颈,提出利用边缘设备进行分布式训练以实现AI的民主化发展。
2026-04-09 cs.DC
Bringing the Algorithms to the Data -- Secure Distributed Medical Analytics using the Personal Health Train (PHT-meDIC)
University Hospital Tübingen(图宾根大学医院);University of Tübingen(图宾根大学)
对数据隐私和安全性的需求-通过日益严格的数据保护法规强制执行-使得医疗保健数据难以用于机器学习。特别是,不同医院之间的数据传输通常是不允许的,因此跨站点汇集数据不是一种选择。在GO-FAIR倡议中提出的个人健康训练(PHT)范例实现了一种“数据算法"范例,确保可以访问分布式数据进行分析,而无需传输任何敏感数据。我们提出PHT-medic,一个高效部署的PHT概念的开源实现。集装箱化使我们能够以安全和可扩展的方式在多个站点轻松部署复杂的数据分析管道(例如基因组学,图像分析)。我们将讨论基本的技术概念、安全模型和治理流程。该实现已成功应用于大规模数据的分布式分析,包括深度神经网络在医学图像数据中的应用。
2022-12-07 cs.CR cs.CY cs.DC
Supervised Distributed Computing: Efficiency and Robustness under a Majority of Adversarial Workers
本文研究监督式分布式计算范式,针对任意常数比例的恶意工作节点,提出一种鲁棒且高效的解决方案,使诚实工作节点的期望工作量接近每个任务仅执行一次。
2026-06-01 cs.DC
Software Defined Edge Computing for Distributed Management and Scalable Control in IoT Multinetworks
最近,边缘计算已经成为支持物联网多网络中移动访问的一个有前途的范例。然而,异构无线通信方案的共存给此类网络中的移动性管理和接入控制带来了新的挑战。为了保持其计算连续性,软件定义网络(SDN)架构可以应用于分布式边缘网络,其为移动性管理提供一致的框架并为访问控制创建安全机制。在本文中,我们首先回顾了最先进的SDN技术及其在边缘计算中的应用。特别是,我们强调了与边缘计算环境中SDN的移动性管理和访问控制相关的突出问题。我们还介绍了一些有效的解决方案,这些问题,通过提出现实世界的测试床实验,原型和数值分析采用基于SDN的边缘计算范例的物联网多网络。
2021-04-06 cs.DC cs.NI
Reasoning About a Service-oriented Programming Paradigm
本文介绍了一种新的分布式应用程序开发方法:面向服务的方法。这是一个概念文件的基础上,我们的经验,在开发一个理论和编程服务的语言。理论形式化和语言解释器都向我们展示了一种新的编程范式存在的证据。在本文中,我们说明了它的基本特征。
2009-06-22 cs.DC cs.PL
Addressing Variable Heterogeneity in Distributed Multimodal Training with Entrain
University of Michigan(密歇根大学)
提出Entrain框架,通过宏观批次的静态模型并行配置和层次化微批次分配算法,解决多模态大语言模型训练中的数据异构性和变量波动,提升吞吐量达1.40倍。
2026-05-27 cs.DC
A Distributed Secure Outsourcing Scheme for Solving Linear Algebraic Equations in Ad Hoc Clouds
新兴的ad hoc云通过利用未开发的本地计算和存储资源形成了新的云计算范例。在ad hoc云上的一个重要应用是将计算密集型问题外包给附近的云代理以分布式方式解决。
2016-08-29 cs.CR cs.DC
A Paradigm for Channel Assignment and Data Migration in Distributed Systems
在这篇手稿中,我们考虑在无线网络中的信道分配和异构存储系统中的数据迁移的问题。我们表明,软边着色的方法,这两个问题提供了严格的近似保证。在无线网络中出现的信道分配问题中,如果分配给它们的信道相同,则与顶点关联的一对边被称为冲突。我们的目标是分配通道(颜色边缘),以便最小化冲突的数量。该问题是NP-困难的减少边着色,我们提出了两种组合算法。第一个算法是基于分布式贪婪算法的,它给出的解最多比最优解有$2(1-\frac{1}{k})|E|$更多的冲突.第二个算法是$1 + \frac{|V|}{|E|}$,它给出了稠密图的($1 + o(1)$)-因子,并且是最好的可能,除非P = NP.我们还考虑了异构存储系统中的数据迁移问题。在这样的系统中,可能需要随着时间的推移重新配置数据布局以用于负载均衡或者在系统故障/升级的情况下重新配置数据布局。将数据尽快迁移到目标位置以获得系统的最佳性能至关重要。以前的大多数数据迁移结果都假设每个存储节点一次只能执行一次数据传输。然而,存储设备往往具有异构能力,因为由于存储需求的增加,设备可能随着时间的推移而增加。我们开发的算法,以尽量减少数据迁移时间。我们表明,它是可能找到一个最佳的迁移时间表时,所有的$c_v$的甚至。此外,虽然该问题是NP-困难的一般情况下,我们给出了一个有效的软边着色算法,提供了严格的$(1 + o(1))$近似保证。
2010-10-19 cs.DC
Comparative Analysis of Distributed and Parallel File Systems' Internal Techniques
文件系统优化是文件系统领域中最常见的任务。通常,它被视为关键的文件系统问题。此外,可以说优化在商业开发中占主导地位。在学术界,新的文件系统体系结构开发的问题越来越频繁地出现。最终用户可以将文件系统性能作为文件系统技术演进的关键问题。这样的理解来自于通常将持久性内存视为缓慢的子系统。因此,提高数据处理的性能的问题被视为文件系统性能优化的问题。然而,持久数据存储物理技术的发展要求文件系统内部技术的概念和方法发生重大变化。总的来说,仅仅提高文件系统的效率并不能解决文件系统的所有问题。此外,它会从整体上阻碍文件系统技术的发展。仅仅通过文件系统优化是不可能满足最终用户的期望的。新的持久存储技术可以质疑文件系统的必要性,在整个没有革命性的新文件系统的方法的建议。然而,文件系统包含信息结构化的范例,这对于作为人类的最终用户是非常重要的。它需要区分两类任务:(1)优化任务;(2)精心设计新的架构愿景或范式的任务。但是,项目目标经常退化为优化任务,这意味着一个新的范式的真正细化。最终用户的期望是一组复杂而矛盾的要求。单纯的优化任务无法解决最终用户在文件系统领域的所有当前需求。最终用户的期望需要解决新的体系结构远景或范式细化的任务。
2019-03-25 cs.DC
Swiper: a new paradigm for efficient weighted distributed protocols
该研究提出名为Swiper的新范式,通过形式化求解权重约简问题将标称模型协议转换为加权模型协议,在多数场景下保持同等鲁棒性,大幅提升加权分布式协议效率。
2024-11-04 cs.CR cs.DC
Analytical Study of Object Components for Distributed and Ubiquitous Computing Environment
分布式对象计算是一种范例,它允许对象分布在异构网络上,并允许每个组件作为一个统一的整体进行互操作。新一代的分布式应用,如远程医疗和电子商务应用,正在部署在异构和无处不在的计算环境。本文的目的是探讨一种基于构件的服务在普适计算环境中的适用性。虽然各种分布式对象组件的基本结构是相似的,但存在差异,这些差异可能会深刻影响应用程序开发人员或分布式仿真练习的管理员,并在普适计算环境中实现。
2011-02-17 cs.DC
A Survey on Distributed Evolutionary Computation
本文系统综述了分布式进化计算,提出新的分类法,明确其提升集中式优化效率和实现分布式优化两大目的,并对分布式优化问题进行形式化定义与分类,同时展望了挑战与未来方向。
2023-04-12 cs.DC cs.NE
A New Approach for Evaluating the Performance of Distributed Latency-Sensitive Services
本文针对传统延迟指标无法评估SLA超限频率与恢复时间的问题,提出5种新型延迟指标,并通过大规模实验验证其能为分布式延迟敏感服务提供更深入的性能洞察。
2024-05-01 cs.DC
The Bi-Channel Networking Paradigm for Database Systems in the Cloud
Technische Universität München(慕尼黑工业大学);TigerBeetle;Firebolt Analytics
针对现代高速云网络中内核TCP栈成为数据库性能瓶颈的问题,提出双通道网络范式,将通信分离为高性能数据路径和可靠控制路径,结合用户空间UDP与内核TCP,在分布式shuffle和复制键值存储中实现高吞吐与低开销。
2026-06-19 cs.DB cs.DC
When Cars Meet Distributed Computing: Data Storage as an Example
由于汽车无处不在,它们可以在下一代通信和计算框架中发挥重要作用。在过去的几年中,车辆到车辆通信和车辆到基础设施通信的发展向前迈出了巨大的步伐,因此为我们提供了在配备计算能力的汽车上构建“移动计算服务”的工具。最近,几组研究人员独立提出了实现这一概念的“车辆云”的设计。在本文中,我们介绍了一个新的范例的车辆云,其次是一个案例研究的数据存储在建议的云。最后,我们提出了几个挑战和机遇,在交通工具云和分布式计算的交集。
2017-11-06 cs.DC
Privacy-Preserving Coding Schemes for Multi-Access Distributed Computing Models
Indian Institute of Technology Kanpur(坎普尔印度理工学院)
本文提出了一种多接入分布式计算模型中的隐私保护编码方案,通过构建新的扩展放置交付数组家族,保障每个reducer分配函数的隐私。
2026-02-08 cs.DC
Con-Pi: A Distributed Container-based Edge and Fog Computing Framework
边缘和雾计算范例通过提供更接近数据源的计算资源,克服了以云为中心执行不同延迟敏感型物联网(IoT)应用的局限性。像Raspberry Pis(RPis)这样的小型单板计算机(SBC)被广泛用作这两种范式中的计算节点。这些设备通常配备中速处理器,并为外围接口和网络提供支持,使其非常适合处理物联网驱动的操作,如数据感测,分析和驱动。然而,这些小型边缘设备在促进多租户和资源共享方面受到限制。通过集中式实体管理计算和外围资源进一步显著降低了它们的性能和服务质量。为了解决这些问题,一个完全分布式的框架,名为Con-Pi,在这项工作中提出的边缘或雾环境中管理资源。Con-Pi利用容器化的概念,并利用Docker容器将物联网应用程序作为微服务运行。%此外,Con-Pi以分布式方式跨多个RP运行,并使它们能够共享资源。所提出的框架的软件系统还提供了一个范围,以集成不同的物联网应用程序,资源和能源管理策略的边缘和雾计算。它的性能进行了比较与国家的最先进的框架,通过真实世界的实验。实验结果表明,Con-Pi通过其分布式卸载模型,在提高响应时间、管理能量使用和计算资源方面优于其他算法。此外,我们还使用Con-Pi开发了一个自动化的害虫鸟类威慑系统,以证明其在为各种物联网用例(包括智能农业)开发实用解决方案方面的适用性。
2021-08-09 cs.DC
A Study on Performance Analysis Tools for Applications Running on Large Distributed Systems
面向性能的程序开发的分布式体系结构和编程范式的发展,对性能工具的最新技术提出了挑战。高性能计算的领域正在从单一的并行系统迅速扩展到异构的顺序和并行系统的集群和网格。性能分析和调优应用程序正变得至关重要,因为否则几乎不可能实现任何应用程序的最佳性能。本文的目的是研究现有的分布式系统性能工具的最新技术。本文从不同的角度对一些有代表性的工具进行了综述,以突出它们所使用的方法和技术。
2010-06-14 cs.DC
A Distributed Multilevel Force-directed Algorithm
功能强大且价格低廉的云计算服务的广泛可用性自然激发了分布式图布局算法的研究,该算法能够扩展到非常大的图。如今,为了处理大数据,企业越来越依赖PaaS基础设施,而不是购买和维护复杂而昂贵的硬件。到目前为止,只描述了在分布式环境中工作的基本力导向算法的几个示例。相反,分布式多级力导向算法的设计是一个更具挑战性的任务,尚未解决。我们提出了第一个多级力导向算法的基础上的分布式顶点为中心的范例,其实现Gianton,一个流行的平台,分布式图算法。实验证明了该方法的有效性和可扩展性。我们使用亚马逊便宜的云计算服务,在大约60分钟内绘制出一千万条边的图形。
2016-09-02 cs.DC
Approximate Distributed Coded Computing: Polynomial Codes and Randomized Sketching
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文探讨了分布式编码计算与随机化数值线性代数的结合,提出了一种在慢速或非响应服务器环境下加速优化和机器学习算法的方案。
2026-05-16 cs.DC cs.IR eess.SP
ParBlockchain: Leveraging Transaction Parallelism in Permissioned Blockchain Systems
许多现有的区块链不能充分解决分布式系统应用程序的所有特征,并且受到严重的架构限制,导致性能和机密性问题。虽然最近的许可区块链系统试图克服这些限制,但它们的重点主要是无争用的工作负载,即,没有冲突的交易。在本文中,我们介绍了OXII,这是一种新的许可区块链范式,用于支持并发执行的分布式应用程序。OXII专为具有(不同程度)争用的工作负载而设计。然后,我们介绍了ParBlockchain,一个专门在OXII范式中设计的许可区块链。使用一系列基准测试对ParBlockchain进行的评估表明,它在任何竞争程度的工作负载中的性能都优于最先进的许可区块链系统。
2019-02-04 cs.DB cs.DC