BOINC: A Platform for Volunteer Computing
“志愿者计算”是使用消费者数字设备进行高吞吐量科学计算。它可以以低成本提供大的计算能力,但由于设备异构性,不可靠性和流失而带来挑战。BOINC是一个广泛使用的志愿者计算开源中间件系统,它解决了这些挑战。我们描述了它的功能,架构和实现。
2019-03-05 cs.DC
FogMQ: A Message Broker System for Enabling Distributed, Internet-Scale IoT Applications over Heterogeneous Cloud Platforms
由于大量地理上分布的设备通过消息代理进行通信,传统消息代理会出现过度的尾端到端延迟。另一方面,无代理消息传送系统虽然确保低延迟,但高度依赖于直接设备到设备(D2D)通信技术的限制,并且不能很好地扩展,因为大量资源有限的设备交换消息。在本文中,我们提出了FogMQ,一个基于云的消息代理系统,克服了传统系统的局限性,使自主发现,自我部署,并在异构云平台上的消息代理的在线迁移。对于每个设备,FogMQ都提供了一个高容量的设备克隆服务,可以订阅设备消息。克隆有助于在资源丰富的云计算节点中进行近边缘数据分析。FogMQ中的克隆应用了Flock,这是一种模拟群集行为的算法,允许克隆以分布式方式动态选择并自主迁移到不同的异构云平台。
2016-10-03 cs.DC cs.NI
Implementation of an efficient, portable and platform-agnostic cryptocurrency mining algorithm for Internet of Things devices
最近,在区块链和物联网(IoT)领域都进行了大量的研究。区块链技术与物联网可以很好地协同工作,解决了隐私、互操作性和安全性等关键问题。然而,允许不信任的各方维持协议的共识机制,与支持加密货币挖掘的算法相同,通常计算成本非常高,使得在低功耗物联网设备上实现变得困难。更重要的是,挖矿需要下载和同步数百GB的区块,这远远超出了大多数物联网设备的能力。在本文中,我们提出了一种高效,可移植和平台无关的加密货币挖掘算法,使用Stratum协议来避免下载整个区块链。我们在四个不同的平台上实现了该算法- PC,ESP 32,模拟器和旧的PlayStation Portable(PSP),以证明除了连接到互联网的能力之外,任何设备都可以在没有任何假设的情况下挖掘加密货币。为了确保在任何平台上的可移植性和报告结果的可重复性,我们在https://anonymous.4open.science/r/cryptominer上公开了该实施方案,并提供了详细的说明。
2022-05-03 cs.CR cs.DC
FLINT: A Platform for Federated Learning Integration
LinkedIn Corporation(领英公司);University of Michigan(密歇根大学);RightScope Inc.(RightScope公司)
跨设备联邦学习(FL)已经从算法,系统可扩展性和训练速度的角度进行了充分的研究。尽管如此,从集中培训转向针对数百万或数十亿台设备的跨设备FL会带来许多风险,包括性能损失、开发人员惰性、糟糕的用户体验和意外的应用程序故障。此外,相应的基础设施、开发成本和投资回报也难以估算。在本文中,我们提出了一个设备-云协作FL平台,该平台与现有的机器学习平台集成,提供工具来测量现实世界的约束,评估基础设施的能力,评估模型训练性能,并估计系统资源需求,以负责任地将FL投入生产。我们还提出了一个决策工作流程,利用FL集成平台来全面评估跨设备FL的权衡,并分享我们对影响数亿用户的业务关键型机器学习应用程序的经验评估。
2023-03-11 cs.DC cs.LG
HiveMind: A Scalable and Serverless Coordination Control Platform for UAV Swarms
自主设备的群体在普遍性和规模上都在增加。有两种主要的思路来控制这样的集群中的设备;集中式和分布式控制。集中式平台实现了更高的输出质量,但导致高网络流量和有限的可扩展性,而分散式系统更具可扩展性,但不太复杂。在这项工作中,我们提出了HiveMind,这是一个用于物联网群的集中式协调控制平台,具有可扩展性和高性能。HiveMind利用集中式集群进行所有资源密集型计算,推迟轻量级和时间关键型操作,例如边缘设备的障碍物规避,以减少网络流量。HiveMind采用事件驱动的无服务器框架在集群上运行任务,保证边缘设备和无服务器功能的容错,并处理落后的任务和性能不佳的设备。我们评估HiveMind在两种情况下的一群16个可编程无人机上;搜索给定的项目,并计算一个区域中的独特的人。我们表明,与完全集中和完全分散的平台相比,HiveMind实现了更好的性能和电池效率,同时还可以优雅地处理负载不平衡和故障,并允许边缘设备利用集群来共同提高其输出质量。
2020-02-04 cs.DC cs.NI
BatteryLab, A Distributed Power Monitoring Platform For Mobile Devices
云计算的最新进展简化了软件开发和测试的执行方式。不幸的是,对于电池测试来说,这并不正确,因为最先进的测试台只是由一个连接到功率计的电话组成。这些测试台的资源、访问权限有限,而且总体上难以维护;由于这些原因,它们经常闲置,没有实验可运行。在本文中,我们建议共享现有的电池测试设置并构建BatteryLab,这是一个用于电池测量的分布式平台。我们的愿景是将独立的电池测试设置转变为行星级测量平台的有利位置,提供异构设备和测试条件。在本文中,我们设计和部署了硬件和软件解决方案的组合,以实现BatteryLab的愿景。然后,我们初步评估BatteryLab的电池报告的准确性,以及一些系统基准测试。我们还演示了如何BatteryLab可以被研究人员用来调查一个简单的研究问题。
2019-10-20 cs.DC cs.PF
IoT based Platform as a Service for Provisioning of Concurrent Applications
当今时代,物联网(IoT)迅速发展。据统计,到2020年,将有200亿台设备连接到互联网。互联网连接设备的大量增加将导致大量的工作来有效地执行关键的并发应用程序,如火灾探测,基于医疗保健的系统,灾难管理,高能物理,汽车和医学成像。为了加快新应用的出现,这个庞大的基础设施需要“平台即服务(PaaS)”模型来利用物联网事物。由于所有设备类型的单一全球标准和基于物联网的应用领域是不可行的,我们提出了一个基于物联网的云利用PaaS模型在本文中。该模型可以为无线传感器网络(WSN)的并发应用提供服务。该模型通过为特定的容器唯一地分配网络接口来提供进程间的通信接口。
2017-11-29 cs.DC
A Framework for Energy-aware Evaluation of Distributed Data Processing Platforms in Edge-Cloud Environment
分布式数据处理平台(例如,Hadoop、Spark和Flink)被广泛用于在云的计算节点之间分布数据的存储和处理。云资源的集中化催生了边缘计算,它使数据的处理更接近数据源,而不是将其发送到云端。然而,由于能源限制等资源限制,边缘计算无法用于部署各种应用程序。因此,任务从边缘设备卸载到资源更丰富的云。以前的研究已经评估了隔离云和边缘环境中分布式数据处理平台的能耗。然而,在集成的边缘云环境中评估这些平台的能耗的研究很少,其中任务从资源受限的设备卸载到资源丰富的设备。因此,在本文中,我们首先提出了一个框架的分布式数据处理平台的能量感知评估。然后,我们利用所提出的框架来评估三个最广泛使用的平台(即,Hadoop、Spark和Flink)在由Raspberry Pi、边缘节点、边缘服务器节点、私有云和公共云组成的集成边缘云环境中运行。我们的评估表明,(i)Flink是最节能的,其次是Spark,Hadoop被发现是最不节能的(ii)将任务从资源受限的设备卸载到资源丰富的设备可以减少55.2%的能耗,(iii)带宽和客户端与服务器之间的距离是影响能耗的关键因素。
2022-01-06 cs.DC
A platform for lightweight deployment of IoT applications based on a Function-as-a-Service model
本文设计了一个基于FaaS范式并通过PaaS Web工具管理的物联网应用部署平台,支持功能间互操作,相比Docker容器部署更快捷且设备资源占用更低。
2024-06-17 cs.DC
Towards Green Computing: A Survey of Performance and Energy Efficiency of Different Platforms using OpenCL
在考虑不同的硬件平台时,不仅解决方案的时间很重要,而且达到解决方案所需的能源也很重要。这不仅适用于电池供电和移动设备,也适用于高性能并行集群系统,因为在功耗和冷却方面存在财务和实际限制。硬件和软件的最新发展使程序员能够在一系列不同的设备上运行相同的代码,从而产生了异构计算的概念。这些设备中的许多针对某些类型的应用进行了优化。为了展示差异,并给出不同架构对特定问题的适用性的基本展望,跨平台OpenCL框架被用来比较解决方案的时间和能量。从ARM处理器到服务器CPU以及消费者和企业级GPU的大量设备都已被用于应用研究应用中的不同基准测试用例。虽然结果显示了GPU在运行时间和能效方面与CPU相比的整体优势,但ARM设备在大规模并行系统中的某些应用中表现出了潜力。这项研究还强调了OpenCL如何在许多不同的系统和硬件平台上使用相同的代码库,而无需特定的代码调整。
2020-03-08 cs.DC cs.PF
The Manufacturing Data and Machine Learning Platform: Enabling Real-time Monitoring and Control of Scientific Experiments via IoT
物联网设备和传感器网络为测量、监控和指导科学实验提供了新的机会。传感器、相机和仪器可以结合起来,提供以前无法实现的对正在进行的实验状态的洞察。然而,物联网设备在其生成的数据的类型、数量和速度方面可能存在很大差异,这使得充分实现这一潜力具有挑战性。事实上,近实时的地协同不同的物联网数据流可能需要使用机器学习(ML)。此外,还需要新的工具和技术来促进传感器数据的收集、聚合和操作,以简化ML模型的应用,从而充分实现物联网设备在实验室中的实用性。在这里,我们将演示如何使用Argonne开发的制造数据和机器学习(MDML)平台在制造实验中分析和使用物联网设备。MDML旨在通过提供将AI集成到网络物理系统中进行原位分析的基础设施,标准化高级数据分析和AI支持的自动化流程优化的研究和运营环境。我们将展示MDML能够处理不同的物联网数据流,使用多种计算资源,并集成ML模型来指导实验。
2020-05-27 cs.DC
PRUNE: Dynamic and Decidable Dataflow for Signal Processing on Heterogeneous Platforms
大多数当代移动设备和个人计算机基于由多个CPU核和一个或多个图形处理单元(GPU)组成的异构计算平台。尽管这些设备的数量很大,但很少有现有的编程框架能够同时充分利用平台的所有CPU和GPU设备。本文介绍了一种用于将信号处理应用程序部署到异构平台的计算模型(MoC)。所提出的MoC是动态的,并允许描述与数据相关的运行时行为的应用程序。在MoC之上,提出了正式的设计规则,使应用程序描述同时是动态的和可判定的。可判定性保证了编译时应用程序的可分析性,以实现无死锁和有界内存。所提出的MoC和设计规则在一个新的开源编程环境“PRUNE”中实现,并从图像处理,计算机视觉和无线通信领域的代表性应用实例进行了演示。实验结果表明,该方法在可分析性、灵活性和性能方面优于现有方法。
2018-02-19 cs.DC
SensiX: A Platform for Collaborative Machine Learning on the Edge
Nokia Bell Labs(诺基亚贝尔实验室)
在人体上或附近出现的多个传感设备正在揭示极端边缘计算的新动态。在这种情况下,智能手机或Wi-Fi网关等功能强大且资源丰富的边缘设备将转变为个人边缘设备,与多个设备协作以提供卓越的感官应用,同时利用位置、可用性和邻近性的力量。自然,这种转变促使我们重新思考如何在个人边缘构建准确,强大和有效的感觉系统。例如,我们如何使用多个配备IMU的身体设备构建可靠的活动跟踪器?虽然传感模型的准确性正在提高,但其运行时性能仍然受到影响,特别是在这种新兴的多设备个人边缘环境下。影响其性能的两个主要注意事项是设备和数据可变性,这是由几个运行时因素造成的,包括设备可用性、数据质量和设备放置。为此,我们提出了SensiX,这是一个个人边缘平台,它位于传感器数据和传感模型之间,并确保在任何条件下尽最大努力进行推理,同时应对设备和数据的变化,而无需模型工程。SensiX使模型执行远离应用程序,并包括两个基本功能,一个用于设备到设备数据的原则性映射的转换操作符和一个质量感知选择操作符,以系统地选择正确的执行路径作为模型准确性的函数。我们报告了SensiX的设计和实现,并展示了其在开发基于运动和音频的多设备传感系统方面的功效。我们的评估表明,SensiX的整体精度提高了7-13%,在不同的环境动态下提高了30%,但功耗仅为3 mW。
2020-12-04 cs.DC cs.LG eess.SP
Efficient Opportunistic Sensing using Mobile Collaborative Platform MOSDEN
移动设备正迅速成为人们生活中的主要计算设备。Google Play、Apple App Store等应用程序交付平台通过可即时下载和安装的应用程序将手机转变为智能计算设备。这些应用中的许多应用利用安装在移动终端上的过多传感器来提供增强的用户体验。智能手机上的传感器为在医疗保健、环境监测和交通运输等许多领域开发创新的移动机会感测应用提供了机会。在本文中,我们提出了一个合作的移动传感框架,即移动传感器数据引擎(MOSDEN),可以在智能手机上捕获和共享多个分布式应用程序和用户之间的感知数据。MOSDEN遵循基于组件的设计理念,促进重用,以实现轻松快速的机会感测应用程序部署。MOSDEN将特定应用程序的处理与传感、存储和共享分离。MOSDEN是可伸缩的,并且只需要应用程序开发人员进行最少的开发工作。我们已经实现了我们的框架基于Android的移动平台上,并评估其性能,以验证MOSDEN的可行性和效率,在移动机会感测应用协同操作。实验结果和经验教训总结的文件。
2013-10-15 cs.DC cs.NI
MBWU: Benefit Quantification for Data Access Function Offloading
存储行业正在考虑支持数据访问功能卸载的新型存储设备,即,在存储设备本身上执行数据访问功能的能力,而不是在存储设备连接到的单独的计算系统上执行数据访问功能。但将负载卸载到由嵌入式平台控制的存储设备(与主机平台截然不同)有什么好处呢?为了量化收益,我们需要一种测量方法,可以在不同平台之间进行比较。我们提出了一个基于媒体的工作单元(MBWU,发音为“MibeeWu”),和一个基于MBWU的测量方法来标准化的平台效率评估,以量化卸载的好处。为了证明这种方法的优点,我们实现了一个原型来自动量化卸载键值数据访问函数的好处。
2019-09-09 cs.DB cs.DC cs.PF
CLAID: Closing the Loop on AI & Data Collection -- A Cross-Platform Transparent Computing Middleware Framework for Smart Edge-Cloud and Digital Biomarker Applications
本文提出开源跨平台中间件框架CLAID,通过透明计算实现多操作系统边缘设备与云端的逻辑集成、通信与计算卸载,并提出“ML-Model in the Loop”方法验证模型迁移问题,在数据采集覆盖率和咳嗽检测模型跨平台性能上取得了一致结果。
2023-10-09 cs.DC cs.SE
Cross-Platform Performance Portability Using Highly Parametrized SYCL Kernels
Codeplay Software Ltd.(Codeplay软件有限公司)
近年来,异构系统在HPC系统中变得越来越普遍,TOP500中有100多台超级计算机采用了GPU或其他加速器。这些硬件平台具有不同的性能特征和优化要求。为了充分利用多个加速器,开发人员必须提供针对每个设备调整的算法的实现。硬件供应商提供专门针对其设备的库,这些库提供良好的性能,但通常具有不同的API设计,阻碍了可移植性。SYCL编程模型允许用户使用完全标准的C++编写异构程序,因此开发人员在开发计算内核时可以使用C++模板的强大功能。在本文中,我们表明,通过编写高度参数化的内核矩阵乘法和卷积,我们实现了跨不同架构的供应商实现的性能竞争力。此外,针对新设备进行调优相当于选择在硬件上性能最佳的内核参数组合。
2019-04-10 cs.DC cs.LG cs.MS