Transparent Serverless execution of Python multiprocessing applications
访问透明性意味着使用相同的操作访问本地和远程资源。通过透明性，未经修改的单机应用程序可以在分散的计算，存储和内存资源上运行。通过透明性隐藏分布式系统的复杂性将带来巨大的好处，例如在云中灵活的分散资源上扩展本地并行科学应用程序。本文提出了一个性能评估，我们评估的可行性，访问透明度超过国家的最先进的云分解资源的Python多处理应用程序。我们已经将多处理模块与一个实现接口，该实现透明地在无服务器函数上运行进程，并将内存中的数据存储用于共享状态。为了评估透明度，我们在云中运行了四个未经修改的应用程序：Uber Research的演化策略，Baselines-AI的近端策略优化，Pandaral.lel的Arrame和ScikitLearn的Hyperparameter tuning。我们比较了使用我们的库在分散的资源上运行的相同应用程序的执行时间和可扩展性，以及大型VM中的单机Python多处理库。对于相同的资源，尽管远程通信的开销很大，但有效地使用消息传递抽象的应用程序可以获得类似的结果。其他共享内存密集型应用程序由于高远程内存延迟而无法执行。结果表明，Python的多处理库设计是实现透明性的一个推动因素：使用高效的分解抽象的遗留应用程序可以透明地扩展到VM有限的资源之外，以提高并行性，而无需更改底层代码或架构。
2022-11-22 cs.DC
Execution Templates: Caching Control Plane Decisions for Strong Scaling of Data Analytics
云框架的控制平面在调度粒度和性能之间进行权衡。集中式系统按任务粒度进行调度，但每秒只能调度几千个任务。分布式系统每秒调度数十万个任务，但更改调度的成本很高。我们提出了执行模板，一个控制平面的抽象，可以调度每秒数十万的任务，同时支持细粒度的，每任务的调度决策。执行模板利用程序的重复控制流来缓存频繁执行的任务块。在模板中执行任务需要发送一条消息。大规模的计划更改会安装新模板，而小的更改会将编辑应用到现有模板。对Nimbus（一种数据分析框架）中的执行模板进行评估发现，它们提供了集中式控制平面的细粒度调度灵活性，同时匹配分布式控制平面的强大扩展性。执行模板支持复杂的实际应用程序，例如具有三重嵌套循环和数据相关分支的流体模拟。
2017-05-04 cs.DC
Design and Performance Characterization of RADICAL-Pilot on Leadership-class Platforms
许多极端规模的科学应用程序的工作负载由大量单独的高性能任务组成。Pilot抽象通过作业占位符和后期绑定来简化工作负载规范、资源管理和任务执行。因此，Pilot抽象的适当实现可以支持在超级计算机上集体执行大量任务。我们介绍了一个可移植的，模块化的和可扩展的试点启用运行时系统的RADICAL-Pilot（RP）。我们描述RP的设计，架构和实施。我们描述了它的性能，并展示了它在DOE和NSF领导级HPC平台上可扩展地执行由数万个异构任务组成的工作负载的能力。具体来说，我们调查RP的弱/强缩放与CPU/GPU，单核/多核，（非）MPI任务和Python函数时，使用大多数ORNL峰会和TACC Frontera。RADICAL-Pilot可以独立使用，也可以作为第三方工作流系统的运行时使用。
2021-11-02 cs.DC
HiCR, an Abstract Model for Distributed Heterogeneous Programming
本文提出分布式异构编程抽象模型 HiCR，通过最小抽象操作集合与插件化运行时支持层，实现跨当前及未来硬件平台的应用执行。
2025-09-01 cs.DC
Integrating and Characterizing HPC Task Runtime Systems for hybrid AI-HPC workloads
本研究集成并表征RADICAL-Pilot与Flux和Dragon运行时，以提升混合AI-HPC工作负载的任务执行性能，相比srun显著提高吞吐量和利用率。
2025-09-25 cs.DC
HetGPU: The pursuit of making binary compatibility towards GPUs
针对异构GPU二进制不兼容问题，提出hetGPU系统，通过编译器、运行时和抽象层实现单一二进制跨NVIDIA、AMD、Intel和Tenstorrent执行，并支持低开销实时迁移。
2025-06-19 cs.AR cs.DC
Characterizing Application Scheduling on Edge, Fog and Cloud Computing Resources
云计算已经发展成为由商业提供商提供的流行的分布式计算服务。最近，边缘和雾计算资源作为物联网（IoT）部署的一部分出现在广域网上。这三个资源抽象层是互补的，并提供独特的好处。在云上调度应用程序一直是一个活跃的研究领域，工作流和XML模型作为一个灵活的抽象来指定要执行的应用程序。然而，边缘和雾的应用程序编程和调度模型仍在成熟中，并且可以从云资源的学习中受益。同时，在应用程序的执行中使用这些资源也是有价值的。在本文中，我们提出了一个概念分类，这些概念对于指定和解决边缘上的应用程序调度问题，以及云计算资源至关重要。我们首先描述了这些基础设施的资源能力和局限性，并设计了一个分类的应用程序模型，服务质量（QoS）的约束和目标，调度技术，基于文献综述。我们还使用这种分类法列出了关键的研究原型和论文。这项调查有利于这些分布式资源的开发人员和研究人员设计和分类他们的应用程序，选择相关的计算抽象，开发或选择适当的调度算法。它还强调了文学中仍然存在开放问题的差距。
2019-04-23 cs.DC
A Semantics Comparison Workbench for a Concurrent, Asynchronous, Distributed Programming Language
已经提出了许多高级语言和库，它们为并发、异步和分布式编程提供了新颖且易于使用的抽象。然而，实现它们的执行模型经常会随着时间的推移而改变--无论是为了提高性能，还是为了将它们扩展到新的语言功能--这可能会影响现有程序的行为和安全属性。SCOOP是一种并发面向对象编程的消息传递方法，它已经提出并实现了多个更改，并对其核心抽象的惯用用法产生了明显的影响。我们提出了一个语义比较工作台SCOOP与全自动和半自动的工具，用于分析和比较不同的执行模型或语义的程序的状态空间。我们证明了它的使用，在检查整个语义的属性的一致性，通过将其应用到一组代表性的程序，并突出了死锁相关的差异之间的主要执行模型的SCOOP。此外，我们证明了工作台的可扩展性，通过概括的形式化的执行模型，以支持最近提出的扩展分布式编程。我们的工作台是基于一个模块化的和参数化的图形转换语义中实现的GROOVE工具。我们将讨论如何利用图转换来原子地对复杂的语言抽象建模，如何使用模型的视觉和代数性质来确定合理性，并强调该方法如何应用于类似的语言。
2017-10-11 cs.DC cs.LO cs.PL
Pilot-Data: An Abstraction for Distributed Data
依赖于处理大量数据的科学问题需要克服多个领域的挑战：管理大规模数据分布，控制数据与计算资源的协同放置和调度，以及存储，传输和管理大量数据。虽然存在多种方法来解决这些挑战中的每一个，但缺少一种综合方法;此外，扩展现有功能或实现互操作能力充其量仍然很困难。我们提出了试点数据的概念，以解决在异构和分布式环境中的数据和计算的协同放置和调度的基本挑战，互操作性和可扩展性作为第一顺序的关注。Pilot-Data是Pilot-Job抽象的扩展，用于支持与计算任务相结合的数据管理。Pilot-Data将逻辑数据单元与物理存储分离，从而为高效的计算/数据放置和调度提供基础。在本文中，我们讨论了试点数据原型的设计和实施，演示了它的使用数据密集型应用程序在多个生产分布式网络基础设施，并说明了试点数据启用灵活的执行模式所带来的优势。我们的实验利用一个可扩展的Pilot-Job（BigJob）结合Pilot-Data的实现来建立可以通过使用Pilot-Data来实现的应用程序性能。我们展示了Pilot-Data的概念如何为构建工具和支持功能（如亲和力）提供基础，而亲和力又可用于高级数据计算协同布局和调度。
2013-11-19 cs.DC
Omnichain Web: The Universal Framework for Streamlined Chain Abstraction and Cross-Layer Interaction
针对Web3生态碎片化、跨链交互低效、AI缺乏标准化链访问路径等问题，Omnichain Web推出含OmniRollups、Omni Sequencer等组件的通用框架，打通Web2、Web3与AI，实现数据、价值与计算的无缝流转，推动行业采用。
2025-03-19 cs.CR cs.DC cs.NI
Executable Models and Instance Tracking for Decentralized Applications -- Towards an Architecture Based on Blockchains and Cloud Platforms
University of Fribourg（弗里堡大学）
针对区块链上去中心化应用的可扩展性和执行指定复杂性问题，本文提出可执行模型作为高级抽象，研究其与智能合约耦合以追踪执行，并给出支持可扩展性和去中心化协调的架构。
2022-11-11 cs.DC cs.NI
Programming abstractions for preemptive scheduling in FPGAs using partial reconfiguration
FPGA是一种有吸引力的通用HPC计算系统加速器，因为它可以按需部署定制的硬件。然而，用于编程和操作FPGA的常用工具使用起来仍然很复杂，特别是在应该动态执行不同类型任务的场景中。在这项工作中，我们提出了一个简单的接口，内部利用高级综合，动态部分重新配置和同步机制，使用FPGA作为一个多任务服务器与抢占式调度和优先级队列的编程抽象。这可以更好地利用FPGA资源，允许同时执行多个内核，并尽可能快地部署最紧急的内核。我们的实验研究的结果表明，我们的方法只会产生1.66%的开销时，只使用一个可重构区域（RR），和4.04%时，使用两个RR，同时提出了一个显着的性能改善，比传统的非抢占式完全重新配置方法。
2022-08-26 cs.AR cs.DC
A Graph-Based Semantics Workbench for Concurrent Asynchronous Programs
已经提出了许多新颖的程序设计语言和库，它们提供了比线程更易于使用的并发模型。然而，设计成功实现其抽象而不丧失性能或引入意外行为的执行模型是具有挑战性的。SCOOP是一种并发的面向对象的消息传递语言，在其发展过程中，已经提出并实现了多种语义。我们提出了一个“语义工作台”，完全和半自动工具SCOOP，可用于分析和比较程序相对于不同的执行模型。我们证明了它的使用在检查语义的一致性，通过将其应用到一组有代表性的程序，并突出了死锁相关的语言的主要执行模型之间的差异。我们的工作台是基于一个模块化的和参数化的图形转换语义中实现的GROOVE工具。我们将讨论如何利用图转换来原子地对复杂的语言抽象建模，以及如何使用模型的视觉和代数性质来确定合理性。
2016-03-01 cs.DC cs.LO cs.PL
GF-DiT: Scheduling Parallelism for Diffusion Transformer Serving
Shanghai Jiao Tong University（上海交通大学）；Guizhou University（贵州大学）
提出GF-DiT，一种策略可编程运行时，通过动态调整请求并行度来优化扩散Transformer服务，利用无组集合通信实现低开销在线重配置，显著提升吞吐量和降低延迟。
2026-07-03 cs.DC cs.LG cs.PF
D$^2$ABS: A Framework for Dynamic Dependence Abstraction of Distributed Programs
随着现代软件系统越来越多地在分布式环境中运行，提供诸如依赖分析之类的基本技术来检查、诊断和演化这些系统是至关重要的。然而，传统的依赖分析是不适用的或非常有限的效用，由于这些程序的解耦组件，运行在并发进程在物理上分离的机器上的分布式程序。基于分布式软件依赖分析的需要和基于依赖的应用程序的不同成本效益的需求，本文提出了D $^2$ ABS，一个分布式程序的动态依赖抽象框架。通过对分布式方法执行事件进行部分排序并从排序的事件中推断因果关系，D $^2$ ABS抽象了过程边界内和过程边界之间的方法级依赖关系。此外，通过利用跨进程的消息传递语义，并将静态依赖关系和语句覆盖范围内的各个组件，我们提出了三个额外的实例D $^2$ ABS的贸易效率更好的精度。我们提出了设计的D $^2$ ABS框架和评估的四个实例的D $^2$ ABS分布式系统的各种架构和规模使用我们的Java实现。我们的实证结果表明，D $^2$ ABS是显着更有效的比现有的选项，同时提供不同程度的成本效益权衡。由于我们的框架本质上是计算整个系统的运行时依赖关系，因此它自然会支持一系列其他基于依赖关系的应用程序。
2021-11-08 cs.DC cs.PL cs.SE
LLM-based policy generation for intent-based management of applications
University of Toronto（多伦多大学）
本文探索利用大型语言模型的少样本能力，提出一种基于策略抽象逐步分解意图的流水线，通过将策略映射到API形成闭环管理回路，实现应用管理的意图自动化。
2024-01-22 cs.AI cs.DC cs.FL
