FaaSTube: Optimizing GPU-oriented Data Transfer for Serverless Computing
针对无服务器机器学习推理中现有数据传递方案依赖主机内存导致I/O开销高的问题,提出FaaSTube系统,通过GPU内存池直接交换数据、细粒度带宽共享与弹性内存池,大幅降低端到端延迟并提升吞吐量。
2024-11-04 cs.DC
On the Promise and Pitfalls of Optimizing Embodied Carbon
本立场论文探讨了优化计算领域隐含碳的承诺与陷阱,指出关注隐含碳虽能激励提升基础设施效率和减少上游排放,但也可能夸大实际减排量并干扰运营碳优化,旨在呼吁警惕相关有害激励。
2023-06-27 cs.DC
Optimizing simultaneous autoscaling for serverless cloud computing
本文针对无服务器云计算中的自动扩缩容问题,提出基于流体近似模型和分离连续线性规划的优化控制策略,显著降低失败请求和响应时间。
2023-10-29 cs.DC
Deep Reinforcement Learning-based Scheduling for Optimizing System Load and Response Time in Edge and Fog Computing Environments
针对边缘/雾计算环境中物联网应用调度面临的过载、依赖约束和资源限制等挑战,提出基于深度强化学习的调度算法DRLIS,在FogBus2框架中实现并显著降低了负载均衡、响应时间和加权成本。
2023-10-23 cs.DC
Optimizing Compilation for Distributed Quantum Computing via Clustering and Annealing
University of Pittsburgh(匹兹堡大学);University of California, Santa Cruz(加州大学圣克鲁斯分校)
本文提出通过聚类和退火优化分布式量子计算编译,有效降低目标值,提升异构量子系统的映射效率。
2025-08-21 cs.DC quant-ph
Design and Experimental Evaluation of Algorithms for Optimizing the Throughput of Dispersed Computing
随着物联网(IoT)和机器学习(ML)应用程序的部署不断增长,这些应用程序需要利用边缘和云资源上的计算,因此开发算法和工具来放置这些分布式计算以优化其性能非常重要。我们解决的问题,最佳地放置在一组机器上的计算(描述为有向无环图(DAG)),以最大限度地提高稳态吞吐量的流水线输入。传统上,这样的优化集中在不同的度量,最小化单次完工时间,一个众所周知的算法是异构最早完成时间(HEFT)算法。然而,最大化吞吐量更适合于许多实时,边缘,云和物联网应用,我们提出了一种不同的调度算法,即HHEFT(TPHEFT)。此外,我们提出了两个面向吞吐量的增强,可以应用于任何基线时间表,我们称为“节点分裂”(SPLIT)和“任务复制”(DUP)。为了实现和评估这些算法,我们为一个名为Jupiter的开源分散计算框架构建了新的子系统和插件。不同DAG结构的实验表明:1)与HEFT相比,TPHEFT可以显著提高吞吐量性能(在我们的实验中高达2.3倍),当DAG中的并行度较低时具有更大的增益,2)节点分裂可以潜在地提高基线调度的性能,当存在计算或任务间通信的不平衡分配时具有更大的增益,3)任务复制通常只有在将通信置于慢速链路上的基线上运行时才能得到改进。据我们所知,这是第一个研究,提出了一个系统的实验实施和探索的吞吐量增强技术,分散计算在真正的测试平台。
2021-12-27 cs.DC
Optimizing the Cost for Resource Subscription Policy in IaaS Cloud
云计算允许用户高效、动态地配置计算资源以满足其IT需求。云提供商向客户提供两种订阅计划,即预订和按需。预订计划通常比按需计划便宜。如果预先知道实际的计算需求,则预留资源将是直接的。挑战在于如何进行适当的资源配置以及客户如何有效地购买预订和按需配置选项。为了解决这个问题,两个阶段的算法,提出了最小化服务提供成本在预订和按需计划。为了在资源预留过程中预留出正确的最优资源量,在第一阶段提出了一个数学公式。第二阶段采用卡尔曼滤波器进行资源需求预测。评估结果表明,两阶段算法可以显着降低供应成本,预测是合理的精度。
2014-02-11 cs.DC
Optimizing Distributed Networking with Big Data Scheduling and Cloud Computing
本文研究分布式网络中的大数据调度问题,结合云计算与软件定义网络分析数据管理的机遇和挑战,指出云环境大数据调度及 coflow 调度算法是未来网络优化重点。
2023-11-08 cs.DC cs.NI
CoEdge-RAG: Optimizing Hierarchical Scheduling for Retrieval-Augmented LLMs in Collaborative Edge Computing
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
本文提出CoEdge-RAG分层调度框架,通过PPO在线查询识别、动态节点间调度和在线凸优化节点内调度,在协同边缘计算中优化检索增强大语言模型的延迟与质量权衡,实验显示相较基线方法性能提升4.23%至91.39%。
2025-11-08 cs.DC
Jiagu: Optimizing Serverless Computing Resource Utilization with Harmonized Efficiency and Practicability
针对无服务器平台资源利用率与实用性难兼顾的问题,提出 Jiagu,通过预决策调度和双阶段扩缩容提升部署密度并降低调度与冷启动开销。
2024-03-01 cs.DC
Optimizing Task Scheduling in Heterogeneous Computing Environments: A Comparative Analysis of CPU, GPU, and ASIC Platforms Using E2C Simulator
本研究利用E2C模拟器在CPU、GPU、ASIC构成的异构计算环境中,对比了四种任务调度算法在不同负载下的性能与能效,发现MECT和MEET算法综合表现更优,为资源受限场景的调度决策提供参考。
2024-05-13 cs.DC cs.OS
Data Replication for Reducing Computing Time in Distributed Systems with Stragglers
在具有离散节点的分布式计算系统中,各种形式的冗余可以提高系统的平均延迟性能。研究了作业执行时间为随机递减凸随机变量的系统中数据的最优复制问题。我们表明,在这样的系统中,最优分配策略是不相交的数据批次的平衡复制。此外,指数和移位指数的服务时间,我们得出的最佳冗余水平,最小化的期望值和方差的工作完成时间。我们的分析表明,最佳的冗余水平可能是不相同的两个指标,因此有一个折衷之间减少的期望值的完成时间和减少其方差。
2019-12-31 cs.DC cs.IT math.IT
Cultivating Software Performance in Cloud Computing
云计算的性能指标很多,包括工作负载性能、应用程序放置、软硬件优化、可扩展性、容量、可靠性、敏捷性等,本文考虑联合优化云中软件应用的性能。挑战在于将各种原始数据转换为整洁的数据格式,基于时间戳统一来自多个系统的性能数据,以及评估处理后的性能数据的质量。即使在验证了云性能数据的质量之后,优化云计算仍然面临着额外的挑战。本文从计算环境、数据汇集、性能分析和生产环境等方面分析了云计算面临的挑战。
2016-11-22 cs.DC cs.PF
Introducing JIRIAF: A Virtual Kubelet Integration for Optimizing HPC Resource Provisioning
本文介绍JIRIAF框架及其资源管理器JRM,利用Kubernetes和Virtual Kubelet动态管理HPC资源,并在Perlmutter系统上验证其高效性,同时集成数字孪生与DBN以优化监控。
2025-02-25 cs.DC
Optimizing Task Scheduling in Fog Computing with Deadline Awareness
University of Texas at San Antonio(圣安东尼奥德克萨斯大学)
本文提出RIGEO算法,结合改进的黄金鹰优化算法和强化学习,用于雾计算中任务调度,以降低能耗、提升响应时间和减少截止时间违规。
2026-02-15 cs.AR cs.DC
Hulk: Graph Neural Networks for Optimizing Regionally Distributed Computing Systems
Anhui Polytechnic University(安徽工程大学);Soochow University(苏州大学)
本文提出基于改进图神经网络的 Hulk 方法,通过优化区域间数据通信和模型并行部署,将分布式大模型训练时间效率提升 20% 以上。
2023-04-13 cs.CL cs.DC
Optimizing performance per watt on GPUs in High Performance Computing: temperature, frequency and voltage effects
大型射电天文天线阵所面临的实时数字信号处理的巨大挑战促使人们使用高性能计算系统。远程观测站对高能效(每瓦性能)的需求与HPC中的需求大致相同,其中效率是一个新兴的关键指标。我们研究了图形处理单元(GPU)的每瓦性能如何受到温度,核心时钟频率和电压的影响。我们的研究结果突出了管理晶体管操作的基本物理过程如何影响功率效率。特别是,我们的实验表明,GPU的功耗与温度和电源电压的非线性增长,预测的物理晶体管模型。我们发现,在运行xGPU(射电天文学中使用的计算密集型代码)时,降低GPU电源电压并提高时钟频率,同时保持较低的芯片温度,可使NVIDIA K20 GPU的能效比默认设置提高37-48%。我们将讨论如何使用温度感知功耗模型来降低未来HPC安装的功耗。自动温度感知和应用相关的电压和频率缩放(T-DVFS和A-DVFS)可以提供一种机制,以针对在GPU上运行的更宽范围的代码实现更好的功率效率
2015-10-20 astro-ph.IM cs.DC
Optimizing Distributed Deployment of Mixture-of-Experts Model Inference in Serverless Computing
The University of Hong Kong(香港大学);The Hong Kong University of Science and Technology(香港科技大学)
针对无服务器平台上大型MoE推理的专家热度倾斜与scatter-gather通信瓶颈,提出结合多维epsilon-greedy搜索的贝叶斯优化部署框架,在AWS Lambda上显著降低计费成本并保持吞吐量。
2025-01-09 cs.DC cs.LG
MAIZX: A Carbon-Aware Framework for Optimizing Cloud Computing Emissions
KTH Royal Institute of Technology(皇家理工学院);Norwegian University of Science and Technology(挪威科学与技术大学);Simula Metropolitan Centre for Digital Engineering(Simula 城市数字工程中心)
本研究提出MAIZX框架,通过基于实时和预测的碳强度、PUE及能耗动态排名资源,优化云运营并减少碳足迹,实现CO2排放减少85.68%,在私有、混合和多云环境中展现可扩展性与有效性。
2025-06-24 cs.DC cs.LG
Optimizing Malware Detection in IoT Networks: Leveraging Resource-Aware Distributed Computing for Enhanced Security
针对物联网设备资源有限、现有恶意软件检测方法忽略资源约束的问题,提出一种资源与工作负载感知的分布式检测框架,通过轻量模型分析资源后动态分配或拆分分类器任务,实现9.8倍加速且检测准确率达96.7%。
2024-04-12 cs.CR cs.DC
Optimizing Edge Gaming Slices through an Enhanced User Plane Function and Analytics in Beyond-5G Networks
针对边缘游戏的延迟测量与切片管理问题,提出集成 NWDAF 与增强 UPF 的闭环架构,使5G控制面具备延迟感知能力,并通过内嵌AI模型实现游戏分类。
2025-07-23 cs.DC
Optimizing ML Workload Partitioning between CPUs and CIM Accelerators for Heterogeneous Computing
Federal Ministry of Research, Technology and Space, Germany(德国联邦研究、科技与航天部)
针对现有CIM相关ML工作负载划分方法未充分考虑RRAM约束等缺陷,提出基于ILP的异构CPU-CIM划分框架,最小化端到端推理延迟,较纯CPU执行最高提速30.9倍。
2026-07-07 cs.AI cs.AR cs.DC
Optimizing Microgrid Composition for Sustainable Data Centers
本文提出一种基于Vessim与NREL SAM的微电网组成优化框架,通过多时间尺度黑盒优化模拟计算负载、可再生能源与储能交互,以同时降低运营和隐含碳排放并提升供电可靠性。
2025-09-20 cs.DC cs.SY eess.SY
Going green: optimizing GPUs for energy efficiency through model-steered auto-tuning
图形处理单元(GPU)在过去十年中彻底改变了计算领域。然而,配备GPU的数据中心和计算设施不断增长的能源需求带来了巨大的资本和环境成本。GPU应用程序的能耗在很大程度上取决于它们的优化程度。自动调整是一种有效且常用的技术,用于找到算法、应用程序和硬件参数的最佳组合,以优化GPU应用程序的性能。在本文中,我们介绍了新的能源监测和优化功能的内核调谐器,通用的自动调整工具的GPU应用程序。这些功能使我们能够研究执行时间调优与提高能效的各种方法之间的差异,并研究调优难度的差异。此外,我们的GPU功耗模型通过提供GPU可能最节能的时钟频率,大大减少了大的调优搜索空间。
2022-11-14 cs.DC cs.PF
SPES: Towards Optimizing Performance-Resource Trade-Off for Serverless Functions
针对无服务器计算冷启动延迟与资源浪费的权衡问题,提出差异化调度器SPES,利用调用模式预测实现细粒度预加载/卸载,显著降低冷启动率与内存浪费。
2024-08-21 cs.DC cs.SE
Optimizing and accelerating space-time Ripley's K function based on Apache Spark for distributed spatiotemporal point pattern analysis
随着越来越多的兴趣点数据集具有细粒度的空间和时间属性,时空Ripley的K函数被认为是一个强大的方法来分析时空点过程。然而,时空Ripley的K函数是计算密集型的逐点距离比较,边缘校正和模拟的显着性测试。利用OpenMP、MPI和CUDA等并行计算技术对K函数进行了加速,相关实验证明了其显著的加速效果。然而,以前的工作还没有扩大Ripley的K函数的优化从空间维到时空维。如果没有复杂的时空查询和分区机制,额外的计算开销可能是有问题的。同时,这些研究受到并行框架可扩展性受限和相对昂贵的编程成本的限制,阻碍了它们在大型POI数据集和Ripley的K函数变化中的应用。本文在最先进的分布式计算框架Apache Spark上提出了一种加速时空Ripley K函数的分布式计算方法,并分别采用四种策略来简化计算过程和加速分布式计算。在此基础上,开发了一个基于Web的可视化分析框架原型。实验证明了该方法的可行性和时间效率,并对时空Ripley K函数在生态学、地理学、社会学、经济学、城市交通等领域的应用具有推广价值。
2019-12-10 cs.CG cs.DC cs.DS
Splotch: porting and optimizing for the Xeon Phi
随着大规模数值模拟产生的数据的规模和复杂性不断增加,科学家能够在异构高性能计算环境中利用所有可用硬件来提高吞吐量和效率是至关重要的。我们专注于移植和优化的斑点,一个可扩展的可视化算法,利用至强融核,英特尔的协处理器基于新的许多集成的核心架构。我们讨论了将数据卸载到协处理器所采取的步骤以及算法修改,以帮助在众核架构上实现更快的处理,并利用该设备独特的宽向量功能,以及使用多个Xeon Phi的相应性能结果。最后,性能进行了比较与GPU实现的斑点的结果。
2016-06-14 astro-ph.IM cs.DC
Characterizing and Optimizing EDA Flows for the Cloud
Brown University(布朗大学)
云计算加速了逻辑综合中的设计空间探索和物理设计中的参数调整。然而,在云上部署EDA作业需要EDA团队深入了解其在云环境中的作业特征。不幸的是,关于这些特征的公开信息很少或根本没有。因此,在本文中,我们制定了EDA作业迁移到云的问题。首先,我们描述了四个主要的EDA应用程序的性能,即:综合,布局,布线和静态时序分析。我们表明,不同的EDA工作需要不同的机器配置。其次,使用我们的表征观察,我们提出了一种新的模型,基于图卷积网络来预测一个给定的应用程序在不同的机器配置的总运行时间。该模型的预测准确率达到87%。第三,我们开发了一个新的公式来优化云部署,以降低部署成本,同时满足最后期限的限制。我们提出了一个伪多项式的最优解,使用多选择背包映射,降低了35.29%的成本。
2021-02-22 cs.AI cs.DC
Optimizing Age of Information in Vehicular Edge Computing with Federated Graph Neural Network Multi-Agent Reinforcement Learning
School of Internet of Things Engineering, Jiangnan University(江南大学物联网工程学院);Tsinghua University(清华大学);Xidian University(西安电子科技大学);Shanghai Jiao Tong University(上海交通大学);University of Kent(肯特大学);Hong Kong University of Science and Technology(香港科技大学)
针对VEC中通信资源受限的任务卸载与AoI优化问题,提出FGNN-MADRL框架,以图结构建模道路并结合联邦学习与新型MADRL算法,在保护隐私的同时降低决策复杂度并提升性能。
2024-07-01 cs.DC cs.LG cs.MA
Optimizing Airline Reservation Systems with Edge-Enabled Microservices: A Framework for Real-Time Data Processing and Enhanced User Responsiveness
Jahangirnagar University(贾汉吉尔纳加尔大学)
本文提出基于边缘计算与微服务的航空公司预订系统框架,结合 Kubernetes、Kafka、Prometheus 和 Grafana,实现低延迟、高吞吐与实时响应。
2024-11-19 cs.AI cs.CE cs.CL