MUSBO: Model-based Uncertainty Regularized and Sample Efficient Batch Optimization for Deployment Constrained Reinforcement Learning
Princeton University(普林斯顿大学)
在诸如医疗保健、金融、机器人和推荐系统的许多当代应用中,用于数据汇集和在线学习的新策略的连续部署要么成本低要么不切实际。我们考虑一种介于纯离线强化学习(RL)和纯在线RL之间的设置,称为部署约束RL,其中用于数据采样的策略部署的数量是有限的。为了解决这个具有挑战性的任务,我们提出了一个新的算法学习框架,称为基于模型的不确定性正则化和样本有效批量优化(MUSBO)。我们的框架为每个部署发现新颖且高质量的样本,以实现高效的数据汇集。在每个离线训练会话中,我们通过量化收集的数据中的不确定性来引导策略更新。在高支持区域(低不确定性),我们通过采取积极的更新来鼓励我们的政策。在低支持区域(高不确定性),当政策引导到分布外区域时,我们通过估计的不确定性量化来降低权重。实验结果表明,MUSBO在部署受限的RL设置中实现了最先进的性能。
2021-06-03 cs.AI cs.LG
DNN-Powered MLOps Pipeline Optimization for Large Language Models: A Framework for Automated Deployment and Resource Management
提出一种基于DNN的MLOps流水线优化框架,通过多流神经架构、自适应资源分配和自动部署编排,实现LLM部署的资源利用率提升40%、延迟降低35%、成本减少30%。
2025-01-14 cs.DC cs.LG
Resource-Efficient Generative AI Model Deployment in Mobile Edge Networks
School of Electronic Information and Communications, Huazhong University of Science and Technology(华中科技大学电子信息与通信学院);School of Cyber Science and Engineering, Huazhong University of Science and Technology(华中科技大学网络空间安全学院);School of Computer Science and Engineering, Central South University(中南大学计算机科学与工程学院)
针对边缘资源受限下生成式 AI 模型部署难题,提出边云协同框架与模型级决策选择算法,联合优化资源消耗、模型切换时延及总体成本。
2024-09-09 cs.AI cs.LG
Constrained Deployment Optimization in Integrated Access and Backhaul Networks
Chalmers University of Technology(查尔姆斯理工大学)
集成接入和回程(IAB)是用于5G网络和超越(6 G)的有前途的技术之一,其中相同的节点/硬件用于以多跳方式提供回程和蜂窝服务。由于具有高速率/可靠性需求的回程链路的敏感性,需要适当的网络规划以使IAB网络适当地并且尽可能好地执行。在本文中,我们研究了部署优化对IAB网络覆盖的影响。我们专注于的情况下,由于地理或干扰管理的限制,不受约束的IAB节点的位置是不可行的,在某些地区。为此,我们提出了各种毫米波(mmWave)阻塞感知约束部署优化方法。我们的研究结果表明,即使部署优化的限制,网络规划大大提高了IAB网络的覆盖范围。
2022-10-11 cs.IT cs.LG cs.NI
FedMHO: Heterogeneous One-Shot Federated Learning Towards Resource-Constrained Edge Devices
Huazhong University of Science and Technology(华中科技大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
针对资源受限边缘设备中模型异构一次性联邦学习的性能与数据依赖问题,提出FedMHO框架,通过异构模型分配、两阶段服务器处理及知识遗忘缓解策略,在多实验设置下优于现有基线。
2025-02-12 cs.AI cs.DC cs.LG
A Case for Rejection in Low Resource ML Deployment
Wadhwani Institute for Artificial Intelligence(瓦德瓦尼人工智能研究所)
构建可靠的人工智能决策支持系统需要一组强大的数据来训练模型;无论是数量还是多样性。在资源有限的环境中,或者对于处于部署早期阶段的应用程序,获取这样的数据集可能是困难的。样本拒绝是解决这一挑战的一种方法,但该领域的许多现有工作不适合这种情况。本文证实了这一立场,并提出了一个简单的解决方案作为概念基线的证明。
2022-08-15 cs.CV cs.LG
A Resource-Adaptive Approach for Federated Learning under Resource-Constrained Environments
Shandong University(山东大学);the University of Aizu(会津大学)
针对联邦学习中客户端资源异构受限及掉队者问题,提出资源自适应异步算法Fed-RAA,按能力分配模型片段并异步更新,理论证明收敛,实验验证其优势,为首个相关收敛性保证方法。
2024-06-19 cs.AI cs.DC cs.LG
AdaptSFL: Adaptive Split Federated Learning in Resource-constrained Edge Networks
Department of Electrical and Electronic Engineering, University of Hong Kong(香港大学电子与电气工程系)
本文针对资源受限边缘网络中的分割联邦学习效率问题,提出AdaptSFL框架,通过自适应控制客户端模型聚合与模型分割来平衡通信计算时延和训练收敛,实验表明其能显著缩短达到目标精度所需的时间。
2025-06-04 cs.AI cs.DC cs.LG
MCAP: Deployment-Time Layer Profiling for Memory-Constrained LLM Inference
Genovation Technological Solutions Pvt Ltd(基因创新技术解决方案私人有限公司)
MCAP通过部署时的层重要性估计,实现动态精度和内存分配决策,提升解码吞吐量并拓展内存受限下的模型运行范围。
2026-04-24 cs.LG
Equitable-FL: Federated Learning with Sparsity for Resource-Constrained Environment
Indian Institute of Information Technology Allahabad(阿拉哈巴德印度信息技术学院)
本文提出Equitable-FL,一种基于彩票假设的稀疏联邦学习方法,通过逐步稀疏化模型使资源受限节点参与协作训练,并在多个基准数据集上验证了其有效性。
2023-09-02 cs.AI cs.CV cs.DC
Memory Allocation in Resource-Constrained Reinforcement Learning
School of Informatics University of Edinburgh(信息学院爱丁堡大学)
本研究探讨资源受限强化学习中内存分配对智能体性能的影响,重点分析MCTS和DQN算法下模型估计与规划间的内存权衡,并评估不同分配在情节式和持续学习场景中的效果。
2025-06-09 cs.AI cs.LG
Multi-Component Optimization and Efficient Deployment of Neural-Networks on Resource-Constrained IoT Hardware
University of South Carolina(南卡罗来纳大学);Dublin City University(都柏林城市大学);University of Sydney(悉尼大学);Newcastle University(纽卡斯尔大学)
大多数物联网设备,如智能手表,智能插头,HVAC控制器等,由具有受限规格(低存储器、时钟速度和处理器)的硬件驱动,这不足以容纳和执行大型高质量模型。在这种资源受限的设备上,制造商仍然能够通过遵循对物联网设备/产品进行编程以收集和传输数据(图像、音频、传感器读数等)的传统方法来提供有吸引力的功能(以促进销售)。他们基于云的ML分析平台。几十年来,这种在线方法一直面临着数据流受损、延迟导致的非实时分析、带宽限制、昂贵的订阅、用户最近提出的隐私问题和GDPR指南等问题。在本文中,为了在资源受限的物联网设备上实现超快速和准确的基于AI的离线分析,我们提出了一个端到端的多组件模型优化序列和开源的实现。研究人员和开发人员可以使用我们的优化序列在多个方面优化高内存,计算要求的模型,以产生小尺寸,低延迟,低功耗的模型,可以舒适地适应和执行资源受限的硬件。实验结果表明,我们的优化组件可以产生的模型是:(i)12.06倍压缩;(ii)0.13%至0.27%更准确;(iii)在0.06 ms处的数量级更快的单元推理。我们的优化序列是通用的,并且可以应用于针对异常检测、预测性维护、机器人技术、话音识别、和机器视觉
2022-04-20 cs.DC cs.LG
COIN: Chance-Constrained Imitation Learning for Uncertainty-aware Adaptive Resource Oversubscription Policy
Microsoft(微软);Microsoft 365
本文提出机会约束模仿学习框架COIN,利用随机约束与集成价值函数处理遥测数据中的偶然不确定性,在云资源超售中实现约3-4倍的效率与安全性提升。
2024-01-13 cs.AI cs.LG
Federated Learning in IoT: a Survey from a Resource-Constrained Perspective
本文从客户端和服务器双视角综述资源受限物联网环境下联邦学习的部署挑战与对应方案,按应用位置分类并评估效果,同时提出新的评估指标以支撑相关研究。
2023-08-25 cs.DC cs.LG
Latency-Memory Optimized Splitting of Convolution Neural Networks for Resource Constrained Edge Devices
Delhi Technological University(德里理工大学);University of Cambridge(剑桥大学);UQIDAR, IIT Delhi(UQIDAR,印度理工学院德里分校)
随着用户对智能设备的日益依赖,在边缘进行必要的计算已成为任何类型业务的关键要求。许多这样的计算利用卷积神经网络(CNN)来执行AI任务,具有高资源和计算要求,这对于边缘设备是不可行的。拆分CNN架构以在边缘上执行部分计算并保留在云上是一个研究领域,该领域的兴趣越来越大。在本文中,我们断言在边缘设备和云之间运行CNN是解决资源受限优化问题的同义词,该问题可以最大限度地减少延迟并最大限度地提高边缘的资源利用率。我们制定了一个多目标优化问题,并提出了LMOS算法,以实现帕累托有效的解决方案。在真实世界边缘设备上进行的实验表明,LMOS确保了在边缘执行不同的CNN模型,并改进了现有的最先进的方法。
2021-07-19 cs.AI cs.LG
Resource Constrained U-Net for Extraction of Retinal Vascular Trees
University of California, Davis(加利福尼亚大学戴维斯分校)
该研究提出改进的资源受限 U-Net,用于从人类眼底照片中提取血管树掩码,并在有限算力与数据下取得接近最先进方法的性能。
2024-07-06 cs.CV cs.LG eess.IV
Boosting Resource-Constrained Federated Learning Systems with Guessed Updates
EPFL(瑞士联邦理工学院)
针对联邦学习中边缘设备资源受限、系统异构导致收敛慢及超参数调优耗资源的问题,提出无梯度推测更新算法GEL,可结合多种前沿算法,在学习率未最优调优时提升性能,资源受限网络中收敛速度最高提升40%,降低调优需求。
2025-06-14 cs.DC cs.LG
REFT: Resource-Efficient Federated Training Framework for Heterogeneous and Resource-Constrained Environments
Virginia Tech(弗吉尼亚理工大学)
针对资源受限环境下联邦学习存在的设备能力差异、通信效率低等问题,提出REFT框架,通过可变剪枝适配客户端算力、知识蒸馏降低通信量,在图像分类任务中验证了其在保障隐私与性能的同时提升资源效率、支持异构设备参与的效果。
2024-03-07 cs.DC cs.LG
Feasible-First Exploration for Constrained ML Deployment Optimization in Crash-Prone Hierarchical Search Spaces
Department of Electrical Engineering and Computer Sciences(电气工程与计算机科学系)
本文研究了在易崩溃的分层搜索空间中,通过可行优先探索和模型引导利用的混合方法,改进部署优化。提出TBA算法和DeployBench基准,提升模型家族发现效率并减少预算浪费。
2026-04-27 cs.LG
Constrained Bayesian Optimization for Hierarchical Federated Learning in IoT Networks for Plant Disease Classification
University of Zagreb(萨格勒布大学);University of Thessaly(塞萨利大学);International Hellenic University(国际希腊大学);University of Glasgow(格拉斯哥大学);Trinity College Dublin(都柏林圣三一学院);Italian National Research Council(意大利国家研究委员会)
本文提出一种约束贝叶斯优化框架,用于在资源受限的物联网环境中高效配置分层联邦学习,以平衡能耗、执行时间和预测性能,并在植物病害分类任务上仅探索11.11%搜索空间即达到接近最优性能。
2026-09-09 cs.DC cs.LG
Benchmarking Distilled Language Models: Performance and Efficiency in Resource-Constrained Settings
Lenovo(联想)
本文通过对比蒸馏模型与原始模型,验证了蒸馏在资源受限环境下提升性能与效率的优越性。
2026-01-28 cs.CL cs.LG
Resource-constrained Fairness
University of Antwerp(安特卫普大学);University of Oxford(牛津大学)
针对现有公平机器学习工具忽视资源限制且调整阈值时无法保持公平性的问题,本研究提出“资源受限公平性”概念,量化该框架下公平性的成本,并证明可用资源水平对成本有显著影响。
2025-02-07 cs.CY cs.LG
CLARA: A Constrained Reinforcement Learning Based Resource Allocation Framework for Network Slicing
University of California, Davis(加州大学戴维斯分校);Shanghai Jiao Tong University(上海交通大学);University of Minnesota(明尼苏达大学)
随着移动网络的激增,我们正在经历一个强大的服务多样化,这需要从现有的网络更大的灵活性。网络切片被提出作为5G和未来网络中资源利用的一种有前途的解决方案,以解决这一迫切需求。在网络切片中,动态资源编排和网络切片管理对于最大化资源利用率至关重要。不幸的是,这个过程太复杂,传统的方法是有效的,由于缺乏准确的模型和动态隐藏结构。我们制定的问题作为一个约束马尔可夫决策过程(CMDP)不知道模型和隐藏结构。此外,我们提出了解决这个问题,使用约束强化学习的资源分配算法的REACH A。特别是,我们分析了累积和瞬时约束,分别使用自适应邻域点策略优化和投影层。评价显示,在有服务需求保证的情况下,联合国A在资源分配方面的业绩明显优于基线。
2021-11-16 cs.LG cs.NI
ExpertMatcher: Automating ML Model Selection for Users in Resource Constrained Countries
MIT(麻省理工学院);MGH/Harvard Medical School(麻省总医院/哈佛医学院)
在这项工作中,我们介绍了ExpertMatcher,一种使用自动编码器自动选择深度学习模型的方法。具体来说,我们感兴趣的是在集中式服务器上使用预先训练的专家ML网络对分布在许多客户端上的数据源进行推理。ExpertMatcher根据客户端的数据表示在中央服务器中分配最相关的模型。这使得发展中国家的资源有限的客户能够利用最相关的ML模型来完成给定的任务,而无需评估每个ML模型的性能。该方法是通用的,可以在任何有本地客户端和大量集中式专家ML模型的设置中受益。
2019-10-05 cs.CV cs.DC cs.LG
A C Code Generator for Fast Inference and Simple Deployment of Convolutional Neural Networks on Resource Constrained Systems
Fraunhofer IML(弗劳恩霍夫物流研究院)
卷积神经网络在时间关键型应用中的推理通常需要GPU。在机器人或嵌入式设备中,由于能源、空间和成本的限制,这些通常是不可用的。此外,在目标平台上安装深度学习框架甚至本机编译器是不可能的。本文提出了一种神经网络代码生成器(NNCG),它从训练好的CNN生成一个普通的ANSI C代码文件,该文件将推理封装在单个函数中。它可以很容易地包含在现有的项目中,由于缺乏依赖性,交叉编译通常是可能的。此外,代码生成基于已知的训练的CNN和目标平台,遵循四个设计原则进行优化。该系统的评估,利用小CNN设计用于此应用程序。与TensorFlow相比,XLA和Glow的加速高达11.81,甚至在延迟方面也优于GPU。
2020-01-14 cs.LG cs.PF
BitRL: Reinforcement Learning with 1-bit Quantized Language Models for Resource-Constrained Edge Deployment
Department of Computer Science BRAC University Dhaka 1212, Bangladesh;Department of Computer Science Missouri State University Springfield, MO, USA;Department of Computer Science \& Engineering Prime University Dhaka, Bangladesh;Department of Computer Science \& Engineering German University Bangladesh Dhaka, Bangladesh;Department of Information Technology Jahangirnagar University Dhaka, Bangladesh
BitRL通过1位量化语言模型在资源受限边缘设备上实现高效的强化学习,提升了内存和能效,同时保持任务性能。
2026-04-27 cs.LG
Adaptive Learning for the Resource-Constrained Classification Problem
Faculty of Engineering, Bar-Ilan University(巴伊兰大学工程学院);University of Florida(佛罗里达大学)
针对资源受限分类问题,提出一种通过迭代微调误分类成本来联合优化学习与资源约束的自适应学习方法,实验证明其在困难分类任务上显著优于传统方法。
2022-07-19 cs.LG
A Survey on Secure and Private Federated Learning Using Blockchain: Theory and Application in Resource-constrained Computing
Florida International University(佛罗里达国际大学);Southern Illinois University(南伊利诺伊大学)
近年来,由于先进机器学习和人工智能的快速发展以及新兴的安全和隐私威胁,联邦学习(FL)得到了广泛的普及。FL可以从边缘设备的本地数据存储中高效地生成模型,而不会向任何实体泄露敏感数据。虽然这种模式部分缓解了用户敏感数据的隐私问题,但由于日益增长的网络威胁和隐私侵犯技术,FL过程的性能可能受到威胁并达到瓶颈。为了加快FL过程的扩散,FL环境的区块链集成引起了学术界和工业界人士的广泛关注。区块链具有去中心化、不变性、共识和透明性的特点,有可能防止安全和隐私威胁。然而,如果区块链机制需要昂贵的计算资源,那么资源受限的FL客户端就不能参与训练。考虑到这一点,本次调查的重点是审查在资源受限的FL环境中成功部署区块链的挑战、解决方案和未来方向。我们全面回顾了适合FL过程的变体区块链机制,并讨论了它们在有限资源预算下的权衡。此外,我们还广泛分析了在资源受限的FL环境中可能观察到的网络威胁,以及区块链如何在阻止这些网络攻击方面发挥关键作用。为此,我们强调了一些潜在的解决方案,以实现区块链和联邦学习的耦合,这些解决方案可以提供高水平的可靠性、数据隐私和分布式计算性能。
2023-03-24 cs.CR cs.DC cs.LG
Two-Bit Networks for Deep Learning on Resource-Constrained Embedded Devices
随着物联网和智能边缘设备的快速发展,越来越需要在内存和计算能力有限的资源受限的移动嵌入式设备上实现机器学习算法,包括深度学习。典型的大型卷积神经网络(CNN)需要大量的存储器和计算能力,并且不能有效地部署在嵌入式设备上。我们提出了用于CNN的模型压缩的两位网络(TBN),其边缘权重被约束为(-2,-1,1,2),可以用两位编码。我们的方法可以减少内存的使用,并显着提高计算效率,同时实现良好的性能分类精度方面,从而代表了一个合理的权衡模型大小和性能。
2017-01-04 cs.CV cs.LG
Edge AI and TinyML for Resource-Constrained Agriculture: Hardware Platforms, Model Optimization, and Deployment Strategies
Techno India University(技术印度大学);Sister Nivedita University(姐妹尼韦迪塔大学)
本文综述了低成本低功耗边缘AI和TinyML在资源受限农业系统中的应用,分析了架构演变、优化策略及部署挑战,提出隐私保护的分层边缘AI架构以提升可部署性。
2026-11-04 cs.ET cs.LG
Constrained Edge AI Deployment: Fine-Tuning vs Distillation for LLM Compression
Department of Computer Science, University of West Florida(计算机科学系,西佛罗里达大学);Department of Mathematics and Statistics, University of West Florida(数学与统计学系,西佛罗里达大学);Department of Intelligent Systems and Robotics, University of West Florida(智能系统与机器人系,西佛罗里达大学);Institute of Human and Machine Cognition(人机认知研究所);DEVCOM Army Research Laboratory(陆军研究实验室)
本研究比较了微调与自蒸馏在仅MLP剪枝的LLM压缩中的效果,发现KL散度蒸馏在相同剪枝计划下达到或超过交叉熵微调,表明损失函数选择对边缘部署中压缩模型恢复有重要影响。
2025-05-13 cs.LG
Resource Constrained Semantic Segmentation for Waste Sorting
Politecnico di Torino(都灵理工大学)
本文针对材料回收设施中废物分类的边缘部署需求,提出10MB内存限制下的资源受限语义分割模型,并通过量化剪枝及Focal与Lovász组合损失在ICNet、BiSeNet和ENet上实现高效可回收废物分割。
2023-10-30 cs.AI cs.CV cs.LG
Resource-aware Mixed-precision Quantization for Enhancing Deployability of Transformers for Time-series Forecasting on Embedded FPGAs
Intelligent Embedded Systems Lab, University of Duisburg-Essen(Duisburg-埃森大学智能嵌入式系统实验室)
本文提出面向资源的混合精度量化方法,通过灵活的资源类型选择和BRAM高效利用,解决嵌入式FPGA上整数量化Transformer部署难题,提升模型部署效率和适用性。
2026-04-21 cs.LG
Offline RL With Resource Constrained Online Deployment
The Ohio State University(俄亥俄州立大学);Microsoft(微软)
离线强化学习用于在对环境的实时访问昂贵或不可能的场景中训练策略。作为这些苛刻条件的自然结果,代理可能缺乏在采取行动之前充分观察在线环境的资源。我们把这种情况称为资源受限环境。这导致离线数据集(可用于训练)可以包含完全处理的特征(使用强大的语言模型,图像模型,复杂的传感器等)。当实际在线采取行动时,这些信息不可用。这种脱节导致了离线RL中一个有趣且未探索的问题:是否有可能使用经过丰富处理的离线数据集来训练一个在在线环境中访问较少功能的策略?在这项工作中,我们介绍和形式化这种新的资源受限的问题设置。我们强调了使用完整离线数据集训练的策略和使用有限功能训练的策略之间的性能差距。我们解决这个性能差距的策略传输算法,首先训练教师代理使用离线数据集的功能是完全可用的,然后将此知识转移到学生代理,只使用资源受限的功能。为了更好地捕捉这种设置的挑战,我们提出了一个数据汇集过程:资源约束数据集RL(RC-D4 RL)。我们在RC-D4 RL和流行的D4 RL基准测试上评估了我们的传输算法,并观察到基线(TD 3 +BC无传输)的一致改进。实验代码可在https://github.com/JayanthRR/RC-OfflineRL上获得。
2021-12-07 cs.AI cs.LG cs.SY
Stochastic Averaging for Constrained Optimization with Application to Online Resource Allocation
University of Minnesota(明尼苏达大学);University of Pennsylvania(宾夕法尼亚大学);Fudan University(复旦大学);Florida Atlantic University(佛罗里达大西洋大学)
现有的随机网络资源分配方法面临着快速收敛和可容忍延迟的挑战。本文利用在线学习的进步,以促进随机资源分配任务。通过认识到拉格朗日乘数的核心作用,基本的约束最优化问题被制定为一个机器学习任务,涉及训练和操作模式,以学习所寻求的乘数在一个快速和有效的方式的目标。为此,一个订单最优的离线学习方法首先开发的批量训练,然后将其推广到在线设置称为学习和适应的过程。新的资源分配协议渗透随机逼近和统计学习的好处,以获得低复杂度的在线更新与学习误差接近统计精度限制,同时仍然保持适应性能,这在随机网络优化的上下文中保证队列稳定性。理论分析和仿真实验表明,该方法在延迟和收敛性能上都有明显的改善。
2017-02-26 cs.DC cs.LG math.OC
Transformer^-1: Input-Adaptive Computation for Resource-Constrained Deployment
Lumen AI;Tengzhou No. 1 Middle School(滕州第一中学)
针对动态场景下固定计算范式导致的资源浪费问题,提出基于深度自适应的Transformer^-1架构,通过双层控制机制、下界理论及层折叠等技术,在保持准确率的同时显著降低FLOPs和内存,实现资源受限环境下的高效部署。
2025-01-26 cs.LG
Lift Up and Act! Classifier Performance in Resource-Constrained Applications
Institute of Service Science(服务科学研究所);National Tsing Hua University(国立清华大学)
分类任务在许多领域和应用中是常见的,其中决策者的行动受到资源约束的限制。在直接营销中,只接触一小部分客户;稀缺的人力资源限制了最有前途的求职者的面试次数;有限的捐赠器官优先考虑那些最合适的人。在这种情况下,性能度量(如分类矩阵、ROC分析)甚至排名度量(如AUC)都会度量与感兴趣的操作不同的结果。与此同时,机器学习者很少使用增益和提升来衡量相关结果。在本文中,我们定义资源受限的分类器性能作为一个任务,区别于分类和排名。我们解释了增益和升降机如何导致不同的算法选择,并讨论了类分布的影响。
2019-06-20 cs.LG stat.ML
Latent Sensor Fusion: Multimedia Learning of Physiological Signals for Resource-Constrained Devices
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出一种基于自编码器潜在空间融合与压缩感知的模态无关统一编码器,用于资源受限设备上的多模态生理信号分析,在保持表示精度的同时显著提升速度、轻量性和可扩展性。
2025-07-13 cs.LG eess.SP
TinyProto: Communication-Efficient Federated Learning with Sparse Prototypes in Resource-Constrained Environments
SAKAK Inc.(SAKAK公司);The Cyber University of Korea(韩国网络大学)
针对资源受限环境下联邦学习的通信效率挑战,提出TinyProto,通过类别原型稀疏化和自适应缩放降低通信成本(最多4倍),无需客户端计算开销且支持异构架构,保持性能。
2025-07-06 cs.LG
Distributed Learning: Sequential Decision Making in Resource-Constrained Environments
Princeton University(普林斯顿大学)
我们研究了具有成本效益的通信策略,可用于提高分布式学习系统在资源受限的环境中的性能。对于分布式学习中的顺序决策,我们提出了一个新的成本效益的部分通信协议。我们说明,与此协议的组获得相同的顺序的性能,它获得了充分的沟通。此外,我们证明,根据建议的部分通信协议的通信成本是$O(\log T)$,其中$T$是决策过程的时间范围。这显著地改进了具有完全通信的协议,其导致$O(T)$的通信成本。我们使用数值模拟验证我们的理论结果。
2020-04-13 cs.LG math.OC stat.ML
BreathRNNet: Breathing Based Authentication on Resource-Constrained IoT Devices using RNNs
Data61
递归神经网络(RNN)在音频和语音处理应用中表现出了很好的效果,因为它们在建模序列数据方面具有很强的能力。在许多应用中,RNN往往优于基于GMM/UBM和i向量的传统模型。物联网设备的日益普及为基于声学的认证、语音命令和灵巧家庭的边缘分析等应用实现基于RNN的推理提供了强有力的理由。尽管如此,在资源受限的物联网设备上进行基于RNN的推理的可行性和性能在很大程度上仍未得到探索。在本文中,我们研究了将RNN用于基于呼吸声学的端到端认证系统的可行性。我们评估了RNN模型在三种类型设备上的性能;智能手机,智能手表和Raspberry Pi,并表明与CNN模型不同,RNN模型可以轻松地移植到资源受限的设备上,而不会显著降低准确性。
2017-09-22 cs.CR cs.LG cs.NE
Learning Optimal and Fair Policies for Online Allocation of Scarce Societal Resources from Data Collected in Deployment
USC CAIS Center for Artificial Intelligence in Society(USC 人工智能与社会中心);Luxembourg Centre for Logistics and Supply Chain Management, University of Luxembourg(卢森堡物流与供应链管理中心,卢森堡大学)
本文研究稀缺社会资源的在线分配问题,提出一种基于部署数据的策略,在满足预算约束下最大化预期结果,并支持公平性约束,在洛杉矶住房分配实验中使退出无家可归的比率提高5.16%。
2025-08-11 cs.LG math.OC physics.soc-ph
Energy-Aware Deep Learning on Resource-Constrained Hardware
Imperial College London(伦敦帝国学院);University of Cambridge(剑桥大学)
本文针对物联网与移动设备的能量约束问题,综述了资源受限硬件上用于优化深度学习推理与训练的能量感知方法,分析其方法论、能效影响及局限性,为相关未来研究提供基础。
2025-05-18 cs.AR cs.LG
Curriculum Design for Trajectory-Constrained Agent: Compressing Chain-of-Thought Tokens in LLMs
MPI-SWS(马克斯·普朗克所际研究所)
提出一种逐步收紧约束的课程学习策略,通过理论分析与跨RL及LLM智能体的多环境实验验证,有效提升轨迹约束下智能体的训练效率,并实现LLM思维链token压缩与推理加速。
2025-11-04 cs.LG
AdaSplit: Adaptive Trade-offs for Resource-constrained Distributed Deep Learning
MIT(麻省理工学院);BIT(印度博拉理工学院);DTU(德里理工大学)
分布式深度学习框架,如联邦学习(FL)及其变体,正在广泛的Web客户端和移动/物联网设备上实现个性化体验。然而,由于模型参数的爆炸式增长,基于FL的框架受到客户端计算资源的限制(例如,十亿参数模型)。拆分学习(SL)是一个新的框架,通过在客户端和服务器之间拆分模型训练来减少客户端的计算负载。这种灵活性对于低计算设置非常有用,但通常是以增加带宽消耗为代价的,并且可能导致次优收敛,特别是当客户端数据是异构的时。在这项工作中,我们引入AdaSplit,它可以有效地扩展SL低资源的情况下,通过减少带宽消耗和提高性能的异构客户端。为了捕捉和基准测试分布式深度学习的这种多维性质,我们还引入了C3-Score,这是一种在资源预算下评估性能的指标。我们通过与强大的联邦和分裂学习基线进行广泛的实验比较,在有限的资源下验证了AdaSplit的有效性。我们还提出了一个敏感性分析的关键设计选择,在AdaSplit验证的能力,AdaSplit提供适应性权衡可变的资源预算。
2021-12-02 cs.LG
MorphNet: Fast & Simple Resource-Constrained Structure Learning of Deep Networks
Google Research(谷歌研究院);Google Brain(谷歌大脑);MIT(麻省理工学院);Georgia Institute of Technology(佐治亚理工学院)
我们提出了MorphNet,一种自动设计神经网络结构的方法。MorphNet迭代地收缩和扩展网络,通过激活上的资源加权稀疏正则化器收缩,并通过所有层上的统一乘法因子扩展。与以前的方法相比,我们的方法可扩展到大型网络,适应特定的资源约束(例如,每次推理的浮点运算次数),并能够提高网络的性能。当应用于各种数据集上的标准网络架构时,我们的方法在每个域中发现了新的结构,在尊重资源约束的同时获得了更高的性能。
2018-04-17 cs.LG stat.ML
Bit-serial Weight Pools: Compression and Arbitrary Precision Execution of Neural Networks on Resource Constrained Processors
University of California, Los Angeles(加州大学洛杉矶分校)
近年来,神经网络在边缘系统上的应用激增,但不断增加的模型大小使得神经网络无法有效地部署在资源受限的微控制器上。我们提出了位串行权重池,一个端到端的框架,包括网络压缩和任意子字节精度的加速。与8位网络相比,该框架可以通过在整个网络中共享权重池来实现高达8倍的压缩。我们进一步提出了一个基于位串行查找的软件实现,允许运行时位宽权衡,并能够实现超过2.8倍的加速比和7.5倍的存储压缩相比,8位权重池网络,精度下降不到1%。
2022-01-25 cs.LG cs.PF
FADE: Enabling Federated Adversarial Training on Heterogeneous Resource-Constrained Edge Devices
Duke University(杜克大学);Accenture(埃森哲)
针对资源受限异构边缘设备难以承担联邦对抗训练的问题,提出 FADE 框架,通过差异化模型解耦、单模块训练和辅助权重衰减降低内存与计算开销,并提供收敛及鲁棒性保证。
2023-04-26 cs.LG
Federated Hyperdimensional Computing for Resource-Constrained Industrial IoT
Tampere University(塔尔皮奥大学);Tampere Institute for Advanced Study(塔尔皮奥高级研究 institute);Intel Corporation(英特尔公司)
本文提出一种轻量级联邦超维度计算框架,用于解决工业物联网中内存、计算能力和无线带宽受限的问题,通过原型表示交换降低通信开销,实现快速收敛和高效协作学习。
2026-03-20 cs.LG cs.NI
Through-life Monitoring of Resource-constrained Systems and Fleets
University of Sheffield(谢菲尔德大学);Rolls-Royce Plc(罗尔斯·罗伊斯公司)
数字孪生(DT)是一个物理系统的模拟,它提供信息来做出增加经济、社会或商业价值的决策。物理系统的行为随着时间的推移而变化,因此DT必须使用来自物理系统的数据不断更新,以反映其不断变化的行为。对于资源受限的系统,更新DT是不平凡的,因为存在诸如板载学习和板外数据传输之类的挑战。本文提出了一个框架,用于更新数据驱动的DT的资源受限的系统,面向系统健康监测。所提出的解决方案包括:(1)运行轻量级DT的车载系统,允许对物理系统生成的数据进行优先级排序和精简传输;以及(2)DT的非车载鲁棒更新和异常行为检测。两个案例研究被认为是使用生产燃气涡轮发动机系统,以证明真实世界的数字表示精度,随时间变化的物理系统。
2023-01-03 cs.LG cs.SY eess.SY
Binarized Neural Networks for Resource-Constrained On-Device Gait Identification
Stanford Computer Science(斯坦福大学计算机科学系);Stanford Electrical Engineering(斯坦福大学电气工程系);UnifyID Co.(UnifyID公司)
通过步态分析的用户认证是判别神经网络的一个有前途的应用-特别是由于步态加速度计的主要来源,口袋里的手机的无处不在。然而,传统的机器学习模型通常太大并且计算昂贵,以至于不能在低资源移动设备上进行推理。我们提出,二值化的神经网络可以作为强大的鉴别器,保持可接受的准确度水平,同时也大大降低了内存需求,从而实现设备上的推理。为此,我们提出了BiPedalNet,这是一种紧凑的CNN,几乎与Padova步态数据集的最新技术相匹配,内存开销仅为1/32。
2021-03-30 cs.LG
Deep Reinforcement Learning for Resource Constrained Multiclass Scheduling in Wireless Networks
EURECOM(欧洲通信学院);LTCI, Telecom Paris, Institut Polytechnique de Paris(巴黎理工学院巴黎电信学院LTCI)
本文研究了动态异构无线环境下的资源受限调度问题。在我们的设置中,分配可用的有限带宽资源,以服务随机到达的服务需求,这反过来又属于不同的类的有效载荷数据的要求,延迟容忍度,和重要性/优先级。除了异构业务,另一个主要的挑战源于随机的服务速率,由于时变的无线通信信道。可以使用用于调度和资源分配的各种方法,范围从简单的贪婪算法和约束优化到组合算法。这些方法是针对特定的网络或应用程序配置定制的,通常不是最佳的。为此,我们求助于深度强化学习(DRL),并提出了一种分布式深度确定性策略梯度(DDPG)算法结合深度集来解决上述问题。此外,我们提出了一种新的方式来使用决斗网络,这导致进一步的性能改善。我们提出的算法进行了测试的合成和真实的数据,显示一致的收益对国家的最先进的传统方法从组合,优化和调度指标。
2022-03-31 cs.IT cs.LG cs.NI
FTTE: Enabling Federated and Resource-Constrained Deep Edge Intelligence
本文提出FTTE框架,通过稀疏参数更新和基于年龄和方差的滞后期加权聚合,解决联邦学习在资源受限边缘节点上的部署难题,实现更快收敛和更低资源消耗。
2026-03-23 cs.LG
Optimizing Resource-Constrained Non-Pharmaceutical Interventions for Multi-Cluster Outbreak Control Using Hierarchical Reinforcement Learning
The Ohio State University(俄亥俄州立大学)
本文提出分层强化学习框架,用于在资源受限条件下优化多集群疫情控制的非药物干预策略,通过动态模拟SARS-CoV-2疫情,验证了该方法在提升疫情控制效果和可扩展性方面的优势。
2026-05-01 cs.LG