Online Edge Caching in Fog-Aided Wireless Network
在雾无线电接入网络(F-RAN)架构中,边缘节点(EN)(诸如基站)配备有有限容量的高速缓存,以及可以支持来自云处理器的给定传输速率的前传链路。F-RAN中的内容递送的现有信息理论分析集中于具有单独的内容放置和递送阶段的离线缓存。相比之下,这项工作认为在线缓存设置,其中一组流行的文件是随时间变化的,缓存补充和内容交付可以发生在每个时隙。该分析集中在长期的归一化传输时间(NDT),它捕获的时间依赖性的编码延迟在多个时隙中的高信噪比制度的表征。在线缓存和交付计划的基础上反应性和主动缓存的研究,其性能进行了比较,以最佳的离线缓存方案分析和通过数值结果。
2017-12-03 cs.IT cs.NI math.IT
A provably efficient online collaborative caching algorithm for multicell-coordinated systems
在基站处的高速缓存使内容更接近用户,减少了通过回程链路的业务,并且减少了蜂窝用户所经历的延迟。蜂窝网络运营商可以向内容提供方收取缓存其内容的费用。此外,如果用户没有得到他们期望的服务质量,例如视频点播服务中的最大可容忍延迟,则内容提供方可能失去他们的用户。在本文中,我们研究的协作缓存问题的多细胞协调系统的角度来看,最小化的总成本由内容提供方。我们把这个问题表示为一个非线性规划问题,并证明了它的NP-完全性。我们还提供了一个在线缓存算法,不需要任何知识的内容流行度。我们证明了在线算法实现了$\mathcal{O}(\log(n))$的竞争比,我们表明,任何在线算法可以实现的最佳竞争比是$Ω(\frac{\log(n)}{\log\log(n)})$。因此,我们提出的缓存算法是可证明有效的。通过模拟,我们表明,我们的在线算法执行非常接近的最佳离线协作方案,并可以优于它时,内容流行度没有得到适当的估计。
2015-09-09 cs.NI
Asymptotically-Optimal Incentive-Based En-Route Caching Scheme
在中间结点处的内容缓存是优化计算机网络的操作的非常有效的方式,使得可以在不返回内容的起源的情况下服务未来的请求。自从这个概念出现以来,已经提出了几种缓存技术,包括需要对Internet架构进行重大更改的技术,如内容中心网络。这些技术中很少考虑为节点提供缓存激励或为内容所有者提供服务质量保证。在这项工作中,我们提出了一个低复杂性,分布式,在线算法,使缓存的决定,根据内容的流行程度,同时考虑到上述问题。我们的算法执行途中缓存。因此,它可以与当前的TCP/IP模型集成。为了衡量任何在线缓存算法的性能,我们将竞争比定义为在线算法在流量节省方面的性能与具有完整未来知识的最佳离线算法的性能之比。我们表明,在我们的设置下,没有在线算法可以实现更好的竞争比$Ω(\log n)$,其中$n$是网络中的节点数。此外,我们表明,在现实的情况下,我们的算法有一个渐近最优的竞争比在网络中的节点数。我们还研究了基本算法的扩展,并通过大量的模拟显示其有效性。
2014-08-26 cs.NI
Dynamic Regret of Randomized Online Service Caching in Edge Computing
本文研究了一个在线服务缓存问题,在边缘服务器,配备了一个预测窗口,未来的服务请求到达,需要决定哪些服务本地托管有限的存储容量。边缘服务器旨在最小化请求转发成本(即,将请求转发到远程数据中心进行处理的成本)和服务实例化成本(即,即检索和建立服务)。考虑到实际应用中请求模式的非平稳性,采用动态遗憾度来衡量边缘服务器的性能,并将总代价与动态最优离线解的总代价进行比较。为了解决这个问题,我们提出了一个低复杂度的随机在线算法,并从理论上推导出其预期动态后悔的上界。仿真结果表明,我们的算法显着优于其他国家的最先进的政策方面的运行时间和预期的总成本。
2023-01-10 cs.NI
Adaptive Caching Networks with Optimality Guarantees
我们研究的问题,最佳的内容放置在一个网络的缓存,一个问题自然出现在几个网络应用程序,包括ICN,CDN和P2P系统。给定内容请求速率和所遵循的路径的需求,我们希望确定使预期缓存增益最大化的内容放置,即,由于中间缓存而减少了路由成本。这个问题的离线版本是NP难的,并且一般来说,需求和拓扑可能是先验未知的。因此,需要一种分布式的、自适应的、恒定近似的内容放置算法。我们表明,路径复制,一个简单的算法经常在文献中遇到的,可以任意次优结合传统的驱逐政策,如LRU,LFU,或FIFO。我们提出了一个分布式的,自适应的算法,执行随机梯度上升的预期缓存增益的凹松弛,并构造一个概率内容放置在1-1/e的因素,从最佳的,在预期中。出于我们的分析,我们还提出了一种新的贪婪驱逐政策与路径复制,并通过数值评估表明,这两种算法显着优于传统的驱逐政策在广泛的网络拓扑结构的路径复制。
2016-04-11 cs.NI
Asynchronous Coded Caching with Uncoded Prefetching
编码缓存是一种技术,它承诺大大减少内容分发网络中的网络流量。然而,最初的表述和该领域的几个后续贡献假设来自用户的文件请求是同步的,即,它们同时到达服务器。在这项工作中,我们制定和研究的编码缓存问题时,从用户的文件请求到达不同的时间。我们假设每个用户也有一个规定的截止日期,他们希望他们的请求被完成。在离线的情况下,我们假设服务器在开始传输之前知道到达时间,而在在线的情况下,用户请求随着时间的推移被透露给服务器。我们提出了一个线性规划公式的离线情况下,最大限度地减少了总利率的约束,每个用户满足他/她的最后期限。虽然在线的情况下是更难,我们介绍了一种新的启发式的在线情况下,并表明,在一定的条件下,每个用户的请求可以满足她/他的最后期限的概率很高。我们的模拟结果表明,在存在轻度缓存的情况下,编码缓存的大部分好处仍然可以利用。
2020-06-18 cs.IT cs.NI math.IT
Joint Optimization of DNN Model Caching and Request Routing in Mobile Edge Computing
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);Department of Computer Science and Engineering, The Chinese University of Hong Kong(香港中文大学计算机科学与工程系)
本文研究移动边缘计算网络中DNN模型缓存与请求路由的联合优化问题,提出CoCaR算法提升用户请求推理精度,CoCaR-OL在动态场景下进一步提升用户体验质量。
2026-05-12 cs.NI
Adaptive Contextual Caching for Mobile Edge Large Language Model Service
针对移动边缘LLM部署的资源约束与缓存低效问题,提出基于深度强化学习的自适应上下文缓存框架,可提升缓存命中率、降低检索延迟与更新开销,支撑边缘环境低延迟LLM服务。
2025-01-16 cs.NI
User Preference Learning Based Edge Caching for Fog Radio Access Network
研究了雾天无线接入网(F-RAN)中的边缘缓存问题。通过最大化整体缓存命中率,边缘缓存优化问题,制定找到最佳的政策。从区域用户的角度考虑内容在时间和空间上的受欢迎程度。提出了一种利用内容特征和用户偏好的在线内容流行度预测算法,以及一种利用{在线梯度下降}(OGD)方法和{跟随(邻近)正则化领导者}(FTRL-Proximal)方法的离线用户偏好学习算法。我们提出的边缘缓存策略不仅可以以低复杂度的在线方式及时预测未来的内容流行度,{而且}可以跟踪内容流行度的空间和时间流行度动态的时间没有延迟。此外,我们设计了两个基于学习的边缘缓存架构。此外,我们从理论上推导出流行度预测误差的上限,缓存命中率的下限,以及我们提出的边缘缓存策略的整体缓存命中率的遗憾界。仿真结果表明,我们提出的策略的整体缓存命中率优于传统的策略,并渐近接近最优性能。
2019-02-27 cs.IT cs.NI math.IT
Content Placement in Networks of Similarity Caches
相似性缓存系统最近吸引了科学界的注意,因为它们可以在许多应用环境中有益地使用,如多媒体检索,广告,对象识别,推荐系统和在线内容匹配应用。在这样的系统中,对不在高速缓存中的对象$o$的用户请求可以由类似的存储对象"$o$“(部分地)满足,代价是用户效用的损失。在本文中,我们的第一步进入新的领域的相似性缓存网络,请求可以沿着缓存路径转发,以获得最佳的效率和准确性的权衡。离线的内容放置问题可以很容易地被证明是NP难的,而不同的多项式算法可以被设计成接近离散情况下的最优解。随着内容空间变大,我们提出了一个连续的问题制定其解决方案表现出一个简单的结构,在一类树拓扑。我们使用合成和现实的请求跟踪来验证我们的发现。
2021-02-09 cs.DC cs.IR cs.NI
Attention-Enhanced Prioritized Proximal Policy Optimization for Adaptive Edge Caching
Lassonde School of Engineering at York University(约克大学拉松德工程学院);School of Electronic and Computer Engineering at the Hong Kong University of Science and Technology(香港科技大学电子与计算机工程学院);School of Engineering and Applied Science at the University of Pennsylvania(宾夕法尼亚大学工程与应用科学学院);School of Electrical and Computer Engineering at the University of Tehran(德黑兰大学电气与计算机工程学院)
针对边缘缓存现有方法决策时机假设不合理、未整合多类文件属性的问题,提出基于SMDP建模与注意力增强的优先级PPO缓存策略,提升了性能与收敛速度。
2024-10-30 cs.LG cs.NI cs.SY
Inferring Causal Relationships to Improve Caching for Clients with Correlated Requests: Applications to VR
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Purdue University(普渡大学)
本文提出LFRU策略,通过推断客户端请求中的因果关系,优化缓存驱逐,提升虚拟现实环境中的缓存性能。
2025-12-09 cs.NI cs.SE
Online Coded Caching
我们考虑一个基本的内容分发的情况下,由一个单一的源服务器通过共享瓶颈链接连接到一些用户,每个配备了一个有限的内存缓存。用户从一组流行文件中发出一系列内容请求,目标是操作缓存和服务器,以便通过共享链接发送的最小位数满足这些请求。假设一个基本的马尔可夫模型更新的一组流行的文件,我们近似的最佳长期平均速率的共享链接的特征。我们进一步证明,最佳的在线方案具有近似相同的性能作为最佳的离线方案,其中缓存内容可以更新的基础上,在每个新的请求之前的整个流行的文件集。为了支持这些理论结果,我们提出了一种在线编码缓存方案,称为编码最近发送(LRS),并模拟它的需求时间序列来自Netflix的Netflix奖提供的数据集。对于这个时间序列,我们表明,建议的编码LRS算法显着优于流行的最近最少使用(LRU)缓存算法。
2013-11-14 cs.IT cs.NI math.IT
Online Edge Caching and Wireless Delivery in Fog-Aided Networks with Dynamic Content Popularity
雾无线电接入网络(F-RAN)架构可以利用云处理和边缘缓存来向用户提供内容。为此,F-RAN利用边缘节点(EN)处的缓存和将云处理器连接到EN的前传链路。假设时不变的内容流行度,F-RAN中内容交付的现有信息理论分析依赖于具有单独内容放置和交付阶段的离线缓存。相比之下,这项工作的重点是场景中的一组流行的内容是随时间变化的,因此有必要在线补充的EN的高速缓存随着所请求的文件的交付。该分析集中在长期的归一化传输时间(NDT),它捕获的时间依赖性的编码延迟在多个时隙中的高信噪比制度的表征。在线边缘缓存和交付计划的串行和流水线传输模式的前传和边缘段。分析结果表明,在内容流行度随时间变化的情况下,前传链路的速率对F-RAN系统的长期无损检测设置了根本限制。分析结果进一步验证了数值模拟,产生重要的设计见解。
2018-04-22 cs.IT cs.NI math.IT
Optimizing Replacement Policies for Content Delivery Network Caching: Beyond Belady to Attain A Seemingly Unattainable Byte Miss Ratio
当在内容分发网络(CDN)缓存中面对不同大小的对象/文件时,通过近似Belady来追求最佳对象未命中率(OMR)不再确保最佳字节未命中率(BMR),从而对如何在CDN中实现卓越的BMR产生了困惑。为了解决这个问题,我们通过实验观察到,存在一个时间窗口来延迟具有最长重用距离的对象的驱逐,以在不增加OMR的情况下提高BMR。因此,我们引入了一个深度强化学习(RL)模型,通过动态监控OMR和BMR的变化来捕捉这个时间窗口,并在时间窗口中实施BMR友好的策略。基于此策略,我们提出了一个Belady和大小驱逐(LRU-BaSE)算法,减少BMR,同时保持OMR。为了使LRU-BaSE有效和实用,我们用双管齐下的方法解决RL的反馈延迟问题。一方面,我们观察到LRU缓存队列的后部包含大多数驱逐候选者,这使得LRU-BaSE可以缩短决策区域。另一方面,CDN上的请求分布使得将学习区域划分为多个子区域是可行的,每个子区域都是以减少的时间和增加的准确性来学习的。在实际的CDN系统中,与LRU相比,LRU-BaSE可以平均减少30.05%的“回操作系统”流量和17.07%的访问延迟。仿真结果表明,LRU-BaSE的性能优于现有的缓存替换策略,平均而言,LRU-BaSE的BMR分别比Belady和Practical Flow-based Offline Optimal(PFOO)的BMR低0.63%和0.…
2022-12-28 cs.NI
A rolling-horizon dynamic programming approach for collaborative caching
本文从网络经济学的角度研究了在线协作内容缓存问题。该网络由具有有限缓存容量的小小区基站(SCBS)和宏小区基站(MCBS)组成。SCBS通过高速链路与其相邻的SCBS连接,并协作决定缓存哪些数据。内容在非高峰时段“免费”放置在SCBS上,并在考虑网络使用成本的情况下根据内容需求在白天进行更新。我们首先建模的缓存优化作为一个有限的地平线马尔可夫决策过程,采用自回归模型来预测内容需求的演变。该问题是NP-难的,并且只能针对少量的基站和内容找到最优解。为了让推导出接近最优的解决方案,为较大的网络,我们提出了滚动时域方法,它近似未来的网络使用成本,考虑一个小的决策范围。结果表明,滚动时域方法明显优于比较方案。最后,我们研究了两个简化的问题,以加快解决方案的速度:(a)我们限制网络中的内容副本的数量和(b)我们限制允许的内容替换。结果表明,滚动时域方案可以减少超过84%的通信成本相比,运行最近最少使用(LRU)更新离线计划。结果还揭示了缓存策略的效率和运行在线算法所需的时间之间的权衡。
2019-07-31 cs.IT cs.NI math.IT
RetroRenting: An Online Policy for Service Caching at the Edge
共享边缘计算平台的快速增长使应用服务提供商能够部署具有严格延迟和高带宽要求的各种服务。这些平台的一个关键优势是,它们通过短期合同向客户收取与其资源使用量成比例的费用,从而提供了现收现付的灵活性。这为客户端提供了显著的成本节约机会,通过动态决定何时在平台上托管其服务,这取决于不断变化的请求强度。我们设置的自然策略是生存时间(TTL)策略。我们表明,TTL在对抗性到达设置中表现不佳,即,在竞争比方面,对于i.i.d.具有低到达率的随机到达,与TTL定时器的值无关。我们提出了一个在线政策称为RetroRenting(RR),并表明,在确定性的在线政策类,RR是订单最优的竞争比。此外,我们还为RR for i.i.d.提供性能保证。随机到达过程加上负相关的租金成本序列,并证明它比较好的最优在线策略。此外,我们使用合成和真实世界的痕迹进行模拟,比较性能的RR与最佳的离线和在线政策。仿真结果表明,RR的性能是接近最佳的所有考虑的设置。我们的结果说明了RR的普遍性。
2021-05-17 cs.NI cs.SY eess.SY
Network Orchestration in Mobile Networks via a Synergy of Model-driven and AI-based Techniques
针对移动网络中主动缓存位置选择的组合优化难题,本文提出融合深度CNN预测与缩减规模优化的框架,实现实时高质量决策,降低计算复杂度。
2020-04-01 cs.NI eess.SP