Octopus: A Cooperative Hierarchical Caching Strategy for Cloud Radio Access Networks
最近,在基于云的计算平台上实现无线电接入网络(RAN)功能已经成为一种新兴的解决方案,该解决方案利用云基础设施的许多优点,例如共享计算资源和存储容量,同时降低运营成本。在本文中,我们提出了一种新的缓存框架,旨在充分利用这种基于云的RAN(C-RAN)系统的潜力,通过合作分层缓存,最大限度地减少网络成本的内容交付,提高用户的体验质量(QoE)。特别是,我们认为云处理单元(CPU)中的云缓存是RAN缓存层次结构中的一个新层,弥合了传统的基于边缘和基于核心的缓存方案之间的容量-性能差距。延迟成本模型的特点和制定的缓存布局优化问题,这是NP完全的。为此,提出了一种低复杂度的启发式缓存管理策略,由主动式缓存分配算法和被动式缓存替换算法组成。使用真实世界的YouTube视频请求和合成内容请求进行了大量的数值模拟。结果表明,我们提出的八达通缓存策略显着优于传统的缓存策略的缓存命中率,平均内容访问延迟和回程流量负载。
2016-10-21 cs.NI
CABaRet: Leveraging Recommendation Systems for Mobile Edge Caching
最近提出了联合缓存和推荐,以提高移动边缘缓存的效率。虽然以前的工作假设移动网络运营商和内容提供方(谁控制的推荐系统)之间的合作,这可能是具有挑战性的,在今天的经济生态系统,现有的协议和架构。在本文中,我们提出了一种方法,使缓存感知的建议,而不需要网络和内容提供方的合作。我们利用推荐系统公开提供的信息,并构建一个提供缓存友好和高质量推荐的系统。我们将我们的方法应用于YouTube服务,并对YouTube视频推荐和视频请求实验进行测量,以评估缓存命中率的潜在收益。最后,我们分析研究的缓存优化问题,根据我们的方法。我们的研究结果表明,在实践中可以实现显着的缓存增益;从缓存感知的建议,缓存命中率增加8至10倍,并从缓存优化额外增加2倍。
2018-06-07 cs.NI
Online Caching and Coding at the WiFi Edge: Gains and Tradeoffs
无线边缘的视频内容交付继续受到带宽不足和高度动态用户行为的挑战,这影响了有效吞吐量和延迟。已经发现在网络边缘处的高速缓存和编码传输可以提高视频内容递送的用户性能。无线边缘站(BS、AP)和用户终端设备上的缓存可以通过预缓存内容或使用在线缓存策略来填充。在本文中,我们提出了一个系统,内容被缓存在WiFi网络的用户通过在线缓存策略,编码交付是由WiFi AP提供所请求的内容的用户人群。用户处的高速缓存的内容用作索引编码的辅助信息。我们还提出了LFU索引缓存替换政策,在用户,明显提高了索引编码的机会,在WiFi AP的建议系统。通过广泛的模拟研究,我们确定了通过编码缓存和索引实现的收益。接下来,我们分析了它们之间的权衡,从用户不同的内容请求行为的数据传输,延迟和吞吐量。我们还表明,建议的缓存替换政策比传统的缓存替换政策,如LRU和LFU的性能更好。
2020-01-21 cs.NI
Distributed Edge Caching Scheme Considering the Tradeoff Between the Diversity and Redundancy of Cached Content
已经提出在蜂窝网络的边缘处缓存流行内容以减少负载,并且因此减少回程链路的成本。决定应缓存哪些文件以及将它们缓存到哪里非常重要。在本文中,我们提出了一个分布式缓存方案,考虑基站缓存内容的多样性和冗余之间的权衡。在不同的基站中缓存相同或不同的内容是否更好?为了找出这一点,我们制定了一个最佳的冗余缓存问题。我们的目标是最大限度地减少网络的总传输成本,包括无线接入网(RAN)内的成本和通过回程链路传输到核心网的成本。采用自适应粒子群优化(PSO)算法求解给定系统配置下的最优冗余度。通过Monte-Carlo仿真分析了系统重要参数对系统性能的影响。结果表明,最佳冗余率主要受两个参数的影响,这是回程到RAN的单位成本比和文件流行度分布的陡度。当选择最佳冗余比时,在给定回程到RAN的单位成本比的情况下,总成本可以降低高达54%。在典型的文件请求模式下,减少量可高达57%。
2017-03-31 cs.NI
Femto-Caching with Soft Cache Hits: Improving Performance through Recommendation and Delivery of Related Content
将流行内容推送到廉价的“助手”节点(例如,最近提出了在非高峰时间期间的小型小区)来应对移动数据业务的增加。如果所请求的内容在至少一个附近的助手中可用,则可以从这些助手节点本地服务用户请求。然而,在实践中,几个附近的助手节点的集体存储通常不足以实现足够高的命中率。我们建议离开硬缓存命中的假设,在现有的作品中常见,并考虑“软”缓存命中,如果原始内容不可用,一些相关的内容,本地缓存可以被推荐。鉴于互联网内容消费是面向娱乐的,我们认为存在用户可能接受替代内容的情况(例如,用于替代内容的更好的下载速率、低速率计划等),从而避免接入昂贵/拥塞的链路。我们制定了一个相对通用的设置与软缓存命中的最佳边缘缓存的问题,提出了有效的算法,并分析了预期的收益。然后,我们使用合成和真实的数据集相关的视频内容,有前途的缓存增益可以在实践中实现。
2017-02-16 cs.NI
Joint Cache Resource Allocation and Request Routing for In-network Caching Services
网内缓存被认为是一种有效的解决方案,以减轻内容服务器和网络的负担。高速缓存服务提供商(SP)总是有动机通过考虑内容提供方(CP)扮演的不同角色来更好地利用其高速缓存资源,例如,他们的商业模式、流量特征、偏好。本文研究了多Cache多CP环境下的Cache资源分配问题。我们提出了一个缓存分区的方法,其中每个缓存可以被划分成切片,每个切片专用于一个内容提供方。我们提出了一个内容无关的请求路由算法,由个人缓存,优化每个CP的路由策略。我们与每个内容提供商相关联的实用程序,是其内容交付性能的函数,并制定了一个优化问题的目标,以最大限度地提高所有内容提供方的效用之和。我们建立的问题的双凸性,并开发基于凸的子问题的分散(在线)算法。该模型进一步扩展到带宽受限和最小延迟的情况下,我们证明了基本属性,并开发高效的算法。最后,我们提出的数值结果显示我们的机制和我们的算法的收敛性的有效性。
2017-12-11 cs.NI
Adaptive Contextual Caching for Mobile Edge Large Language Model Service
针对移动边缘LLM部署的资源约束与缓存低效问题,提出基于深度强化学习的自适应上下文缓存框架,可提升缓存命中率、降低检索延迟与更新开销,支撑边缘环境低延迟LLM服务。
2025-01-16 cs.NI
Efficient Proactive Caching for Supporting Seamless Mobility
我们提出了一种分布式主动缓存的方法,利用用户的移动性信息来决定在哪里主动缓存数据,以支持无缝移动,同时有效地利用缓存存储使用拥塞定价方案。所提出的方法是适用于对象具有不同的大小和一个两级缓存层次结构的情况下,这两个主动缓存的问题是很难的。此外,我们的建模框架考虑的情况下,延迟是独立的请求的数据对象的大小和延迟的情况下,是一个函数的对象大小。我们的评估结果显示了各种系统参数如何影响所提出的方法的延迟增益,相对于Oracle和平面缓存结构的最佳方案,该方法具有鲁棒性和良好的性能。
2014-04-18 cs.NI
Coded Caching with Heterogenous Cache Sizes
我们研究异构缓存大小下的编码缓存方案。
2015-08-29 cs.IT cs.NI math.IT
Cost-aware caching: optimizing cache provisioning and object placement in ICN
高速缓存经常被互联网服务提供商用作一种可行的技术,以减少最终用户感知的延迟,同时联合卸载网络流量。虽然缓存命中率通常被认为是在文献中的主导性能指标,这种类型的系统,在本文中,我们认为,一个关键的缺失的一块迄今被忽视。采用一个完全不同的角度来看,在本文中,我们明确占内容检索的成本,即成本相关的外部带宽所需的ISP检索其客户所要求的内容。有趣的是,我们发现,经典的缓存供应技术,最大限度地提高缓存效率(即,命中率),导致具有更高总成本的次优解决方案。为了显示这种不匹配,我们提出了两个优化模型,要么最大限度地减少整体成本或最大限度地提高命中率,共同提供缓存大小,对象放置和路径选择。我们制定了一个多项式时间的贪心算法来解决这两个问题,并分析证明其最优性。我们提供的数值结果表明,显着的成本节约是可以实现的,通过成本意识的设计。
2014-08-26 cs.NI
Wireless Video Caching and Dynamic Streaming under Differentiated Quality Requirements
本文考虑一跳设备到设备(D2D)辅助无线缓存网络,缓存不同质量级别的视频文件,假设基站可以控制视频质量,但缓存设备不能。在这样的缓存网络中出现了两个问题:文件放置问题和节点关联问题。本文提出了一种方法来缓存不同质量的视频,从而不同的文件大小,通过最大化的视频质量措施,用户可以享受的总和。在视频质量和视频多样性之间存在有趣的折衷,即,提供各种视频文件的能力。通过缓存高质量的文件,启用缓存的设备可以提供高质量的视频,但不能缓存各种文件。相反,当设备缓存各种文件时,它不能为请求文件的用户提供良好的质量。此外,当多个设备缓存相同的文件但它们的质量不同时,文件传递需要高级节点关联。本文提出了一种节点关联算法,最大限度地提高时间平均视频质量的多个用户下的播放延迟约束。在该算法中,我们还考虑了请求冲突,即多个用户同时向同一设备请求文件的情况,我们提出了两种方法来应对冲突:一个用户的调度和非正交多址接入。仿真结果验证了所提出的缓存方法和节点关联算法的可靠性。
2018-06-05 cs.NI
Optimal Caching and Routing in Hybrid Networks
混合网络由移动自组织网络节点和蜂窝基础设施组成,最近被提出来提高军事网络的性能。先前的工作已经证明了在有线互联网环境中网络内内容缓存的好处。我们调查的问题,发展最佳的路由和缓存策略,在混合网络中支持网络缓存的目标是最大限度地减少整体内容访问延迟。在这里,所需的内容可以始终通过蜂窝基础设施在后端服务器处访问;或者,内容也可以通过MANET内配备高速缓存的“集群”节点访问。为了访问内容,MANET节点因此必须决定是否路由到内MANET集群节点或后端服务器通过蜂窝基础设施;内MANET集群节点必须另外决定缓存哪些内容。我们将蜂窝路径建模为i)对移动不敏感的固定延迟路径或ii)对移动敏感的M/M/1队列路径。我们证明了在固定的、独立的请求的假设下,采用静态缓存(即,以保持高速缓存的内容随时间固定)。我们还表明,这是最佳的路由到在MANET缓存的内容缓存在那里,但路由请求剩余的内容通过蜂窝基础设施的业务不敏感的情况下,并在MANET缓存和蜂窝基础设施的业务敏感的情况下,拆分之间的流量。我们开发了一个简单的分布式算法的联合路由/缓存问题,并通过仿真证明其有效性。
2014-07-07 cs.NI
Probabilistic Caching in Wireless D2D Networks: Cache Hit Optimal vs. Throughput Optimal
从传统的缓存命中优化在启用缓存的无线网络,我们认为一种替代的优化方法的概率缓存放置在随机无线D2D缓存网络考虑到D2D传输的可靠性。使用随机几何的工具,我们提供了一个封闭形式的近似缓存辅助吞吐量,它衡量的密度成功地服务于本地设备缓存的请求,我们得到了最佳的缓存概率与数值优化。与缓存命中最优的情况相比,通过缓存辅助吞吐量优化获得的最优缓存概率在成功服务的用户请求的密度方面显示出显着的增益,特别是在密集的用户环境中。
2016-11-09 cs.IT cs.NI math.IT
Learning to Cache With No Regrets
本文介绍了一种新的缓存分析,与以前的工作相反,没有建模假设的文件请求序列。我们投的缓存问题的在线线性优化(OLO)的框架,并介绍了一类最小的遗憾缓存政策,最大限度地减少损失的最佳静态配置在事后的请求模型是未知的。这些策略是非常重要的,因为它们对流行度偏差是鲁棒的,在这个意义上,当流行度模型改变时,它们学会调整它们的缓存决策。我们首先证明了一个新的下限的遗憾,任何缓存政策,改善现有的OLO界限,我们的设置。然后,我们证明了在线梯度上升(OGA)的政策保证了一个遗憾,符合下限,因此它是普遍最优的。最后,我们将注意力转移到一个网络的缓存安排,以形成一个二分图,并表明,二分次梯度算法(BSA)没有遗憾
2019-04-22 cs.NI
Cache Discovery Over a Multihop Wireless Ad Hoc Network
多跳自组织无线网络由移动节点组成,这些移动节点在没有任何固定基础设施的情况下相互通信。这些网络中的节点是功率受限的,因为它们在有限的电池能量下操作。在移动自组织网络中,协作缓存是一种减少网络流量和带宽需求的有吸引力的方案。在移动节点中部署缓存可以大大减少整体流量。缓存命中消除了频繁联系数据源的需要,从而避免了额外的网络开销。在本文中,我们提出了一个缓存发现策略的合作缓存,这减少了功耗,缓存开销和延迟。这是通过功率控制和传输范围调整来实现的。为此,开发了基于相邻节点位置坐标的缓存发现过程。仿真结果给出了一个有前途的结果的基础上的研究指标。
2014-06-20 cs.NI
Soft Cache Hits and the Impact of Alternative Content Recommendations on Mobile Edge Caching
在未来移动网络的边缘缓存流行内容已被广泛考虑,以减轻数据海啸对接入和回程网络的影响。已经提出了许多有趣的技术,包括毫微微缓存和“延迟”或机会主义缓存访问。然而,与互联网内容目录的巨大且快速增加的大小相比,这些方法中的大多数遭受边缘高速缓存的相当有限的存储容量。我们建议离开硬缓存未命中的假设,在大多数现有的作品中常见,并考虑“软”缓存未命中,如果原始内容不可用,可以推荐本地缓存的替代内容。鉴于互联网内容消费越来越以娱乐为导向,我们认为,相关的内容往往可以导致完全或至少部分用户满意,而无需通过昂贵的链接检索原始内容。在本文中,我们制定了最佳的边缘缓存与软缓存命中的问题,在延迟访问的背景下,并分析了预期的收益。然后,我们使用合成和真实的数据集相关的视频内容,有前途的缓存增益可以在实践中实现。
2016-09-30 cs.NI cs.PF
Exact Analysis of TTL Cache Networks: The Case of Caching Policies driven by Stopping Times
TTL缓存模型最近重新获得了重要的研究兴趣,主要是由于它们能够适应流行的缓存策略,如LRU。本文提出了基于TTL的缓存网络的最先进的分析,通过开发两个正交的通用性和计算复杂性的精确方法。第一种方法概括了现有的结果更新请求下的线网络的缓存政策,从而驱逐的停止时间驱动的广泛的类。所得到的结果进一步推广,使用第二种方法,前馈网络与马尔可夫到达过程(MAP)的要求。MAP特别适合于非线网络,因为它们不仅在叠加和分裂下是闭合的,如已知的,而且在输入-输出高速缓存操作下也是闭合的,如本文针对相位型TTL分布所证明的。这两个封闭属性的关键好处是,它们共同使第一次精确分析的前馈网络的TTL缓存在很大程度上的一般性。
2014-02-24 cs.NI cs.PF
Learning to Cache and Caching to Learn: Regret Analysis of Caching Algorithms
缓存算法的关键性能指标包括其快速准确地了解请求的流行度分布的能力。然而,大部分的工作分析性能分析的重点是命中概率后,一个渐进的大的时间已经过去了。我们认为一个在线学习的观点,并描述了“遗憾”的候选人缓存算法实现的命中之间的有限时间差方面的天才辅助计划,最流行的项目在缓存中。我们首先考虑完全观察机制,其中所有请求都被缓存看到。我们表明,最不频繁使用(LFU)算法是能够实现订单最佳遗憾,这是匹配的一个有效的计数算法设计,我们称之为LFU-建兴。然后,我们考虑部分观察制度,其中只有请求的项目目前缓存的缓存,使其类似于一个在线学习问题的多臂强盗问题。我们将展示如何接近这个“缓存强盗”使用传统的方法产生高复杂性或遗憾,但一个简单的算法设计,利用结构的分布可以确保秩序最佳遗憾。最后,我们用数值模拟来说明我们的见解。
2020-04-01 cs.NI cs.SY eess.SY
DistCache: Provable Load Balancing for Large-Scale Storage Systems with Distributed Caching
负载均衡对于分布式存储满足严格的服务级别目标(SLO)至关重要。已经表明,快速高速缓存可以保证集群存储系统的负载均衡。然而,当系统扩展到多个集群时,快速缓存本身将成为瓶颈。传统的缓存分区和缓存复制机制要么导致缓存节点之间的负载不平衡,要么为缓存一致性带来很高的开销。我们提出DistCache,一个新的分布式缓存机制,提供可证明的负载均衡的大规模存储系统。DistCache通过缓存拓扑和查询路由共同设计缓存分配。其核心思想是在不同层的缓存节点之间使用独立的哈希函数划分热对象,并使用二次选择的幂自适应路由查询。我们证明,DistCache使高速缓存的吞吐量线性增加的高速缓存节点的数量,通过统一的技术,从扩展图,网络流,排队论。DistCache是一种通用解决方案,可应用于许多存储系统。我们展示了DistCache的好处,提供设计,实施和评估的用例,新兴的基于交换机的缓存。
2019-02-14 cs.DC cs.NI
PA-Cache: Evolving Learning-Based Popularity-Aware Content Caching in Edge Networks
Chongqing University(重庆大学);Binghamton University, State University of New York(纽约州立大学宾汉姆顿大学);Swinburne University of Technology(斯威本科技大学);Harbin Institute of Technology(哈尔滨工业大学)
随着无处不在和个性化服务的蓬勃发展,大量移动设备在网络上产生了越来越多的流量。因此,内容缓存逐渐延伸到网络边缘,以提供低延迟服务,提高服务质量,并减少冗余数据流量。与传统的内容分发网络相比,边缘网络中具有较小尺寸的高速缓存通常必须容纳更多突发请求。在本文中,我们提出了一个不断发展的学习为基础的内容缓存策略,命名为PA缓存在边缘网络。它自适应地学习随时间变化的内容流行度,并确定当缓存已满时应该替换哪些内容。与传统的深度神经网络(DNN)不同,DNN使用具有高计算复杂性的整个训练数据集来学习微调但可能过时或有偏见的预测模型,PA-Cache对大量内容特征集进行加权,并在随着时间的推移有更多请求到达时从浅到深地训练多层递归神经网络。我们广泛评估我们提出的PA缓存的性能从一个大型的在线视频点播服务提供商在现实世界中的痕迹。\rb{The results show that PA-Cache outperforms existing popular caching algorithms and approximates the optimal algorithm with only a 3.8\% performance gap when the cache percentage is 1.0\%}。与传统的基于DNN的方法相比,PA-Cache还显着降低了计算成本。
2020-12-10 cs.LG cs.NI
Cache policies for cloud-based systems: To keep or not to keep
在本文中,我们研究基于云的缓存的缓存策略。基于云的缓存使用Amazon S3等云存储服务作为数据项的缓存,否则这些数据项将被重新计算。基于云的缓存与经典缓存不同:云资源可能是无限的,只有在使用时才付费,而经典缓存依赖于固定的存储容量,其主要货币成本来自初始投资。为了应对这种新的情况下,我们设计和评估一个新的缓存策略,最大限度地减少基于云的系统的整体成本。该策略考虑到物品的消费频率和云成本模型。我们表明,这种政策更容易操作,它的规模与需求,它优于经典的政策管理一个固定的容量。
2014-04-24 cs.DC cs.NI
Effect of Retransmissions on Optimal Caching in Cache-enabled Small Cell Networks
在小型小区的存储中缓存流行内容被认为是一种有效的技术,以补充超密集异构蜂窝网络中小型小区的有限回程。小型小区的有限存储容量使得确定要放置在每个小型小区上的最佳文件集(高速缓存)变得重要。与以前的作品最佳缓存,在这项工作中,我们研究了静态和移动用户场景的最佳缓存放置策略的重传效果。随着被建模为Zipf分布和最大n次传输的文件的流行,即,n-1次重传,允许接收每个文件,我们确定最大化命中概率的文件的最佳缓存概率。我们的封闭形式的最优解具体表明,最佳缓存概率是非常敏感的重传次数。
2017-03-23 cs.IT cs.NI math.IT
Spatial Concentration of Caching in Wireless Heterogeneous Networks
我们提出了一个分散的高速缓存策略,使内容放置决策的基础上成对的高速缓存节点之间的相互作用的无线异构网络。我们称我们提出的方案γ-排除缓存放置(GEC),其中参数γ控制排除半径,阻止附近的缓存存储冗余内容。GEC考虑了项目的流行度和节点的缓存优先级,并利用负相关来放松经典的0-1背包问题,以产生空间上平衡的采样跨缓存。我们表明,GEC保证了更好的浓度(降低方差)所需的高速缓存存储的大小比最先进的,高速缓存大小的限制,可以满足高概率。给定一个缓存命中概率目标,我们比较了三种缓存方案所需的缓存大小的95%置信区间:(i)独立放置,(ii)硬排除缓存(HEC),和(iii)建议的GEC方法。对于均匀的空间流量,我们证明,GEC提供了约3倍和2倍的减少所需的缓存大小分别超过(i)和(ii)。对于基于城市场景中实际高峰时间变化的非均匀空间交通,收益甚至更大。
2021-01-06 cs.IT cs.NI math.IT
Joint Caching and Transmission in the Mobile Edge Network: A Multi-Agent Learning Approach
由于决策之间的深度耦合,联合缓存和传输优化问题具有挑战性。本文提出了一种迭代的分布式多智能体学习方法,共同优化缓存和传输。这种方法的目标是最小化所有用户的总传输延迟。在这种迭代方法中,每次迭代包括缓存优化和传输优化。开发了一种基于多智能体强化学习(MARL)的缓存网络来缓存流行的任务,例如回答从缓存中驱逐哪些文件以及存储哪些文件。传输网络根据缓存网络的缓存文件,采用多智能体贝叶斯学习自动机(MABLA)方法,通过单次传输(ST)或联合传输(JT)的方式为用户传输缓存文件。然后用户以最小的传输延迟访问边缘服务器。实验结果表明,所提出的多智能体学习方法的性能。
2022-09-09 cs.MA cs.NI
Federated Learning Assisted Edge Caching Scheme Based on Lightweight Architecture DDPM
针对边缘缓存中需兼顾隐私保护与缓存命中率提升的问题,提出基于轻量架构LDPM的联邦学习辅助边缘缓存方案,仿真验证其比现有FL方法和基线方法缓存命中率更高。
2025-06-14 cs.NI eess.SP
How to Cache Important Contents for Multi-modal Service in Dynamic Networks: A DRL-based Caching Scheme
针对动态网络中多模态内容缓存效率低的问题,提出基于D3QN的内容重要性评估与缓存方案,显著提升缓存命中率并降低网络负载、跳数及未满足请求比例。
2024-03-27 cs.MM cs.NI
Security and Privacy for Mobile Edge Caching: Challenges and Solutions
移动边缘缓存技术是下一代移动网络的一项重要技术,能够有效地在网络边缘提供服务环境和云存储能力。通过充分利用网络边缘的存储和计算资源,移动边缘缓存可以显著降低服务延迟,降低网络负载,改善用户体验。另一方面,边缘缓存受到许多关于隐私侵犯和安全漏洞的威胁。在本文中,我们首先介绍了移动边缘缓存的架构,并解决了关于为什么,在哪里,什么和如何缓存的关键问题。然后,我们研究了潜在的网络威胁,包括缓存中毒攻击,缓存污染攻击,缓存侧信道攻击,缓存欺骗攻击,导致巨大的关注隐私,安全性和信任的内容放置,内容交付,和移动用户的内容使用,分别。在此之后,我们提出了一个面向服务和基于位置的高效密钥分发协议(SOLEK)作为一个例子,在移动边缘缓存的高效和安全的内容交付。最后,我们讨论了保护隐私的内容放置,高效和安全的内容交付,以及可信的内容使用,预计将吸引更多的关注和努力到安全的边缘缓存的潜在技术。
2020-12-06 cs.CR cs.NI
Limited Associativity Caching in the Data Plane
网络内缓存有望提高网络和边缘应用程序的性能,因为它缩短了数据需要传输的路径。这是通过在访问数据的客户端和维护数据的存储服务器之间的网络交换机中存储所谓的热项来实现的。由于数据流在任何情况下都要经过这些交换机,因此在那里缓存热项是很自然的。大多数软件管理的缓存将缓存视为完全关联的区域。唉,完全关联的设计似乎与可编程交换机在有限的时间内处理数据包的目标以及其受限的编程模型不一致。在这项工作中,我们提出了PKache,一个通用的有限关联性高速缓存实现在可编程交换机的域特定的P4语言,并通过实现多个流行的高速缓存管理方案,证明其实用性。
2022-03-09 cs.NI cs.OS
Asymptotic Scaling Laws of Wireless Adhoc Network with Physical Layer Caching
我们提出了一种用于无线自组织网络的物理层(PHY)缓存方案。PHY缓存利用缓存辅助的多跳增益和缓存诱导的双层CoMP增益,这大大提高了无线adhoc网络的吞吐量。特别是,PHY缓存方案包含一种新的PHY传输模式,称为缓存诱导的双层CoMP,它可以支持无线自组织网络中的同构机会CoMP。与传统的每节点吞吐量缩放结果Θ \left(1/ \sqrt{N} \right)相比,对于一个具有N个节点的缓存无线自组织网络,我们可以获得O(1)的每节点吞吐量。此外,我们分析了吞吐量的常规无线adhoc网络的PHY缓存方案,并研究了各种系统参数对PHY缓存增益的影响。
2015-10-18 cs.IT cs.NI math.IT
Economical Caching for Scalable Videos in Cache-enabled Heterogeneous Networks
我们开发了最佳的经济缓存方案,在高速缓存启用异构网络,同时提供个性化的观看质量的移动用户的多媒体视频服务。通过应用可伸缩视频编码(SVC),将被请求的每个视频文件划分为一个基本层(BL)和若干增强层(EL)。为了分配不同的传输任务,服务小小区基站(SBS)被分组为K个簇。SBS能够缓存BL和EL内容并将其协作地发送给用户。通过解析推导成功传输概率和各态历经服务率的表达式,得到了经济效率的封闭形式。为了提高ECE性能,我们制定了两种情况下的ECE优化问题。在第一种情况下,在每个SBS处配备相等的高速缓存大小的情况下,确定层高速缓存指示符。由于该问题是NP-难的,在l0-范数近似之后,离散的优化变量被松弛为连续的,并且该松弛的问题是凸的。其次,基于松弛问题的最优解,我们设计了一个基于贪婪策略的启发式算法来实现接近最优的层缓存指标。在第二种情况下,每个SBS的高速缓存大小、层大小和层高速缓存指示符被联合优化。该问题是一个混合整数规划问题,具有较大的挑战性。为了有效地解决这个问题,原来的ECE最大化问题分为两个子问题。迭代求解这两个子问题,直到原优化问题收敛。数值结果验证了理论推导的正确性。此外,与最流行的层放置策略相比,所提出的基于SVC的缓存方案的性能优越性被证明。
2019-05-05 cs.MM cs.NI
On Decentralized Multi-Transmitter Coded Caching
本文研究了一种由多个发射机组成的设置,通过线性网络为多个启用缓存的客户端提供服务,该网络涵盖有线和无线传输情况。我们调查分散编码缓存的情况下,有没有合作或有限的合作客户端之间的缓存内容放置阶段。对于完全分散的高速缓存情况(即,没有合作),我们根据编码延迟度量来分析系统的性能。此外,我们研究了混合缓存内容放置场景,其中存在具有不同缓存内容放置情况的两组用户(即,有限合作)。此外,我们研究有限的文件大小在上述情况下的效果。
2021-09-14 cs.IT cs.NI math.IT
Cooperative Hierarchical Caching in 5G Cloud Radio Access Networks (C-RANs)
在过去几年中,云无线电接入网络(C-RAN)已经作为5G蜂窝网络的变革性架构而出现,其将云计算的灵活性和敏捷性带到无线通信中。与此同时,无线网络中的内容缓存已经成为降低内容访问延迟和回程流量负载的必要解决方案,这转化为用户体验质量(QoE)的改善和网络成本的降低。在这篇文章中,介绍了一种新的协作分层缓存(CHC)框架中的C-RAN的内容被联合缓存在基带单元(BBU)和无线电远程头(RRH)。与传统方法不同,BBU处的缓存(云缓存)在缓存层次结构中呈现了一个新的层,弥合了传统的基于边缘和基于核心的缓存方案之间的延迟/容量差距。跟踪驱动的模拟表明,CHC产生高达80%的高速缓存命中率的改善,平均内容访问延迟减少21%,回程流量负载减少20%相比,仅边缘缓存方案具有相同的总缓存容量。在结束本文之前,重点介绍了在C-RAN中部署内容缓存的几个挑战和有希望的机会,以实现以内容为中心的移动无线网络。
2017-04-08 cs.IT cs.NI math.IT
Multi-MEC Cooperation Based VR Video Transmission and Cache using K-Shortest Paths Optimization
在最近的网络架构中,已经引入了多MEC协作缓存来减少VR视频的传输延迟,其中MEC服务器的计算和缓存能力被用来优化传输过程。然而,许多使用MEC服务器的计算能力的解决方案忽略了编解码器过程所消耗的额外算术能力,从而使它们不可行。此外,最小缓存单元通常是整个VR视频,这使得缓存效率低下。为了解决这些问题,我们基于当前流行的网络架构,将VR视频分割成瓦片文件进行缓存,并提供了一种可靠的传输机制和有效的缓存策略。由于不同瓦片文件的数量N太大,当前的协作缓存算法不能处理这样大规模的输入数据。我们进一步分析了该问题,并提出了一个优化的k-最短路径(OKSP)算法,其上界时间复杂度为O((K * M + N)* M * logN)),适用于边数受限的最短路径,其中K是所有M个MEC服务器在协作域中可以缓存的瓦片总数.并证明了OKSP算法在任何情况下都能计算出平均延迟最小的缓存方案,即所给出的解是精确解。仿真结果表明,OKSP算法在处理大规模数据时具有良好的速度,并在实验中始终优于其他缓存算法。
2023-03-08 cs.MM cs.NI
Context-Aware Proactive Content Caching with Service Differentiation in Wireless Networks
TU Darmstadt(达姆施塔特工业大学);University of California Los Angeles(加州大学洛杉矶分校)
在小型基站或无线信息站中的内容缓存被认为是提高无线内容递送效率的合适方法。由于存储限制,将最佳内容放入本地缓存至关重要,但它需要了解内容流行度分布,而这通常无法提前获得。此外,本地内容流行度受到波动的影响,因为具有不同兴趣的移动用户随时间连接到缓存实体。用户偏好哪个内容可以取决于用户的上下文。在本文中,我们提出了一种新的上下文感知的主动缓存算法。该算法通过定期观察连接用户的上下文信息,更新缓存内容并随后观察缓存命中来在线学习特定于上下文的内容流行度。我们推导出一个次线性的遗憾界,它的特点的学习速度,并证明我们的算法收敛到最佳的缓存内容放置策略,最大限度地提高缓存命中的数量。此外,我们的算法支持服务差异化,允许运营商的缓存实体,优先考虑客户群。我们的数值结果证实,我们的算法优于国家的最先进的算法在现实世界中的数据集,增加了至少14%的高速缓存命中的数量。
2016-12-16 cs.LG cs.NI
Coded Caching with Nonuniform Demands
我们考虑一个网络,由一个文件服务器通过一个共享链接连接到一些用户,每个用户都配备了一个缓存。知道文件的流行度分布,目标是最佳地填充缓存,例如最小化共享链接的预期负载。对于单个缓存,众所周知,在此设置中存储最流行的文件是最佳的。然而,我们在这里表明,这不再是多个缓存的情况。事实上,只缓存最流行的文件可能是非常不理想的。相反,需要一种根本不同的方法,其中缓存内容用作共享链路上编码通信的辅助信息。我们提出了这样一个编码的缓存方案,并证明它是接近最优的。
2016-12-03 cs.IT cs.NI math.IT
Caching as a Service: Small-cell Caching Mechanism Design for Service Providers
无线网络虚拟化已经被公认为通过解耦系统的功能并实现基础设施和频谱即服务来提高无线网络的灵活性的方式。最近的研究表明,缓存提供了一个更好的性能,以满足移动用户的内容请求。在本文中,我们提出了移动网络中的\emph{caching can be applied as a service},即,不同的服务提供商(SP)将它们的内容缓存在由移动网络运营商(MNO)拥有的无线设施的存储器中。具体而言,我们专注于\emph{small-cell networks}的场景,其中启用缓存的小小区基站(SBS)是缓存内容的设施。针对多个服务提供商之间的存储竞争问题,设计了一种基于多目标拍卖的存储竞争机制,该机制充分考虑了系统参数的时变性和内容替换的频繁性。仿真结果表明,我们的解决方案导致一个令人满意的结果。
2016-07-17 cs.GT cs.NI
Accelerating Deep Learning Classification with Error-controlled Approximate-key Caching
HUAWEI Technologies(华为技术有限公司)
虽然深度学习(DL)技术是解决映射到分类任务的网络问题的有前途的工具,但相对于实时流量测量要求,其计算复杂性仍然太高。为了降低DL推理成本,我们提出了一种新的缓存模式,我们命名为近似键缓存,它返回近似结果的基础上缓存的DL推理结果的选定输入的查找。虽然近似缓存命中减轻了DL推理工作负载并增加了系统吞吐量,但它们引入了近似误差。因此,我们将近似键缓存与纠错原则算法相结合,我们称之为自动刷新。我们分析模型我们的缓存系统的性能为经典的LRU和理想的缓存,我们执行跟踪驱动的预期性能的评估,我们比较我们提出的方法与国家的最先进的相似性缓存的好处-证明我们的建议的实际利益。
2022-01-11 cs.AI cs.NI
Capacity-Aware Edge Caching in Fog Computing Networks
研究了雾计算网络中的边缘缓存问题,提出了一种容量感知的边缘缓存框架,该框架综合考虑了雾缓存容量的有限性和基站的连通性。通过允许雾节点和云数据中心之间的合作,平均下载时间(ADT)最小化问题被公式化为多类处理器排队过程。我们证明了制定的问题的凸性,并提出了一种基于交替方向乘法(ADMM)的算法,可以实现最小ADT和收敛速度比现有的算法。仿真结果表明,雾缓存容量和BS的连接能力的分配需要根据网络状态进行平衡。虽然通过利用所有可用的雾缓存容量来最大化边缘缓存命中率(ECHR)在BS连接能力充足时是有帮助的,但是优选的是,当BS连接能力不足时,保持较低的ECHR并向云分配更多的流量。
2020-02-06 cs.NI eess.SP
Spatial Soft-Core Caching
我们提出了一个分散的空间软核缓存放置(SSCC)的无线网络政策。SSCC通过跨缓存的负相关性产生空间平衡的采样,并且可以被调整以高概率满足缓存大小约束。给定所需的缓存命中概率,我们比较了95%的置信区间所需的缓存大小的独立放置,硬核放置和SSCC政策。我们证明,在所需的高速缓存存储大小方面,SSCC可以提供高达180%以上和100%的收益相对于独立和硬核放置政策,分别。SSCC可以用于实现基于邻近度的应用,例如设备到设备通信和对等网络,因为它促进了节点之间的项目多样性和互惠。
2019-01-30 cs.IT cs.NI math.IT
PopNetCod: A Popularity-based Caching Policy for Network Coding enabled Named Data Networking
在本文中,我们提出了PopNetCod,一个流行的基于网络编码启用命名数据网络的缓存策略。PopNetCod是一种分布式缓存策略,其中每个路由器通过分析其接收的请求来测量内容对象的本地流行度。然后,它使用此信息来决定哪些数据包要缓存或从其内容存储中驱逐。由于使用网络编码,因此支持内容对象的部分缓存,这便于内容存储的管理。当路由器接收到对数据包的请求时,路由器决定它们以在线方式缓存或驱逐的数据包。这允许最流行的数据包被缓存在更靠近网络边缘的地方。PopNetCod的评估表明,与广泛使用的Leave Copy Everywhere放置策略和Least Recently Used驱逐策略相比,它提高了缓存命中率。改进的缓存命中率有助于客户端实现更高的有效吞吐量,同时也减少了源服务器上的负载。
2019-01-04 cs.IT cs.NI math.IT
CacheMamba: Popularity Prediction for Mobile Edge Caching Networks via Selective State Spaces
Concordia University(康考迪亚大学);National Research Council Canada(加拿大国家研究委员会)
针对移动边缘缓存中的内容流行度预测问题,提出基于Mamba架构的CacheMamba模型,将预测转化为排序任务,在多项性能指标上优于Transformer方法,长序列处理优势更显著。
2025-02-09 cs.LG cs.NI eess.SP
Energy Efficiency of Downlink Networks with Caching at Base Stations
在基站(BS)处缓存流行内容可以减少回程成本并提高网络吞吐量。然而,在BS处的本地缓存是否可以提高能量效率(EE),这是第五代蜂窝网络的主要目标,仍然不清楚。由于干扰水平、回程容量、BS密度、功耗参数、BS休眠、内容流行度和缓存容量等各种因素对EE的纠缠影响,另一个重要问题是哪些关键因素对缓存的EE增益贡献更大。在本文中,我们试图探索的缓存启用的无线接入网络的EE的潜力,并确定关键因素。通过推导近似EE的封闭表达式,给出了EE从缓存中获益的条件,找到了使网络EE最大化的最优缓存容量,并分析了缓存带来的最大EE增益。我们表明,在BS的缓存可以提高网络EE时,使用高能效的缓存硬件。当本地缓存有EE增益超过不缓存,缓存更多的内容在BS可能不会提供更高的EE。数值和模拟结果表明,缓存EE增益是大的回程容量是严格的,干扰水平低,内容流行度是偏斜的,当缓存在微微BS,而不是宏BS。
2016-04-06 cs.IT cs.NI math.IT
Maximizing Information Freshness in Caching Systems with Limited Cache Storage Capacity
我们考虑一个缓存更新系统的源,一个有限的存储容量的缓存和一个用户。存在$n$文件。源保持文件的最新版本,这些文件以已知的速率更新。缓存从源获取新文件,但它只能存储$K$文件的最新下载版本,其中$K\leq n$。用户从缓存或源获取文件。如果用户从缓存中获取文件,则接收到的文件可能已过期,具体取决于源中的文件状态。如果用户直接从源获取文件,则接收到的文件总是新鲜的,但是源和用户之间的额外传输时间降低了用户处的新鲜度。因此,我们研究了在缓存中存储文件和以额外的传输时间为代价直接从源获取文件之间的权衡。我们发现这两种情况下,在用户的文件的平均新鲜度的分析表达式。然后,我们找到每个文件的最佳缓存状态(即,是否将文件存储在高速缓存中)以及高速缓存中相应的文件更新速率,以最大化用户处的总体新鲜度。我们观察到,当缓存的总更新率很高时,缓存文件提高了用户的新鲜度。然而,当缓存的总更新率较低时,用户的最优策略是直接从源获取频繁变化的文件和传输时间相对较小的文件。
2020-10-01 cs.IT cs.NI eess.SP
A Learning-Based Caching Mechanism for Edge Content Delivery
York University(约克大学)
本文提出基于风险率排序的轻量级学习缓存框架HR-Cache,通过预测请求的缓存友好性指导边缘缓存逐出决策,实验表明其相比LRU可节省2.2%至14.6%的广域网流量,优于现有启发式与学习型缓存方法。
2024-04-04 cs.DC cs.LG cs.NI
A Generative Caching System for Large Language Models
Cisco Research(思科研究中心)
针对大语言模型访问延迟高、查询成本高的问题,提出一种具备生成式缓存功能的新型缓存系统,可合成缓存响应回答新查询,优化了语义缓存算法平衡成本、延迟与响应质量,性能优于GPTcache。
2025-03-22 cs.AI cs.DB cs.DC
Reinforcement Learning for Caching with Space-Time Popularity Dynamics
University of Minnesota(明尼苏达大学);Bosch Center for Artificial Intelligence(博世人工智能中心)
随着有线和无线网络上的数据流量的巨大增长,以及越来越多的富媒体应用,缓存被设想在下一代网络中发挥关键作用。为了智能地预取和存储内容,缓存节点应该能够了解缓存什么以及何时缓存。考虑到地理和时间的内容流行动态,有限的可用存储在缓存节点,以及在网络缓存设置中的缓存决策的交互影响,开发有效的缓存策略实际上是具有挑战性的。为了应对这些挑战,本章提出了一个通用的强化学习为基础的方法,近最佳的缓存策略设计,在单节点和网络缓存设置下的动态时空流行。本文提出的政策补充使用一组数值测试,这展示了所提出的方法相对于几个标准的缓存政策的优点。
2020-05-19 cs.IT cs.LG cs.NI