Optimized Dynamic Cache Instantiation and Accurate LRU Approximations under Time-varying Request Volume
内容交付应用程序可以使用地理上分布的缓存来实现可伸缩性并减少广域网流量。然而,每个部署的高速缓存具有相关联的成本,并且在时变请求速率(例如,每天的周期),可能存在来自本地区域的请求速率不足以证明该成本合理的长时间段。云计算通过支持资源的动态分配和释放,为这类问题提供了解决方案。在本文中,我们分析了使用云服务提供商的资源动态实例化缓存的潜在好处。我们开发了新的分析缓存模型,适应时变的请求率,瞬态行为的缓存填充以下实例化,和选择性的缓存插入策略。在一个简单的成本模型的背景下,我们开发的界限,并与优化的参数选择的政策进行比较,以获得洞察关键的成本/性能权衡。我们发现,动态缓存实例化可以提供大量的成本降低,潜在的减少强烈依赖于对象的流行度偏斜,并且选择性缓存插入在这种情况下可能比传统的边缘缓存更有益。最后,我们的贡献还包括准确和易于计算的近似值,适用于随时间变化的工作负载下的LRU缓存。
2021-12-29 cs.NI cs.PF
Optimizing Replacement Policies for Content Delivery Network Caching: Beyond Belady to Attain A Seemingly Unattainable Byte Miss Ratio
当在内容分发网络(CDN)缓存中面对不同大小的对象/文件时,通过近似Belady来追求最佳对象未命中率(OMR)不再确保最佳字节未命中率(BMR),从而对如何在CDN中实现卓越的BMR产生了困惑。为了解决这个问题,我们通过实验观察到,存在一个时间窗口来延迟具有最长重用距离的对象的驱逐,以在不增加OMR的情况下提高BMR。因此,我们引入了一个深度强化学习(RL)模型,通过动态监控OMR和BMR的变化来捕捉这个时间窗口,并在时间窗口中实施BMR友好的策略。基于此策略,我们提出了一个Belady和大小驱逐(LRU-BaSE)算法,减少BMR,同时保持OMR。为了使LRU-BaSE有效和实用,我们用双管齐下的方法解决RL的反馈延迟问题。一方面,我们观察到LRU缓存队列的后部包含大多数驱逐候选者,这使得LRU-BaSE可以缩短决策区域。另一方面,CDN上的请求分布使得将学习区域划分为多个子区域是可行的,每个子区域都是以减少的时间和增加的准确性来学习的。在实际的CDN系统中,与LRU相比,LRU-BaSE可以平均减少30.05%的“回操作系统”流量和17.07%的访问延迟。仿真结果表明,LRU-BaSE的性能优于现有的缓存替换策略,平均而言,LRU-BaSE的BMR分别比Belady和Practical Flow-based Offline Optimal(PFOO)的BMR低0.63%和0.…
2022-12-28 cs.NI
Catalog Dynamics: Impact of Content Publishing and Perishing on the Performance of a LRU Cache
互联网严重依赖于内容分发网络和透明缓存来应对用户不断增长的流量需求。然而,内容本质上是多功能的:一旦在给定的时间发布,其受欢迎程度就会随着时间的推移而消失。然后,对给定文档的所有请求都集中在发布时间和有效失效时间之间。在本文中,我们提出了一个新的模型的内容请求的到来,它考虑到了内容目录的动态性质。基于在Orange网络上收集的两个大流量轨迹,我们使用半实验的方法,确定内容请求过程的不变量。这使我们能够定义一个简单的数学模型的内容请求,通过扩展所谓的“切近似”,然后我们计算的LRU缓存与这样的请求过程,表示其命中率馈送的性能。我们通过与基于轨迹的模拟进行比较,数值验证了我们的模型具有良好的精度。
2014-09-11 cs.NI cs.PF math.PR
Spatial multi-LRU Caching for Wireless Networks with Coverage Overlaps
本文介绍了一种新的家庭分散的缓存政策,适用于无线网络的边缘节点(站)有限的存储。这些策略基于最近最少使用的替换原则,并且在这里被称为空间多LRU。基于这些,以向被多于一个站覆盖并因此能够访问多于一个站的用户提供内容多样性的方式更新高速缓存库存。提出了两种变化,即多LRU-一个和-所有,这在涉及的缓存中插入的副本的数量不同。通过引入空间近似,我们提出了一种类似于Che的方法来预测命中概率,该方法在独立参考模型下给出了非常准确的结果。结果表明,多LRU的性能增加更多的多覆盖区域的增加,它的性能接近其他建议的集中式政策,当多覆盖是足够的。对于非线性业务,multi-LRU-One的性能优于multi-LRU-All,而当业务表现出时间局部性时,-All的变化可以表现得更好。
2016-02-24 cs.NI cs.PF
On a caching system with object sharing
我们考虑一个由多个代理共享的内容缓存系统。缓存可以位于边缘云数据中心中,并且代理可以为大量移动最终用户提供服务。每个代理在共享缓存中操作自己的具有一定容量的LRU列表。错误地出现在多个LRU列表中的对象的长度与它们相等地划分,即,在LRU之间共享对象。我们提供了一个“工作集”的近似方法来快速估计这种对象共享下的缓存命中概率,这可以用来促进准入控制。建议使用setrequestoverhead。我们给出了数值计算结果与对象共享(MCD-OS)的原型OURMemCacheD。
2020-07-23 cs.NI cs.PF
Performance of spatial Multi-LRU caching under traffic with temporal locality
在这项工作中,一个新的家庭的分散式高速缓存的无线网络的政策,被称为空间多LRU。这些通过利用多覆盖来提高缓存命中概率。提出了两种变化,多LRU-一个和-所有,其中不同的覆盖边缘缓存中插入的副本的数量。评估是在空间流量下进行的,表现出时间的局部性,具有不同的内容目录和依赖的需求。性能度量是命中概率,并且将策略与(1)单个LRU和(2)具有周期性流行度更新的所有集中式策略的上限进行比较。数值结果表明,多LRU策略优于两种比较策略。原因是他们对流行变化的被动适应。在-One和-All之间,哪一个更可取主要取决于可用的存储空间和流量特性。表现也取决于人气造型。
2016-06-29 cs.IT cs.NI cs.PF
Caching under Content Freshness Constraints
一些实时延迟敏感的应用程序对所请求的内容提出不同程度的新鲜度要求。与这些需求无关的缓存替换策略的性能可能是次优的。出于这种考虑,在本文中,我们研究了缓存策略下的请求到达过程中,结合用户的新鲜度需求。我们认为性能指标是稳态缓存命中概率。我们首先提供了一个通用的上限上的任何缓存策略的性能。然后,我们分析得到的内容明智的命中率最不受欢迎(LP)的政策,并提供了充分条件下的缓存性能的渐近最优的政策。接下来,我们得到了一个精确的近似的LRU命中率在政权的大内容人口。为此,我们将LRU策略中的内容的特征时间映射到经典的优惠券收集器问题,并表明它明显集中在其平均值周围。此外,我们开发这些政策的修改版本,弹出缓存冗余的形式陈旧的内容。最后,我们提出了一个新的策略,通过明确使用用户请求的新鲜度规范来优先考虑缓存的内容,从而优于上述策略。我们通过大量的模拟来证实我们的分析见解。
2017-12-28 cs.NI
Cache Allocations for Consecutive Requests of Categorized Contents: Service Provider's Perspective
在无线缓存网络中,用户通常具有消费某个优选类别中的内容的具体目的,并且依次请求多个内容。虽然大多数现有的无线缓存和交付的研究只集中在一次性请求,连续请求的内容的流行度分布肯定是不同的一次性请求,并没有被考虑。此外,特别是从服务提供商的角度来看,用户消费尽可能多的内容是有利的。因此,本文提出了两种缓存分配策略分类的内容和连续的用户需求,最大化1)缓存命中率和2)连续的内容消费的数量,分别。数值结果显示如何分类的内容和连续的内容请求有影响的缓存分配。
2020-01-29 cs.NI
Joint Cache Resource Allocation and Request Routing for In-network Caching Services
网内缓存被认为是一种有效的解决方案,以减轻内容服务器和网络的负担。高速缓存服务提供商(SP)总是有动机通过考虑内容提供方(CP)扮演的不同角色来更好地利用其高速缓存资源,例如,他们的商业模式、流量特征、偏好。本文研究了多Cache多CP环境下的Cache资源分配问题。我们提出了一个缓存分区的方法,其中每个缓存可以被划分成切片,每个切片专用于一个内容提供方。我们提出了一个内容无关的请求路由算法,由个人缓存,优化每个CP的路由策略。我们与每个内容提供商相关联的实用程序,是其内容交付性能的函数,并制定了一个优化问题的目标,以最大限度地提高所有内容提供方的效用之和。我们建立的问题的双凸性,并开发基于凸的子问题的分散(在线)算法。该模型进一步扩展到带宽受限和最小延迟的情况下,我们证明了基本属性,并开发高效的算法。最后,我们提出的数值结果显示我们的机制和我们的算法的收敛性的有效性。
2017-12-11 cs.NI
A Cache Management Scheme for Efficient Content Eviction and Replication in Cache Networks
为了应对互联网不断变化的需求,“网内缓存”作为一种应用解决方案已经提出了二十年。随着以信息为中心的网络(ICN)架构的出现,“网内缓存”成为网络级解决方案。国际竞争网络的一些独特功能,例如,快速变化的高速缓存状态、较高的请求到达率、较小的高速缓存大小和其它因素对内容驱逐策略提出了不同的要求。特别是,驱逐政策应该是快速和轻量级的。在这项研究中,我们提出了缓存复制和驱逐计划,有条件地离开Cope无处不在(CLCE)和最近使用最少的(LFRU),这是非常适合ICN类型的缓存网络(CN)。CLCE复制方案减少了内容的冗余缓存,从而提高了缓存空间利用率。LFRU近似于最近最少使用(LRU)方案与最不频繁使用(LFU)方案的结合,并且实际上可用于快速变化的缓存网络,如ICN。
2017-06-27 cs.NI
Cold-RL: Learning Cache Eviction with Offline Reinforcement Learning for NGINX
Cold-RL 将离线强化学习与 dueling DQN 集成到 NGINX 缓存逐出中,通过微秒级推理和超时回退机制,在对抗性负载下显著提升命中率并保持低开销。
2025-08-17 cs.AI cs.DB cs.LG
Placing Dynamic Content in Caches with Small Population
本文解决了一个基本的限制,由于人口规模小的无线接入网络的缓存通过。该缺点是由于两个主要挑战:(i)及时估计变化的内容流行度以及(ii)从小样本推断流行内容。我们提出了一个框架,其中强调了这些限制。为了及时估计不同的流行度在一个单一的缓存的上下文中,我们提出了一个基于缓存的阈值(ABT)的政策,缓存所有的内容请求次数超过阈值$\widetilde N(τ)$,其中$τ$是内容的年龄。我们表明,ABT是渐近命中率最优的许多内容制度,这使我们能够获得第一个表征的最佳性能的缓存系统在动态的上下文中。然后,我们解决小样本量集中在$L$本地缓存和一个全局缓存。一方面,我们表明,全局缓存学习L倍更快地聚合所有请求从本地缓存,这提高了命中率。另一方面,聚合洗出的相关流量的本地特性,惩罚命中率。这激发了将集群和LRU中的流行度分数的全局学习与预取相结合的协调机制。
2016-01-15 cs.NI
A Utility Optimization Approach to Network Cache Design
在任何高速缓存系统中,接纳和驱逐策略确定在发生未命中时向高速缓存中添加哪些内容以及从高速缓存中移除哪些内容。通常,设计这些策略是为了减轻陈旧性并增加命中概率。尽管如此,具有高命中概率的效用可以在内容之间变化。例如,当必须满足服务级别协议时,或者某些内容比其他内容更难获得时,就会发生这种情况。在本文中,我们提出了实用程序驱动的缓存,我们与每个内容的实用程序,这是一个功能的相应内容命中概率。我们制定优化问题的目标是最大限度地提高所有内容的效用之和。这些问题根据高速缓存容量约束的严格性而不同。我们的框架使我们能够通过计算它们最大化的效用函数来逆向工程经典的替换策略,如LRU和FIFO。我们还开发了在线算法,可用于服务提供商实现各种缓存策略的基础上任意的效用函数。
2016-01-25 cs.NI
Stochastic Dynamic Cache Partitioning for Encrypted Content Delivery
网内缓存是一种很有吸引力的解决方案,以应付日益增长的带宽需求的视频,音频和数据传输在互联网上。尽管如此,越来越多的内容交付服务通过HTTPS进行加密,这与传统的ISP管理方法(如透明和代理缓存)不兼容。这就提出了对涉及互联网服务提供商(ISP)和内容提供方(CP)的解决方案的需求:通过设计,解决方案应该保留关键业务CP信息(例如,内容流行度,用户偏好),同时允许高速缓存在ISP体系结构中的更深集成(例如,在5G毫微微小区中)。在本文中,我们解决这个问题,考虑内容无关的ISP运营的缓存。ISP将缓存存储分配给各个内容提供方,以便最大限度地节省缓存提供的带宽:主要的新颖性在于,为了保护业务关键信息,ISP只需要测量各个CP的聚合未命中率,而不需要像传统缓存那样知道所请求的对象。我们提出了一种基于扰动随机次梯度方法的缓存分配算法,并证明了该算法收敛于最大化整体缓存命中率的分配。我们使用大量的模拟来验证算法,并评估其收敛速度下固定和非固定的内容流行。我们的结果(i)证明了内容无关缓存的可行性和(ii)表明,所提出的算法可以实现在10%以内的全球最优在我们的评估。
2016-06-27 cs.NI
Impact of traffic mix on caching performance in a content-centric network
对于一个现实的流量组合,我们评估的命中率达到了两层缓存层次结构,旨在减少互联网带宽的要求。该模型确定了四种主要类型的内容,网络,文件共享,用户生成的内容和视频点播,区分他们的流量份额,他们的人口和对象的大小和他们的受欢迎程度分布。结果表明,在接入路由器缓存视频点播提供了一个非常有利的带宽内存权衡,但其他类型的内容可能会更有效地处理在非常大容量的存储设备的核心。评估基于LRU缓存性能的简单近似值,该近似值在相关配置中证明非常准确。
2012-02-01 cs.NI
Online Caching and Coding at the WiFi Edge: Gains and Tradeoffs
无线边缘的视频内容交付继续受到带宽不足和高度动态用户行为的挑战,这影响了有效吞吐量和延迟。已经发现在网络边缘处的高速缓存和编码传输可以提高视频内容递送的用户性能。无线边缘站(BS、AP)和用户终端设备上的缓存可以通过预缓存内容或使用在线缓存策略来填充。在本文中,我们提出了一个系统,内容被缓存在WiFi网络的用户通过在线缓存策略,编码交付是由WiFi AP提供所请求的内容的用户人群。用户处的高速缓存的内容用作索引编码的辅助信息。我们还提出了LFU索引缓存替换政策,在用户,明显提高了索引编码的机会,在WiFi AP的建议系统。通过广泛的模拟研究,我们确定了通过编码缓存和索引实现的收益。接下来,我们分析了它们之间的权衡,从用户不同的内容请求行为的数据传输,延迟和吞吐量。我们还表明,建议的缓存替换政策比传统的缓存替换政策,如LRU和LFU的性能更好。
2020-01-21 cs.NI
UtilCache: Effectively and Practicably Reducing Link Cost in Information-Centric Network
在信息中心网络(ICN)中,通过优化内容放置来最小化总链路成本在有效性和实用性方面都具有挑战性。为了获得更好的性能,除了内容流行度之外,还应该考虑由缓存未命中引起的上游链路成本。为了使其更加实用,内容放置策略应该是分布式的、自适应的、具有低协调开销以及低计算复杂性的。在本文中,我们提出了这样的内容放置策略,UtilCache,这是有效的和实用的。UtilCache与任何缓存替换策略兼容。当缓存替换策略倾向于保持流行的内容,utilCache达到低链接成本。在实用性方面,UtilCache由于捎带了协作消息而引入的协调开销很小,其计算复杂性主要取决于内容替换策略,这意味着它在与LRU一起工作时可以是O(1)。评估证明了UtilCache的有效性,因为它比当前的ICN设计节省了近40%的链路成本。
2018-11-14 cs.NI
Unravelling the Impact of Temporal and Geographical Locality in Content Caching Systems
为了评估缓存系统的性能,需要定义一个适当的过程来描述用户生成的内容请求。从分析在运营网络内收集的YouTube视频请求的痕迹开始,我们确定了需要表示的真实流量的特征以及可以安全忽略的特征。根据我们的观察,我们引入了一个简单的,简约的流量模型,命名为散粒噪声模型(SNM),使我们能够捕捉时间和地理位置的内容流行度。SNM是足够简单,有效地采用在高速缓存系统的分析和可扩展的模拟研究。我们证明了这一点,通过分析表征的LRU缓存策略下的SNM的性能,为一个单一的缓存和网络的缓存。相对于标准的独立参考模型(INVESTIGATION),一些范式的转变,关于缓存性能的各种流量特性的影响,显然出现在我们的研究结果。
2015-01-14 cs.NI
CABaRet: Leveraging Recommendation Systems for Mobile Edge Caching
最近提出了联合缓存和推荐,以提高移动边缘缓存的效率。虽然以前的工作假设移动网络运营商和内容提供方(谁控制的推荐系统)之间的合作,这可能是具有挑战性的,在今天的经济生态系统,现有的协议和架构。在本文中,我们提出了一种方法,使缓存感知的建议,而不需要网络和内容提供方的合作。我们利用推荐系统公开提供的信息,并构建一个提供缓存友好和高质量推荐的系统。我们将我们的方法应用于YouTube服务,并对YouTube视频推荐和视频请求实验进行测量,以评估缓存命中率的潜在收益。最后,我们分析研究的缓存优化问题,根据我们的方法。我们的研究结果表明,在实践中可以实现显着的缓存增益;从缓存感知的建议,缓存命中率增加8至10倍,并从缓存优化额外增加2倍。
2018-06-07 cs.NI
Exact Analysis of TTL Cache Networks: The Case of Caching Policies driven by Stopping Times
TTL缓存模型最近重新获得了重要的研究兴趣,主要是由于它们能够适应流行的缓存策略,如LRU。本文提出了基于TTL的缓存网络的最先进的分析,通过开发两个正交的通用性和计算复杂性的精确方法。第一种方法概括了现有的结果更新请求下的线网络的缓存政策,从而驱逐的停止时间驱动的广泛的类。所得到的结果进一步推广,使用第二种方法,前馈网络与马尔可夫到达过程(MAP)的要求。MAP特别适合于非线网络,因为它们不仅在叠加和分裂下是闭合的,如已知的,而且在输入-输出高速缓存操作下也是闭合的,如本文针对相位型TTL分布所证明的。这两个封闭属性的关键好处是,它们共同使第一次精确分析的前馈网络的TTL缓存在很大程度上的一般性。
2014-02-24 cs.NI cs.PF
Offloading Content with Self-organizing Mobile Fogs
城市环境中的移动用户从不同位置访问互联网上的内容。对于当前的服务提供商来说,应对来自大量并置移动用户的不断增长的内容需求是具有挑战性的。网络内缓存在更接近用户的节点上卸载内容缓解了这个问题,尽管需要有效的缓存管理来找出谁应该在城市环境中缓存什么,何时何地,给定节点有限的计算,通信和缓存资源。为了解决这个问题,我们首先定义了一个新的内容流行度和网络中的可用性之间的关系,并调查一个节点的资格缓存内容的基础上,其城市的可达性。然后,我们允许节点自组织成移动雾,以增加分布式缓存,并以具有成本效益的方式最大限度地提高内容的可用性。然而,为了迎合理性的节点,我们提出了一个联盟游戏的节点提供一个最大的“虚拟缓存”假设货币奖励支付给他们的服务/内容提供方。节点被允许合并到不同的时空联盟,以增加在网络边缘的分布式缓存大小。通过模拟使用现实的城市流动性跟踪得到的结果验证我们的缓存系统的性能,显示缓存命中率为60-85%相比,现有的计划和10%的情况下,没有联盟的30-40%。
2017-07-19 cs.NI
An End-To-End Encrypted Cache System with Time-Dependent Access Control
TIS Inc.(TIS株式会社)
针对原始Cache-22加密缓存系统无具体访问控制方法的问题,本文为其新增了通信开销为$O(\log T_{\sf max})$的可扩展时间依赖访问控制协议,实验验证了其访问控制有效性,并发现缓存容量与网络流量存在关联。
2023-02-22 cs.CR cs.NI
Quid pro Quo in Streaming Services: Algorithms for Cooperative Recommendations
推荐由流服务的内容提供方(CP)采用,以便提高用户参与度和他们的收入。最近的工作表明,向缓存的项目轻推推荐可以降低缓存网络中的运营成本,例如,未来无线网络中的内容分发网络(CDN)或边缘缓存提供商。然而,缓存友好的推荐可能会偏离用户的口味,并可能影响CP的收入。受现实世界的商业模式,这项工作确定了不一致的CP和缓存网络提供商的财务目标,并提出了一个网络经济框架的建议。我们提出了一个合作机制,利用纳什讨价还价的解决方案,允许两个实体共同设计的推荐政策。我们考虑不同的问题的情况下,这些实体愿意分享他们的成本和收入模式的程度不同,并提出了两个合作的政策,CCR和DCR,使他们能够在一个集中或分布式的方式作出决定。在这两种情况下,我们的解决方案保证达到公平和帕累托最优分配的合作收益。此外,我们讨论了我们的框架对缓存决策的扩展。大量的数值实验表明,在现实的情况下,政策导致显着的收益为两个实体。
2023-01-29 cs.NI
Characterizing Interest Aggregation in Content-Centric Networks
命名数据网络(NDN)和内容中心网络(CCN)架构提倡兴趣聚合作为减少端到端延迟和带宽消耗的手段。为了实现这些好处,利息汇总必须通过待处理利息表(PIT)来实现,PIT的大小以传入利息的速度增长,最终可能会破坏其最初的目的。提供了一个全面的分析的兴趣聚集机制,使用数学参数支持广泛的离散事件模拟结果。我们提出了一个简单而准确的分析框架,用于表征在LRU缓存中的兴趣聚合,并使用我们的模型来开发一个迭代算法,以分析在互连的缓存网络中的兴趣聚合的好处。我们的研究结果表明,在现实的假设下,一个微不足道的一小部分的系统中的利益受益于聚合,妥协的有效性使用PIT作为一个组成部分的内容为中心的网络。
2016-03-25 cs.NI
Caching as a Service: Small-cell Caching Mechanism Design for Service Providers
无线网络虚拟化已经被公认为通过解耦系统的功能并实现基础设施和频谱即服务来提高无线网络的灵活性的方式。最近的研究表明,缓存提供了一个更好的性能,以满足移动用户的内容请求。在本文中,我们提出了移动网络中的\emph{caching can be applied as a service},即,不同的服务提供商(SP)将它们的内容缓存在由移动网络运营商(MNO)拥有的无线设施的存储器中。具体而言,我们专注于\emph{small-cell networks}的场景,其中启用缓存的小小区基站(SBS)是缓存内容的设施。针对多个服务提供商之间的存储竞争问题,设计了一种基于多目标拍卖的存储竞争机制,该机制充分考虑了系统参数的时变性和内容替换的频繁性。仿真结果表明,我们的解决方案导致一个令人满意的结果。
2016-07-17 cs.GT cs.NI
Optimal Cache Leasing from a Mobile Network Operator to a Content Provider
在无线边缘缓存流行内容最近被提出作为减少蜂窝网络骨干拥塞的一种手段。涉及的两个主要参与者是移动网络运营商(MNO)和内容提供方(CP)。在这项工作中,我们考虑以下安排:一个MNO预装内存在其无线设备(如基站),并邀请一个独特的CP使用它们,与货币成本。CP将租用存储空间并放置其内容; MNO将网络用户与站点相关联。对于给定的关联策略,取决于关联是否考虑内容放置,MNO可以帮助(或不帮助)CP卸载业务。我们从CP的角度制定了一个优化问题,旨在以最小的租赁成本最大化流量卸载。这是一个联合优化问题,可以包括任何关联策略,也可以导出最优策略。我们提出了一个一般的精确解使用Benders分解。它迭代地更新两个行动者的决策,并收敛到全局最优。我们说明了最佳的CP租赁/放置策略和命中概率增益下不同的关联政策。当MNO关联遵循CP动作时,性能最大化。
2018-01-24 cs.NI math.OC
On the Complexity of Optimal Routing and Content Caching in Heterogeneous Networks
我们调查的问题,最佳的请求路由和内容缓存在异构网络支持在网络内容缓存的目标是最小化平均内容访问延迟。在这里,内容可以直接从后端服务器(内容永久驻留在其中)访问,也可以从多个网络内缓存中的一个获取。要访问一段内容,用户必须决定是将其请求路由到缓存还是后端服务器。此外,缓存必须决定缓存哪些内容。我们研究了两个问题公式的问题复杂性,其中到后端服务器的直接路径被建模为i)一个缓存敏感路径或ii)一个缓存不敏感路径,反映了到后端服务器的未缓存路径的延迟是否取决于用户请求负载,分别。我们证明了这两种情况下的问题都是NP完全的。我们证明了在对缓存不敏感的模型下,如果每个内容只被一个用户请求,或者当网络中最多有两个缓存时,问题可以在多项式时间内得到最优解决。我们还确定了用户缓存图的结构属性,可能使问题NP完全。对于缓存敏感模型,我们证明了即使网络中只有一个缓存,并且每个内容只有一个用户请求,问题仍然是NP完全的。我们发现,近似的解决方案,可以找到两个模型的最佳解决方案的(1-1/e)的因素,并证明了一个贪心算法,被发现是在1%以内的最佳小问题的大小。通过跟踪驱动的模拟,我们评估我们的贪心算法的性能,它显示了高达50%的平均延迟减少了基于LRU内容缓存的解决方案。
2014-12-31 cs.NI
Worst-case Bounds and Optimized Cache on $M^{th}$ Request Cache Insertion Policies under Elastic Conditions
云服务和其他共享的第三方基础设施允许各个内容提供方根据当前资源需求轻松扩展其服务。在本文中,我们考虑一个单独的内容提供方,希望最大限度地减少其交付成本的假设下,它需要的存储和带宽资源是弹性的,内容提供方只支付的资源,它消耗,成本是成比例的资源使用。在此背景下,我们(i)推导出最优成本和竞争成本比的最坏情况下的界限不同类的“缓存$M^{th}$请求”缓存插入策略,(ii)推导出显式的平均成本表达式和任意请求间分布下的界限,(iii)推导出显式的平均成本表达式和界限短尾(确定性,Erlang和指数)和重尾(帕累托)请求间分布,以及(iv)目前的数字和跟踪为基础的评估,揭示洞察的相对成本性能的政策。我们的研究结果表明,一个基于窗口的“缓存$2^{nd}$请求”的政策,使用一个单一的阈值优化,以最大限度地减少最坏情况下的成本提供了良好的平均性能在不同的分布和完整的参数范围内,每个考虑的分布,使其成为一个有吸引力的选择广泛的实际条件下,个别文件对象的请求率通常是未知的,可以迅速改变。
2018-12-18 cs.DC cs.NI cs.PF
Network Cache Design under Stationary Requests: Exact Analysis and Poisson Approximation
最大化命中概率的缓存算法设计已得到广泛研究。在本文中,我们将每个内容与效用相关联,该效用是相应内容命中率或命中概率的函数。我们制定了一个缓存优化问题,以最大限度地提高在所有内容的平稳和遍历请求过程中的效用之和。这个问题一般是非凸的,但是当请求间时间(irt)分布具有非增风险率函数时,我们将其转化为凸优化问题。我们提供了一些irt分布的显式最优解,并比较了基于命中率(HRB)和基于命中概率(HPB)问题的解决方案。我们制定了一个逆向工程的基础上的双重实现的LRU下平稳到达。我们还提出了分散的算法,可以实现使用有限的信息,并使用离散时间李雅普诺夫技术(DTLT),以正确地表征其稳定性。我们发现,解决HRB的分散算法比分散HPB算法更强大。根据这些结果,我们进一步提出了轻量级泊松近似分散和在线算法,这些算法在实现最佳命中率和命中概率方面是准确和有效的。
2019-03-05 cs.NI cs.PF
Cost-aware caching: optimizing cache provisioning and object placement in ICN
高速缓存经常被互联网服务提供商用作一种可行的技术,以减少最终用户感知的延迟,同时联合卸载网络流量。虽然缓存命中率通常被认为是在文献中的主导性能指标,这种类型的系统,在本文中,我们认为,一个关键的缺失的一块迄今被忽视。采用一个完全不同的角度来看,在本文中,我们明确占内容检索的成本,即成本相关的外部带宽所需的ISP检索其客户所要求的内容。有趣的是,我们发现,经典的缓存供应技术,最大限度地提高缓存效率(即,命中率),导致具有更高总成本的次优解决方案。为了显示这种不匹配,我们提出了两个优化模型,要么最大限度地减少整体成本或最大限度地提高命中率,共同提供缓存大小,对象放置和路径选择。我们制定了一个多项式时间的贪心算法来解决这两个问题,并分析证明其最优性。我们提供的数值结果表明,显着的成本节约是可以实现的,通过成本意识的设计。
2014-08-26 cs.NI
Competitive Caching of Contents in 5G Edge Cloud Networks
移动数据流量的激增迫使网络运营商应对容量短缺。在5G网络中部署小型小区意味着减少延迟,回程流量并增加无线电接入容量。在这种情况下,移动边缘计算技术将用于管理无线电接入网络中的专用缓存空间。因此,移动网络运营商将能够为OTT内容提供方提供新的缓存服务,以提高其客户在移动中的体验质量。进而,移动边缘网络中的高速缓存存储器将变成共享资源。因此,我们研究了一个竞争性的缓存方案,内容存储在给定的价格由移动网络运营商。首先,我们制定了一个资源分配问题的标记内容提供方寻求最大限度地减少预期的错过缓存率。最优缓存策略是根据内容的流行度和可用性、小小区的空间分布以及竞争内容提供方的缓存策略而得出的。它表明,诱导一个特定的顺序的内容被缓存的基础上,他们的流行程度和可用性。接下来,我们研究了内容提供方之间的博弈,其形式为具有有界策略集和异构玩家的广义Kelly机制。证明了纳什均衡的存在唯一性。最后,大量的数值结果验证和表征模型的性能。
2016-12-05 cs.GT cs.NI
AccConF: An Access Control Framework for Leveraging In-Network Cached Data in ICNs
快速增长的互联网流量越来越多地以内容为基础,并由移动用户驱动,用户对数据而不是其来源更感兴趣。这就迫切需要一个以信息为中心的互联网架构。对信息中心网络(ICN)的研究已经产生了新颖的架构,例如,CCN/NDN、DONA和PSIRP/PURSUIT;都同意将基于命名数据的寻址和普遍缓存作为整体设计组件。通过网络范围的内容缓存,内容访问控制策略的实施变得不平凡。网络中的每个缓存节点都需要在内容提供方的帮助下实施访问控制策略。这变得效率低下,并且容易出现无限延迟,特别是在提供商中断期间。在本文中,我们提出了一个有效的访问控制框架ICN,它允许合法用户直接访问和使用缓存的内容,并不需要验证/认证的在线提供商认证服务器或内容服务路由器。这个框架将有助于减少服务器中断造成的系统停机时间的影响,并通过利用缓存来减少交付延迟,同时保证只对合法用户进行访问。实验/仿真结果表明,该方案的适用性,所有用户,但特别是移动用户,特别是在安全性和延迟开销方面。
2016-03-11 cs.CR cs.NI
Matrix Factorization for Cache Optimization in Content Delivery Networks (CDN)
内容分发网络(CDN)是互联网上高吞吐量、低延迟服务的关键组件。CDN缓存服务器具有有限的存储和带宽,并实施最先进的缓存准入和驱逐算法,为所服务的客户选择最受欢迎和最相关的内容。本研究的目的是利用国家的最先进的推荐系统技术预测评级缓存内容在CDN。矩阵分解用于预测内容流行度,这是在CDN边缘服务器上运行的内容驱逐和内容接纳算法中的有价值信息。使用了自定义实现的矩阵分解类和MyMediaLite。输入的CDN日志是从欧洲电信服务提供商接收的。我们用这些数据建立了一个矩阵分解模型,并利用网格搜索来调整其超参数。实验结果表明,所提出的方法是有希望的,我们表明,一个低的均方根误差值可以实现对现实生活中的CDN日志数据。
2022-10-05 cs.NI
ECD: An Edge Content Delivery and Update Framework in Mobile Edge Computing
提出了物联网时代基于移动边缘计算的边缘内容分发框架(ECD),以减轻核心网的负载,提高移动用户的体验质量(QoE)。考虑到移动设备成为内容的消费者和提供者,并且大多数内容不需要上传到云数据中心,在网络边缘,我们部署了一个内容服务器来存储从移动用户生成的原始内容,并在ECD中部署了一个缓存池来存储移动用户经常请求的内容。高速缓存池是分级的,并且高等级的高速缓存池将存储具有更高流行度的内容。此外,我们提出了边缘内容交付方案和边缘内容更新方案,基于内容流行度和缓存池排名。内容交付方案是为了高效地将内容交付给移动用户,而边缘内容更新方案是为了根据用户频繁的请求将用户生成的内容缓解到适当的缓存池中,并缓存较差的排名。边缘内容分发与内容分发网络完全不同,可以进一步降低核心网的负载。此外,由于最高等级的缓存池优先用于较高优先级的内容,而缓存池优先用于较高优先级的内容,并且缓存池接近移动用户,因此可以实现移动用户和缓存池之间的即时交互响应。一个有代表性的案例研究的幼儿发展和开放的研究问题进行了讨论。
2018-05-28 cs.NI
cRVR: A Stackelberg Game Approach for Joint Privacy-Aware Video Requesting and Edge Caching
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);School of Computing, Faculty of Science and Engineering, Macquarie University(麦考瑞大学科学与工程学部计算学院)
本文提出cRVR算法,通过Stackelberg博弈方法在保护视频请求隐私的同时,最小化对边缘缓存性能的影响。
2024-12-03 cs.NI
An approximation algorithm for joint caching and recommendations in cache networks
流媒体平台,如Netflix和YouTube,努力在比特率、延迟等方面提供高流媒体质量(SQ),to their其users用户.与此同时,这些平台的内容消费中有很大一部分受到推荐的影响。在该设置中,用户的整体体验是用户对推荐内容的兴趣,即,推荐质量(RQ)和该内容的SQ。然而,影响SQ的网络决策(如缓存)通常是在不考虑推荐者行为的情况下做出的。同样,建议的选择与潜在的交付质量无关。在本文中,我们定义了一个度量流体验(MoSE),捕捉SQ和RQ之间的基本权衡。我们的目标是共同优化缓存和建议在一个通用的网络缓存,最大限度地提高这一指标的目标。这与内容提供方同时充当内容分发网络所有者的最近趋势一致,这意味着同一实体可以处理缓存和推荐决策。我们制定这个联合优化问题,并证明它可以近似到一个常数因子。据我们所知,这是第一个多项式算法,以实现一个恒定的近似比的联合问题。此外,我们的数值实验表明,我们的算法的基线计划和现有的算法在文献中的重要性能增益。
2022-04-11 cs.NI
Mobile Edge Caching: An Optimal Auction Approach
随着无线数据的爆炸式增长,移动业务的庞大规模对当前无线系统的容量提出了挑战。为了应对这一挑战,移动边缘缓存已经成为一个很有前途的范例,最近,其中的服务提供商(SP)预先预取一些流行的内容,并缓存在本地的网络边缘。当被请求时,这些本地缓存的内容可以以低延迟直接传递给用户,从而减轻高峰时段回程信道上的业务负载,同时提高用户的体验质量(QoE)。由于可用缓存空间有限,SP缓存最有利可图的内容是有意义的。然而,用户对内容的真实评价是他们的私人知识,一般来说,SP不知道。这种信息不对称对SP端的有效缓存提出了重大挑战。此外,缓存的内容可以以不同的质量交付,这需要明智地选择以平衡交付成本和用户满意度。为了解决这些困难,在本文中,我们提出了一个最佳的拍卖机制从SP的角度来看。在拍卖中,SP确定缓存空间分配的内容和用户支付的基础上,用户的(可能是不真实的)报告,他们的估值,使SP的预期收益最大化。所提倡的机制旨在从用户那里获得真实的评价(激励相容性),并激励用户参与(个人理性)。此外,我们设计了一个计算效率高的方法来计算最佳的缓存空间分配和用户支付。我们进一步研究了大量用户的情况下的内容交付质量的最佳选择,并推导出一个封闭形式的解决方案来计算最佳交付质量。
2017-12-09 cs.NI
Cache Subsidies for an Optimal Memory for Bandwidth Tradeoff in the Access Network
虽然通过使用高速缓存可以显著地降低接入网络的成本,但是这目前还没有发生,因为只有内容提供方(CP)具有最佳内容放置所需的详细需求数据,其没有自然的动机来使用它们来最小化接入网络运营商(ANO)支出。我们认为,ANO因此应该提供这样的激励的形式支付给CP的比例实现储蓄的直接补贴。我们应用联盟博弈理论来设计所需的补贴框架,并提出了一个分布式算法,基于拉格朗日分解,允许ANO和CP集体实现带宽权衡的最佳内存。所考虑的接入网络是一个高速缓存层次结构,每个CP中心局高速缓存,访问所有ANO,在顶点,和每个ANO专用带宽和存储资源在较低的水平,包括无线基站,必须由多个CP共享。
2019-08-19 cs.GT cs.NI
Online Coded Caching
我们考虑一个基本的内容分发的情况下,由一个单一的源服务器通过共享瓶颈链接连接到一些用户,每个配备了一个有限的内存缓存。用户从一组流行文件中发出一系列内容请求,目标是操作缓存和服务器,以便通过共享链接发送的最小位数满足这些请求。假设一个基本的马尔可夫模型更新的一组流行的文件,我们近似的最佳长期平均速率的共享链接的特征。我们进一步证明,最佳的在线方案具有近似相同的性能作为最佳的离线方案,其中缓存内容可以更新的基础上,在每个新的请求之前的整个流行的文件集。为了支持这些理论结果,我们提出了一种在线编码缓存方案,称为编码最近发送(LRS),并模拟它的需求时间序列来自Netflix的Netflix奖提供的数据集。对于这个时间序列,我们表明,建议的编码LRS算法显着优于流行的最近最少使用(LRU)缓存算法。
2013-11-14 cs.IT cs.NI math.IT
A Learning-Based Caching Mechanism for Edge Content Delivery
York University(约克大学)
本文提出基于风险率排序的轻量级学习缓存框架HR-Cache,通过预测请求的缓存友好性指导边缘缓存逐出决策,实验表明其相比LRU可节省2.2%至14.6%的广域网流量,优于现有启发式与学习型缓存方法。
2024-04-04 cs.DC cs.LG cs.NI
PA-Cache: Evolving Learning-Based Popularity-Aware Content Caching in Edge Networks
Chongqing University(重庆大学);Binghamton University, State University of New York(纽约州立大学宾汉姆顿大学);Swinburne University of Technology(斯威本科技大学);Harbin Institute of Technology(哈尔滨工业大学)
随着无处不在和个性化服务的蓬勃发展,大量移动设备在网络上产生了越来越多的流量。因此,内容缓存逐渐延伸到网络边缘,以提供低延迟服务,提高服务质量,并减少冗余数据流量。与传统的内容分发网络相比,边缘网络中具有较小尺寸的高速缓存通常必须容纳更多突发请求。在本文中,我们提出了一个不断发展的学习为基础的内容缓存策略,命名为PA缓存在边缘网络。它自适应地学习随时间变化的内容流行度,并确定当缓存已满时应该替换哪些内容。与传统的深度神经网络(DNN)不同,DNN使用具有高计算复杂性的整个训练数据集来学习微调但可能过时或有偏见的预测模型,PA-Cache对大量内容特征集进行加权,并在随着时间的推移有更多请求到达时从浅到深地训练多层递归神经网络。我们广泛评估我们提出的PA缓存的性能从一个大型的在线视频点播服务提供商在现实世界中的痕迹。\rb{The results show that PA-Cache outperforms existing popular caching algorithms and approximates the optimal algorithm with only a 3.8\% performance gap when the cache percentage is 1.0\%}。与传统的基于DNN的方法相比,PA-Cache还显着降低了计算成本。
2020-12-10 cs.LG cs.NI
The Study of Dynamic Caching via State Transition Field -- the Case of Time-Invariant Popularity
本文分两部分对缓存替换方案进行了研究,目的是建立一个通用模型来统一分析各种替换方案,并说明它们的特点。为了实现这一目标,我们在向量空间中的缓存的动态过程进行了研究,并引入了状态转移场(STF)的概念来建模和表征替换方案。在这项工作的第一部分中,我们考虑的情况下,时间不变的内容流行度的基础上的独立的参考模型(reference model)。在这种情况下,我们证明了所得到的STF是静态的,每个替换方案导致一个唯一的STF。STF从任何初始点确定作为内容请求和替换的结果的高速缓存状态分布中的动态变化的预期轨迹。此外,给定替换方案,STF仅由内容流行度确定。使用四个示例方案,包括随机替换(RR)和最近最少使用(LRU),我们表明,STF可以用来分析替换方案,如找到它们的稳定状态,突出它们的差异,并揭示有关知识的影响的见解内容流行。基于上述结果,STF被证明是有用的表征和说明替换方案。广泛的数值结果来证明分析STFs和STFs的模拟所考虑的示例替换方案。
2019-09-09 cs.NI cs.OS
Optimized Caching and Spectrum Partitioning for D2D enabled Cellular Systems with Clustered Devices
在移动设备处缓存和利用设备到设备(D2D)通信是支持通过无线网络的大规模内容递送的两种有前景的方法。高速缓存使能的无线网络的分析通常通过假设设备均匀分布来进行,然而,在社交网络中,移动设备本质上被分组为不相交的集群。在这方面,本文提出了一个时空的数学模型,跟踪服务请求的到来,并考虑到集群设备的几何形状。假设两种设备,具体地,内容客户端和内容提供方。假设内容提供方具有剩余存储器,该剩余存储器被利用来遵循随机概率缓存方案主动缓存来自已知库的内容。内容客户端可以从其附近(集群)的最近内容提供方或者作为最后手段的基站(BS)检索所请求的内容。开发的时空模型被用来制定一个联合优化问题的内容缓存和频谱划分,以最大限度地减少平均服务延迟。由于优化问题的高复杂性,缓存和频谱划分问题是解耦的,并使用块坐标下降(BCD)优化技术迭代求解。为此,带宽划分和概率缓存子问题,分别获得了最优和次优的解决方案。数值结果突出了所提出的计划优于传统的缓存计划下平等和优化的带宽分配。特别是,它示出的平均服务延迟减少了近100%和350%,相比,Zipf和均匀的缓存计划下,相等的带宽分配,分别。
2020-03-24 cs.IT cs.NI math.IT