Low latency via redundancy
低延迟对于交互式网络应用至关重要。但是,尽管我们知道如何扩展系统以增加容量,但减少延迟(尤其是延迟分布的尾部)可能要困难得多。在本文中,我们认为,使用冗余是一种有效的方式来转换额外的容量,以减少延迟。通过跨不同资源启动冗余操作并使用完成的第一个结果,冗余即使在异常条件下也会改善系统的延迟。我们研究的权衡与增加系统利用率,特征的情况下,复制所有的任务减少平均延迟。然后,我们经验证明,复制所有操作可以导致显着的平均和尾部延迟减少在现实世界的系统,包括DNS查询,数据库服务器,网络内的数据包转发。
2013-06-16 cs.NI
Homa: A Receiver-Driven Low-Latency Transport Protocol Using Network Priorities (Complete Version)
Homa是一种新的数据中心网络传输协议。它提供了极低的延迟,特别是对于具有大量极短消息的工作负载,并且它还支持大消息和高网络利用率。Homa使用网络内优先级队列来确保短消息的低延迟;优先级分配由每个接收方动态管理,并与接收方驱动的流控制机制集成。Homa还使用接收器下行链路的受控过度承诺,以确保在高负载下的有效带宽利用率。我们的Homa实现在10 Gbps网络上以80%的负载运行时,短消息的99%往返时间小于15μs。这些延迟几乎比最好的发布的实现测量值低100倍。在模拟中,Homa的延迟与pFabric大致相同,并且在几乎所有消息大小和工作负载方面都明显优于pHost、PIAS和NDP。Homa还可以承受比pFabric、pHost或PIAS更高的网络负载。
2018-06-27 cs.NI
Learning-Based Latency-Constrained Fronthaul Compression Optimization in C-RAN
Royal Institute of Technology (KTH)(皇家理工学院(KTH));Huawei Technologies Sweden AB, Stockholm Research Centre(华为技术瑞典有限公司斯德哥尔摩研究中心)
针对云无线接入网前传容量与时延约束问题,提出基于深度强化学习的动态前传压缩框架,可自适应调整压缩参数,在满足时延要求的同时显著提升前传利用率与空口吞吐量。
2023-11-07 cs.LG cs.NI
A Maximal Concurrency and Low Latency Distributed Scheduling Protocol for Wireless Sensor Networks
现有的工作,调度并发传输无冲突遭受低信道利用率。我们提出了最优节点激活多址(ONAMA)协议,通过分布式最大独立集(DMIS)算法来实现最大的信道空间复用。为了克服DMIS在寻找最大独立集时的过度延迟,我们设计了一种称为流水线预计算的新技术,将DMIS从数据传输中分离出来。我们使用TinyOS在资源受限的TelosB微尘上实现ONAMA。在两个测试平台上进行的广泛测量独立地证明了ONAMA与现有工作相比的卓越性能:将并发性,吞吐量和延迟分别提高了3.7,3.0和5.3倍,同时仍然保持可靠性。
2014-04-01 cs.NI
RMCSA Algorithm for Congestion-Aware and Service Latency Aware Dynamic Service Provisioning in Software-Defined SDM-EONs
针对SDM-EON中链路拥塞导致服务阻塞、现有负载均衡算法需权衡阻塞性能与复杂度的问题,提出拥塞感知RMCSA算法与新型缓存策略,在降低阻塞率、提升频谱效率的同时大幅缩短服务时延。
2024-12-14 cs.NI
Mobile-Aware Scheduling for Low Latency Backhaul over DOCSIS
在本文中,我们讨论了延迟减少技术的移动回程电缆数据服务接口规范(DOCSIS)网络。当来自无线网络和DOCSIS网络的延迟加在一起时,可能会导致明显的端到端系统延迟,特别是在网络拥塞的情况下。在此之前,我们提出了一种通过协调LTE和DOCSIS调度来改善上游用户到移动核心延迟的方法。该方法减少了DOCSIS网络的请求-授权-数据环路对系统延迟的影响,该环路是回程上行延迟的主要贡献者。由于该方法减少了DOCSIS数据路径上的延迟,因此它将提高延迟敏感应用的性能,特别是如果TCP被用作传输协议,特别是当链路拥塞时。在本文中,我们调查HARQ失败对系统性能的影响。通过仿真,我们表明,尽管LTE协议引入的不确定性,协调调度提高了整体系统的延迟。
2022-11-16 cs.NI
Modeling of Deep Neural Network (DNN) Placement and Inference in Edge Computing
随着边缘计算成为系统架构中越来越多地采用的概念,预计当与深度学习(DL)技术结合时,其利用率将进一步提高。在物联网(IoT)和边缘设备(例如深度神经网络(DNN))中集成要求苛刻的处理算法的想法在很大程度上受益于边缘计算硬件的开发,以及适应算法用于资源受限的IoT设备。令人惊讶的是,目前还没有模型可以在边缘计算中最佳地放置和使用机器学习。本文提出了边缘计算中深度神经网络(DNN)布局与推理的第一个最优布局模型。考虑到不同模型变体的推理延迟、节点之间的通信延迟和边缘计算节点的利用成本,我们提出了DNN模型变体选择和放置(MVSP)问题的数学公式。我们对我们的模型进行了数值评估,结果表明,对于低负载增加的模型,协同定位可以使每个请求的平均延迟降低33%的毫秒级,对于高负载,降低21%。
2020-01-19 cs.NI
Dynamic Multi-Connectivity Activation for Ultra-Reliable and Low-Latency Communication
在5G新无线电中提出了具有分组复制的多连接(MC),其中相同的数据分组被复制并从多个发射机发送,作为可靠性增强特征。然而,它被发现是资源低效的,因为需要来自多于一个发射机的无线电资源来服务单个用户。因此,改进MC的性能增强与资源利用率的权衡是一个关键的设计挑战。这项工作提出了一种启发式的资源有效的延迟感知的动态MC算法,激活MC选择性,使其优势被利用的关键用户,同时最大限度地减少相应的资源使用。数值结果表明,该算法可以提供传统MC计划的中断性能增益,而需要高达45%的资源减少。
2019-11-22 cs.NI
Latency Reduction for Mobile Backhaul by Pipelining LTE and DOCSIS
小型手机市场一直在增长。为了从小型小区回传无线流量,移动网络运营商(MNO)正在寻找经济上可行的解决方案,特别是除了传统的光纤选择之外的混合光纤同轴网络(HFC)。当来自无线网络和HFC网络的延迟加在一起时,可能会导致明显的端到端系统延迟,特别是在网络拥塞的情况下。如果这两个网络能够以某种方式相互协调,就有可能减少总的系统延迟并提高系统性能。在本文中,我们提出了一种方法,以改善上游用户到移动核心的延迟,通过协调LTE和HFC调度。该方法减少了HFC网络的请求-授权-数据环路对系统延迟的影响,该环路是回程上行延迟的主要贡献者。通过仿真,我们表明,协调调度提高了整体系统的延迟。
2022-11-16 cs.NI
Low Latency Techniques for Mobile Backhaul over DOCSIS
移动网络运营商(MNO)正在寻找经济上可行的回程解决方案作为光纤的替代方案,特别是混合光纤同轴网络(HFC)。当来自无线和HFC网络的延迟加在一起时,结果是明显的端到端系统延迟,特别是在网络拥塞的情况下。为了降低系统总延迟,我们在以前的论文中提出了一种通过协调LTE和HFC调度来改善上行用户到移动核心延迟的方法。在本文中,我们实现和优化所提出的方法在一个定制的LTE和DOCSIS端到端系统测试平台。该测试平台使用LTE网络的OpenAirInterface(OAI)平台,以及目前部署在全球HFC网络中的思科宽带路由器cBR-8。我们的研究结果表明,在所有流量负载条件下的回程延迟改善。
2022-11-15 cs.NI
RAPID: Proactive Rate Control for Enabling High Data Rate and Low Latency in 5G Edge Networks
Eindhoven University of Technology(埃因霍温理工大学)
针对5G边缘网络的高数据速率与低延迟需求,提出传输层方案RAPID,通过调节发送速率维持物理资源块利用率,测试显示其延迟远低于TCP Cubic,仅伴随适度吞吐量下降。
2026-10-12 cs.NI
TCP SIAD: Congestion Control supporting High Speed and Low Latency
拥塞控制已经是一个开放的研究课题超过二十年。越来越多的具有窄延迟要求的应用正在出现,这些应用没有被现有提案很好地解决。本文提出了一种新的拥塞控制方案--TCP可伸缩增加自适应减少(SIAD),它同时支持高速和低延迟。更确切地说,我们的算法旨在提供各种网络条件下的高利用率,因此将允许运营商配置小缓冲区以实现低延迟支持。为了在高速网络中提供完全的可扩展性,我们设计了一种新的方法,其目标是独立于可用带宽的固定反馈速率。此外,我们的方法提供了一个配置旋钮的反馈率。这可以由较高层控制环路使用以影响容量共享,潜在地以更高拥塞为代价,例如对于需要最小速率的应用。我们评估了TCP SIAD对众所周知的高速拥塞控制计划,如可扩展TCP和高速TCP,以及H-TCP,在其他目标的目标小缓冲区。我们表明,只有SIAD是能够利用任意缓冲区大小的瓶颈,同时避免了站立的队列。此外,我们证明了SIAD的容量共享取决于配置的反馈率和TCP SIAD的非拥塞相关的损失的高鲁棒性。
2016-12-23 cs.NI
MEC-Intelligent Agent Support for Low-Latency Data Plane in Private NextG Core
针对私有5G网络中UPF的动态资源管理需求,提出MEC-IA智能体主动分配UPF及MEC层资源,可大幅降低uRLLC业务时延、提升连接增益并节省资本支出。
2023-10-10 cs.NI
Predictive Pre-allocation for Low-latency Uplink Access in Industrial Wireless Networks
在现代工业系统中的关键任务应用的驱动下,第五代(5G)通信系统被期望提供超可靠的低延迟通信(URLLC)服务,以满足工业应用的服务质量(QoS)需求。然而,这些严格的要求不能保证其传统的动态接入方案,由于复杂的信令过程。一个有前途的解决方案,以减少接入延迟是预分配方案的基础上的半持久调度(SPS)技术,然而,这可能会导致低频谱利用率,如果分配的资源块(RB)不使用。在本文中,我们的目标是解决这个问题,通过开发DPre,预测预分配框架的上行链路接入调度延迟敏感的应用程序在工业过程自动化。DPre的基本思想是通过静态和动态学习机制探索和利用节点之间的数据采集和访问行为的相关性,以便做出明智的资源分配决策。我们在轧钢生产过程中的几个监测应用程序的基础上评估的有效性DPre。仿真结果表明,DPre在预测精度方面具有更好的性能,可以有效地增加预留资源的回报。
2018-01-06 cs.NI
A QoS-Aware Intelligent Replica Management Architecture for Content Distribution in Peer-to-Peer Overlay Networks
利用复制技术,大规模内容分发系统得到了广泛的改进。通过在地理上增加信息源,可以使所需的内容更接近客户端,这反过来又减少了访问延迟和网络流量。通过复制技术将负载分散到多个服务器上,可以提高系统的可扩展性。如果所请求对象的副本(例如,网页或图像)位于其更接近的位置,则客户端将感觉到低访问等待时间。根据副本的位置,复制的有效性在很大程度上趋于一致。本文提出了一种基于QoS的覆盖网络结构,该结构包含一种智能副本放置算法。其主要目标是提高P2P系统的网络利用率和容错能力。除了副本放置之外,它还具有缓存技术,以减少搜索延迟。我们能够表明,我们提出的架构达到更少的延迟和更好的吞吐量,减少带宽的使用,通过模拟结果。
2009-12-11 cs.NI
Performance Evaluation of Uplink 256QAM on Commercial 5G New Radio (NR) Networks
Waseda University(早稻田大学)
本文评估了在商用5G网络中启用上行256QAM对吞吐量、延迟和利用情况的影响,发现大规模MIMO部署可显著提升利用效率并降低延迟。
2025-11-25 cs.ET cs.NI
Fast LDPC GPU Decoder for Cloud RAN
研究了GPU作为云RAN的数字信号处理加速器。提出了一种在GPU上运行的5G NR低密度奇偶检验码解码器的新设计。该算法可以灵活地适应GPU架构,以实现高资源利用率以及低延迟。它改进了现有的分层设计,并行处理额外的码字,以提高利用率。与在FPGA(757K门)上实现的解码器相比,新的GPU(24核)解码器的吞吐量高出3倍。GPU解码器表现出3至5倍的低解码功率效率,作为典型的通用处理器。因此,GPU可以用作云加速器,其中快速部署和灵活性优先于解码功率效率。
2020-09-11 cs.NI eess.SP
SQP: Congestion Control for Low-Latency Interactive Video Streaming
本文介绍了SQP的设计和评估,一个拥塞控制算法(CCA)的交互式视频流应用,需要流高比特率压缩视频与非常低的端到端帧延迟(如。AR流媒体、云游戏)。SQP使用帧耦合的、步调一致的分组序列来对网络带宽进行采样,并使用自适应单向延迟测量来从排队中恢复,以获得低的、有界的排队延迟。SQP快速适应链路带宽的变化,确保高利用率和低帧延迟,并且在可接受的延迟包络内与正在构建的流竞争时,还实现了有竞争力的带宽共享。SQP具有良好的公平性,并且在具有浅缓冲区的链路上工作得很好。在Google的AR流媒体平台中,SQP与Copa的实际A/B测试中,SQP在LTE和Wi-Fi的高比特率和低帧延迟下分别实现了27%和15%的会话。当与Cubic和BBR等构建流量竞争时,SQP的带宽比GoogCC(WebRTC)、Sunday和PCC-Vivace高2- 3倍,性能与Copa相当(带模式切换)。
2022-07-25 cs.MM cs.NI
EDM: An Ultra-Low Latency Ethernet Fabric for Memory Disaggregation
针对数据中心以太网内存解耦的远程访问延迟挑战,EDM通过将协议栈移至以太网PHY层、在交换机PHY内实现集中式PIM启发调度器,实现超低延迟,无负载时仅约300ns,比RoCEv2低一个数量级,高负载下延迟为无负载的1.3倍以内。
2025-02-13 cs.NI cs.OS