A Deep-Reinforcement Learning Approach for Software-Defined Networking Routing Optimization
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学);CA Technologies(CA科技公司)
在本文中,我们设计和评估了深度强化学习代理,优化路由。我们的代理自动适应当前的交通状况,并提出量身定制的配置,试图最大限度地减少网络延迟。实验表明,非常有前途的性能。此外,这种方法相对于传统的优化算法提供了重要的操作优势。
2017-09-20 cs.AI cs.NI
Enhancing Routing in SD-EONs through Reinforcement Learning: A Comparative Analysis
本文对比了epsilon-greedy bandit、UCB bandit和Q-learning在软件定义弹性光网络路由中的表现,证明Q-learning相比KSP-FF和SPF-FF能显著降低阻塞概率,提升网络资源利用率。
2024-10-17 cs.NI
SDN-Blockchain Based Security Routing for UAV Communication via Reinforcement Learning
The Key Laboratory of Dynamic Cognitive System of Electromagnetic Spectrum Space, Ministry of Industry and Information Technology, Nanjing University of Aeronautics and Astronautics(南京航空航天大学);School of Electronics and Information Engineering, Beihang University(北京航空航天大学);The State Key Laboratory of CNS/ATM(民航数据通信关键实验室);School of Information and Control Engineering, China University of Mining and Technology(中国矿业大学)
本文提出了一种结合SDN和区块链的强化学习方法,用于无人机通信中的安全路由,通过束搜索和近端策略优化算法提升路由效率和安全性。
2026-01-19 cs.NI
Reinforcement Learning Framework for Opportunistic Routing in WSNs
GMRIT(GMR理工学院)
机会路由是多跳无线传感器网络的重要组成部分。现有的路由技术不是自适应机会的。在本文中,我们提出了一个自适应的机会路由方案,路由数据包的机会,以确保数据包丢失是避免的。学习和路由相结合的框架,探索最佳路由的可能性。在本文中,我们使用客户模拟器实现了这个强化学习框架。实验结果表明,即使网络结构未知,该方案也能够利用机会优化数据包的路由。
2013-10-31 cs.LG cs.NI
Reinforcement Learning for Adaptive Routing
强化学习是指根据环境反馈学习策略--将观察映射为行动。学习可以被看作是浏览一组策略,同时通过与环境的交互来尝试评估它们。我们提出了一个梯度上升算法的强化学习应用到一个复杂的域的数据包路由在网络通信,并比较该算法的性能与其他路由方法的基准问题。
2007-03-28 cs.AI cs.LG cs.NI
Towards Cognitive Routing based on Deep Reinforcement Learning
Beijing University of Posts and Telecommunications(北京邮电大学)
路由是网络基础设施稳定运行的关键功能之一。随着网络业务量的快速增长和业务需求的不断变化,对智能路由算法提出了更高的要求。为此,我们提出了认知路由的定义和基于深度强化学习(DRL)的实现方法。为了方便基于DRL的认知路由的研究,我们引入了一个名为RL4Net的模拟器,用于基于DRL的路由算法的开发和仿真。然后,我们设计并实现了一个基于DDPG的路由算法。在一个典型网络拓扑上的仿真结果表明,基于DDPG的路由算法比OSPF和随机权值路由算法具有更好的性能。初步论证了认知路由在未来网络中的可行性和潜在优势。
2020-03-19 cs.AI cs.LG cs.NI
Optimizing NetGPT via Routing-Based Synergy and Reinforcement Learning
Zhejiang University(浙江大学);Shenzhen CyberAray Network Technology Co., Ltd(深圳赛博阵列网络技术有限公司);The University of Electro-Communications(电波大学);Huawei Technologies Co., Ltd.(华为技术有限公司);Zhejiang Lab(之江实验室);Macau University of Science and Technology(澳门科技大学)
NetGPT通过云边协同与强化学习优化,实现动态路由与边缘自改进,提升复杂请求处理效率与成本控制。
2025-11-27 cs.NI
Energy-Efficient Routing Algorithm for Wireless Sensor Networks: A Multi-Agent Reinforcement Learning Approach
针对无线传感器网络的能量管理问题,提出基于多智能体强化学习的簇头选择与混合多跳路由算法,融合Q学习与经典图方法优化路径,显著提升节点存活率、降低SoC方差,增强网络弹性。
2025-08-20 cs.NI
A summary of the routing algorithm and their optimization,performance
本文系统综述了计算机网络中各类路由算法的优化与性能评估,涵盖最短路径、洪泛、距离向量、链路状态等基本策略及更复杂技术。
2024-02-24 cs.NI
Graph Attention Reinforcement Learning for Multicast Routing and Age-Optimal Scheduling
本文旨在最小化动态多播网络的信息年龄,提出基于归一化图注意力机制(NGAT)的分层强化学习框架联合优化多播路由与调度,在计算效率和泛化能力上优于传统算法,并显著降低了平均加权AoI和峰值年龄。
2025-04-30 cs.NI
Decentralized Covert Routing in Heterogeneous Networks Using Reinforcement Learning
U.S. Army Combat Capabilities Development Command (DEVCOM) Army Research Laboratory(美国陆军能力发展司令部(DEVCOM)陆军研究实验室)
本文研究异构网络中的隐蔽路由通信,提出一种基于强化学习的去中心化路由算法,节点仅依靠局部反馈选择下一跳与通信模态,仿真表明其性能接近最优集中式方案。
2024-01-31 cs.LG cs.NI eess.SP
Energy-Efficient Routing Protocol in Vehicular Opportunistic Networks: A Dynamic Cluster-based Routing Using Deep Reinforcement Learning
University of Wollongong(伍伦贡大学)
本文提出一种基于深度强化学习的动态簇路由协议,通过实时最优中继选择和动态簇重叠调整,提升车载机会网络的路由效率与节点寿命。
2026-02-17 cs.NI stat.ME
Intelligent Routing Algorithm over SDN: Reusable Reinforcement Learning Approach
Western University(西安大略大学);University of Northern British Columbia(北英属哥伦比亚大学);Juniper Networks(瞻博网络公司)
针对SDN路由问题,提出了一种可复用的强化学习路由算法RLSR-Routing,通过学习全局网络QoS状态加速多流量需求下的路径计算与收敛,结合Segment Routing降低通信开销,实现了优于传统方法的负载均衡性能。
2024-09-23 cs.LG cs.NI
LLM-Driven Automated Reward Design for Reinforcement Learning-Based Routing in LEO Satellite Networks
Institute of Computing - State University of Campinas(坎皮纳斯州立大学计算研究所)
提出LARGE框架结合LLM生成与迭代在环仿真,为LEO卫星网络RL路由自动设计奖励,其性能可与专家基线相当,凸显该优化方法的潜力。
2026-08-04 cs.NI
On Routing Optimization in Networks with Embedded Computational Services
针对嵌入计算服务的网络,本文建立多类路由优化模型,提出低复杂度启发式算法及具性能保证的在线算法,并在真实拓扑上验证其灵活适配性与近优性能。
2023-06-06 cs.NI
Deep Reinforcement Learning Aided Packet-Routing For Aeronautical Ad-Hoc Networks Formed by Passenger Planes
University of Southampton(南安普顿大学);Bournemouth University(伯恩茅斯大学);Beihang University(北京航空航天大学)
航空自组织网络拓扑结构的高度动态性,使得航空自组织网络中的数据包路由具有挑战性。在本文中,我们调用深度强化学习在AAN中路由,旨在最大限度地减少端到端(E2 E)延迟。具体地,深度Q网络(DQN)被设想用于捕获最优路由决策与由转发节点观察到的本地地理信息之间的关系。DQN基于历史飞行数据以离线方式进行训练,然后由每架飞机存储,用于在飞行期间辅助其路由决策。为了提高学习效率和建议的DQN路由的在线适应性,我们进一步利用知识,系统的动态,通过使用深值网络(DVN)构思与反馈机制。我们的仿真结果表明,DQN路由和DVN路由实现更低的E2 E延迟比基准协议,和DVN路由执行类似的最优路由,依赖于完美的全局信息。
2021-10-28 cs.AI cs.LG cs.NI
Joint Optimization of Application Specific Routing in an Anycast Network
联网领域的最新发展为网络提供了有效满足用户的应用特定需求的机会。在这种情况下,路由路径不仅取决于网络状态,而且还根据使用网络的应用的最佳利益来计算。这些高级路由算法可以利用应用状态数据来增强高级网络服务,例如任播、边缘云计算和网络物理系统(CPS)。在这项工作中,我们的目标是设计这样一个路由算法的路由器的决定是基于凸优化技术。
2018-08-18 cs.NI
Towards Machine Learning-Enabled Context Adaption for Reliable Aerial Mesh Routing
在本文中,我们提出了上下文自适应PARRoT(CA-PARRoT)作为我们以前的工作预测Ad-hoc路由驱动的强化学习和轨迹知识(PARRoT)的扩展。在城市环境中发生的短期效应已被证明对基于强化学习(RL)的路由过程具有负面影响。因此,我们增加了一个基于定时器的补偿机制的更新过程中,并引入了一个混合机器学习(ML)的方法来分类无线电环境原型(REP)与一个专用的ML组件,使协议的自主上下文自适应。新协议的性能进行评估,考虑到不同的REP在综合网络模拟和比较知名的移动自组织网络(MANDO)建立路由协议。结果表明,CA-PARRoT能够补偿不同REP中面临的挑战,并将其关键性能指标(KPI)与PARRoT相比提高了23%,并优于已建立的路由协议高达50%。
2021-07-13 cs.NI
Distributed Traffic Engineering in Hybrid Software Defined Networks: A Multi-agent Reinforcement Learning Framework
针对混合SDN中集中式流量工程在动态网络下计算开销大、反应慢的问题,提出多智能体强化学习框架CMRL,通过划分路由决策、构建交互环境与引入差异奖励分配机制,实现了高效自适应的全局路由优化。
2023-07-29 cs.NI
Q-adaptive: A Multi-Agent Reinforcement Learning Based Routing on Dragonfly Network
提出面向 Dragonfly 的分布式多智能体强化学习路由 Q-adaptive,通过两级 Q 表降低计算与内存开销,并在仿真中显著提升吞吐量、降低延迟。
2024-04-03 cs.DC cs.NI
Reinforcing Reachable Routes
本文从可达性路由的角度研究路由算法的评价问题,其目标是确定发送者和接收者之间的所有路径。可达性路由正变得与互联网的动态变化和低带宽无线/ad-hoc网络的出现相关。我们的情况下,强化学习作为选择的框架,以实现可达性路由,在当前的互联网基础设施的范围内。强化学习问题的设置提供了几个优点,包括环路解析、多路径转发能力、成本敏感路由和最小化状态开销,同时保持当前骨干路由算法的增量精神。我们确定的强化学习应用于可达性路由问题,以实现流体和强大的骨干路由框架的研究问题。该文件是针对寻求实现可达性路由算法的从业者。
2002-07-21 cs.AI cs.NI
A Model Based Approach to Reachability Routing
网络路由研究的当前方向没有跟上网络架构的最新发展,例如对等网络、传感器网络、ad-hoc无线网络和覆盖网络。所有这些新技术的一个共同特点是存在高度动态的网络拓扑。目前部署的单路径路由协议不能充分应付这种动态,现有的多路径算法的权衡,导致这些网络上的最佳性能。这就需要在设计路由协议时考虑到这些网络的独特特性。在本文中,我们提出了可达性路由的概念,作为解决方案的路由所带来的挑战,这样的动态网络。特别是,我们制定的可达性路由提供了成本敏感的多路径转发,以及在互联网协议(IP)架构的范围内避免环路。这是通过在概率路由框架内应用强化学习来实现的。以下解释我们的设计决策和算法的描述,我们提供了各种网络拓扑结构上的算法的性能评估。结果表明,与其他基于强化学习的路由算法相比,该算法具有一贯的优越性能。
2005-11-14 cs.NI
An open source Multi-Agent Deep Reinforcement Learning Routing Simulator for satellite networks
Telecommunications Research Institute, University of Malaga(马拉加大学电信研究院);Aalborg University(奥尔堡大学)
本文针对低地球轨道卫星星座动态系统不确定性问题,提出开源Python模拟器,支持传统路由与Q-Routing、MA-DRL等学习方案,通过事件驱动模拟提升端到端延迟性能,代码文档开源。
2024-11-28 cs.LG cs.NI eess.SP
Online and Global Network Optimization: Towards the Next-Generation of Routing Platforms
SDN控制器的计算能力促进了新一代控制平面的开发,该控制平面使用计算密集型操作来自动化和优化跨层网络配置。从现在开始,尖端的优化和机器学习算法可以用于实时控制网络。这个巨大的机会改变了路由系统的构思和设计方式。本文提出了一个候选架构的下一代路由平台上建立三个主要支柱准入控制,重新路由和监控,这将是不可能在传统的控制平面。
2016-02-04 cs.NI
Relational Deep Reinforcement Learning for Routing in Wireless Networks
Wesleyan University(卫斯理大学);University of Connecticut(康涅狄格大学);Fordham University(福特汉姆大学)
虽然已经广泛地研究了无线网络中的路由,但是现有的协议通常是针对特定的网络条件集而设计的,因此不能适应这些条件中的任何急剧变化。例如,为连接的网络设计的协议不能容易地应用于断开的网络。在本文中,我们开发了一种基于深度强化学习的分布式路由策略,该策略可推广到不同的流量模式、拥塞水平、网络连接和链路动态。我们在设计中进行了以下关键创新:(i)使用关系特征作为近似决策空间的深度神经网络的输入,这使得我们的算法能够推广到不同的网络条件,(ii)使用以分组为中心的决策,通过将分组而不是无线设备视为强化学习代理,将路由问题转换为情景任务,这提供了一种在学习期间准确地传播和建模奖励的自然方式,以及(iii)使用延长时间动作来对分组在队列中等待所花费的时间建模,这减少了所需的训练数据量并允许学习算法更快地收敛。我们评估我们的路由算法使用数据包级模拟器,并表明我们的算法在训练过程中学习的政策是能够推广到更大,更拥挤的网络,不同的拓扑结构,和不同的链路动态。我们的算法优于最短路径和背压路由的数据包交付和延迟每包。
2020-12-31 cs.AI cs.NI
Toward Packet Routing with Fully-distributed Multi-agent Deep Reinforcement Learning
Fudan University(复旦大学);East China University of Science and Technology(华东理工大学);Hubei Normal University(湖北师范大学)
分组路由是计算机网络中的基本问题之一,其中路由器确定队列中每个分组的下一跳以使其尽可能快地到达目的地。强化学习(Reinforcement learning,RL)被引入到利用随机分组到达和服务的本地信息来设计自治分组路由策略中。然而,RL的维数灾难禁止更全面的动态网络状态的表示,从而限制了其潜在的好处。在本文中,我们提出了一种新的基于\emph{multi-agent}深度强化学习(DRL)的数据包路由框架,其中每个路由器都拥有一个\emph{independent} LSTM递归神经网络,用于在\emph{fully distributed}环境中进行训练和决策。LSTM递归神经网络从关于积压数据包和过去操作的丰富信息中提取路由特征,并有效地逼近Q学习的价值函数。我们还允许每个路由定期与直接邻居进行通信,以便更广泛地了解网络状态。实验结果表明,我们的多代理DRL政策可以罢工之间的微妙平衡,感知和最短的路由,并显着减少数据包的交付时间在一般的网络拓扑结构相比,它的同行。
2019-11-14 cs.AI cs.NI
Energy optimization and Performance Analysis of Cluster Based Routing Protocols Extended from LEACH for WSNs
能量有效的路由协议是无线传感器网络研究者关注的重点。在本文中,我们提出了一些能源有效的层次路由协议,繁荣传统的低能耗自适应聚类层次(LEACH)路由协议。我们考虑的基本目标是分析,这些扩展的路由协议如何工作,以优化网络节点的生命周期和路由协议的质量是如何提高的无线传感器网络。此外,本文还着重讨论了LEACH协议所面临的一些问题,并解释了其他经典LEACH路由协议如何解决这些问题。我们分析比较每个层次路由协议的功能和性能问题。我们还模拟了选定的分簇路由协议,我们的研究,以阐述改进的路由协议所取得的增强。
2013-09-17 cs.NI
Reinforcement Learning based Interconnection Routing for Adaptive Traffic Optimization
Georgia Institute of Technology(佐治亚理工学院);IBM Watson AI Foundation Group(IBM沃森人工智能基金会组)
应用机器学习技术设计和优化计算机体系结构是一个很有前途的研究方向。优化片上网络(NoC)的运行时性能需要一个持续的学习框架。在这项工作中,我们展示了应用强化学习(RL)优化NoC运行时性能的承诺。我们提出了三种基于RL的方法学习最优路由算法。实验结果表明,该算法可以成功地学习到一个接近最优的解决方案,在不同的环境状态。可复制代码:github.com/huckiyang/interconnect-routing-gym
2019-08-13 cs.AI cs.AR cs.LG
Reinforcement Learning for Opportunistic Routing in Software-Defined LEO-Terrestrial Systems
School of Electrical and Mechanical Engineering, University of Adelaide(阿德莱德大学电气与机械工程学院);Singapore University of Technology and Design(新加坡科技设计大学);Electronics and Telecommunications Research Institute(电子电信研究院)
本文提出了一种基于软件定义网络的强化学习方法,用于优化低地球轨道-地面系统的机智路由,以减少传输延迟并提高数据传输的可靠性。
2026-01-20 cs.LG cs.NI
Placement and Routing Optimization Problem for Service Function Chain: State of Art and Future Opportunities
网络功能虚拟化(NFV)允许网络功能的植入独立于专用硬件设备。任何一系列的服务都可以由一个服务功能链来表示,该服务功能链包含一组按指定顺序的虚拟化网络功能。从网络性能优化的角度来看,在网络中部署服务链的挑战是双重的:1)放置虚拟化网络功能的位置和资源分配方案;以及2)不同网络功能实例之间的业务流的路由策略。介绍了业务功能链相关的优化问题,总结了虚拟化网络功能部署和流量路由的优化动机和主流算法。希望能帮助读者了解当前的研究进展,并在此领域做出进一步的创新。
2019-10-07 cs.NI
Deep Reinforcement Learning for Multi-flow Routing in Heterogeneous Wireless Networks
本文提出基于深度强化学习(DRL)和深度Q网络(DQN)的多流路由框架,通过联合选择通信技术、子带和下一跳中继,并采用信道与干扰感知邻居选择,显著提升了异构无线网络的可扩展性、适应性和端到端吞吐量。
2025-11-03 cs.NI eess.SP
DeepMPR: Enhancing Opportunistic Routing in Wireless Networks through Multi-Agent Deep Reinforcement Learning
Episys Science Inc(Episys科学公司);The Boeing Company(波音公司)
针对传统MPR选择算法依赖节点协调、计算量大且难适配网络不确定性的问题,提出基于多智能体深度强化学习的DeepMPR组播路由技术,无需邻居MPR通告即可实现优于OLSR MPR等方案的性能。
2023-06-16 cs.AI cs.NI
Multi-Agent Reinforcement Learning for Network Routing in Integrated Access Backhaul Networks
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文首次针对集成接入回传网络提出基于多智能体强化学习的关系优势演员-评论家算法,在分布式约束下实现接近集中式性能的联合路由优化,提升网络效率并抑制自私行为。
2023-05-12 cs.AI cs.NI
CARL-DTN: Context Adaptive Reinforcement Learning based Routing Algorithm in Delay Tolerant Network
Wolkite University(沃尔凯特大学);Wollo University(沃洛大学)
延迟/中断容忍网络(DTN)一词的发明是为了描述和涵盖所有类型的长延迟,断开,间歇连接的网络,其中可能会遇到移动性和中断或预定的联系。这种环境的特征在于频繁的网络划分、间歇的连接、大的或可变的延迟、不对称的数据率和低的传输可靠性。在DTN中已经开发了路由协议。然而,这些路由算法是基于特定假设设计的。该假设使得现有算法适合于特定的环境场景。不同的路由算法使用不同的中继节点选择标准来选择复制节点。过于频繁地转发消息会导致过多的数据包丢失以及较大的缓冲区和网络开销。另一方面,较不频繁的传输导致较低的传输比。在DTN中,存在传递率和开销之间的权衡。在这项研究中,我们提出了上下文自适应强化学习为基础的路由(CARL-DTN)协议,以确定最佳副本的消息的实时密度的基础上。我们的路由协议联合使用实时物理上下文,社会关系强度,和实时消息上下文,使用模糊逻辑在路由决策。多跳转发概率也被认为是中继节点的选择,采用Q-学习算法,以估计节点之间的相遇概率,并通过折扣奖励学习在邻居中可用的节点。所提出的协议的性能进行评估的基础上,各种模拟场景。实验结果表明,该协议在消息投递率和开销方面具有较好的性能。
2021-05-02 cs.AI cs.NI
Reinforcement-Learning based routing for packet-optical networks with hybrid telemetry
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);Telefonica I+D(西班牙电信研发部门)
本研究提出一种面向混合遥测分组光网络的强化学习路由方法,结合物理层与链路层测量值设置时延奖惩,通过Q-learning寻优,可动态适应网络负载与链路质量变化并提供开源实现。
2024-06-21 cs.LG cs.NI
DRL-M4MR: An Intelligent Multicast Routing Approach Based on DQN Deep Reinforcement Learning in SDN
Guilin University of Electronic Technology(桂林电子科技大学);Fujian University of Technology(福建工程学院);Peng Cheng Lab.(鹏城实验室)
传统的组播路由方法在构建组播树时存在对网络状态信息获取受限、对网络动态复杂变化的适应性差、数据转发不灵活等问题。针对这些缺陷,将软件定义网络(SDN)中的最优组播路由问题裁剪为多目标优化问题,设计了一种基于深度Q网络(DQN)深度强化学习(DRL)方法的智能组播路由算法DRL-M4 MR,用于构建SDN中的组播树。首先,结合SDN的全局视图和全局控制,设计了DRL代理的状态空间:组播树状态矩阵、链路带宽矩阵、链路时延矩阵和链路丢包率矩阵。第二,代理的动作空间是网络中的所有链路,并在四种情况下设计了将链路添加到当前组播树的动作选择策略。第三,设计了单步和最终的奖励函数形式来指导智能决策以构造最优的组播树。实验结果表明,与现有算法相比,DRL-M4 MR构造的组播树在训练后能获得更好的带宽、时延和丢包率性能,并能在动态网络环境下做出更智能的组播路由决策。
2022-07-31 cs.AI cs.NI
Scalable Deep Reinforcement Learning for Routing and Spectrum Access in Physical Layer
University of Toronto(多伦多大学)
提出了一种新的可扩展强化学习方法,用于无线自组织网络中同时路由和频谱接入。在以前大多数关于网络优化的强化学习的工作中,假设网络拓扑是固定的,并且为每个传输节点训练不同的代理-这限制了可扩展性和可推广性。此外,路由和频谱接入通常被视为单独的任务。此外,优化目标通常是沿着路线的累积度量,例如,跳数或延迟。在本文中,我们考虑了无线网络中的物理层信号与干扰加噪声比(SINR),并进一步表明,瓶颈目标,如沿路由的最小SINR,也可以使用强化学习进行有效优化。具体来说,我们提出了一个可扩展的方法,其中一个单一的代理与每个流,使路由和频谱访问决策,因为它沿着边界节点移动。该代理是根据环境的物理层特性进行训练,使用一种新的奖励计划的基础上的未来瓶颈SINR的蒙特卡罗估计。它通过基于相邻节点的地理位置信息智能地做出联合路由和频谱分配决策来学习避免干扰。
2021-09-15 cs.AI cs.LG cs.MA
MA-CDMR: An Intelligent Cross-domain Multicast Routing Method based on Multiagent Deep Reinforcement Learning in Multi-domain SDWN
Xidian University(西安电子科技大学)
针对多域SDWN跨域组播路由现有方案感知能力弱、收敛慢的问题,提出MA-CDMR方法,通过多控制器协作机制、多智能体协作及混合训练模式优化路由,提升收敛速度与服务质量。
2024-09-11 cs.AI cs.NI
Routing Recovery for UAV Networks with Deliberate Attacks: A Reinforcement Learning based Approach
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Xidian University(西安电子科技大学);China Academy of Railway Sciences Corporation Limited(中国铁道科学研究院集团有限公司)
针对无人机网络在蓄意攻击下的路由恢复难题,本文设计基于节点重要性的攻击模型与排序机制,并提出强化学习算法动态恢复路由,仿真验证其优于参照方法。
2023-08-14 cs.AI cs.CR cs.LG
An Overlay Multicast Routing Method Based on Network Situational Awareness and Hierarchical Multi-Agent Reinforcement Learning
School of Information and Communication, Guilin University of Electronic Technology(桂林电子科技大学信息与通信学院);School of Computer Science and Information Security, Guilin University of Electronic Technology(桂林电子科技大学计算机科学与信息安全学院);Information Center, Guilin Medical University(桂林医学院信息中心);School of Optoelectronic Engineering, Guilin University of Electronic Technology(桂林电子科技大学光电工程学院)
本文提出MA-DHRL-OM方法,通过分层多智能体强化学习和SDN全局视图构建组播路径规划模型,解决传统组播在动态流量适应性和多目标优化中的不足,实验表明其在延迟、带宽利用和丢包率方面表现更优。
2026-04-23 cs.AI cs.NI
An Intelligent SDWN Routing Algorithm Based on Network Situational Awareness and Deep Reinforcement Learning
Guilin University of Electronic Technology(桂林电子科技大学)
针对无线网络拓扑动态变化导致的路由挑战,提出基于网络态势感知与深度强化学习的智能SDWN路由算法DRL-PPONSA,通过GCN-GRU预测流量并结合PPO优化数据转发,显著提升了网络性能与收敛稳定性。
2023-05-12 cs.AI cs.NI
Deep Reinforcement Learning meets Graph Neural Networks: exploring a routing optimization use case
Barcelona Neural Networking Center(巴塞罗那神经网络中心);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学);Institute of Telecommunications(电信研究所);AGH University of Science and Technology(AGH科技大学)
深度强化学习(DRL)在决策和自动控制问题方面表现出显着的改进。因此,DRL代表了一种有前途的技术,可以有效地解决许多相关的优化问题(例如,自动驾驶网络中的路由。然而,应用于网络的现有基于DRL的解决方案未能推广,这意味着当应用于训练期间未观察到的网络拓扑时,它们不能正常操作。这种泛化能力的缺乏严重阻碍了DRL技术在生产网络中的部署。这是因为现有技术的基于DRL的联网解决方案使用标准神经网络(例如,完全连接的、卷积的),其不适合从结构化为图的信息中学习。在本文中,我们集成了图神经网络(GNN)到DRL代理,我们设计了一个问题的具体行动空间,使泛化。GNN是一种深度学习模型,其本质上是为了在不同大小和结构的图上进行泛化而设计的。这使得所提出的基于GNN的DRL代理能够在任意网络拓扑上学习和推广。我们在光网络的路由优化用例中测试了我们的DRL+GNN代理,并分别在180和232个看不见的合成和真实网络拓扑上对其进行了评估。结果表明,DRL+GNN智能体能够在训练期间从未见过的拓扑中超越最先进的解决方案。
2022-10-07 cs.LG cs.NI
RELiQ: Scalable Entanglement Routing via Reinforcement Learning in Quantum Networks
Technical University of Darmstadt(达姆施塔特工业大学);Leibniz University Hannover(莱布尼茨汉诺威大学);IMDEA Networks(IMDEA网络研究所)
本文提出RELiQ,一种基于强化学习的纠缠路由方法,利用图神经网络学习图表示,避免过拟合特定网络拓扑,优于现有局部信息启发式方法和学习方法,尤其在拓扑变化快速响应方面表现优异。
2025-11-27 cs.AI cs.NI quant-ph
Robust and Scalable Routing with Multi-Agent Deep Reinforcement Learning for MANETs
EpiSys Science, Inc.(EpiSys科学公司);Boeing Research and Technology(波音研究与技术公司)
高度动态的移动ad-hoc网络(MANNETWORK)继续作为最具挑战性的环境之一,开发和部署强大的,高效的,可扩展的路由协议。在本文中,我们提出了DeepCQ+路由,它以一种新颖的方式,将新兴的多代理深度强化学习(MADRL)技术集成到现有的基于Q学习的路由协议及其变体中,并在仅在有限范围的网络参数和条件下进行训练的同时,在广泛的MANET配置中实现持续的更高性能。与基于Q-learning的同类产品相比,DeepCQ+始终显示出更高的端到端吞吐量和更低的开销,其效率总体提高了10-15%。更重要的是,DeepCQ+在许多场景下保持了非常相似的性能增益,而这些场景在网络规模、移动性条件和流量动态方面都没有经过训练。据我们所知,这是第一次成功的示范MADRL的MANET路由问题,实现并保持高度的可扩展性和鲁棒性,即使在环境中的训练范围之外的情况。这意味着所提出的结合MADRL和Q学习的DeepCQ+混合设计方法显着提高了其实用性和可解释性,因为现实世界的MANET环境可能会在MANET场景的训练范围之外变化。
2021-03-29 cs.AI cs.LG cs.MA
An Approach In Optimization Of AD-Hoc Routing Algorithms
本文综述了Ad-hoc网络路由算法的各种优化方法,提出了一种利用基于训练的优化算法来降低路由算法复杂度的新方法。二进制矩阵被分配给网络中的每个节点,并在使用协议的每次数据传输后进行更新。在路由算法中使用优化算法可以将路由的复杂度降低到最小。
2012-06-08 cs.IT cs.NI math.IT
Multi-Agent Deep Reinforcement Learning for Cost- and Delay-Sensitive Virtual Network Function Placement and Routing
Beijing University of Posts and Telecommunications(北京邮电大学);SUTD(新加坡科技设计大学);Commonwealth Scientific and Industrial Research Organisation (CSIRO)(联邦科学与工业研究组织(CSIRO));NTU(南洋理工大学)
提出了一种基于多智能体深度强化学习(MADRL)的联合虚拟网络功能(VNF)布局和路由(P&R)方法,该方法可以同时提供多个具有差异化需求的服务请求。服务请求的不同要求反映在对延迟和成本敏感的因素上。我们首先构造一个VNF P&R问题,以联合最小化服务延迟和资源消耗成本的加权和,这是NP完全的。然后,联合VNF P&R问题被解耦为两个迭代子任务:布局子任务和路由子任务。每个子任务由多个并发并行顺序决策过程组成。通过引入深度确定性策略梯度方法和多智能体技术,设计了一个MADRL-P&R框架来完成这两个子任务。新的联合奖励和内部奖励机制,提出了匹配的布局和路由子任务的目标和约束。我们还提出了基于参数迁移的模型再训练方法来处理不断变化的网络拓扑结构。通过实验验证,建议MADRL-P&R框架是优于其替代品的服务成本和延迟,并提供了更高的灵活性,个性化的服务需求。基于参数迁移的模型再训练方法在网络拓扑结构变化不大的情况下能有效地加速收敛。
2022-06-24 cs.AI cs.LG cs.NI
DeepCQ+: Robust and Scalable Routing with Multi-Agent Deep Reinforcement Learning for Highly Dynamic Networks
EpiSys Science, Inc.(EpiSys科学公司);Boeing Research and Technology(波音研究与技术)
高度动态的移动ad-hoc网络(MANNETWORK)仍然是最具挑战性的环境之一,以开发和部署强大的,高效的,可扩展的路由协议。在本文中,我们提出了DeepCQ+路由协议,该协议以一种新颖的方式将新兴的多代理深度强化学习(MADRL)技术集成到现有的基于Q学习的路由协议及其变体中,并在广泛的拓扑和移动性配置中实现了持续的更高性能。在保持基于Q学习的路由协议的整体协议结构的同时,DeepCQ+用精心设计的MADRL代理替换了静态配置的参数化阈值和手写规则,这样就不需要先验地配置这些参数。广泛的模拟表明,与基于Q学习的同行相比,DeepCQ+的端到端吞吐量显着增加,开销更低,端到端延迟(跳数)没有明显下降。在质量上,也许更重要的是,DeepCQ+在许多场景下保持了非常相似的性能增益,而这些场景在网络规模、移动性条件和流量动态方面都没有经过训练。据我们所知,这是第一次成功的应用程序的MADRL框架的MANET路由问题,表现出高度的可扩展性和鲁棒性,即使在环境下的训练范围之外的情况下。这意味着我们基于MARL的DeepCQ+设计解决方案显着提高了基于Q学习的CQ+基线方法的性能,并提高了其实用性和可解释性,因为真实的MANET环境可能会在MANET场景的训练范围之外变化。讨论了进一步提高性能和可伸缩性的其他技术。
2021-11-29 cs.AI cs.LG cs.NI
A Novel Reinforcement Learning Routing Algorithm for Congestion Control in Complex Networks
Shahid Beheshti University(贝赫什提大学)
本文提出一种利用强化学习的路由算法,通过结合最短路径算法优化路径长度并控制拥塞,在多种网络拓扑下显著提升网络吞吐量,最大节点拥塞减少五倍,效率提升达30%。
2023-12-30 cs.LG cs.NI
A Flexible Multi-Agent Deep Reinforcement Learning Framework for Dynamic Routing and Scheduling of Latency-Critical Services
University of Naples Federico II(那不勒斯费德里科二世大学);University of Southern California(南加州大学);University of Trento(特伦托大学)
本文提出一种基于MADDPG的集中式路由与分布式调度MA-DRL框架,通过动态分配路径和调度数据包传输最大化按时交付,解决了延迟关键服务中严格的E2E峰值延迟保证问题。
2025-10-13 cs.AI cs.NI
A Reinforcement Learning-Based Telematic Routing Protocol for the Internet of Underwater Things
University of Extremadura(埃斯特拉曼杜拉大学);University of Verona(威尼斯大学)
本文提出了一种基于强化学习的水下物联网远程路由协议RL-RPL-UA,通过动态目标函数优化网络性能,实验显示其在数据包交付率、能耗和网络寿命方面均优于传统方法。
2025-11-21 cs.AI cs.LG cs.NI
Dynamic Routing for Integrated Satellite-Terrestrial Networks: A Constrained Multi-Agent Reinforcement Learning Approach
针对星地一体化网络中复杂动态路由及服务质量约束问题,提出基于 Lagrange max-min 建模的约束多智能体强化学习算法 CMADR,并在 OneWeb、Telesat 星座中验证其显著降低时延。
2023-12-23 cs.AI cs.LG cs.NI
Asynchronous MultiAgent Reinforcement Learning for 5G Routing under Side Constraints
Concordia University(康科德大学)
本文提出异步多智能体强化学习框架,用于解决5G路由下的侧约束问题,通过并行规划和资源协调实现高效且鲁棒的路由决策。
2026-01-18 cs.DC cs.LG cs.MA
Reinforcement Learning with Graph Attention for Routing and Wavelength Assignment with Lightpath Reuse
University College London(伦敦大学学院)
针对生产系统采用的固定网格加弹性速率转发器场景,提出基于图注意力的强化学习方法解决支持光路复用的路由与波长分配问题,通过基准测试优化启发式算法并开源代码,吞吐量较最优RL方法提升2.5%。
2025-04-18 cs.LG cs.NI cs.SY
ENERO: Efficient Real-Time WAN Routing Optimization with Deep Reinforcement Learning
Barcelona Neural Networking Center, Universitat Politècnica de Catalunya(加泰罗尼亚理工大学巴塞罗那神经网络中心);Huawei Technologies Co.,Ltd.(华为技术有限公司)
广域网(WAN)是当今社会的关键基础设施。在过去的几年中,WAN已经看到网络的流量和网络应用的相当大的增长,对现有的网络技术(例如,低等待时间和高吞吐量)。因此,互联网服务提供商(ISP)面临着确保客户的服务质量和履行服务水平协议的压力。网络运营商利用流量工程(TE)技术来有效地管理网络资源。然而,WAN的流量可能会随着时间的推移而急剧变化,并且连接性可能会因外部因素(例如,链路故障)。因此,TE解决方案必须能够实时的【形】适应动态场景。在本文中,我们提出了Enero,一个有效的实时的【形】TE解决方案的基础上,两个阶段的优化过程。在第一个中,Enero利用深度强化学习(DRL)通过生成长期TE策略来优化路由配置。为了能够在动态网络场景(例如,当发生链路故障时),我们将图神经网络集成到DRL代理中。在第二阶段,Enero使用局部搜索算法来改进DRL的解决方案,而不会增加优化过程的计算开销。实验结果表明,Enero能够在真实世界的动态网络拓扑结构中运行,平均4.5秒的拓扑结构多达100个边缘。
2022-08-02 cs.LG cs.NI