Reinforcement Learning based Interconnection Routing for Adaptive Traffic Optimization
Georgia Institute of Technology(佐治亚理工学院);IBM Watson AI Foundation Group(IBM沃森人工智能基金会组)
应用机器学习技术设计和优化计算机体系结构是一个很有前途的研究方向。优化片上网络(NoC)的运行时性能需要一个持续的学习框架。在这项工作中,我们展示了应用强化学习(RL)优化NoC运行时性能的承诺。我们提出了三种基于RL的方法学习最优路由算法。实验结果表明,该算法可以成功地学习到一个接近最优的解决方案,在不同的环境状态。可复制代码:github.com/huckiyang/interconnect-routing-gym
2019-08-13 cs.AI cs.AR cs.LG
Short Quantum Circuits in Reinforcement Learning Policies for the Vehicle Routing Problem
QC Ware Corp.(QC韦尔公司);AISIN CORPORATION(爱信公司);Aisin Technical Center of America(美国爱信技术中心)
量子计算和机器学习具有共生的潜力。然而,除了当前设备的硬件限制之外,在量子线路能够有效地与当前的机器学习任务结合之前,仍然存在必须解决的基本问题。我们报告了一种新的策略,这种整合的背景下,用于强化学习的注意力模型。实现注意力机制的代理已成功地应用于某些情况下的组合路由问题,首先编码节点上的图,然后依次解码节点,直到选择的路线。我们证明了简单的量子线路可以用来代替经典的注意头层,同时保持性能。我们的方法修改了[1]中使用的网络,将每个节点的密钥和查询向量替换为在测量之前纠缠的量子态。由此产生的混合经典量子代理的车辆路径问题的情况下,其性能是有竞争力的,与原来的经典方法进行了测试。我们认为我们的模型是一个可以扩大规模的原型,也是进一步研究量子计算在强化学习中作用的途径。
2021-09-15 cs.LG quant-ph
Advancing Routing-Awareness in Analog ICs Floorplanning
University of Trieste(特里斯特大学);Infineon Technologies AT(英飞凌技术AT分公司);Infineon Technologies AG(英飞凌技术AG分公司)
本文提出一种结合强化学习与关系图卷积神经网络的模拟IC自动布局规划引擎,通过高分辨率网格、引脚信息和动态布线资源估计提升可布线性,显著减少死区与线长并提高布线成功率。
2025-10-17 cs.AI cs.LG
Deep Reinforcement Learning Based Cross-Layer Design in Terahertz Mesh Backhaul Networks
Shanghai Jiao Tong University(上海交通大学);University of Michigan-Shanghai Jiao Tong University (UM-SJTU) Joint Institute(上海交通大学密西根学院)
针对太赫兹mesh回传网络中动态流量与链路故障下的跨层路由和资源分配难题,提出基于DRL的DEFLECT方案,通过启发式路由度量和分层多任务DRL实现长期资源效率最大化与毫秒级故障恢复。
2023-10-08 cs.LG
On Joint Learning for Solving Placement and Routing in Chip Design
Shanghai Jiao Tong University(上海交通大学)
机器学习由于其在GPU加速方面的优势以及对人类专家的依赖性较小,已经成为解决布局和布线问题的新兴工具,这是现代芯片设计流程中的两个关键步骤。目前仍处于早期阶段,有一些基本问题:可扩展性,奖励设计,和端到端的学习范式等。为了实现端到端的放置学习,我们首先提出了一种联合学习方法DeepPlace称为宏和标准单元的放置,通过集成强化学习与基于梯度的优化方案。为了进一步将布局与后续的布线任务联系起来,我们还开发了一种通过强化学习来实现宏布局和布线的联合学习方法,称为DeepPR。在我们的(强化)学习范例中的一个关键设计涉及多视图嵌入模型,以编码输入宏的全局图级和局部节点级信息。此外,随机网络蒸馏的设计,以鼓励探索。在公共芯片设计基准上的实验表明,该方法可以有效地从经验中学习,并在几个小时的训练时间内为后标准单元布局提供中间布局。
2021-12-26 cs.AI cs.LG
URB -- Urban Routing Benchmark for RL-equipped Connected Autonomous Vehicles
Doctoral School of Exact and Natural Sciences, Jagiellonian University(杰尔吉利亚大学精确与自然科学博士学院);Faculty of Mathematics and Computer Science, Jagiellonian University(杰尔吉利亚大学数学与计算机科学学院);Urban Policy Observatory, Institute of Urban and Regional Development(城市政策观察所,城市与区域发展研究所)
针对强化学习在网联自动驾驶车辆城市路径规划领域缺乏真实基准的问题,提出包含29个真实路网、多类算法与指标的URB基准,实验发现现有MARL算法难超人类,凸显该领域技术升级的迫切性。
2025-10-28 cs.LG
Reinforcement Learning for Solving Stochastic Vehicle Routing Problem
MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文提出一种端到端强化学习框架,全面处理随机车辆路径问题中的随机性,相比最先进元启发式算法降低旅行成本3.43%,并展现出跨设置的鲁棒性。
2023-11-13 cs.AI cs.CE cs.LG
Correlation-Aware Contextual Bandits with Surrogate Rewards for LLM Routing
The Pennsylvania State University(宾夕法尼亚州立大学)
研究用于大语言模型路由的相关感知上下文博弈问题,提出耦合奖励混合与解耦预测混合两种利用替代奖励的算法,经理论分析和实验评估,相比基线方法提高了样本效率和精度 - 成本权衡。
2026-10-15 cs.AI cs.LG
A Deep Reinforcement Learning Algorithm Using Dynamic Attention Model for Vehicle Routing Problems
Department of Computer Science, Sun Yat-sen University(中山大学计算机科学系);Sun Yat-sen University(中山大学)
最近的研究表明,机器学习有可能学习到比人类设计的算法更好的算法来解决组合优化问题。深度神经网络用于表征输入实例以增量地构造可行解。最近,一个注意力模型被提出来解决路由问题。在此模型中,实例的状态由随时间固定的节点特征表示。然而,实际情况是,模型在不同的构造步骤所做的决策会改变实例的状态,节点特征也会相应地更新。因此,本文提出了一种具有动态编码器-解码器结构的动态注意力模型,使模型能够在不同的构造步骤中动态地探索节点特征,有效地挖掘隐藏的结构信息。本文研究了一个具有挑战性的NP-难问题--车辆路径问题。实验表明,该模型的性能优于以往的方法,也表现出良好的泛化性能。
2020-02-09 cs.AI cs.LG stat.ML
Reinforcement Learning for Solving the Pricing Problem in Column Generation: Applications to Vehicle Routing
Department of Information Systems, Faculty of Industrial Engineering and Innovation Sciences, Technical University Eindhoven, The Netherlands(信息系统系,工业工程与创新科学学院,埃因霍温技术大学,荷兰);Department of Mathematics, College of Computing and Mathematical Sciences, Khalifa University, United Arab Emirates(数学系,计算与数学科学学院,哈利法大学,阿联酋)
本文提出基于注意力机制的强化学习模型端到端求解列生成中的定价问题,无需启发式辅助,并在车辆路径问题变体上验证其相比动态规划启发式方法能以更短运行时间获得合理的线性松弛目标差距。
2025-08-19 cs.LG
Track-Assignment Detailed Routing Using Attention-based Policy Model With Supervision
Carnegie Mellon Unversity(卡内基梅隆大学);Cadence Design Systems(楷登电子系统公司)
详细布线是模拟电路设计中最关键的步骤之一。在先进的节点模拟电路中,完整的布线变得越来越具有挑战性,这使得高效自动布线器的进步变得更加必要。在这项工作中,我们提出了一个机器学习驱动的方法来解决先进的节点模拟电路的轨迹分配详细布线问题。我们的方法采用了基于注意力的强化学习(RL)的政策模型。我们的主要见解和进步,这个RL模型是使用监督的方式来利用传统的遗传算法(GA)产生的解决方案。为此,我们的方法最大限度地减少从RL政策模型的输出和从遗传求解器获得的解决方案分布之间的Kullback-Leibler发散损失。这种方法的主要优点是,路由器可以在有监督的离线设置中学习策略,同时将运行时性能提高近100倍于遗传求解器。此外,我们的方法产生的解决方案的质量匹配以及与GA产生的。我们表明,特别是对于复杂的问题,我们的监督RL方法提供了良好的质量解决方案类似于传统的基于注意力的RL不包括运行时间的性能。从示例设计中学习并训练路由器以获得具有数量级运行时改进的类似解决方案的能力可以极大地影响设计流程,从而可能增加设计探索和可布线性驱动的布局。
2020-10-26 cs.AI cs.LG
Context-Aware Hybrid Routing in Bluetooth Mesh Networks Using Multi-Model Machine Learning and AODV Fallback
Woosong University(又松大学)
针对蓝牙网状网络在拥塞和拓扑变化下AODV路由性能下降的问题,提出融合四个监督学习模型的混合路由框架,通过统一评分动态选择下一跳,在仿真中实现99.97%的投递率,显著提升可靠性与适应性。
2025-09-25 cs.LG cs.NI
Model and Machine Learning based Caching and Routing Algorithms for Cache-enabled Networks
网内高速缓存可能成为各种联网系统(例如,5G网络,LPWAN和IoT系统)。在本文中,我们比较和对比了基于模型的方法和机器学习方法,用于设计缓存和路由策略,以提高缓存网络性能(例如,延迟、命中率)。我们首先概述了基于模型的策略设计中使用的关键原则,并讨论了这些方法获得的分析结果和界限。通过对真实世界的痕迹和网络进行实验,我们确定了内容流行度偏度和请求流相关性之间的相互作用是影响缓存性能的重要因素。关于路由,我们表明,影响性能的主要因素是备用路径路由和内容搜索。然后,我们讨论了多种机器学习模型的适用性,特别是强化学习,深度学习,迁移学习和概率图形模型的缓存和路由问题。
2020-04-14 cs.NI
Towards Machine Learning-Enabled Context Adaption for Reliable Aerial Mesh Routing
在本文中,我们提出了上下文自适应PARRoT(CA-PARRoT)作为我们以前的工作预测Ad-hoc路由驱动的强化学习和轨迹知识(PARRoT)的扩展。在城市环境中发生的短期效应已被证明对基于强化学习(RL)的路由过程具有负面影响。因此,我们增加了一个基于定时器的补偿机制的更新过程中,并引入了一个混合机器学习(ML)的方法来分类无线电环境原型(REP)与一个专用的ML组件,使协议的自主上下文自适应。新协议的性能进行评估,考虑到不同的REP在综合网络模拟和比较知名的移动自组织网络(MANDO)建立路由协议。结果表明,CA-PARRoT能够补偿不同REP中面临的挑战,并将其关键性能指标(KPI)与PARRoT相比提高了23%,并优于已建立的路由协议高达50%。
2021-07-13 cs.NI
Knowledge-Guided Machine Learning for Stabilizing Near-Shortest Path Routing
The Ohio State University(俄亥俄州立大学);University of Houston(休斯顿大学)
提出一种知识引导的机器学习算法,利用单图少量样本训练DNN学习局部路由策略,解决全对近最短路径问题,并发现优于贪婪转发的GreedyTensile路由,具有可解释性和超低延迟。
2025-09-08 cs.LG cs.NI
MER-SDN: Machine Learning Framework for Traffic Aware Energy Efficient Routing in SDN
Koc University(科克大学)
软件定义网络(SDN)通过分离控制平面和数据平面来实现网络的可编程性。它实现了网络管理和控制的灵活性。能源效率是一个具有挑战性的全球性问题,具有经济和环境影响。在基于SDN的网络的控制器中生成大量信息。机器学习使计算机能够逐步从数据中学习,而无需编写特定的指令。在这项工作中,我们提出了MER-SDN:一个机器学习框架的流量感知能源效率的SDN路由。特征提取、训练和测试是学习机的三个主要阶段。实验在Mininet和POX控制器上进行,使用真实世界的网络拓扑结构和来自SNDlib的动态流量跟踪。实验结果表明,该方法能有效地减少特征尺寸约65%,提高能量有效的预测算法的参数预测精度70%以上,并且预测改进算法能以25倍的加速比将预测值收敛到最优参数值.
2021-08-05 cs.LG cs.NI stat.ML
Machine Learning-Assisted Least Loaded Routing to Improve Performance of Circuit-Switched Networks
近几十年来,最小负载(LL)路由算法一直是电路交换网络中选择的路由方法,因此它提供了一个可以与新方法进行比较的基准。本文通过引入机器学习方法,使用概念上简单的监督朴素贝叶斯(NB)分类器来提高LL算法的性能。基于一系列历史网络快照,预测每个节点对之间潜在的未来电路阻塞概率。这些快照是针对到达网络的每个服务请求拍摄的,并记录每个链路上在该时刻的繁忙容量单元的数量。用于服务当前服务请求的候选路由基于链路负载和在该路由确实被使用的情况下整个网络的潜在未来阻塞概率。通过仿真研究了该方法的性能,并与传统的LL算法和基于最短路径(SP)的方法进行了比较。实验结果表明,该算法显著降低了业务连接请求的阻塞概率,性能优于传统的LL和SP路由算法.为了使学习过程能够基于大量的网络快照,我们还开发了一个并行计算框架来实现并行学习和性能评估。最后,提出了一种支持朴素贝叶斯分类器辅助LL路由算法的网络控制系统。
2018-04-03 cs.NI
Flow-Packet Hybrid Traffic Classification for Class-Aware Network Routing
University of Toronto(多伦多大学);TELUS(泰勒斯公司)
使用机器学习技术的网络流量分类已经被广泛研究。大多数现有的计划分类整个交通流量,但有很大的局限性,其实用性。在网络路由器上,需要以最小的延迟处理数据包,因此分类器不能等到流结束才做出决定。此外,复杂的机器学习算法可能在计算上过于昂贵而无法在路由器内部实现。在本文中,我们引入流包混合流量分类(FPHTC),其中路由器作出决定,每个数据包的基础上的路由策略,设计通过转移学习的知识,从基于流的分类驻留在路由器之外。我们分析了FPHTC的推广界,并显示其优势,定期基于数据包的流量分类。我们目前的实验结果使用真实世界的流量数据集来说明FPHTC的分类性能。我们表明,它是强大的流量模式的变化,可以部署有限的计算资源。
2021-04-30 cs.LG cs.NI
Comments on "CRB-RPL: A Receiver-based Routing Protocol for Communications in Cognitive Radio Enabled Smart Grid"
Yang等人最近的一篇论文[1]提出CRB-RPL作为一种新的基于RPL的路由协议,用于认知无线电(CR)启用的智能电网中的通信。本质上,CRB-RPL采用CRB-MAC的操作,CRB-MAC是用于认知机器对机器(M2M)通信的介质访问控制(MAC)协议,并将其描述为网络层增强。CRB-RPL在协议操作和分析方面存在许多技术缺陷。本文的主要目的是突出CRB-RPL的这些技术缺陷,并提供分析建模的校正。
2017-03-22 cs.NI
Study of Cluster-Based Routing Based on Machine Learning for UAV Networks in 6G
本文针对6G无人机网络提出了一种基于XGBoost移动性预测与复合优化的机器学习驱动动态分簇与簇头选择框架,显著提升了分散式场景下的网络延迟、抖动和吞吐量等性能。
2025-10-31 cs.NI
Enhancing Video Transmission with Machine Learning based Routing in Software-Defined Networks
本研究利用SDN的集中式结构,提出基于AI的路由算法,在NSFNET拓扑中通过机器学习技术优化视频传输,并创建新数据集以评估性能。
2024-09-16 cs.NI
ML-MaxProp: Bridging Machine Learning and Delay-Tolerant Routing for Resilient Post-Disaster Communication
本文提出混合容迟网络路由协议 ML-MaxProp,利用监督学习依据接触、跳数、缓冲区和 TTL 等特征预测中继适配性,并在 ONE 仿真中显著提升投递率、降低时延与开销。
2025-08-31 cs.NI
Framework for Integrating Machine Learning Methods for Path-Aware Source Routing
本文提出集成 Hecate 与源路由工具 PolKA 的框架,基于实时流量统计计算最优路径并动态分配流,在仿真 P4 场景中验证其从理论走向实际自动驾驶网络的可行性。
2025-01-08 cs.NI
Artificial Intelligence Based Cognitive Routing for Cognitive Radio Networks
National University of Sciences and Technology(国立科技大学)
认知无线电网络(CRN)是由配备有认知无线电的节点组成的网络,其可以通过适应网络条件来优化性能。虽然认知无线电网络(CRN)被设想为智能网络,相对较少的研究集中在CRN的网络级功能。虽然各种路由协议,结合不同程度的自适应性,已被提出的CRN,它是必不可少的长期成功的CRN的认知路由协议的设计所追求的研究界。认知路由协议被设想为将基于AI的技术完全无缝地结合到其设计中的路由协议。在本文中,我们提供了一个关于各种AI和机器学习技术的独立教程,这些技术已经或可以用于开发认知路由协议。我们还调查了各类AI技术在CRN中的应用,特别是路由问题。我们讨论了人工智能的各种决策技术和学习技术,并记录了它们在CRN路由问题上的当前和潜在应用。我们还强调了认知路由协议必须解决的各种推理,推理,建模和学习子任务。最后,确定了开放的研究问题和未来的工作方向。
2013-08-31 cs.AI cs.NI
Systematic Testing of Multicast Routing Protocols: Analysis of Forward and Backward Search Techniques
在本文中,我们提出了一种新的方法来开发系统和自动测试生成算法的多点协议。这些算法试图综合网络拓扑和事件序列,强调协议的正确性或性能。这个问题可以被看作是一个特定领域的搜索问题,遭受状态空间爆炸问题。这项工作的一个目标是规避状态空间爆炸问题,利用网络和故障建模,和多点协议的知识。在这项研究中调查的两种方法是基于向前和向后搜索技术。我们使用一个扩展的有限状态机(FSM)模型的协议。第一个算法使用前向搜索来执行减少的可达性分析。使用域特定的信息在局域网上的组播路由,算法的复杂性从指数降低到多项式的路由器的数量。然而,这种方法不能完全自动化拓扑合成。第二种算法是面向故障的测试生成算法,该算法采用反向搜索进行拓扑综合,并采用回溯法生成事件序列,而不是从初始状态开始向前搜索。利用这些算法,我们进行了研究的正确性的组播路由协议PIM。我们建议扩展这些算法研究端到端的多点协议,使用虚拟局域网,代表延迟的底层组播分发树。
2000-07-04 cs.DS cs.NI