Hybrid Beamforming for mmWave MU-MISO Systems Exploiting Multi-agent Deep Reinforcement Learning
Southeast University(东南大学);ZTE Corporation(中兴通讯股份有限公司)
在这封信中,我们研究了基于深度强化学习(DRL)的混合波束形成用于毫米波(mmWave)多用户(MU)多输入单输出(MISO)系统。提出了一种多智能体DRL方法来解决DRL中的探索效率问题。在所提出的方法中,优先重放缓冲区和更多的信息奖励,以加速收敛。仿真结果表明,与基准算法相比,该算法具有更高的频谱效率和更少的时间消耗,更适合于实际应用。
2021-02-01 cs.AI cs.LG eess.SP
Hybrid Group Relative Policy Optimization: A Multi-Sample Approach to Enhancing Policy Optimization
Collins Aerospace(柯林斯航空航天公司)
本文提出Hybrid GRPO框架,通过结合经验多样本动作采样与自举价值估计来改进PPO和GRPO,在提升样本效率与学习稳定性的同时缓解方差放大问题,并展示其在LLM与真实世界智能体决策中的潜在应用。
2025-01-30 cs.AI cs.LG
Parametrized Deep Q-Networks Learning: Reinforcement Learning with Discrete-Continuous Hybrid Action Space
Tencent AI Lab(腾讯人工智能实验室);Princeton University(普林斯顿大学);Northwestern University(西北大学)
大多数现有的深度强化学习(DRL)框架只考虑离散动作空间或连续动作空间。受计算机游戏中应用的启发,我们考虑了离散-连续混合动作空间的场景。为了处理混合动作空间,以前的工作要么近似的混合空间离散化,或放松到一个连续的集合。在本文中,我们提出了一个参数化的深度Q网络(P-DQN)框架的混合行动空间没有近似或松弛。该算法结合了DQN(处理离散动作空间)和DDPG(处理连续动作空间)的思想,将它们无缝融合。仿真算例、RoboCup足球比赛进球和王者荣耀单人模式下的实验结果验证了该方法的有效性。
2018-10-10 cs.AI cs.LG stat.ML
A Hybrid Framework of Reinforcement Learning and Convex Optimization for UAV-Based Autonomous Metaverse Data Collection
Nanyang Technological University(南洋理工大学)
针对无人机辅助元宇宙数据采集中资源分配与轨迹控制的时间序列优化难题,本文提出强化学习与凸优化协同的混合框架,在给定功率资源下有效缩短任务完成时间。
2023-05-29 cs.AI cs.LG
UAV-assisted Semantic Communication with Hybrid Action Reinforcement Learning
Nanyang Technological University(南洋理工大学);University of North Texas(北德克萨斯大学)
本文针对偏远地区元宇宙用户上行数据收集效率问题,提出一种混合动作强化学习框架,联合优化语义模型规模、信道分配、功率和无人机轨迹,实验表明其优于基准方案。
2023-12-01 cs.AI cs.LG cs.NI
A Note on Hybrid Online Reinforcement and Imitation Learning for LLMs: Formulations and Algorithms
Yingru Li, Ziniu Li, Jiacai Liu(作者)
本文提出了一种整合模仿学习与强化学习的LLM微调框架,通过梯度分解实现高效token级模仿与长周期奖励优化。
2025-12-28 cs.AI cs.CL cs.LG
Learning Two-Step Hybrid Policy for Graph-Based Interpretable Reinforcement Learning
University of California San Diego(加州大学圣地亚哥分校);Amazon(亚马逊)
我们提出了一个两步的混合强化学习(RL)的政策,旨在生成可解释的和强大的分层策略的RL问题与基于图的输入。与之前由端到端黑盒图神经网络参数化的深度强化学习策略不同,我们的方法将决策过程分解为两个步骤。第一步是一个简化的分类问题,它将图形输入映射到一个动作组,其中所有动作都具有相似的语义含义。第二步实现了一个复杂的规则挖掘机,进行显式的一跳推理的图形,并确定在图形输入的决定性的边缘,而不需要沉重的领域知识。这种两步混合策略提供了人性化的解释,并在泛化和鲁棒性方面实现了更好的性能。四个层次的复杂的基于文本的游戏进行了广泛的实验研究表明,所提出的方法相比,国家的最先进的优越性。
2022-10-19 cs.AI cs.CL cs.LG
Reinforcement Learning in Partially Observable Markov Decision Processes using Hybrid Probabilistic Logic Programs
Gulf University for Science and Technology(海湾科技大学)
我们提出了一个概率逻辑编程框架,强化学习,通过集成强化学习,在POMDP环境中,与正常的混合概率逻辑程序与概率答案集语义,这是能够表示特定领域的知识。我们正式证明了我们的方法的正确性。我们证明了在我们的方法中为强化学习问题找到策略的复杂性是NP完全的。此外,我们证明了任何强化学习问题都可以编码为具有答案集语义的经典逻辑程序。我们还表明,一个强化学习问题可以编码为SAT问题。我们提出了一个新的高层次的动作描述语言,允许POMDP的因子表示。此外,我们修改了POMDP的原始模型,使它能够区分知识生产行动和行动,改变环境。
2010-11-27 cs.AI
Hybrid intelligence for dynamic job-shop scheduling with deep reinforcement learning and attention mechanism
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);School of Intelligent Systems Science and Engineering, Jinan University(暨南大学智能系统科学与工程学院)
动态车间调度问题(DJSP)是一类专门考虑实际智能制造环境中订单需求变化和机器故障等固有不确定性的调度任务。由于传统的方法不能动态地产生有效的调度策略,面对环境的干扰,我们制定的DJSP作为一个马尔可夫决策过程(MDP)处理的强化学习(RL)。为此,我们提出了一个灵活的混合框架,采取析取图的状态和一组一般的调度规则的动作空间与最小的先验领域知识。注意力机制被用作用于状态的特征提取的图表示学习(GRL)模块,并且采用具有优先重放和噪声网络的双重决斗深度Q网络(D3QPN)来将每个状态映射到最合适的调度规则。此外,我们提出了Gymjsp,一个公共基准的基础上著名的OR库,RL和DJSP研究社区提供了一个标准化的现成的设施。各种DJSP实例上的综合实验证实,我们提出的框架是优于基线算法,在所有实例中具有较小的最大完工时间,并提供经验证明的混合框架中的各个组件的有效性。
2022-01-03 cs.AI cs.LG
Data Quality-aware Mixed-precision Quantization via Hybrid Reinforcement Learning
Xi’an Jiaotong University(西安交通大学);The Hong Kong Polytechnic University(香港理工大学)
由于非差分位宽采样过程,混合精度量化主要在实际训练之前预先确定模型位宽设置,从而获得次优性能。更糟糕的是,传统的静态质量一致的训练设置,即,假设所有数据在训练和推断中具有相同的质量,忽略了现实世界应用中的数据质量变化,这可能导致量化模型的鲁棒性差。在本文中,我们提出了一种新的数据质量感知的混合精度量化框架,称为DQMQ,动态适应量化位宽不同的数据质量。自适应是基于可以与量化训练联合学习的位宽决策策略。具体地说,DQMQ被建模为一个混合强化学习(RL)任务,结合了基于模型的策略优化与监督量化训练。通过将离散位宽采样放松为用很少的可学习参数编码的连续概率分布,DQMQ是可微分的,并且可以直接端到端地优化,其中混合优化目标考虑任务性能和量化益处。在混合质量的图像数据集上训练,DQMQ可以在面对不均匀的输入质量时隐式地为每个层选择最合适的位宽。在各种基准数据集和网络上进行的大量实验证明了DQMQ相对于现有固定/混合精度量化方法的优越性。
2023-02-09 cs.AI cs.LG
Hysteresis-Based RL: Robustifying Reinforcement Learning-based Control Policies via Hybrid Control
University of California, Santa Cruz(加州大学圣克鲁兹分校);Eindhoven University of Technology(埃因霍温理工大学)
强化学习(RL)是一种很有前途的复杂系统控制方法。正如我们在两个控制问题中所示,使用近端策略优化(PPO)和深度Q网络(DQN)算法所导出的策略可能缺乏鲁棒性保证。出于这些问题,我们提出了一种新的混合算法,我们称之为基于滞后的RL(HyRL),增强了现有的RL算法滞后切换和两个阶段的学习。我们说明了它的属性在PPO和DQN失败的两个例子。
2022-04-01 cs.AI cs.LG cs.SY
CADENT: Gated Hybrid Distillation for Sample-Efficient Transfer in Reinforcement Learning
University of Central Florida(中央佛罗里达大学)
CADENT通过结合战略自动机知识与战术策略知识,提出经验门控信任机制,实现强化学习中样本高效的知识迁移。
2026-01-28 cs.AI cs.LG
Hybrid Value Estimation for Off-policy Evaluation and Offline Reinforcement Learning
Nanjing University(南京大学);The University of Hong Kong(香港大学)
价值函数估计是强化学习中不可或缺的子程序,在离线环境下变得更加具有挑战性。在本文中,我们提出了混合值估计(HVE),以减少值估计误差,通过平衡离线数据和学习模型的值估计之间的偏差和方差。理论分析表明,HVE比直接方法具有更好的误差界。HVE可以在离线评估和离线强化学习设置中使用。因此,我们分别提供了两个具体的算法Off-policy HVE(OPHVE)和Model-based Offline HVE(MOHVE)。对MuJoCo任务的实证评估证实了理论主张。OPHVE在测量估计有效性的所有三个指标上都优于其他非策略评估方法,而MOHVE通过最先进的离线强化学习算法实现了更好或相当的性能。我们希望HVE能为固定数据强化学习的进一步研究提供参考。
2022-06-04 cs.LG
LERO: LLM-driven Evolutionary framework with Hybrid Rewards and Enhanced Observation for Multi-Agent Reinforcement Learning
Qiyuan Lab(启元实验室)
LERO框架结合LLM与进化优化,通过混合奖励和增强观测解决多智能体强化学习中的信用分配与部分可观测性问题,在MPE中提升任务性能和训练效率。
2025-03-25 cs.AI cs.LG cs.MA
Hybrid Inverse Reinforcement Learning
Cornell University(康奈尔大学);Carnegie Mellon University(卡内基梅隆大学);Aurora Innovation(极光创新公司)
提出混合逆强化学习方法,通过混合在线与专家数据减少不必要探索,将逆RL归约为专家竞争性RL,在保持性能保证的同时大幅提升样本效率。
2024-06-05 cs.AI cs.LG
Imitation Game: A Model-based and Imitation Learning Deep Reinforcement Learning Hybrid
Carl von Ossietzky University Oldenburg(卡尔·冯·奥西茨基奥尔登堡大学);OFFIS – Institute for Information Technology(OFFIS信息技术研究所)
针对深度强化学习在能源系统中样本效率低和灾难性遗忘问题,本文提出一种结合基于模型深度强化学习与模仿学习的混合智能体架构。
2024-04-02 cs.AI
A reinforcement learning approach to hybrid control design
Indian Institute of Science Bangalore(印度科学理工学院班加罗尔)
针对数学模型未知的混杂系统,设计了混杂控制策略。我们的贡献是三方面的。首先,我们提出了一个框架建模的混合控制设计问题作为一个单一的马尔可夫决策过程(MDP)。这一结果有利于应用强化学习(RL)文献中的现成算法来设计最优控制策略。其次,我们在建议的MDP框架的混合控制设计问题的一组基准的例子建模。第三,我们适应最近提出的近端策略优化(PPO)算法的混合行动空间,并将其应用到上述一组问题。据观察,在每种情况下,算法收敛,并找到最佳的政策。
2020-09-02 cs.AI cs.SY eess.SY
Reinforcement Learning Agent for a 2D Shooter Game
Faculty for Mathematics(数学系);Department of Electrical Engineering and Information Technology(电气工程与信息科技系);IIIT at ETIT(ETIT的IIIT)
本文针对2D射击游戏中强化学习训练不稳定和样本效率低的问题,提出先行为克隆后强化学习的混合方法,并采用多头注意力网络,最终实现超过70%的稳定胜率。
2025-09-18 cs.AI cs.LG
Reinforcement learning for traffic signal control in hybrid action space
基于自适应学习的交通信号控制方法主要有阶段优化和持续时间优化两种,这取决于行为空间。在本文中,我们提出了一种新的控制架构,TBO,这是基于混合邻近策略优化。据我们所知,TBO是第一个基于RL的算法,实现同步优化的分期和持续时间。与离散和连续动作空间相比,混合动作空间是一个合并的搜索空间,TBO在其中更好地实现了频繁切换和不饱和释放之间的权衡。实验结果表明,与现有的基线相比,TBO平均减少了13.78%的队列长度和14.08%的延迟。此外,我们还计算了通行权的基尼系数,表明TBO在提高效率的同时并没有损害公平。
2022-11-25 cs.AI cs.LG cs.SY
ECHO: Entropy-Confidence Hybrid Optimization for Test-Time Reinforcement Learning
Northeastern University, Shenyang, China(东北大学(沈阳));Shenzhen Campus of Sun Yat-sen University, China(中山大学深圳校区)
针对测试时强化学习中高熵分支导致rollout崩溃和早期伪标签噪声引发过拟合的问题,提出熵-置信度混合组相对策略优化(ECHO),通过自适应分支控制和置信度剪枝缓解崩溃,并采用置信度自适应裁剪和优势塑造增强训练鲁棒性。
2026-05-27 cs.AI cs.LG
Hybrid Reinforcement Learning for Optimizing Pump Sustainability in Real-World Water Distribution Networks
Autodesk(欧特克);Innovyze(Innovyze公司);Autodesk Research(欧特克研究院)
本文提出混合强化学习方法,结合历史数据与强化学习优化供水管网泵调度,降低能耗和成本,增强可解释性和鲁棒性,提升可持续性与运行效率。
2023-10-13 cs.AI cs.LG
Hybrid Deep Reinforcement Learning and Planning for Safe and Comfortable Automated Driving
Saarland University(萨尔大学);German Research Center for Artificial Intelligence(德国人工智能研究中心)
我们提出了一种新的混合学习方法,HyLEAR,用于解决POMDPs中自动驾驶汽车的无碰撞导航问题。HyLEAR利用插入式学习将混合规划器的知识嵌入深度强化学习器中,以更快地确定安全舒适的驾驶策略。特别地,混合规划器将行人路径预测和风险感知路径规划与基于驾驶行为规则的推理相结合,使得驾驶策略还尽可能地考虑乘坐舒适性和给定的驾驶行为规则集。我们对关键交通场景的CARLA-CTS 1基准的实验性能分析表明,HyLEAR在安全性和乘坐舒适性方面可以显着优于选定的基线。
2022-12-30 cs.AI cs.RO
A Hybrid PAC Reinforcement Learning Algorithm
University of Delaware(特拉华大学)
针对马尔可夫决策过程(MDP)提出了一种新的混合可能近似正确(PAC)强化学习(RL)算法,该算法智能地保持了MDP的有利特征.所设计的算法,称为动态延迟Q学习(DDQ)算法,结合了无模型和基于模型的学习方法,同时在大多数情况下优于两者。本文包括PAC分析的DDQ算法和推导其样本复杂度。数值结果提供支持索赔的新算法的样本效率相比,它的父母,以及最知名的无模型和基于模型的算法在应用中。
2021-01-28 cs.LG stat.ML
Model-Based Episodic Memory Induces Dynamic Hybrid Controls
Applied AI Institute, Deakin University(应用人工智能研究所,迪肯大学)
情景控制通过从情景记忆中回忆过去的经验,使强化学习中的样本效率成为可能。我们提出了一个新的基于模型的情景记忆的轨迹解决目前的局限性情景控制。我们的记忆估计轨迹值,引导智能体采取好的策略。建立在记忆,我们构建了一个互补的学习模型,通过一个动态的混合控制统一的基于模型的,情节和习惯性的学习到一个单一的架构。实验表明,我们的模型允许显着更快,更好的学习比其他强大的强化学习代理在各种环境中,包括随机和非马尔可夫设置。
2021-11-06 cs.AI cs.LG
Deep Reinforcement Learning with Hybrid Intrinsic Reward Model
The Hong Kong Polytechnic University(香港理工大学);Eastern Institute of Technology(东方理工学院);Ningbo Institute of Digital Twin(宁波数字孪生研究院)
针对单一内在奖励限制探索多样性与效率的问题,提出HIRE框架,通过融合策略构建混合内在奖励,在通用与无监督RL基准上系统验证,显著提升探索效率、多样性与技能获取。
2025-01-22 cs.LG
When to Trust Your Simulator: Dynamics-Aware Hybrid Offline-and-Online Reinforcement Learning
Tsinghua University(清华大学);Indian Institute of Technology(印度理工学院);Shanghai Jiaotong University(上海交通大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Shanghai AI Laboratory(上海人工智能实验室)
针对非完美模拟器与有限真实数据的问题,提出动力学感知的混合离线和在线强化学习(H2O)框架,通过自适应惩罚模拟数据上的Q学习并结合真实数据,显著提升性能。
2025-10-14 cs.AI cs.LG
A Lifetime Extended Energy Management Strategy for Fuel Cell Hybrid Electric Vehicles via Self-Learning Fuzzy Reinforcement Learning
建模难度大、模型时变、外部输入不确定是燃料电池混合动力汽车能量管理面临的主要挑战。为降低燃料电池混合动力汽车的燃油消耗,维持电池的长期运行,延长燃料电池系统的使用寿命,提出了一种基于模糊强化学习的能量管理策略。模糊Q学习是一种无模型强化学习,它可以通过与环境的交互来自我学习,因此不需要对燃料电池系统进行建模。此外,燃料电池的频繁启动将减少燃料电池系统的剩余使用寿命。该方法通过在强化学习的奖励中考虑对燃料电池启动次数的惩罚来抑制燃料电池的频繁启动。此外,应用模糊逻辑来近似Q-学习中的价值函数,可以解决连续状态和动作空间问题。最后,基于Python的训练测试平台验证了该方法在初始状态变化、模型变化和驾驶条件变化情况下的有效性和自学习能力的提高。
2023-02-13 cs.AI cs.LG cs.SY
Hybrid-AIRL: Enhancing Inverse Reinforcement Learning with Supervised Expert Guidance
Artificial Intelligence Lab — Vrije Universiteit Brussel(自由大学布鲁塞尔人工智能实验室);College of Science and Engineering — University of Galway(盖尔威大学科学与工程学院);Family Medicine and Population Health — University of Antwerp(安特卫普大学家庭医学与人口健康)
本文提出Hybrid-AIRL,通过结合监督损失和随机正则化机制改进逆强化学习,在高复杂度的 imperfect-information 环境中提升奖励推断和策略学习效率。
2026-04-21 cs.AI cs.LG
Transfer Deep Reinforcement Learning-enabled Energy Management Strategy for Hybrid Tracked Vehicle
School of Robot Engineering, Yangtze Normal University(长江师范学院机器人工程学院);College of Automotive Engineering, Chongqing University(重庆大学汽车工程学院);School of intelligent manufacturing engineering, Chongqing University of Arts and Sciences(重庆文理学院智能制造工程学院);Department of Mechanical and Mechatronics Engineering, University of Waterloo(滑铁卢大学机械与机电工程学院)
提出了一种结合深度强化学习(DRL)和迁移学习(TL)的混合动力汽车自适应能量管理策略。针对DRL训练时间长的缺点,提出了一种新的DRL训练方法.首先,建立了混合动力履带车辆的优化控制模型,其中详细介绍了动力总成部件。然后,一个双层控制框架的构建,以获得能源管理策略(EMS)。上层应用特定的深度确定性策略梯度(DDPG)算法,以不同的速度间隔进行EMS训练。下层采用TL方法对预先训练好的神经网络进行变换,以适应新的驾驶循环。最后,通过一系列实验验证了该控制框架的有效性.说明了所制定的EMS的最优性和适应性。所建立的DRL和TL使能的控制策略能够提高能量效率和改善系统性能。
2020-07-16 cs.AI cs.LG eess.SP
Adaptive Frequency Green Light Optimal Speed Advisory based on Hybrid Actor-Critic Reinforcement Learning
Software College, Liaoning Technical University(辽宁工程技术大学软件学院)
针对现有绿灯最优速度建议系统存在建议冗余或无法适配动态交通的问题,提出基于混合近端策略优化的自适应频率GLOSA模型,通过混合actor网络输出控制间隔与加速度曲线,结合兼顾效率与油耗的奖励函数,在仿真中实现了停车时间、油耗和碳排放的更优降低效果。
2023-06-12 cs.AI cs.LG
Deep Multi-Agent Reinforcement Learning with Discrete-Continuous Hybrid Action Spaces
Tianjin University(天津大学);Fuxi AI Lab in Netease(网易伏羲人工智能实验室)
深度强化学习(Deep Reinforcement Learning,DRL)已被应用于解决具有离散动作空间或连续动作空间的各种协作多智能体问题。然而,据我们所知,没有以前的工作已经成功地应用DRL多智能体问题的离散连续混合(或参数化)的行动空间,这是非常常见的实践。我们的工作填补了这一空白,提出了两个新的算法:深度多智能体参数化Q网络(深度MAPQN)和深度多智能体层次混合Q网络(深度MAHHQN)。我们遵循集中式训练但分散式执行的范式:不同代理之间的不同级别的通信用于促进训练过程,而每个代理在执行过程中根据本地观察独立执行其策略。我们对几个具有挑战性的任务(模拟RoboCup足球和游戏Ghost Story)的实证结果表明,Deep MAPQN和Deep MAHHQN都是有效的,并且显著优于现有的独立深度参数化Q学习方法。
2019-03-12 cs.AI cs.LG cs.MA
Autonomous Racing using a Hybrid Imitation-Reinforcement Learning Architecture
SRM Institute of Science and Technology(SRM科学技术研究所)
在这项工作中,我们提出了一个严格的端到端的自动驾驶汽车控制策略,旨在最大限度地减少单圈时间的时间攻击赛车事件。我们还介绍了作为本研究项目的一部分开发的AutoRACE模拟器,该模拟器用于模拟精确的车辆和环境动力学以及逼真的视听效果。我们采用了一种混合模仿-强化学习架构,并制作了一种新颖的奖励函数来训练深度神经网络策略,以便在不到20小时的时间内自主驾驶(使用模仿学习)和比赛(使用强化学习)一辆汽车。部署结果报告为10个不同的人类玩家的10个自动圈与100个手动圈的直接比较。自主智能体不仅表现出优越的性能,比最佳手动圈速快了0.96秒,而且在平均圈速方面也领先人类选手1.46秒。这种优势可以通过自主智能体更好的轨迹优化和更低的反应时间来证明。
2022-11-26 cs.AI cs.LG cs.NE
Continuous-Discrete Reinforcement Learning for Hybrid Control in Robotics
DeepMind(深度思维)
许多现实世界的控制问题既涉及离散决策变量(如控制模式的选择、档位切换或数字输出),也涉及连续决策变量(如速度设定值、控制增益或模拟输出)。然而,当定义相应的最优控制或强化学习问题时,通常用完全连续或完全离散的动作空间来近似。这些简化旨在将问题定制为可能仅支持一种类型的动作空间的特定算法或求解器。或者,专家逻辑学被用来从连续空间中删除离散的动作。相比之下,我们建议通过混合强化学习解决混合问题,同时优化离散和连续动作。在我们的实验中,我们首先证明了所提出的方法有效地解决了这种原生混合强化学习问题。然后,我们显示,无论是在模拟和机器人硬件上,删除可能不完美的专家设计的prostitics的好处。最后,混合强化学习鼓励我们重新思考问题的定义。我们建议重新制定控制问题,例如,通过添加Meta动作,以提高勘探或减少机械磨损。
2020-01-02 cs.LG cs.RO stat.ML
Hybridising Reinforcement Learning and Heuristics for Hierarchical Directed Arc Routing Problems
University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);State University of New York at Buffalo(纽约州立大学布法罗分校);Lancaster University(兰卡斯特大学)
本文针对分层有向容量约束弧路由问题(HDCARP)提出混合强化学习与启发式算法HRDA,利用强化学习动态引导局部搜索算子选择,在保持解质量的同时显著提升求解速度。
2025-01-01 cs.LG
Intelligent Singularity Avoidance in UR10 Robotic Arm Path Planning Using Hybrid Fuzzy Logic and Reinforcement Learning
National Center for High-Performance Computing(国家高速网络与计算中心)
本文提出一种结合模糊逻辑与强化学习的UR10机械臂路径规划方法,通过实时检测和规避奇异点,实现高成功率的路径规划。
2026-01-09 cs.AI cs.RO
Hybrid Reward Architecture for Reinforcement Learning
Microsoft Maluuba(微软 Maluuba);McGill University(麦吉尔大学)
强化学习(RL)的主要挑战之一是泛化。在典型的深度RL方法中,这是通过使用深度网络用低维表示来近似最佳价值函数来实现的。虽然这种方法在许多领域都很有效,但在最佳价值函数不能轻易简化为低维表示的领域中,学习可能非常缓慢且不稳定。本文通过提出一种称为混合奖励架构(HRA)的新方法,为解决这些具有挑战性的领域做出了贡献。HRA将分解的奖励函数作为输入,并为每个分量奖励函数学习单独的价值函数。因为每个分量通常仅依赖于所有特征的子集,所以对应的价值函数可以更容易地通过低维表示来近似,从而实现更有效的学习。我们演示了HRA的玩具问题和雅达利游戏吃豆人女士,HRA实现了高于人类的性能。
2017-11-28 cs.LG
Ensemble Consensus-based Representation Deep Reinforcement Learning for Hybrid FSO/RF Communication Systems
Atlantic Technological University(大西洋理工大学);Al Yamamah University(亚马玛大学);Lahore Leads University(拉合尔利兹大学);National University of Technology(国立理工大学)
FSO/RF混合系统需要一种有效的FSO和RF链路切换机制,以实现两者的优势互补,从而提高系统容量。网络条件的动态变化,如雾、灰尘和沙尘暴,使链路切换问题和控制复杂性变得更加复杂。为了解决这个问题,我们开始研究深度强化学习(DRL)的混合FSO/RF系统的链路切换。具体来说,在这项工作中,我们专注于演员/评论称为演员/评论FSO/RF和深度Q网络(DQN)称为DQN-FSO/RF的FSO/RF链路切换下的大气干扰。要制定的问题,我们定义的状态,行动,和奖励功能的混合FSO/RF系统。DQN-FSO/RF频繁更新与混合FSO/RF系统中的环境交互的部署策略,导致高切换成本。为了克服这个问题,我们将这个问题提升到基于集成共识的表示学习来进行深度强化,称为DQNEnsemble-FSO/RF。所提出的新颖的DQNEnsemble-FSO/RF DRL方法使用基于异步线程集合的共识学习特征表示来更新部署的策略。实验结果证实,建议的DQNEnsemble-FSO/RF的共识学习功能切换实现更好的性能比演员/关键FSO/RF,DQN-FSO/RF,和MyOpic FSO/RF链路切换,同时保持切换成本显着较低。
2022-11-07 cs.LG
Hybrid computer approach to train a machine learning system
BrandMaker;FOM University of Applied Sciences for Economics and Management(FOM经济管理应用科学大学);Ulm University(乌尔姆大学)
本书章节描述了一种通过混合计算机设置(即与模拟计算机紧密耦合的数字计算机)来训练机器学习系统的新方法。作为一个例子,强化学习系统被训练来平衡在模拟计算机上模拟的倒立摆,从而展示了充分模拟强化学习环境的主要挑战的解决方案。
2021-03-13 cs.AI cs.ET cs.LG
Hybrid LLM-Augmented Reinforcement Learning Agents for Complex Sequential Decision Tasks
本文提出混合LLM增强RL智能体,融合LLM规划与RL动作优化,经实验验证其在序列决策任务上优于仅RL、仅LLM的基线方法,为构建更强自主系统提供了新方向。
2026-08-20 cs.AI cs.LG cs.MA
A Comparative Study of Deep Reinforcement Learning-based Transferable Energy Management Strategies for Hybrid Electric Vehicles
Beijing Institute of Technology(北京理工大学);Delft University of Technology(代尔夫特理工大学)
基于深度强化学习的能量管理策略(EMS)已成为混合动力汽车(HEV)的一种有前途的解决方案。当行驶工况发生变化时,需要对神经网络进行重新训练,这是一项费时费力的工作。选择EMS的一种更有效的方法是将深度强化学习(DRL)与迁移学习结合起来,可以将一个领域的知识迁移到另一个新领域,使新领域的网络快速达到收敛值。在迁移学习过程中,比较了不同的DRL探索方法,包括加入动作空间噪声和参数空间噪声。结果表明,加入参数空间噪声的神经网络比其他神经网络更稳定,收敛速度更快。总之,可转移EMS的最佳探索方法是在参数空间中添加噪声,而动作空间噪声和参数空间噪声的组合通常表现不佳。我们的代码可在www.example.com上获得。
2022-04-20 cs.AI cs.LG cs.SY
ReinforceGen: Hybrid Skill Policies with Automated Data Generation and Reinforcement Learning
University of Toronto(多伦多大学);Vector Institute(向量研究所);Georgia Institute of Technology(佐治亚理工学院);NVIDIA Research(NVIDIA研究)
针对机器人长期操纵挑战,ReinforceGen系统结合任务分解、数据生成、模仿学习与运动规划形成初始方案,经强化学习微调,在Robosuite数据集基准测试中成功率达80%,消融研究显示微调使性能平均提升89%,实际评估也有显著改进。
2026-07-13 cs.AI cs.LG cs.RO
PrecoderNet: Hybrid Beamforming for Millimeter Wave Systems with Deep Reinforcement Learning
Southeast University(东南大学)
本文研究了基于深度强化学习(Deep Reinforcement Learning,DRL)的毫米波大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)系统的混合波束形成。假设不完美的信道状态信息(CSI)在基站(BS)处可用。为了在低时间消耗的情况下实现高频谱效率,我们提出了一种新的基于DRL的方法称为PrecoderNet来设计数字预编码器和模拟组合器。DRL代理将前一次学习迭代的数字波束形成器和模拟组合器作为状态,并将当前学习迭代的这些矩阵作为动作。仿真结果表明,该预编码器网络在频谱效率、误比特率(BER)和时间消耗等方面都有较好的性能,并且对信道状态信息的不完善具有较好的鲁棒性。
2020-06-19 cs.LG eess.SP
A Hybrid Framework for Reinsurance Optimization: Integrating Generative Models and Reinforcement Learning
Reinsurance Analytics(再保险分析)
本文提出结合变分自编码器和近端策略优化的混合框架,用于动态调整再保险条约参数,提升资本充足率和抗风险能力,优于传统方法。
2026-03-23 cs.AI cs.LG econ.EM
Multi-Fidelity Hybrid Reinforcement Learning via Information Gain Maximization
King's College London(伦敦国王学院)
本文提出MF-HRL-IGM算法,在固定成本预算下通过自举方法基于信息增益最大化选择模拟器保真度,实现多保真度混合离线-在线强化学习,并证明其无遗憾性质及优于现有基准的性能。
2025-09-18 cs.LG eess.SP
Opportunities of Hybrid Model-based Reinforcement Learning for Cell Therapy Manufacturing Process Control
Northeastern University(东北大学);Genentech, Inc.(基因泰克公司)
受细胞治疗制造的关键挑战(包括高复杂性,高不确定性和非常有限的过程观察)的驱动,我们提出了一种基于混合模型的强化学习(RL)来有效地指导过程控制。我们首先创建了一个概率知识图(KG)混合模型,该模型表征了对生物制造过程机制的基于风险和科学的理解,并量化了固有的随机性,例如,批次间差异。它可以捕捉关键特征,包括非线性反应,非平稳动力学和部分观测状态。这种混合模型可以利用现有的机制模型,并促进从异构过程数据的学习。一个计算抽样方法是用来产生量化模型不确定性的后验样本。然后,我们引入了基于混合模型的贝叶斯RL,考虑了固有的随机性和模型的不确定性,以指导最优的,鲁棒的和可解释的动态决策。细胞治疗制造的例子是用来实证证明,所提出的框架可以优于经典的确定性机制模型辅助过程优化。
2022-01-26 cs.LG cs.SY eess.SY
A Hybrid Approach for Reinforcement Learning Using Virtual Policy Gradient for Balancing an Inverted Pendulum
Center for Research in Scientific Computation, North Carolina State University(北卡罗来纳州立大学科学计算研究中心)
利用策略梯度算法,我们训练了一个单隐层神经网络来平衡一个物理上精确的模拟单级倒立摆。然后,训练好的权重和偏差可以转移到一个物理代理,在那里它们足够强大,可以平衡一个真正的倒立摆。这种训练模拟的混合方法可以比现实世界中更快地完成数千次试运行,从而大大减少训练时间和更多迭代,产生更强大的模型。与现有的强化学习方法相比,所得到的控制更平滑,学习速度更快,并且能够承受强制干扰。
2021-02-06 cs.LG cs.RO
Reinforcement Learning for Hybrid Charging Stations Planning and Operation Considering Fixed and Mobile Chargers
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Beihang University(北航大学);Sichuan University(四川大学)
针对固定与移动充电桩混合基础设施的规划与运营问题,提出结合启发式调度增强的深度强化学习方法,在真实城市场景中显著提升了覆盖率并缩短了用户等待时间。
2025-08-10 cs.AI
Hybrid Motion Planning with Deep Reinforcement Learning for Mobile Robot Navigation
Department of Computational Mathematics and Cybernetics(计算数学与自动化系);Lomonosov Moscow State University(罗蒙诺夫莫斯科国立大学)
本文提出HMP-DRL,结合基于图的全局规划与深度强化学习,提升移动机器人在复杂环境中的导航安全性和可靠性。
2025-12-31 cs.AI cs.LG cs.RO
Towards Optimal Energy Management Strategy for Hybrid Electric Vehicle with Reinforcement Learning
Fraunhofer IPA(弗劳恩霍夫制造工程与自动化研究所);University of Stuttgart(斯图加特大学)
本文提出一种将基于强化学习的能量管理策略与开源车辆仿真工具FASTSim集成的新框架,解决了现有专有模型适用性窄的问题,并在多种车型和驾驶循环下验证了其提升能效的有效性。
2023-05-21 cs.LG
GHQ: Grouped Hybrid Q Learning for Heterogeneous Cooperative Multi-agent Reinforcement Learning
School of Computer and Information Technology, Beijing Jiaotong University(北京交通大学计算机与信息技术学院);Beijing Key Laboratory of Traffic Data Analysis and Mining, Beijing Jiaotong University(北京交通大学交通数据分析与挖掘北京市重点实验室)
针对现有多智能体强化学习算法在异构场景表现不佳的问题,提出分组混合Q学习算法GHQ,通过分组参数、混合因子结构及组间互信息最大化提升协作,在SMAC异构地图上性能优于现有最优算法。
2024-08-14 cs.AI cs.LG cs.MA
Hybrid Code Networks: practical and efficient end-to-end dialog control with supervised and reinforcement learning
Microsoft Research(微软研究院);Brown University(布朗大学);JPMorgan Chase(摩根大通)
递归神经网络(RNN)的端到端学习是对话系统的一个有吸引力的解决方案;然而,目前的技术是数据密集型的,需要数千个对话框来学习简单的行为。我们介绍了混合代码网络(HCN),它将RNN与编码为软件和系统动作模板的特定领域知识相结合。与现有的端到端方法相比,HCN大大减少了所需的训练数据量,同时保留了推断对话状态的潜在表示的关键优势。此外,HCN可以用监督学习、强化学习或两者的混合来优化。HCN在bAbI对话数据集上获得了最先进的性能,并且优于两个商业部署的面向客户的对话系统。
2017-04-24 cs.AI cs.CL
Bridging Evolutionary Algorithms and Reinforcement Learning: A Comprehensive Survey on Hybrid Algorithms
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学院);Montreal Institute of Learning Algorithms (MILA)(蒙特利尔学习算法研究所);Department of Computer Science and Engineering, Southern University of Science and Technology(南方科技大学计算机科学与工程系)
本文全面综述了进化强化学习(ERL)领域,将进化算法(EA)与强化学习(RL)融合,系统总结了三种主要研究方向:EA辅助RL优化、RL辅助EA优化以及EA与RL协同优化,并分析了各分支解决的问题及未来挑战。
2026-05-24 cs.AI cs.LG cs.NE
Hybrid Reinforcement Learning from Offline Observation Alone
Carnegie Mellon University(卡内基梅隆大学);Aurora Innovation(奥罗拉创新公司)
本文研究仅观测离线数据下的混合强化学习,在迹模型和可采纳性假设下提出首个可证明匹配复位模型算法性能的方法,并通过实验验证其有效性。
2024-06-11 cs.LG
Hybrid Action Based Reinforcement Learning for Multi-Objective Compatible Autonomous Driving
College of Automotive and Energy Engineering, Tongji University(同济大学汽车与能源工程学院);Department of Data and Systems Engineering, University of Hong Kong(香港大学数据与系统工程系)
本文提出一种多目标集成-批评强化学习方法,通过混合参数化动作空间结构和不确定性探索机制,提升自动驾驶在多目标兼容性、效率和安全性方面的性能。
2026-03-28 cs.AI cs.ET cs.LG