Hierarchical Program-Triggered Reinforcement Learning Agents For Automated Driving
IIT Kharagpur（印度理工学院卡拉格普尔分校）
强化学习（RL）与深度学习（DL）结合的最新进展在复杂任务（包括自动驾驶）中表现出令人印象深刻的性能。在自动驾驶中使用RL代理可以带来流畅的类人驾驶体验，但深度强化学习（DRL）有限的可解释性造成了验证和认证瓶颈。我们提出了HPRL -分层程序触发的强化学习，而不是依赖于RL代理来学习复杂的任务，它使用由结构化程序和多个RL代理组成的层次结构，每个RL代理都经过训练来执行相对简单的任务。验证的重点转移到主程序的简单保证下，从RL代理，导致一个更显着的可解释性和可验证的实现相比，一个复杂的RL代理。不同的驾驶任务，和NHTSA precrash方案使用CARLA，一个开源的动态城市模拟环境的框架的评估证明。
2021-03-25 cs.AI cs.LG cs.NE
Scenario-Based Hierarchical Reinforcement Learning for Automated Driving Decision Making
Reasoning Chair RWTH Aachen University（推理主席 雷姆辛大学）；Institute for Automotive Engineering RWTH Aachen University（汽车工程研究所 雷姆辛大学）
本文提出SAD-RL框架，通过分层强化学习结合场景化环境训练自动驾驶决策策略，解决了复杂任务泛化性与学习效率问题，实现安全行为。
2025-06-28 cs.AI cs.LG cs.RO
Spatially and Seamlessly Hierarchical Reinforcement Learning for State Space and Policy space in Autonomous Driving
尽管分层强化学习取得了进展，但其在高速公路自动驾驶路径规划中的应用仍具有挑战性。一个原因是，传统的分层强化学习方法由于其风险性而不适用于自动驾驶：智能体必须避开多个障碍物，例如高度不可预测的其他智能体，因此安全区域很小，分散，并且随着时间的推移而变化。为了克服这一挑战，我们提出了一个空间层次强化学习方法的状态空间和政策空间。高层政策不仅选择行为子政策，而且在状态空间中选择关注区域，在政策空间中选择大纲区域。随后，低级策略在高级命令选择的区域的轮廓内详细说明代理的短期目标位置。该方法所建议的网络结构和优化方法与单级方法一样简洁。在具有各种形状道路的环境中进行的实验表明，我们的方法可以从早期事件中找到近乎最佳的策略，优于基线分层强化学习方法，特别是在狭窄和复杂的道路中。由此产生的道路轨迹与人类在行为规划层面上的策略相似。
2021-11-10 cs.AI cs.LG
Communication Resources Constrained Hierarchical Federated Learning for End-to-End Autonomous Driving
The University of Hong Kong（香港大学）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳））；Damo Institute, Alibaba（阿里巴巴达摩院）；the University of New South Wales（新南威尔士大学）
针对端到端自动驾驶中通信资源受限的分层联邦学习问题，提出CRCHFL框架，利用混合数据与模型聚合最小化泛化误差，并在CARLA中验证其更快收敛与更优性能。
2023-06-28 cs.DC cs.LG cs.RO
CHARMS: A Cognitive Hierarchical Agent for Reasoning and Motion Stylization in Autonomous Driving
School of Mechanical and Electronic Engineering, Wuhan University of Technology（武汉理工大学机械与电子工程学院）；Intelligent Transportation Systems Research Center, Wuhan University of Technology（武汉理工大学智能交通系统研究所）；Department of Data and Systems Engineering, The University of Hong Kong（香港大学数据与系统工程系）；School of Computer Science and Artificial Intelligence, Wuhan University of Technology（武汉理工大学计算机科学与人工智能学院）；School of Mechanical Engineering, Southeast University（东南大学机械工程学院）
CHARMS通过强化学习预训练和监督微调pipeline，实现人类般的决策行为和交互真实性，同时利用泊松认知层次理论生成多样化驾驶场景。
2025-04-28 cs.AI cs.LG cs.RO
VLAD: A VLM-Augmented Autonomous Driving Framework with Hierarchical Planning and Interpretable Decision Process
Gifu University（福井大学）；DENSO CORPORATION（Denso公司）
本文提出VLAD框架，将微调视觉语言模型与端到端系统VAD集成，通过生成高层导航指令和可解释决策解释，在nuScenes上使平均碰撞率降低31.82%。
2025-07-02 cs.AI cs.CV cs.ET
A Hierarchical Architecture for Sequential Decision-Making in Autonomous Driving using Deep Reinforcement Learning
University of California, Santa Cruz（加州大学圣克鲁兹分校）
战术决策是先进驾驶系统的一个关键特征，它包含了几个挑战，例如不确定环境的复杂性和自主系统的可靠性。在这项工作中，我们开发了一个多模态架构，包括环境建模的自我周围和训练一个深度强化学习（DRL）代理，产生一致的性能在随机高速公路驾驶场景。为此，我们将自我周围的占用网格馈送到DRL代理中，并获得高级顺序命令（即车道变换）以将其发送到较低级别的控制器。我们将证明，将自动驾驶问题划分为多层控制架构，使我们能够利用人工智能的力量来单独解决每一层，并实现可接受的可靠性得分。与端到端方法相比，这种架构使我们能够最终获得一个更可靠的系统，可以在实际的自动驾驶汽车中实现。
2019-06-20 cs.AI cs.LG cs.RO
DiDrive: A Risk-Aware Hierarchical Diffusion Framework for Safe Offline Reinforcement Learning in Autonomous Driving
College of Computer and Data Science, Fuzhou University（福州大学计算机与数据科学学院）；Maynooth International College of Engineering, Fuzhou University（福州大学梅努斯国际工程学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
针对离线强化学习在自动驾驶中面临的分布偏移等挑战，提出含RHDif架构与3DICE范式的DiDrive框架，在CARLA基准的高密度交通场景中表现优于基线，为安全自动驾驶决策提供稳健路径。
2026-09-03 cs.LG cs.RO
Extensive Exploration in Complex Traffic Scenarios using Hierarchical Reinforcement Learning
The Ohio State University（俄亥俄州立大学）
针对DRL控制器在复杂交通中泛化性不足的问题，提出分层框架将决策分解为子任务，通过两步训练分别优化高低层控制器，在复杂高速公路驾驶中展现优越性。
2025-01-25 cs.LG cs.RO
Orbis 2: A Hierarchical World Model for Driving
University of Freiburg（弗莱堡大学）
研究针对当前世界模型不足提出分层驾驶世界模型，跨两层分解预测，结合扩散强制预训练和教师强制微调，在长距离生成保真度等多方面取得领先成果。
2026-07-20 cs.AI cs.CV cs.LG
Hierarchical Decentralized Deep Reinforcement Learning Architecture for a Simulated Four-Legged Agent
Bielefeld University（比勒费尔德大学）
腿部运动在自然界中广泛存在，并激发了当前机器人的设计。这些足式机器人的控制器通常被实现为一个集中实例。然而，在自然界中，对运动的控制是以等级和分散的方式发生的。将这些生物学设计原理引入机器人控制系统激发了这项工作。我们解决的问题是否分散和分层控制是有益的足式机器人，并提出了一种新的分散，分层体系结构来控制模拟腿代理。三个不同的任务，不同的复杂性被设计为基准五个架构（集中式，分散式，分层和分层分散架构的两种不同组合）。结果表明，分散分层架构的不同级别有助于智能体的学习，确保更节能的运动以及对新的不可见环境的鲁棒性。此外，这种比较揭示了模块化在分层架构中解决复杂目标导向任务的重要性。我们提供了我们架构的开源代码实现（https：//github.com/wzaielamri/hddrl）。
2022-09-21 cs.AI cs.LG cs.RO
HM-NAS: Efficient Neural Architecture Search via Hierarchical Masking
Michigan State University（密歇根州立大学）；AInnovation（旷视）
最近，在设计神经网络架构中使用自动方法（通常称为神经架构搜索（NAS））引起了相当大的关注。在这项工作中，我们提出了一个有效的NAS方法，命名为HM-NAS，推广现有的基于权重共享的NAS方法。现有的基于权重共享的NAS方法仍然采用手工设计的算法来生成架构候选。因此，架构候选者的空间被约束在所有可能架构的子集中，使得架构搜索结果次优。HM-NAS通过两项创新解决了这一限制。首先，HM-NAS结合了多级架构编码方案，以能够搜索更灵活的网络架构。其次，它放弃了手工设计的算法，并采用了一个分层掩蔽方案，自动学习和确定最佳架构。与最先进的基于权重共享的方法相比，HM-NAS能够实现更好的架构搜索性能和有竞争力的模型评估精度。没有手工设计的算法所施加的约束，我们搜索的网络包含更灵活和有意义的架构，现有的基于权重共享的NAS方法是无法发现的。
2019-09-07 cs.CV cs.LG stat.ML
Imagination-Augmented Hierarchical Reinforcement Learning for Safe and Interactive Autonomous Driving in Urban Environments
Seoul National University（首尔大学）
本文提出想象力增强型分层强化学习（IAHRL），通过低层策略想象安全行为、高层策略推断交互并引入排列不变注意力机制，在五个复杂城市驾驶任务中实现了更高的成功率和更低的平均回合步数。
2024-01-23 cs.LG cs.RO
Construction of Hierarchical Neural Architecture Search Spaces based on Context-free Grammars
University of Freiburg（弗赖堡大学）；University of Oxford（牛津大学）
本文提出基于上下文无关文法的统一分层NAS搜索空间构建框架，并设计适配贝叶斯优化的分层核，以支持在超大空间中搜索完整架构并取得优于现有方法的效果。
2023-12-08 cs.AI cs.CV cs.LG
End-to-End Learning vs. Modular Architectures: Comparative Insights into Autonomous Driving Systems
Technische Hochschule Ingolstadt（英戈尔施塔特应用技术大学）
本文比较端到端学习与模块化架构在自动驾驶中的优劣，提出四维架构选择框架，并验证其能正确推荐10个系统中的7个，指出混合架构为未来方向。
2026-10-02 cs.CV cs.LG cs.RO
Hierarchical Representations for Efficient Architecture Search
Carnegie Mellon University（卡内基梅隆大学）；DeepMind
我们探索有效的神经架构搜索方法，并表明一个简单而强大的进化算法可以发现新的架构具有优异的性能。我们的方法结合了一种新的层次遗传表示方案，模仿人类专家通常采用的模块化设计模式，和一个富有表现力的搜索空间，支持复杂的拓扑结构。我们的算法有效地发现了优于大量手动设计的图像分类模型的架构，在CIFAR-10上获得了3.6%的前1错误，在转移到ImageNet时获得了20.3%的前1错误，这与现有的最佳神经架构搜索方法相比具有竞争力。我们还使用随机搜索呈现结果，在CIFAR-10上实现了0.3%的top-1准确率，在ImageNet上减少了0.1%，同时将搜索时间从36小时减少到1小时。
2018-02-22 cs.CV cs.LG cs.NE
ReAL-AD: Towards Human-Like Reasoning in End-to-End Autonomous Driving
ShanghaiTech University（上海科技大学）；The Chinese University of Hong Kong（香港中文大学）
ReAL-AD提出推理增强学习框架，通过策略推理注入器、战术推理整合器和分层轨迹解码器模拟人类三层认知决策，使端到端自动驾驶规划精度与安全性提升超30%。
2025-07-16 cs.LG cs.RO
Safer Autonomous Driving in a Stochastic, Partially-Observable Environment by Hierarchical Contingency Planning
Renault Software Labs（雷诺软件实验室）；EURECOM（欧洲通信学院）
当学习在随机的、部分可观察的环境中行动时，智能代理应该准备好预测其对环境状态的信念的变化，并且能够在飞行中调整其行动以适应不断变化的条件。作为人类，我们在学习一项任务时能够形成应急计划，其明确目标是能够纠正初始控制中的错误，因此，如果我们对环境的感知发生突然变化，需要立即采取纠正措施，这证明是有用的。对于在安全至关重要的现实世界中导航的自动驾驶汽车（AV）来说尤其如此，并且真正需要对环境变化的信念做出反应的强大能力。在本文中，我们探索了一个端到端的方法，从训练到执行，学习强大的应急计划，并将它们与层次规划器相结合，以获得一个强大的代理政策，在自主导航任务中，其他车辆的行为是未知的，代理人对这些行为的信念是受到突然的，最后一秒的变化。我们表明，我们的方法在部分可观察的随机环境中产生了鲁棒，安全的行为，在训练过程中没有看到环境动态。
2022-04-13 cs.AI cs.LG cs.RO
Optimizing Time Series Forecasting Architectures: A Hierarchical Neural Architecture Search Approach
Institute of Artificial Intelligence（人工智能研究所）；Leibniz University Hannover（汉诺威莱布尼茨大学）；L3S Research Center（L3S研究中心）
本文提出一种层次化神经架构搜索方法，通过设计层次化搜索空间高效组合多种预测模块，在长期时间序列预测任务上搜索出轻量级高性能架构。
2025-10-23 cs.LG
A neuro-inspired architecture for unsupervised continual learning based on online clustering and hierarchical predictive coding
Georgia Institute of Technology（佐治亚理工学院）
我们提出，持续学习desiderata可以通过神经启发的架构，蒙特卡斯尔的皮质柱假说的基础上实现。所提出的架构涉及一个单一的模块，称为自学联想记忆（STAM），它模拟了皮质柱的功能。STAM在涉及前馈、横向和反馈连接的多级层次结构中重复。STAM网络以无监督的方式学习，基于在线聚类和分层预测编码的组合。这篇简短的论文只介绍了架构及其与神经科学的联系。数学公式和实验结果将在本文的扩展版本。
2018-10-22 cs.AI cs.LG q-bio.NC
Hierarchical Generative Adversarial Imitation Learning with Mid-level Input Generation for Autonomous Driving on Urban Environments
Federal University of Santa Catarina（圣卡塔琳娜联邦大学）
本文提出分层生成对抗模仿学习架构hGAIL，通过GAN生成鸟瞰视图中层表示并与GAIL联合训练，解决城市自动驾驶中从原始图像直接学习控制策略不稳定的问题，在CARLA中实现跨城市98%交叉口成功导航。
2024-09-05 cs.AI cs.LG cs.RO
Multi-task UNet architecture for end-to-end autonomous driving
National Chiao Tung University（国立交通大学）；National Tsing Hua University（国立清华大学）
提出集成多任务UNet架构与控制算法的端到端自动驾驶模型，通过静态与动态指标评估证明其在弯道驾驶任务中性能媲美多模块强化学习模型。
2023-09-08 cs.LG cs.RO
Parameter Sharing Reinforcement Learning Architecture for Multi Agent Driving Behaviors
International Institute of Information Technology, Hyderabad（海得拉巴国际信息技术学院）
多智能体学习为交通行为的学习和模拟提供了一个潜在的框架。本文提出了一种新的架构，学习多种驾驶行为在交通场景。所提出的架构可以独立地以及同时地学习多个行为。我们利用代理的同质性，并在参数共享范式中学习。为了进一步加快训练过程，在架构中采用异步更新。在同时学习不同行为的同时，给定的框架还能够学习代理之间的合作，而无需任何显式的通信。我们应用这个框架来学习驾驶中的两个重要行为：1）车道保持和2）超车。结果表明，更快的收敛和学习更通用的行为，这是可扩展到任何数量的代理。与现有的方法相比，我们的结果表明，在某些情况下，平等，甚至更好的性能。
2018-11-17 cs.AI cs.LG cs.RO
A Multiscale Graph Convolutional Network Using Hierarchical Clustering
University of Cambridge（剑桥大学）
包含在分层拓扑结构中的信息，是许多网络所固有的，目前未得到充分利用。一种新的架构，探索利用这些信息，通过多尺度分解。通过Girvan-Newman分层聚类算法产生树状图。它被分割并通过图卷积层馈送，允许架构学习网络的多尺度潜在空间表示，从细粒度到粗粒度。该架构在基准引文网络上进行了测试，证明了具有竞争力的性能。由于层次网络的丰富性，可能的应用包括量子分子性质预测，蛋白质界面预测和偏微分方程的多尺度计算衬底。
2020-06-22 cs.LG stat.ML
Blockout: Dynamic Model Selection for Hierarchical Deep Networks
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）
大多数用于图像分类的深度架构--即使是那些被训练来分类大量不同类别的架构--都是用单个模型来学习共享的图像表示。然而，直觉上，相似的类别应该比差异很大的类别共享更多的信息。虽然分层深度网络通过学习相关类别子集的单独特征来解决这个问题，但当前的实现需要使用通过启发式聚类方法指定的固定架构的简化模型。相反，我们提出了Blockout，这是一种正则化和模型选择的方法，可以同时学习模型结构和参数。作为Dropout的推广，我们的方法提供了一种新颖的分层架构参数化，允许通过反向传播进行结构学习。为了证明它的实用性，我们在CIFAR和ImageNet数据集上评估了Blockout，证明了分类精度的提高、正则化性能的提高、训练速度的加快以及分层网络结构的清晰出现。
2015-12-16 cs.CV cs.LG
EnsembleFollower: A Hybrid Car-Following Framework Based On Reinforcement Learning and Hierarchical Planning
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；Beihang University（北京航空航天大学）
提出EnsembleFollower，一种基于强化学习和分层规划的混合跟车框架，通过高层智能体动态选择或加权低层模型，结合加加速度约束运动学模型，在HighD数据集上实现更准确、灵活的类人跟车行为。
2023-08-30 cs.AI cs.LG cs.RO
Hierarchical RBF-KAN and RBF-SKAN Architectures for Multidimensional Function Approximation and Random Field Learning
University of Houston（德克萨斯大学）；University of Birmingham（伯明翰大学）；University of Oxford（牛津大学）
提出并分析使用径向基函数作为激活函数的分层Kolmogorov-Arnold神经网络架构，用于逼近确定性函数和随机场模型，并证明其通用逼近性质及缓解维度灾难的潜力。
2026-06-01 cs.LG
NAIS: Neural Architecture and Implementation Search and its Applications in Autonomous Driving
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Advanced Digital Sciences Center（先进数字科学中心）
许多应用领域对强大人工智能算法的需求迅速增长，促使人们在高质量深度神经网络（DNN）模型和高效实现方面进行大量投资。在这份立场文件中，我们认为一种名为神经架构和实现搜索（NAIS）的同步DNN/实现协同设计方法值得更多的研究关注，以提高DNN模型和实现优化的开发生产力和效率。我们提出了一种程式化的设计方法，可以大大降低搜索成本，同时保持最终解决方案的质量。作为一个例子，我们讨论了这种DNN/实现方法的FPGA和GPU的上下文中。我们将自动驾驶作为一个关键用例，因为它是对高质量AI算法和加速器要求最高的领域之一。我们讨论了这种协同设计方法如何对自动驾驶行业产生重大影响。我们在这个令人兴奋的领域确定了几个研究机会。
2019-11-18 cs.CV cs.LG cs.NE
Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Image Segmentation
Johns Hopkins University（约翰斯·霍普金斯大学）；Google（谷歌）；Stanford University（斯坦福大学）
最近，神经结构搜索（NAS）已经成功地确定了神经网络结构，超过人类设计的大规模图像分类。在本文中，我们研究NAS的语义图像分割。现有的工作往往侧重于寻找可重复的细胞结构，而手工设计的外部网络结构，控制空间分辨率的变化。这种选择简化了搜索空间，但是对于呈现更多网络级架构变化的密集图像预测来说变得越来越成问题。因此，我们建议除了搜索单元级结构之外，还搜索网络级结构，这形成了分层结构的搜索空间。我们提出了一个网络级的搜索空间，其中包括许多流行的设计，并制定了一个公式，允许有效的基于梯度的架构搜索（3 P100 GPU天的城市景观图像）。我们证明了所提出的方法在具有挑战性的Cityscapes，PASCAL VOC 2012和ADE 20 K数据集上的有效性。Auto-DeepLab是我们专门针对语义图像分割搜索的架构，在没有任何ImageNet预训练的情况下达到了最先进的性能。
2019-04-06 cs.CV cs.LG
Provable Hierarchical Lifelong Learning with a Sketch-based Modular Architecture
Google Research（谷歌研究院）
我们提出了一个模块化的体系结构的分层结构的任务的终身学习。具体来说，我们证明了我们的架构在理论上能够学习任务，可以解决的功能，是可学习的访问功能的其他，以前学习的任务作为子程序。我们的经验表明，我们可以通过这种方式学习的一些任务在实践中并不是通过标准的训练方法学习的;事实上，以前的工作表明，如果没有更简单的任务的帮助，一些这样的任务就不能通过任何有效的方法学习。我们还考虑自动识别任务的方法，而不依赖于明确给定的指标。
2021-12-21 cs.LG
Hierarchical Fallback Architecture for High Risk Online Machine Learning Inference
Trustly（特拉斯利公司）
本文提出一种分层回退架构，通过定义在线推理中的通用故障场景并详细说明应用方法，提升了金融领域高风险机器学习应用在极端压力下的鲁棒性，并给出工业界近实时交易欺诈风险评估的实际应用案例。
2025-01-29 cs.CE cs.LG cs.SE
Understanding Adversarial Transferability in Vision-Language Models for Autonomous Driving: A Cross-Architecture Analysis
School of Computing, Clemson University, USA（克莱姆森大学计算机学院）
本文通过跨架构研究探讨视觉语言模型在自动驾驶中的对抗转移性，评估了三种架构在不同场景下的对抗效果，发现高跨架构有效性。
2026-04-30 cs.CR cs.CV cs.LG
Wave-Attractor-Tree: A Hierarchical Binary Tree Reduction Architecture for Efficient Sequence Modeling
本文提出了一种分层二叉树缩减架构，通过递归门控线性单元提升序列建模效率，在长距离依赖任务中优于传统Transformer。
2026-02-28 cs.LG
Deep Hierarchical Machine: a Flexible Divide-and-Conquer Architecture
Hong Kong University of Science and Technology（香港科技大学）；Huazhong University of Science and Technology（华中科技大学）
我们提出了深度层次机器（DHM），这是一种受到分治策略启发的模型，同时强调表示学习能力和灵活性。最近的深度神经决策/回归森林所使用的随机路由框架被纳入，但我们通过利用不同的拓扑结构并引入概率修剪技术来消除评估不必要的计算路径的需要。我们还展示了一个指定版本的DHM（DSHM）的效率，它继承了稀疏的特征提取过程中，在传统的决策树与像素差异功能。为了实现稀疏特征提取，我们提出了利用稀疏卷积操作在DSHM和显示一种可能性，通过使用本地二进制卷积层引入稀疏卷积核。DHM可以应用于分类和回归问题，我们验证了它的标准图像分类和人脸对齐任务，以显示其优势，比过去的架构。
2018-12-03 cs.AI cs.CV cs.LG
A Novel Evolutionary Algorithm for Hierarchical Neural Architecture Search
University of Macedonia（马其顿大学）
本研究提出一种带层次化模块架构表示与子结构筛选机制的新型进化算法，用于全局空间的神经架构搜索，在Fashion-MNIST和NAS-Bench101上以较少世代数取得了93.2%和94.8%的准确率。
2023-05-04 cs.LG cs.NE
Fast-Convergent and Communication-Alleviated Heterogeneous Hierarchical Federated Learning in Autonomous Driving
The University of Hong Kong（香港大学）；Shenzhen Research Institute of Big Data（深圳大数据研究院）；Southern University of Science and Technology（南方科技大学）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
本文针对自动驾驶街景语义理解中城市间数据异构导致的分层联邦学习收敛慢和通信开销大问题，提出高斯异构HFL算法FedGau和性能感知自适应资源调度策略AdapRS，分别实现收敛加速35.5%-40.6%和通信开销节省29.65%。
2024-09-29 cs.LG cs.RO
Modeling Hierarchical Spaces: A Review and Unified Framework for Surrogate-Based Architecture Design
IRIT（图卢兹计算机研究所）；UT Capitole, Université de Toulouse（图卢兹大学图卢兹 Capitole 大学）；CNRS（法国国家科学研究中心）；Toulouse INP（图卢兹国立理工学院）；UT3（图卢兹第三大学）；UT2J（图卢兹第二大学让·饶勒斯）；GERAD（决策分析研究集团）；Polytechnique Montréal（蒙特利尔高等理工学院）；Institute of System Architectures in Aeronautics, German Aerospace Center (DLR)（德国航空航天中心（DLR）航空系统架构研究所）；ONERA（法国航空航天实验室）；Fédération ENAC ISAE-SUPAERO ONERA, Université de Toulouse（图卢兹大学 ENAC ISAE-SUPAERO ONERA 联合会）
本文提出了一种统一框架，用于基于代理的架构设计，通过层次空间建模解决复杂系统设计问题。
2026-01-17 cs.LG math.OC stat.ML
Hierarchical Neural Network Architecture In Keyword Spotting
NIO Co., Ltd（蔚来汽车有限公司）
关键词发现（KWS）提供了ASR问题的开始信号，因此必须确保高召回率。然而，它的实时性要求低的计算复杂度。这一矛盾促使人们寻找一种合适的模型，这种模型足够小，可以在多种环境下表现良好。为了解决这一矛盾，我们实现了分层神经网络（HNN），它被证明是有效的，在许多语音识别问题。HNN的模型规模和计算复杂度略低，但性能优于传统DNN和CNN。此外，其简单的拓扑结构易于部署在任何设备上。
2018-11-06 cs.CL cs.LG
N-body Networks: a Covariant Hierarchical Neural Network Architecture for Learning Atomic Potentials
The University of Chicago（芝加哥大学）
我们描述了N体网络，一个神经网络架构，用于学习复杂的多体物理系统的行为和属性。我们的具体应用是学习用于分子动力学模拟的原子势能面。我们的架构是新颖的，因为（a）它是基于多体系统到子系统的分层分解，（b）网络的激活对应于每个子系统的内部状态，（c）网络中的“神经元”被明确地构造，以保证每个激活都是旋转协变的，（d）神经元完全在傅立叶空间中操作，非线性通过张量积和Clebsch-Gordan分解实现。作为我们网络描述的一部分，我们给出了网络权重与激活交互的方式的特征，以确保保持协方差属性。
2018-03-05 cs.AI cs.LG
Intelligent problem-solving as integrated hierarchical reinforcement learning
Universität Hamburg（汉堡大学）；University of Tübingen（蒂宾根大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
根据认知心理学和相关学科，生物制剂中复杂问题解决行为的发展取决于分层认知机制。分层强化学习是一种很有前途的计算方法，它最终可能会在人工智能体和机器人中产生类似的问题解决行为。然而，迄今为止，许多人类和非人类动物解决问题的能力显然优于人工系统。在这里，我们提出了步骤，整合生物启发的层次机制，使先进的解决问题的技能，人工代理。因此，我们首先回顾了认知心理学的文献，以强调成分抽象和预测处理的重要性。然后，我们将所获得的见解与当代分层强化学习方法。有趣的是，我们的研究结果表明，所有已确定的认知机制已被单独实施在孤立的计算架构，提出了一个问题，为什么没有一个统一的架构，将它们整合起来。作为我们的最后贡献，我们解决这个问题，提供一个综合的角度来看，发展这样一个统一的架构的计算挑战。我们希望我们的研究结果能够指导更复杂的认知启发分层机器学习架构的开发。
2022-08-18 cs.AI cs.LG cs.RO
Incorporating Hierarchical Semantics in Sparse Autoencoder Architectures
University of Chicago（芝加哥大学）
本文提出一种显式建模概念语义层级的改进稀疏自编码器架构，用于大型语言模型内部表示，证明可学习语义层级并同时提升重构质量、可解释性与计算效率。
2025-06-01 cs.AI cs.CL cs.LG
An Architecture for Deep, Hierarchical Generative Models
Maluuba Research（Maluuba研究院）
我们提出了一个架构，让我们训练深，定向生成模型与许多层的潜变量。我们在所有潜在变量和生成的输出之间包含确定性路径，并在推理和生成的计算之间提供更丰富的连接，这使得在训练期间整个模型中的信息能够更有效地通信。为了提高自然图像的性能，我们在重建分布中加入了一个轻量级的自回归模型。这些技术允许对具有10+层潜在变量的模型进行端到端训练。实验表明，我们的方法在标准图像建模基准上实现了最先进的性能，可以在没有标签信息的情况下暴露潜在的类结构，并且可以提供自然图像中遮挡区域的令人信服的估算。
2016-12-08 cs.LG
Formulation of Deep Reinforcement Learning Architecture Toward Autonomous Driving for On-Ramp Merge
California PATH, University of California, Berkeley（加州大学伯克利分校加州PATH）
多家汽车制造商正在开发或生产自动驾驶系统（ADS），提供高速公路驾驶功能。这种类型的ADS通常仅限于限制进入的高速公路，也就是说，只有在匝道合并过程手动完成后，才能从手动模式转换为自动模式。将自动化扩展到匝道合并的一个主要挑战是，当必须安全地执行近期动作时，自动化车辆需要合并和优化长期目标（例如，成功和顺利的合并）。此外，合并过程涉及与其他车辆的行为有时难以预测，但可能会影响合并车辆的最佳行动的相互作用。为了解决这样一个复杂的控制问题，我们建议应用深度强化学习（DRL）技术，通过在交互式环境中最大化长期奖励来寻找最佳驾驶策略。具体来说，我们应用长短期记忆（LSTM）架构来建模交互式环境，包含历史驾驶信息的内部状态被传递到深度Q网络（DQN）。DQN用于近似Q函数，其将内部状态作为输入并生成Q值作为动作选择的输出。利用这种DRL架构，可以捕获交互环境对长期回报的历史影响，并将其考虑在内以用于决定最优控制策略。所提出的架构具有扩展和应用于其他自动驾驶场景的潜力，例如通过复杂的交叉路口或在不同的交通流量条件下改变车道。
2019-02-02 cs.AI cs.LG
ContourletNet: A Generalized Rain Removal Architecture Using Multi-Direction Hierarchical Representation
ASUS Intelligent Cloud Services（华硕智能云服务）；Asustek Computer Inc.（华硕电脑股份有限公司）
雨天图像的可见性较差，影响了计算机视觉的应用性能。降雨情景可分为两类：中雨情景和大雨情景。中雨场景主要由雨条组成，而大雨场景既有雨条又有面纱效果（类似于霾）。虽然现有的方法在这两种情况下都取得了很好的性能，它仍然缺乏一个通用的架构，以有效地解决大雨和中雨的情况。在本文中，我们构建了一个层次化的多方向表示网络，通过使用轮廓波变换（CT），以解决中雨和大雨的情况。CT将图像分为多方向子带（MS）和语义子带（SS）。首先，基于CT的多方位属性将雨条纹信息检索到MS。其次，提出了一种层次化的结构来重建背景信息，包括受损的语义信息和面纱效应在SS。最后，提出了带反馈误差映射的多级子带滤波器。通过该模块，可以很好地优化所有子带。这是第一个可以有效地解决这两个场景的体系结构。该代码可在https://github.com/cctakaet/ContourletNet-BMVC2021上获得。
2021-11-25 cs.AI cs.CV cs.LG
Learning Hierarchical Relational Representations through Relational Convolutions
Yale University（耶鲁大学）；Wu Tsai Institute（吴蔡研究院）
本文提出“关系卷积网络”，通过组合图元滤波器与输入子集卷积来捕获对象群体中的关系模式，构建深度架构以学习高阶层次关系表示，为层次结构关系任务提供有效建模框架。
2024-09-26 cs.LG
HHNAS-AM: Hierarchical Hybrid Neural Architecture Search using Adaptive Mutation Policies
SUTD（新加坡科技设计大学）
本文提出HHNAS-AM方法，通过分层混合架构模板和基于Q-learning的自适应变异策略组织并高效遍历NAS搜索空间，在Spider数据集db_id预测任务上较基线提升8%测试准确率。
2025-08-20 cs.LG
Multi-Resolution Online Deterministic Annealing: A Hierarchical and Progressive Learning Architecture
University of Maryland（马里兰大学）；Institute for Systems Research（系统研究所）
分层学习算法逐渐逼近数据驱动的优化问题的解决方案是决策系统的关键，特别是在时间和计算资源的限制下。在这项研究中，我们引入了一个通用的分层学习架构，这是基于一个可能的多分辨率数据空间的渐进分区。通过求解一系列优化子问题来逐渐逼近最优分区，这些优化子问题产生具有增加的子集数量的分区序列。我们表明，每个优化问题的解决方案可以估计在线使用无梯度随机逼近更新。因此，函数逼近问题可以在分区的每个子集内定义，并使用双时标随机近似算法理论来解决。这模拟了退火过程，并定义了一个强大的和可解释的探试法，以逐步增加学习架构的复杂性，在任务不可知的方式，强调区域的数据空间，被认为是更重要的根据预定义的标准。最后，通过在分区的进展中施加树结构，我们提供了一种将数据空间的潜在多分辨率结构纳入这种方法的方法，显著降低了其复杂性，同时引入了类似于某些类别的深度学习架构的分层可变速率特征提取属性。渐近收敛分析和实验结果提供了监督和无监督学习的问题。
2023-03-21 cs.AI cs.LG cs.SY
Hierarchical Time Series Forecasting Via Latent Mean Encoding
Zalando SE（Zalando公司）
提出一种基于潜在均值编码的层次时间序列预测架构，通过专门模块预测不同时间聚合级别并在隐藏层编码目标变量平均行为，在M5数据集上优于TSMixer等既有方法，实现准确且相干的跨层次预测。
2025-06-24 cs.AI cs.LG
Single photon in hierarchical architecture for physical reinforcement learning: Photon intelligence
Network System Research Institute, National Institute of Information and Communications Technology（情报通信研究机构网络系统研究所）；CNRS, Inst. NEEL（法国国家科学研究中心奈尔研究所）；Université Grenoble Alpes, Inst. NEEL（格勒诺布尔-阿尔卑斯大学奈尔研究所）；Interdisciplinary Graduate School of Medicine and Engineering, University of Yamanashi（山梨大学医学与工学跨学科研究生院）；WPI Center for Materials Nanoarchitectonics, National Institute for Materials Science（国立材料科学研究所WPI材料纳米结构学中心）
理解和使用自然过程的智能功能，称为自然智能，最近吸引了来自各个领域的兴趣，包括后硅计算的人工智能和决策的行为科学。在过去的研究中，我们成功地利用单光子的波粒二象性解决了双臂强盗问题，这构成了强化学习和决策的基础。在这项研究中，我们提出并确认了基于单光子的强化学习和决策的分层架构，验证了该原则的可扩展性。具体而言，四臂强盗问题解决了零先验知识的两层分层架构，其中偏振是自主适应，以实现充分的决策，使用单光子测量。在分层结构中，出现了层依赖决策的概念。然而，粗层和细层的最优解在某些矛盾问题上是相互冲突的。我们发现，虽然我们所谓的锦标赛策略解决了这样的矛盾，单光子的概率性质允许直接定位的最优解，即使是矛盾的问题，从而体现了单光子的探索能力。这项研究为未来人工智能的分层结构中的光子智能以及智能功能的自然过程的潜力提供了见解。
2016-09-01 cs.LG physics.optics quant-ph
Hierarchical Graph Neural Networks
Center For Urban Science+Progress, New York University（城市科学与进步中心，纽约大学）
近年来，图神经网络在网络分析及其他领域越来越受欢迎。因此，它们的体系结构明显不同于传统神经网络的经典多层分层组织。同时，网络科学中的许多传统方法有效地利用了层次方法来解释网络的层次组织，最近的工作强调了它们的重要性。本文旨在将传统神经网络和图神经网络架构以及网络科学方法之间的点连接起来，利用分层网络组织的力量。提出了一种分层图神经网络结构，在原有的输入网络层中增加了辅助网络层的层次结构，并通过各层内的水平网络连接和各层之间的垂直网络连接来组织更新节点特征的计算方案。它能够以不同的分辨率同时学习单个节点特征以及聚合的网络特征，并使用它们来提高单个节点特征学习的收敛性和稳定性。所提出的分层图神经网络架构成功地评估了网络嵌入和建模以及网络分类，节点标记和社区任务，并证明了这些方面的效率提高。
2021-05-14 cs.AI cs.LG math.CO
HiNet: Hierarchical Classification with Neural Network
SAP Innovation Center（SAP创新中心）；Yale-NUS College（耶鲁-新加坡国立大学学院）
传统上，分类具有超过10000个不同轨迹的大型分层标签只能通过扁平标签来实现。虽然扁平标签是可行的，它错过了标签中的层次信息。像\cite{vural2004hierarchical}的HSVM这样的分层模型变得不可能训练，因为整个架构中的SVM数量太多了。我们开发了一种基于神经网络的分层架构，这种架构易于训练。此外，我们推导出一个推理算法，可以有效地推断MAP（最大后验概率）跟踪我们的定理保证。此外，与扁平模型中的$O(n^h)$相比，该模型的复杂度仅为$O(n^2)$，其中$h$是层次结构的高度。
2018-01-12 cs.LG
Efficient NAS with FaDE on Hierarchical Spaces
University of Passau（帕绍大学）
提出 FaDE 方法，利用可微架构搜索在分层 NAS 空间的有限区域获取相对性能排名，并结合无记忆的伪梯度进化算法进行外部搜索，以线性成本探索深度分层空间，消除了对代理搜索空间的需求。
2024-04-24 cs.AI cs.LG cs.NE
Hierarchical Transformer for Multilingual Machine Translation
Innopolis University（因诺波利斯大学）；University of Campinas（坎皮纳斯大学）
多语言机器翻译模型中参数共享策略的选择决定了参数空间的最优使用，从而直接影响最终的翻译质量。受语言树的启发，最近提出了多语言机器翻译中参数共享的通用方法。主要思想是使用这些专家语言层次结构作为多语言架构的基础：两种语言越接近，它们共享的参数就越多。在这项工作中，我们使用Transformer架构来测试这个想法，并表明尽管在以前的工作中取得了成功，但训练这种分层模型存在固有的问题。我们证明，在精心选择的训练策略的情况下，层次结构可以优于双语模型和多语言模型与充分的参数共享。
2021-03-05 cs.CL cs.LG
