A Data-Efficient Framework for Training and Sim-to-Real Transfer of Navigation Policies
Mila（米拉研究所）；Universite de Montreal（蒙特利尔大学）；IIT Kanpur（印度理工学院坎普尔分校）；University of Toronto（多伦多大学）
纯粹从数据中学习有效的机器人视觉策略是一项挑战，但也很有吸引力，因为基于学习的系统不需要手动调整或校准。在机器人在真实环境中操作的情况下，训练过程可能是昂贵的，耗时的，甚至是危险的，因为在训练开始时失败是常见的。为此，期望能够尽可能地利用\textit{simulation}和\textit{off-policy}数据来训练机器人。在这项工作中，我们引入了一个强大的框架，计划在模拟和转移到真实的环境。我们的模型结合了一个基于梯度下降的规划模块，该模块在给定初始图像和目标图像的情况下，将图像编码为较低维度的潜在状态，并规划到达目标的轨迹。该模型由编码器和规划器模块组成，首先通过模拟中的元学习策略进行训练。随后，我们通过使用来自模拟和真实环境的一组未标记但随机的图像来对编码器进行对抗域转移，以使编码器能够将来自真实和模拟环境的图像映射到类似的分布式潜在表示。通过微调整个模型（编码器+规划器）与更少的现实世界的专家演示，我们在不同的导航任务中显示成功的规划性能。
2018-10-11 cs.AI cs.CV cs.LG
Learning Visuomotor Policies for Aerial Navigation Using Cross-Modal Representations
Microsoft Corporation（微软公司）；Carnegie Mellon University（卡内基梅隆大学）
机器距离强大地解决开放世界的感知控制任务还有很长的路要走，比如第一人称视角（FPV）空中导航。虽然最近在端到端机器学习方面的进展，特别是模仿和强化学习似乎很有前途，但它们受到大量难以收集的标记真实世界数据的限制。另一方面，模拟数据很容易生成，但通常不会在各种现实生活场景中呈现安全行为。在这项工作中，我们提出了一种新的方法来学习强大的可视化策略，用于现实世界的部署，可以纯粹用模拟数据进行训练。我们开发了丰富的状态表示，结合了监督和无监督的环境数据。我们的方法采用了跨模态的视角，其中单独的模态对应于原始相机数据和与任务相关的系统状态，例如在无人机比赛的情况下，门与无人机的相对姿态。我们将这两种数据模式输入到一个新的因子化架构中，该架构通过变分自动编码器学习联合低维嵌入。然后将这种紧凑的表示输入到控制策略中，我们在模拟器中使用专家轨迹的模仿学习进行训练。我们分析了使用我们提出的表示学习的丰富的潜在空间，并表明与端到端学习或纯无监督特征提取器相比，使用我们的跨模态架构显着提高了控制策略性能。我们还提出了在不同的轨道配置和环境条件下通过门的无人机导航的现实世界的结果。我们提出的方法完全在船上运行，可以成功地在模拟和现实中推广学习到的表示和策略，显著优于基线方法。补充视频：https://youtu.be/VKc3A5HlUU8
2020-03-08 cs.CV cs.RO
Virtual Guidance as a Mid-level Representation for Navigation with Augmented Reality
National Tsing Hua University（国立清华大学）；National Taiwan University（国立台湾大学）
针对视觉与语言等多模态导航指令难以传达的问题，本文提出 Virtual Guidance 中层视觉表征及 sim-to-real 迁移框架，实验证明其在多场景自主导航中优于非视觉引导基线。
2025-03-14 cs.AI cs.CV cs.LG
FLUX: Accelerating Cross-Embodiment Generative Navigation Policies via Rectified Flow and Static-to-Dynamic Learning
FLUX是首个基于流的统一导航策略，通过线性化概率流提升推理效率，结合静态到动态课程学习，在六个导航任务中取得最佳性能，并实现无调优的仿真到现实迁移。
2026-03-13 cs.RO
CityLearn: Diverse Real-World Environments for Sample-Efficient Navigation Policy Learning
Queensland University of Technology（昆士兰科技大学）；Universidad Nacional de Ingeniería（国立工程大学）
现实环境中的视觉导航任务通常需要自运动和位置识别反馈。虽然深度强化学习已经成功地以端到端的方式解决了这些感知和决策问题，但这些算法需要大量的经验来从高维数据中学习导航策略，由于样本复杂性，这对于真实机器人来说通常是不切实际的。在本文中，我们解决这些问题有两个主要贡献。我们首先利用位置识别和深度学习技术结合目标目的地反馈来生成紧凑的双峰图像表示，然后可以使用这些图像表示从少量的经验中有效地学习控制策略。第二，我们提出了一个交互式框架，CityLearn，它首次实现了在城市大小的、具有极端视觉外观变化的现实环境中训练和部署导航算法。CityLearn拥有10多个基准数据集，通常用于视觉位置识别和自动驾驶研究，包括全球60个城市的100多个记录的遍历。我们在两个CityLearn环境中评估我们的方法，在单个遍历上训练我们的导航策略。结果表明，我们的方法可以比使用原始图像时快2个数量级以上，并且还可以概括极端的视觉变化，包括白天到黑夜和夏季到冬季的过渡。
2020-03-02 cs.CV cs.LG cs.RO
Last-Mile Embodied Visual Navigation
Meta AI Research（Meta人工智能研究院）；Carnegie Mellon University（卡内基梅隆大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
像图像-目标导航这样的现实长期任务涉及探索和利用阶段。由于目标的图像，一个具体的代理必须探索发现目标，即，使用学习的先验知识进行有效搜索。一旦目标被发现，智能体必须准确地校准到目标的最后一英里的导航。与任何强大的系统一样，探索性目标发现和利用性最后一英里导航之间的切换可以更好地从错误中恢复。根据这些直观的导轨，我们提出了SLING，以提高现有的图像目标导航系统的性能。作为对现有方法的补充，我们专注于最后一英里导航，并利用神经描述符来利用问题的底层几何结构。通过简单但有效的开关，我们可以轻松地将SLING与启发式、强化学习和神经模块化策略联系起来。在标准化的图像目标导航基准（Hahn et al. 2021）上，我们提高了策略，场景和情节复杂性的性能，将最先进的成功率从45%提高到55%。除了真实感模拟，我们在三个物理场景中进行了真实的机器人实验，并发现这些改进可以很好地转移到真实环境中。
2022-11-21 cs.AI cs.CV cs.LG
Co-Optimizing Reconfigurable Environments and Policies for Decentralized Multi-Agent Navigation
University of Cambridge（剑桥大学）
本文提出智能体-环境协同优化框架，通过策略梯度无模型学习交替优化智能体导航策略与可重构环境布局，并证明其收敛性，实验表明优化后的环境能有效引导多智能体避碰导航。
2025-07-02 cs.LG cs.MA cs.RO
LEAP: Learning Emergent Active Perception for Quadruped Navigation
Inria（法国国家信息与自动化研究所）；DI ENS, PSL（巴黎高等师范学院计算机系，巴黎文理研究大学）；LAAS-CNRS（法国国家科学研究中心系统分析与体系结构实验室）；University of Toulouse（图卢兹大学）
本文提出LEAP方法，通过注视不变表示和地形课程训练，仅依靠任务压力使四足机器人涌现主动感知，在危险地形导航中达到92.7%成功率，优于脚本化与被动感知。
2026-09-17 cs.CV cs.RO
AVLEN: Audio-Visual-Language Embodied Navigation in 3D Environments
University of California, Riverside（加州大学河滨分校）；Mitsubishi Electric Research Labs（三菱电机研究实验室）
近年来，嵌入式视觉导航在两个不同的方向上取得了进展：（i）装备人工智能智能体以遵循自然语言指令，以及（ii）使可导航的世界多模态，例如，视听导航然而，现实世界不仅是多模态的，而且往往是复杂的，因此，尽管有这些进步，代理人仍然需要了解他们的行动中的不确定性，并寻求指导导航。为此，我们提出了AVLEN~ --一个交互式的视听语言具身导航代理。与视听导航任务类似，我们的具体代理的目标是通过导航3D视觉世界来本地化音频事件;然而，代理也可以寻求人类（Oracle）的帮助，其中以自由形式的自然语言提供帮助。为了实现这些能力，AVLEN使用多模态分层强化学习主干，该主干学习：（a）选择用于导航的音频线索或查询oracle的高级策略，以及（b）基于其视听和语言输入选择导航动作的低级策略。通过对导航任务的成功进行奖励来训练策略，同时最大限度地减少对oracle的查询次数。为了实证评估AVLEN，我们提出了语义视听导航任务的SoundSpaces框架上的实验。我们的研究结果表明，装备代理请求帮助导致性能的明显改善，特别是在具有挑战性的情况下，例如，当在训练期间或在干扰物声音存在的情况下听不到声音时。
2022-10-14 cs.AI cs.CL cs.CV
CityWalker: Learning Embodied Urban Navigation from Web-Scale Videos
New York University（纽约大学）
本文提出CityWalker，利用网络视频数据训练具身智能体进行城市导航，通过可扩展数据处理提取动作监督，实现大规模模仿学习，显著提升导航性能。
2025-04-22 cs.CV cs.RO
Embodied Visual Navigation with Automatic Curriculum Learning in Real Environments
Toshiba Europe Limited（东芝欧洲有限公司）；University of Cambridge（剑桥大学）
我们提出了NavACL，一种自动课程学习的导航任务量身定制的方法。NavACL易于训练，并使用几何特征有效地选择相关任务。在我们的实验中，使用NavACL训练的深度强化学习代理显著优于使用统一采样（当前标准）训练的最先进代理。此外，我们的代理可以通过未知的杂乱的室内环境中导航到语义指定的目标，只使用RGB图像。避障策略和冻结特征网络支持转移到看不见的真实世界环境，而无需任何修改或重新训练要求。我们评估我们的政策在模拟，并在现实世界中的地面机器人和四旋翼无人机。补充材料中提供了真实结果的视频。
2021-01-06 cs.AI cs.CV cs.RO
VOILA: Visual-Observation-Only Imitation Learning for Autonomous Navigation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Army Research Laboratory（陆军研究实验室）；Sony AI（索尼人工智能）
虽然基于视觉的自主移动机器人导航的模仿学习最近在研究界受到了极大的关注，但现有方法通常需要使用部署平台收集的状态动作演示。然而，如果一个人不能很容易地装备他们的平台来记录这些演示信号，或者更糟的是，演示者根本无法进入平台，那该怎么办？基于视觉的自主导航的模仿学习在这样的场景中是否可能？在这项工作中，我们假设，答案是肯定的，最近的想法从模仿观察（IfO）文学可以承担这样的机器人可以学习导航使用仅自我为中心的视频收集的演示，即使在存在的观点不匹配。为此，我们引入了一种新的算法，视觉观察只有模仿学习自主导航（VOILA），可以成功地学习导航策略从一个单一的视频演示收集从一个物理上不同的代理。我们在真实感AirSim模拟器中评估了VOILA，并表明VOILA不仅成功地模仿了专家，而且还学习了可以推广到新环境的导航策略。此外，我们证明了VOILA在现实世界中的有效性，它允许轮式豺狼机器人成功地模仿人类行走的环境中使用的视频记录使用手机摄像头。
2021-10-08 cs.AI cs.CV cs.LG
VLD: Visual Learned Distance as an Interface for Reinforcement Learning Navigation
ETH Zurich（苏黎世联邦理工学院）；EPFL（瑞士联邦理工学院）；Stanford University（斯坦福大学）；UC Berkeley（伯克利大学）
本文提出VLD学习框架，通过解耦感知学习与策略学习，利用大规模视频数据训练距离预测器，提升机器人导航性能与现实迁移能力。
2026-11-09 cs.CV cs.RO
Feudal Networks for Visual Navigation
Rutgers University（罗格斯大学）；Stony Brook University（石溪大学）；Georgia State University（佐治亚州立大学）
本研究提出基于封建学习的层级视觉导航框架，通过自监督记忆代理图和模仿人类航点选择的航点网络，实现无需强化学习、拓扑图、里程计与度量地图的导航，性能接近当前最优水平。
2024-12-12 cs.CV cs.LG cs.RO
Shared Multi-Task Imitation Learning for Indoor Self-Navigation
Ball State University（鲍尔州立大学）
深度模仿学习使机器人能够从专家演示中学习，以执行车道跟踪或避障等任务。然而，在传统的模仿学习框架中，一个模型只能学习一个任务，因此缺乏在室内环境中支持机器人使用一个模型执行各种不同导航任务的能力。本文提出了一种新的框架，共享多头模仿学习（SMIL），它允许机器人执行多个任务与一个模型之间没有切换不同的模型。我们将每个任务建模为一个子策略，并设计了一个多头策略，通过总结所有子策略的激活来学习相关任务之间的共享信息。与单一或非共享的多头策略相比，该框架能够利用任务之间的相关信息来提高性能。我们使用基于NVIDIA TX2的机器人实现了该框架，并在室内环境中使用不同的基线解决方案进行了广泛的实验。结果表明，SMIL比非共享多头策略的性能提高了一倍。
2018-08-14 cs.CV cs.RO
Structured Graph Network for Constrained Robot Crowd Navigation with Low Fidelity Simulation
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
提出结构化图网络与注意力机制，利用低保真仿真分离人类与障碍物表示，减少sim2real差距，提升约束人群导航性能。
2024-05-28 cs.AI cs.LG cs.RO
Teacher-Student Reinforcement Learning for Mapless Navigation using a Planetary Space Rover
Aalborg University（奥尔堡大学）；AAU SPACE（奥尔堡大学空间研究中心）
本文提出一种基于教师-学生范式的两阶段强化学习方法，利用离线噪声数据训练无地图导航策略，以缩小仿真到现实的差距，并在行星漫游车上验证了其更强的噪声鲁棒性和迁移效果。
2023-09-22 cs.RO
VR-Robo: A Real-to-Sim-to-Real Framework for Visual Robot Navigation and Locomotion
Institute for Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院）；Shanghai Qi Zhi Institute（上海启智研究院）；Galaxea AI；School of Electronics, Information and Electrical Engineering, Shanghai Jiao Tong University（上海交通大学电子信息与电气工程学院）
本文提出 VR-Robo 框架，利用 3DGS 重建生成照片级真实且物理可交互的数字孪生仿真环境，用于视觉导航与运动学习，并验证了仅 RGB 输入的 sim-to-real 策略迁移及在新环境中的快速适应能力。
2025-06-03 cs.CV cs.RO
Prior Does Matter: Visual Navigation via Denoising Diffusion Bridge Models
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；School of Intelligent Systems Engineering, Sun Yat-sen University（中山大学智能系统工程学院）
针对现有扩散策略在视觉导航中因从高斯噪声生成动作导致冗余步骤和学习复杂的问题，提出基于去噪扩散桥模型的NaviBridger框架，从含信息先验动作生成动作，实验表明其加速推理且优于基线。
2025-04-14 cs.CV cs.RO
SEBVS: Synthetic Event-based Visual Servoing for Robot Navigation and Manipulation
Arizona State University（亚利桑那州立大学）；Indian Institute of Information Technology（印度信息科技学院）
针对主流机器人模拟器中合成事件视觉探索不足的问题，提出开源ROS包SEBVS，可在Gazebo中从RGB相机生成事件流，用于训练事件驱动机器人策略并验证其在导航和操作任务中的竞争优势，推动事件相机在机器人策略学习中的应用。
2025-08-25 cs.CV cs.RO
Trajectory-Diversity-Driven Robust Vision-and-Language Navigation
Xi’an Jiaotong University（西安交通大学）；Faculty of Computility Microelectronics, Shenzhen University of Advanced Technology（深圳先进技术大学微电子学院）
本文提出NavGRPO框架，通过群体相对策略优化实现目标导向的导航策略学习，在未见环境中提升鲁棒性，实验显示在R2R和REVERIE基准上SPL提升达3.0%和1.71%。
2026-03-16 cs.CV
GeoScaffold: Learning Compact Geometric Latents via Reconstruction for Efficient Vision-Language Navigation
Nanjing University（南京大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；MAICRO（迈克罗）
GeoScaffold通过训练时内化几何监督，学习紧凑几何潜变量，在不增加推理开销的情况下提升连续VLN导航性能，优于纯视觉方法。
2026-10-05 cs.CV cs.RO
Predicting Dense and Context-aware Cost Maps for Semantic Robot Navigation
University of Bonn（波恩大学）；Robert Bosch GmbH（罗伯特·博世有限公司）；University of Oxford（牛津大学）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所）
我们调查的任务对象目标导航在未知的环境中，目标是由语义标签（例如，找到一个沙发）。这样的导航任务是特别具有挑战性的，因为它需要在不同的设置语义上下文的理解。大多数先前的工作解决这个问题的假设下，一个离散的行动政策，而我们提出了一种方法，连续控制，使其更接近现实世界的应用。我们提出了一个深度神经网络架构和损失函数来预测隐含语义上下文的密集成本图，并引导机器人实现语义目标。我们还提出了一种新的方式，在我们的体系结构中融合中级视觉表示，为成本图预测提供额外的语义线索。估计的成本地图，然后使用基于采样的模型预测控制器（MPC）生成连续的机器人动作。初步的实验表明，我们的网络生成的成本地图是适合MPC，可以引导代理的语义目标比基线方法更有效。结果还表明了中级表示对导航的重要性，成功率提高了7个百分点。
2022-10-17 cs.CV cs.RO
3D-Aware Object Goal Navigation via Simultaneous Exploration and Identification
Peking University（北京大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Tongji University（同济大学）；Huazhong University of Science and Technology（华中科技大学）；Tencent AI Lab（腾讯人工智能实验室）；National University of Defense Technology（国防科技大学）
针对未见环境中的3D感知物体目标导航任务，提出结合角落引导探索和类别感知识别的同步子策略框架，利用在线融合3D点作为观测，在Matterport3D和Gibson数据集上取得模块化方法最佳性能且大幅降低训练成本。
2023-03-31 cs.CV cs.RO
SSCNav: Confidence-Aware Semantic Scene Completion for Visual Semantic Navigation
本文重点介绍视觉语义导航，主动代理导航到一个特定的目标对象类别在一个未知的环境中产生的行动的任务。为了完成这个任务，算法应该同时定位和导航到类别的实例。与传统的点目标导航相比，该任务要求智能体在室内环境之前具有更强的上下文。我们介绍SSCNav，一种算法，明确地使用一个信任感知语义场景完成模块来完成场景和指导代理的导航规划模型的场景先验。给定对环境的部分观察，SSCNav首先推断出一个完整的场景表示，其中包含未观察场景的语义标签以及与其自身预测相关联的置信度图。然后，策略网络从场景完成结果和置信度图推断动作。实验结果表明，该场景补全模块提高了下游导航策略的效率。视频、代码和数据：https://sscnav.cs.columbia.edu/
2021-03-22 cs.CV cs.RO
SelfD: Self-Learning Large-Scale Driving Policies From the Web
Boston University（波士顿大学）
有效地利用互联网上免费提供的大量以自我为中心的导航数据可以推进广义智能系统，即，跨视角、平台、环境条件、场景和地理位置稳健地扩展。然而，很难直接利用如此大量的未标记和高度多样化的数据来进行复杂的3D推理和规划任务。因此，研究人员主要关注其用于各种辅助像素和图像级计算机视觉任务，这些任务不考虑最终的导航目标。在这项工作中，我们介绍了SelfD，一个框架，用于学习可扩展的驾驶，利用大量的在线单眼图像。我们的关键思想是在从未标记数据中学习模仿代理时利用迭代半监督训练。为了处理不受约束的视点、场景和相机参数，我们训练了一个基于图像的模型，该模型直接学习在鸟瞰图（BEV）空间中进行规划。接下来，我们使用未标记的数据通过自我训练来增强初始训练模型的决策知识和鲁棒性。特别是，我们提出了一个伪标签的步骤，使充分利用高度多样化的示范数据，通过“假设”的规划为基础的数据增强。我们采用了一个大型的公开的YouTube视频数据集来训练SelfD，并全面分析其在具有挑战性的导航场景中的泛化优势。在不需要任何额外的数据汇集或注释工作的情况下，SelfD在nuScenes、Argoverse、Waymo和CARLA上的驾驶性能评估方面表现出了一致的改进（高达24%）。
2022-04-21 cs.AI cs.CV cs.RO
SocNavGym: A Reinforcement Learning Gym for Social Navigation
Universidad de Extremadura（埃斯特雷马杜拉大学）；Aston University（阿斯顿大学）；Tata Consultancy Services（塔塔咨询服务公司）；Birla Institute of Technology and Science（博拉理工学院）
本文提出轻量快速的社交导航仿真环境 SocNavGym，可灵活配置场景与奖励信号，并通过 Dueling-DQN 案例验证其能训练智能体在简单及复杂社交场景中实现社会合规导航。
2023-07-07 cs.AI cs.LG cs.MA
The Surprising Effectiveness of Visual Odometry Techniques for Embodied PointGoal Navigation
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-尚佩恩分校）；Georgia Institute of Technology（佐治亚理工学院）；Facebook AI Research（Facebook AI研究院）
对于个人机器人来说，可靠地导航到指定的目标是至关重要的。为了研究这个任务，PointGoal导航已经被引入到模拟的人工智能环境中。最新的进展解决了这个PointGoal导航任务，在照片逼真的模拟环境中具有近乎完美的准确性（99.6%的成功率），假设无噪声的自我中心视觉，无噪声的驱动，最重要的是，完美的定位。然而，在视觉传感器和驱动的现实噪声模型下，并且在没有访问“GPS和指南针传感器”的情况下，PointGoal导航的99.6%成功代理仅成功0.3%。在这项工作中，我们证明了令人惊讶的有效性视觉里程计的任务PointGoal导航在这个现实的设置，即，使用真实的噪声模型进行感知和驱动，无需使用GPS和Compass传感器。我们发现，将视觉里程计技术集成到导航策略中，大大提高了流行的Habitat PointNav基准的最新水平，将成功率从64.5%提高到71.7%，同时执行速度提高了6.4倍。
2021-08-26 cs.AI cs.CV cs.LG
GuidedNav: Shaping Vision-Language Navigation Representations through Pre-action Attention and Spatial Guidance
University of Melbourne（墨尔本大学）；AgiBot；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；University of Electronic Science and Technology of China（电子科技大学）；University of Macau（澳门大学）；University of Technology Sydney（悉尼科技大学）
本文提出 GuidedNav 框架，通过子任务、地标及空间引导塑造视觉-语言导航表征，在 R2R-CE、RxR-CE 上分别提升成功率 8.1%、13.1%，还构建了两个标注增强数据集。
2026-10-12 cs.CV
Visual Navigation Among Humans with Optimal Control as a Supervisor
Google Research（谷歌研究院）；UC Berkeley（加州大学伯克利分校）；University of Southern California（南加州大学）
现实世界的视觉导航要求机器人在不熟悉的、人类占据的动态环境中操作。在人类周围导航尤其困难，因为它需要预测他们未来的运动，这可能是相当具有挑战性的。我们提出了一种方法，结合基于学习的感知与基于模型的最优控制，仅基于单目，第一人称RGB图像的人类之间的导航。我们的方法是通过我们的新的数据生成工具，HumANav，允许与人类在其中，然后用于训练的感知模块完全模拟的室内环境场景的逼真渲染。通过对移动机器人的模拟和实验，我们证明了学习的导航策略可以预测和反应人类，而无需明确预测未来的人类运动，推广到以前看不见的环境和人类行为，并直接从模拟转移到现实。描述我们的方法和实验的视频，以及HumANav的演示可在项目网站上获得。
2021-02-12 cs.AI cs.CV cs.LG
On Embodied Visual Navigation in Real Environments Through Habitat
OrangeDev s.r.l., Firenze, Italy（OrangeDev s.r.l.，意大利佛罗伦萨）；Cognitive Robotics and Social Sensing LaboratoryICAR-CNR, Palermo, Italy（意大利帕勒莫ICAR-CNR认知机器人与社会感知实验室）
基于深度学习的视觉导航模型在通过强化学习对大量视觉观察进行训练时，可以学习有效的策略。不幸的是，在现实世界中收集所需的经验需要部署机器人平台，这是昂贵和耗时的。为了解决这一问题，已经提出了几个仿真平台，以有效地训练虚拟环境中的视觉导航策略。尽管它们提供了优势，但模拟器在外观和物理动力学方面呈现出有限的现实主义，导致导航策略在现实世界中无法推广。在本文中，我们提出了一个工具的基础上的栖息地模拟器，利用现实世界的环境中的图像，连同传感器和执行器的噪声模型，以产生更逼真的导航情节。我们进行了一系列的实验，以评估这些政策的能力，推广使用虚拟和现实世界的图像，以及观察与无监督的领域自适应方法转换。我们还评估了传感器和驱动噪声对导航性能的影响，并研究了它是否允许学习更强大的导航策略。我们表明，我们的工具可以有效地帮助训练和评估导航政策的真实世界的观察，而无需在现实世界中运行的导航peptides。
2020-10-26 cs.CV cs.LG cs.RO
I2O2I-Nav: A Benchmark with a Modular Agent for Long-Horizon Indoor-to-Outdoor-to-Indoor Navigation
University of Hong Kong（香港大学）；Shanghai Jiao Tong University（上海交通大学）；Nanjing University（南京大学）；NeoWa Robotics（NeoWa机器人公司）
本文提出I2O2I-Nav基准测试集及MODULAR-Agent，评估长程室内-室外-室内导航的连续组合能力，该智能体大幅提升跨域任务成功率，但完整任务仍面临挑战。
2026-10-14 cs.RO
Unsupervised Domain Adaptation for Visual Navigation
Carnegie Mellon University（卡内基梅隆大学）
视觉导航方法的进步导致智能具身导航代理能够学习有意义的表示从原始RGB图像，并执行各种各样的任务，涉及结构和语义推理。然而，大多数基于学习的导航策略都是在仿真环境中训练和测试的。为了使这些政策实际上有用，它们需要被转移到现实世界中。本文提出了一种用于视觉导航的无监督领域自适应方法。我们的方法将目标域中的图像翻译到源域，使得翻译与导航策略所学习的表示一致。该方法优于几个基线在两个不同的导航任务的仿真。我们进一步表明，我们的方法可以用于将在模拟中学习的导航策略转移到现实世界中。
2020-11-12 cs.CV cs.LG cs.RO
NoMaD: Goal Masked Diffusion Policies for Navigation and Exploration
UC Berkeley（加州大学伯克利分校）
本文提出NoMaD，一种统一的扩散策略，同时处理目标导向导航与目标无关探索，在真实机器人上优于五种替代方法，性能显著提升且碰撞率更低。
2023-10-11 cs.CV cs.LG cs.RO
EnQuery: Ensemble Policies for Diverse Query-Generation in Preference Alignment of Robot Navigation
University of Bonn（波恩大学）；Center for Robotics at the University of Bonn（波恩大学机器人中心）；Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所）
EnQuery通过集成策略和正则化项生成多样化导航轨迹建议，在低查询场景下高效对齐机器人导航策略与用户偏好，并引入可解释性表示方法。
2024-06-11 cs.RO
Where are the Keys? -- Learning Object-Centric Navigation Policies on Semantic Maps with Graph Convolutional Networks
Queensland University of Technology (QUT)（昆士兰科技大学（QUT））
新兴的基于对象的SLAM算法可以构建包括用于机器人姿势和对象地标的节点的环境的图形表示。然而，虽然此地图将包含静态对象，例如家具或电器，但许多可移动对象（例如车钥匙，眼镜或杂志）不适合作为地标，并且由于其非静态性质而不会成为地图的一部分。我们表明，图卷积网络可以通过学习利用隐藏的概率模型来学习导航策略，从而找到这些未映射的对象，该模型控制这些对象在环境中的位置。通过使用表示语义相似性的词向量作为图中对象节点的表示，学习到的策略可以推广到训练期间看不到的对象类。此外，我们表明，政策推广到看不见的环境，只有最小的性能损失。我们证明，使用代理任务对策略网络进行预训练可以显着加快学习速度，提高样本效率。
2021-01-20 cs.LG cs.RO
Training Generalist Navigation Policies via Action Self-Distillation
Princeton University（普林斯顿大学）
该研究提出动作自蒸馏（ASD）方法，利用开源VLM作为师生网络，在13项真实世界导航任务中，室内成功率较基线提30%、多阶段任务提30%、室外达95%，实现无人工标注的通用导航策略训练。
2026-10-14 cs.LG cs.RO
CHOP: Counterfactual Human Preference Labels Improve Obstacle Avoidance in Visuomotor Navigation Policies
University of Maryland, College Park（马里兰大学学院公园分校）
CHOP通过反事实人类偏好标签改进视觉运动导航策略的障碍物避让能力，显著提升安全性和导航效率。
2026-11-02 cs.RO
Obtaining Robust Control and Navigation Policies for Multi-Robot Navigation via Deep Reinforcement Learning
Fraunhofer IML（弗劳恩霍夫物流研究院）；Westfälische Hochschule Gelsenkirchen（盖尔森基兴威斯特伐利亚应用科学大学）
多机器人导航是一个具有挑战性的任务，其中多个机器人必须同时协调动态环境中。我们应用深度强化学习（DRL）来学习一种分散的端到端策略，该策略将原始传感器数据映射到代理的命令速度。为了使策略能够泛化，在不同的环境和场景中执行训练。在常见的多机器人场景中，如切换一个地方，一个十字路口和一个瓶颈的情况下，学习的政策进行测试和评估。此策略允许代理从死胡同中恢复并在复杂环境中导航。
2022-09-07 cs.RO
Enhancing Robot Navigation Policies with Task-Specific Uncertainty Managements
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Florida International University（佛罗里达国际大学）
针对复杂环境下机器人导航需应对不同任务的差异化不确定性需求问题，提出集成任务特定不确定性图的GUIDE框架，结合强化学习实现平衡任务完成与不确定性管理的导航策略，真实测试性能显著优于无任务特定不确定性感知的方法。
2025-05-20 cs.AI cs.LG cs.RO
Green for Go, Red for No: Visual Grounding via Semantic Segmentation for VLA Navigation Policies
研究VLA导航策略的视觉基础，提出基于实时分割的方法，用SegFormer突出可通行与不可通行区域，评估两种变体，结果表明视觉基础可降误差，对长指令效果更佳，还能作为轨迹长度正则化器。
2026-07-07 cs.CV cs.RO
Learning Navigation Skills for Legged Robots with Learned Robot Embeddings
Georgia Institute of Technology（佐治亚理工学院）；Facebook AI Research（Facebook人工智能研究院）
最近的工作已经显示出在模拟中学习理想化圆柱体代理的导航策略并将其转移到真正的轮式机器人上的结果。在足式机器人上部署这样的导航策略可能是具有挑战性的，因为它们的复杂动力学，以及圆柱代理和腿式系统之间的大的动力学差异。在这项工作中，我们学习分层导航政策，占低层次的动态足式机器人，如最大速度，滑动，接触，并学会成功地导航杂乱的室内环境。为了将在模拟中学习的策略转移到新的足式机器人和硬件上，我们学习了具有机器人特定嵌入的多个机器人之间的动态感知导航策略。学习的嵌入在新机器人上进行优化，而策略的其余部分保持固定，允许快速适应。我们在模拟中对三个足式机器人进行策略训练--两个四足机器人（A1，AlienGo）和一个六足机器人（Daisy）。在测试时，我们研究了我们的学习策略的性能在两个新的足式机器人在模拟（莱卡戈，4腿雏菊），和一个现实世界的四足机器人（A1）。我们的实验表明，我们的学习策略可以样本有效地推广到以前看不见的机器人，并使足式机器人的导航策略的仿真到现实迁移。
2021-09-13 cs.RO
Learning Exploration Policies for Navigation
Carnegie Mellon University（卡内基梅隆大学）；Facebook AI Research（Facebook人工智能研究）
许多过去的作品已经解决了任务驱动导航的问题。但是，如何有效地探索一个新的环境，使各种下游任务得到了很少的关注。在这项工作中，我们研究了代理如何在没有任务奖励的情况下自主探索现实而复杂的3D环境。我们提出了一种基于学习的方法，并研究了不同的政策架构，奖励功能和培训模式。我们发现，使用具有空间记忆的策略，这些策略通过模仿学习引导，最后通过纯粹来自机载传感器的覆盖奖励进行微调，可以有效地探索新的环境。我们表明，我们的学习探索政策可以探索比经典的方法，仅基于几何和通用的基于学习的探索技术。最后，我们还展示了如何将这种任务不可知的探索用于下游任务。代码和视频可在：https://sites.google.com/view/exploration-for-nav.
2019-03-05 cs.AI cs.LG cs.RO
NavTuner: Learning a Scene-Sensitive Family of Navigation Policies
College of Computing, Georgia Institute of Technology（佐治亚理工学院计算学院）；Institute for Robotics and Intelligent Machines, Georgia Institute of Technology（佐治亚理工学院机器人与智能机器研究所）
深度学习的出现激发了对机器人中各种问题领域的端到端学习的研究。对于导航，所得到的方法可能不具有期望的泛化属性，更不用说与传统方法的性能相匹配了。而不是学习导航策略，我们探索学习现有导航模块的参数空间中的自适应策略。具有自适应参数为导航模块提供了一系列策略，这些策略可以基于本地场景结构动态地重新配置，并且解决了机器学习中工程解决方案不灵活的常见断言。在测试的方法中，强化学习（RL）通过降低其成功率对环境杂波的敏感性，为现代导航方法提供了显着的性能提升。结果表明，RL作为一个元政策学习者，或动态参数调谐器，有效地鲁棒算法敏感的外部，可测量的滋扰因素。
2021-03-02 cs.RO
ExAug: Robot-Conditioned Navigation Policies via Geometric Experience Augmentation
UC Berkeley（加州大学伯克利分校）；Toyota Motor North America（丰田汽车北美公司）
机器学习技术依赖于大型且多样化的数据集进行泛化。计算机视觉、自然语言处理和其他应用程序通常可以重用公共数据集来训练许多不同的模型。然而，由于物理配置的差异，利用公共数据集在新的机器人平台或新的任务上训练机器人控制策略是具有挑战性的。在这项工作中，我们提出了一个新的框架，ExAug，以增强不同环境中多个数据集的不同机器人平台的经验。ExAug利用了一个简单的原则：通过以点云的形式提取3D信息，我们可以创建更复杂和结构化的增强，利用生成合成图像和几何感知惩罚，这将适用于不同机器人的相同情况，具有不同的大小，转弯半径和摄像头放置。在两个新的机器人平台上，三个不同的摄像头在室内和室外环境中的障碍物的训练政策进行评估。
2022-10-14 cs.AI cs.CV cs.LG
Think When It Matters: Conditional VLM Reasoning for Social Navigation with RL Policies
Institut des Systèmes Intelligents et de Robotique (ISIR)（智能系统与机器人研究所）
研究社交机器人导航中强化学习策略缺乏语义推理能力的问题，提出HUMA混合架构，动态平衡RL策略与VLM的优势。在基准测试中任务成功率提高，减少碰撞，消融研究验证组件，实际部署证明方法可行。
2026-07-14 cs.AI cs.CV cs.RO
Hierarchical Representations and Explicit Memory: Learning Effective Navigation Policies on 3D Scene Graphs using Graph Neural Networks
Massachusetts Institute of Technology（麻省理工学院）
表示对于机器人学习有效的导航策略至关重要。最近的工作已经表明，中级感知抽象（诸如深度估计或2D语义分割）在作为观察而不是原始传感器数据（例如，RGB图像）。然而，这样的策略仍然必须从中级抽象中学习潜在的三维场景属性。相比之下，高层次的，分层表示，如3D场景图明确提供了一个场景的几何，拓扑和语义，使他们引人注目的表示导航。在这项工作中，我们提出了一个强化学习框架，利用高层次的表示学习导航策略。为了实现这一目标，我们提出了一个图神经网络架构，并展示了如何嵌入到一个代理为中心的特征空间的3D场景图，这使得机器人学习策略的低级别的行动在一个端到端的方式。对于场景图中的每个节点，我们的方法使用捕获占用和语义内容的功能，同时明确保留机器人轨迹的内存。我们证明了我们的方法对常用的可视化策略在一个具有挑战性的对象搜索任务的有效性。这些实验和支持消融研究表明，我们的方法导致更有效的对象搜索行为，表现出改善的长期记忆，并成功地利用层次信息来指导其导航目标。
2022-05-05 cs.AI cs.RO
Language-Conditioned Offline RL for Multi-Robot Navigation
University of Cambridge（剑桥大学）
本文提出一种基于预训练LLM嵌入和离线强化学习的多机器人导航策略，仅需20分钟数据即可在真实机器人上实现低延迟控制和零样本泛化。
2024-07-29 cs.AI cs.LG cs.RO
DR-APO: Decoupled-Representation Advantage-Guided Policy Optimization from Continuous Control to Embodied Navigation
DEEP Robotics（深度机器人公司）；Zhejiang University（浙江大学）
DR-APO为高斯、扩散、流匹配策略提供统一优化原则，在MuJoCo任务中具竞争力，NavDP后训练显著提升仿真与真实导航的成功率。
2026-10-14 cs.LG cs.RO
FlashNav: Training Deployable Robot Navigation Policies in Seconds
Eastern Institute of Technology, Ningbo（宁波东方理工大学）；The Hong Kong Polytechnic University（香港理工大学）；National University of Singapore（新加坡国立大学）；University of Science and Technology of China（中国科学技术大学）；Shanghai Jiao Tong University（上海交通大学）
提出FlashNav框架，通过GPU加速和MDP对齐实现20秒内训练可部署的导航策略，在TurtleBot2和Unitree Go2上验证成功。
2026-10-02 cs.RO
Learning a Group-Aware Policy for Robot Navigation
Johns Hopkins University（约翰斯·霍普金斯大学）；Johns Hopkins University Applied Physics Lab（约翰斯·霍普金斯大学应用物理实验室）；UC Berkeley（加州大学伯克利分校）
具有人类感知能力的机器人导航技术具有广泛的应用前景，在这些应用中，移动机器人可以为人类环境中的人们提供多方面的帮助。虽然先前的研究主要集中在将行人建模为独立的、有意图的个体，但人们是以群体的方式移动的;因此，移动机器人在人们周围导航时必须尊重人类群体。本文探讨了使用深度强化学习基于动态组形成的学习组感知导航策略。通过模拟实验，我们表明，与忽略人类群体的基线策略相比，群体感知策略实现了更好的机器人导航性能（例如，减少碰撞），最大限度地减少违反社会规范和不适，并减少机器人对行人的运动影响。我们的研究结果有助于社会导航和移动机器人融入人类环境的发展。
2022-07-29 cs.HC cs.LG cs.RO
Optimizing Indoor Navigation Policies For Spatial Distancing
Rutgers University（罗格斯大学）；New Jersey Institute of Technology（新泽西理工学院）；York University（约克大学）；Toronto Rehabilitation Institute（多伦多康复研究所）
在本文中，我们专注于修改的政策，可以导致运动模式和方向指导的居住者，这是表示为代理在3D仿真引擎。我们展示了一种优化方法，该方法通过引入作为代理密度的函数的代理的空间距离的度量（即，占用）。我们的优化框架利用这些指标作为目标函数，使用混合的方法相结合的遗传算法和模拟退火。我们表明，在我们的框架内，模拟优化过程可以通过优化给定室内环境的导航策略来帮助提高代理之间的空间距离。
2022-06-04 cs.AI cs.GR cs.MA
Learning End-to-end Multimodal Sensor Policies for Autonomous Navigation
Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所）
已知多传感器策略可以增强状态估计和目标跟踪。然而，在端到端的感觉运动控制领域，这种多传感器前景受到的关注有限。此外，系统的方法，使政策稳健的部分传感器故障没有很好地探索。在这项工作中，我们提出了一个特定的定制辍学，称为\textit{Sensor Dropout}，以提高多传感器的政策鲁棒性和处理部分故障的传感器集。我们还引入了一个额外的辅助损失的政策网络，以减少潜在的多和单传感器的政策，以减少突发传感器故障或停用/激活触发的政策切换过程中的变化。最后，通过梯度的可视化，我们表明，尽管有不同的观测空间，但学习的策略是以相同的潜在状态表示为条件的-这是真正的传感器融合的标志。多感官策略的模拟结果，如TORCS赛车游戏中所示，可以在这里看到：https://youtu.be/QAK2lcXjNZc。
2017-11-01 cs.AI cs.LG cs.RO
Synthetic vs. Real Training Data for Visual Navigation
Tampere University（塔尔基尔大学）；Turku University of Applied Sciences（图尔库应用科学大学）
本文提出了一种基于预训练视觉表示的导航策略，通过仿真训练提升了视觉导航性能，实验表明其在导航成功率上优于真实数据训练和现有方法。
2026-02-24 cs.LG cs.RO
