Gym-$μ$RTS: Toward Affordable Full Game Real-time Strategy Games Research with Deep Reinforcement Learning
Drexel University(德雷塞尔大学);Google(谷歌);Queen Mary University(玛丽女王大学)
近年来,研究人员在将深度强化学习(DRL)算法应用于实时的【形】策略(RTS)游戏方面取得了巨大成功,创造了强大的自主智能体,可以在《星际争霸2》中击败职业玩家。然而,现有的处理完整游戏的方法具有很高的计算成本,通常需要使用数千个GPU和CPU数周。本文有两个主要贡献,以解决这个问题:1)我们介绍了健身房- $μ$ RTS(发音为“健身房微RTS”)作为一个快速运行的RL环境,为完整的游戏RTS研究和2)我们提出了一系列的技术来缩放DRL玩完整的游戏$μ$ RTS以及消融研究,以证明其经验的重要性。我们训练得最好的机器人可以击败我们在过去的$μ$ RTS比赛中测试的每一个$μ$ RTS机器人,在单地图设置中工作,从而产生最先进的DRL代理,而使用单台机器(一个GPU,三个vCPU,16 GB RAM)只需要大约60小时的训练。请参阅https://wandb.ai/vwxyzjn/gym-microrts-paper/reports/Gym-RTS-Toward-Affordable-Deep-Reinforcement-Learning-Research-in-Real-Time-Strategy-Games--Vmlldzo2MDIzMTg上的博客文章和https://github.com/vwxyzjn/gym-microrts-paper上的源代码
2021-07-28 cs.LG
Isaac Lab: A GPU-Accelerated Simulation Framework for Multi-Modal Robot Learning
NVIDIA
Isaac Lab 作为 Isaac Gym 的继任者,通过 GPU 并行物理、真实感渲染、多模态传感与模块化架构,统一大规模强化与模仿学习,并计划集成可微分 Newton 引擎以推动机器人学习新突破。
2025-11-06 cs.AI cs.RO
Sim-to-Real gap in RL: Use Case with TIAGo and Isaac Sim/Gym
Eurecat(欧洲电信技术研究中心)
本文研究基于 TIAGo 机器人操作的 sim-to-real 迁移策略学习,对比 Nvidia 的 Isaac Gym 和 Isaac Sim 模拟器,设计控制架构实现无碰撞运动,并成功验证了 RL 模型在模拟与真实环境中的运动一致性。
2024-03-27 cs.RO
MR-iNet Gym: Framework for Edge Deployment of Deep Reinforcement Learning on Embedded Software Defined Radio
Marconi-Rosenblatt AI/ML Innovation Lab(马可尼-罗森布拉特人工智能/机器学习创新实验室);ANDRO Computational Solutions LLC(ANDRO计算解决方案有限责任公司)
动态资源分配在下一代智能无线通信系统中起着至关重要的作用。机器学习已被用作在这一领域取得进展的强大工具。在大多数情况下,由于这些解决方案的硬件部署具有挑战性,因此进展仅限于模拟。在本文中,我们首次在GPU嵌入式软件定义无线电(SDR)上设计和部署基于深度强化学习(DRL)的功率控制代理。为此,我们提出了一个端到端的框架(MR-iNet Gym),其中仿真套件和嵌入式SDR开发工作紧密结合,以克服现实世界的实施障碍。为了证明其可行性,我们考虑了基于码分多址(DS-CDMA)的LPI/D收发器的分布式功率控制问题。我们首先构建一个DS-CDMA ns 3模块,它与OpenAI Gym环境进行交互。接下来,我们在这个ns 3-gym仿真环境中训练功率控制DRL代理,该仿真环境复制了我们的硬件测试平台。接下来,对于边缘(嵌入式设备)部署,经过训练的模型针对实时操作进行了优化,而不会损失性能。基于硬件的评估验证了DRL代理的效率比传统的分布式约束功率控制(DCPC)算法。更重要的是,作为主要目标,这是第一项确定部署DRL的可行性的工作,为下一代GPU嵌入式无线电提供优化的分布式资源分配。
2022-04-09 cs.LG cs.NI
Aerial Gym -- Isaac Gym Simulator for Aerial Robots
Norwegian University of Science and Technology (NTNU)(挪威科技大学)
本文提出 Aerial Gym 模拟器,通过 SE(3) 几何控制器实现数百万多旋翼飞行器并行仿真,并提供障碍物随机化和多模态视觉数据支持,以推动空中机器人导航的强化学习研究。
2023-05-25 cs.RO
mjlab: A Lightweight Framework for GPU-Accelerated Robot Learning
UC Berkeley(加州大学伯克利分校);Sorbonne University(索邦大学)
mjlab是一种轻量级GPU加速机器人学习框架,结合可组合环境和MuJoCo Warp,提供快速安装和直接访问原生数据结构的功能,并附带三种任务的参考实现。
2026-02-25 cs.RO
Transferring Dexterous Manipulation from GPU Simulation to a Remote Real-World TriFinger
University of Toronto(多伦多大学);Vector Institute(矢量研究所);Nvidia(英伟达公司);ETH Zurich(苏黎世联邦理工学院);Snap(Snap公司);MPI Tubingen(蒂宾根马克斯·普朗克研究所);KTH(皇家理工学院)
本研究提出基于IsaacGym仿真训练的三指灵巧操作系统,采用关键点位姿表示与域随机化方法,在远程真实TriFinger机器人上实现83%的6自由度立方体操作成功率,并开源代码与训练模型。
2022-10-20 cs.LG cs.RO
MarineGym: A High-Performance Reinforcement Learning Platform for Underwater Robotics
The State Key Laboratory of Fluid Power and Mechatronic Systems, Zhejiang University(浙江大学流体动力与机电系统国家重点实验室);School of Engineering and Physical Sciences, Heriot-Watt University(赫瑞瓦特大学工程与物理科学学院);School of Informatics, University of Edinburgh(爱丁堡大学信息学院);Department of Mechanical and Aerospace Engineering, the Hong Kong University of Science and Technology(香港科技大学机械与航空航天工程系)
本文提出面向水下机器人的高性能强化学习平台MarineGym,通过GPU加速水动力插件、多种UUV模型与预定义任务及DR工具包,显著提升训练效率并支持鲁棒策略自适应与Sim2Real迁移。
2025-03-12 cs.LG cs.RO
A GPU-Parallel Framework for Heterogeneous Multi-Task Reinforcement Learning
NVIDIA;The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
提出一种将结构化操作任务族转化为GPU并行多任务强化学习基准的构建方法MT-LIBERO,并设计演示引导策略优化算法DGPO,结合重要性加权PPO与自适应行为克隆,实现异构任务套件的高效并行训练。
2026-10-07 cs.RO
Batched Differentiable Rigid Body Dynamics in PyTorch for GPU-Accelerated Robot Learning
University of Southampton(南安普顿大学)
提出BARD,一种基于PyTorch的批处理可微刚体动力学库,通过三级缓存、无矩阵乘法的关节变换和层级并行传播,在GPU上实现高达64倍的前向运动学加速,并支持梯度计算。
2026-05-29 cs.RO
Parallel $Q$-Learning: Scaling Off-policy Reinforcement Learning under Massively Parallel Simulation
Massachusetts Institute of Technology(麻省理工学院)
针对离策略强化学习难扩展、墙钟训练时间长的问题,提出专为单工作站大规模GPU仿真设计的并行$Q$-学习方案,通过并行化数据采集与学习过程,在保持样本效率的同时超越PPO的训练速度,可扩展至数万个并行环境。
2023-07-24 cs.AI cs.LG cs.RO
Foresight Residual RL for Long-Horizon Robot Manipulation with Vision-Language-Action Models
Department of Computer Science, Rutgers University(罗格斯大学计算机科学系)
研究针对长时机器人操作中VLA策略的不足,提出前瞻性残差强化学习,通过离线估计前瞻性值优化交接质量,在螺母拧紧装配任务中,该方法全任务成功率高,优于标准方法和基线,强调塑造子任务成功状态对提升长时性能的重要性。
2026-07-21 cs.LG cs.RO
DeXtreme: Transfer of Agile In-hand Manipulation from Simulation to Reality
NVIDIA(英伟达);Snap;University of Toronto(多伦多大学);University of Southern California(南加州大学)
本文提出一种基于深度强化学习的鲁棒灵巧操作策略和姿态估计器,通过仿真到现实迁移,使拟人化机器人手在视觉引导下实现敏捷操作,性能优于现有视觉策略。
2024-01-02 cs.LG cs.RO
Aerial Gym Simulator: A Framework for Highly Parallelized Simulation of Aerial Robots
Norwegian University of Science and Technology(挪威科技大学)
本文提出基于NVIDIA Isaac Gym的高度并行化、模块化仿真框架Aerial Gym Simulator,支持多种驱动类型多旋翼仿真与GPU加速渲染,提供强化学习导航等任务示例,并验证了训练策略的sim2real迁移效果。
2025-03-03 cs.RO
Enhancing Control Policy Smoothness by Aligning Actions with Predictions from Preceding States
本文提出ASAP方法,通过与前一状态预测对齐来增强控制策略的平滑性,有效抑制动作振荡并提升策略性能。
2026-01-26 cs.LG
POPGym: Benchmarking Partially Observable Reinforcement Learning
强化学习(RL)的现实应用通常是部分可观察的,因此需要记忆。尽管如此,部分可观察性仍然在很大程度上被当代RL基准和库所忽视。我们介绍了部分可观察过程Gym(POPGym),这是一个由两部分组成的库,包含(1)15个部分可观察环境的不同集合,每个环境都有多个困难,以及(2)13个内存模型基线的实现-在单个RL库中最多。现有的部分可观察基准往往专注于3D视觉导航,这是计算昂贵,只有一种类型的POMDP。相比之下,POPGym环境是多样化的,产生更小的观察结果,使用更少的内存,并且通常在消费级GPU上训练两小时内收敛。我们在流行的RLlib框架之上实现了高级内存API和内存基线,为各种训练算法、探索策略和分布式训练范式提供了即插即用的兼容性。使用POPGym,我们执行了迄今为止最大的RL内存模型比较。POPGym可在https://github.com/proroklab/popgym上获得。
2023-03-03 cs.AI cs.LG cs.RO
Tiny Reinforcement Learning for Quadruped Locomotion using Decision Transformers
Harvard University(哈佛大学)
本文提出用决策变换器结合专家演示与自定义奖励进行模仿学习,并通过量化和剪枝压缩模型,使四足机器人Bittle在资源受限平台上实现自然步态且模型体积减少约30%。
2024-02-20 cs.AI cs.LG cs.RO
Benchmarking Massively Parallelized Multi-Task Reinforcement Learning for Robotics Tasks
针对现有多任务强化学习研究多局限于低并行离策略方法的问题,提出基于IsaacGym的开源基准MTBench,含70项机器人任务与多种算法框架,验证了其评估效率并揭示了相关挑战。
2025-08-01 cs.RO
Population-Coded Spiking Neural Networks for High-Dimensional Robotic Control
Center for Data Science(数据科学中心)
本文提出结合群体编码脉冲神经网络(PopSAN)与深度强化学习的框架,通过将高维观测编码为神经元群体活动,在保持控制性能的同时实现高达96.10%的能耗节省,为资源受限的机器人系统提供了高效节能的高维控制解决方案。
2025-10-12 cs.AI cs.LG cs.RO
FastTD3: Simple, Fast, and Capable Reinforcement Learning for Humanoid Control
University of California, Berkeley(加州大学伯克利分校);University of Warsaw(华沙大学)
FastTD3是一种简单、快速且强大的RL算法,通过并行模拟、大批量更新、分布式评论家和精心调整的超参数,显著加快人形机器人在流行套件中的训练速度,并在单张A100 GPU上3小时内稳定解决多项HumanoidBench任务。
2025-06-01 cs.AI cs.LG cs.RO
MuJoCo-Drones-Gym: A GPU-Accelerated Multi-Drone Simulator for Control and Reinforcement Learning
TAU-Intelligence
提出基于MuJoCo物理引擎的GPU加速多无人机模拟器MuJoCo-Drones-Gym,支持任意数量Crazyflie 2.x纳米四旋翼,提供模块化物理模型、动作接口和观测空间,集成PettingZoo多智能体强化学习,涵盖悬停、速度跟踪等七种任务环境。
2026-06-06 cs.RO
Robust Policy Optimization in Deep Reinforcement Learning
Purdue University(普渡大学)
策略梯度方法具有目标简单的优点,即代理直接优化累积奖励。此外,在连续动作域中,动作分布的参数化分布允许容易地控制探索,这是由于表示分布的方差。在强化学习中,熵可以通过随机策略的选择在策略优化中发挥重要作用,从而更好地探索环境。然而,随着训练的进行,随机性通常会降低;因此,该策略变得不那么具有探索性。此外,某些参数分布可能仅适用于某些环境,并且需要大量的超参数调整。本文旨在缓解这些问题。特别是,我们提出了一种算法称为鲁棒策略优化(RPO),它利用扰动分布。我们假设我们的方法鼓励高熵的动作,并提供了一种更好地表示动作空间的方法。我们进一步提供经验证据来验证我们的假设。我们在DeepMind Control、OpenAI Gym、Pybullet和IsaacGym的各种连续控制任务上评估了我们的方法。我们观察到,在许多设置中,RPO在训练早期增加了策略熵,然后在整个训练期间保持一定的熵水平。最终,我们的代理RPO与PPO和其他技术(熵正则化、不同分布和数据增强)相比,表现出持续改进的性能。此外,在一些设置中,我们的方法在性能上保持稳健,而其他基线机制未能提高甚至恶化性能。
2022-12-14 cs.AI cs.LG
SwiftRL: Towards Efficient Reinforcement Learning on Real Processing-In-Memory Systems
George Washington University(乔治·华盛顿大学);ETH Zürich(苏黎世联邦理工学院)
本文提出SwiftRL,利用UPMEM存内处理硬件实现并优化Tabular Q-learning与SARSA,在OpenAI GYM环境中获得近线性扩展且性能优于CPU和GPU。
2024-05-07 cs.AI cs.AR cs.LG
OmniDrones: An Efficient and Flexible Platform for Reinforcement Learning in Drone Control
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海期智研究院)
本研究推出基于Omniverse Isaac Sim的开源无人机强化学习仿真平台OmniDrones,采用自底向上设计与GPU并行仿真,提供多类无人机模型、传感器、控制模式、基准任务及RL基线,助力无人机强化学习落地研究。
2023-09-22 cs.AI cs.LG cs.RO
Demonstrating Arena 5.0: A Photorealistic ROS2 Simulation Framework for Developing and Benchmarking Social Navigation
Technical University Berlin (TUB)(柏林工业大学);National University of Singapore (NUS)(新加坡国立大学);Technical University Munich (TUM)(慕尼黑工业大学)
本文介绍开源的 Arena 5.0 框架,该框架集成 NVIDIA Isaac Gym 实现 photorealistic 仿真,通过基准测试和用户研究验证其在社会导航开发与基准测试中较旧版本可用性、效率显著提升。
2026-10-09 cs.RO
Going into Orbit: Massively Parallelizing Episodic Reinforcement Learning
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
本文利用 NVIDIA Orbit 并行化情景强化学习,实现并基准测试箱子推动任务,证明其相较 CPU 方案可在相同时间内生成更多样本。
2024-05-19 cs.RO
Autonomous Reinforcement Learning Robot Control with Intel's Loihi 2 Neuromorphic Hardware
U.S. Naval Research Laboratory Naval(美国海军研究实验室);Intel Labs(英特尔实验室)
本文提出将强化学习策略转换为神经形态硬件的端到端流程,用于实现低功耗的机器人控制。
2025-12-03 cs.AI cs.LG cs.RO
IsaacIPC: Coupling High-Fidelity Simulation and Realistic Rendering for Contact-Rich Robotic Systems
Anker Humanoid Lab(安ker人形实验室);The University of Hong Kong(香港大学)
提出IsaacIPC框架,通过耦合GPU加速增量势接触(IPC)与IsaacSim/Lab,实现仿真与视觉网格间的变形映射,并引入几何砂浆接触势(GMCP)改善触觉传感中的接触压力分布,支持刚柔耦合机器人仿真。
2026-05-23 cs.RO
GenPO: Generative Diffusion Models Meet On-Policy Reinforcement Learning
ShanghaiTech University(上海科技大学);University of Electronic Science and Technology of China(电子科技大学);Shanghai Jiao Tong University(上海交通大学);University College London(伦敦大学学院);MoE Key Laboratory of Intelligent Perception and Human Machine Collaboration(智能感知与人机协同联合实验室)
GenPO通过生成扩散模型与在线强化学习结合,解决了扩散策略在计算状态-动作对数似然中的挑战,实现了高效的可逆动作映射和熵正则化,提升了机器人任务的训练效果。
2026-01-22 cs.LG
EVIS: Real-Time Event Camera Simulation with Multimodal Supervision in NVIDIA Isaac Sim
Johns Hopkins University(约翰霍普金斯大学)
研究针对事件相机数据收集难题,提出基于物理的EVIS插件用于NVIDIA Isaac Sim,能在模拟器内生成带标签事件流,通过特定模型和可配置设置实现实时单GPU生成,其流可供预训练网络用于下游任务。
2026-09-14 cs.CV cs.RO
EsaacSim: A Multimodal Event Camera Add-on for NVIDIA Isaac Sim
Leibniz Universität Hannover(莱布尼茨汉诺威大学);L3S Research Center(L3S研究中心);University of Southern Denmark(南丹麦大学);University of Chile(智利大学)
本文提出适用于NVIDIA Isaac Sim的多模态事件相机附加组件EsaacSim,可实现多模态事件相机在线仿真,在多种分辨率下具备高效性能,支持机器人研究的多模态仿真与合成数据生成。
2026-08-12 cs.RO
SceneFactory: GPU-Accelerated Multi-Agent Driving Simulation with Physics-Based Vehicle Dynamics
Rochester Institute of Technology(罗切斯特理工学院);City University of Hong Kong(香港城市大学)
SceneFactory通过GPU向量化技术实现高吞吐量的多智能体驾驶仿真,结合物理驱动车辆动力学与强化学习,展示可扩展的自动驾驶训练无需牺牲物理真实性。
2026-05-08 cs.MA cs.RO
NavIsaacLab: Generating Realistic Crowd via Parallel Robot Learning for Benchmarking Human-aware Navigation
Southern University of Science and Technology(南方科技大学);National University of Singapore(新加坡国立大学);Peng Cheng Laboratory(鹏城实验室);Jiaxing Research Institute, Southern University of Science and Technology(南方科技大学嘉兴研究院)
提出NavIsaacLab框架,利用基于物理和照片级真实感的仿真,结合轨迹扩散模型和对抗运动学习控制器生成逼真人群,用于训练和评估人感知导航策略。
2026-06-26 cs.RO
Granular Gym: High Performance Simulation for Robotic Tasks with Granular Materials
University of Southern California(南加州大学);Jet Propulsion Lab(喷气推进实验室)
针对颗粒材料机器人任务仿真昂贵的问题,本文提出基于GPU的Granular Gym,利用隐式时间步进、并行碰撞检测和SIMT优化实现可支持强化学习训练的快速仿真并开源。
2023-06-02 cs.RO
Orbit: A Unified Simulation Framework for Interactive Robot Learning Environments
ETH Zurich(苏黎世联邦理工学院);NVIDIA(英伟达);University of Toronto(多伦多大学)
本文提出了由NVIDIA Isaac Sim驱动的统一模块化机器人学习框架Orbit,提供高保真仿真环境、多样基准任务及机器人平台,支持快速强化学习训练与数据收集,旨在促进多领域跨学科研究。
2024-02-16 cs.AI cs.RO
A High-Throughput Compute-Efficient POMDP Hide-And-Seek-Engine (HASE) for Multi-Agent Operations
本文提出一种高效的Dec-POMDP引擎,通过C++架构和优化技术实现高吞吐量,验证了其在多智能体协作策略训练中的性能和通用性。
2026-04-29 cs.LG cs.MA cs.PF
Towards Building AI-CPS with NVIDIA Isaac Sim: An Industrial Benchmark and Case Study for Robotics Manipulation
University of Alberta(阿尔伯塔大学);The University of Tokyo(东京大学);NVIDIA AI Tech Centre(英伟达人工智能技术中心)
本文提出基于NVIDIA Isaac Sim的机器人操作工业基准,涵盖八个任务和多个AI控制器,并开发兼容物理仿真器与OpenAI Gym的证伪框架,为AI赋能机器人系统的可靠设计与评估提供基础。
2023-07-31 cs.RO cs.SE
Integration of the TIAGo Robot into Isaac Sim with Mecanum Drive Modeling and Learned S-Curve Velocity Profiles
Autonomous Intelligent Systems group of University of Bonn(波恩大学自主智能系统组);Department Robotics and Cognitive Systems, Fraunhofer Institute for Material Flow and Logistics(材料流与物流弗劳恩霍夫研究所机器人与认知系统部门)
本文首次将TIAGo++ Omni机器人集成到Isaac Sim,提出物理精确和轻量速度两种驱动模型,并通过学习校准近似S形速度轮廓,支持高效学习控制。
2025-10-14 cs.RO
AutoLLMResearch: Training Research Agents for Automating LLM Experiment Configuration - Learning from Cheap, Optimizing Expensive
University of Notre Dame(诺丁汉大学)
本文提出AutoLLMResearch框架,通过多保真度实验环境学习LLM配置原则,解决高成本实验自动化问题,展示其在大规模LLM实验中的有效性与通用性。
2026-05-17 cs.AI cs.CL cs.LG
Local object crop collision network for efficient simulation of non-convex objects in GPU-based simulators
KAIST(韩国科学技术院)
针对GPU模拟器中非凸物体接触检测速度与精度难以兼顾的问题,提出基于局部物体裁剪形状学习的数据驱动碰撞检测算法,在精度相当的情况下将效率提升5-10倍,集成到Brax后兼具优于IsaacGym的效率和优于标准Brax的通用性。
2023-06-10 cs.AI cs.RO
RANS: Highly-Parallelised Simulator for Reinforcement Learning based Autonomous Navigating Spacecrafts
University of Luxembourg(卢森堡大学);SnT(安全、可靠性与信任跨学科中心)
该研究提出RANS,一个基于NVIDIA Isaac Gym的开源高度并行化仿真库,用于强化学习训练数千个航天器,实现位置、姿态和速度控制等机动任务,以支持着陆、对接等复杂空间场景的验证。
2023-10-11 cs.RO
Demo: Closed-Loop Sionna-Isaac Sim Co-Simulation Framework for Wireless-Aware Robot Navigation over ROS 2
Singapore University of Technology and Design(新加坡科技设计大学)
提出一个基于ROS 2的实时闭环联合仿真框架,耦合Isaac Sim与Sionna,实现无线感知导航,在SUTD校园孪生环境中验证,仅增加7.4%通行时间即消除通信中断。
2026-10-07 cs.NI cs.RO
IcFuzz: Fuzzing Isaac Sim with Semantic Stage Guidance and Multi-level Mutation
Sun Yat-sen University(中山大学);Nanyang Technological University(南洋理工大学);Chinese University of Hong Kong(香港中文大学)
本文提出首个针对Isaac Sim的模糊测试方法IcFuzz,通过LLM语义阶段分割、多级变异算子与多臂老虎机算法提升测试效果,在代码覆盖率与漏洞检测上优于基线,已发现11个漏洞且9个被确认修复。
2026-08-07 cs.RO cs.SE
DexPBT: Scaling up Dexterous Manipulation for Hand-Arm Systems with Population Based Training
本文提出DexPBT算法,利用去中心化基于种群的训练(PBT)大规模放大深度强化学习的探索能力,使模拟单臂或双臂多指手机器人能学习重新抓取、抓取并投掷等极具挑战性的灵巧操作任务,显著优于常规端到端学习并能发现鲁棒控制策略。
2023-05-20 cs.AI cs.RO
FLASH: Fast Learning via GPU-Accelerated Simulation for High-Fidelity Deformable Manipulation in Minutes
NUS Human-Centered Robotic Lab(国立新加坡大学人本机器人实验室);ETH(苏黎世联邦理工学院);ShanghaiTech University(上海科技大学);Independent Researcher(独立研究者);Gradient
FLASH通过GPU加速模拟实现高效变形操纵,利用NCP求解器在单个RTX 5090上支持30 FPS处理300万自由度,基于合成数据训练的策略实现零样本仿真到现实转移。
2026-04-19 cs.RO
FGGS-LiDAR: Ultra-Fast, GPU-Accelerated Simulation from General 3DGS Models to LiDAR
Tsinghua University, Shenzhen, China(清华大学深圳研究院);Department of Electronic Engineering, Tsinghua University(清华大学电子工程系);DISCOVER Robotics;Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));The Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR))
提出FGGS-LiDAR框架,通过体积离散化和TSDF提取将预训练3DGS资产转换为水密网格,结合GPU加速光线投射实现超500 FPS的LiDAR仿真,在并行设置中比Isaac Sim低一个数量级延迟。
2026-08-05 cs.RO
Fully Spiking Actor-Critic Neural Network for Robotic Manipulation
School of Astronautics(航天学院);Harbin Institute of Technology(哈尔滨工业大学)
本文提出基于全脉冲神经网络的混合课程强化学习框架,结合PPO算法、动态奖励调整与能耗建模,用于9自由度机械臂抓取任务,在Isaac Gym中验证了其优于传统ANN的能效与性能。
2025-08-16 cs.RO
Learning to Singulate Objects in Packed Environments using a Dexterous Hand
University of Southern California(南加州大学)
本文提出SOPE框架,通过位移状态表示和多阶段强化学习,使用16自由度Allegro Hand在拥挤环境中分离物体,并在250次真实试验中取得79.2%成功率。
2024-10-15 cs.RO
Benchmarking Population-Based Reinforcement Learning across Robotic Tasks with GPU-Accelerated Simulation
Dalle Molle Institute for Artificial Intelligence, IDSIA USI-SUPSI(达摩克利斯人工智能研究所,IDSIA USI-SUPSI);NVIDIA Corporation(NVIDIA公司);University of Salerno(萨勒诺大学);Stanford University(斯坦福大学)
针对深度强化学习超参数敏感、训练成本高的问题,本研究结合PBRL与GPU加速仿真,在四类机器人任务上验证其性能优于主流基线算法,首次实现PBRL智能体的仿真到现实部署。
2025-11-18 cs.RO
DexGraspNet: A Large-Scale Robotic Dexterous Grasp Dataset for General Objects Based on Simulation
Peking University(北京大学);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院);Tsinghua University(清华大学)
机器人灵巧抓取是实现类人灵巧物体操作的第一步,是机器人的关键技术。然而,灵巧抓取比使用平行夹具的物体抓取更未被探索,部分原因是缺乏大规模数据集。在这项工作中,我们提出了一个大规模的机器人灵巧抓数据集,DexGraspNet,我们提出的高效的合成方法,可以普遍适用于任何灵巧的手产生。我们的方法利用了一个深度加速的可微力闭合估计器,因此可以有效地和鲁棒地合成大规模的稳定和多样化的把握。我们选择ShadowHand并为5355个对象生成132万次抓握,覆盖超过133个对象类别,并为每个对象实例包含200多个不同的抓握,所有抓握都已通过Isaac Gym模拟器验证。与之前由GraspIt!生成的Liu等人的数据集相比,我们的数据集不仅有更多的对象和把握,而且有更高的多样性和质量。通过进行跨数据集实验,我们表明,在我们的数据集上训练几种灵巧抓取合成算法的效果明显优于在前一个数据集上训练。要访问我们的数据和代码,包括用于人类和Allegro抓握合成的代码,请访问我们的项目页面:https://pku-epic.github.io/DexGraspNet/。
2023-03-08 cs.CV cs.RO
GaussGym: An open-source real-to-sim framework for learning locomotion from pixels
UC Berkeley(伯克利大学);ETH Zurich(苏黎世联邦理工学院);Amazon FAR (Frontier AI & Robotics)(亚马逊前沿人工智能与机器人实验室)
GaussGym将3D高斯泼溅集成到IsaacGym等物理仿真器中,实现每秒超10万步的逼真渲染,提升仿真到现实机器人学习,并支持多种环境源,开源促进社区发展。
2025-10-17 cs.AI cs.GR cs.RO
Runtime Learning of Quadruped Robots in Wild Environments
Engineering Technology Division, Wayne State University(韦恩州立大学工程技术系);Department of Computer Science, University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校计算机科学系);School of Engineering and Design, Technical University of Munich(慕尼黑技术大学工程与设计学院);School of Electrical Engineering and Computer Science, Washington State University(华盛顿州立大学电气与计算机科学学院)
本文提出四足机器人运行时学习框架,通过高性能DRL学生与高保证物理模型教师交互学习,在野外环境中实现安全自适应运动。
2025-09-19 cs.RO
Sampling-based Model Predictive Control Leveraging Parallelizable Physics Simulations
TU Delft(代尔夫特理工大学)
提出一种利用GPU并行物理模拟器(IsaacGym)作为动力学模型的采样模型预测控制方法(MPPI),免去显式动力学建模,可解决导航、非抓取操作及全身控制等接触丰富任务。
2025-01-21 cs.RO
Scaling Vision-Language Reward Learning for Robot Manipulation in Parallel Simulation
KU Leuven(鲁汶大学)
提出RAPID系统,通过GPU并行回放、单请求偏好标注和自适应更新,在IsaacLab中实现机器人操作奖励学习8倍加速和95.5%API节省,成功率提升至98.7%。
2026-09-21 cs.RO