PEEK: Guiding and Minimal Image Representations for Zero-Shot Generalization of Robot Manipulation Policies
University of Washington(华盛顿大学);NVIDIA(NVIDIA公司);University of Southern California(南加州大学);Allen Institute for AI(人工智能研究所)
针对机器人操作策略泛化失败问题,提出PEEK方法,将高层推理卸载至VLMs并微调其生成末端执行器路径与任务掩码的中间表示,提升零样本泛化性能,如仿真训练3D策略真实世界性能提升41.4倍。
2025-09-22 cs.AI cs.LG cs.RO
SafeAPT: Safe Simulation-to-Real Robot Learning using Diverse Policies Learned in Simulation
Aalto University(阿尔托大学)
仿真到真实学习的框架,即在仿真中学习策略并将这些策略转移到现实世界中,是机器人数据高效学习最有前途的方法之一。然而,由于仿真和真实世界之间不可避免的现实差距,在仿真中学习的策略可能并不总是在真实机器人上生成安全行为。因此,在现实世界中的策略的适应期间,机器人可能会损坏自身或对其周围环境造成伤害。在这项工作中,我们引入了一种新的学习算法称为SafeAPT,利用不同的剧目的政策演变的模拟和转移最有前途的安全政策,真正的机器人通过情节互动。为了实现这一点,SafeAPT迭代地学习概率奖励模型以及使用现实世界的观察与模拟经验相结合作为先验的安全模型。然后,它使用奖励模型对指令集执行贝叶斯优化,同时使用安全模型保持指定的安全约束。SafeAPT允许机器人安全地适应各种目标,并在模拟中使用相同的策略。我们比较了SafeAPT与几个基线,无论是在模拟和真实的机器人实验,并表明SafeAPT发现高性能的政策在几分钟内在现实世界中,同时最大限度地减少安全违规的互动过程中。
2022-01-27 cs.AI cs.LG cs.NE
AutoEval: Autonomous Evaluation of Generalist Robot Manipulation Policies in the Real World
UC Berkeley(加州大学伯克利分校);NVIDIA(英伟达公司)
针对真实世界机器人策略评估成本高、难以规模化的问题,提出 AutoEval 系统,通过自动成功检测与场景重置实现全天候自主评估,结果与人工评估高度一致,并公开了多个测试场景。
2025-04-02 cs.AI cs.RO
ExAug: Robot-Conditioned Navigation Policies via Geometric Experience Augmentation
UC Berkeley(加州大学伯克利分校);Toyota Motor North America(丰田汽车北美公司)
机器学习技术依赖于大型且多样化的数据集进行泛化。计算机视觉、自然语言处理和其他应用程序通常可以重用公共数据集来训练许多不同的模型。然而,由于物理配置的差异,利用公共数据集在新的机器人平台或新的任务上训练机器人控制策略是具有挑战性的。在这项工作中,我们提出了一个新的框架,ExAug,以增强不同环境中多个数据集的不同机器人平台的经验。ExAug利用了一个简单的原则:通过以点云的形式提取3D信息,我们可以创建更复杂和结构化的增强,利用生成合成图像和几何感知惩罚,这将适用于不同机器人的相同情况,具有不同的大小,转弯半径和摄像头放置。在两个新的机器人平台上,三个不同的摄像头在室内和室外环境中的障碍物的训练政策进行评估。
2022-10-14 cs.AI cs.CV cs.LG
Distilling Motion Planner Augmented Policies into Visual Control Policies for Robot Manipulation
University of Southern California(南加州大学)
在现实的,有障碍的环境中学习复杂的操作任务是一个具有挑战性的问题,由于困难的探索存在的障碍和高维视觉观察。先前的工作通过整合运动规划和强化学习来解决探索问题。然而,运动规划器增强策略需要访问状态信息,这在现实世界的设置中通常是不可用的。为此,我们建议通过以下方式将基于状态的运动规划器增强策略提取为视觉控制策略:(1)视觉行为克隆,以去除运动规划器依赖性及其抖动运动,以及(2)基于视觉的强化学习,并在行为克隆代理的平滑轨迹的指导下。我们评估我们的方法在三个操作任务在障碍环境中,并比较它与各种强化学习和模仿学习基线。结果表明,我们的框架是高度采样效率和优于国家的最先进的算法。此外,再加上域随机化,我们的政策是能够zero-shot转移到看不见的环境设置与干扰。代码和视频可在https://clvrai.com/mopa-pd上获得
2021-11-11 cs.AI cs.LG cs.RO
P3-PO: Prescriptive Point Priors for Visuo-Spatial Generalization of Robot Policies
University of Maryland(马里兰大学);New York University(纽约大学)
针对机器人策略从视觉输入学习泛化性差的问题,提出P3-PO框架,通过人工标注语义点+视觉模型传播构建状态表示用于策略学习,在真实任务中显著提升分布外泛化性能。
2024-12-09 cs.AI cs.CV cs.LG
WorldEval: World Model as Real-World Robot Policies Evaluator
Midea Group(美的集团);East China Normal University(华东师范大学)
本文提出WorldEval,利用世界模型作为真实世界机器人策略的在线评估器,通过Policy2Vec将视频生成模型转为世界模拟器,实现策略排名与安全检测,并与真实环境性能强相关。
2025-05-25 cs.CV cs.LG cs.RO
DeepCPG Policies for Robot Locomotion
University of Cincinnati(辛辛那提大学)
中枢模式发生器(CPG)形成了在有腿动物中观察到的运动节律行为的神经基础。组织成网络的CPG动力学允许复杂运动行为的出现。在这项工作中,我们采取这种启发多足式机器人的步行行为的发展。我们提出了新的DeepCPG策略,将CPG作为一个层嵌入到更大的神经网络中,并促进深度强化学习(DRL)设置中运动行为的端到端学习。我们证明了这种方法对基于物理引擎的昆虫机器人的有效性。我们表明,与传统方法相比,即使在高维传感器空间(视觉)的情况下,DeepCPG策略也允许有效运动策略的样本高效端到端学习。我们使用模块化机器人配置和多代理DRL扩展DeepCPG策略。我们的研究结果表明,逐步复杂化与嵌入式先验的这些政策在一个模块化的方式可以实现非平凡的传感器和电机集成的机器人平台上。这些结果也表明了从基于生物学原理的简单智能系统中引导更复杂的智能系统的有效性。最后,我们给出了一个概念验证的昆虫类机器人系统的实验结果,DeepCPG最初使用模拟引擎学习策略,然后将这些策略转移到现实世界的机器人中,而无需进行任何额外的微调。
2023-02-25 cs.AI cs.LG cs.NE
Learning to Execute: Efficient Learning of Universal Plan-Conditioned Policies in Robotics
TU Berlin(柏林工业大学);University of Stuttgart(斯图加特大学)
强化学习(RL)在机器人领域的应用常常受到高数据需求的限制。另一方面,近似模型在许多机器人场景中很容易获得,使得基于模型的方法(如规划)成为一种数据高效的替代方案。尽管如此,如果模型不精确或错误,这些方法的性能就会受到影响。从这个意义上说,RL和基于模型的计划器各自的优点和缺点是。在目前的工作中,我们研究如何将这两种方法整合到一个框架中,结合他们的优势。我们引入学习执行(L2E),它利用包含在近似计划中的信息来学习以计划为条件的通用策略。在我们的机器人操作实验中,与纯RL,纯规划或结合学习和规划的基线方法相比,L2E表现出更高的性能。
2021-11-15 cs.AI cs.RO
What Matters When Cotraining Robot Manipulation Policies on Everyday Human Videos?
Massachusetts Institute of Technology(麻省理工学院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Harvard University(哈佛大学)
研究利用日常互联网视频协同训练机器人操作策略时,手部姿态质量和运动差距对迁移的影响,提出一种协同训练方法,在低机器人数据场景下六个操作任务中绝对成功率提升29.7%。
2026-06-04 cs.AI cs.CV cs.LG
Learning of Coordination Policies for Robotic Swarms
University of Toronto(多伦多大学)
受生物群的启发,机器人群被设想用来解决单个代理难以解决的现实问题。生物群体可以基于局部交互和简单规则实现集体智能;然而,为大规模机器人群体设计有效的分布式策略以实现全球目标可能具有挑战性。虽然通常可以为较少数量的代理设计最佳集中式策略,但随着代理数量的增加,这些方法可能会失败。受机器学习日益成功的推动,我们开发了一种深度学习方法,该方法从集中式策略中学习分布式协调策略。与传统的分布式控制方法相比,这种基于学习的方法可以适应更困难的任务,而传统的分布式控制方法通常是基于人类设计的策略来完成相对简单的任务。我们证明了我们所提出的方法在两个不同的任务,众所周知的交会问题和更困难的粒子分配问题的功效。对于后者,不存在已知的分布式策略。从广泛的模拟,它表明,学习的协调政策的性能是可比的集中式政策,超过国家的最先进的分布式政策。因此,我们提出的方法提供了一个有前途的替代现实世界的协调问题,否则将是计算昂贵的解决或无形的探索。
2017-09-19 cs.AI cs.LG cs.MA
DRAM: Delta-rule Recurrent Associative Memory for Robot Manipulation Policies
DRAM是一种即插即用的固定大小记忆模块,利用门控Delta规则线性注意力为预训练机器人策略提供长时程记忆,无需修改架构或重训骨干,实验证明其优于短上下文基线和替代记忆设计。
2026-09-30 cs.AI cs.RO
Learning of Robot Safety Policies via Adversarial Synthetic Scenarios
National Research Institute of Automation and Applied Mathematics(国家自动化与应用数学研究所)
提出一个基于对抗性游戏的框架,通过红蓝两队对抗生成危险场景并迭代优化安全策略,以高效发现高风险边缘案例。
2026-06-04 cs.AI cs.RO
Robust Visual Sim-to-Real Transfer for Robotic Manipulation
Inria(法国国家信息与自动化研究所);École normale supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学)
本文针对机器人操作中的视觉sim-to-real迁移问题,提出利用离线代理任务优化domain randomization参数,在仿真中训练视觉运动策略并直接迁移至真实机器人,在多样化任务上平均成功率达93%,优于使用有限真实数据训练的策略。
2023-07-28 cs.AI cs.CV cs.LG
FlowCorrect: Efficient Interactive Correction of Generative Flow Policies for Robotic Manipulation
Institute for Material Handling and Logistics (IFL), Karlsruhe Institute of Technology(物料处理与物流研究所,卡尔斯鲁厄技术大学)
FlowCorrect通过交互式模仿学习在部署时高效修正生成流策略,提升机器人操作的成功率与效率。
2026-08-31 cs.LG cs.RO
Endowing Robots with Longer-term Autonomy by Recovering from External Disturbances in Manipulation through Grounded Anomaly Classification and Recovery Policies
Guangdong University of Technology(广东工业大学)
机器人操作越来越倾向于与人类在共同共享的空间中进行交互。尽管越来越强大的操纵和控制算法,故障模式继续存在时,模型不捕捉非结构化环境的动态。为了获得机器人自动化的长期视野,机器人必须发展内省和恢复能力。我们贡献了一套恢复政策来处理外部干扰所产生的异常,以及异常分类,通过使用非参数统计与memoized变分推理与可扩展的适应。一个恢复评论家站在一个紧密集成的,基于图形的在线运动生成和内省系统,解决了广泛的异常情况。策略、技能和内省模型是在任务中根据上下文逐步学习的。两个任务级恢复策略:重新制定和适应分别解决意外和持续的异常。内省系统使用非参数先验以及马尔可夫跳跃线性系统和具有可扩展自适应的记忆变分推理来从数据中学习模型。广泛的真实机器人实验与各种艰苦的异常条件诱导和解决在不同阶段的任务,并在不同的组合。该系统执行全天候的内省和恢复,甚至引发自我恢复时发生的错误分类。
2018-09-11 cs.AI cs.RO
Learning Control Policies for Fall prevention and safety in bipedal locomotion
Stanford University(斯坦福大学);Georgia Institute of Technology(佐治亚理工学院)
从意外的外部干扰中恢复的能力是双足运动的基本运动技能。有效的应对措施不仅包括恢复平衡和保持稳定的能力,还包括在身体无法恢复平衡时以安全的方式摔倒的能力。对于与双足运动相关联的机器人,例如人形机器人和帮助人类行走的辅助机器人设备,设计能够提供这种稳定性和安全性的控制器可以防止对机器人的损坏或防止与伤害相关的医疗费用。这是一项具有挑战性的任务,因为它涉及到为具有接触的高维、非线性和欠驱动系统生成高度动态运动。尽管在使用基于模型的方法和优化方法方面取得了先前的进步,但诸如需要广泛的领域知识、相对较大的计算时间和对动态变化的有限鲁棒性等挑战仍然使其成为一个开放的问题。在这篇论文中,为了解决这些问题,我们开发了基于学习的算法,能够合成两种不同类型的机器人的推恢复控制策略:人形机器人和辅助机器人设备,协助双足运动。我们的工作可以分为两个密切相关的方向:1)学习安全跌倒和跌倒预防策略的人形机器人和2)学习跌倒预防策略的人类使用机器人辅助设备。为了实现这一目标,我们引入了一组深度强化学习(DRL)算法来学习控制策略,从而在使用这些机器人时提高安全性。
2022-01-04 cs.AI cs.RO
Composable Deep Reinforcement Learning for Robotic Manipulation
Berkeley Artificial Intelligence Research, UC Berkeley(加州大学伯克利分校伯克利人工智能研究中心);Open AI(OpenAI)
无模型深度强化学习已被证明在从视频游戏到模拟机器人操作和运动的领域中表现出良好的性能。然而,当与环境的交互时间有限时,无模型方法的性能很差,就像大多数真实世界的机器人任务一样。在本文中,我们研究了如何使用软Q学习训练的最大熵策略可以应用于现实世界的机器人操作。软Q学习的两个重要特征促进了这种方法在现实世界中的应用。首先,软Q学习可以通过学习由基于表达能量的模型表示的策略来学习多模态探索策略。其次,我们证明了使用软Q学习学习的策略可以组合以创建新的策略,并且所得到的策略的最优性可以根据组合策略之间的分歧而定。这种组合性为现实世界的操作提供了一个特别有价值的工具,通过组合现有技能来构建新策略可以在从头开始训练的效率上获得很大的提高。我们的实验评估表明,软Q学习比以前的无模型深度强化学习方法具有更高的样本效率,并且可以对模拟和现实任务进行组合。
2018-03-19 cs.AI cs.LG cs.RO
Micro Neural Policies for Safe Real-Time Robotic Control
Sapienza University of Rome(罗马大学);Technical University of Munich(慕尼黑工业大学)
本文提出微型神经策略,通过进化策略与统计模型检验集成,实现安全实时控制,并在微控制器上高效部署。
2026-10-07 cs.AI cs.RO
Beyond Sight: Finetuning Generalist Robot Policies with Heterogeneous Sensors via Language Grounding
Berkeley AI Research (BAIR)(伯克利人工智能研究院(BAIR));UC Berkeley(加州大学伯克利分校)
针对通用机器人策略仅依赖视觉和本体感觉的局限,提出FuSe方法,以自然语言为跨模态接地,结合多模态对比损失与语言生成损失,微调异构传感器下的策略,零样本完成多模态推理任务,真实实验成功率较基线提升超20%。
2025-01-14 cs.AI cs.RO
MonoDuo: Using One Robot Arm to Learn Bimanual Policies
University of California, Berkeley(加州大学伯克利分校)
提出MonoDuo框架,利用单臂机器人演示和人类协作数据,通过数据增强生成合成演示,训练双臂机器人策略,在五项任务中实现零样本部署和少样本微调,成功率高达70%。
2026-05-28 cs.RO
Modularity through Attention: Efficient Training and Transfer of Language-Conditioned Policies for Robot Manipulation
Arizona State University(亚利桑那州立大学);Intel AI(英特尔人工智能研究院);Carnegie Mellon University(卡内基梅隆大学)
机器人有条件的策略允许机器人解释和执行人类指令。学习这些策略需要在时间和计算资源方面进行大量投资。尽管如此,所得到的控制器是高度特定于设备的,并且不能容易地转移到具有不同形态、能力、外观或动力学的机器人。在本文中,我们提出了一种样本有效的方法来训练语言条件的操作策略,允许在不同类型的机器人之间快速传输。通过引入一种新的方法,即分层模块化,并在多个子模块之间采用监督注意力,我们弥合了模块化和端到端学习之间的鸿沟,并实现了功能构建块的重用。在模拟和真实世界的机器人操作实验中,我们证明了我们的方法优于当前最先进的方法,并且可以以样本高效的方式在4个不同的机器人之间传输策略。最后,我们证明了学习的子模块的功能在训练过程之外得到了维护,并且可以用于反思机器人决策过程。代码可在https://github.com/ir-lab/ModAttn上获得。
2022-12-08 cs.RO
OnEvoMemory: Evolving Memory through Online Robot Rollouts for Pretrained Robot Policies
Shanghai Jiao Tong University(上海交通大学);Tsinghua University(清华大学)
针对现有机器人记忆机制依赖外部模型的问题,提出OnEvoMemory价值引导记忆模块,结合离线初始化与在线试跑优化记忆选择,提升了基础VLA策略在长时程机器人操作中的性能。
2026-08-11 cs.RO
TraceVLA: Visual Trace Prompting Enhances Spatial-Temporal Awareness for Generalist Robotic Policies
University of Maryland, College Park(马里兰大学 College Park 分校);Microsoft Research(微软研究院);Capital One
本文提出视觉轨迹提示方法,通过在15万条操作轨迹数据集上微调OpenVLA得到TraceVLA模型,显著提升机器人策略的时空感知能力,在仿真和真实机器人任务中均优于基线并具备良好泛化性。
2025-06-05 cs.AI cs.RO
DexWild: Dexterous Human Interactions for In-the-Wild Robot Policies
Carnegie Mellon University(卡内基梅隆大学)
本文提出DexWild框架,通过结合人类和机器人示范数据,提升机器人在多样化环境中的泛化能力,实验表明其在未见环境中的成功率显著高于传统方法。
2026-05-17 cs.AI cs.CV cs.LG
Evaluating Real-World Robot Manipulation Policies in Simulation
UC San Diego(加利福尼亚大学圣地亚哥分校);Stanford University(斯坦福大学);UC Berkeley(加利福尼亚大学伯克利分校);Google Deepmind(谷歌DeepMind)
该研究针对真实机器人操作策略评估难扩展、难复现的问题,提出缩小仿真与真实间控制及视觉差异的方法,并构建 SIMPLER 仿真环境集合,实现与真实表现高度相关的策略评估。
2024-05-09 cs.CV cs.LG cs.RO
InfiNoVA: Infinite Novel View Augmentation for Viewpoint Invariant Robot Policies
Montanuniversität Leoben(莱奥本矿业大学)
InfiNoVA通过将多相机演示重建为三维高斯表示并渲染密集新视角,增强机器人策略的视点不变性,在未见视角下成功率提升5.4倍。
2026-09-24 cs.AI cs.RO
ActProbe: Action-Space Probe for Early Failure Detection of Generative Robot Policies
Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR));University of Electronic Science and Technology of China(电子科技大学);Nanjing University(南京大学)
提出ActProbe,一种轻量级纯动作空间故障检测器,利用时间一致性误差和动作块幅度两个信号,通过LSTM-MLP架构预测故障,在多种生成式策略上提升F1-时效性帕累托前沿平均超体积增益+12.7%,并加速强化学习微调。
2026-06-07 cs.AI cs.RO
LaWAM: Latent World Action Models for Efficient Dynamics-Aware Robot Policies
Tsinghua University(清华大学);Jilin University(吉林大学);Nankai University(南开大学);Peking University(北京大学);Harbin Institute of Technology(哈尔滨工业大学);Zhongguancun Academy(中关村学院);Striding.AI;Infinigence AI
提出LaWAM模型,通过潜在视觉子目标预测场景变化,实现动力学感知的机器人控制,在多个基准上达到最优或竞争性成功率,且推理延迟低。
2026-10-30 cs.AI cs.CV cs.RO
PriGo: Test-Time Primitive Guidance to Diffusion and Flow Policies for Adaptive Robotic Manipulation
École Centrale de Lyon(里昂中央理工学院);Beihang University(北京航空航天大学)
针对机器人操作中现有策略泛化性不足问题,提出PriGo框架,引入PANet模块及可微原语引导机制,能在测试时无缝集成到预训练策略,实验证明其提升了扩散和流策略的鲁棒性、执行及泛化能力。
2026-07-09 cs.RO
EDITH: Teaching Robot to Follow Nonverbal Human Intent from Egocentric Vision and Gaze
KAIST(韩国科学技术院);Seoul National University(首尔国立大学)
提出EDITH框架,通过智能眼镜捕捉人类第一人称视角、注视和语言信号,设计分层策略将非语言信号与语言指令结合,实现更自然的人机交互,减少用户表达意图的负担。
2026-10-20 cs.AI cs.RO
DASIP: Dynamic Test-Time Compute Scaling for Robot Control with Stochastic Interpolant Policies
New York University(纽约大学);University of Maryland(马里兰大学);Harvard University(哈佛大学);Capital Fund Management(资本基金管理公司)
提出难度感知随机插值策略(DA-SIP),通过难度分类器动态调整推理步数、求解器和ODE/SDE积分,在保持任务成功率的同时将计算时间减少2.6-4.4倍。
2026-06-23 cs.AI cs.RO
Active Real-World Factor-Based Evaluation for Generalist Robot Policies
University of Minnesota Twin Cities(明尼苏达大学双城分校)
研究通用机器人策略评估难题,提出主动评估框架,将策略评估当作顺序实验设计问题,通过拟合概率替代模型、自适应选评估配置,高效表征策略行为并识别易失败区域,相比随机测试节省大量试验次数。
2026-07-17 cs.LG cs.RO
Simple Agentic Memory for Generalist Robot Policies
Carnegie Mellon University(卡内基梅隆大学);Tulane University(杜兰大学);New York University(纽约大学);Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
提出SimpleARM,一种免训练记忆层,通过监控、感知工具和结构化检索为冻结通用策略提供任务相关状态,在RoboMME基准上以67.17%成功率超越基线44.51%。
2026-09-30 cs.AI cs.RO
Shortcut Learning in Generalist Robot Policies: The Role of Dataset Diversity and Fragmentation
UESTC
本文揭示了通用机器人策略泛化能力受限的根源是捷径学习,指出数据集多样性不足与碎片化是主因,并证明数据增强策略能有效缓解该问题并提升策略泛化能力。
2025-08-08 cs.AI cs.CV cs.RO
Learning Diffusion Policies for Robotic Manipulation of Timber Joinery under Fabrication Uncertainty
Princeton University(普林斯顿大学);University of Michigan(密歇根大学)
本文研究了在建筑施工中使用扩散策略学习提升机器人装配的鲁棒性和精度,通过紧密契合的木构接合作为案例,证明扩散策略能通过接触感知控制补偿对齐误差。
2026-08-25 cs.RO
Instruction-driven history-aware policies for robotic manipulations
Inria(法国国家信息与自动化研究所);École normale supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学);IIIT Hyderabad(海得拉巴国际信息技术学院)
在人类环境中,机器人被期望完成各种简单的自然语言指令的操作任务。然而,机器人操作极具挑战性,因为它需要细粒度的运动控制、长期记忆以及对以前看不见的任务和环境的概括。为了应对这些挑战,我们提出了一个统一的变压器为基础的方法,考虑到多个输入。特别是,我们的Transformer架构集成了(i)自然语言指令和(ii)多视图场景观察,同时(iii)跟踪观察和动作的完整历史。这样的方法使得能够学习历史和指令之间的依赖性,并且使用多个视图来提高操纵精度。我们评估我们的方法具有挑战性的RLBench基准和现实世界的机器人。值得注意的是,我们的方法可扩展到74个不同的RLBench任务,并优于最先进的。我们还解决了预防条件的任务,并表现出出色的泛化到以前看不见的变化。
2022-12-17 cs.AI cs.CL cs.CV
X-Safe: Embodiment-Agnostic Safeguarding for Robot Arm Manipulation Policies via Action Masking
University of California, Berkeley(加州大学伯克利分校)
提出X-Safe方法,在机器人配置空间中直接推理,提供碰撞避免的形式化概率保证,无需额外数据或工程适配即可跨实体迁移。
2026-10-15 cs.LG cs.RO cs.SY
VisTacAlign: Co-Training Dexterous Policies on Tactile Human and Robot Demonstrations using Visual-Tactile Alignment
ETH Zurich(苏黎世联邦理工学院);Stanford University(斯坦福大学)
VisTacAlign通过对齐人类与机器人演示的视觉和触觉模态,共同训练灵巧策略,在精确力任务上优于仅机器人策略。
2026-10-14 cs.RO
Dexterous Point Policy: Learning Point-based Dexterous Hand Policies from Human Demonstrations
KAIST(韩国科学技术院)
提出Dexterous Point Policy框架,通过统一3D关键点表示从人类视频学习灵巧操作策略,无需机器人演示,在真实任务中达到75%成功率。
2026-06-09 cs.CV cs.LG cs.RO
Robots that Collaborate: Sequential Asymmetric Imitation for Learning Coupled Robot Policies
Zeno AI;University of Sydney(悉尼大学)
提出序列非对称模仿(SAI),通过单操作员课程学习耦合多机器人行为,无需同步双操作员演示或显式通信,在真实双机器人操作任务中提升成功率与相位同步。
2026-09-01 cs.RO
Augmented Reality for RObots (ARRO): Pointing Visuomotor Policies Towards Visual Robustness
Department of Computer Science and Artificial Intelligence, University of Technology Nuremberg(计算机科学与人工智能系,图恩堡技术大学)
ARRO通过实时视觉屏蔽和虚拟引导提升机器人操作的视觉鲁棒性,减少对额外数据的依赖,适用于多种桌面任务和真实环境。
2026-01-06 cs.RO
Towards Online Safety Corrections for Robotic Manipulation Policies
U.S. Naval Research Laboratory(美国海军研究实验室)
针对强化学习机器人控制器在执行时遇新障碍物易碰撞的安全问题,提出iKinQP-RL混合方法,用逆运动学二次规划控制器在线校正RL策略动作,实验证明其可在高任务成功率下完全消除新障碍物碰撞。
2024-09-12 cs.RO
Causal Reasoning in Simulation for Structure and Transfer Learning of Robot Manipulation Policies
Carnegie Mellon University(卡内基梅隆大学)
我们提出了CREST,在模拟因果推理的方法来学习相关的状态空间的机器人操作政策。我们的方法使用内部模型进行干预,这些模型是具有近似动态和简化假设的模拟。这些干预引出了状态和动作空间之间的结构,使得神经网络策略的构建仅以相关状态作为输入。这些策略使用内部模型进行预训练,并在相关状态上进行域随机化。然后将策略网络权重传递到目标域(例如,真实世界)进行微调。我们进行了广泛的政策转移实验模拟两个代表性的操作任务:块堆叠和板条箱打开。我们的政策被证明是更强大的域的变化,更有效的学习样本,并扩展到更复杂的设置与更大的状态空间。我们还显示了改进的zero-shot仿真到现实迁移我们的政策块堆叠任务。
2022-03-13 cs.RO
MotionTrans: Human VR Data Enable Motion-Level Learning for Robotic Manipulation Policies
Institute for Interdisciplinary Information Sciences(交叉信息学院);Shanghai Qi Zhi Institute(上海启智研究所);State Key Laboratory of Multimedia Information Processing School of Computer Science(多媒体信息处理国家重点实验室计算机科学学院);Shanghai Jiao Tong University(上海交通大学);Wuhan University(武汉大学)
本文提出MotionTrans框架,通过多任务人机协同训练将人类VR数据中的运动直接迁移到机器人策略,实现13个任务的运动级迁移(9个零样本成功),并揭示了协同训练与运动覆盖的关键作用。
2025-09-22 cs.RO
Practice Makes Policies: Bootstrapping and Consolidating Robotic Capabilities from Zero Human Demonstrations
本研究提出HERO自改进层级具身智能体,通过整合启发式推理等技术,实现机器人从零人类演示自主演进操作能力,减少数据收集人工干预并提升多样化任务操作稳健性。
2026-07-30 cs.RO
DiffusionRL: Efficient Training of Diffusion Policies for Robotic Grasping Using RL-Adapted Large-Scale Datasets
本文提出通过RL优化训练扩散策略,利用大规模预建数据集提升机器人灵巧抓取任务的性能,实现80%的成功率,降低数据收集成本,增强实际应用的泛化能力。
2026-03-15 cs.RO
STDArm: Transferring Visuomotor Policies From Static Data Training to Dynamic Robot Manipulation
University of Science and Technology of China(中国科学技术大学)
提出STDArm系统,通过包含动作管理器、轻量级预测网络稳定器和在线延迟估计模块的实时动作校正框架,将静态训练的视觉运动策略直接迁移至动态机器人平台,实现厘米级移动操作精度。
2025-04-26 cs.RO
LongBench: Evaluating Robotic Manipulation Policies on Real-World Long-Horizon Tasks
Fudan University(复旦大学)
LongBench通过1000多个真实任务评估长时域机械臂策略,区分全观测和依赖上下文的两种模式,揭示执行鲁棒性和上下文推理的重要性。
2026-04-18 cs.RO
BiRoDiff: Diffusion policies for bipedal robot locomotion on unseen terrains
Indian Institute of Science (IISc)(印度科学学院)
本文提出 BiRoDiff 轻量级扩散策略框架,用离线数据训练单一实时双足行走控制器,在 Stoch BiRo 仿真中实现多速度行为、未知地形泛化和高频控制生成。
2024-07-07 cs.AI cs.RO cs.SY
Agile Maneuvers in Legged Robots: a Predictive Control Approach
Heriot-Watt University(赫瑞-瓦特大学);University of Edinburgh(爱丁堡大学);University of Oxford(牛津大学);Dalian University of Technology(大连理工大学)
规划和执行敏捷的运动机动一直是腿式机器人技术的一个长期挑战。它需要实时地得到运动计划和局部反馈策略来处理动力学动量的非完整性。为了实现这一目标,我们提出了一个混合预测控制器,认为机器人的驱动限制和全身动态。它将反馈策略与触觉信息相结合,以局部预测未来的动作。由于可行性驱动的方法,它在几毫秒内收敛。我们的预测控制器使ANYmal机器人能够在现实场景中产生敏捷的机动。一个关键因素是跟踪局部反馈策略,因为与全身控制相比,它们实现了期望的角动量。据我们所知,我们的预测控制器是第一个处理驱动限制,生成敏捷的运动动作,并执行低水平扭矩控制的最佳反馈策略,而无需使用单独的全身控制器。
2022-07-18 cs.AI cs.RO cs.SY
Beyond Flat Policies: Hierarchical Post-Training for Embodied Agents in Robotic Manipulation
针对现有VLA模型扁平策略难以处理长时程操作的问题,提出HiRoC分层后训练框架,通过解耦规划与执行并对齐分布,在机器人操作基准上取得优于强基线的性能。
2026-08-07 cs.RO
StereoPolicy: Improving Robotic Manipulation Policies via Stereo Perception
Stanford University(斯坦福大学);Northwestern University(西北大学);Lambda, Inc(Lambda公司)
该研究提出StereoPolicy,一种利用立体视觉提升机器人操作策略的框架,通过同步立体图像对增强几何推理,无需构建显式3D表示,在多个仿真和真实机器人任务中优于RGB、RGB-D、点云等基线方法。
2026-09-29 cs.CV cs.RO
Learning Stable Robot Grasping with Transformer-based Tactile Control Policies
Italian Institute of Technology(意大利技术研究院);University of Genoa(热那亚大学);National University of Singapore(新加坡国立大学);Institute for Infocomm Research (IR), A*STAR(新加坡科技研究局信息通信研究所);King’s College London(伦敦国王学院)
本文提出改进版稳定抓取任务,针对重心未知且移动的物体,利用基于Transformer的端到端强化学习同时优化重新抓取位置和抓取力,并在仿真与真实环境中实现零样本迁移。
2024-07-30 cs.RO