Offline Policy Evaluation for Manipulation Policies via Discounted Liveness Formulation
University of Southern California(南加州大学);Stanford University(斯坦福大学)
本文提出基于存活Bellman算子的离线策略评估框架,解决稀疏奖励下任务完成问题,通过保守固定点值函数降低截断偏差,实验证明在折叠任务中优于传统基线方法。
2026-05-12 cs.AI cs.RO
Geometry-Aware Motion Latents for Learning Robust Manipulation Policies
Department of Computer Science, The University of Hong Kong(香港大学计算机科学系)
研究如何学习机器人操纵的运动潜变量,核心方法是通过预测点云在操纵过程中的演变来学习离散运动潜码,贡献是仅用单视图RGB-D输入达先进性能,验证几何预测是关键,且潜码有有效运动抽象能力。
2026-07-07 cs.AI cs.RO
Distilling Motion Planner Augmented Policies into Visual Control Policies for Robot Manipulation
University of Southern California(南加州大学)
在现实的,有障碍的环境中学习复杂的操作任务是一个具有挑战性的问题,由于困难的探索存在的障碍和高维视觉观察。先前的工作通过整合运动规划和强化学习来解决探索问题。然而,运动规划器增强策略需要访问状态信息,这在现实世界的设置中通常是不可用的。为此,我们建议通过以下方式将基于状态的运动规划器增强策略提取为视觉控制策略:(1)视觉行为克隆,以去除运动规划器依赖性及其抖动运动,以及(2)基于视觉的强化学习,并在行为克隆代理的平滑轨迹的指导下。我们评估我们的方法在三个操作任务在障碍环境中,并比较它与各种强化学习和模仿学习基线。结果表明,我们的框架是高度采样效率和优于国家的最先进的算法。此外,再加上域随机化,我们的政策是能够zero-shot转移到看不见的环境设置与干扰。代码和视频可在https://clvrai.com/mopa-pd上获得
2021-11-11 cs.AI cs.LG cs.RO
AutoEval: Autonomous Evaluation of Generalist Robot Manipulation Policies in the Real World
UC Berkeley(加州大学伯克利分校);NVIDIA(英伟达公司)
针对真实世界机器人策略评估成本高、难以规模化的问题,提出 AutoEval 系统,通过自动成功检测与场景重置实现全天候自主评估,结果与人工评估高度一致,并公开了多个测试场景。
2025-04-02 cs.AI cs.RO
Learning Sim-Grounded Policies for Bimanual Rope Manipulation from Human Teleoperation Data
Technical University of Darmstadt(德累斯顿技术大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Robotics Institute Germany (RIG)(德国机器人研究所);Centre for Cognitive Science(认知科学研究中心);Honda Research Institute Europe GmbH(本田欧洲研究院)
本文研究了基于视觉的策略在解结任务中泛化能力不足是否源于观察空间而非策略架构或数据规模,通过比较两种基于动作分块与变压器的策略,发现基于物理状态的策略在预测初始抓取和拉拽动作时L1误差降低了30.8%。
2026-05-15 cs.AI cs.RO
Tenma: Robust Cross-Embodiment Robot Manipulation with Diffusion Transformer
ZhiCheng AI(智成人工智能);Tsinghua University(清华大学);Peking University(北京大学)
提出轻量级扩散Transformer模型Tenma用于跨体型双臂机器人操作,通过跨体型归一化器和联合状态-时间编码器整合多模态数据,在中等数据规模下实现88.95%的分布内平均成功率及强泛化能力。
2025-09-15 cs.AI cs.RO
PEEK: Guiding and Minimal Image Representations for Zero-Shot Generalization of Robot Manipulation Policies
University of Washington(华盛顿大学);NVIDIA(NVIDIA公司);University of Southern California(南加州大学);Allen Institute for AI(人工智能研究所)
针对机器人操作策略泛化失败问题,提出PEEK方法,将高层推理卸载至VLMs并微调其生成末端执行器路径与任务掩码的中间表示,提升零样本泛化性能,如仿真训练3D策略真实世界性能提升41.4倍。
2025-09-22 cs.AI cs.LG cs.RO
MSG: Multi-Stream Generative Policies for Sample-Efficient Robotic Manipulation
University of Freiburg(弗莱堡大学)
本文提出MSG多流生成策略,通过结合多个对象中心策略提升泛化能力和样本效率,实现在五次演示下学习高质量生成策略,性能提升89%。
2026-03-31 cs.AI cs.LG cs.RO
NebulaVLA: A Dual-Frequency Vision-Language-Action Model With Guide Action for Robotic Manipulation
ZTE Corporation(中兴通讯股份有限公司)
NebulaVLA是一种异步双频VLA模型,通过解耦语义推理与动作控制、引入GESTURE-7表示及引导动作算法,在LIBERO-Plus上以85.5%成功率、约2.7倍速度优于同步基线,实现高效机器人操纵控制。
2026-08-18 cs.AI cs.RO
RMBench: Memory-Dependent Robotic Manipulation Benchmark with Insights into Policy Design
RMBench通过9个涵盖多层级内存复杂度的任务系统评估政策内存能力,提出Mem-0模块化政策支持可控消融研究,揭示现有政策的内存限制及架构设计对内存性能的影响。
2026-10-16 cs.AI cs.RO
Critical Interval MSE: Toward Reliable Offline Validation for Robot Manipulation Policies
提出关键区间均方误差(CI-MSE),通过限制误差计算到任务关键段并配合动作对齐,显著提升验证误差与真实性能的相关性,加速策略迭代。
2026-10-14 cs.AI cs.RO
Composable Deep Reinforcement Learning for Robotic Manipulation
Berkeley Artificial Intelligence Research, UC Berkeley(加州大学伯克利分校伯克利人工智能研究中心);Open AI(OpenAI)
无模型深度强化学习已被证明在从视频游戏到模拟机器人操作和运动的领域中表现出良好的性能。然而,当与环境的交互时间有限时,无模型方法的性能很差,就像大多数真实世界的机器人任务一样。在本文中,我们研究了如何使用软Q学习训练的最大熵策略可以应用于现实世界的机器人操作。软Q学习的两个重要特征促进了这种方法在现实世界中的应用。首先,软Q学习可以通过学习由基于表达能量的模型表示的策略来学习多模态探索策略。其次,我们证明了使用软Q学习学习的策略可以组合以创建新的策略,并且所得到的策略的最优性可以根据组合策略之间的分歧而定。这种组合性为现实世界的操作提供了一个特别有价值的工具,通过组合现有技能来构建新策略可以在从头开始训练的效率上获得很大的提高。我们的实验评估表明,软Q学习比以前的无模型深度强化学习方法具有更高的样本效率,并且可以对模拟和现实任务进行组合。
2018-03-19 cs.AI cs.LG cs.RO
Precise and Dexterous Robotic Manipulation via Human-in-the-Loop Reinforcement Learning
UC Berkeley(加州大学伯克利分校)
该研究提出基于视觉的人在环强化学习系统,融合示教、人类校正与高效RL算法,仅1-2.5小时训练即可在多种灵巧操作任务上实现近乎完美的成功率,性能显著优于现有方法,证明RL可在真实场景中快速习得复杂操作策略。
2025-03-20 cs.AI cs.RO
Coordinated Humanoid Manipulation with Choice Policies
UC Berkeley(加州大学伯克利分校)
本文提出选择策略,通过模块化遥控和模仿学习,实现人形机器人在无结构环境中的协调操作与高效学习。
2025-12-31 cs.AI cs.LG cs.RO
Sequential Dexterity: Chaining Dexterous Policies for Long-Horizon Manipulation
Stanford University(斯坦福大学)
提出序列灵巧性系统,通过链式灵巧策略和过渡可行性函数,解决长时程操作任务,实现仿真到真实的零样本迁移。
2023-10-16 cs.AI cs.LG cs.RO
GSWorld: Closed-Loop Photo-Realistic Simulation Suite for Robotic Manipulation
UC San Diego(加州大学圣迭戈分校);UC Los Angeles(加州大学洛杉矶分校);Meta
GSWorld结合3D高斯泼溅与物理引擎,提出GSDF资产格式,构建含3种机器人和40+物体的数据库,实现零样本sim2real策略学习、DAgger数据收集、可重复基准测试等应用,推动机器人操作闭环开发。
2025-10-23 cs.AI cs.CV cs.RO
A Taxonomy for Evaluating Generalist Robot Manipulation Policies
Stanford University(斯坦福大学);Google DeepMind(谷歌DeepMind);Princeton University(普林斯顿大学)
本文提出STAR-Gen分类,旨在系统化评估机器人操作策略的泛化能力,通过视觉、语义和行为三个维度,结合现实案例研究揭示泛化评估的挑战与改进方向。
2026-02-05 cs.AI cs.LG cs.RO
What Matters When Cotraining Robot Manipulation Policies on Everyday Human Videos?
Massachusetts Institute of Technology(麻省理工学院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Harvard University(哈佛大学)
研究利用日常互联网视频协同训练机器人操作策略时,手部姿态质量和运动差距对迁移的影响,提出一种协同训练方法,在低机器人数据场景下六个操作任务中绝对成功率提升29.7%。
2026-06-04 cs.AI cs.CV cs.LG
Libra-VLA: Achieving Learning Equilibrium via Asynchronous Coarse-to-Fine Dual-System
Beihang University(北航);AgiBot
Libra-VLA通过粗到细双系统架构,解决视觉-语言-动作模型在机器人操作中语义与动作间的鸿沟问题,实现训练平衡与高效执行。
2026-04-27 cs.AI cs.CL cs.CV
SafeStage: Evaluating Safety Before, During, and After Vision-Language-Conditioned Robot Manipulation
Worcester Polytechnic Institute(伍斯特理工学院);Futurewei Technologies Inc.(未来华为技术有限公司)
SafeStage提出一个生命周期分阶段的基准,通过97个风险场景评估视觉-语言条件机器人操作在执行前、中、后的安全性,发现任务成功常伴随安全违规,并提供统一诊断平台。
2026-09-21 cs.RO
Distillation for Efficient Multitask Manipulation Policies via Conditional Flow Matching
University of Freiburg(弗莱堡大学)
本文提出通过转移单任务CFM专家的速度场,将知识蒸馏到共享多任务策略,结合原始CFM目标,在RLBench上以固定模型大小提升多任务性能。
2026-09-25 cs.AI cs.LG cs.RO
Action ControlNet: A Lightweight Delay-Aware Adapter for Smooth Asynchronous Control in Vision-Language-Action Models
School of Advanced Manufacturing and Robotics, Peking University(北京大学先进制造与机器人学院)
提出Action ControlNet,一种轻量级延迟感知适配器,通过将已执行的动作后缀作为残差条件,在不重新训练骨干网络的情况下,减少异步执行中的动作不连续和抖动,提升机器人操控的鲁棒性和平滑性。
2026-06-25 cs.RO
Robust Visual Sim-to-Real Transfer for Robotic Manipulation
Inria(法国国家信息与自动化研究所);École normale supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学)
本文针对机器人操作中的视觉sim-to-real迁移问题,提出利用离线代理任务优化domain randomization参数,在仿真中训练视觉运动策略并直接迁移至真实机器人,在多样化任务上平均成功率达93%,优于使用有限真实数据训练的策略。
2023-07-28 cs.AI cs.CV cs.LG
Robust Skills, Brittle Grounding: Diagnosing Restricted Generalization in Vision-Language Action Policies via Multi-Object Picking
Naver Labs Europe(纳维尔实验室欧洲)
通过多对象拾取实验发现,视觉语言动作策略在复杂环境下执行基本操作比遵循指令更可靠,表明技能获取与指令遵循脱节,需改进基准测试以更准确诊断泛化能力。
2026-02-27 cs.RO
Distracted Robot: How Visual Clutter Undermine Robotic Manipulation
Huawei Technologies Canada(华为技术加拿大)
本研究提出了一种评估协议,从心理学物理角度评估机器人操作在杂乱环境中的性能,发现杂乱度对性能影响显著,且不同策略对杂乱的敏感性不同。
2025-11-27 cs.AI cs.CV cs.RO
RAVEL: Asynchronous Rolling Inference for Flow-Based Vision-Language-Action Models
Zhejiang University(浙江大学);Nanyang Technological University(南洋理工大学)
针对基于流的VLA模型推理延迟高的问题,提出RAVEL异步推理框架,通过滚动缓冲单步去噪和VLM编码解耦,在保持任务能力的同时显著降低响应延迟,实现高频闭环控制。
2026-09-29 cs.RO
Instruction-driven history-aware policies for robotic manipulations
Inria(法国国家信息与自动化研究所);École normale supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学);IIIT Hyderabad(海得拉巴国际信息技术学院)
在人类环境中,机器人被期望完成各种简单的自然语言指令的操作任务。然而,机器人操作极具挑战性,因为它需要细粒度的运动控制、长期记忆以及对以前看不见的任务和环境的概括。为了应对这些挑战,我们提出了一个统一的变压器为基础的方法,考虑到多个输入。特别是,我们的Transformer架构集成了(i)自然语言指令和(ii)多视图场景观察,同时(iii)跟踪观察和动作的完整历史。这样的方法使得能够学习历史和指令之间的依赖性,并且使用多个视图来提高操纵精度。我们评估我们的方法具有挑战性的RLBench基准和现实世界的机器人。值得注意的是,我们的方法可扩展到74个不同的RLBench任务,并优于最先进的。我们还解决了预防条件的任务,并表现出出色的泛化到以前看不见的变化。
2022-12-17 cs.AI cs.CL cs.CV
Untangling Dense Non-Planar Knots by Learning Manipulation Features and Recovery Policies
University of California, Berkeley(加州大学伯克利分校);Toyota Research Institute, Inc.(丰田研究院)
解缠结的1D可变形结构,如绳索,电缆和电线的机器人操作是具有挑战性的,由于其无限维的配置空间,复杂的动力学,和自我封闭的趋势。分析控制器经常失败,在密集的配置,由于相邻的电缆段之间的抓持的困难。我们提出了两种算法,增强了强大的电缆解开,LOKI和SPiDERMan,它与HULK一起工作,HULK是一个高层次的规划者。LOKI使用学习的操作特征模型来将粗略的抓取关键点预测细化为精确的优化位置和方向,而SPiDERMan使用学习的模型来感知任务进度并应用恢复操作。我们评估这些算法在物理电缆解开实验与336节和超过1500的行动,真正的电缆使用达芬奇手术机器人。我们发现HULK、LOKI和SPiDERMAN的组合能够解开密集的上手结、8字形结、双上手结、方形结、单结、奶奶结、steveveeling结和三上手结。这些方法的组合在60个物理实验中的68.3%成功地将电缆从密集的初始配置中解开,并且比先前工作的基线成功率高出50%。补充材料、代码和视频可以在https://tinyurl.com/rssuntangling上找到。
2021-06-29 cs.AI cs.LG cs.RO
R2RDreamer: 3D-aware Data Augmentation for Spatially-generalized 2D Manipulation Policies
Tsinghua University(清华大学);BUPT(北京邮电大学);GigaAI(极佳科技)
提出R2RDreamer框架,通过轻量级3D编辑和2D视频补全,从少量真实演示生成几何一致的增强数据,提升2D操作策略的空间泛化能力。
2026-06-16 cs.CV cs.RO
RoboDojo: A Unified Sim-and-Real Benchmark for Comprehensive Evaluation of Generalist Robot Manipulation Policies
UC Berkeley(加州大学伯克利分校);THU(清华大学);PKU(北京大学);Stanford(斯坦福大学);MIT(麻省理工学院);UNC(北卡罗来纳大学);Princeton(普林斯顿大学);CMU(卡内基梅隆大学);NUS(新加坡国立大学);NTU(南洋理工大学);CUHK(香港中文大学);SJTU(上海交通大学);HKUST (GZ)(香港科技大学(广州));ZJU(浙江大学);Yale(耶鲁大学)
现有基准测试在系统评估通用机器人操作策略能力方面有限,本文引入RoboDojo统一基准测试,含模拟与现实任务,支持多维度评估及可扩展评估,还建立了公共排行榜与系统分析。
2026-07-09 cs.AI cs.CV cs.GR
Scaling World Model for Hierarchical Manipulation Policies
Xi’an Jiao Tong University(西安交通大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);Tsinghua University(清华大学);National University of Singapore(新加坡国立大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
本文提出分层VLA框架,利用大规模预训练世界模型提升机器人操作在分布外场景的泛化能力,实验显示性能提升显著。
2026-02-12 cs.RO
Uni-VLaT: Whole-Body Tactile Adaptation of VLA Policies for Humanoid Loco-Manipulation
Tsinghua University(清华大学);Beihang University(北京航空航天大学);Communication University of China(中国传媒大学);The University of Hong Kong(香港大学)
针对人形机器人移动操作中物理接触感知不足的问题,提出Uni-VLaT方法,通过引入预测性触觉通路整合全身体触觉信息到VLA策略,显著提升接触丰富任务的成功率。
2026-10-01 cs.RO
Veo-Act: Enhancing VLA Policies with Frontier Video Models
Tsinghua University(清华大学)
本文探讨前沿视频模型如Veo-3在通用机器人操作中的应用,提出Veo-Act框架结合高阶运动规划与低阶执行器,提升指令跟随性能。
2026-09-17 cs.RO
CRISP -- Compliant ROS2 Controllers for Learning-Based Manipulation Policies and Teleoperation
Technical University of Munich(慕尼黑技术大学);TUM School of Computation, Information and Technology(TUM计算、信息与技术学院);Department of Computer Engineering(计算机工程系);Learning Systems and Robotics Lab(学习系统与机器人实验室);TUM Munich Institute of Robotics and Machine Intelligence (MIRMI)(慕尼黑技术大学机器人与人工智能研究所(MIRMI))
CRISP是一种用于ROS2的轻量级控制器,支持基于学习的操控策略和遥控,提供统一的数据收集和策略执行管道,降低应用难度。
2026-02-06 cs.RO
Demonstration Calibrated Port-Hamiltonian Retuning for Manipulation Policies
Princeton University(普林斯顿大学);Arizona State University(亚利桑那州立大学);Siemens Foundation Technologies(西门子基础技术研究院)
提出PHRetune离线方法,利用端口-哈密顿模型从演示中推导控制器增益,无需评估rollout或搜索,提升扩散及VLA策略在仿真和真实任务中的成功率并降低加速度。
2026-10-12 cs.RO cs.SY eess.SY
F2F-AP: Flow-to-Future Asynchronous Policy for Real-time Dynamic Manipulation
Department of Automation, Tsinghua University(清华大学自动化系)
本文提出F2F-AP策略,通过预测物体流合成未来观测,利用基于流的对比学习目标对齐视觉特征,提升实时动态操控任务的响应性和成功率。
2026-10-16 cs.RO
MATE: Asynchronous Multi-Rate Diffusion Policy Composition
Shanghai Jiao Tong University(上海交通大学);Noematrix(无矩阵);Shanghai Innovation Institute(上海创新研究院)
研究针对多模态扩散策略在模态差异下的融合问题,提出LAG - Fusion框架,通过延迟感知引导融合实现异步策略组合,推导参考帧重定位规则,在接触丰富操纵实验中提升了策略响应性和任务性能。
2026-11-09 cs.AI cs.RO
Deep Reinforcement Learning for Robotic Manipulation with Asynchronous Off-Policy Updates
University of Cambridge(剑桥大学);Google DeepMind(谷歌DeepMind);UC Berkeley(加州大学伯克利分校)
强化学习有望使自主机器人在最少的人为干预下学习大量的行为技能。然而,强化学习的机器人应用通常会损害学习过程的自主性,以实现对真实物理系统实用的训练时间。这通常涉及引入手工设计的策略表示和人工提供的演示。深度强化学习通过训练通用神经网络策略来克服这一限制,但直接深度强化学习算法的应用迄今为止仅限于模拟设置和相对简单的任务,因为它们明显具有较高的样本复杂度。在本文中,我们证明了一种基于深度Q函数的非策略训练的深度强化学习算法可以扩展到复杂的3D操作任务,并且可以有效地学习深度神经网络策略,以便在真实的物理机器人上进行训练。我们证明,训练时间可以进一步减少并行算法在多个机器人池他们的政策更新异步。我们的实验评估表明,我们的方法可以学习各种3D操作技能的模拟和复杂的开门技能的真实机器人没有任何事先的演示或手动设计的表示。
2016-11-23 cs.AI cs.LG cs.RO
LAGO Policy: Latency-Aware Asynchronous Diffusion Policies with Goal-Directed Collision-Free Planning for Smooth Manipulation
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));International Digital Economy Academy(国际数字经济学院);The University of Hong Kong(香港大学);Southern University of Science and Technology(南方科技大学)
提出LAGO策略,通过延迟感知条件引导和时空轨迹优化,解决异步扩散策略的间断和碰撞问题,实现平滑安全的操作。
2026-06-17 cs.RO
Observe Then Act: Asynchronous Active Vision-Action Model for Robotic Manipulation
针对现实中机器人操作受遮挡和有限视野阻碍的问题,提出任务驱动的异步主动视觉-动作模型,串行连接相机NBV策略与 gripper NBP策略并以少样本强化学习训练,在RLBench的8个任务上持续优于基线,有效处理视觉约束。
2025-02-12 cs.CV cs.RO
ABPolicy: Asynchronous B-Spline Flow Policy for Real-Time and Smooth Robotic Manipulation
School of Electrical and Information Engineering, Tianjin University(电气与信息工程学院,天津大学)
ABPolicy通过异步B样条流匹配策略实现实时、平滑的机器人操控,减少轨迹冲击并提升性能。
2026-02-27 cs.CV cs.RO
ATOM-Bench: A Real-World Benchmark for Atomic Skills and Compositional Generalization in Manipulation Policies
Beijing Academy of Artificial Intelligence(北京人工智能研究院);Peking University(北京大学)
提出ATOM-Bench基准,通过分解桌面操作为原子任务和组合任务,评估操作策略的原子技能获取与组合泛化能力,发现当前策略在细粒度原子技能和组合重用上存在不足。
2026-06-16 cs.AI cs.RO
Execution-Aligned Progressive Noise for Consistent Asynchronous Replanning in Generative Robot Policies
Magiclab Robotics Technology Co., Ltd.(魔幻实验室机器人科技有限公司);Southeast University(东南大学)
针对生成式机器人策略异步重规划中的模式切换问题,提出执行对齐渐进噪声(EAPN),通过跨块与块内结构化随机性及执行对齐相关性,提升行为一致性,在Kinetix、LIBERO及真实任务上取得高成功率。
2026-10-06 cs.RO
LiMA: Bridging Long-term Imagination to Real-time Dexterous Manipulation via Asynchronous Diffusion
Beijing Academy of Artificial Intelligence(北京人工智能研究院)
针对灵巧操作中意图规划与快速反应控制的时间错位问题,提出异步双系统生成框架LiMA,通过多尺度层次解耦慢速长期意图生成与快速高频运动细化,并引入潜在薛定谔桥耦合机制实现概率传输对齐,显著降低推理延迟并提升任务成功率。
2026-09-24 cs.RO
Streaming-WAM: Action-Conditioned World-Action Model for Asynchronous Robot Manipulation
SJTU(上海交通大学);SDU(山东大学);ECUST(华东理工大学);Li Auto Inc.(理想汽车公司)
Streaming-WAM通过将动作条件世界模型与异步控制结合,在推理时预测已承诺动作的影响,在LIBERO上达到98.35%成功率并大幅缩短回合时间。
2026-09-25 cs.RO
Learning Diffusion Policies from Demonstrations For Compliant Contact-rich Manipulation
OMRON SINIC X Corporation(欧姆龙SINIC X公司);Department of Engineering Science, Osaka University(大阪大学工程科学系)
针对富接触操作中稳定接触与力控制难题,提出DIPCOM扩散策略框架,从演示学习末端位姿与刚度调节,并通过真实任务验证其优势。
2024-10-25 cs.AI cs.RO
RecoveryChaining: Learning Local Recovery Policies for Robust Manipulation
The Robotics Institute, CMU(卡内基梅隆大学机器人研究所);MERL(三菱电机研究实验室)
本文提出RecoveryChaining方法,利用分层强化学习和混合动作空间学习局部恢复策略,使机器人在基于模型的控制失败时能自主恢复并切换回标称控制器,在稀疏奖励操控任务中显著提升鲁棒性并实现仿真到现实迁移。
2025-03-07 cs.AI cs.RO
Learning Coordinated Bimanual Manipulation Policies using State Diffusion and Inverse Dynamics Models
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Texas at Austin(德克萨斯大学奥斯汀分校);Columbia University(哥伦比亚大学)
本文提出将人类操作策略的预测特性引入机器人模仿学习,通过解耦任务相关状态转换与逆动力学建模,利用扩散模型预测未来状态并结合逆动力学模型计算动作,有效解决了双臂协调操作问题,在多模态目标和真实世界设置中均优于现有方法。
2025-03-30 cs.AI cs.RO
Learning Robust Manipulation Skills with Guided Policy Search via Generative Motor Reflexes
RWTH Aachen University(亚琛工业大学)
引导策略搜索使机器人能够有效地学习复杂操作任务的控制策略。其中,控制策略被表示为基于状态导出机器人动作的高维神经网络。然而,由于指导策略搜索中的真实世界轨迹样本数量很少,因此所得到的神经网络仅在真实世界交互所探索的轨迹分布的邻域中是鲁棒的。在本文中,我们提出了一种新的策略表示称为生成运动反射,这是能够在更广泛的状态空间生成强大的行动相比,以前的方法。与先前的状态动作策略相比,生成性运动反射将状态映射到状态依赖运动反射的参数,然后用于导出动作。鲁棒性是通过对许多状态产生类似的运动反射来实现的。我们评估所提出的方法在模拟和现实世界的操作任务,包括接触丰富的钉孔任务。使用这些评估任务,我们表明,表示为生成运动反射的政策导致强大的操作技能,也探索轨迹分布之外,与以前的方法相比,训练需求更少。
2019-02-19 cs.AI cs.RO
SplatSim: Zero-Shot Sim2Real Transfer of RGB Manipulation Policies Using Gaussian Splatting
Carnegie Mellon University(卡内基梅隆大学)
针对RGB操作策略的Sim2Real域偏移难题,提出以高斯泼溅为渲染基元的SplatSim框架,生成高真实感合成数据,实现零样本真实部署,成功率达86.25%。
2024-10-07 cs.AI cs.CV cs.LG
ComManip: Overfitting Manipulation Policies to Comfortable Regions
South China University of Technology(华南理工大学);Nanyang Technological University(南洋理工大学)
针对有限演示预算下机器人操作泛化困难,提出ComManip,通过将策略专门化到舒适操作区域并重新定位基座,提升成功率约20个百分点,实现数据高效学习。
2026-09-30 cs.RO
DiscreteRTC: Discrete Diffusion Policies are Natural Asynchronous Executors
UC Berkeley(加州大学伯克利分校);UIUC(伊利诺伊大学香槟分校);UT Austin(德克萨斯大学奥斯汀分校);UCLA(加州大学洛杉矶分校)
针对同步执行器在动态任务中的致命停顿问题,提出DiscreteRTC方法,利用离散扩散策略的原生修复能力实现异步执行,在动态模拟和真实操作任务中取得更高成功率。
2026-06-03 cs.RO
Deictic Image Maps: An Abstraction For Learning Pose Invariant Manipulation Policies
College of Computer and Information Science, Northeastern University(东北大学计算机与信息科学学院)
在深度强化学习在机器人领域的应用中,我们通常希望学习姿势不变策略:即对世界中对象的位置和方向变化保持不变的策略。例如,考虑一个钉孔插入任务。如果智能体学会将钉子插入一个洞中,我们希望该策略能够推广到以不同姿势呈现的洞。不幸的是,这是使用常规方法的挑战。本文提出了一种新的状态和动作抽象,称为\textit{deictic image maps},可用于深度强化学习,它对姿势偏移是不变的。我们提供了广泛的条件下,最佳的抽象政策是最佳的底层系统。最后,我们表明,该方法可以帮助解决具有挑战性的机器人操作问题。
2018-09-17 cs.RO
Visual Foresight With a Local Dynamics Model
Khoury College of Computer Sciences(胡里计算机学院);Northeastern University(东北大学)
无模型策略学习已被证明能够学习操作策略,可以使用单步操作原语解决长时间任务。然而,训练这些策略是一个耗时的过程,需要大量的数据。我们提出了本地动力学模型(LDM),有效地学习这些操作原语的状态转换函数。通过将LDM与无模型策略学习相结合,我们可以学习策略,这些策略可以使用一步前瞻规划来解决复杂的操作任务。我们表明,LDM是更采样效率和优于其他模型架构。当与规划相结合时,我们可以在模拟中的几个具有挑战性的操作任务上优于其他基于模型和无模型的策略。
2022-06-29 cs.AI cs.LG cs.RO