Scheduling Distributed Flexible Assembly Lines using Safe Reinforcement Learning with Soft Shielding
Contemporary Amperex Technology Co., Limited(宁德时代新能源科技股份有限公司)
本文提出基于优势演员-评论家的强化学习方法实时调度分布式柔性装配线,结合紧凑环境表示与蒙特卡洛树搜索软屏蔽组件,有效解决长序列不安全行为并监控逾期风险。
2023-11-21 cs.AI cs.NE
A Sliding-Window-Based Reinforcement Learning for Dynamic Assembly Flow Shop Scheduling with Multi-Product Delivery
School of Electromechanical Engineering, Guangdong University of Technology(广东工业大学机电工程学院);Department of Computer Science, City University of Hong Kong(香港城市大学计算机科学系)
针对混合制造系统中多产品配套交付的实时调度难题,提出基于滑动窗口的强化学习框架,将问题建模为基于异构图的马尔可夫决策过程,集成多种机制,实验表明该方法能降低延迟,性能稳健。
2026-07-07 cs.AI
Novel Multi-Agent Action Masked Deep Reinforcement Learning for General Industrial Assembly Lines Balancing Problems
Department of Mechanical and Aerospace Engineering, Carleton University(机械与航空航天工程系,卡尔顿大学)
本文针对通用工业装配线平衡问题,提出基于MDP建模的多智能体深度强化学习方法,结合动作掩码与集中训练分散执行框架,显著加快收敛到最优解的速度。
2025-07-22 cs.AI
Bi-Manual Block Assembly via Sim-to-Real Reinforcement Learning
Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学)
大多数成功的机器人操作已被限制在单臂夹持机器人,其灵活性低,限制了范围内的可解决的任务,拾取和放置,插入,和对象的重排。更复杂的任务,如装配,需要双臂和多臂平台,但也带来了一系列独特的挑战,如双臂协调和避免碰撞,稳健的抓取和长期规划。在这项工作中,我们研究了在模拟中训练深度强化学习(RL)策略并将其转移到现实世界(Sim 2 Real)的可行性,作为一种通用方法,用于获得真实世界双手动机器人操作任务的性能控制器。作为双手操作的试验平台,我们开发了U型磁块装配任务,其中两个机器人具有平行的夹具必须连接3个磁块形成U形。没有手动设计的控制器,也没有人的演示,我们证明,通过仔细的Sim 2 Real考虑,我们的策略在仿真中使用RL训练,使两个xArm 6机器人能够解决U形装配任务,在仿真中的成功率超过90%,在真实硬件上的成功率为50%,而无需任何额外的真实世界的微调。通过仔细的消融,我们强调了系统的每个组成部分是如何对这种简单而成功的策略学习和转移至关重要的,包括任务规范,学习算法,直接关节空间控制,行为约束,感知和驱动噪声,动作延迟和动作插值。我们的研究结果为真实硬件上的双臂能力向前迈出了重要的一步,我们希望我们的系统可以激发未来对双手动策略的深度RL和Sim 2 Real传输的研究,大幅提升现实世界机器人操作器的能力。
2023-03-27 cs.AI cs.LG cs.RO
Play2Perfect: What Matters in Dexterous Play Pretraining for Precise Assembly?
Stanford University(斯坦福大学);Cornell University(康奈尔大学)
提出Play2Perfect框架,通过任务无关的玩耍预训练获取可复用的操作先验,再微调用于精密装配,在稀疏奖励和接触密集任务中实现33倍样本效率提升。
2026-10-16 cs.AI cs.RO
IKEA Furniture Assembly Environment for Long-Horizon Complex Manipulation Tasks
University of Southern California(南加州大学)
宜家家具装配环境是测试和加速复杂操作任务自动化的首批基准之一。该环境旨在将强化学习从简单的玩具任务推进到需要长期规划和复杂低级控制的复杂任务。我们的环境支持超过80种不同的家具模型,Sawyer和Baxter机器人模拟,以及域随机化。宜家家具装配环境是一个旨在解决复杂操作任务的方法的测试平台。该环境可在https://clvrai.com/furniture上公开获取
2019-11-17 cs.AI cs.CV cs.LG
Precision-Focused Reinforcement Learning Model for Robotic Object Pushing
Bielefeld University(比勒费尔德大学);Fraunhofer IOSB-INA(弗劳恩霍夫IOSB-INA研究所)
针对机器人非抓持操作中因物体物理属性差异导致推动精度不足的问题,提出一种基于记忆的视觉-本体感觉强化学习模型,能以更少的纠正动作将物体更精确地推至目标位置。
2024-11-13 cs.AI cs.RO
RL-Lock: Reinforcement Learning for Generating Interlocking Assemblies
针对现有互锁组件生成方法依赖手工启发式、难处理复杂案例的问题,研究人员提出强化学习框架RL-Lock,结合结构化动作分块与MCTS学习,高效生成互锁组件,在复杂场景表现更优。
2026-08-04 cs.AI cs.GR
Optimizing Navigation And Chemical Application in Precision Agriculture With Deep Reinforcement Learning And Conditional Action Tree
Iowa State University(爱荷华州立大学)
提出基于分层动作掩码的强化学习框架HAM-PPO,用于精准农业机器人导航与化学喷洒优化,在有限电量下提高感染区域覆盖率并减少药剂使用,实验证明其优于基线方法。
2025-03-23 cs.AI cs.RO
Optimizing Path Planning using Deep Reinforcement Learning for UGVs in Precision Agriculture
Sardar Patel Institute of Technology(萨达尔·帕特尔技术学院)
本研究利用深度强化学习优化无人机在精准农业中的路径规划,通过DDPG和TD3算法在动态环境中实现高成功率的导航。
2026-01-08 cs.AI cs.RO
RoboAssembly: Learning Generalizable Furniture Assembly Policy in a Novel Multi-robot Contact-rich Simulation Environment
Peking University(北京大学);Stanford University(斯坦福大学);Tencent AI Lab(腾讯人工智能实验室)
零件装配是机器人技术中一个典型但具有挑战性的任务,机器人将一组单独的零件装配成一个完整的形状。在本文中,我们开发了一个机器人装配仿真环境的家具装配。我们制定的部分装配任务作为一个具体的强化学习问题,并提出了一个管道,机器人学习组装一套不同的椅子。实验表明,当测试与看不见的椅子,我们的方法实现了74.5%的成功率下,以对象为中心的设置和50.0%下的完整设置。我们采用RRT连接算法作为基线,在显著更长的计算时间后,该算法仅实现了18.8%的成功率。补充材料和视频可在我们的项目网页上找到。
2021-12-19 cs.AI cs.CV cs.LG
Proprioception-Anchored Cross-Modal Pretraining for Zero-Shot Sim-to-Real Contact-Rich Assembly
Shanghai Jiao Tong University(上海交通大学)
针对接触丰富装配的仿真到现实迁移难题,提出基于本体感觉锚定的跨模态预训练方法PACE,通过预测本体感觉状态转移监督视觉和力觉表征,实现零样本部署,平均成功率93.3%。
2026-09-17 cs.AI cs.RO
A step toward a reinforcement learning de novo genome assembler
Center for Higher Studies of Itacoatiara, University of the State of Amazonas(亚马逊州立大学伊塔科阿蒂拉高等研究中心);Sustainable Development, Vale Technology Institute(淡水河谷技术研究所可持续发展部);Institute of Mathematics and Computer Sciences, University of São Paulo(圣保罗大学数学与计算机科学研究所);Polytechnic School, University of São Paulo(圣保罗大学理工学院);LIRMM, University of Montpellier, CNRS(蒙彼利埃大学、法国国家科学研究中心联合实验室LIRMM);Institute of Natural Sciences, Federal University of Pará(帕拉联邦大学自然科学研究所)
本研究拓展了现有基于强化学习的从头基因组组装方法,改进奖励系统并结合剪枝与进化计算优化状态空间探索,在23个新环境中验证了性能提升,同时指出高维空间等局限并探讨了真实场景下的实现路径。
2024-03-07 cs.AI cs.LG q-bio.GN
Adviser-Actor-Critic: Eliminating Steady-State Error in Reinforcement Learning Control
School of Astronautics, Beihang University(北京航空航天大学宇航学院)
本文提出 Adviser-Actor-Critic(AAC)方法,通过融合反馈控制理论与强化学习,并引入 Adviser 指导 actor 优化动作,以消除高精度控制任务中的稳态误差,实验证明其在精度关键任务上优于标准 RL 算法。
2025-02-04 cs.AI cs.LG
Data Quality-aware Mixed-precision Quantization via Hybrid Reinforcement Learning
Xi’an Jiaotong University(西安交通大学);The Hong Kong Polytechnic University(香港理工大学)
由于非差分位宽采样过程,混合精度量化主要在实际训练之前预先确定模型位宽设置,从而获得次优性能。更糟糕的是,传统的静态质量一致的训练设置,即,假设所有数据在训练和推断中具有相同的质量,忽略了现实世界应用中的数据质量变化,这可能导致量化模型的鲁棒性差。在本文中,我们提出了一种新的数据质量感知的混合精度量化框架,称为DQMQ,动态适应量化位宽不同的数据质量。自适应是基于可以与量化训练联合学习的位宽决策策略。具体地说,DQMQ被建模为一个混合强化学习(RL)任务,结合了基于模型的策略优化与监督量化训练。通过将离散位宽采样放松为用很少的可学习参数编码的连续概率分布,DQMQ是可微分的,并且可以直接端到端地优化,其中混合优化目标考虑任务性能和量化益处。在混合质量的图像数据集上训练,DQMQ可以在面对不均匀的输入质量时隐式地为每个层选择最合适的位宽。在各种基准数据集和网络上进行的大量实验证明了DQMQ相对于现有固定/混合精度量化方法的优越性。
2023-02-09 cs.AI cs.LG
Transferring Knowledge for Reinforcement Learning in Contact-Rich Manipulation
Örebro University(厄勒布鲁大学)
在制造业中,装配任务由于不同环境的动态变化而对学习算法提出了挑战。强化学习(RL)是自动学习这些任务的有前途的框架,然而,即使部署条件仅略有不同,也仍然不容易将学习的策略或技能(即解决任务的能力)应用于类似的环境。在本文中,我们解决了利用多个技能先验知识在一系列类似任务中转移知识的挑战。我们建议学习先验分布在完成每个任务所需的特定技能,并组成家庭的技能先验指导学习的政策,为一个新的任务,通过比较目标任务和以前的相似性。我们的方法从每个先前任务的演示轨迹中学习一个潜在的动作空间,表示技能嵌入。我们已经在一组钉孔插入任务上评估了我们的方法,并证明了对训练过程中从未遇到过的新任务的更好的泛化。
2022-09-19 cs.AI cs.LG cs.RO
MemComposer: Learning to Assemble Memories for LLM Agents via Reinforcement Learning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon(亚马逊公司)
该研究提出MemComposer,一种基于ExPO框架训练的记忆组装器,通过检查查询与候选记忆优化记忆选择排序,在τ²-bench实验中提升性能并降低记忆令牌使用,策略可迁移且受益于强模型记忆。
2026-10-27 cs.AI cs.CL
Subassembly to Full Assembly: Effective Assembly Sequence Planning through Graph-based Reinforcement Learning
King Abdullah University of Science and Technology (KAUST)(阿卜杜拉国王科技大学)
本文提出 S2A 装配序列规划框架,采用基于图的强化学习与延迟奖励策略训练图注意力网络,有效解决零件数量增加导致的组合爆炸问题,并在仿真和真实机器人场景中验证了其有效性。
2024-09-20 cs.RO
Deep-Reinforcement-Learning-based Path Planning for Industrial Robots using Distance Sensors as Observation
Berlin Institute of Technology(柏林工业大学)
工业机器人广泛用于各种制造环境中,因为它们可以高效地完成重复性任务,例如装配或焊接。这些应用的一个共同问题是到达目的地而不与障碍物或其他机器人手臂碰撞。常用的基于采样的路径规划方法,如RRT,需要很长的计算时间,特别是在复杂的环境中。此外,需要事先了解使用它们的环境。当在新环境中使用这些方法时,需要进行设置超参数的繁琐工程工作,这是时间和成本密集型的。另一方面,深度强化学习在处理未知环境、推广新问题实例以及高效解决运动规划问题方面表现出了显著的效果。基于此,本文提出了一种基于深度强化学习的机器人运动规划器。我们评估了我们的模型对国家的最先进的抽样为基础的规划在几个实验。结果表明,我们的规划器在路径长度和执行时间方面的优越性。
2023-01-14 cs.AI cs.LG cs.PF
A Learning Approach to Robot-Agnostic Force-Guided High Precision Assembly
Autodesk Research(欧特克研究院)
在这项工作中,我们提出了一种学习方法,高精度的机器人装配问题。我们专注于接触丰富的阶段,其中组装件彼此紧密接触。与许多严重依赖视觉或空间跟踪的基于学习的方法不同,我们的方法将任务空间中的力/扭矩作为唯一的观察。我们的训练环境是无机器人的,因为末端执行器没有连接到任何特定的机器人。然后,经过训练的策略可以应用于不同的机器人手臂,而无需重新训练。这种方法可以大大降低在现实世界中执行接触丰富的机器人装配的复杂性,特别是在建筑施工等非结构化环境中。为了实现这一目标,我们已经开发了一个新的分布式RL代理,名为递归分布式DDPG(RD 2),它扩展了Ape-X DDPG递归和优先级经验重放两个结构上的改进。我们的研究结果表明,RD 2能够解决两个基本的高精度装配任务,搭接和钉孔,并优于两个最先进的算法,Ape-X DDPG和PPO与LSTM。我们已经成功地在三个机器人手臂上评估了我们的机器人不可知策略,Kuka KR 60,Franka Panda和UR 10。演示我们实验的视频可在https://sites.google.com/view/rd2-rl上获得
2021-08-02 cs.AI cs.RO
Pluvio: Assembly Clone Search for Out-of-domain Architectures and Libraries through Transfer Learning and Conditional Variational Information Bottleneck
McGill University(麦吉尔大学);Defence Research and Development Canada (DRDC)(加拿大国防研究与发展部)
本文提出 Pluvio,利用预训练自然语言模型迁移学习、强化学习 token 裁剪和变分信息瓶颈,解决汇编克隆搜索对未知架构及编译工具链泛化不足的问题。
2026-10-19 cs.AI cs.SE
Reinforcement Learning with Parameterized Manipulation Primitives for Robotic Assembly
Singapore Centre for 3D Printing (SC3DP)(新加坡3D打印中心(SC3DP));School of Mechanical and Aerospace Engineering, NTU(南洋理工大学机械与航空航天工程学院);Eureka Robotics(尤里卡机器人公司)
针对机器人装配中人工设计的状态机式操作基元策略难以应对意外状况的问题,提出用强化学习学习参数化操作基元的动态序列,提升了装配性能与样本效率,在高精度插销任务上实现了优异的零样本仿真到现实迁移效果。
2023-06-11 cs.RO
MedReasoner: Reinforcement Learning Drives Reasoning Grounding from Clinical Thought to Pixel-Level Precision
MedReasoner 通过强化学习实现从临床推理到像素级精度的医学影像 grounding,提出统一医学推理 grounding 任务和 U-MRG-14K 数据集,展示其在医学影像分析中的优越性能。
2026-02-18 cs.AI cs.CV
High-Precision Geosteering via Reinforcement Learning and Particle Filters
University of Stavanger(斯塔万格大学);Stanford University(斯坦福大学);NORCE Norwegian Research Centre(NORCE挪威研究中心)
本文提出将强化学习与粒子滤波相结合用于地质导向决策,利用粒子滤波处理实时测井数据估计井位,再指导强化学习决策,实验证明二者协同优于单独使用任一方法。
2024-02-09 cs.AI cs.LG physics.geo-ph
A robust and compliant robotic assembly control strategy for batch precision assembly task with uncertain fit types and fit amounts
本文提出了一种基于FVFC-MTRL框架的鲁棒且顺应性机器人装配控制策略,通过多任务强化学习和策略蒸馏方法提升精密装配任务的鲁棒性和成功率。
2025-08-17 cs.RO
Robotic Assembly Control Reconfiguration Based on Transfer Reinforcement Learning for Objects with Different Geometric Features
Tsinghua University(清华大学)
基于力的机器人柔性控制是实现高精度装配任务的首选方法。当装配对象的几何特征不对称或不规则时,强化学习(RL)智能体逐渐融入柔顺控制器,以适应难以解析建模的复杂力-位姿映射。由于力-姿态映射强烈依赖于几何特征,因此顺应性控制器仅对于当前几何特征是最佳的。为了降低具有不同几何特征的装配对象的学习成本,本文致力于回答如何为具有不同几何特征的新装配对象重新配置现有控制器。在本文中,基于模型的参数重新配置的基础上提出的等效理论的顺应性(ETCL)。然后,RL代理转移的基础上提出的加权维度策略蒸馏(WDPD)方法。实验结果表明,该控制重构方法所需时间少,控制性能好,验证了所提方法的有效性。
2022-11-04 cs.RO cs.SY eess.SY
Cognitive Manipulation: Semi-supervised Visual Representation and Classroom-to-real Reinforcement Learning for Assembly in Semi-structured Environments
South China University of Technology(华南理工大学);Nanyang Technological University(南洋理工大学)
本文提出一种基于技能图的认知操纵方法,整合半监督目标检测与课堂到真实强化学习的精细操纵模型,有效解决了无夹具半结构化环境中小批量精确装配的挑战,并在仿真和真实实验中显著提升了成功率与效率。
2024-06-01 cs.RO
Variable Compliance Control for Robotic Peg-in-Hole Assembly: A Deep Reinforcement Learning Approach
Osaka University(大阪大学);National Institute of Advanced Industrial Science and Technology (AIST)(日本产业技术综合研究所)
工业机器人在现代制造业中发挥着越来越重要的作用。虽然销孔装配是一个常见的工业任务,已被广泛研究,安全地解决复杂的高精度装配在非结构化环境中仍然是一个悬而未决的问题。强化学习(RL)方法已被证明在自主解决操作任务方面是成功的。然而,RL仍然没有被广泛采用在真正的机器人系统,因为与真正的硬件工作带来了额外的挑战,特别是当使用位置控制的机械手。这项工作的主要贡献是一个基于学习的方法来解决钉在孔的位置不确定性的任务。我们提出了一种非策略无模型强化学习方法的使用,并通过使用几种迁移学习技术(sim2real)和域随机化来提高训练速度。我们提出的位置控制机器人的学习框架进行了广泛的评估接触丰富的插入任务在各种环境中。
2020-11-21 cs.LG cs.RO
Reinforcement Learning on Variable Impedance Controller for High-Precision Robotic Assembly
University of California, Berkeley(加州大学伯克利分校);Siemens Corporate Technology(西门子公司技术部);Technion(以色列理工学院)
精确的机器人操作技能在许多工业环境中是期望的,强化学习(RL)方法有望自主地获得这些技能。在本文中,我们明确考虑将操作空间力/扭矩信息纳入强化学习;这是由人类将感知力映射到控制动作,从而以相当容易的方式完成高精度任务。我们的方法结合RL与力/扭矩信息,通过将一个适当的操作空间力控制器,我们还利用不同的消融处理这些信息。此外,我们提出了一个神经网络架构,推广到合理的变化的环境。我们在开源的西门子机器人学习挑战赛上评估了我们的方法,该挑战赛需要精确和微妙的力控制行为来组装紧密配合的齿轮组。
2019-03-20 cs.RO
Local Connection Reinforcement Learning Method for Efficient Control of Robotic Peg-in-Hole Assembly
Tsinghua University(清华大学)
传统的机器人轴孔装配控制方法依赖于复杂的接触状态分析。强化学习(RL)正逐渐成为控制机器人钉孔装配任务的首选方法。然而,强化学习的训练过程是相当耗时的,因为强化学习方法总是全局连接的,这意味着所有的状态组件都被假设为所有动作组件的策略的输入,从而增加了要探索的动作空间和状态空间。本文首先定义了连续空间序列化Shapley值(CS3),并构造了一个连接图来阐明动作分量与状态分量之间的相关性。然后提出了一种基于连接图的局部连接强化学习(LCRL)方法,消除了无关状态分量对动作分量选择的影响。仿真和实验结果表明,采用LCRL方法得到的控制策略提高了控制过程的稳定性和快速性。LCRL方法将提高数据效率,并增加训练过程的最终回报。
2022-10-24 cs.RO cs.SY eess.SY
A General Peg-in-Hole Assembly Policy Based on Domain Randomized Reinforcement Learning
University of Southern Denmark(南丹麦大学);The Maersk Mc-Kinney Moller Institute(马士基麦克-金尼·莫勒研究所)
本文提出基于PPO和域随机化的通用轴孔装配策略GenPiH,在八千多个孔位姿上实现近100%插入成功率,并在UR10e机器人上完成免调参的仿真到真实验证。
2025-04-05 cs.RO
Context-Based Meta Reinforcement Learning for Robust and Adaptable Peg-in-Hole Assembly Tasks
Humanoid Robots Lab and Center for Robotics, University of Bonn, Germany(波恩大学人形机器人实验室和机器人中心);Lamarr Institute for Machine Learning and Artificial Intelligence, Bonn, Germany(波恩大学拉马尔人工智能与机器学习研究所);Cyber Physical Systems Lab, Egypt Japan University of Science and Technology, Alexandria, Egypt(埃及日本科学技术大学网络物理系统实验室);Faculty of Engineering, Alexandria University, Alexandria, Egypt(亚历山大大学工程学院);Mechatronics Department, Ain Shams University, Cairo, Egypt(亚历山大大学机电系)
针对未知环境下轴孔装配的参数不确定性,提出融合正向运动学、未标定相机与力/扭矩信息的上下文元RL及分布外适应方法,提升样本效率、真实适应与泛化性能。
2025-10-18 cs.RO
Mastering the working sequence in human-robot collaborative assembly based on reinforcement learning
University of Virginia(弗吉尼亚大学)
提高人机协作的工作效率是制造系统人机协作的一个长期目标。为了适应工业4.0的趋势,建立智能制造系统,HRC系统中的Co-robot需要更好的设计,以更具自组织性,并通过自学习找到超人的能力。受Google Deep Mind开发的Alphago Zero等令人印象深刻的机器学习算法的启发,本文将人机协同装配工作过程格式化为棋盘,并利用棋盘中的棋步选择来类比人机在HRC装配工作过程中的决策。为了获得最优的工作顺序策略,以最大限度地提高工作效率,机器人训练与自我发挥算法的基础上强化学习,没有指导或超出游戏规则的领域知识。一个神经网络也被训练来预测移动选择的优先级的分布以及一个工作序列是否是一个导致最大的HRC效率。一个可调的办公桌组件被用来证明建议的HRC组装算法和它的效率。
2020-07-08 cs.RO cs.SY eess.SY
Towards Intelligent Pick and Place Assembly of Individualized Products Using Reinforcement Learning
TH Köln – University of Applied Sciences(科隆应用技术大学);Cologne Cobots Lab(科隆协作机器人实验室);Laboratory of Manufacturing Systems(制造系统实验室);Institute of Telecommunications Technology(电信技术研究所)
个性化制造正在成为满足日益多样化和特定的消费者需求和期望的重要方法。虽然有各种解决方案来实现制造过程,例如增材制造,但随后的自动化组装仍然是一项具有挑战性的任务。作为解决这个问题的一种方法,我们的目标是教一个协作机器人成功地执行拾取和放置任务,通过实施强化学习。对于在不断变化的制造环境中的个性化产品的装配,模拟的几何和动态参数将变化。使用具有元学习能力的强化学习算法,任务将首先在模拟中进行训练。然后,它们将在真实世界的环境中执行,其中引入了在训练中未模拟的新因素,以确认算法的鲁棒性。机器人将从触觉传感器、区域扫描相机和3D相机获得输入数据,这些相机用于生成环境和物体的高度图。机器学习算法和硬件组件的选择,以及进一步的研究问题,以实现概述的生产场景是所提出的工作的结果。
2020-02-11 cs.LG cs.RO
SHaRe-RL: Structured, Interactive Reinforcement Learning for Contact-Rich Industrial Assembly Tasks
CITEC, Faculty of Technology, Bielefeld University, Germany(CITEC,技术学院,比勒菲尔德大学,德国);Fraunhofer IOSB-INA, Lemgo, Germany(弗劳恩霍夫 IOSB-INA,莱姆戈,德国)
SHaRe-RL通过整合先验知识,解决了工业装配中高混合低体积生产对精度、安全性和可靠性的需求,实现了高效安全的在线学习。
2026-03-17 cs.RO
Knowledge-Guided Hierarchical Policy Learning for High-Precision Cylindrical Assembly under Tight Tolerances
Tianjin University(天津大学)
提出知识引导的分层策略学习框架,结合行为克隆与TD3算法,实现高精度圆柱装配,在仿真和真实环境中均表现出高学习效率、强适应性和稳定性。
2026-09-09 cs.RO
Assembly robots with optimized control stiffness through reinforcement learning
Saitama University(埼玉大学);University of Tsukuba(筑波大学);JST PRESTO(日本科学技术振兴机构先驱研究计划)
对机器人任务自动化的需求日益增加。接触丰富的任务,其中多个接触过渡发生在一系列的操作,正在被广泛研究,以实现高精度。在这项研究中,我们提出了一种方法,使用强化学习(RL),以实现高性能的机器人执行装配任务,需要精确的接触对象,而不会造成损害。该方法保证了刚度矩阵的在线生成,有助于提高局部轨迹优化的性能。由于轨迹规划的采样时间短,该方法具有响应速度快的优点。通过两个接触丰富的任务的实验验证了该方法的有效性。结果表明,该方法可以实现在各种接触丰富的操作。一个演示视频显示了性能。(https://youtu.be/gxSCl7Tp4-0)
2020-02-27 cs.LG cs.RO cs.SY
ReTac-ACT: A State-Gated Vision-Tactile Fusion Transformer for Precision Assembly
本文提出ReTac-ACT,通过双向交叉注意力、体感条件门控网络和触觉重建目标,解决视觉反馈失效下的精密装配问题,实现90%的成功率,优于传统方法。
2026-03-18 cs.RO
Robotic Assembly across Multiple Contact Stiffnesses with Robust Force Controllers
Nanyang Technological University(南洋理工大学)
主动力控制(AFC)是解决机器人高精度装配的重要方案。经典的力控制器是高度依赖于表面的:控制器必须仔细调整为接触的每种类型的表面,以避免不稳定性,并实现合理的性能水平。在这里,我们建立在最近开发的凸控制器合成(CCS),使高精度组装在广泛的表面刚度,而没有任何表面依赖的调整。具体来说,我们展示了钉孔组件与100微米的间隙,初始位置的不确定性高达2厘米,并为四种类型的钉孔材料-橡胶,塑料,木材,铝-其刚度范围从10到100 N/mm,使用一个单一的控制器。
2020-03-06 cs.RO
From Reach to Insert: Tactile-Augmented Precision Assembly under Sub-Millimeter Tolerances
State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所多模态人工智能系统国家重点实验室);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
本文针对亚毫米公差下精密插入装配难题,提出结合IL与RL的触觉增强两阶段方法,引入触觉分组采样与触觉评判器,在多间隙实验中提升插入成功率并降低接触力,验证了方法的有效性与安全性。
2026-09-24 cs.RO
Autonomous Planning In-space Assembly Reinforcement-learning free-flYer (APIARY) International Space Station Astrobee Testing
U.S. Naval Research Laboratory Naval Center for Space Technology(美国海军研究实验室海军空间技术中心)
APIARY实验利用强化学习控制空间自由飞行器,通过NASA Astrobee机器人在国际空间站进行首次空间强化学习控制测试,验证了强化学习在提升机器人自主性方面的潜力。
2025-12-03 cs.LG cs.RO cs.SY
Learning Pose Estimation for High-Precision Robotic Assembly Using Simulated Depth Images
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
当今大多数工业机器人装配任务需要固定的初始条件才能成功装配。这些限制导致了高生产成本和对新任务的低适应性。在这项工作中,我们的目标是通过使用3D CAD模型的所有部件进行组装,实现灵活和适应性强的机器人装配。我们专注于一个通用的装配任务-西门子创新挑战赛-其中机器人需要将一个高精度的齿轮状机构装配到操作系统中。为了获得这项任务和工业设置所需的毫米级精度,我们使用了安装在机器人末端执行器附近的深度相机。我们提出了一种基于深度卷积神经网络的高精度两阶段姿态估计过程,其中包括检测、姿态估计、细化以及处理部件的近对称和全对称。这些网络在模拟深度图像上进行训练,以确保成功传输到真实机器人。我们得到的平均姿态估计误差为2.16毫米和0.64度,导致91%的成功率为随机分布的零件的机器人装配。据我们所知,这是西门子创新挑战赛首次得到全面解决,所有部件的组装成功率都很高。
2019-03-23 cs.CV cs.LG cs.RO
Fast Skill Learning for Variable Compliance Robotic Assembly
Tsinghua University(清华大学)
机器人装配代表了一组强化学习和可变顺应性控制的基准问题,其特征在于复杂的接触操作。将强化学习应用于物理机器人的关键挑战之一是样本的复杂性,即学习需要大量的经验。我们通过将迭代改装的模型纳入学习过程中,通过模型引导的探索来缓解这个样本复杂性问题。然而,拟合物理环境的局部模型是主要困难。在这项工作中,一个卡尔曼滤波器被用来结合自适应线性动态与一个粗略的先验模型从解析描述,并证明了给更准确的预测比现有的方法。实验结果表明,所提出的模型拟合策略可以应用于模型预测控制器中,在保持无模型强化学习优点的同时,为学习加速提供良好的探索行为.除了样本的复杂性之外,机器人在操作过程中不可避免的过载也往往会限制学习效率。为了解决这个问题,我们提出了一种方法,以限制最大可能的势能在顺应性控制系统,从而保持接触力在合理的范围内。
2019-05-11 cs.RO
Solving Robot Assembly Tasks by Combining Interactive Teaching and Self-Exploration
Delft University of Technology(代尔夫特理工大学)
许多高精度(拆卸)装配任务仍然由人类执行,而这是自动化的理想机会。本文提供了一个框架,使一个非专家的人类操作员教机械臂做复杂的精度任务。该框架使用一个可变的笛卡尔阻抗控制器来执行从动觉人类演示中学习到的轨迹。可以提供反馈,以交互方式重塑或加速原始演示。板定位通过任务板位置的视觉估计来完成,并通过触觉反馈来细化。我们的框架在Robothon基准拆解挑战上进行了测试,机器人必须执行复杂的精度任务,例如钥匙插入。结果显示,每个操作子任务的成功率都很高,包括盒子处于新姿势的情况。还进行了消融研究,以评估框架的组件。
2022-09-23 cs.RO
A Framework for Closed-Loop Robotic Assembly, Alignment and Self-Recovery of Precision Optical Systems
Research Laboratory of Electronics, Massachusetts Institute of Technology(麻省理工学院电子研究实验室);NSF Institute for Artificial Intelligence and Fundamental Interactions (IAIFI) and the Department of Physics, Massachusetts Institute of Technology(国家科学基金会人工智能与基本相互作用研究所(IAIFI)和麻省理工学院物理系);Nokia Bell Labs(诺基亚贝尔实验室);School of Electrical, Computing and Energy Engineering, Arizona State University(亚利桑那州立大学电气、计算与能源工程学院)
本文提出一个机器人框架,实现精密光学系统的自动构建、对齐与维护,通过层级计算机视觉、优化和定制工具实现闭环自主操作,展示了桌面激光腔的全自动构建及自我恢复能力。
2026-03-23 cs.AI cs.RO physics.optics
Leveraging Procedural Generation for Learning Autonomous Peg-in-Hole Assembly in Space
本研究提出利用过程生成和域随机化在并行仿真中训练智能体,以解决空间机器人自主轴孔装配的泛化与适应性问题,并通过三种强化学习算法验证了策略的鲁棒性和适应性。
2024-05-02 cs.AI cs.LG cs.RO
REBOOT: From Failure to Recovery - A Dataset and Benchmark for Precision Assembly
University of Calgary(卡尔加里大学);Mila(米拉研究所)
REBOOT是首个以失败为核心信号的机器人操作基准,包含18个精密装配任务的2,160个演示,通过阶段级标注和恢复轨迹,揭示并评估策略在装配各阶段的失败模式。
2026-09-22 cs.RO
6D Robotic Assembly Based on RGB-only Object Pose Estimation
Tsinghua University(清华大学)
基于视觉的机器人装配是一项关键而又具有挑战性的任务,因为与多个物体的交互需要高精度。在本文中,我们提出了一个集成的6D机器人系统,感知,把握,操纵和组装块紧公差。为了提供一个现成的RGB唯一的解决方案,我们的系统是建立在一个单目6D对象姿态估计网络训练,利用基于物理的渲染的合成图像。随后,姿态引导的6D变换以及无碰撞装配被提出来构造具有任意初始姿态的任何设计结构。我们新颖的3轴校准操作通过解开6D姿态估计和机器人装配进一步提高了精度和鲁棒性。定量和定性的结果表明,我们提出的6D机器人装配系统的有效性。
2022-08-27 cs.CV cs.RO
Towards Robotic Assembly by Predicting Robust, Precise and Task-oriented Grasps
Carnegie Mellon University(卡内基梅隆大学);National Robotics Engineering Center(国家机器人工程中心)
面向任务的鲁棒抓取规划对于自主机器人精密装配任务至关重要。当确定要执行的适当抓握时,应结合对象的几何形状和目标任务的先决条件的知识。然而,有几个因素有助于实现这些把握的挑战,如控制机器人时的噪声,未知的对象属性,以及建模复杂的对象-对象交互的困难。我们提出了一种分解这个问题的方法,并通过学习三个级联网络来优化抓取鲁棒性,精度和任务性能。我们评估我们的方法在模拟上的三个常见的装配任务:插入齿轮到钉,对齐支架到角落,并插入形状到插槽。我们的政策是使用基于大规模自我监督抓取模拟与程序生成的对象的课程进行训练的。最后,我们用一个真实的机器人来评估前两个任务的性能,其中我们的方法对于支架插入实现了4.28mm的误差,对于齿轮插入实现了1.44mm的误差。
2020-11-04 cs.AI cs.LG cs.RO
ARCH: Hierarchical Hybrid Learning for Long-Horizon Contact-Rich Robotic Assembly
Stanford University(斯坦福大学);MIT(麻省理工学院);University of Michigan(密歇根大学);Autodesk Research(Autodesk研究)
提出ARCH分层混合学习框架,结合低层技能库与高层策略,实现长时程高精度装配,提升泛化与数据效率。
2025-09-08 cs.RO
Vision-driven Compliant Manipulation for Reliable, High-Precision Assembly Tasks
Yale University(耶鲁大学);Rutgers University(罗格斯大学)
高度受限的操作任务对自主机器人来说仍然是一个挑战,因为它们需要高精度,通常小于1 mm,这通常与传统感知系统所能实现的不兼容。本文表明,最先进的对象跟踪与被动自适应机械硬件的结合可以用来完成精确的操作任务与严格的,工业相关的公差(0.25毫米)。所提出的控制方法通过跟踪相关工作空间中物体的相对6D姿态来闭合视觉回路。它通过调整柔顺机械手和手的控制基准来完成手内操作的物体插入任务。与以前的插入努力相反,我们的方法不需要昂贵的力传感器,精密的操纵器,或耗时的,在线学习,这是数据饥饿。相反,这项工作利用了机械合规性,并利用了离线学习的手的对象不可知操作模型、现成的运动规划以及仅使用合成数据训练的基于RGBD的对象跟踪器。这些功能使所提出的系统可以很容易地推广和转移到新的任务和环境。本文详细介绍了系统的组成部分,并展示了其功效与广泛的实验,涉及紧公差钉孔插入各种几何形状的任务,以及开放世界的约束放置任务。
2021-06-26 cs.AI cs.CV cs.RO
Teaching Robots to Do Object Assembly using Multi-modal 3D Vision
National Institute of Advanced Industrial Science and Engineering(国立先进产业科学技术研究院);Beihang University(北京航空航天大学)
本文的动机是开发一个智能系统,使用多模态视觉的下一代机械装配。它包括两个阶段,在第一阶段中,人类将装配结构教给机器人,在第二阶段中,机器人使用AI规划找到物体并抓住并装配它们。该系统的关键部分是三维视觉检测的精度,本文提出了多模式的方法来满足要求:AR标记用于教学阶段,因为人类可以主动控制该过程。在机器人执行阶段使用点云匹配和几何约束,以避免意外的噪声。通过实验验证了该方法的准确性和正确性。这项研究是实际的:所开发的方法集成了基于图形模型的运动规划,实现了工业机器人和适用于现实世界的场景。
2016-01-26 cs.RO
Planning Grasps for Assembly Tasks
Osaka University(大阪大学);National Inst. of AIST(国立先进工业科学技术研究所)
本文提出了基于模型的装配任务抓取规划算法。它专注于工业末端执行器,如抓手和吸盘,并计划把握配置考虑CAD模型的目标对象。所开发的算法能够稳定地规划大量高质量的抓取,具有高精度和对CAD模型质量的依赖性小。叠加分割技术是目前正在发展的核心技术,它通过将网格模型剥离成小平面来对网格模型进行预处理。该算法使用叠加段来定位接触点和平行面,并为流行的工业末端执行器合成抓取姿势。准备了几个可调参数来调整算法以满足各种要求。实验部分通过分析算法的成本和稳定性、计划抓取的精度以及模拟和真实世界实验的可调参数来展示算法的优势。此外,机器人装配系统的一些例子,使用所提出的算法来证明的有效性。
2019-03-05 cs.RO
Flexible Gear Assembly With Visual Servoing and Force Feedback
Fraunhofer Institute for Manufacturing Engineering and Automation(弗劳恩霍夫制造工程与自动化研究所);Technical University of Munich(慕尼黑工业大学)
齿轮装配是工业自动化中必不可少但具有挑战性的任务。本文提出了一种新的两阶段的方法来实现高精度和灵活的齿轮装配。所提出的方法集成YOLO粗定位工件在搜索阶段和深度强化学习(DRL)完成插入。具体而言,DRL解决了手腕摄像头距离工件太近时部分可见性的挑战。此外,力反馈用于将过程从第一阶段平滑地过渡到第二阶段。为了减少训练深度神经网络的数据汇集工作,我们使用合成RGB图像来训练YOLO,并利用采样的真实世界数据构建离线交互环境来训练DRL代理。我们评估所提出的方法在齿轮装配实验的精度公差为0.3mm。实验结果表明,该方法可以在平均15秒内鲁棒、高效地完成从任意位置的搜索和插入。
2023-03-06 cs.RO