RynnBrain: Open Embodied Foundation Models
DAMO Academy, Alibaba Group(达摩院,阿里巴巴集团)
RynnBrain提出了一种开放的具身基础模型,通过统一框架强化感知、推理、规划等能力,显著优于现有模型,并能高效适应多种具身任务。
2026-02-13 cs.RO
The ThreeDWorld Transport Challenge: A Visually Guided Task-and-Motion Planning Benchmark for Physically Realistic Embodied AI
MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);MIT(麻省理工学院);Stanford University(斯坦福大学)
我们引入了一个视觉引导和物理驱动的任务和运动规划基准,我们称之为ThreeDWorld运输挑战。在这个挑战中,一个配备有两个9-DOF铰接臂的具体代理在模拟的物理家庭环境中随机产生。代理人需要找到一小部分分散在房子周围的物体,把它们捡起来,并把它们运送到所需的最终位置。我们还在房子周围放置容器,这些容器可以用作工具,以帮助有效地运输物品。为了完成任务,一个具体的代理必须计划一系列的行动,以改变大量的对象在现实的物理约束面前的状态。我们使用ThreeDWorld模拟构建了这个基准挑战:一个虚拟的3D环境,所有对象都对物理做出响应,并且可以使用完全物理驱动的导航和交互API进行控制。我们在这个基准上评估了几个现有的代理商。实验结果表明:1)纯RL模型在这一挑战上挣扎; 2)基于层次规划的代理可以传输一些对象,但仍然远远不能解决这个任务。我们预计,这个基准将使研究人员能够为物理世界开发更智能的物理驱动机器人。
2021-03-25 cs.AI cs.CV cs.LG
Physically Embodied Gaussian Splatting: A Realtime Correctable World Model for Robotics
Queensland University of Technology(昆士兰科技大学);University of Adelaide(阿德莱德大学)
本文提出 Gaussian-粒子双重世界表征,结合粒子物理预测与 3D Gaussian 视觉渲染,通过视觉力在线校正状态,仅用 3 个相机实现 30Hz 实时运行。
2024-06-16 cs.RO
From Passive Video to Editable Experience: Physically Grounded Experience Synthesis for Embodied Intelligence
针对具身AI的数据瓶颈,提出Pegasus低资源框架,通过结构化知识传递将人类操作视频转化为机器人可学习数据,经多基准与机器人评估验证其跨具身翻译及数据生成的有效性。
2026-07-30 cs.AI cs.RO
GigaWorld-0: World Models as Data Engine to Empower Embodied AI
GigaWorld Team(GigaWorld团队)
GigaWorld-0通过整合视频生成与3D建模技术,构建统一的数据引擎,生成高质量具身交互数据,提升VLA模型在现实任务中的性能。
2025-11-30 cs.CV cs.RO
EWMBench: Evaluating Scene, Motion, and Semantic Quality in Embodied World Models
AgiBot(智元机器人);SJTU(上海交通大学);MMLab-CUHK(香港中文大学多媒体实验室);HIT(哈尔滨工业大学)
针对具身世界模型缺乏针对性评估的问题,提出EWMBench基准框架,从场景一致性、运动正确性、语义对齐度三个维度结合专用数据集与工具包开展评估,为领域发展提供参考。
2025-05-18 cs.RO
Efficient Physically-based Simulation of Soft Bodies in Embodied Environment for Surgical Robot
The Chinese University of Hong Kong(香港中文大学)
针对现有手术机器人开源平台软体仿真难题,本研究将基于MPM与Neo-Hookean模型、结合高效碰撞处理的物理软体仿真框架集成至SurRoL,借助Taichi并行加速,实现了高效、高物理可解释性的软组织操作仿真,助力手术机器人学习研究。
2024-02-02 cs.GR cs.RO
Closed Loop Interactive Embodied Reasoning for Robot Manipulation
Huawei Noah’s Ark London(华为诺亚方舟实验室伦敦分部);Czech Technical University in Prague(布拉格捷克技术大学);Imperial College London(伦敦帝国学院)
本文提出闭环交互式具身推理方法CLIER,通过多模态推理与动作规划应对环境变化和动作不确定性,在仿真与真实机器人操作中分别取得76%和64%以上的成功率。
2025-03-10 cs.CV cs.RO
Learning to Generate Pointing Gestures in Situated Embodied Conversational Agents
Division of Speech, Music and Hearing, KTH Royal Institute of Technology(语音、音乐与听觉系,皇家理工学院)
提出结合模仿与强化学习的框架,在具身智能体中生成物理有效且高指代准确度的指示手势,优于监督模型基线。
2025-09-15 cs.HC cs.LG cs.RO
PhysVLA: Towards Physically-Grounded VLA for Embodied Robotic Manipulation
IIT Madras(印度理工学院马德拉斯分校);Nanyang Technological University(南洋理工大学)
提出PhysVLA,一种即插即用的推理时框架,通过相位有限状态机和选择性欧拉-拉格朗日门,在不重新训练的情况下为任何冻结的VLA骨干注入物理约束,提升成功率、稳定性和轨迹效率。
2026-06-15 cs.CV cs.LG cs.RO
From Pixels to Executable Physics: Behavior-Grounded World Models for Embodied Action Consequence Prediction
针对四足机器人户外动作结果预测难题,提出结合机器人-地形接触动力学的DR-WM模型,其在物理指标上优于基线,搭配8B视觉语言模型可提升动作选择性能。
2026-10-14 cs.CV cs.RO
ABot-PhysWorld: Interactive World Foundation Model for Robotic Manipulation with Physics Alignment
ABot-PhysWorld通过物理对齐的交互世界模型,生成物理合理且可控的视频,解决了传统方法在物理仿真中的不足,通过新框架和基准测试提升了性能。
2026-03-27 cs.CV cs.RO
Physically Native World Models: A Hamiltonian Perspective on Generative World Modeling
Tsinghua University(清华大学)
提出哈密顿世界模型,通过结构化潜相空间和哈密顿动力学演化实现物理可靠、动作可控且长期稳定的未来预测,用于具身决策。
2026-07-03 cs.AI cs.RO
CWM: Contrastive World Models for Action Feasibility Learning in Embodied Agent Pipelines
School of Electrical Engineering and Robotics, Queensland University of Technology(电气工程与机器人学学院,昆士兰理工大学)
CWM通过对比训练提升动作可行性评分,优于SFT方法,提升精度并增强安全性。
2026-02-25 cs.AI cs.RO
Kinema4D: Kinematic 4D World Modeling for Spatiotemporal Embodied Simulation
S-Lab, Nanyang Technological University(南洋理工大学S-Lab);SSE, CUHKSZ(香港中文大学深圳校区SSE)
本文提出Kinema4D,一种基于动作条件的4D生成机器人模拟器,通过精确的4D机器人控制表示和环境反应的生成建模,实现了高精度的空间时间交互模拟,并首次展示零样本迁移能力。
2026-03-17 cs.CV cs.RO
Rethinking the Embodied Gap in Vision-and-Language Navigation: A Holistic Study of Physical and Visual Disparities
Tongji University(同济大学);Shanghai AI Laboratory(上海人工智能实验室);Shanghai Jiao Tong University(上海交通大学);State Key Laboratory of Autonomous Intelligent Unmanned Systems(自主智能无人系统国家重点实验室)
针对VLN理想化假设与物理部署差距,提出物理现实平台VLN-PE,系统评估多类方法,揭示性能下降原因,提供可扩展评估路径。
2025-09-26 cs.AI cs.CL cs.CV
RoboLayout: Differentiable 3D Scene Generation for Embodied Agents
RoboLayout通过引入智能体感知推理和改进优化稳定性,提升3D场景生成在具身智能体交互中的可行性与物理合理性。
2026-03-09 cs.AI cs.CV cs.LG
From Social Reasoning to Embodied Interaction: An Agentic Framework for Social Robots
ShanghaiTech University(上海科技大学);InstAdapt
提出ARISE框架,在Sophia人形机器人上统一社会推理与具身交互,通过多模态理解、记忆和流式执行实现自然协调的社交行为,显著提升交互质量并降低延迟。
2026-10-06 cs.RO
OrbiSim: World Models as Differentiable Physics Engines for Embodied Intelligence
MoE Key Lab of Artificial Intelligence, AI Institute, School of Computer Science(人工智能摩尔电子实验室、人工智能学院、计算机科学学院)
OrbiSim提出了一种新的机器人仿真范式,将世界模型重新定义为完全可微的物理引擎,通过统一的物理基础路径连接结构化场景资产、神经动力学和下游强化学习,提升预测精度和控制性能。
2026-10-19 cs.LG cs.RO
Rethinking Video Generation Model for the Embodied World
Peking University(北京大学)
本文提出Rbench机器人视频生成基准和RoVid-X数据集,旨在解决高保真机器人视频生成中的数据短缺问题,推动具身AI发展。
2026-01-21 cs.AI cs.CV cs.RO
Reality-assisted evolution of soft robots through large-scale physical experimentation: a review
University of Cambridge(剑桥大学)
在这篇综述中,我们介绍了现实辅助进化的框架,总结了一个日益增长的趋势,结合基于模型和无模型的方法,以提高物理体现的软体机器人的设计。在计算机中,数据驱动模型使用真实世界的实验数据来构建、调整和改进目标系统的表示。通过使用这些数据驱动的模型模拟大量的虚拟机器人,优化算法可以照亮多个设计候选人,以转移到现实世界。实际上,大规模的物理实验有利于多个候选设计的制造、测试和分析。自动化装配和可重新配置的模块化系统使现实世界的设计评估数量比以前可能的要高得多。通过物理实验收集的大量地面实况数据可以返回到虚拟环境中,以改进数据驱动模型并指导优化。将设计过程建立在物理实验的基础上,可确保虚拟机器人设计的复杂性不会超过模型限制或可用的制造技术。我们概述了在现实辅助进化的框架下,物理体现的软体机器人的设计的关键发展。
2020-10-16 cs.RO
Towards Shared Embodied Intelligence in Humanoid Robots through Optimization Development and Testing of the Human Aware ergoCub Robot
GenerativeBionics(生成生物技术);Artificial and Mechanical Intelligence(人工与机械智能);School of Computer Science, University of Manchester(曼彻斯特大学计算机科学学院);Humanoid Sensing and Perception(人形感知与感知);iCub Tech Facility(iCub技术设施);DiMEILA, Istituto Nazionale Assicurazione Infortuni sul Lavoro (INAIL)(DiMEILA,意大利国家职业伤害保险机构(INAIL))
提出一种融合共享智能与具身认知的架构,通过优化机器人硬件与控制以符合人体工学指标,实现人机物理协作,并以ergoCub人形机器人为具体实现。
2026-05-26 cs.RO
Position: Robot Privacy as Embodied Boundary Work. Connecting Capabilities, Contexts, and Design Responses in Everyday Robotics
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Tsinghua University(清华大学);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院);The Hong Kong University of Science and Technology(香港科技大学)
本研究提出具身边界隐私框架,结合机器人7种能力与5种部署情境分析其隐私风险,给出具身隐私机制设计启示,呼吁HRI领域关注机器人具身行动的隐私意义。
2026-08-25 cs.HC cs.RO
RynnBrain 1.1: Towards More Capable and Generalizable Embodied Foundation Model
DAMO Academy, Alibaba Group(达摩院,阿里巴巴集团);Hupan Lab(湖畔实验室)
介绍RynnBrain 1.1具身基础模型家族,其经统一框架训练,相比1.0版本有改进。开发RynnBrain - VLA并部署。该模型在多方面成果显著,初始化策略表现优,联合训练提升了得分和成功率。
2026-08-03 cs.RO
CRAFT-E: An Interpretable and Editable Neuro-Symbolic Framework for Affordance-Grounded Active Object Retrieval
CRAFT-E通过结合神经符号方法和具身感知,提供了一种可解释且可定制的框架,用于辅助机器人系统中基于赋能力量的物体选择。
2026-10-27 cs.AI cs.RO
SPEAR: A Simulator for Photorealistic Embodied AI Research
Adobe Research(Adobe研究院);Intel Labs(英特尔实验室);Manycore Tech Inc(众核科技公司);Adobe(Adobe公司);NVIDIA(英伟达公司);ETH Zurich(苏黎世联邦理工学院);Imperial College London(伦敦帝国学院)
研究针对现有逼真模拟器局限,提出SPEAR这一Python库,通过模块化插件架构连接控制UE应用程序,提升可编程性与渲染速度,还提供新图像模态和高级编程模型,经多样示例应用展示了其效用。
2026-07-09 cs.AI cs.CV cs.GR
Embodied Robot Manipulation in the Era of Foundation Models: Planning and Learning Perspectives
Xi’an Jiaotong Univeristy(西安交通大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Chinese Academy of Sciences(中国科学院);Westlake University(西湖大学);Zhejiang University(浙江大学);University of Sydney(悉尼大学);BAAI(百度人工智能研究院);Peking University(北京大学)
本文探讨了基础模型时代机器人操作的规划与学习方法,分析了高层推理与低层控制的统一框架,并提出了未来研究方向。
2026-08-18 cs.RO
HERMES: Human-to-Robot Embodied Learning from Multi-Source Motion Data for Mobile Dexterous Manipulation
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海启智研究院);Peking University(北京大学)
针对多源人手运动向机器人行为转化难、策略泛化性不足等问题,提出HERMES框架,通过统一强化学习、深度图像端到端sim2real迁移及增强PnP定位的导航模型,实现移动双臂灵巧操作,在多样真实场景中表现出良好泛化性。
2025-08-31 cs.RO
Silent Failures in Physical AI: A Literature Review of Runtime Action Authorization for Autonomous Systems
STATE16
本文综述了物理AI系统中黑箱模型发出看似合理但实际错误的物理动作导致的静默故障问题,提出了运行时防护栏的分类和评估要求。
2026-05-23 cs.AI cs.RO
VibraVerse: A Large-Scale Geometry-Acoustics Alignment Dataset for Physically-Consistent Multimodal Learning
Peking University(北京大学)
VibraVerse通过构建几何-声学对齐数据集,实现了物理一致的多模态学习,支持几何到声音预测、声音引导的形状重建等任务。
2025-11-25 cs.AI cs.CV cs.GR
Embodied Zero-Shot Task Planning via Hardware-Aware LLM-VLM Integration for Grounded Robotic Manipulation
Mississippi State University(密西西比州立大学);The University of Alabama(阿拉巴马大学)
本文提出一种硬件适配的LLM-VLM集成框架,用于仿真Franka Research 3机器人的具身零样本任务规划,通过分离符号推理与度量执行完成多类操作任务并经数字孪生试验验证。
2026-10-14 cs.AI cs.RO
MIND-V: Hierarchical World Model for Long-Horizon Robotic Manipulation with RL-based Physical Alignment
Tsinghua University(清华大学);X Square Robot(X Square机器人);Sun Yat-sen University(中山大学);HKUST(香港科技大学)
提出MIND-V分层世界模型,通过语义推理、行为语义桥接和运动视频生成,结合强化学习物理对齐,实现长期机器人操作视频的物理合理合成。
2026-07-07 cs.CV cs.RO
PhysisForcing: Physics Reinforced World Simulator for Robotic Manipulation
Peking University(北京大学);NVIDIA(英伟达)
针对视频生成模型在机器人操作模拟中物理不稳定的问题,提出PhysisForcing框架,通过像素级轨迹对齐和语义级关系对齐损失联合优化,显著提升物理一致性,在多个基准上改进基础模型,并提高下游策略成功率。
2026-06-29 cs.AI cs.CV cs.RO
Energy-Structured Latent World Models with Neural Time Fields for Physically Constistent Open-World Motion Planning
针对开放世界运动规划的物理一致性挑战,提出能量结构化潜在世界模型ELWM,结合物理条件神经时间场PC-NTF,显著提升了运动预测精度与导航成功率,降低了碰撞率与残差。
2026-08-11 cs.AI cs.RO
Why Cognitive Robotics Matters: Lessons from OntoAgent and LLM Deployment in HARMONIC for Safety-Critical Robot Teaming
Rensselaer Polytechnic Institute(伦斯勒理工学院);University of Georgia(佐治亚大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
研究探讨了在物理世界部署具身体AI代理所需的认知能力,通过HARMONIC架构评估LLM是否能复制OntoAgent的认知能力,发现LLM在知识状态评估上存在缺陷。
2026-03-20 cs.RO
ANNIE: Be Careful of Your Robots
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Georgia Institute of Technology(佐治亚理工学院);University of Texas at Dallas(德克萨斯大学达拉斯分校)
该研究针对具身AI系统的对抗安全风险,基于ISO标准构建安全违规分类,推出ANNIEBench基准与ANNIE-Attack对抗框架,验证了高攻击成功率,凸显物理AI安全防御的紧迫性。
2025-09-03 cs.AI cs.RO
VTAM: Efficient Visuo-Tactile World-Action Models for Contact-Rich Manipulation without Tactile Pretraining
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stanford University(斯坦福大学);Shanghai Jiao Tong University(上海交通大学)
VTAM通过整合触觉感知提升复杂物理交互的稳定性,其多模态框架在接触密集任务中表现优异,成功率达到90%。
2026-11-06 cs.AI cs.CV cs.LG
Not What You Asked For: Typographic Attacks in Household Robot Manipulation
Cyber Security Lab(网络安全实验室);The Pennsylvania State University(宾夕法尼亚州立大学);State College, USA(州立学院,美国)
本研究探讨了字体攻击对家庭机器人操作全流程的影响,提出了一种解耦感知架构,并发现感知错误会通过持久的3D语义地图导致物理性故障,揭示了字体误分类对机器人安全性的实际威胁。
2026-05-18 cs.AI cs.CR cs.RO