SafeVLA: Towards Safety Alignment of Vision-Language-Action Model via Constrained Learning
SafeVLA: 通过约束学习实现视觉-语言-动作模型的安全对齐
机构 * Institute for Artificial Intelligence, Peking University(人工智能研究院,北京大学) ; PKU-PsiBot Joint Lab(北京大学PsiBot联合实验室) ; State Key Laboratory of General Artificial Intelligence, Peking University(通用人工智能国家重点实验室,北京大学) ; Zhongguancun Academy(中关村学院)
专题命中 机器人基础模型 :manipulation(abstract);分类 cs.RO、cs.AI
AI总结 本文提出SafeVLA方法,通过约束学习整合安全约束,有效降低安全违规成本并提升任务成功率,同时确保安全性和泛化能力。
Comments Accepted by NeurIPS 2025 Spotlight Presentation