Safe MPC Alignment with Human Directional Feedback
安全MPC对齐与人类方向反馈
机构 * Intelligent Robotics and Interactive Systems (IRIS) Lab in the School for Engineering of Matter, Transport and Energy（智能机器人与交互系统实验室（IRIS）） ； Polytechnic School（理工学院） ； School for Engineering of Matter, Transport and Energy（工程物质、运输与能量学院） ； Departments of Industrial Engineering & Management Sciences（工业工程与管理科学系） ； Department of Electrical and Systems Engineering（电气与系统工程系）
AI总结 本文提出了一种基于人类方向反馈的可证明安全约束学习方法，通过少量修正即可使机器人有效学习安全约束。
Comments 20 pages, pre-print, submitted to TRO
