RUBAS: Rubric-Based Reinforcement Learning for Agent Safety
RUBAS: 基于评分标准的强化学习用于智能体安全
机构 * The Conversational AI (CoAI) group, DCST, Tsinghua University(清华大学对话人工智能(CoAI)组,DCST,清华大学) ; Huawei Noah’s Ark Lab(华为诺亚实验室)
AI总结 提出RUBAS框架,通过将智能体行为分解为四个维度的评分标准提供细粒度奖励,利用强化学习在保证任务完成的同时提升工具使用安全性。