NEXUS: Structured Runtime Safety for Tool-Using LLM Agents
NEXUS:工具使用型大语言模型智能体的结构化运行时安全
机构 * University of Central Florida(中佛罗里达大学) ; North South University(南北大学) ; University of Southern Queensland(南昆士兰大学)
专题命中 Agent评测 :agent(abstract);分类 cs.AI
AI总结 研究工具使用型大语言模型智能体运行时安全问题,提出NEXUS结构化计划安全监控器,结合多种方法进行分级升级。在多个基准测试中表现出色,如合成基准测试F1分数达0.949等,还具有低延迟、低开销特点,相关成果已公开。