Don't Blindly Trust It: How Unreliable Feedback Breaks Tool-Using LLM Agents
不要盲目信任:不可靠反馈如何破坏使用工具的LLM智能体
机构 * Nanyang Technological University(南洋理工大学) ; National University of Singapore(新加坡国立大学) ; CFAR Agency for Science Technology and Research(新加坡科技研究局计算与推理中心) ; IHPC Agency for Science Technology and Research(新加坡科技研究局高性能计算研究所) ; Department of Statistics and Operations Research UNC-Chapel Hill(北卡罗来纳大学教堂山分校统计与运筹学系) ; Carnegie Mellon University(卡内基梅隆大学)
专题命中 Agent评测 :agent(abstract);分类 cs.AI
AI总结 研究不可靠反馈对工具增强型LLM智能体的影响,通过匹配循环对比实验发现,误导性反馈会导致价值反转,使智能体表现低于无反馈基线,并强调无反馈回退控制对评估的必要性。
Comments 16 pages