路由图交接:多智能体大语言模型委派的自适应格式选择
Routed Graph Handoff: Adaptive Format Selection for Multi-Agent LLM Delegation
浏览论文内容
中文总结 AI 辅助
本研究针对多智能体 LLM 协调的高 token 开销问题,提出路由图交接方法,通过轻量级 LLM 路由器在图与自然语言间自适应选择,在多基准测试中实现性能提升或持平,且开销极低。
中文摘要 AI 辅助
多智能体大语言模型(LLM)系统通过自然语言消息进行协调,这些消息消耗了其 token 预算的 40%至 60%。用结构化图替代这些消息可降低成本,但在需要自适应推理的任务上表现不佳。我们提出了**路由图交接(Routed Graph Handoff)**,其中一个轻量级 LLM 路由器(155 token,仅 0.15%的开销)在每次委派时,在类型化依赖图和自然语言之间进行选择。在四个基准测试(1050 多个轨迹)中,该路由系统在所有任务上的表现与仅使用自然语言的系统相当或更优:在 τ-retail 任务上,压缩率为 3.2 倍时性能提升 12.7 个百分点(p<0.01);在 BrowseComp 任务上,压缩率为 2.2 倍时性能提升 8.7 个百分点(p<0.05);在 BFCL 和 AppWorld 任务上表现持平。若不使用路由器,仅用图进行委派会在 AppWorld 任务上性能下降 14.6 个百分点,而路由器以接近零的成本消除了这种下降。此外,还需要一个感知图的执行器提示:相同的模式若没有解释指导则无法带来增益。一项 oracle 分析显示存在 8.6 个百分点的额外提升空间,这为未来的执行时自适应路由工作提供了方向。
英文摘要
Multi-agent LLM systems coordinate through natural-language messages that consume 40--60\% of their token budget. Replacing these with structured graphs reduces cost but fails on tasks requiring adaptive reasoning. We propose \textbf{Routed Graph Handoff}, where a lightweight LLM router (155 tokens, 0.15\% overhead) selects between a typed dependency graph and natural language for each delegation. On four benchmarks (1,050+ trajectories), the routed system matches or exceeds NL-only on every task: \textbf{+12.7\,pp} on $τ$-retail at 3.2$\times$ compression ($p{<}0.01$), \textbf{+8.7\,pp} on BrowseComp at 2.2$\times$ compression ($p{<}0.05$), and parity on BFCL and AppWorld. Without the router, graph-only delegation regresses 14.6\,pp on AppWorld; the router eliminates this at near-zero cost. A graph-aware executor prompt is required: the same schema without interpretation guidance yields no gain. An oracle analysis reveals 8.6\,pp of additional headroom, motivating execution-time adaptive routing as future work.
发表机构
- Amazon(亚马逊)
机构由 AI 辅助整理,请以论文原文为准。