Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems
Simthesizer:面向LLM服务系统的智能体驱动仿真框架
专题命中 工作流自动化 :agent(title,abstract);workflow(abstract);agentic(abstract);分类 cs.AI
AI总结 本文提出Borg框架,通过智能体驱动仿真器开发缩小LLM服务系统与仿真器的差距,其构建的扩展吞吐量误差更低,仿真速度显著优于现有仿真器。