Task-to-Model Optimization for Enterprise LLM Coding Assistants: A Data-Driven Framework for Cost-Optimal Routing
面向企业大语言模型代码助手的任务到模型优化:一种成本最优路由的数据驱动框架
机构 * PayPal(贝宝(PayPal))
专题命中 Agent评测 :planning(abstract);分类 cs.LG
AI总结 本研究针对企业LLM代码助手的推理成本问题,提出T2MO数据驱动框架,通过任务分级与两级路由机制实现成本最优,可降低端到端成本并支持从静态策略到智能路由器的过渡。
Comments 11 pages, 1 figure, 2 tables