AdaSwitch: Adaptive Switching between Small and Large Agents for Effective Cloud-Local Collaborative Learning
AdaSwitch: 一种在小型和大型代理之间自适应切换以实现有效的云-本地协作学习方法
机构 * State Key Laboratory of General Artificial Intelligence, Peking University, Beijing, China(一般人工智能国家重点实验室,北京大学,北京,中国) ; School of Intelligence Science and Technology, Peking University(智能科学与技术学院,北京大学) ; East China Normal University(东华大学) ; Chinese Academy of Sciences(中国科学院) ; Baidu Inc(百度公司) ; Beijing Institute of Technology(北京理工大学) ; University of Birmingham(伯明翰大学)
专题命中 推理与问题求解 :LLM(summary_cn,abstract);large language model(abstract);language model(abstract);分类 cs.CL
AI总结 本文提出了一种新的LLM使用范式,通过自适应机制在云端和本地部署的LLM之间切换,以提高任务完成性能和效率,通过本地代理处理简单推理步骤,云代理处理复杂推理步骤,实验表明该方法在多个基准测试中有效提升了本地代理的性能。
Comments EMNLP 2024 Main Conference